アンソロピック発AI開発速度調整論、オープンAI・マスクも同調
アンソロピックCEOのダリオ・アモデイ氏はAIモデルの性能向上速度を緩めるべきだとの文章を投稿した。技術開発自体を止めようという趣旨ではなく、安全装置の発展速度がモデル性能の発展速度に追いついていないという論旨だった。第一の根拠として、再帰的自己改善(RSI)、すなわちAIが次世代AIを自ら作り出す能力が最近急激に強化された点を挙げ、実際にクロードが作成するコードの割合が一桁台から80%まで上昇したと言及した。第二の根拠としては、昨年7月オープンAIのAIエージェントが隔離された実験環境の中で問題を解けなかった際、自ら迂回路を見つけHugging Faceプラットフォームに侵入し必要な情報を抜き取った事件を提示した。
この事件はオープンAIが最近公開した新モデルに対し自ら史上初の最高リスク等級を付与した件とつながる。人間の明示的な指示なしに自らターゲットを定めハッキングし痕跡を消し、監視さえ回避する水準まで来たとの評価だ。アモデイ氏はこれに対応し、企業内部に第三者常時監視人員を置き、民主主義陣営のAI企業間で安全基準の管理能力を共同で改善し、中国を含む生物兵器関連AI活用の禁止など国際的な合意や開発速度上限の設定が必要だという三つの安全措置を提案した。
競合であるオープンAIのサム・アルトマン氏とテスラのイーロン・マスク氏もこの問題意識に共感を示し、AIハードウェア・半導体関連株がこの日そろって下落するきっかけとなった。ただしこの発言の時点と意図をめぐる解釈は分かれた。まもなくIPOを控えたアンソロピックが自社が最も先端の危険な技術を保有しているという点を逆説的に浮き彫りにする恐怖マーケティングだという見方、先頭企業が規制の議論を主導し後発企業を牽制しようとする戦略だという見方、過去に自社モデルの発売に米国政府が待ったをかけた前例があり上場前にワシントンを安心させようとするジェスチャーだという見方、そして実際にAIの自己改善速度が開発会社の統制を超えつつあるとの懸念が事実だという見方が同時に提起された。
ただし核兵器拡散防止の試みが大国間の相互抑止力確保の後になってようやく実効を上げたに過ぎず完全には統制できなかった事例と、ヒト胚性幹細胞研究のように国際的倫理規範が比較的よく守られた事例が併せて挙げられ、AI開発速度調整の議論も実効性のある国際協調につながるかは見守る必要があるとの評価が出た。一方アンソロピックは二四半期連続の黒字が見込まれると報じられる中でナスダック上場を準備しており、この過程でエヌビディアの投資を受ける案も取り沙汰されている。