最強AIを出す当人が鳴らした警鐘

AnthropicのCEOダリオ・アモデイが、フロンティアAIは政府や一企業だけに委ねるには危険すぎる水準へ近づいていると公に警告した。サイバーセキュリティ・生物兵器・AIの制御喪失・自動化された研究開発という4分野で、第三者による義務的な技術監査を求め、受け入れがたいリスクを持つモデルの公開は政府の権限で差し止め・撤回できるべきだと主張している。AIラボに開発ペースを一度緩めるよう促し、人類が制御を失う危険にまで踏み込んだ。(Al Jazeera・26/06/05)

「飛行機のように審査せよ」という提案

「フロンティアAIモデルは飛行機のように技術試験と監査を経るべきで、安全基準を満たさなければ公共の脅威として公開を止めるべきだ」。アモデイのこの一文が異質なのは、規制される側であるはずの開発企業のトップが、自ら規制の枠組みを描こうとしている点にある。航空機の型式証明になぞらえた発想は、AIを「事故が起きてから直す」産業から「飛ばす前に止める」産業へ作り替える宣言に等しい。現実に、米政府が安全保障上の懸念から最上位モデルへの海外アクセスを遮断し、Anthropicが該当モデルの提供を一時停止する事態まで起きている。(TIME・26/06/13)

矛盾を抱えたまま走る本当の理由

警告しながら最強モデルを出し続ける――この矛盾こそがAnthropicの戦略の核心だ。開発を止めれば競合のOpenAIやGoogleに覇権を奪われ、止めなければ自社が危険視する技術を世に広げることになる。だからこそ「自分たちは止まれないが、全員を止める仕組みは必要だ」という論理で、業界全体へ共通ルールを敷こうとしている。安全性を競争の足かせではなく、参入障壁と信頼の源泉に変える狙いがそこにある。

警鐘はマーケティングでもある

制御不能への警告は、純粋な良心であると同時に「それほど強力なモデルを保有している」という最大級の宣伝でもある。恐怖と性能は、いまのAI市場では同じコインの裏表だ。Anthropicが本当に賭けているのは、規制の主導権を握った者がAI時代の標準を決めるという読みである。警告を最も声高に叫ぶ企業が、最も先を走っている――その構図を見落とすと、この警鐘の真意を読み違える。

参照ソース（噂の出どころ）

Anthropic urges AI labs to pause, warns humans risk losing control（Al Jazeera, 26/06/05）
Anthropic Pulls Its Most Powerful AI Models After U.S. Bars Foreign Access（TIME, 26/06/13）