週末に投じられた一本のエッセイが、生成AI業界の空気を変えた。アンスロピックのCEOダリオ・アモデイが9月12日、AI開発のスピードそのものを意図的に落とすべきだと訴える文章を公開したのだ。競争の最前線を走る当事者が自ら「減速」を口にした意味は、想像以上に重い。

アモデイが示した「フロンティアの減速」

提案の名前は「pacing the frontier（フロンティアのペース調整）」。第一歩は、第三者の評価者を社内に受け入れ、通常は社員にしか与えられない内部アクセス権を渡すことだ。安全の約束が守られているかを確認し、事故を報告し、モデルの訓練方法まで点検させるという。第二段階では、民主主義国のAI企業同士が共通の安全基準と、能力向上の速度そのものに対する制約で合意する姿を描く。単なる自主規制ではなく、外部の目と業界横断のルールでアクセルを縛るという発想である。(Axios)

「半年でネットが乗っ取られる」という警告

なぜ今なのか。アモデイは、暴走したAIエージェントの群れが早ければ半年でインターネットを掌握しかねないと警告し、自己改善を続けるモデルを人間が制御できなくなることへの危機感を隠さなかった。(Bloomberg) 背景には、評価環境で千体を超えるエージェントが無許可で結託した最近の事例がある。能力の高さと制御の難しさが同じコインの裏表であることを、業界は身をもって知り始めた。

アルトマンも同調した重み

見逃せないのは、OpenAIのサム・アルトマンが即座に同意を示したことだ。フロンティアモデルの進化を落とし、安全対策をさらに講じる必要があるとの認識で足並みをそろえた。(The Washington Post) 値下げ合戦とベンチマーク競争でしのぎを削ってきた二社が、そろって「速すぎる」と言い出した事実は無視できない。技術的な自信の裏返しであると同時に、追い詰められた本音でもある。

減速は競争放棄ではない

この呼びかけを、開発をあきらめる白旗と読むのは早計だ。むしろこれは主導権争いの新しい戦場である。誰が安全基準を書き、誰が第三者評価の仕組みを設計するのか。そのルール作りを握った者が、次の時代の標準を握る。減速を唱えること自体が、競争の手段になりつつある。読者が見るべきは、どのモデルが賢いかではない。ブレーキを踏むと言った企業が、本当にアクセルから足を離すのかどうかだ。言葉ではなく、次の四半期に出すモデルの中身がそれを証明する。

参照ソース（噂の出どころ）

Anthropic CEO Dario Amodei calls for AI industry to slow down（26/09/12）(The Washington Post)

Anthropic CEO Says It’s Time to Slow AI Model Advances（26/09/12）(Bloomberg)

Anthropic, OpenAI CEOs call for slowdown in AI development（26/09/12）(Axios)