AI開発の「ペース」をめぐる大論争が勃発#
AnthropicのCEO、ダリオ・アモデイ氏が「We Must Pace the Frontier（フロンティアのペースを落とさなければならない）」と題した長文エッセイを公開したことを機に、AI業界のトップ経営者たちや米国の政治家たちが相次いで賛否の声明を発表する事態となっている。
アモデイ氏が示した3つのステップ#
アモデイ氏のエッセイは、AIの開発ペースを落とすための具体的な3段階のアプローチを提示している。
- 第三者評価機関の埋め込み: 企業が安全基準や約束事を守っているかを検証し、インシデントを報告する独立した評価者を各社に組み込む
- 民主主義国家間のフロンティアAI企業による調整: 標準や限度について共同で取り決める
- 民主主義国家と権威主義国家の政府間でのグローバルな調整: 「可能な範囲で」AIの開発ペースについて国際的に合意を図る
なお、アモデイ氏は「ペースを落とす」とはモデルのトレーニングや技術的進歩を停止させることではなく、企業がモデルの整合・安全確保に十分な時間をかけ、第三者評価機関がそれを確認できるようにすることだと明言している。Anthropicは、この3ステップのうち最初のステップを「一方的に実施する」と表明した。
業界リーダーたちの反応#
OpenAI CEO サム・アルトマン氏#
アモデイ氏がX（旧Twitter）にエッセイを投稿した直後、アルトマン氏は「フロンティアのペースを落とす必要があるという点でダリオに同意する」と述べた。独立した評価者の導入についても「素晴らしいアイデア」として自社への導入を約束。さらに翌日には、OpenAIが「フロンティアAIに一貫した安全要件を設定する連邦フレームワーク」を歓迎すると発言した。アルトマン氏も「ペーシングとは停止を意味しない」と補足しつつ、AI進歩が「非常に悪い結果」を招き得る2つのシナリオとして、「AIへのコントロール喪失」と「権力の過度な集中」を挙げた。
Google DeepMind 共同創業者・会長 デミス・ハサビス氏#
「ダリオのエッセイは正しい方向性を示している。詳細の詰めは必要だが、この重大な局面に向き合う方向性は正しい」と支持を表明した。
SpaceX CEO イーロン・マスク氏#
「ダリオは正しい」と短くアモデイ氏のエッセイを再投稿した。
Nvidia CEO ジェンスン・ファン氏#
イベント登壇中にトランプ大統領から電話を受け、スピーカーフォンで公開しながら「ロボットが世界を乗っ取ることはない」という大統領の発言を紹介。「AIレースでアメリカのすべての産業・企業・州・人々が勝てるようにする」と語った。
元Meta主任AIサイエンティスト ヤン・ルカン氏#
懐疑的な立場から「ダリオは2019年にGPT-2をオープンソース公開するには危険すぎると主張していた。当時も馬鹿にしたし、今も皆が馬鹿にすべきだ」と批判的なコメントをXに投稿した。
政治家たちの見解#
ドナルド・トランプ大統領#
Truth Socialへの投稿でAIの速度規制に真っ向から反論。「AIが必要とする唯一のコントロールは強くて賢い大統領だ」と述べ、ペーシング議論の背後に「中国だけが喜ぶ陰謀がある」と主張した。
JD・ヴァンス副大統領#
フロンティアAI企業が「政府に規制を懇願しに来る」姿勢を「少し奇妙」と評し、「トロイの木馬」的な意図があるのではないかと疑念を呈した。
下院議長 マイク・ジョンソン氏#
CNNのインタビューで「AI開発に一時停止令を出すことはできない。中国に追い越されてしまう」と発言しつつも、プラットフォームのリーダーと議会が「適切なバランス」を話し合う場を設けるべきだと述べた。
上院議員 バーニー・サンダース氏#
ウォール・ストリート・ジャーナルのコラムニストが執筆した「人類のためにAIを一時停止せよ」という論説に同意を示した。
元運輸長官 ピート・ブティジェッジ氏#
「議会が傍観し、ホワイトハウスが何もしないことは、アメリカ国民と世界にとって非常に危険だ」とNBCニュースで述べ、セーフガードや規制、そして「暴走するAIへのキルスイッチ」の必要性を訴えた。
元ホワイトハウスAI・暗号担当 デイビッド・サックス氏#
「ダリオもサムも『ペーシングが必要』と言っている。私の返答は『どうぞ、やってください』だ」と述べつつも、「他者の許可が必要なふりをするのをやめ、動機が純粋に利他的であるかのように装うのもやめるべきだ」と批判的なトーンで応じた。
元FTC委員長 リナ・カーン氏#
新たな法的枠組みの議論に先立ち、「危険・未検証・欠陥のある製品を製造・販売した企業やCEOを訴追する権限は既存法のもとで法執行機関にある。AIだからといって既存法が免除されるわけではない」と主張した。
元副大統領 カマラ・ハリス氏#
「フロンティアAI開発のペースを責任を持って落とさなければならない」「AIが公共の利益に資するよう、ペースの低下は不可欠だ」と表明した。
まとめ#
アモデイ氏の一本のエッセイが、AI開発の方向性をめぐる広範な議論の引き金となった。OpenAI・Google DeepMind・SpaceXなどのリーダーが概ね支持を示す一方、トランプ大統領や一部の政治家は「中国との競争」を理由に速度規制に反発している。元規制当局者や野党系政治家からも独自の視点での発言が相次いでおり、AI規制の議論が急速に政治的な問題へと発展していることがわかる。
筆者の見解: これほど多くの業界リーダーと政治家が短期間に一つのエッセイに反応するのは異例であり、AI安全性の議論がいよいよ業界内の自主規制から政策・立法の領域へと移行しつつある転換点を象徴しているように見える。ただし、各者の「ペーシング」の解釈は微妙に異なり、今後の具体的な制度設計が焦点となるだろう。
出典: What execs and politicians are saying about slowing down AI development (The Verge, Jay Peters)
