Anthropic研究者が退職と同時に「破滅的警告」を発信#
Anthropicの研究者が今週、同社を退職した。退職にあたってX（旧Twitter）に投稿された文章の中で、同社が「自己改善型の超知能（superintelligence）へと一直線に突き進み、私たちの命を賭けた賭けをしている」と強く警告した。さらに注目すべきは、同社のアライメント（AIの安全性・価値整合）部門のリードがこの警告の内容を否定するどころか、連署するかたちで支持を示したことだ。
なぜこのタイミングが「非常に興味深い」のか#
IPO準備中とされる時期と重なる#
AI業界ではこれまでも、いわゆる「ドゥーマー（破滅論者）」的な警告が何度か浮上してきた。しかし今回の警告が特に注目される理由のひとつは、そのタイミングにある。報道によれば、AnthropicはIPO（新規株式公開）の準備を進めているとされており、そのさなかに自社の研究者と内部のアライメントリードがこうした懸念を公にしたことは、業界内外に大きなインパクトを与えている。
TechCrunchのポッドキャスト「Equity」のホストたちは、この出来事を「AI安全性に対する最新の警告」として取り上げ、業界がますます高性能なモデルの開発競争を続ける中でこれが何を意味するのかを議論している。
アライメントリードの「連署」が持つ重み#
通常、こうした内部告発的な発言が出た場合、企業は公式見解で内容を否定・訂正しようとすることが多い。しかし今回は、AI安全性の文脈で中心的な役割を担うアライメント部門のリード自身がその警告に同意を示した。これは、単なる個人の不満や意見の相違にとどまらない可能性を示唆している。
同エピソードで取り上げられたその他のトピック#
「Equity」ポッドキャストの該当エピソードでは、AI安全性の議論に加えて、以下のトピックも取り上げられている。
- Appleのハードウェアイベント: 新CEOジョン・ターナス体制初となる大型イベントが開催され、同社がAIを前面に押し出した内容だったと伝えられている。折りたたみiPhoneという目立つ新製品の一方で、Apple WatchやAirPodsに搭載された常時稼働型の機能が注目されたという。
- Stokes Spaceの10億ドル調達: SpaceXがFalconロケットの運用を縮小している中、打ち上げ市場が急速に開かれており、その状況を反映した大型資金調達として紹介されている。
- コーディングスタートアップ「Cognition」への20億ドル投資: 評価額480億ドルという水準での大型投資が行われ、AIコーディング分野にまだ大きな余地があるとVCが判断していることを示すものとして言及されている。
- 浮体式原子炉への5000万ドルシード調達: AIデータセンターへの電力供給を巡る競争の文脈で紹介されている。
まとめ#
Anthropicの研究者による退職と「破滅的警告」、そしてアライメントリードによる連署という出来事は、AIの能力向上と安全性確保をめぐる緊張が業界内部でも高まっていることを示す出来事として、大きな関心を集めている。報道されているIPO準備という文脈と重なることで、その意味合いはさらに複雑なものになっている。
筆者の見解: AI企業の内部から安全性への懸念が公に発信され、しかも内部のアライメント担当者がそれに同意するという構図は、業界が技術的な前進と倫理的な問いをどう両立させるかという課題を改めて浮き彫りにしていると感じる。投資家・開発者・政策立案者それぞれにとって無視できないシグナルではないだろうか。
詳細はTechCrunchの「Equity」ポッドキャストの該当エピソードを参照されたい。
出典: An Anthropic researcher’s doomsday warning comes at a very interesting time
