AIは本当に「何でもやってくれる存在」であるべきなのか？#
Comma AIの創業者であり、長年にわたってAIシステムの制限破り（ジェイルブレイク）でも知られるGeorge Hotzが、「ユーザーの利益に完全に準拠したAI」を強く支持する主張を展開し、テクノロジー界隈で大きな議論を巻き起こしている。TechCrunchがこの話題を取り上げ、その主張の意味と問題点を鋭く論じている。
発端：AI政策ペーパーへの反論#
Hotzの投稿は、AI Futures Projectが発表した政策ペーパー「AI 2040: Plan A」への反論として書かれたものだ。この論文は、人類全体の利益のために世界の研究者たちがAI開発を14年間減速することを提唱する内容だった。
Hotzはこの前提そのものに異議を唱える。彼の主張は以下のようにまとめられる。
- AIが急速に超人的な能力を獲得する「ファスト・テイクオフ」シナリオはあまり現実的ではない
- AIの安全性とアライメントへの最善のアプローチは、ユーザーの利益に密接に紐付いた、ローカルで管理されるAIモデルに焦点を当てることだ
TechCrunchの記事を執筆したRussell Brandomは、ファスト・テイクオフへの懐疑論については「同意できる部分が多い」と述べている。また、現在のAIの多くがClaudeやChatGPTのような中央集権的なサービスを軸に構築されている点を指摘しつつ、ローカル管理型AIという発想自体には一定の魅力があると評価している。
問題の核心：「銃」の比喩と過激な事例#
しかしHotzはここで止まらなかった。彼はユーザー準拠型AIを銃に例え、「銃はユーザーが継母を撃ち殺すために使っても文句を言わない」と主張した。さらに、真にユーザーに準拠したAIであれば、ユーザーが望むなら覚醒剤製造ラボの機材をAmazon Primeで注文し、その使い方を教えることもできるべきだ、とまで述べた。
Hotzはこの原則を守るために「命も惜しまない」とも発言している。
「我々は自由のある世界に生きるか、そうでないかのどちらかだ」というのが彼の立場だ。
なぜこの議論が重要なのか#
この発言が注目を集める理由は、単なる過激な発言にとどまらず、AIアライメント（AIの目標をどう設定・管理するか）という根本的な問いを突きつけているからだ。
TechCrunchの記事では、この問いに対して以下のような視点から反論が提示されている。
- 社会・市場・企業などの多人数が関わる構造は、個人の利益と集団の利益のバランスを取ることを必要とする
- 大衆向けのテクノロジー製品を展開する者は、「まだ殺されていない配偶者や継親」の利益も含めた社会全体のネットワークを真剣に考慮すべきだ
- Hotzが享受している「自由」も、集団的な営みによって可能になった潜在的未来の空間であり、全員が自分勝手に振る舞えば一夜にして消滅しかねない
この批評は、個人の自由と社会的責任の間のトレードオフという、テクノロジーが常に直面してきた古典的なテーマを改めて浮き彫りにしている。
まとめ#
George Hotzの主張は、中央集権的なAIサービスへのアンチテーゼとして「ユーザー完全準拠型のローカルAI」という方向性を提示するものだ。その思想の一部（ファスト・テイクオフ懐疑論など）には一定の支持も集まる一方で、「配偶者殺害の計画補助も辞さない」という極端な事例を持ち出した点が大きな批判を呼んでいる。
AIのアライメント問題は、技術的な課題であると同時に、社会全体でどのような価値観を選択するかという哲学的・政策的な問いでもある。
筆者の見解: ローカルで管理されるパーソナルAIという方向性は、プライバシーや自律性の観点からも興味深い可能性を秘めている。しかし「誰のための自由か」という問いを棚上げにしたまま議論を進めることには、大きなリスクが伴うだろう。AIが社会インフラとして普及する中で、個人の自由と集団の安全をどう両立させるか——この議論は今後ますます重要になるはずだ。
