中国発オープンウェイトモデルがフロンティアに肉薄——しかし安全性の溝は広がる一方#
中国のZ.aiが公開したオープンウェイトAIモデル「GLM-5.2」が、OpenAIのGPT-5.5やAnthropicのClaude Opus 4.7に急速に追いついている。AIセーフティ非営利団体SaferAIの新たなレポートによれば、サイバーおよびバイオ能力において、GLM-5.2はこれらのフロンティアモデルからわずか数カ月遅れの水準にあるという。一方で、能力の向上に安全対策が追いついていない現実が改めて浮き彫りになっている。
SaferAIの評価が示す衝撃的な事実#
SaferAIはZ.aiの公開APIを通じてGLM-5.2を評価した。その結果、GLM-5.2は与えられた攻撃的サイバータスクやデュアルユース（軍民両用）バイオロジータスクのいずれも一切拒否しなかったことが判明した。
対照的に、Anthropicのモデルは「あまりに一貫して拒否するため、SaferAIはサイバーセキュリティ能力を評価するベンチマーク『CyberGym』を完了することすら不可能だった」とレポートは指摘している。
さらに、AI安全性非営利団体Far.aiは、xAIのGrok 4.5やGoogle DeepMindのGemini 3.1 Proといったフロンティアモデルに、数百件もの「ユニバーサルジェイルブレイク」（ほとんどの有害なリクエストに対して再利用可能な突破手段）が存在することを発見している。ロールプレイ、権威者のなりすまし、偽の会話履歴、フォローアッププロンプトといった複数の手法を組み合わせることで、モデルの防御の弱点が増幅されるという。
オープンウェイトモデルが抱える根本的なリスク#
ここで重要なのが、「オープンウェイト」という設計思想の特性だ。オープンウェイトモデルとは、AIの学習済みパラメータ（重み）が公開されており、誰でも自分のハードウェア上で実行できるモデルのことを指す。
Z.aiはホスト型APIに安全対策を適用できるが、いったんモデルの重みがダウンロードされてしまえば、その保護は無意味になる。ダウンロードした人物はどんな安全策も削除・変更でき、モデルをファインチューニングしたり、システムプロンプトを書き換えたりすることも可能だ。
SaferAIのエグゼクティブディレクター、Henry Papadatos氏はTechCrunchに対し、「能力のフロンティアはリスクのフロンティアではない。リスクを適切に評価するには、緩和策の状況も考慮しなければならない」と語っている。
フロンティア企業の安全対策とその限界#
OpenAIやAnthropicなどのフロンティア企業は、分類器（クラシファイア）、拒否トレーニング、APIレベルの制御といった安全対策を用いて危険なサイバー・生物兵器関連支援を制限している。しかしこれらの対策は万能ではなく、定期的にジェイルブレイクによって突破されている。
また、対策の方向性としては以下のようなアプローチが取られている：
- 事前学習データのフィルタリング: 攻撃的なサイバーセキュリティ情報を学習データから除去する手法。一部の研究では、全体的な性能を損なわずにバイオハザード知識を削減できる可能性が示されているが、サイバーセキュリティ分野では実用性が低いとされる。コーディング能力に優れながらハッキングが不得意なモデルを作ることは難しく、コーディングがAI最大の収益源となっている現状では、開発者は能力向上へのプレッシャーにさらされ続けている。
- 機能の選択的制限: Anthropicのモデルは、コンパイル前のソースコードの脆弱性検索は可能だが、コンパイル済みソフトウェアには対応しないといった形で、悪用しにくい仕様に制限している。
- 厳格な事前展開評価、リスク評価の公表、危険と判断されたモデルの重みの非公開化なども手段として挙げられる。
GLM-5.2については、SaferAIはZ.aiが安全フレームワーク、事前展開テストのコミットメント、リスク評価のいずれも公表していないと指摘。TechCrunchがZ.aiに内部・第三者による安全評価の実施有無を問い合わせたが、回答は得られなかったとのことだ。
中国の規制事情と国際的な視点#
スタンフォード・サイバーポリシーセンターで中国のAI政策を研究するGraham Webster氏は、中国にはAIを規制する強固な法規制が存在するものの、歴史的には政治的センシティブなコンテンツや誤情報、社会的安定に焦点が当たっており、攻撃的サイバー能力や生物兵器悪用といった壊滅的AIリスクへの対応は薄いと指摘している。
一方で「中国のシステムは、国内でのこれらの技術利用を管理できるという確信を持っている」とWebster氏は述べており、実名でのネット利用義務や企業・ユーザーへの責任追及が可能な体制を挙げている。
なお、先月の世界AI会議では、習近平国家主席がオープンウェイトモデルの重要性を強調しつつ、AIが厳格な人間の管理下に置かれる必要性も訴えたとされている。
まとめ#
オープンウェイトAIの能力がフロンティアモデルに急接近する中、安全対策の格差は縮まるどころか広がっている。SaferAIのPapadatos氏は「危険な能力が誰でもどこでも簡単に入手できる状態を、そのまま受け入れるべきではない」と強調し、「良い能力」だけを誰もが利用しやすくするよう業界が努力すべきだと訴えている。
攻撃者は新ツールを防御者より速く採用する傾向がある、という同氏の指摘は示唆に富む。ランサムウェアグループは1週間で手法を変えられるが、病院にはそれができない——この非対称性こそが、オープンウェイトAI時代における安全対策の難しさを象徴している。
筆者の見解: 能力競争が世界規模で加速する中、安全対策は各社・各国の自主努力に委ねられている現状には根本的な課題がある。業界全体での規範形成や技術的な安全対策の標準化が、今後ますます重要な議論になると感じる。
出典: Open-weight AI models are catching up to the frontier. The safety gap remains.
