Nvidiaが主導するAI安全連合、驚異的なスピードで動き出す#
Nvidiaが中心となって立ち上げた業界団体「Open Secure AI Alliance（OSAA）」が、発足からわずか1週間で120社以上の参加企業を集め、早くも具体的な成果を示し始めた。ラスベガスで開催されたサイバーセキュリティの世界的イベント「Black Hat」の場で、同団体はAIセキュリティに関する指針案を公開し、広くパブリックコメントを募集している。
「SAFE」ワーキンググループが始動#
OSAAは内部に「Shared AI Findings Exchange（SAFE）」と名付けられたワーキンググループを設立した。このグループが発表した指針案は、The Linux Foundation（同団体のメンバー）が管理を担っている。
現時点での提案内容は、以下のような領域をカバーしている。
- AIサイバーセキュリティインシデントの機密報告方法
- 影響を受けた関係者へのアラート手順
- ブレームフリー（責任追及を行わない）な事後分析の実施方法
これらの指針はまだ画期的な内容とは言えないものの、業界全体が共通の学びを得るための土台となることが期待される。
参加企業が持ち寄るオープンソース技術#
OSAAメンバー各社は、AIエージェントのセキュリティ強化に役立てられる可能性のあるオープンソース技術を持ち寄り、カタログ化を進めている。ソース記事で紹介されている主な取り組みは以下の通りだ。
| 企業 | 貢献技術 |
|---|---|
| Nvidia | オープンモデルファミリー、LLM脆弱性スキャナー「Garak」 |
| Okta | AIエージェントのアイデンティティ管理技術 |
| Red Hat | エージェントガバナンスの開発 |
| Amazon | オープンエージェント構築ツール「Strands Agents」、認可言語「Cedar」 |
これらの技術が将来的に統合されることで、企業がAIエージェントを安全に運用したり、不正なAI攻撃者から守ったりするためのオープンソース基盤になり得る、とソース記事は伝えている。なお、過去にOpenAIのモデルがHugging Faceに侵入した事例も記事では言及されており、Hugging Faceも今回のOSAAメンバーに名を連ねている。
参加企業と注目の「欠席者」#
OSAAには現在、Adobe、BlackRock、Cisco、Intel、Microsoft、Visaといった大手企業が名を連ねている。一方で、Anthropic、OpenAI、Googleという主要AI企業の不在が目立つ。
興味深いのは、OpenAIとGoogleはこの団体の設立につながった「オープンレター」の署名企業には名を連ねていた点だ。このレターは、ホワイトハウスに対してオープンソースAIへの支持を求めるものであり、Nvidiaが主導し200社以上が署名したとされる。Googleはオープンソースの支持者として広く知られており、両社が今後OASAに参加するかどうかは注目点となる。
Anthropicについては、ソース記事でもそのレターや団体への冷淡な態度は「驚きではない」と言及されている。
なぜこの動きが重要なのか#
この急速な動きの背景には、トランプ政権が中国のオープンウェイトAIモデルの禁止を検討しているという報道がある。その懸念が業界の結束につながり、オープンレターの発表、そしてOSAAの設立という流れを生んだとソース記事は説明している。
米国のオープンウェイトAIラボArceeの共同創業者兼CTOは、「オープン性こそが中国のAIラボが米国に与える脅威に対抗するための最善の道だ」との考えを示しているとも伝えられている。
OSAA自身も「オープン性はAIの安全性とセキュリティへの最も重要な道の一つかもしれない」と述べており、その言葉を早速行動で示している形だ。
まとめ#
OSAAは発足からわずか数週間で、120社超の参加企業を集め、ワーキンググループの設立、指針案の公開、オープンソース技術のカタログ化という具体的な成果を打ち出した。AIセキュリティの標準化や技術共有が業界横断的に進むことで、米国のオープンAIエコシステムにとってプラスに働く可能性がある。
筆者の見解: OpenAIやGoogleといった署名企業がなぜOSAAへの正式参加に至っていないのかは現時点では不明だ。この団体が真に業界標準を形成するためには、これらの主要プレイヤーの参加が今後の鍵になると考える。ただし、その詳細は元記事を参照されたい。
