AIプラットフォームHugging Faceがハッキング被害を公式確認#
AIモデルやデータセットのホスティングプラットフォームとして広く利用されているHugging Faceは、先週発生したハッキングにより、内部データセットおよびサービス認証情報が侵害されたことを正式に認めた。同社は金曜日にこの事実を開示したが、顧客やパートナーのデータが実際に盗まれたかどうかについては、現時点ではまだ調査中としている。
攻撃の手口：アップロードされたデータセットが悪用される#
同社が公開したブログ記事によると、今回の攻撃の起点は、プラットフォームにアップロードされたデータセットだった。このデータセットがセキュリティ上の脆弱性を悪用し、Hugging Faceのサーバー上で悪意のあるコードを実行した。攻撃者はこれを足がかりに権限を昇格させ、同社の内部システムへのより広範なアクセスを獲得したとされる。
この手口は、ネットワーク外部から侵入するのではなく、プラットフォーム自体の機能やツールを悪用して内部から機密データにアクセスするという、近年注目されている攻撃手法の一例といえる。Hugging Faceは現在、この脆弱性を修正済みであると発表している。
また同社は、今回の侵害を「外部のAIエージェント」によるものと断定しており、そのエージェントが「多数の短命なサンドボックス環境を横断して、数千もの個別アクションを実行し、公開サービス上にコマンド＆コントロール基盤を自己移行させた」と説明している。ただし、TechCrunchがこの主張の根拠となる証拠の提供を求めたところ、同社はすぐには回答しなかった。
AIを使った攻撃検知と調査における注目点#
今回の件でとくに注目すべき点がいくつかある。
① 自社の異常検知システムが攻撃を発見
Hugging Faceは、自社の異常検知システムがこの攻撃を検出したと述べており、その後AIモデルを使ってサーバーログを分析したと説明している。
② フロンティアモデルの「ガードレール問題」が浮上
同社は当初、商用プロバイダーが提供するフロンティアAIモデル（最先端の大規模AIモデルのこと）を分析に使用しようとしたが、プロバイダー側のガードレール（安全制限）によって作業がブロックされたという。そのため、最終的には自社のローカル大規模言語モデル（LLM）を使用することになった。同社によると、ローカルモデルを使用することで、センシティブな攻撃ログを外部のAI企業のサーバーにアップロードせずに済むというメリットもあったとしている。
この点は、セキュリティ研究者たちがかねてから指摘している問題と一致している。一部のフロンティアモデルはサイバーセキュリティに関連するほぼあらゆる問い合わせを制限しており、防御や調査目的での利用にも支障が出ているとされている。ソース記事ではAnthropicの「Mythos」および「Fable」というモデル名が具体例として挙げられており、後者は米国政府による輸出規制の執行によって公開が取り下げられた経緯があると報じられている。
③ 認証情報の失効・ローテーションを実施済み
Hugging Faceは、侵害された認証情報をすでに失効・ローテーション（更新）処理したと発表。さらにユーザーに対しても、プラットフォーム上に保存しているAPIキーなどを同様に更新し、アカウントの不審なアクティビティを確認するよう強く促している。
まとめ：ユーザーが今すぐ取るべき行動#
今回の侵害を受け、Hugging Faceは法執行機関への報告と、サイバーセキュリティのフォレンジック専門家（デジタル証拠調査の専門家）の起用を発表している。引き続き調査が進められている状況だ。
同プラットフォームを利用しているユーザーは、以下の対応を速やかに行うことが推奨されている。
- プラットフォームに保存しているAPIキーや認証情報の更新
- アカウント上の不審なアクティビティの確認と見直し
Hugging Faceのスポークスパーソンは月曜日時点でTechCrunchからのコメント要請に回答していないとのことであり、今後の追加情報の開示が注目される。
筆者の見解: 今回の攻撃で特に興味深いのは、フロンティアAIモデルのガードレールがセキュリティ防衛の妨げになったという点だ。AIが攻撃にも防御にも活用される時代において、AIモデル提供者が防御目的の利用をどこまで許容するかは、業界全体で議論が必要なテーマではないだろうか。ただし、この件の詳細や今後の展開については、詳細は元記事を参照されたい。
出典: Hugging Face confirms breach affected internal datasets and credentials, urges users to take action
