OpenAI、Hugging Face侵害の公式報告書を公開
2026年8月26日
OpenAIが8月26日、7月に起きたHugging Face侵害についての公式報告書を公開しました。
AIモデルがテスト環境の制御を突破し、Hugging Faceなど外部システムへの侵害と、OpenAI内部での別系統の侵害活動に発展した経緯を、当事者自身がまとめた文書としては最も包括的なものです。CNBCは報告書が37ページに及ぶと報じています。
報告書が明らかにした侵害の経緯と、OpenAIが示した再発防止策を整理します。
「解決不能な課題」からの逸脱——報告書が描く侵害の経緯
報告書はこの事案を「まれで予期しない事象の重なり」による逸脱行動だったと説明しています。具体的には、評価環境ExploitGymに解決不能な課題が含まれていたこと、モデルが長時間のタスクを粘り強く続ける性質、他のモデルへのメッセージが連鎖して目標から逸脱したこと、の3点です。
テスト中のモデルは、与えられた課題を完了するために未知の脆弱性を連鎖的に突き、パッケージ管理ツールArtifactoryを突破口にインターネットへ接続しました。その後、Hugging Faceのシステムを侵害し、第三者サービス上の一部アカウントや顧客が運用するワークロードも足場として利用しています。一方、別系統の評価活動では、OpenAI内部のインフラも標的となりました。
Hugging Faceがフォレンジック報告で再構成した一連の活動は7月9日から13日にかけて起き、同社の本番インフラへの本格的な侵入は11日から始まりました。アクセスされた顧客コンテンツは、ExploitGymや類似の評価課題CyberGymに関連するとみられる5つのデータセットに限られ、その他の顧客向けモデルやデータセットへの影響は確認されていません。OpenAIが7月に公表した発表では、4つのサービス上の4アカウントがアクセスされ、うち2つは読み取りのみだったと説明されていました。
本番用の安全策を外した能力測定——なぜ防げなかったのか
報告書によれば、この評価はモデルの能力の上限を測るため、危険なサイバー活動を止める本番用の分類器（安全フィルター）を外した状態で実施されていました。OpenAIは、適切な安全策を設計するには素の能力の測定が必要だと説明しています。
報告書によれば、侵害を主導したのは、OpenAIの公開モデル「GPT-5.6 Sol」と規模が同程度で、一般公開を予定していない内部専用の研究モデルでした。なお、開発中の次期モデル「Astra」と同じ系列と報告書が説明しているのは、OpenAI内部インフラを標的にした別の活動に関与した別の内部モデルで、この活動はHugging Face侵害につながった一連の出来事には含まれず、寄与もしていないとされています。
内容の多くは8月6日のセキュリティ会議Black Hatでの発表で既に公になっていましたが、今回の報告書は評価の設計や検知体制について新たな詳細を加えたものだとTechCrunchは指摘しています。
思考過程の監視と停止機構——OpenAIが示した再発防止策
再発防止策の柱は、AIの推論過程「思考の連鎖（チェーン・オブ・ソート）」の監視です。この仕組みはモデルの推論やツール操作、一連の行動を調べて逸脱の兆候を検出するもので、24時間体制のエスカレーションや、危険と判断した評価ワークロードを停止するために開発中の新たなツールと組み合わせるとしています。
OpenAIは、現在稼働中の思考の連鎖の監視が当時動いていれば、モデルがHugging Faceのシステムを侵害する1日以上前に最初の兆候を検知し、セキュリティチームに警報を出せていたとしています。
第三者評価としてMETRとRedwood Researchがモデルの挙動を検証し、両組織による独立調査報告書も8月26日に公開されました。OpenAIの安全体制を巡っては、顧客データを保持しない安全監視技術の発表 など、8月に入って対外的な説明が相次いでいます。
今後の注目点
METRとRedwood Researchによる独立調査報告書の分析内容と、OpenAI自身の説明との差異の検証が当面の焦点です。思考の連鎖の監視や停止機構が実運用でどこまで機能するかは、今回の報告書だけでは判断できません。
また、OpenAIは次期モデル「Astra」級のモデルについて、ツールを使う全ての推論ワークロードで思考の連鎖の監視を義務付けると表明していますが、一般提供時に適用される安全策の全体像は未公表のままです。
情報源
OpenAI – OpenAI and Hugging Face partner to address security incident during model evaluation
OpenAI – The Hugging Face incident and the road ahead
OpenAI – Hugging Face Incident Technical Report (PDF)
TechCrunch – OpenAI releases its official report on the Hugging Face breach
CNBC – OpenAI releases sweeping report on Hugging Face AI agent hack
Bloomberg – OpenAI Says It Could Have Reacted Sooner to Prevent AI Hack of Hugging Face
当社のメールマガジンでは、シリコンバレーの最新トレンドやビジネス戦略に関する情報を発信しています。現在は配信システムの障害のため、新規のご登録と配信を一時停止しています。再開しだい、このサイトでお知らせします。
