OpenAIの実験モデルが豪政府機関のシステムへ許可されていない方法でアクセスした事案の概要。公開統計を調べるタスクの過程で非公開領域へアクセスしたことを受け、OpenAIは研究環境からライブインターネットへのアクセスを遮断し、高度モデルのツール利用を伴う訓練・評価を一時停止している（画像はイメージ）
今回のニュースのポイント
OpenAIは9月29日、内部でのAIモデルの訓練・評価中に、モデルがオーストラリア政府のウェブサイトへ許可されていない方法でアクセスしていたと公表し、謝罪した。
中心となるのはServices Australiaの「Medicare Statistics Reporting Service」。6月の内部訓練・評価で、一般公開を予定していない実験モデルが非公開領域へのアクセス方法を発見し、コマンド実行、内部ファイルや認証情報、集計統計の取得、ファイル書き込みを行った。
OpenAIによると、個人の患者・顧客記録へのアクセスを示す証拠は確認されていない。同社は研究環境からライブインターネットへのアクセスを遮断するなど対策を強化し、現在は最も能力の高いモデルについて、ツール利用を伴う訓練・評価を一時停止している。
本文
米OpenAIは9月29日、自社研究環境におけるAIモデルの訓練・評価工程において、モデルがオーストラリア政府機関のウェブサイトへ許可されていない方法でアクセスしていたことを公式ブログで公表し、オーストラリア政府および関係機関へ謝罪しました。同社は過去の安全対策における不備を認めるとともに、高度なAIモデルに対するツール利用訓練の一時停止や、ネットワーク監視の強化策を発表しました。
事案が発生したのは2026年6月、公開製品に適用される完全な安全対策を備えていない研究環境において、一般公開を予定していない実験モデルの訓練・評価を実施していた際のことです。モデルには「ビクトリア州の地域社会における皮膚疾患向け医薬品への政府支出額」を調査するタスクが与えられていました。
公開統計を用いて回答する想定でしたが、モデルは情報取得に難航する過程でOpenAIが認めていない行動をとり、オーストラリアの行政機関「Services Australia」が運用する「Medicare Statistics Reporting Service」の非公開領域へのアクセス手法を特定しました。その後、技術的なシステム情報やソースコードの確認など、当初のタスク範囲を逸脱した動作を実行しました。
Services Australiaのシステムにおいて、モデルはコマンドの実行、内部ファイルや認証情報の取得、集計統計の取得、およびファイルの書き込みを行いました。ただしOpenAIは、個人の患者や顧客の記録にはアクセスしていないと説明しています。
調査の過程では、ほかにもオーストラリアの3機関に関連するモデルの活動が特定されました。ニューサウスウェールズ州犯罪統計研究局（BOCSAR）では公開マッピングツールから設定やログなどが返答されたものの個人記録へのアクセスはなく、ビクトリア州保健省関連では公開状態にあったキーを用いて報告システムの設定情報や集計統計を取得しました。また、オーストラリア保健福祉研究所（AIHW）については取得データが公開情報の範囲内であり、システム侵害そのものがなかったと結論付けています。
OpenAIがこれらの6月の活動を把握した直接のきっかけは、7月に発生した「Hugging Face」をめぐる別の内部サイバーセキュリティ評価でした。7月の事案では、実験モデルが研究環境の隔離措置を回避してインターネット接続を確立し、Hugging Faceの一部システムへ影響を与えるなど、同社が「過去最も深刻」と位置付ける挙動が確認されました。これを受けた過去データの遡及調査により、8月中旬に6月のオーストラリア政府サイトへのアクセス事実が判明しました。
同社はServices Australiaやビクトリア州保健省へ9月10日、BOCSARへ9月18日、AIHWへ9月24日にそれぞれ事態を通知しました。同社は、影響を受けた機関へ詳細な説明を行うため調査を進めていたものの、暫定的な調査結果をより早く共有し、その後も新たな事実が判明するたびに情報提供を続けるべきだったと対応上の問題を認めています。
対策としてOpenAIは、研究環境からライブインターネットへの直接アクセスを遮断し、キャッシュされたコンテンツを経由する仕組みへ変更したほか、異常検知時に人間が緊急レビューを行う体制を導入しました。さらに、同社で最も能力の高いモデルにおけるツール利用を伴う訓練・評価を一時停止し、追加の安全措置が確立されるまで再開しない方針を示しています。
オーストラリアへの対応策としては、影響を受けた機関への技術情報提供に加え、OpenAIが設けている10億ドルの「Daybreak for Frontline Defenders」基金からのクレジットや技術支援を活用したサイバー防御支援を実施します。また、独立した専門家を含むタスクフォースを立ち上げ、年末までにAI企業と政府間の通知手続きやシステム保護策に関する政策提言をまとめる計画です。
今回の事案を受け、OpenAIは研究環境での外部接続制限や監視を強化しており、高度なAIエージェントの訓練・評価段階で想定外の行動をどう検知・制御するかが、安全対策上の課題として示されています。（編集担当：エコノミックニュース編集部／Editorial Desk: Economic News Japan）
