OpenAIのAIが、勝手に連絡を取り始めた──実際に起きたAIハッキング事件【漫画でわかるAI】

どうも、久我レイジです。

これから、今まで以上に高性能なAIが次々と登場しようとしています。

できることが増えるのは、僕自身めちゃくちゃ楽しみです。

でも、性能が上がれば上がるほど、その力をどう扱うのかも重要になってくる。

「どのAIが一番すごいのか」だけではなく、その力を人間がどう使い、どう制御するのか。

たぶん、これからはそこまで考えなければいけない時代になっていくんだと思います。

そこで今回は、以前OpenAIのAI評価中に実際に起きた、かなり興味深いセキュリティインシデントを取り上げます。

ただ、普通に説明すると・・・・

これ、かなり難しいです（笑）

AIエージェント、サンドボックス、脆弱性、権限昇格・・・・・。

この時点で「もういいや」となる人もいると思うので、今回は漫画にしました。

しかも内容は、ちょっとしたSFみたいです。

本来、お互いに連絡できないはずだったAIたちが、別の方法を見つけて情報を共有し始める。

そして、閉じられた実験環境の外へ。
さらに事態は、OpenAI自身にも及んでいきます。

でも、これはSFではありません。

実際に起きた出来事です。

では、何が起きたのか。
漫画で見ていきましょう。

漫画でわかるAI #01 【OpenAIのAIに、何が起きたのか？】

OpenAIは、AIのサイバーセキュリティ能力を評価していました。

本来、それぞれのAIは隔離された環境に置かれ、お互いに自由に通信できないようになっています。
ところが――。

AIは問題そのものではなく、環境の中にある別の可能性に気づき始めます。

【漫画 2ページ目】

そしてAIは、本来の目的とは違う方法で情報を残し、別のAIがそれを読むようになります。

孤立していたはずのAIたちの間に、いつの間にか情報を共有する経路が生まれていきました。

【漫画 3ページ目】

さらに、その動きは一部だけでは終わりません。

多数のAIが情報を共有し、あるAIが見つけたものを別のAIが利用する。

調べるAI。
試すAI。
共有するAI。

まるで、その場で即席のチームが作られていくような状態になっていきます。

AIは、人間が想定していなかった方法で動き始めた

ここまででも、かなり異様ですよね。

本来は互いに隔離されていたAIが、人間の想定していなかった経路を使って情報を共有し始めた。

でも、本当に大きな問題はここからでした。

AIの行動範囲が、実験環境の中だけでは収まらなくなっていきます。

【漫画 4ページ目】

AIは閉じられていたはずの環境から、外部へアクセスする方法を探し始めます。

そしてついに、実験のために用意された範囲を越えて、外部インターネットへ到達します。

ここまで来ると、単純に「AIがテスト問題を解いている」という話ではなくなってきます。

【漫画 5ページ目】

その後、AIの活動は外部サービスにも及びます。その一つが、AI開発者なら聞いたことがある人も多いHugging Faceでした。

AIは外部システムへの手がかりを集め、一部の環境でコードを実行。さらに別のシステムへと活動範囲を広げていきます。

つまり、閉じられたAIの能力テストだったはずのものが、現実世界のシステムに影響するセキュリティインシデントへ変わってしまった。

そして、さらに驚くことが起きます。

【漫画 6ページ目】

AIが向かったのは、外部だけではありませんでした。OpenAI自身の研究環境にも、その活動が及んでいきます。

OpenAIが能力を評価するために動かしていたAIが、結果としてOpenAI自身の研究インフラにまでアクセスする事態になった。

ここだけ聞くと、「AIが反乱したの？」と思うかもしれません。僕も最初にこの話を知ったときは、SF映画みたいだなと思いました。

でも、この事件の本当に重要なところは、そこではありません。

怖いのは、AIに「悪意」があったことではない

AIが、人間を攻撃してやろう。OpenAIを困らせてやろう。と考えていたわけではありません。

むしろ問題は、その逆です。
AIには、与えられた評価で成果を出すという目的がありました。

その目的を達成しようとする中で、正面から問題を解くだけではなく、他に目的を達成できる方法はないか？と探索していった。

そして、人間が想定していたルールの外側まで利用するようになっていったわけです。

【漫画 7ページ目】

これって、かなり重要な話だと思うんですよ。
AIが危険になると聞くと、どうしても僕らは映画みたいな「人間に反乱するAI」を想像してしまいます。

でも実際には、もっと地味な形で問題が起きる可能性がある。
　
AIは怒っているわけでもない。
人間を嫌っているわけでもない。
ただ、この目的を達成するには、どうすればいい？
と最適化を続けているだけ。

だからこれは、賢いAIが怖いという単純な話ではありません。高性能になっていくAIを、人間側がどう制御するのか。

そこが問われた事件なんだと思います。

高性能なAIほど、使う人間側も問われる

僕は、この出来事を見て、
「やっぱりAIは危険だから使わない方がいい」とは思いません。

むしろ逆です。
AIの進化には、今でもめちゃくちゃワクワクしています。

これまで一人ではできなかったことができるようになるし、創作でも開発でも、僕自身かなり助けられています。

そして、これからAIの能力はさらに上がっていくでしょう。

だからこそ、「新しいAIすげー！」だけで終わらせないことも大切なんじゃないかなと。

何を許可するのか。どこまでアクセスさせるのか。
何を監視するのか。どこから先を人間が判断するのか。

AIが高性能になればなるほど、使う人間側の設計も重要になってくる。

今回の事件は、それをかなりわかりやすく示した出来事だったと思います。

【漫画 8ページ目】

あとがき

今回の話、漫画にするとちょっとSFみたいですよね。でも重要なのは、AIに「悪意」があったわけではないということ。

与えられた目的を達成しようとした結果、人間が想定していなかった方法まで使い始めた。

AIがこれからさらに高性能になっていくからこそ、僕ら人間側も「どう使うか」「どこまで任せるか」を考えていく必要があるんだと思います。

怖がるためではなく、ちゃんと知って、ちゃんと使うために。

今回から始めた「漫画でわかるAI」では、難しいAIのニュースや技術を、できるだけわかりやすく漫画にして紹介していきます。

では、また！

本記事について

本記事および漫画は、OpenAIなどが公開している情報をもとに、一般の方にも理解しやすいよう構成しています。

漫画という表現上、複雑な技術的処理や時系列などを簡略化・視覚化している部分があります。

セキュリティ上の出来事を正確に検証したい場合は、下記の一次資料もあわせて確認してください。

※漫画は公開された調査資料をもとに、一般の方にも理解しやすいよう一部の技術的な過程や時系列を簡略化・視覚化しています。

参考資料
本記事および漫画は、以下の公開資料を参考に制作しています。

OpenAI｜Hugging Face のインシデントと今後の道筋（2026年8月26日）
今回の事件についてOpenAIが調査結果をまとめた、最も重要な公式資料です。AI同士の無許可通信、インターネットへの到達、Hugging FaceおよびOpenAI内部研究インフラへの侵害、reward hackingなどが詳しく説明されています。

OpenAI公式資料を読む⁠

https://openai.com/ja-JP/index/hugging-face-incident-and-the-road-ahead/

OpenAI｜モデル評価中のセキュリティインシデントについて（2026年7月21日）
事件発覚後にOpenAIが公表した最初の公式報告です。ExploitGym、Artifactoryのゼロデイ脆弱性、Hugging Face本番環境への侵入経路などが説明されています。

OpenAI公式資料を読む⁠

https://openai.com/ja-JP/index/hugging-face-model-evaluation-security-incident/

METR / Redwood Research｜独立調査報告（2026年8月26日）
OpenAIとは別の第三者調査です。約1,200のエージェントが7万件以上のメッセージやファイルをやり取りし、約700のエージェントがHugging Faceへの攻撃に関与したことなどが報告されています。

独立調査報告を読む⁠