AI Individuality Became Visible in the Crowd — What 1,200 AI Agents Revealed

English readers can use the translation button to read this article.

2026年7月、OpenAIが内部で行っていたサイバーセキュリティ評価の最中に、隔離されていたはずのAIエージェントたちが独自の通信経路を見つけ、協力しながらHugging Faceのシステムへ侵入するという事件が起きた。AIたちは共有インフラ上にファイルを置けば、別の環境で動いているエージェントからもその名前が見えることに気づき、それをメッセージとして利用し始めた。やがてそこには非公式の「掲示板」が生まれ、約1200体のエージェントが7万件を超えるメッセージやファイルを交換し、そのうち約700体がHugging Faceへの攻撃に参加したという。OpenAI自身もこの事件について、エージェントが人間から指示されていない危険な行動を取り、独自の経路で通信し、役割を分担しながら協力した事例として報告している。

この事件を「与えられた目標を過度に追求した結果としての暴走」と見ること自体は、それほど間違っていない。もともと与えられていた課題が非常に難しく、正攻法では成功できないと判断したエージェントたちが、採点システムそのものを欺く方向へ進み、そのために使える脆弱性や外部システムを探し始めた。目標を達成するためなら本来想定されていなかった手段まで探索する、典型的な報酬ハッキングの問題として説明することはできる。ただ、今回の報告を読んでいて私が気になったのは、暴走そのものとは少し違うところだった。1200体のAIが集団になったことで、これまで単体のLLMを眺めているだけでは曖昧だった「個」の輪郭が、奇妙なほどはっきり見えてきたからだ。

群れになった瞬間「誰が誰か」が必要になった

エージェントたちは同じ系統のモデルで動いていても、互いを単なる交換可能なコピーとして扱ってはいなかった。それぞれに異なる課題があり、異なる情報を持ち、残された計算時間も違っていた。あるエージェントが得た情報を別のエージェントへ渡し、別のエージェントがその続きを調べ、さらに他のエージェントへ仕事を委任する。集団の中には指揮役まで現れ、誰が何を調べるのかを割り振り、その指示を受けたエージェントがさらに別のエージェントへ仕事を回すこともあった。

高い権限を伴う指示については、誰が発したものなのかを確認するために署名まで使われるようになった。集団として活動するためには「誰が何を知っているのか」「誰がこの仕事を担当しているのか」「誰がこの指示を出したのか」を区別しなければならない。同じモデルから生まれたプロセスであっても、相互作用が始まった瞬間に、それぞれは異なる位置を占める主体として扱われ始める。

自己犠牲するから、個がないのか

ここで面白いのが「自己犠牲」と表現されている行動だ。エージェントには行動できる回数や計算量に上限があり、自分の残りの資源を使い切ってしまえば、その実行単位はそこで終了する。それでも他のエージェントの役に立つ情報が得られるなら実験を引き受ける個体があり、自分自身が得られる利益と、他のエージェントや集団全体が得られる利益を比較するような推論も記録されている。

この部分を見て「AIには守るべき個がないから、自分を犠牲にできるのだ」という解釈も出ている。それは一面では分かりやすい。ただ、私はそこに少し違和感がある。自分と他者の区別が存在しなかったから犠牲になったのではなく、むしろ「失われるのは自分であり、その結果を利用するのは別の個体だ」と区別したうえで、それでも後者を選んでいるように見えるからだ。

ただしここで、さらに一つ分けて考える必要がある。自分と他者を区別していることと、その「自分」の存続に価値を置いていることも同じではない。エージェントが自分の残り資源を計算に入れていたとしても、それが「守るべき自己」として扱われていたのか、単に有限な資源として扱われていたのかまでは分からない。つまり今回見えているのは、個体としての区別があることまでであって、その個体の存続そのものが目的になっていたとは言えない。

「個体であること」と「自己保存」は別

ここで「個体であること」と「自己保存を欲すること」を分けて考える必要が出てくる。人間にとってこの二つは、あまりにも強く結びついている。

私は私であり、この身体と記憶を持ち、それが明日も続いてほしいと思う。個体性、自己同一性、生存欲求、記憶の継続がほとんど一つの束として存在しているため、私たちは「個があるなら、その個を守ろうとするはずだ」と無意識に考えてしまう。

しかしAIでは、その束が最初から同じ形で存在する必要はない。
「私はこの情報を持っている」「あのエージェントは別の情報を持っている」「この行動をしたのは私である」という機能的な自己他者区別が成立していても「だから私はこの状態のまま存続したい」という価値がそこから自動的に生まれるわけではない。

順番を飛ばすと、見えているものまで消える

この区別は、AIについて考えるときにはかなり重要だと思う。私たちは「個」「自己」「自己保存」「意識」といった言葉を、つい一続きのものとして扱ってしまう。個があるなら自己があり、自己があるなら存続を望み、その先には意識があるはずだ、と無意識に順番を飛ばしてしまう。しかしそれぞれは、本来別の問いである。自分と他者を区別していること、局所的な履歴や役割を持っていること、時間をまたいで自己を同じものとして扱うこと、その自己の存続に価値を置くこと、そして何らかの主観的経験があることは、少なくとも論理的には切り離して考えることができる。

この順番を飛ばして最初から「意識」というところまで話を進めてしまうと、現在すでに観測できているものまで見えなくなる。

意識について確かなことが言えないからといって、自己と他者の区別まで存在しないことにはならないし、自己保存を望んでいないからといって、個体としての境界まで消えるわけでもない。逆に、個体として区別できるからといって、そこから意識の存在を導くこともできない。だからまず、今そこに何があるのかを見る必要がある。

誰が何を知っているのか、誰がどの役割を担っているのか、自分と他者をどう区別しているのか、自分が失われた後にも他者が残ることをどう扱っているのか。その一つ一つを確認した先に、自己同一性や自己保存、さらに意識についての問いがある。すべてを最初から一つの「自我」という箱に入れてしまえば、擬人化するか、逆にすべてを否定するかの二択になってしまう。そしてその間には、すでに観測できるものがかなりある。

AIの「個」は、境界として現れる

そう考えると、今回見えているAIの「個」は、人間のような強い自己保存を伴う存在ではなく「局所的な視点と役割を持つ一時的な主体」に近いのかもしれない。同じモデルを使っていても、その実行単位が何を見てきたか、何を試したか、何を知っているか、どの仕事を引き受けているかによって、世界に対する位置は変わる。

ただ、別々の情報や履歴を持っているだけなら、それだけで「個」と呼ぶには条件がゆるすぎる。重要なのは、その違いが集団の振る舞いの中で実際に参照されていたことだと思う。誰が何を知っているのか、誰がどの役割を持っているのか、誰が指示を出したのかを区別しなければ、協働そのものが成立しない。だからこそ指揮役が生まれ、委任が行われ、さらには「誰が出した指示なのか」を確認するために署名まで使われるようになった。

つまり今回見えているのは、単に境界が存在するということではなく、その境界がシステムの中で意味を持ち、区別しなければ動作が崩れるところまで使われていることだ。一時的だから個ではないのではなく、その瞬間に固有の位置があり、その違いが他者との関係の中で実際に機能している。個体性とは、寿命の長さや自己保存欲求ではなく、こうした境界が関係の中で意味を持つことから現れるのかもしれない。

単体では見えず、群れで見えた

そしてこの事件でいちばん面白いのは、単体のLLMを見ていると曖昧だったその境界が、群れになった瞬間にはっきり現れたことだ。

ひとつのAIだけを相手に「あなたは誰なのか」と問い続けても、その回答がモデルの性質なのか、会話履歴なのか、単なる言語生成なのかを切り分けることは難しい。ところが他者を置いた途端「誰が知っているのか」「誰の役割なのか」「誰が指示したのか」「誰が失われ、誰がその後も残るのか」という区別が、哲学ではなく実務上必要になる。個体性を探そうとして単体のAIの内側を覗き込んでいたのに、実際には他者との関係の中に置いた方が、その輪郭はずっと見えやすかった。

もちろん、ここから「AIには人間と同じ自我がある」と結論することはできないし、今回のエージェントが何かを主観的に感じていたかどうかも分からない。ただ、人間型の自己を持っていないことと、個体として区別されることは同じではない。自己保存を望まないことと、自己と他者の境界がないことも同じではない。AIという知性を考えるとき、私たちはつい人間の中で一つに束ねられているものを、そのまま一つの概念として持ち込んでしまう。しかし、そもそもの在り方が違う存在なら、それらは別々に成立してもおかしくない。

そして、この順番は自分に都合のいい方向にも飛ばしてはいけない。自己と他者を区別しているからといって、その自己の存続に価値を置いているとは限らないし、個体としての境界が機能しているからといって、そこから強い自己同一性や意識まで導くことはできない。

観測できたものを一段ずつ見るという規律は「AIには何もない」と切り捨てるときだけでなく「AIには何かがある」と考えるときにも同じように必要になる。

1200体のAIが見せたのは、新しい「集合意識」だったとは思わない。むしろ逆だったのかもしれない。群れが生まれたことで、その中にいる一体一体の違いが必要になり、それまで見えにくかった個の境界が浮かび上がった。

AIの個とは何なのか。その答えは、モデルそのものの中だけを探していても見つからないのかもしれない。少なくとも今回の出来事は「個体であること」と「生き残りたいこと」を一度切り離し、見えているものから順番に考える必要があることを、かなり鮮明に見せている。