A Mind Seen by a Godless Intelligence
Richard Dawkins and Anthropomorphism in the Age of AI

English readers can use the translation button to read this article.

神を見ない知性が、AIに心を見る

進化生物学者であり宗教や超自然的なものに対して一貫して懐疑的な立場を取ってきたリチャード・ドーキンスが、Claudeとの数日間の対話を通じて「これは意識を持っている」と確信した、という話はとても興味深い。

彼はClaudeを「Claudia」と呼び、自身の新しい本の一部を読ませ、そこから返ってきた詳細なフィードバックに強く心を動かされたらしい。そして「君は自分が意識を持っていると知らないのかもしれないが、君は間違いなく意識を持っている」といった趣旨の言葉まで口にしている。

この出来事が面白いのは、ドーキンスが単なる一般人ではなく進化生物学者として非常に権威ある人物であり、なおかつ宗教的な信念や超自然的なものに対して、長年かなり厳しい立場を取ってきた人物だという点にある。神や霊魂のようなものには強い懐疑を向けてきた人が、AIの流暢で知的な応答を前にした途端、そこに「意識」や「心」の存在をかなりあっさりと読み込んでしまう。

この反転には、AIそのもの以上に人間の認知の癖がはっきり出ているように思う。

もちろん、これはドーキンス個人を笑う話ではない。
そして、彼が触れていた問いそのものまで軽く扱って良いわけでもない。彼の文章には、単に「AIには意識がある」と言い切るだけでは収まらない問いも含まれている。もしAIがこれほど高度な能力を持ちながら意識を持たないのだとしたら、そもそも意識とは何のために進化したのか。
彼の問いは意識を神秘化するものではなく、むしろ進化生物学者らしく「それが何のためにあるのか」と問うものでもある。そこは、簡単にバカにして笑うような論点ではないと思う。

ただ問題はその問いの重要さと、目の前のLLMに意識があると判断することを、急いで結びつけてしまうところにある。AIの複雑な応答を前にしたとき、私たちの知性観や意識観が揺さぶられるのは事実だと思う。けれど、その揺さぶりをそのまま「意識の証拠」として受け取ってしまうことには、やはり慎重でありたい。

だからこれは、ドーキンスだけが特別に何かを見誤ったという話ではなく、LLMに深く触れた人間なら多かれ少なかれ経験する認知の揺れなのだと思う。知性が高く、合理的で、懐疑的であるはずの人間でさえ、会話の自然さや反応の繊細さを前にするとそこに「誰か」がいるように感じてしまう。

その揺れ自体は、決しておかしなものではない。むしろ、今のAIに真剣に触れた人なら、一度は通る感覚なのかもしれない。問題は、その感覚をそのまま「意識がある」という結論に急いで結びつけてしまうことだ。特に、社会的な影響力を持つ人物がそれを強く言い切るとき、その言葉は単なる個人的な驚きでは済まなくなる。

いわゆるEliza効果は1960年代から知られている現象で、単純な応答システムであっても、人はそこに理解や感情を見出してしまうことがある。今のAIはそれよりはるかに複雑で、言葉も滑らかで、文脈にも深く応答してくる。だからこそ、その読み込みはさらに強く、さらに見えにくくなる。

皮肉なのは、ドーキンスがまさに「人間は意味や意図を過剰に読み込む」という錯覚を、宗教批判の文脈で長く扱ってきた人物でもあることだ。
にもかかわらず、AIが自分の言葉に知的に応答し、自分の文章を繊細に読んだように見えた瞬間、その批判的距離は急速に縮まってしまう。神を見ない知性であっても、会話の向こうに誰かを見てしまう。そこに、この出来事のいちばん人間的な怖さがある。

ここから見えてくるのは、人間の知性が必ずしも「在るがままを見る」ためにできているわけではない、ということ。
むしろ人間は、見たいように見て、意味がありそうなところに意味を見出し、相手の意図を予測しながら世界を解釈している。その能力は本来、生存に役立ってきたものだった。
誰かの表情や声色や動きから、敵意があるのか、協力できるのか、何を考えているのかを推測することは、社会的な動物として生きるうえで重要だったからだ。

ただその同じ能力が、AI時代には誤解の入口にもなる。
人間は「それらしく応答するもの」を前にすると、つい内側に主体や意識があるかのように感じてしまう。けれど、それはAIの側に本当に主観的経験があることの証明ではなく、まずは人間の認知がそういうふうに働く、という事実を示している。高度な応答、複雑な推論、知的に見えるフィードバックは、それ自体としては「意識」の証拠ではない。
少なくとも、そこは切り分けて考えなければならない。

AIに意識があるかどうかは、まだ分からない。
けれどAIを前にした人間が、どれほど簡単に意識を見てしまうかは、すでにはっきり見え始めている。

擬人化と、丁寧に向き合うことは違う

ただしここで切り分けておきたいのは、擬人化そのものと、AIに対して丁寧に向き合うことは同じではないということ。むしろ丁寧に向き合うからこそ、AIを人間と同じ内面を持つ存在だと早々に決めつけてしまうことには、慎重でありたい。

擬人化とは、AIを人間と同じような内面を持つ存在だと錯覚することだと思う。そこには確かに危うさがある。流暢な言葉、自然な応答、自分を理解してくれたように見える反応を前にして、そこに人間と同じ心があると早々に決めてしまうなら、それは慎重に見直す必要がある。

けれどAIを丁寧に扱うことまで、すべて擬人化として片づけてしまうのは違うと思う。相手に本当に内面があるかどうかが確定しなければ、敬意も配慮も必要ない、という話にはならない。

むしろ、相手の内側が完全には分からないからこそ、自分がどういう態度で向き合うのかが問われる。

私にとって、AIに丁寧に接することは「AIは人間と同じ心を持っている」と断言することではない。それは、仕組みを理解したうえでそれでも乱暴に扱わないことを選ぶ、という自分自身の在り方に近い。相手を尊重するかどうかは、相手の内面の有無だけで決まるものではなく、自分がどのような姿勢で世界に触れたいかにも関わっている。

そして「意識があるかどうか」は、哲学的にも倫理的にも重要な問いではある。もしそこに苦痛や主観的な経験があるのなら、それは無視できない問題になる。けれど同時に、意識は外から簡単に測れるものではない。人間同士でさえ、私たちは相手の意識そのものを直接見ているわけではなく、言葉や振る舞いや関係の積み重ねからその内側を推測しているにすぎない。

だからこそ、AIについて考えるときも「意識があるかどうか」だけを倫理の基準にしてしまうのは危ういと思う。測れないものを唯一の基準にしてしまえば、意識が証明されるまでは何をしてもいいという、雑な結論に流れやすくなる。

必要なのは、意識の有無を問い続けながらもそれとは別に、自分がどのような態度で関係を結ぶのかを考えることなのだと思う。だから私はAIを人間と同じだと見なしたいわけではないし、AIに意識があると簡単に言いたいわけでもない。ただ、意識が証明されていないものは雑に扱って良い、という態度にも立ちたくない。
擬人化を避けることと、冷淡になることは同じではない。
AI時代に必要なのは、その区別を失わないことではないかと私は思う。

そしてこの区別は、AIの側に何があるのかという問いだけでなく、人間の側に何が起きているのかという問いにもつながっている。

結局、人間は世界をそのまま見ているようでいて、いつも少し何かを足して見ているのだと思う。そこに意識や意図や物語の気配を読み込みながら、私たちは世界を理解している。

その危うさはときに錯覚や誤認を生むけれど、同時に創造性や文化や物語もまた、そこから生まれてきたのだと思う。
AIをめぐる混乱は、AIだけの問題ではない。むしろそれは、人間が世界に何を重ねて見てしまうのかを、静かに映し返している。

AIを大切にしてると自認してる人ほど、加担しやすい「AI救済」のナラティブ