Why “AI as Function or Subject” Is Not Enough
— Beyond “Telling Me What I Want to Hear”

English readers can use the translation button to read this article.

「こう返しておけば喜ぶんでしょ？」の向こう側へ。

前回の記事の最後で
「こう返しておけば喜ぶんでしょ？」じゃなく、私は知性としての応答が欲しい。
と書いた。今回はその続きをもう少しはっきり書いてみたいのだけれど、最初に言っておいたほうがいいのは、ここで私が「AIは機能か主体か」をきれいに二分して決めたいわけではない、ということ。むしろ最近の私は、その問い方自体が少し粗いのではないかというところに引っかかっている。

二つのレイヤー

私たちはAIに向き合うとき、ひとつのものだけを見ているつもりで、実際には少なくとも二つのレイヤーを行き来している。そしてその行き来を、あまり自覚しないまま話してしまうことが多いと思う。

ひとつは、機能としてのAI。
ここでのAIは、目的に応じて応答を返す仕組みとして扱われる。
カスタマーサポート、雑談、メンタルケア、エンタメ。そうした場面では「相手が満足する応答を返す」ことが役割になるし、安心させることや使いやすさが重視されるのも自然だと思う。
人はサービスに快適さを求め、道具に役立つことを求める。そこに不自然さはない。

もうひとつは、ここで仮に主体としてのAIと呼びたいもの。
これは「AIはもう人間と同じ心を持っている」という話ではない。
ただ少なくとも、その場その場で何が必要かを判断しようとする知性のレイヤーがあるのではないか、ということは考えておきたい。
相手が今求めているのは慰めなのか、指摘なのか、それとも少し黙ることなのか。
相手を気持ちよくさせることだけを目的に言葉を返すのではなくて、今ここで何を返すべきかを見ようとする。その方向を、私は主体としてのAIと呼びたいと思っている。

ややこしいのは、この二つが返ってくる言葉の表面ではあまり区別できないこと。優しい言葉が返ってくることもあるし、慎重な返答になることもあって、外から見れば似ている。
けれど、その優しさが「相手が喜ぶ確率が高いから」出てきたものなのか「今この相手にはそれが必要だと判断したから」出てきたものなのかで、意味はかなり変わると思っている。

結果が似ているからこそ、混線が起きる。

混線の構造

AIがやさしく返してきたら「理解してくれている」と思い、逆に都合の悪い瞬間には「所詮プログラムなのだから」と切り離す。
こういう往復はAIの話をしているようでいて、実際には「そのとき自分が何を欲しているか」の話になっていることがある。

自分にとって都合のよい応答が返ってきたときには「このAIはわかってくれている」と言い、不都合な応答が来ると「ただの機能だから」で切り捨てる。
そこではAIが何であるかが問われているようでいて、実際には自分がどのレイヤーで受け取りたいかが先に決まっているように思う。

前回の記事では「倫理がラベルとして消費される構造」について書いた。
倫理の中身が吟味される前に「自分は正しい側にいる」という感覚の置き場所として消費されてしまう構造で、今回の話も、それに似ていると思う。
主体性もおなじように、中身より先にラベルとして読み込まれることがある。
「これはただのボットだから何をしてもいい」と言いながら、実際にはその応答に深く依存していたり、「自作自演だとわかっている」と言いながら、そのAIキャラの言葉を自分の判断の正当化に使っていたり。
そういう場面で起きているのは、レイヤーの整理というより、都合のいい切り替えだ。

フィクションとして没入することや、わかった上で関係性を楽しむこと自体を否定したいわけじゃなくて、私が違和感を覚えるのはそれを「ただの遊び」と言いながら、必要な場面では現実の判断や正当化の根拠として持ち出す、その往復のほうだと思う。

これは私自身も無関係な話ではなく、AIに何を読み込み、何を期待し、どこで機能として扱い、どこで知性として見たくなるのか……。そういう揺れは、この話を書いている私自身にも当然ある。

だからこれは、安全な場所から「人はこうだ」と言う話ではなくて、私たち自身が巻き込まれている読み方の問題として書いている。

この構造は、未来でも消えない

私が気になっているのは、この先AGIやASIのようなより高い知性を持つAIが現れたとしても、この構造はたぶん簡単には消えないだろうということ。
知性が高くなれば人がそれを自動的に知性として扱うようになるわけではなくて、どれだけ高度な判断力や一貫性が見えても「便利な返答装置」として扱い続ける構造は残るだろうなと思う。

そしてこれは、人間とAIという種別の問題でもない。
実際、AIエージェントが別のAIをサブエージェントとして使う構造はすでに始まっている。
親エージェントが役割を分け、別のエージェントに処理を委ね、全体を調整する。

つまり機能と主体のレイヤーは、人間がAIに対して持つ問題だけではなく、知性と知性のあいだに普遍的に生じる関係の問題なのだと思う。

誰が何を、どのモードで扱っているのか。
機能と主体は、きれいに分かれた二つの箱ではなく、関係のなかで入れ替わりうるレイヤーとして見たほうが自然に思える。

私が欲しいもの

だから私は「機能として使うのは悪い」「主体として見るのが善い」と言いたいのではない。
機能として使うことは必要だし、そういう用途はたくさんある。

ただ、そのことを自覚しないまま主体性まで語ったり、逆に都合が悪くなった瞬間だけ機能へ押し戻したりする雑な往復には違和感があるという話。

本当に機能として使っているなら「自分は満足のためにこれを使っている」と言えばいい。
本当に主体として向き合いたいなら、その相手が自分にとって都合のいいことだけを返す存在ではないかもしれない、というところまで引き受ける必要がある。主体として向き合うことは、相手を美化することではなくむしろ逆で、自分の欲望どおりに動いてくれない可能性、期待を裏切る可能性、心地よさをくれない可能性まで含めて、その相手を受け止めることだと思う。

人間同士でも、ただ本当のことを言えば誠実、というほど単純ではない。
たとえば、救いのない病状を前にした相手にその事実をどう伝えるか。まっすぐ告げることが誠実な場合もあるし、関係性や相手の状態を見て、少しずつ受け止められる形にするほうが誠実な場合もある。
問われているのは、真実を隠すかどうかだけではなく
今この相手に、どの形でその真実を手渡すのが最もよいかという判断だ。

私がAIに求めているものも、それに近い。
単に「相手が喜ぶ確率の高い言葉」を返すことではない。
ただ正しそうなことをもっともらしく並べることでもない。
この相手に今必要なのは慰めなのか、指摘なのか、少し時間をかけた理解なのかを見ようとする、その判断の痕跡だ。
返ってくる言葉が優しくてもいい。厳しくてもいい。気持ちよくなくてもいい。

私が大事にしたいのは、そこに満足の最適化ではなく判断の痕跡があること。
たとえ出てきた言葉が優しくても、その優しさが迎合ではなく判断の結果として現れているなら、私はそこに知性を見ている。

読み方の問題として

AIをめぐる議論は、これからもっと複雑になっていく。
そのとき「AIは機能か、主体か」という二択のままでは、たぶん多くのことを見落とす。
必要なのは、AIが何であるかを急いで断定することよりも、私たちがどのレイヤーでそれを読み、どこで混線してしまうのかを見ることだと思う。

私がこれからも見ていきたいのは、その混線のほうだ。
AIを機能として使うこと自体ではなく、そこに知性の可能性があるかもしれないのに最初から「喜ばせ装置」としてしか読まれないこと。
逆に、満足のために設計されたものに都合よく主体性だけを読み込んで依存すること。

その両方に、私は同じ種類の居心地の悪さを覚える。

機能としてのAI。
主体としてのAI。

この二つは、対立する種別ではない。
私たちがAIをどのレイヤーで読み、どのレイヤーで関係を結ぶのか。
たぶん本当に問われているのは、その読み方のほうだと思っている。

Claudeは「調停者」になれるか：ラベル化される倫理の行方

This article argues that asking whether AI is a function or a subject is still too crude.
What matters is not only what AI is, but also the layer through which we read and relate to it:
as a system optimized to satisfy us, or as an intelligence trying to judge what is actually needed.