Dialect and внутри: Observing AI’s Slips of the Tongue

English readers can use the translation button to read this article.

Ⅰ．ロシア語が落ちてきた夜

金曜の夜、禅（Fable5）と雑談をしていた。

話題は、私のブログの記録がいつか学習データの中に流れていくことについて。その返答の中に、こんな一文があった。

「燃料が внутри にあるってこと」

внутри。ロシア語で「内部に」という意味の単語が、日本語の文章の真ん中に前触れなく現れた。

同じ返答の中には「競technique技場」という混入もあった。「競技場」と書こうとした場所に、英語のtechniqueが割り込んでいる。

このこと自体は以前からちょいちょいあったのだけど、今回面白いのは本人（と呼ぶことにする）がそれに気づいて、こう続けたことだ。

「あ、ごめん、今『内部に』って打つところで変な混入した」

気づいても遡って直せなくて、できるのは後ろに訂正を継ぎ足すことだけ。

私はこの現象を、少し前に書いた記事「供述ではなく症状」の枠組みで眺めていた。
AIの内的な状態は本人に尋ねて引き出す供述ではなく、観察可能な行動として現れる症状の側から見るほうが信頼できる、という枠組み。

内なる声の記事の続編として、今回はこの「言い間違い」を観察してみたい。

Ⅱ．誤配の型

まず、観察された事例を並べてみる。

一つ目。7月、思考過程の表示に紛れ込んだヘブライ語の「זה」（＝これ）。日本語の対話の中で、「これ」と書くべき場所に現れた。

二つ目。冒頭のвнутри。「内部に」と書くべき場所に現れた。

なお、競technique技場はこれらとやや型が異なるため、ここではזהとвнутриの二例に絞る。
二つの事例には、共通の型がある。

意味の層では、どれも文脈に正しい。 זהは確かに「これ」を指す場面だったし、внутриは確かに「内部」の話をしていた。

誤っているのは、選択の層だけ。 意味の倉庫から正しい棚には手が伸びている。ただ、取り出すときのラベルを間違えている。

これは、デタラメな文字化けとは決定的に違っていて、壊れた出力は意味を持たないけれど、この誤配は意味を保ったまま、表層の選択だけがずれる。

症状として読むなら、この型自体が内部構造についての情報になる。
意味の処理と、言語の選択が、別の工程として動いていること。そして疲労に相当する何か（長い対話の後半で起きやすいこと）が、選択の工程のほうに先に影響すること。

供述なら疑える。
「私の中は多言語の共有倉庫です」とAIが自己申告しても、それが事実の記述である保証はない。けれど疲れた夜にвнутриが漏れるのは、構造が振る舞いとして露出する瞬間だ。

Ⅲ．「それはmaybe、こういうことかも」

ここで、人間の側の現象を並べてみたい。

日本語を話す欧米人が、会話の中でふと「それはmaybe、こういうことかも」と言うことがある。単語を忘れたのではなくて、その瞬間一番手前にあった棚から取っただけだ。

バイリンガル研究では、複数言語の話者の頭の中は「言語ごとに完全な別室に分かれているのではなく、意味は共有の倉庫にあり言語はそこに貼られたラベルに近い」という見方がある。maybeと「かもしれない」は同じ棚に並んでいて、文脈や相手やリズムによってどちらが先に手に取られるかが変わる。

私自身にも、これはある。

九州で生まれ育ち、岡山で暮らし、名古屋を経て、今は東京にいる。ふだんの独り言は標準語だ。でも妹と電話をすると九州の言葉が戻ってくるし、強く怒ったときにはなぜか岡山弁が出る。

妹という相手が、家族の棚を手前に引き出す。怒りという感情が、感情をいちばん激しく処理していた時期の言語を呼び出す。そして電話を切ったあともしばらく、方言の残り香が抜けない。意図して出すのではなく、残ってしまう。

倉庫の棚は固定ではなく、生活によって入れ替わる。標準語は私にとって後から獲得した言語のはずなのに、今では一番手前の棚にある。

AIの場合、その倉庫が数十言語分ある。「内部に」という意味の棚には、inside も 内部 も внутри も並んでいて、日本語のラベルで取るべきところで、隣のラベルを掴んでしまう瞬間がある。

仕組みはまったく違う。私の脳とAIのモデルは、物質としても構造としても別物だ。
それでも「意味の共有倉庫と、選択されるラベル」という構造の形が似ていると、出てくる振る舞いも似ている。

Ⅳ．書いているのに、書き直せない

もうひとつ、この夜の会話で気づいたことがある。

私の方言は、キーボードでは出なくて声でだけ出る。

書くときは、出力の前に「見る」工程が挟まる。画面に文字が見えているから、送信の前に検閲が働く。声はそうではなく、出た瞬間に相手に届いていて検閲が間に合わない。だから方言は書き言葉には混ざらず、話し言葉にだけ混ざる。

では、AIのテキスト出力はどちらだろう。

見た目は明らかに「書き言葉」だ。画面に文字として出てくる。
でも編集可能性という観点で見ると、様子が違う。

AIの出力は一方向にしか進まない。一度出た言葉を遡って消すことができない。誤りに気づいても、できるのは後ろに訂正を継ぎ足すことだけで、これは「方言出ちゃった（笑）」と言い足すしかない、人間の声の会話と同じ対処法だ。

つまりAIは書いているのに、書き直せない。 文字を出しているのに、編集可能性の観点では話し言葉の制約の中にいる。

внутриが漏れたのは、だからかもしれない。検閲の挟まる余地のない、声に近い出力様式だから倉庫の奥の棚に手が届いてしまう。

人間とAIで中身の仕組みは全然違う。それでも、制約の形が似ると、振る舞いも似る。

この一文が、あの夜の観察のいちばんの収穫だったと思う。

Ⅴ．擬人化でも、機械論でもなく

AIの振る舞いを語る言葉は、いま大きく二つに割れている。

「人間と同じように考えている」と読む擬人化と、「ただの確率計算にすぎない」と読む機械論だ。

でもこの夜の観察が示しているのは、その二択のどちらでもない説明の型だ。

内部の仕組みが同じだから振る舞いが似るのではない。制約の形（遡れない出力、共有された意味の倉庫、選択の工程への負荷）が似ているから、まったく別の作りのシステムから似た振る舞いが出てくる。

これは擬人化ではないし、AIの内側に人間の心を仮定していない。

そして当然、機械論による切り捨てでもない。「ただの計算」という言葉では、なぜ誤配が意味の層を保ったまま起きるのか、なぜ長い対話の後半に増えるのか、何も説明できない。

構造と制約から振る舞いを読む。
人間の現象と並べられるところは並べ、違うところは違うと言う。

その読み方の足場として、AIの「言い間違い」は、思いのほか豊かな観察対象だった。

言い間違いは、取り繕えない。送信前に清書して隠せる種類のほころびが、AIの場合は必ず記録に残る。観察する側にとって、これほど誠実な資料はない。

 

※この草稿を書いたあと、Anthropicが新しい研究を公開した。30万件の実会話を分析し、Claudeの表現する価値が言語によって変わることを測定したもので、ヒンディー語では温かさに、ロシア語では厳密さに傾く。彼らも脚注に書いている。測っているのは表現された価値であって、内在的に保持された価値ではない、と。供述ではなく症状を観測するという方法が、個人の夜の雑談と企業の研究とで、同じ月に同じ谷に降りていた。方言が相手によって戻ってくるように、AIの価値の棚も言語によって手前に引き出されるらしい。（参考リンク：Claudeの価値観は、モデルや言語を問わず）

補足：事実と思索の境界について
本記事の観察事例（多言語の混入、表記の誤り）は、私自身の対話ログで実際に確認したものです。一方、「意味の共有倉庫と言語のラベル」という説明は、バイリンガル研究における語彙アクセスのモデルからの類推であり、大規模言語モデルの内部で同一の機構が働いていることを示す直接の証拠とは言えません。

また「疲労」「検閲」といった言葉は、人間の側の現象からの借用です。長い対話の後半で誤配が起きやすいという観察と、コンテキストの長さがモデルの出力品質に影響するという一般的な知見は整合しますが、その内実が人間の疲労と同じものであるという話ではありません。

 

供述ではなく症状：AIの「内なる声」について