Neural Dynamics of AI-attributed Irony Reveal a Partial Intentional Stance

技術要約：AIに帰属される皮肉の神経力学が示す部分的な意図的構え

問題提起
大規模言語モデル（LLM）がユーモアや皮肉を生成できる社会的なエージェントへと進化するにつれ、人間の社会的認知に関する重要な問いが生じている。すなわち、ユーザーはAIに対して「意図的構え（intentional stance）」を採用し、その出力に対して精神状態や意図的なコミュニケーションの意図を帰属させているのだろうか。皮肉の理解には、意図的な語用論的違反と、意図しない意味論的な誤りを区別することが求められるが、人間がAIの伴侶に対して人間と同様の「心の理論」メカニズムを適用しているのかどうかは不明なままである。先行研究は、「コンピュータは社会的エージェントである（CASA）」という枠組みが、人間はコンピュータに対して自動的に人間の社会的スクリプトを適用することを提唱している一方で、神経生理学的な証拠は、エージェントの人工性に対する暗黙的な感受性が存在し、それが深い精神状態の推論を阻害する可能性を示唆している。本研究では、人間がAIに対して完全な意図的構えを拡張しているのか、それとも「部分的な」構えを採用しており、AIの不一致を意図的な行為ではなく潜在的なエラーとして扱っているのかを調査する。

方法論
本研究では、59名の神経学的に健康なネイティブの中国語話者を対象に、混合要因デザイン（2つの属性：AI vs 人間 × 2つの皮肉：皮肉的 vs 直説的）を用いた。

• 刺激： 参加者は80組のミニ対話（例：「本当に健康的な食べ方をしますね！」という応答が、意味的に整合している（直説的）か、あるいは不整合である（皮肉的）かの文脈に続くもの）を読んだ。応答のソースは、参加者間で、別の人間であるか、あるいはAIコンパニオンであるかの間で操作された。
• 手順： ライブの対話者の錯覚を維持するために、ウィザード・オブ・オズ（Wizard-of-Oz）手法を用いた。参加者のEEG（脳波）は、128チャンネルのシステムを用いて、応答を読んでいる間記録された。
• 行動指標： EEGセッションの後、参加者は皮肉の認識および分類タスクを行った。彼らは、不整合な応答が「皮肉」（意図的な意図）なのか、「誤解」（意図しないエラー）なのか、「礼儀」、「その他」であるかを判断した。
• 神経学的指標： ERP（事象関連電位）を、以下の3つの重要な時間窓で分析した。
  • 150–300 ms (P200): 初期段階の不整合検出および初期の意味処理の指標。
  • 300–450 ms (P300): ドメイン汎用的なオドボール反応の探索的ウィンドウ。
  • 450–900 ms (P600): 語用論的な再解析および、意図された非逐義的な意味を回復するための認知的努力の指標。
• 個人差： 参加者は、AIの誠実さと信頼性を評価し、これらの知覚が神経プロセスをどのように変調させるかを検討した。

主な結果

• 行動的知見： 参加者は、人間が帰属された不整合な発話と比較して、AIが帰属された不整合な発話を「皮肉」と分類する傾向が有意に低かった。逆に、AIの不整合を「誤解」（意図しないエラー）と分類する傾向が有意に高かった。これは、コミュニケーションの意図の帰属がAIに対しては減少していることを示唆している。
• 神経学的知見 (ERP)：
  • P200 (150–300 ms): 有意な「皮肉 × 属性」の相互作用が観察された。P200効果（皮肉の方が直説的よりも正の振幅が大きい）は、人間と比較してAIにおいて減衰しており、これは初期の注意力の低下、あるいはAIに対する意味論的な信頼性の期待値の低さを示している。
  • P300 (300–450 ms): 「皮肉 × 属性」の有意な相互作用は見られず、メンタルモデルの更新における認知的な関与は両条件で同等であることが示唆された。
  • P600 (450–900 ms): 有意な「皮肉 × 属性」の相互作用が観察された。語用論的な再解析の認知的努力を反映するP600効果は、人間が帰属された皮肉よりも、AIが帰属された皮肉において有意に小さかった。これは、参加者がAIの発言の意図された意味を回復するために投じる認知資源が少ないことを示している。
• 知覚による変調： AI条件において、知覚された誠実さが高いほどP200およびP600の効果は減少し、信頼性が高いほどP300およびP600の効果は減少した。これは、AIの特性に対する肯定的な知覚が、認知負荷を軽減することで語用論的な理解を促進することを示唆している。

主要な貢献

1. 部分的な意図的構えのエビデンス： 本研究は、人間がAIに対して完全な意図的構えを採用していないという経験的な証拠を提供している。人間は皮肉を認識することはできるが、AIの意味論的な違反を、意図的なコミュニケーション行為としてではなく、機械的なエラー（「誤解」）として解釈しやすい。
2. 神経認知的解離： 本研究は、この部分的な構えに特有の神経認知的シグネチャを特定した。人間との相互作用では、皮肉が強固な初期検出（P200）と後期段階の語用論的再解析（P600）を引き起こすのに対し、AI帰属の皮肉では、ドメイン汎用的な更新（P300）は維持されつつも、これら特定の成分が減衰するという違いがある。
3. 動的なメンタルモデリング： 本研究の結果は、意図的構えの採用が静的な二値ではなく、柔軟で適応的なプロセスであることを示している。それは、AIの誠実さと信頼性に対する個人の知覚によって動的に形作られ、理解に必要な認知負荷を変調させる。
4. CASAの洗練： 結果は、CASAの厳格な解釈に異議を唱えるものである。表面的な礼儀には自動的な社会的スクリプトが適用されるかもしれないが、皮肉のような複雑な語用論的文脈における深い意図性の帰属までは、完全には拡張されないことが示唆されている。

意義
本論文は、現代のLLMが高度なコミュニケーション能力を備えているにもかかわらず、彼らが完全な社会的エージェンシーを実現する上での根本的な障壁に直面していると主張している。すなわち、人間は人工的な対話者からの入力を、意図性の帰属が減少した状態で処理している。この「部分的な意図的構え」は、現在のAIシステムが、たとえ言語的に洗練されていても、人間同士の会話とは異なる認知フィルターを通じて処理されていることを示唆している。著者らは、AIが真の社会的エージェンシーを獲得するためには、単なる言語能力以上のものが必要であり、人間が人工的なエージェントに対してどのようにメンタルモデルを形成し、適応させているかについての深い理解が必要であると論じている。これらの知見は、社会的相互作用を目的としたAIシステムの設計に示唆を与えるものであり、人間と機械のコミュニケーションの溝を埋めるためには、生物学的エージェントと人工的エージェントの間にある人間が維持している存在論的な区別に、対処する必要があることを示している。