Pragmatics beyond humans: meaning, communication, and LLMs
本論文は、大規模言語モデルの出現により、従来の人間中心の枠組みを超えた語用論の再概念化が必要であることを論じ、擬人化バイアスに対処し、合理的発話行為（Rational Speech Act）のような確率的モデルを採用し、かつ生成AIとの相互作用における「コンテクストの挫折（context frustration）」というパラドックスを考慮した、人間・機械コミュニケーション・アプローチを提案するものである。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
言語は、単に文法規則によって並べられた言葉の連なりではありません。それは社会的な道具であり、人々が共に活動し、意図を共有し、会話における複雑で暗黙のルールを切り抜けていくための手段です。何十年もの間、言語学者は、文章の構造、言葉の字義通りの定義、そしてそれらが話される文脈という3つの層に分解することで、意味がどのように機能するかを解明しようとしてきました。この「語用論」として知られる第3の層こそが、人間によるコミュニケーションの真の魔法が起こる場所です。それは、誰が、いつ、なぜ話しているかに完全に依存して、事実の表明と依頼の違いを生み出し、あるいはジョークと侮辱の違いを生み出すのです。今、新しい種類の機械がその会話に加わりました。エッセイを書き、質問に答え、会話を成立させることができる強力な人工知能システムである大規模言語モデルは、科学者にこれらの古い地図を再考することを強いています。中心となる問いは、もはやこれらの機械が人間の話し方を模倣できるかどうかではなく、彼らが意味の社会的ダンスを理解しているのか、それとも単に背後にある意図を把握することなく、シーケンスにおける次の単語を予測しているだけなのか、という点にあります。
ヴィート・グヴォズディアク（Vít Gvoždiak）という研究者は、私たちがこれらの機械をどのように研究し、それらを判断するためにどのような理論を用いているかを精査しました。彼は、現在の私たちの手法は、丸い穴に四角い杭を打ち込もうとするようなものであり、欠陥があると考えています。長い間、これらのモデルを評価する標準的な方法は、それらを人間のように扱うことでした。研究者は、謝罪を認識したり皮肉を検知したりといった社会的合図を理解する必要のあるタスクを機械に課し、その回答を人間が言うであろう内容と比較します。もし機械が正解すれば、それはしばしば「語用論的能力」を備えていると称賛されます。もし間違えれば、理解が欠如していると言われます。グヴォズディアクはこのアプローチは誤解を招くものであると示唆しています。なぜなら、機械が人間のようなテキストを生成しているからといって、人間と同じ原理で動作しているはずだと仮定しているからです。しかし、これらの機械は人間ではありません。彼らは膨大な量のインターネット上のテキストで訓練された統計的エンジンなのです。彼らは人間のように真実や社会的協調を重視することはありません。彼らが重視するのは確率です。彼らは、共有された現実を伝えるためではなく、次にどの単語が来る可能性が最も高いかを推測するように設計されているのです。
この論文は、これらの機械を人間のカテゴリーに当てはめようとするのをやめ、彼らが私たちとどのように相互作用するかという独自の様態に目を向けることを提案しています。グヴォズディアクは、「人間と機械のコミュニケーション（Human-Machine Communication）」と呼ばれる新しい枠組みを提案しています。このアプローチは、人がチャットボットと話すとき、彼らは単なるツールと話しているのではなく、かといって人間と話しているわけでもないということを認識しています。彼らは、これまで存在しなかった方法で双方が会話を形作る、ハイブリッドな空間にいるのです。機械は命令の受動的な受け手ではなく、人間も単なるユーザーではありません。彼らは新しい種類の対話における共謀者なのです。著者は、現在の研究の多くが、彼が「代替主義（substitutionalism）」と呼ぶ問題に苦しんでいると指摘しています。これは、科学者が一つの特定のモデルや英語のような特定の言語から得られた結果を、すべての人工知能やすべての人間言語に適用できると仮定してしまう現象です。さらに巧妙なことに、研究者はしばしば、会話における人間の参加者を機械と入れ替え、機械が人間の代わりを務められると想定してしまいます。これは、人間が機械と話す際に、いかに自分自身の行動を変えているかという事実を見失わせます。人々は、AIを模倣したフレーズや構造を用いることで、話し方を変え始めており、人間が機械に影響を与えるのと同様に、機械もまた人間に影響を与えるというフィードバックループを生み出しているのです。
論文の中で最も衝撃的な発見の一つは、「コンテクストの挫折（context frustration）」という概念です。人間の会話において、コンテクストとは、お互いを理解することを可能にする共有された背景知識のことです。もし私が「ここは寒いね」と言えば、あなたは私が窓を閉めてほしいと言っているのかもしれないと理解します。しかし、機械との間では、この共有された背景が欠落しています。機械には個人的な履歴も、肉体も、現実世界の経験もありません。機械に理解させるために、人間は余分な労力を強いられます。彼らは、機械がどのような役割を演じるべきか、設定は何か、そして会話の目的は何かを正確に指定するために、長く詳細なプロンプトを書かなければなりません。これは「プロンプトエンジニアリング」として知られる現象です。皮肉なことに、テクノロジーがより多くの情報を処理する能力（より長い会話を記憶し、より大きな文書を読み込むこと）を高めている一方で、ユーザーはより大きな挫折感を感じています。膨大なデータを処理する機械の能力は、共有された理解の問題を解決したのではなく、人間と機械のコンテクストの隔たりをより広く感じさせているのです。ユーザーは絶えず、機械のためにコンテクストの架け橋を築こうと試みていますが、機械の理解は依然として根本的に自分たちのものとは異なっていることに気づかされるのです。
論文は、機械が人間になれるかどうかを問うのをやめ、彼らがどのように異なっているのかを問い始める必要があると結論付けています。人間同士の相互作用のために構築された古い言語理論では、現在起きていることを説明するには不十分です。私たちは、機械の独特な性質を認める新しい思考法を必要としています。機械を人間用に設計されたテストに合格できるかどうかで判断するのではなく、人間と機械の間で行われる独特なハイブリッドの会話を研究すべきなのです。これらの相互作用は、新しい形の意味、新しい社会的ルール、そして新しい課題を生み出しています。著者は、言語研究の未来は、人間と機械が互いに調整し合いながら、完全な人間でも完全な機械でもない、全く新しい共有空間を作り上げていく、このパートナーシップを理解することにあると示唆しています。目標は、機械をより人間らしくすることではなく、その存在の中で私たちがどのように変化しているのかを理解することなのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。