Beyond Task Intelligence: Artificial Intelligence, Embodied Robotics, and the Epistemic Limits of Machine Cultural Understanding

機械が最も速い人間のスプリンターよりも速く走れる一方で、単純なケーブルを拾い上げることにさえ苦戦するという世界を想像してみてください。これはロボットの失敗についての物語ではなく、私たちが知性をどのように測定するかという、より深い謎についての物語です。今日、人工知能システムは流暢なエッセイを書き、言語を翻訳し、膨大なテキストのライブラリから驚異的な速度で事実を検索することができます。それらは数学の問題を解いたり、写真の中の物体を特定したりといった特定のタスクにおいてテストされており、しばしば勝利を収めています。しかし、特定のテストに勝つことは、機械がその操作している世界を真に理解していることを意味しません。科学者や学者が直面している問いは、もはや機械がタスクを実行できるかどうかではなく、そのタスクに意味を与える文脈、歴史、そして人間関係を理解できるかどうかです。これは、一連の指示を完璧に実行することと、それらの指示がもはや意味をなさなくなった時にそれを知っていることの違いです。

ラフバロー大学のプルドヴィ・クマール・カニャダリによる新しい系統的レビューは、この「実行すること」と「理解すること」の間のギャップを探求しています。論文は、機械は特定の測定可能な仕事には非常に長けてきてはいるものの、人間が当たり前のように持っているより深い種類の知識を欠いていることが多いと論じています。この深い知識とは、単に情報を持っていることではなく、その情報が特定の時間、場所、文化にどのように適合するかを知ることです。著者は、人工知能を標準的なテストのスコアだけで判断するのをやめ、それが人間生活の混沌とした、不確実で、しばしば矛盾に満ちた性質を扱えるかどうかを問い始める必要があると示唆しています。

論文は、2026年ワールド・ヒューマノイド・ロボット・ゲームズからの衝撃的な例から始まります。これらのイベントでは、Tiangong Ultraのようなロボットが100メートル走を8.64秒で駆け抜け、ウサイン・ボルトが保持する人類の記録である9.58秒を打ち破りました。これらの機械は、走ることに関しては非常に速く効率的です。しかし、同じロボットが、ケーブルを差し込んだり、変化する環境の中でパッケージを扱ったりといった、より単純で日常的なタスクにはしばしば苦戦します。著者は、走ることは「閉じた問題」であると指摘しています。トラックは平坦であり、距離は固定されており、目標は明確です。対照的に、ケーブルを差し込むことは「開いた問題」です。ロボットはプラグの形を感じ、ソケットの抵抗を感知し、ケーブルが動いた場合には握力を調整しなければなりません。それは、自分自身のために完璧に設計されていない世界に適応しなければならないのです。ロボットはレースに勝つことはできますが、まだ世界をナビゲートする方法を知らないのです。

この同じパターンは、言語と文化の世界にも現れます。現代のチャットボットの背後にあるシステムである大規模言語モデルは、人間の研究者よりも速く文学的な引用を検索したり、歴史的事象を要約したりすることができます。しかし、文化的儀式を解釈したり、社会的慣習を説明したりするように求められると、これらのシステムは真の理解の欠如を露呈させる間違いを犯すことがよくあります。それらは、事実に反する伝統の説明を美しく書き上げたり、学習データに含まれるステレオタイプを繰り返したりすることがあります。論文は、これらのシステムは情報を検索することはできるものの、「厚い記述（thick description）」、つまり、ある行動が誰によって行われ、どこで行われ、どのような歴史を背負っているかによって異なる意味を持ち得るという文化的な理解にはしばみ欠けることが多いと述べています。

著者は、この問題を明確にするために、知性を測定する3つの異なる方法を導入しています。第一は「タスク能力（task competence）」であり、これはレースを走る、あるいは単語を見つけるといった特定の操作を実行できるかどうかを問うものです。第二は「文脈能力（contextual competence）」であり、これは、言語が異なる場合、歴史が複雑な場合、あるいは物理的環境が予測不能な場合など、状況が変化したときに依然として高いパフォーマンスを発揮できるかどうかを問うものです。そして第三の最も困難なものは「認識的能力（epistemic competence）」です。これは、機械が十分な情報を持っていない場合に答えを出さないようにできるか、あるいは質問自体に欠陥があることを認識できるかを問うものです。現在の人工知能は、第一のタイプの能力には非常に長けていますが、第二と第三の能力においてはしばしば失敗します。証拠が欠けている場合や、トピックが単一の単純な説明には複雑すぎる場合でも、自信を持って回答を出してしまうのです。

論文で強調されている最も深刻な問題の一つは、「幻覚（ハルシネーション）」を起こした引用の問題です。学術研究において、引用とは、ある点を証明するための情報源への参照です。しかし、これらのシステムは、実在するように見えるが実際には存在しない情報源を捏造したり、実在する書籍を引用しながら、その本が実際には言っていないことを書いていると主張したりすることがあります。これは、証拠の連鎖を断ち切ってしまうため危険です。人文科学において、知識は文書、アーカイブ、そして解釈の連鎖の上に築かれます。もし機械がその連鎖の中に偽のリンクを挿入すれば、構造全体が崩壊しかねません。論文は、これはより良いデータで修正できるバグではなく、機械の情報処理方法と人間が知識を構築する方法との根本的な違いであると論じています。人間は、いつ立ち止まって「私は知らない」と言うべきか、あるいは「この情報源は信頼できない」と言うべきかを知っています。タスクを完了させることに突き動かされた機械は、自信に満ちているものの間違った答えを押し進めてしまうことがよくあります。

また、レビューはこれらのシステムが文化と表象をどのように扱うかを検証しています。特定の文化の人々の画像を生成するよう求められたとき、これらのシステムはしばしばステレオタイプに依存します。例えば、インドの人々の画像を生成する場合、システムは一貫して現代的な環境にいる上層カーストの人々を示し、下層カーストの人々を貧困や抗議の場面にのみ描くことがあります。これは、システムが既存のデータ内のパターンから学習しており、それらのパターンがしばしば歴史的な偏りを反映しているために起こります。その結果、もっともらしく見えるものの、実際には現実の歪曲となった画像が生み出されます。論文は、文化的に説得力のある画像であっても、それが文化の真実を表していないのであれば、それは認識的な失敗である可能性があると示唆しています。

著者は、単なるスコアを超えた、人工知能をテストするための新しい方法が必要であると提案しています。機械が質問に正しく答えられるかどうかを問うのではなく、文脈の変化に対処できるかどうかを問うべきです。歴史的時代が変わっても、物語を理解できるでしょうか？ 文化的な用語に直接の翻訳がないことを認識できるでしょうか？ 質問が誤った前提に基づいていることを認められるでしょうか？ 論文は、将来のベンチマークには、研究者が意図的にタスクの条件を変更して、システムがどのように崩壊するかを見る「摂動（perturbation）」テストを含めるべきであると示唆しています。また、「認識的棄権（epistemic abstention）」についてもテストすべきであり、答えを出すための情報が足りないときに「分からない」と言うことをシステムに評価すべきであるとしています。

この新しいアプローチには、コンピュータ科学者と、歴史家、人類学者、文学批評家といった人文科学の学者との間のパートナーシップが必要です。これらの分野は、知識がいかにして作られ、カテゴリーがいかに形成され、何が真実であると見なされるかに、いかに権力が影響を与えるかを、何世紀にもわたって研究してきました。論文は、これらの学者が単なるテクノロジーの批評家ではなく、テクノロジーを設計する積極的な参加者であるべきだと論じています。彼らは、機械にとっての「文化的適応能力」とは何かを定義する助けとなり、現在のシステムの隠れたバイアスや限界を明らかにするテストを構築する手助けをすることができます。

論文は、人工知能の未来は、より速く、より強力な機械を作ることではなく、より責任を持てるシステムを作ることにあると結論付けています。真に知的なシステムとは、単に問題を解決できるだけでなく、問題そのものを理解できるものであるべきです。それは、質問が不当であること、カテゴリーが時代遅れであること、あるいは表象が有害であることを認識できなければなりません。それは、自身の知識の限界を認識できるべきです。著者は、人文科学こそがこれらの能力をテストするのに最適な場所であると示唆しています。なぜなら、人文科学は機械が苦戦する要素、すなわち曖昧さ、歴史、そして複雑な人間関係を扱っているからです。

最終的な目標は、機械を人間と全く同じように振る舞わせることではなく、私たちの傍らで責任を持って共に働けるシステムを作ることです。これは、事実と意見、ステレオタイプと現実、そして自信に満ちた推測と十分に裏付けられた真実を区別できる機械を開発することを意味します。論文は、もしこれが達成できれば、私たちは単純なタスクの実行を超えて、真に一般的で、真に有用な形態の知性に到達できることを示唆しています。前進すべき道のりは、単により優れたロボットやよりスマートなソフトウェアを設計することではありません。それは、絶えず変化する世界において、「何かを知る」とはどういうことかを再考することなのです。最も重要なステップは、これらのシステムがより有能になるにつれて、それらがより謙虚になり、一部の問いには単なる答え以上のものが必要であることを認識するようにすることです。