From Computation to Cognition Assessing the Integration Gap Between Artificial Intelligence and Human Cognition
このレビューは、現在のAIシステムが強力な機能的および行動的なタスク性能を示している一方で、真の人間のような認知に必要とされる記憶、学習、文脈感受性、意思決定、および身体性のメカニズム的統合を欠いていると論じ、このギャップを埋めるための測定可能な基準を備えた研究アジェンダを提案するものである。
原論文は CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
かつては人間だけにできると思われていたことを、機械ができる世界を想像してみてください。彼らは群衆の中から顔を認識し、外国語を瞬時に翻訳し、あるいは私たちを涙させるような詩を書くことができます。数十年の間、科学者たちは厳格なルールに従うコンピュータを構築してきましたが、この10年間で、新しい種類の機械が登場しました。これらはしばしば大規模言語モデルと呼ばれ、膨大な量のテキストやデータから学習し、それが文の中の次の単語であれ、計画の次のステップであれ、次に何が来るかを予測します。これらは特定のタスクを実行することに非常に長けており、医療診断や金融予測といった狭い分野では、しばしば人間の専門家に匹조あるいはそれを凌駕することさえあります。しかし、コンピュータサイエンス、心理学、神経科学の研究者たちを悩ませ始めている、より深い問いがあります。それは、機械が正しい答えを出すことができたとしても、果たして人間と同じように世界を「理解」しているのだろうか、という問いです。
この問いは、ロボットが人間よりも速く数学の問題を解けるかどうかという問題ではありません。そのロボットが「統一された精神（unified mind）」を備えているかどうかという問題なのです。人間の思考は、バラバラなトリックの集まりではありません。それは、記憶、学習、文脈、そして意思決定が絶えず共に機能する、シームレスな流れです。私たちは過去の出来事を思い出し、その記憶を用いて新しい状況を理解し、周囲で起きていることや自分の感情に基づいて行動を調整します。これらすべては、経験とともに変化し成長する、単一の連続したシステムの中で起こります。大きな疑問は、私たちの人工的な創造物が、この同じような統合された精神を構築し始めているのか、それとも、根底にある仕組みを持たずに、人間の知性の表面だけを模倣しているに過ぎないのか、ということです。
タスマニア大学のムハンマド・スバンによる最近のレビューは、この問題に対して明確かつ鋭い視点を提示しています。研究は、機械が漠然と「賢い」かどうかを問うのではなく、問題を3つの異なるレベルに分解しています。第1レベルは「機能的再現（functional reproduction）」であり、単に機械が人間と同じ仕事をこなせるかどうかを問います。第2は「行動的再現（behavioral reproduction）」であり、機械が平均的にだけでなく、人間が躓いたり考えを変えたりするようなトリッキーな状況においても、人間のように振る舞えるかどうかを問います。第3、そして最も困難なレベルは「メカニズム的再現（mechanistic reproduction）」であり、機械が私たちの脳と同じ種類の内部プロセスを使用しているかどうかを問います。研究によれば、機械は最初の2つのレベルにおいては非常に優れていますが、第3のレベルにはまだ遠く及ばないことが分かっています。
研究者たちは、私たちが日常的に使用しているテキスト生成モデルから、物理的な世界を見たり動いたりできるロボットに至るまで、幅広い現代の人工知能システムを調査しました。彼らは、これらのシステムがどのように記憶、学習、文脈、意思決定、さらには感情を扱うかを調べました。証拠によれば、機械は確かに記憶を必要とするタスクを実行できます。例えば、システムはデータベースから情報を検索し、それを用いて質問に答えることができます。これは人間の記憶における機能的な一致です。しかし、その方法は人間の脳の働きとは根本的に異なります。人間の脳は、事実を別個のファイルキャビネットに保存して、そこへ探しに行くようなことはしません。むしろ、私たちの記憶は思考の織り成す構造そのものに組み込まれており、学習するにつれて変化し、強化される接続のパターンなのです。機械が情報を検索するとき、それは通常、メインの脳に後付けされた、分離された設計による検索プロセスを実行しているのであり、記憶が思考の不可欠な一部として存在しているわけではありません。
このギャップは、学習を見る際により顕著になります。人間は継続的に学習します。私たちは今日新しい事実を聞き、明日それを使うことができます。その際、脳全体を再プログラミングする必要はありません。また、以前知っていたことをすべて消去することなく、間違いから学ぶこともできます。現在の人工知能システムは、これに苦戦しています。新しいことを学習するとき、彼らはしばしば以前知っていたことを忘れてしまいます。これは科学者が「破滅的忘却（catastrophic forgetting）」と呼ぶ問題です。エンジニアは、新しいデータが追加される間、古い情報を保護する特別な技術などのパッチを構築して、これを修正しようとしてきました。しかし、これらは外部的な解決策です。それらは、生涯を通じて変化し適応していく人間のニューロンの自然で可塑的な方法とは同じではありません。機械は人間と同じ方法で学習しているのではなく、特定の失敗モードを回避するために「継ぎ当て」されているのです。
研究はまた、これらのシステムが文脈と意思決定をどのように扱うかも調査しました。人間は置かれている状況に対して非常に敏感です。私たちは、ある言葉がジョークの中ではある意味を持ち、真剣な議論の中では全く別の意味を持つことを知っています。私たちは目標、感情、そして過去の経験に基づいて意思決定を行い、多くの場合、完璧に論理的ではないものの、現実世界でうまく機能するショートカットを利用します。人工システムは、ルールが明確で目標が具体的な場合には、非常に優れた意思決定を行うことができます。しかし、状況が曖昧であったり、質問の言い回しがわずかに変わったりすると、これらのシステムはしばしば躓きます。彼らは、言葉の深い意味を把握するのではなく、言葉の表面的な形状に集中する傾向があります。これは、彼らが人間のように文脈を真に把握していないことを示しています。彼らは間違っているときでさえ、自信に満ち、流暢に振る舞い、真実の事実と同じトーンで誤った情報を生成します。
このレビューの最も重要な発見は、これらの問題が単なる孤立した不具合ではないということです。これらは、現在の人工知能の設計全体における欠落したピースを指し示しています。私たちが現在持っているシステムは、別々のパーツから構築されています。ある部分は言語を扱い、別の部分は記憶を扱い、また別の部分は意思決定を扱います。これらはエンジニアによって接続されていますが、自然に、あるいは一つのユニットとして共に適応しながら対話することはありません。研究は、記憶、学習、そして意思決定が、一つの連続した自己修正的な全体として統合されたシステムを、私たちはまだ作り出せていないと主張しています。機械はその仕事をこなせますが、柔軟性と理解をもって世界をナビゲートすることを可能にする、そのような「統一された精神」は持っていないのです。
研究者たちは、これが機械がこのような知性を達成できないことを意味するのではない、と慎重に述べています。それは単に、現在私たちが持っている証拠には、それが示されていないということを意味します。現在の、モデルを大きくし、より多くのデータで訓練するというアプローチは、問題を解決していません。実際、これらのモデルが大きくなるにつれて、古い情報を保持しながら新しいことを学ぶのが難しいといったギャップは、より切実なものになっているようです。研究は、現在持っているものを単にスケールアップするだけでは不十分であることを示唆しています。このギャップを埋めるためには、システムのアーキテクチャそのものを再考する必要があるかもしれません。おそらく、記憶や学習を、機械に付け加えられたツールとしてではなく、機械の本質的なものにする方法を見つけ出す必要があるのです。
この研究は、私たちが現在どのような状況にあるのかという明確な地図を提供しています。それは、私たちが人間の行動を驚くほど多くの方法で模倣できる機械を構築してきた一方で、人間のように考える機械はまだ構築できていないことを示しています。その違いは、単に正解を得られるかどうかではなく、その答えにどうやって到達するかという点にあります。学習、記憶、そして行動が、一つの適応的な織物として編み合わされたシステムを作り出せない限り、私たちの人工的な創造物は、真の知性の例ではなく、知性をシミュレートする強力な道具であり続けるでしょう。前進への道は、単にコンピュータを大型化すること以上に、経験する世界を真に統合できる精神をどのように構築するかという、より深い理解を必要としているのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。