Process-Constituted Intelligence: A Shared Criterion for Humans and Machines
本論文は、真の知能とは出力ではなく反復的な認知プロセスによって定義されるものであると論じ、現在の生成AIが単に出力の痕跡を再現しているのに対し、人間の認知を区別するための7つのプロセス的特徴に基づく「強い等価性」の枠組みを提案するとともに、AIツールが人間の生成的能力を減退させるのではなく増強することを保証するための設計原則と監査を提示するものである。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
知性はしばしば、最終的な結果、すなわち解かれた方程式、完成した絵画、あるいは会話の中で提示された正解と混同されがちである。数十年にわたり、科学者たちは、人間と同じ結果を生み出す機械が、本当に「考えている」のかどうかについて議論してきた。この問いは、哲学の領域から、エッセイを書き、コードを生成し、人間による作品と区別がつかないような画像を生成できるツールである、生成AIという日常的な現実へと移行している。核心となる問題は、単に出力が優れているかどうかではなく、そこにどのように到達したかである。心の研究において、単に人間の行動を模倣するシステムと、その行動を生み出すために必要な内部活動を実際に複製するシステムとの間には、長らく明確な区別が存在してきた。一方は目的地を示す地図のようなものであり、もう一方は、誤った方向への転換、休止、そして疑念の瞬間といった、プロセスそのものである。この違いを理解することは、もはや学術的な演習ではない。なぜなら、人間が思考のために機械に頼る際、彼らは自らの思考能力を構築するためのステップそのものをスキップしてしまう可能性があるからである。
マッコーリー大学およびその他の機関の研究チームは、この「プロセス（過程）」に完全に焦点を当てた、知性を測定するための新しい方法を提案した。彼らは、真の知性とは出力そのものではなく、試行、失敗、修正、そして学習という反復的な活動、すなわちプロセスによって構成されると主張している。これを検証するために、彼らは問題が解決される過程における7つの特定の特長に着目したフレームワークを開発した。これらの特長には、多くの試行を生成して失敗したものを取り除く意欲、確信に満せぬ答えを急いで出すことなく不確実性と向き合う能力、そして素材や環境から受ける抵抗から学ぶ能力などが含まれる。また、解決者がどのように対話に従事し、他者に対してどのように責任を負い、そして葛藤そのものがどのように作業を行う人物を形作るのかについても考察している。研究者たちは、機械が真に人間の精神と同等であるためには、単に正しい答えを出すだけでなく、独自のやり方でこれら7つの特長を示す必要があると示唆している。
研究者がこのフレームワークを現在の生成AIに適用したところ、重大な隔たりがあることが判明した。これらのシステムは、人間の思考の「痕跡」、すなわち完成した論文、公開されたコード、編集された画像に基づいて学習されている。それらは、これら膨大な完成物のコレクションからサンプリングすることで、最終製品を再現することを学ぶのである。出力はしばしば推論や創造性のように見えるが、人間においてそれを生成する内部活動はほとんど欠落している。機械は問題に対して葛藤することもなく、また、長年の実践から得られる判断力の緩やかな蓄積を経験することもない。それは単に、以前に見たパターンに基づいて、次に続く可能性の高い単語やピクセルを予測しているに過ぎない。研究者たちはこれを「弱い等価性（weak equivalence）」と表現している。つまり、機械は入力と出力を一致させているが、それらを結びつけるプロセスが欠落しているか、あるいは不透明であるということである。たとえこれらのシステムが、答えを出す前に手順を列挙するなど、「思考のプロセスを見せる」ような振る舞いをしたとしても、それは多くの場合、表面的なディスプレイに過ぎない。その手順は必ずしも計算を駆動しているわけではなく、推論しているように見せるための、もう一つの出力レイヤーに過ぎないのである。
本研究は、単にこれらのモデルを大型化したり、より多くのデータを与えたりすることが、この問題を解決するという考えに対し、明確に異議を唱えている。トレーニングセットにテキストを追加しても、それは完成した痕跡を増やすだけであり、知性を構築する乱雑で反復的なプロセスを増やすことにはならない。また、研究者たちは、機械が知性的であるために人間の脳の正確な生物学的構造を模倣する必要はないという考えも否定している。彼らは「強い等価性（strong equivalent）」と呼ばれる中間的な道を提案している。これは、機械が人間の脳と同じアルゴリズムを使用することを要求するものではなく、それは不可能であり、かつ望ましくもないからである。むしろ、物理的な仕組みが異なっていても、機械の振る舞いが上述の7つのプロセスの特長によって組織されていることを要求するものである。例えば、機械が「不確実性への関与」を示す際、それは疑念を感じることによってではなく、曖昧な問題を検知し、より多くの情報が集まるまで確信を持った回答を拒否するメカニズムを持つことによって示される。
人間への影響も、技術的な診断と同様に極めて重要である。研究者たちは、人間が生成的な作業を代行してくれるツールを使用する場合、その作業によって構築されるはずの能力が形成されないことを指摘している。学生がAIを使用している研究からの証拠によれば、ツールが存在する場合にはパフォーマンスが向上するものの、ツールを取り除くとパフォーマンスが低下することが示唆されている。これは、学習に必要な認知的努力をスキップしてしまったためである。危険は単なるスキルの喪失ではなく、「形成の失敗」にある。困難で、不確実で、対話的な活動こそが、人の判断力や知恵を形作るものなのであるが、AIツールはまさにそれらをバイパスしようとする傾向がある。もしツールがユーザーの曖昧さを解消してしまうなら、ユーザーは不確実性と向き合うことを学ぶことができない。もしツールが答えを提供するなら、ユーザーは味覚や判断力を養うために必要な試行錯誤を練習することができないのである。
これに対処するため、著者らはAIの設計と使用の両方に対する新しいアプローチを提案している。機械の側面では、単に答えに投票するのではなく、別のエージェントから挑戦を受けた際にアプローチを修正しなければならないエージェントのように、システムにプロセスへの関与を強制するアーキテクチャを構築することを提案している。人間側では、「プロセスを保持する（process-preserving）」支援を提唱している。これは、答えを提示するのではなく、ユーザーの思考を拡張するために次の問いや反例を提示するようなツールを意味する。目標は、生成的なステップを人間の側に留め、ツールが思考を代替するのではなく、思考の活動をサポートするようにすることである。研究者たちはまた、人間と機械の両方が、これら7つの特長を採点基準として用いて同じタスクでテストされる「プロセス監査（process audits）」の手法についても概説している。これにより、科学者は、機械が真にプロセスに関与しているのか、それとも単にその形を模倣しているだけなのか、そして人間がこれらのツールに支援されている際に認知能力を維持できているのかを測定することができる。
結局のところ、本論文は、知性を「生み出す」システムと、それを「構成する」システムの違いは、出来事の記録と、出来事そのものの違いであると示唆している。これらのツールがより強力になるにつれ、焦点は出力の最適化から、プロセスのエンジニアリングへと移行しなければならない。研究者たちは、知性の謎を解明したと主張しているわけでも、現在のAIが役に立たないと言っているわけでもない。代わりに、彼らは、シリコンの中においても人間の精神においても、思考のプロセスを尊重するシステムを構築するための、欠けている要素に対する明確な基準と、前進するための道筋を提示しているのである。結果ではなく活動に焦点を当てることで、機械がより有能になるにつれて、本来サポートすべき人間の能力を、図らずも侵食してしまうことがないようにすることができるのである。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。