Human-GenAI Interaction: What are the Risks of Calling it “Collaboration”?

人々が共に学ぶ方法を静かに研究する分野、すなわちコンピュータ支援による協調学習（CSCL）において、研究者たちは長年、人間の精神が触れ合う複雑なダンスに焦点を当ててきた。彼らは、学生がいかにアイデアを共有し、互いの思考に異議を唱え、対話を通じて理解を構築していくのかを研究している。この研究の中心にあるのは、真の学習とは、人々が単に隣り合わせで作業しているだけでなく、互いの思考や感情に影響を与え合うような、共有されたメンタルスペースにおいて深く結びついている時に起こるという考え方である。数十年にわたり、これを支えるためのツールは、人間が他の人間とつながるのを助けるホワイトボード、共有ドキュメント、あるいはビデオ通話といった単純な補助手段であった。しかし、今、新たな力がその場に現れた。エッセイを書き、問題を解き、会話を維持することができるチャットボットの背後にある技術である生成AIが、学生や教師によって利用されているのである。これらのツールがより高度になるにつれ、自然な疑問が生じる。人間がこの機械と共に作業するとき、それは「協調（コラボレーション）」していると言えるのだろうか。「協調」という言葉は、両者が対等なパートナーであり、共通の目標に向かって双方が貢献する、精神の出会いであることを示唆している。しかし、機械は人間のような精神も、感情も、意図も持っていない。これは、私たちが新しいツールを表現するために使う言葉と、それらのツールが実際にどのように機能しているかという現実との間に、緊張関係を生み出している。

二人の研究者、ガエル・モリナリとクリスティーヌ・ルンドは、この緊張関係を検証することに着手した。彼女たちは、人間と人工知能の間の相互作用を「協調」と呼ぶことは、正確な記述なのか、それとも誤解を招くものなのかを問いかけた。これに答えるため、彼女たちは、共有された理解、相互の影響、そして感情的なつながりのような特定の人間的特性に依存するという、この分野における協調の厳密な定義に基づいた。そして、それらの人間的特性を、人工知能が実際に何を行っているかと比較した。彼女たちの調査は、機械は驚くほど役に立つこともあるものの、それが人間と形成する関係は、二人組の人間同士のパートナーシップとは根本的に異なるものであることを明らかにしている。著者らは、この相互作用を「協調」と呼ぶことは、人間と機械の境界線を曖昧にし、人間同士のつながりの価値や学生の学び方を変化させる可能性があるため、リスクがあると主張している。

研究者たちはまず、人間と機械が共に働くことについての考え方の歴史を辿った。長い間、科学者たちは、人間の能力とコンピュータの能力が単一の強力なシステムへと融合する未来を想像してきた。初期の思想家たちは、これを、機械が人間の力を拡張する「共生（シンビオシス）」、あるいは人間と機械が共に学び、共に変化していく「共進化（コーエボリューション）」と表現した。近年では、この概念は「ハイブリッド・インテリジェンス」として枠組み化されており、そこでは人間と人工知能は一つのシステムを構成する二つの部分であり、それぞれが異なる強みをもたらすものと見なされている。人間は創造性、感情の深さ、倫理的判断を提供し、一方で機械は速度、パターン認識、そして膨大なデータ処理を提供する。このハイブリッド・システムの目標は、どちらか一方では達成できない結果を生み出すことにある。しかし、著者らは、これがパートナーシップのように聞こえる一方で、その相互作用の実態はしばしば一方的なものであると指摘している。機械は、人が人から学ぶような方法で、真に人間から「学ぶ」ことはない。それは統計的なパターンに基づいて出力を調整するのであって、人間のパートナーの目的や感情を真に理解して調整しているわけではないのである。

研究者たちがこれらの相互作用に協調の厳格なルールを適用したとき、いくつかの隔たりが現れた。真の協調には、両者が相手の視点を理解し、意味を構築するために共に働くことが必要である。人間のグループでは、もし誰かが異議を唱えれば、もう一方はその抵抗を感じ取り、自らの思考を調整しなければならない。この摩擦こそが学習に不可欠なのである。しかし、人工知能の場合、機械には保持すべき視点も、変わるべき精神も存在しない。機械は反論を生成することはできるが、人間的な意味での「反対」はしない。それは単に、会話に適合する応答を計算しているに過ぎない。著者らは、機械は「相互主観性」、すなわち二人が精神的な空間を共有し、互いの内面世界を真に理解し合う状態に参加できないことを発見した。機械は理解しているかのような外見を模倣することはできるが、他者を真に知るために必要な意識を保有していないのである。

この区別は、学習の感情的および社会的側面を見る際にさらに重要となる。人間の協調は、私たちの身体と感情に深く根ざしている。私たちは共感し、挫折し、「我々」という感覚を共有された経験を通じて築き上げる。人工知能は、ユーザーが悲しんでいるように見えるときに慰めの言葉をかけるなど、感情的な手がかりに反応するようにプログラムされることができる。しかし、機械自体は悲しみを感じることはない。機械は、人間が他の人間に影響を受けるように、人間から影響を受けることはない。著者らはこれを深刻な非対称性と表現している。人間は繋がりを感じるかもしれないが、機械は、その繋がりを体験することなくシミュレートするだけのツールであり続ける。これにより、特に学生が、存在しないはずの相互的な関係を信じ込み、自身の感情的なニーズを機械に投影してしまうというリスクが生じる。

このような相互作用を「協調」と呼ぶことの帰結は、教育にとって重大である。もし学生が自分はパートナーと共に働いていると信じてしまえば、自分の思考や意思決定を機械に委ね、機械を過度に信頼し始める可能性がある。これは「認知的オフローディング（認知的な負荷の肩代わり）」と呼ばれ、人が外部ツールに精神的な作業を任せてしまう現象である。これはタスクを容易にする一方で、著者らは、学生が自らの学習を監視することをやめ、機械が生成したものにただ従うようになる「認知的降伏」を招く恐れがあると警告している。研究によれば、学生がこれらのツールに頼りすぎると、批判的思考能力が弱まり、深い理解を必要とするテストにおいて成績が低下することが示唆されている。機械は宿題を早く終わらせる手助けはするかもしれないが、教材の内容を学ばせるための助けにはならないかもしれない。

さらに、著者らは、機械をパートナーとして扱うことは、私たちの人間関係に対する見方を変えてしまうと主張している。もし私たちが、常に協力的で、常に利用可能で、決して真に私たちに異議を唱えない人工知能に慣れてしまったら、私たちは人間の友人や教師に対しても同じことを期待し始めるかもしれない。私たちは、人間と働くことの、面倒で困難だが、最終的にはより報われるプロセスよりも、機械との摩擦のないスムーズなやり取りを価値あるものと考え始めるかもしれない。機械は強力な道具になり得るが、それを「協力者」と呼ぶことは、それが道具であるという事実を覆い隠してしまう。機械には、人間のパートナーシップを定義づけるような主体性、責任、そして真の相互理解の能力が欠けているのである。

研究者たちは、私たちは言葉の使い方に注意しなければならないと結論づけている。人間と生成AIの相互作用を「協調」と呼ぶことは、単なる語彙の誤りではなく、私たちの教育実践や社会的期待を再形成しかねない概念的な転換である。人間同士の協調と、人間と機械の相互作用との区別を堅持することで、私たちは人間的な繋がりの独自の価値を守ることができる。そうすることで、学生が、パートナーのふりをするだけの機械に自らの思考をアウトソーシングするのではなく、他者と共に働くという、挑戦的で相互的、かつ深く人間的なプロセスを通じて、自らの精神を発達させ続けられるようにできるのである。機械は驚くべき発明であるが、それは対等な仲間ではない。その違いを認識することが、学習の未来にとって不可欠なのである。