Agents of ViTAL: Ethics Missions -- A Narrative-Centered Learning Environment with a Co-Designed Conversational Agent for Middle School AI Ethics

現代の教室において、テクノロジーはもはや単に授業を届けるための道具ではなく、学習プロセスそのものの参加者になりつつある。人工知能システムは、生徒の行動を分析し、フィードバックを提供し、さらには将来のパフォーマンスを予測することさえ可能になりつつある。これらのツールは効率性とパーソナライゼーションを約束する一方で、プライバシー、公平性、そしてコンピューティング・パワーの隠れたコストに関する複雑な問いをもたらしている。アルゴリズムに満ちた世界で育つ若者にとって、これらのシステムがどのように機能し、どのような倫理的なトレードオフを伴うのかを理解することは、読み書きと同じくらい不可当なものになりつつある。教育者にとっての課題は、単にコードの仕組みを教えることではなく、テクノロジーが人間の価値観と出会うときに生じる困難な決断を、生徒たちがどのように乗り越えていくかを助けることである。そのためには、学習者が意思決定者の立場に立ち、対立する利益を秤にかけ、たとえ設定が想像上のものであっても、現実味を感じられる環境の中で倫理的推論の技術を実践できる場が必要である。

米国の各大学の研究チームは、これらの抽象的な概念を中学校の教室に持ち込むための新しい方法を開発した。彼らは「Agents of ViTAL: Ethics Missions（ヴィタル・エージェンツ：倫理ミッション）」と呼ばれるデジタル学習環境を作成した。これは、生徒たちが協力して架空の問題を解決するブラウザベースの体験型プログラムである。このシナリオでは、ある中学校が、教室での議論に対して即座にフィードバックを提供することを目的とした「PresenterPal」という新しい人工知能システムの導入を検討している。生徒たちは受動的な聞き手ではない。彼らは意思決定者である。彼らは、図書館の静かな秩序と実験室の実験的な性質を融合させた「Libratory（リブラトリー）」と呼ばれる仮想空間へと足を踏み入れる。そこで彼らは、ミッションの舞台を設定するデジタルガイドに出会う。そのミッションとは、学校がこのテクノロジーの導入を進めるべきかどうかを調査することである。

調査が始まると、生徒たちはシミュレーションされた学校内を探索し、新しいシステムによって影響を受ける様々な人々から情報を収集していく。彼らは教師、生徒、管理者、そしてITスタッフと対話し、データ漏洩に関するニュースレポートや予算制約に関するメモなどの証拠を集める。シミュレーションを進める中で、生徒たちは人工知能の3つの主要な倫理的側面、すなわちプライバシー、バイアス、環境負荷に直面せざるを得ない具体的な状況に遭遇する。例えば、システムを構成する際、生徒は生徒のインタラクション・データを校内のローカルサーバーに保存するか、あるいは外部のクラウドサーバーに保存するかを決定しなければならない。この選択は単なる技術的な問題ではない。それは重みを持つ。データをローカルに保存すればプライバシーは保護されるかもしれないが、学校の限られた予算を圧迫する可能性がある。一方で、クラウドを使用すればセキュリティは向上するかもしれないが、他に誰が情報にアクセスできるかという懸念が生じる。これらの瞬間は、完璧な解決策はめったに存在せず、あるのは一連の困難な妥協であるということを示すために設計されている。

証拠を集めた後、生徒たちは「ランキング・チャレンジ」として知られる共同フェーズへと進む。このパートでは、グループ内でAIシステムのどのリスクと利益が最も重要であるかについて合意形成を行わなければならない。彼らは共有デジタルボードを使用してこれらの要素をランク付けし、統合されたチャットウィンドウを通じてその根拠を議論する。このボードは彼らの集団的な思考の視覚的な記録として機能し、互いの意見を聞くことで個々の見解がどのように変化していくかを把握するのに役立つ。目標は唯一の「正解」を見つけることではなく、先ほど集めた証拠を用いて、トレードオフを正当化するスキルを練習することである。彼らは、なぜ利便性よりもプライバシーを重視するのか、あるいはなぜ即時の効率性よりも環境コストが重要だと考えるのかを明確にし、学校への最終的な推奨事項について合意しなければならない。

このプロセス全体を支えているのが、「EthicsBot（エシックス・ボット）」と呼ばれるデジタル・コンパニオンである。従来の教師や検索エンジンのように答えを提供するのではなく、EthicsBotは、対等なパートナーのような思考のパートナーとして機能するように設計されている。それは生徒に何を考えるべきかを教えるのではなく、代わりに、代替となる視点を検討させ、自身の推論を明確にし、選択に伴う倫理的な重みを考察させるような問いかけを行う。このシステムは、独自のプロセスを経て構築された。生徒自身がこのボットの設計に携わったのである。共同設計のプロセスを通じて、高校生たちがフィードバックを提供し、ボットの話し方、提案内容、そして誤った情報を提供しないための安全制限の形成に貢献した。これにより、ツールが学習者にとって関連性のあるものとなり、彼らが研究しているテクノロジーの開発における彼らの声を尊重するものとなっている。

研究者たちは、同意を得た80名の生徒を含む4つの高校1年生のクラスを対象に、この環境のテストを行った。結果として、生徒たちは教材に対して深い関心を示した。彼らは単にゲームをプレイしたのではない。彼らは、シミュレーション内の架空のシナほどではないにせよ、テクノロジーに関する自身の現実の経験と結びつけながら、実質的な倫理的推論を行う能力を示した。生徒たちは、データセキュリティやアルゴリズムのバイアスといった複雑な問題を、高度なニュアンスを持って議論することができた。生徒を情報の受動的な受け手ではなく、能動的な参加者の役割に置くことで、このシステムは、自動化が進む世界を航海するために必要な自信とスキルを構築する手助けをしている。このプロジェクトは、若者が協力してジレンマを探求する場を与えられたとき、人工知能の倫理的景観に対して洗練された理解を発展させることができることを示唆している。