Shaping Human-AI Interactions to Provide Improvement Pathways and Balance Competing Objectives
本論文は、理論的分析、データ駆動型モデリング、および実証的評価を組み合わせることで、個人が好ましい結果を向上または確保するために正確な信念を形成することを助け、ゲーミング行為（システムの悪用）を抑制し、かつAIシステムが意図した目的を維持することを保証する、人間とAIの相互作用を設計するためのフレームワークを提案するものである。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
あなたが、非常に賢いロボットによって常に判断されている世界を想像してみてください。そのロボットは、ローンを貸すべきかどうかを判断したり、宿題の成績をつけたり、あるいはあなたのリビングルームにいて、あなたの振る舞いが「良い」かどうかを判断したりしているかもしれません。これが、人工知能（AI）と機械学習の世界です。しかし、ここにはひねりがあります。あなたはただの受動的な対象ではありません。あなたには脳があり、ロボットがどのように考えるかを理解することができるのです。もしロボットが「緑色」のものが好きだと分かれば、たとえ自分が本当は緑が好きではなくても、家を緑色に変えようとするかもしれません。これは**戦略的行動（strategic behavior）**と呼ばれます。
ここで、ロボットがあなたの変化に対して二通りの反応を示す場面を想像してください。第一に、あなたはシステムを**操作（manipulating）している可能性があります。これは、数学を実際に学ばずに、練習テストの正確な答えだけを暗記する学生のようなものです。書類上は立派に見えますが、実際には資格がありません。第二に、あなたは向上（improver）**している可能性があります。これは、学生が実際に勉強して数学を学び、より賢くなっている状態です。これが本物です。科学者たちの大きな疑問はこうです。「人々が単にシステムを操作するのではなく、実際に『向上』するように、私たちはどのようにこれらのロボットを設計すべきか？」そして、「ロボットが、単にふりをしている人たちに騙されないようにするにはどうすればよいか？」これが、ケジア・ナギタ（Keziah Naggita）が博士論文で取り組んでいるパズルです。
論文の物語：天秤のバランスをとる
ケジアの研究は、人間とAIが互いの足をふまずにどのように共に踊れるかを探求する、三幕構成の劇のようです。彼女はこの問題を三つの異なる角度から見ています。すなわち、親が子供によるロボットへの嫌がらせをどう扱うか、人々を成長させるためにどのような目標を設定すべきか、そして、偽物の向上と本物の向上を見分けるためにロボット自体をどのように構築すべきか、という点です。
第1幕：幼児と話し相手のロボット
物語の第一部は、リビングルームで展開されます。ロボットが自分のしたいゲームをしてくれないことに苛立っている子供を想像してください。もし子供がロボットを蹴ったらどうなるでしょうか？ あるいはスマートスピーカーに向かって叫んだら？ 親は、デバイスが小さな人間のような姿（ロボット）をしているか、平らな画面（タブレット）か、あるいは音声のみの箱（スマートスピーカー）かによって、反応を変えるでしょうか？
ケジアとそのチームは、何百人もの親に、子供がさまざまなデバイスに対して攻撃的に振る舞うビデオを見てもらいました。彼女たちは、「ロボットの人間らしさ」は親の感じ方に変化をもたらすのか？ ということを知りたかったのです。
結果は驚くべきものでした。親たちは、デバイスが何であれ、子供が攻撃的であれば間違いなく懸念を抱き、叱責する傾向がありました。しかし、彼らはロボットをスマートスピーカーやタブレットと比べて特別に違った扱いをすることはありませんでした。ロボットはより人間に似ていますが、親たちはロボットに対してより多くの同情を感じたり、他のガジェットよりも「虐待されている」と感じたりすることはないようでした。結局のところ、子供が意地悪な態度を取るとき、親の反応は主に子供の振る舞いに関するものであり、ロボットがどれほど人間に似ているかによるものではないのです。このことは、子供にテクノロジーに対する扱い方を教える際、ロボットをより可愛く作るよりも、子供がフラストレーションをどう処理するかを教えることに焦点を当てるべきであることを、デザイナーに示唆しています。
第2幕：正しい目標の設定（ビデオゲームの比喩）
第二幕は、目標設定についてです。ビデオゲームを思い浮かべてください。最初のレベルが簡単すぎると、退屈してしまいます。逆にボス戦が不可能すぎると、途中で投げ出してしまいます。目指すべきは「ゴールドロック（適度な）」レベルです。つまり、挑戦意欲をかき立てるほど難しく、かつ実際に勝てるほど易しいレベルです。
ケジアは、人々が向上しようとする際の「目標レベル」をどのように設定するかを研究しました。彼女はある厄介な問題を発見しました。それは、目標を増やすことが、時には状況を悪化させることがあるということです。例えば、「5マイル走る」という目標があるとします。もし新たに「2マイル走る」という目標が追加されたら、一部の人々は5マイルを目指すのをやめて、2マイルで満足してしまうかもしれません。これは「非単調性（non-monotonicity）」と呼ばれます。選択肢が増えることが、必ずしもより良い結果につながるとは限らないのです。
彼女は、全員の向上を最大化するための完璧な目標セットを見出すための数学的な方法を開発しました。彼女は、異なるグループの人々（初心者とエキスパートなど）がいる場合、非常に注意深くなければならないことを示しました。時には、あるグループにとって完璧な目標が、別のグループにとっては最悪の目標になることもあります。彼女の研究は、政策立案者や教師に対し、人々を落胆させることなく、彼らのベストを引き出すためのターゲットを設定するためのレシピを提供しています。これにより、「ゲーム」がすべての人にとって公平であることを保証します。
第3幕：探偵ロボット（偽物を見破る）
最終幕は、最も複雑なものです。ここでは、ケジアはロボットの脳に注目します。ロボットは、誰に「パス（合格）」を与えるかを決定する必要があります（例えばローンや仕事の審査）。しかし、ロボットは、人々が自分を欺こうとする可能性があることも知っています。一部の人々は真に向上（improvement）しますが、他の人々は単にふり（manipulation）をするかもしれません。
ケジアは問いかけました。「『真の向上』を称賛し、『偽物』を無視する分類器（意思決定者）を構築できるだろうか？」
彼女は、これが非常に困難であることを証明しました。実際、ルールが複雑になりすぎると、コンピューターが完璧に「善いプレイヤー」と「ズルをするプレイヤー」を分ける完璧な方法を見つけることはできない（NP困難と呼ばれる概念）ことを彼女は示しました。しかし、彼女は単に「不可能だ」と言ったわけではありません。より単純な状況における特定のアルゴリズムを構築しました。
例えば、もしロボットが少しリスク回避的（risk-averse）（つまり、偽物である可能性のある人に「パス」を与えることに対して非常に慎重である）であれば、非常に優れた仕事ができることを彼女は示しました。少し厳格になることで、ロボットは人々がデータを偽造するのではなく、実際にスキルを向上させるように促すことができます。彼女の実験では、これらの「リスク回避的」なロボットは、最初は少し慎重ではあるものの、間違いが少なく、より多くの人々を真に資格のある状態へと導きました。
大きな教訓
ケジアの論文は、人間とAIの相互作用の未来に向けたガイドブックです。それは私たちに次のように伝えています。
- 子供は子供である： ロボットが人間に似ているかどうかに関わらず、親は悪い振る舞いに対して同様に反応します。私たちは、単にロボットをより可愛くするのではなく、子供をより良く教育する必要があります。
- 目標は重要である： 正しい目標を設定することは繊細な技術です。目標が多すぎたり、間違っていたりすると逆効果になることもありますが、適切な数学を用いれば、私たちは誰もが潜在能力を発揮できるよう支援できます。
- 慎重に、かつ公平に： 人々がシステムを操作するのを防ぐためには、意思決定者は賢明であり、かつ少しのリスク回避性を持つ必要があります。これは、意地悪になることを意味するのではありません。真の努力を称賛し、偽物を見抜くようなシステムを設計することを意味しています。
結局のところ、この研究は数学やコードだけの話ではありません。AIが、単に私たちが望むものを手に入れるために欺けるツールではなく、私たちがより良い自分になれるよう助けてくれる世界を作るためのものです。それは、ロボットと人間が同じチームになれるようにするための研究なのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。