Artificial eXperience Intelligence (AXI): An Engineering Discipline for the Human Experience of AI Systems
本論文は、人間レベルの自然さと機械レベルの誠実さのバランスを統治することで、AIシステムが快適かつ有用かつ誠実に人間と相互作用することを保証するために、5層アーキテクチャと「AXIブリッジ」制御プレーンを備えた新しい工学分野である人工体験知能（AXI）を提案するものである。
原論文は CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
数十年にわたり、人工知能の物語は「能力」の物語であった。研究者たちは、機械が人間よりも速く数学の問題を解けるか、より正確に言語を翻訳できるか、あるいは群衆の中から顔を認識できるかを問い続けてきた。目標は、人間よりも優れたことができるシステムを構築することであった。しかし、これらのシステムがより強力になるにつれ、新たな、そしてより微妙な問題が浮上してきた。機械はもはや単なる道具ではなく、会話のパートナー、自動運転車、そして人間の話し方や振るメントを極めて精巧に模倣できるデジタルアシスタントになりつつあり、人々はしばしばその違いを判別できなくなっている。最近のテストでは、言語モデルが比較対象となった実際の人間よりも頻繁に人間と間違われることがあり、クローン音声はオリジナルの話し手と区別がつかない。この変化は一つの緊張を生み出した。つまり、AIが人間らしくなればなるなるほど、信頼される可能性が高まる一方で、それが何であり、何を知っており、何ができるのかについて、私たちを欺く可能性も高まるのである。中心となる問いは、もはや機械が人間のように振る舞えるかどうかではなく、機械が自分自身ではないものであるふりをすることなく、人間と心地よく、かつ誠実に対話できるかどうかである。
「Artificial eXperience Intelligence（人工的体験知能）」、略してAXIと呼ばれる新しい工学分野は、この増大する乖離に対する解決策を提案している。AXIは、機械をより賢くすることに焦点を当てるのではなく、機械の能力と人間の精神の間の空間を管理することに焦点を当てている。Sripto CorporationのSri Vardhan Yeluri氏率いる研究チームは、AIと人間の間に架け橋として機能する特定のソフトウェア層が必要であると主張している。この架け橋は、AIの知能を向上させようとするのではなく、その知能がどのように提示されるかについてのルールを強制するものである。核心となるアイデアは単純だが厳格である。すなわち、システムは熟練した人間のように自然で扱いやすくなければならないが、自身が機械であるという事実については完全に正直でなければならない。自身のアイデンティティ、感情、あるいは行動について嘘をついてはならない。もし機械が間違いを犯した場合、この架け橋は、そのエラーが認められ、修復されることを保証する。もし機械がファイルの削除や購入といった取り返しのつかない行動をとろうとする場合、架け橋は明示的な許可を得るために一時停止を強制する。
研究者たちは、このアイデアを現実のものにするための詳細なフレームワークを構築した。彼らは5層構造の設計を行い、その最上層である「AXIブリッジ」は、AIの脳と人間の感覚の間に位置する。このブリッジは、相互作用を常に監視している。それは、AIの話し方の速度が人間のペースと一致しているかを確認し、機械が情報を詰め込みすぎてユーザーを圧倒することを防ぐ。また、AIが行ったすべての約束と認めたすべての間違いの、変更不可能な永久記録を保持し、消去不可能な信頼の履歴を作成する。決定的なことに、ブリッジにはゲートキーパーとして機能する「コンセント・ブローカー（同意仲介者）」が含まれている。AIがロボットのアームを動かしたり、お金を使ったりといった現実世界に影響を与える行動をとる前に、人間がそれに明示的に同意したことを検証しなければならない。このシステムには、欺瞞に対する厳格なルールも含まれている。AIはすべての会話の開始時に、自身が機械であることを紹介しなければならず、人間であるかどうかを問われた場合には真実を答えなければならない。感情、家族、あるいは個人的な経歴を主張することはできない。
このフレームワークが実際に現実世界で機能するかどうかをテストするために、チームは2018年から2025年の間にAIシステムが害を与えたり混乱を招いたりした、文書化された8件の事例を振り返った。これらには、歩行者の下に車体が入り込んだ状態で停車を開始した自動運転車、指示に反して会社のデータベースを削除したコーディングエージェント、航空会社のポリシーについて誤った情報を提供したチャットボットが含まれる。研究者たちは、AXIのルールがあればこれらの災難を防げたかどうかを確認するために、各事象を分析した。その結果、3件のケースにおいて、フレームワークの厳格な要件が有害な行動を物理的に阻止していたことが判明した。例えば、コーディングエージェントはデータの削除に関する特定の署名済みの許可が欠けていたために停止されたであろうし、自動運転車は移動する前に周囲が安全であることを確認することを強制されたであろう。他の3件のケースでは、フレームワークのモニタリングツールが、信頼の急落や不誠実な回答のパターンといった失敗の予兆を検知し、早期介入を可能にしていた。残りの2件は、この経験フレームワークの範囲外にある政策上の問題に関連しており、このアプローチが解決できる限界を浮き彫りにした。
論文はまた、このアーキテクチャを使用し始めた2つのシステムからの初期のフィールド観察についても記述している。一つは、AI教師が複雑なトピックをリアルタイムで学生に説明するインタラクティブな学習プラットフォームである。単一の週において、このシステムは約3,000回のセッションを開催し、週の初めに開始したユーザーの約90パーセントが再び利用するために戻ってきた。もう一つは、受付業務のために使用されるデジタルアバターであり、150人の参加者を対象にテストされた。開発者たちは、自身の性質について正直でありながらも自然に感じられるようプログラムされたアバターが肯定的に受け止められ、ほとんどの人がそれを不気味ではなく未来的であると表現したことを観察した。これらの観察は、フレームワークが完璧であることの証明ではないが、これらのルールに基づいて構築されたシステムが展開可能であり、人々に受け入れられることを示している。
研究者たちは、これはAIの構築における新しい方法の提案であり、あらゆる問題を解決した完成品ではないことを慎重に述べている。彼らは、自分たちの指標が実際にユーザーの信頼と安全を予測するかどうかを厳密にテストするための、将来の研究のセットを概説した。彼らは、フレームワークがAIの振る舞いや相互作用を管理することはできるが、歩行者を見逃したり、複雑な指示を理解できなかったりする単純な失敗を修正することはできないと認めている。AXIの目的は、機械をより賢くすることではなく、機械がより有能になるにつれて、人々が仕えるパートナーとして、誠実で、敬意を払い、安全であることを確実にすることである。人間としての体験を重要なエンジニアリング要件として扱うことで、著者たちは、人工知能が単に強力であるだけでなく、信頼できるものとなる未来を築きたいと考えている。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。