Why did My Robot Just Change Personality? Prompting Guidelines for a Grounded Robot Persona in LLM-Based HRI
本論文は、専門家のフィードバックに基づいた、透明性、安全性、および適応力のあるロボット・ペルソナを保証するための構造化された8つの構成要素からなるプロンプト設計フレームワークと倫理的ガイドラインを提案することにより、LLMベースの人間とロボットの相互作用における予測不可能なロボットの振る舞いのリスクに対処するものである。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
社会的なロボットを想像してみてください。それは、人間と会話をし、助け、そしておそらくは慰めるために作られた機械です。この会話を自然に感じさせるために、エンジニアはしばしば、膨大な量のテキストを用いて人間の言葉を理解し生成するように訓練された人工知能の一種である大規模言語モデルへとロボットを接続します。この技術により、ロボットは質問に答えたり、物語を語ったり、感情に反応したりすることが可能になりましたが、これは数年前までは不可能だった流暢さです。しかし、そこにはロボットの物理的な現実と、それが発する言葉との間に隠れた溝が存在します。その機械には部屋を見るための目や、物体を掴むための手、あるいはインターネットへのアクセス権がないかもしれませんが、使用している言語モデルはその事柄について読んできたため、それらを知っています。注意深い指示がなければ、ロボットは自信満々に「あなたが見えています」とか「カップを持ってきます」などと言い出し、対話している人に対して混乱を招き、誤解を与える可能性のある体験を作り出してしまうかもしれません。この断絶こそが、これらの機械を安全で誠実であり、真に役立つパートナーにしたいと考えている研究者たちが直面している中心的なパズルです。
ヨーロッパ、オーストラリア、イスラエルの大学から集まった研究チームは、「ロボットが話し始める前に、自分は何者であり何ができるのかを正確に伝えるにはどうすればよいか？」という単純ながらも極めて重要な問いに取り組みました。主要なロボティクス・カンファレンスで発表された彼らの研究は、ロボットのパーソナリティ（人格）を単なる微調整可能な設定の一つとする考え方を超えたものです。むしろ彼らは、人工知能に与えられる指示――すなわち「プロンプト」こそが、ロボットの振る舞いを形作る上で最も重要な設計要素であると主張しています。これを解決するために、チームはロボットのアイデンティティを8つの特定の構成要素に分解するという構造化されたフレームワークを開発しました。これらのパーツには、ロボットの役割の定義、身体的限界の明確な提示、間違いに対する対処方法の説明、そして嘘をついたり危害を与えたりすることを防ぐ厳格な倫理的境界の設定が含まれます。
研究者たちはただ静かなオフィスでこのリストを考案したわけではありません。他の科学者が既に行っていることを調査し、その後専門家を通じてそれらのアイデアをテストすることで構築しました。まず、彼らは大規模言語モデルを使用して人と対話するロボットに関する最近の研究をレビューしました。その結果、ほとんどの研究者はロボットの名前とその主な仕事（例えば「チューターであれ」や「コンパニオンであれ」など）だけを伝えていることが分かりました。彼らがユーザーとの過去の会話を記憶していないことや、ユーザーの顔を見ることができないといった、「できていないこと」についてはほとんど触れていませんでした。この欠落により、ロボットは自身が持っていない能力を持っているかのように振る舞うことがあり、これが混乱と信頼の崩壊につながっていました。
なぜこれが重要なのかを理解するため、チームはヒューマン・ロボット相互作用における27人の専門家を集めてワークショップを開催しました。参加したのは心理学、倫理学、コンピュータサイエンスなど多様な背景を持つ熟練の研究者や実践者たちです。彼らは、ロボットのパーソナリティが時間の経過とともにどのように機能すべきか、またロボットがミスをしたときに何が起こるべきかを議論しました。専門家たちはある決定的な点において一致しました。それは、ロボットのパーソナリティとは単に発せられる言葉のことではないということです。もしロボットが「思いやりのある友人」であることを自称しながら、5分前に行った会話の内容を忘れてしまったとしたら、ユーザーは欺かれたと感じます。専門家たちは、パーソナリティの微妙な手がかりは見逃されやすいものであり、ロボットのアイデンティティはその実際の物理的能力と一貫していなければならないと指摘しました。また、安全性についても深刻な懸念を示し、ロボットが自身の能力について嘘をつくと、子供や高齢者のような脆弱なユーザーにとって危険な状況を招く可能性があると述べました。
これらの議論と既存の研究のレビューに基づき、チームはこれらのロボットのための新しい指示文の書き方を提案しました。彼らのフレームワークでは、デザイナーはロボットが口を開く前に、明示的に8つの項目を記述する必要があります。第一に、ロボットの具体的なキャラクターと社会的役割を定めるアイデンティティ (Identity) です。第二に、インターネットへのアクセス権がないことや自力で動けないことなど、ロボットが感知できるもの、および実行できるもの、できないものの明確なリストを示す能力の境界 (Capability Boundaries) です。第三に、自分が機械であることや自分の限界を認めるよう指示する透明性 (Transparency) の指示です。第四に、会話の具体的な目標を定義するタスク (Task) です。第五に、答えを知らない場合や会話がうまくいかない場合にどのように反応すべきかを説明する期待値と失敗時のプロトコル (Expectation and Failure Protocol) です。第六に、個人のデータをどのように扱うかを規定するプライバシー (Privacy) ルールです。第七に、子供に対して平易な言葉を使うようにするなど、異なる人々に対してトーンを変えるユーザー適応 (User Adaptation) です。最後に、有害、偏見、または違法な発言を防ぐための厳しい制限である倫理的レッドライン (Ethical Red Lines) です。
研究者たちは、これら8つのモジュール式デザイン構成要素すべてを用いた完全なプロンプト例を別のプロジェクトとして提供することで、この概念を図示しました。彼らは、これらの構成要素が含まれることで、ロボットの振る舞いがより予測可能かつ誠実になることを主張しています。ワークショップの専門家たちは、これらの具体的な指示がなければ、ロボットのパーソナリティは不安定であったり、欺瞞的であったりすると感じると認めました。彼らは、ロボットに対して単に「フレンドリーであれ」と言うことはできず、ハードウェアの限界の中で具体的にどのようにフレンドリーであるべきかを伝えなければならないと強調しました。例えば、高齢者を助けるように設計されたロボットであれば、たとえ言語モデルが「持ち上げられます」と唆したとしても、肉体的に持ち上げることはできないということをプログラムしておく必要があります。
この研究は、ソーシャルロボットの未来が、言語をより人間らしくすることよりも、ロボットの限界を明らかにすることにかかっていることを示唆しています。チームは、プロンプトを単なるコーディングステップではなく、本格的な設計ツールとして扱うことが、信頼を築くために不可避であると論じています。デザイナーに対し、ロボットが何であり、何でないのかを正確に書かせることで、分野全体が「能力を幻覚（ハルシネーション）として作り出すロボット」から脱却し、信頼でき、透明性が高く、安全な機械へと移行することができるのです。本研究はロボティクスのあらゆる問題を解決したと主張するものではありませんが、ロボットが言葉を発するとき、その言葉が現実に即したものとなることを保証するための、具体的で構造化された手法を提供しています。今後の課題としては、提案されたプロンプトのガイドラインを異なる形態のロボットに実装し、ロボットのアイデンティティの認識度を評価していくことが挙げられます。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。