Why did My Robot Just Change Personality? Prompting Guidelines for a Grounded Robot Persona in LLM-Based HRI
Dieses Paper befasst sich mit den Risiken unvorhersehbaren Roboterverhaltensens in der LLM-basierten Mensch-Roboter-Interaktion, indem es ein strukturiertes achtkomponentiges Prompt-Design-Framework sowie ethische Leitlinien vorschlägt, die auf Expertenfeedback basieren, um transparente, sichere und anpassungsfähige Roboter-Personas zu gewährleisten.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich einen sozialen Roboter vor, eine Maschine, die gebaut wurde, um mit einem Menschen zu chatten, zu helfen und vielleicht sogar Trost zu spenden. Um diese Konversation natürlich wirken zu lassen, verbinden Ingenieure den Roboter oft mit einem Large Language Model, einer Art künstlicher Intelligenz, die auf riesigen Mengen von Texten trainiert wurde, um menschliche Sprache zu verstehen und zu generieren. Diese Technologie ermöglicht es dem Roboter, Fragen zu beantworten, Geschichten zu erzählen und auf Emotionen mit einer Flüssigkeit zu reagieren, die vor wenigen Jahren noch unmöglich war. Es gibt jedoch eine verborgene Lücke zwischen der physischen Realität des Roboters und den Worten, die er spricht. Die Maschine besitzt vielleicht keine Augen, um einen Raum zu sehen, keine Hände, um ein Objekt aufzuheben, oder keinen Zugriff auf das Internet, doch das Sprachmodell, das sie verwendet, weiß über diese Dinge Bescheid, weil es darüber gelesen hat. Ohne sorgfältige Anweisungen könnte der Roboter selbstbewusst behaupten, er könne Sie sehen oder eine Tasse holen, was eine verwirrende und potenziell irreführende Erfahrung für die Person schafft, die mit ihm spricht. Diese Diskrepanz ist das zentrale Rätsel, vor dem Forscher stehen, die wollen, dass diese Maschinen sichere, ehrliche und wahrhaft hilfreiche Partner sind.
Ein Team von Forschern aus Universitäten in ganz Europa, Australien und Israel hat dieses Problem kürzlich angegangen, indem sie eine einfache, aber entscheidende Frage stellten: Wie sagen wir einem Roboter genau, wer er ist und was er kann, bevor er anfängt zu sprechen? Ihre Arbeit, die auf einer großen Robotik-Konferenz präsentiert wurde, geht über die Vorstellung hinaus, dass die Persönlichkeit eines Roboters nur eine untergeordnete Einstellung ist, an der man ein wenig drehen kann. Stattdessen argumentieren sie, dass die Anweisungen, die an die künstliche Intelligenz gegeben werden – der „Prompt“ –, das wichtigste Gestaltungselement zur Formung des Verhaltens eines Roboters sind. Um dies zu lösen, entwickelte das Team ein strukturiertes Framework, das die Identität des Roboters in acht spezifische Teile zerlegt. Diese Teile beinhalten die Definition der Rolle des Roboters, die klare Angabe seiner physischen Grenzen, die Erklärung, wie er mit Fehlern umgeht, und die Festlegung strenger ethischer Grenzen, um Lügen oder Schädigungen zu verhindern.
Die Forscher haben diese Liste nicht einfach in einem stillen Büro erfunden; sie haben sie entwickelt, indem sie untersuchten, was andere Wissenschaftler bereits tun, und testeten diese Ideen dann mit Experten. Zuerst überprüften sie aktuelle Studien, in denen Roboter Large Language Models nutzten, um mit Menschen zu kommunizieren. Sie stellten fest, dass die meisten Forscher dem Roboter lediglich seinen Namen und seine Hauptaufgabe nannten, wie etwa „sei ein Tutor“ oder „sei ein Gefährte“. Sie sagten dem Roboter jedoch selten, was er nicht tun konnte, wie zum Beispiel zuzugeben, dass er sich nicht an vergangene Gespräche erinnern kann oder dass er das Gesicht des Nutzers nicht sehen kann. Dieses Versäumnis führte dazu, dass Roboter oft so handelten, als besäßen sie Fähigkeiten, die sie gar nicht hatten, was zu Verwirrung und Vertrauensverlust führte.
Um zu verstehen, warum dies von Bedeutung ist, versammte das Team für einen Workshop siebenundzwanzig Experten für Mensch-Roboter-Interaktion zusammen. Dies waren erfahrene Forscher und Praktiker aus unterschiedlichen Fachbereichen, darunter Psychologie, Ethik und Informatik. Sie diskutierten darüber, wie die Persönlichkeit eines Roboters im Laufe der Zeit funktioniert und was passiert, wenn ein Roboter einen Fehler macht. Die Experten waren sich in einem entscheidenden Punkt einig: Die Persönlichkeit eines Roboters besteht nicht nur aus den Worten, die er sagt. Wenn ein Roboter behauptet, ein fürsorglicher Freund zu sein, dann aber ein Gespräch vergisst, das der Nutzer vor fünf Minuten geführt hat, fühlt sich der Nutzer getäuscht. Die Experten merkten an, dass subtile Hinweise auf die Persönlichkeit oft übersehen werden und dass die Identität eines Roboters mit seinen tatsächlichen physischen Fähigkeiten konsistent sein muss. Sie äußerten auch ernsthafte Bedenken hinsichtlich der Sicherheit und wiesen darauf hin, dass es zu gefährlichen Situationen führen kann, wenn ein Roboter über seine Fähigkeiten lügt, insbesondere bei vulnerablen Nutzergruppen wie Kindern oder älteren Menschen.
Basierend auf diesen Diskussionen und ihrer Überprüfung bestehender Arbeiten schlug das Team eine neue Art vor, die Anweisungen für diese Roboter zu schreiben. Ihr Framework erfordert von Designern, explizit acht Dinge festzuschreiben, bevor der Roboter jemals spricht. Erstens müssen sie die Identität definieren, also den spezifischen Charakter und die soziale Rolle des Roboters. Zweitens müssen sie Fähigkeitsgrenzen setzen, eine klare Liste dessen, was der Roboter wahrnehmen oder tun kann und was nicht, wie etwa die Angabe, dass er keinen Internetzugang hat oder sich nicht von selbst bewegen kann. Drittens müssen Transparenz-Anweisungen dem Roboter vorgeben, wie er zugibt, eine Maschine zu sein und welche Grenzen er hat. Viertens definiert die Aufgabe das spezifische Ziel des Gesprächs. Fünftens erklärt ein Erwartungs- und Fehlerprotokoll, wie der Roboter reagieren soll, wenn er eine Antwort nicht weiß oder wenn das Gespräch misslingt. Sechstens diktieren Datenschutzregeln, wie der Roboter mit persönlichen Daten umgeht. Siebtens sorgt die Nutzeranpassung dafür, dass der Roboter seinen Tonfall an verschiedene Menschen anpasst, wie etwa einfacher zu einem Kind zu sprechen. Schließlich setzen Ethische rote Linien harte Grenzen, um zu verhindern, dass der Roboter etwas Schädliches, Voreingenommenes oder Illegales sagt.
Die Forscher illustrierten diese Idee, indem sie zwei vollständige Prompt-Beispiele bereitstellten, die alle acht modularen Designkomponenten als Proof-of-Concept-Vorlage in einem separaten Projekt nutzen. Sie argumentieren, dass das Verhalten des Roboters, wenn diese Komponenten enthalten sind, viel vorhersehbarer und ehrlicher wird. Die Experten des Workshops bestätigten, dass das Verhalten eines Roboters ohne diese spezifischen Anweisungen instabil oder täuschend wirken kann. Sie betonten, dass man einen Roboter nicht einfach nur anweisen kann, „freundlich zu sein“; man muss ihm genau sagen, wie er innerhalb der Grenzen seiner Hardware freundlich zu sein hat. Wenn ein Roboter beispielsweise dazu konzipiert ist, einer älteren Person zu helfen, muss er programmiert sein zu wissen, dass er sie nicht physisch anheben kann, selbst wenn das Sprachmodell suggeriert, dass er es könnte.
Diese Arbeit deutet darauf an, dass die Zukunft sozialer Roboter weniger davon abhängt, die Sprache menschlicher klingen zu lassen, sondern vielmehr davon, die Einschränkungen des Roboters klar zu kommunizieren. Das Team argumentt, dass die Behandlung des Prompts als ernsthaftes Designwerkzeug und nicht als einfacher Codierungsschritt essenziell ist, um Vertrauen aufzubauen. Indem Designer gezwungen werden, genau aufzuschreiben, was der Roboter ist und was er nicht ist, kann sich das Feld von Robotern, die Fähigkeiten halluzinieren, hin zu Maschinen entwickeln, die zuverlässig, transparent und sicher sind. Die Studie beansprucht nicht, jedes Problem in der Robotik gelöst zu haben, bietet aber einen konkreten, strukturierten Weg, um sicherzustellen, dass, wenn ein Roboter spricht, seine Worte mit seiner Realität übereinstimmen. Zukünftige Arbeiten sollten die vorgeschlagenen Prompt-Richtlinien in verschiedenen Roboter-Embodiments implementieren, um die Wahrnehmung der Roboteridentität zu evaluieren.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.