Evaluating XAI Support From A Hierarchical Reinforcement Learning Policy in Human-Agent Collaboration
Diese Arbeit präsentiert die erste systematische Evaluierung von intrinsisch erklärbarem hierarchischem bestärkendem Lernen in der Mensch-Agent-Kollaboration unter Verwendung des Overcooked-AI-Benchmarks und zeigt auf, dass Erklärungen zwar Tendenzen zu einer schnelleren Verbesserung zeigten, jedoch durch die per Audio übermittelte Form der Erklärungen die Mensch-Agent-Arbeitsallianz signifikant untergruben, indem sie unerfüllte Partnerschaftserwartungen erzeugten.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie spielen ein Hochgeschwindigkeits-Videospiel mit einem Roboter-Teamkollegen. Sie beide müssen Zwiebeln hacken, Suppe kochen und sie servieren, bevor die Zeit abläuft. In der realen Welt, wenn zwei Menschen zusammen spielen, reden sie miteinander: „Ich schnappe mir die Tomate, du schnappst dir den Topf!“ oder „Pass auf, ich komme durch!“ Dieses Geplauder hilft ihnen, ein gemeinsames Verständnis dessen aufzubauen, was gerade passiert. Aber Roboter sind oft wie stille, mysteriöse Maschinen; sie bewegen sich schnell und tun Dinge, aber sie sagen einem nicht, warum. Dies schafft eine Lücke. Wenn ein Roboter ein echter Partner sein soll und nicht nur ein Werkzeug, muss er seine Gedanken erklären. Hier kommt „Explainable AI“ (XAI) ins Spiel. Es ist die Wissenschaft, Roboteren beizubringen, zu sagen: „Ich mache das, weil...“, damit Menschen ihnen besser vertrauen und mit ihnen zusammenarbeiten können. Aber hier liegt der knifflige Teil: Wenn der Roboter zu viel redet, könnte er Sie ablenken. Wenn er auf die falsche Art spricht, könnte er Sie nerven. Die große Frage lautet: Wie bringen wir einen Roboter dazu, sich zu erklären, ohne dabei im Weg zu stehen?
Dieses Paper befasst sich genau mit diesem Problem, indem es ein digitales Küchenexperiment mit einem Spiel namens Overcooked-AI aufbaut. Die Forscher verwendeten eine spezielle Art von Robotergehirn, das „Hierarchical Reinforcement Learning“ genannt wird. Denken Sie an einen Roboter, der nicht nur über jeden winzigen Schritt nachdenkt (wie „links bewegen, rechts bewegen“), sondern statet in größeren Blöcken denkt, wie zum Beispiel „eine Zwiebel holen“ oder „Suppe in eine Schüssel geben“. Da er in diesen großen Blöcken denkt, kann er Ihnen ganz natürlich sagen, was er als Nächstes plant. Das Team wollte sehen, ob das Zulassen von Kommunikation seitens des Roboters dazu führt, dass Menschen besser zusammenarbeiten. Sie testeten zwei Arten der Kommunikation: Der Roboter konnte Nachrichten auf den Bildschirm tippen (Text) oder sie laut aussprechen (Audio).
Die Ergebnisse waren eine Mischung aus Überraschungen und Lehren. Erstens führten die Erklärungen des Roboters nicht unmittelbar dazu, dass das Team mehr Punkte erzielte. Tatsächlich erzielten die menschlichen Spieler, die gar keine Erklärungen erhielten, im Durchschnitt sogar etwas höhere Punktzahlen, obwohl der Unterschied nicht groß war. Dies deutet darauf hin, dass ständige Updates für Menschen, die bereits gut in Spielen sind, lediglich eine Ablenkung sein könnten. Es gab jedoch einen Lichtblick: Die Spieler, die Erklärungen erhielten, schienen zu schneller zu lernen, wie man mit dem Roboter zusammenarbeitet. Sie verbesserten ihre Punktzahlen schneller im Laufe der Zeit, als ob das Geplapper des Roboters ihnen geholfen hätte, den Stil des Roboters früher zu verstehen.
Doch die interessanteste Entdeckung geschah in der Art und Weise, wie der Roboter sprach. Als der Roboter laut sprach (Audio), passierte etwas Seltsames. Obwohl die Spieler schneller lernten, fühlten sie eine viel schwächere Verbindung zu dem Roboter. Sie hatten nicht das Gefühl, im selben Team zu sein. Es ist, als ob die Stimme des Roboters sie dazu brachte, ein echtes Gespräch und ein Versprechen dessen, was als Nächstes passieren würde, zu erwarten. Da der Roboter jedoch nur auf den Moment reagierte (wie ein Reflex), änderte er seinen Plan oft augenblicklich nach dem Sprechen. Wenn der Roboter sagte: „Ich gehe zum Topf“, dann aber sofort zur Arbeitsplatte lief, fühlte sich der Mensch verraten. Die gesprochene Stimme ließ den Roboter wie einen Partner erscheinen, der sein Wort halten sollte, aber das Gehirn des Roboters war zu reaktiv, um dieses Versprechen tatsächlich halten zu können.
Im Gegensatz dazu fühlten die Spieler bei dem Text, den der Roboter einfach auf den Bildschirm tippte, nicht diesen Verrat. Sie konnten den Text ignorieren, wenn sie wollten, sodass der Roboter sich nicht wie ein „falscher“ Partner anfühlte. Die Studie legt nahe, dass die Lautsprache zwar die Aufmerksamkeit erregt und hilft, schneller zu lernen, aber auch Erwartungen weckt, die ein einfacher, reaktiver Roboter vielleicht nicht erfüllen kann. Die Forscher kommen zu dem Schluss, dass wir – wenn wir wollen, dass Roboter mit uns sprechen – sicherstellen müssen, dass sie tatsächlich gut darin sind, die Versprechen einzuhalten, die ihre Stimmen implizieren, sonst könnte die Partnerschaft als gebrochen empfunden werden.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.