Steerable Chatbots: Exploring Personalization Control Interfaces via LLM Activation Steering
Dieses Paper führt „steuerbare Chatbots“ als ein neuartiges Personalisierungsparadigma ein, das es Nutzern ermöglicht, die Ausgabe von LLMs direkt über Activation Steering anstatt über Prompting zu kontrollieren, und evaluiert drei Interface-Designs durch eine Nutzerstudie, um deren Potenzial für eine bessere Präferenzanpassung aufzuzeigen, während gleichzeitig unterschiedliche Nutzerwerte hinsichtlich Kontrolle und Transparenz hervorgehoben werden.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie unterhalten sich mit einem superintelligenten Roboter, der alles auf der Welt weiß. Normalerweise müssen Sie, wenn Sie möchten, dass er auf eine bestimmte Weise handelt – zum Beispiel besonders schick oder sehr preiswert –, dies mit Worten erklären. Sie könnten sagen: „Ich möchte ein schickes Abendessen“ oder „Ich habe ein knappes Budget“. Aber manchmal ist es schwierig, die richtigen Worte zu finden, oder der Roboter versteht nicht ganz, was Sie meinen, besonders wenn Sie das erste Mal mit ihm sprechen. In dieser Arbeit geht es um eine neue Art, mit diesen Robotern zu kommunizieren, und zwar nicht nur mit Worten, sondern mit einem „Lautstärkeregler“ für ihre Persönlichkeit.
Die Wissenschaftler hinter dieser Studie arbeiten in einem Bereich namens Mensch-Computer-Interaktion, was im Grunde die Untersuchung darüber ist, wie Menschen und Maschinen miteinander auskommen. Sie verwenden eine Technik namens „Activation Steering“ (Aktivierungssteuerung). Stellen Sie sich ein großes Sprachmodell (das Gehirn des Chatbots) wie ein riesiges, komplexes Radio vor. Normalerweise wechseln Sie den Sender, indem Sie eine Anfrage eintippen. Aber Activation Steering ist wie ein Drehregler, mit dem man bestimmte „Frequenzen“ im Gehirn des Roboters direkt hoch- oder runterdrehen kann. Wenn Sie den „Luxus“-Regler hochdrehen, fängt der Roboter an, über teure Dinge nachzudenken. Wenn Sie den „Budget“-Regler hochdrehen, denkt er darüber nach, Geld zu sparen. Die große Frage, die die Forscher stellten, war: Wenn wir normalen Menschen diesen speziellen Regler geben würden, wie sollte er aussehen? Soll man ihn hin und her schieben? Soll man ihn einmal einstellen und dann vergessen? Oder sollte der Roboter es selbst herausfinden?
Diese Arbeit führt eine neue Idee ein, die „Steerable Chatbots“ (steuerbare Chatbots) genannt wird. Anstatt von Ihnen zu verlangen, einen perfekten Absatz zu schreiben, um dem Roboter zu sagen, was Sie mögen, haben die Forscher Schnittstellen entwickelt, die es Ihnen ermöglichen, die Persönlichkeit des Roboters direkt über eine einfache Zahl oder einen Schieberegler zu steuern. Sie haben drei verschiedene Wege getestet, dies zu tun. Der erste, genannt SELECT, ist wie ein Lautstärkeregler auf Ihrem Telefon; Sie können ihn auf- oder herunterziehen, während Sie gerade chatten, um die Stimmung des Roboters sofort zu ändern. Der zweite, CALIBRATE, ist wie das Einstellen einer neuen Brille; bevor Sie mit dem Gespräch beginnen, zeigt Ihnen der Roboter zwei verschiedene Antworten, und Sie wählen diejenige aus, die Ihnen besser gefällt, was ihm hilft, die perfekte Einstellung zu finden, noch bevor das Gespräch überhaupt beginnt. Der dritte, LEARN, ist wie ein gedankelesender Freund; der Roboter hört zu, was Sie sagen, und errät Ihre Vorlieben, wobei er seine Einstellungen automatisch im Hintergrund anpasst, ohne dass Sie etwas anfassen müssen.
Die Forscher führten zuerst Computertests durch, um sicherzustellen, dass die „Regler“ tatsächlich funktionierten. Sie fanden heraus, dass das Drehen des Reglers die Antworten des Roboters tatsächlich veränderte, sodass er je nach Drehrichtung über Budget-Restaurants oder über schicke Restaurants sprach. Danach luden sie 14 echte Menschen ein, diese drei neuen Chatbots auszuprobieren. Die Ergebnisse waren interessant: Alle drei Wege, den Regler zu benutzen, halfen dem Roboter, die Nutzer besser zu verstehen, als wenn man den Roboter allein auf Basis von Worten hätte raten lassen. Dennoch gefiel den Menschen nicht jede Methode gleich gut. Einige liebten es, den Schieberegler zu haben (SELECT), weil sie sich vollkommen in Kontrolle fühlten. Andere bevorzugten es, dass der Roboter alles selbst herausfindet (LEARN), weil es sich natürlicher anfühlte und weniger Arbeit machte. Einige mochten den Vorbereitungsschritt (CALIBRATE), weil er sich präzise anfühlte, wie ein Sehtest beim Augenarzt.
Die Studie legt nahe, dass es ein mächtiges Werkzeug ist, Menschen einen direkten „Knopf“ zu geben, um die Persönlichkeit eines Chatbots zu steuern, insbesondere wenn man ihn gerade erst beginnt zu nutzen und noch keine lange Chat-Historie hat, um den Roboter zu lehren. Aber es gibt nicht das eine perfekte Design für jeden. Manche Menschen wollen der Kapitän des Schiffes sein, während andere wollen, dass das Schiff von selbst segelt. Die Arbeit kommt zu dem Schluss, dass die Zukunft der Kommunikation mit KI nicht nur aus besserem Tippen bestehen könnte, sondern daraus, uns verschiedene Arten von Steuerungen zu geben – Schieberegler, Einrichtungsassistenten oder Autopiloten –, damit wir selbst entscheiden können, wie sehr wir den Kurs der Konversation steuern wollen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.