"Many Are My Names": The Anatomy of the Assistant and Its Personas via Sparse Autoencoders
Diese Arbeit nutzt Sparse Autoencoder, um aufzuzeigen, dass Sprachmodell-Personen (wie etwa Rollenspiel-Charaktere) einen Kernsatz an „Assistenten“-Merkmalen beibehalten und sich in tieferen Schichten progressiv differenzieren, während Story-Charaktere diesen Kern gänzlich vermissen lassen, was ein strukturelles Kontinuum zwischen dem Standardmodus und dem immersiven Simulationsmodus hervorhebt.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie stehen vor einem riesigen, unsichtbaren Orchester. Sie sehen die Musiker nicht, aber Sie hören die Musik. In der Welt der künstlichen Intelligenz ist dieses Orchester ein „Large Language Model“ (LLM). Das sind die superintelligenten Computerprogramme, die mit uns chatten, Geschichten schreiben und Fragen beantworten. Aber hier liegt das Rätsel: Wie weiß das Innere des Computergehirns, wer gerade spricht? Ist es der hilfreiche, höfliche „Assistent“, als der es gebaut wurde? Ist es ein mürrischer Hausmeister namens Jamy? Oder ein tapferer Elf in einem Fantasy-Roman?
Lange Zeit dachten Wissenschaftler, dass diese verschiedenen „Stimmen“ wie verschiedene Radiosender wären. Man dreht am Regler und plötzlich ändert sich der gesamte Sender. Doch eine neue Studie deutet darauf an, dass es eher wie ein einziger Musiker ist, der verschiedene Masken trägt. Die Forscher verwendeten ein spezielles Werkzeug namens „Sparse Autoencoder“ (SAE). Stellen Sie sich ein SAE wie ein hochtechnologisches Mikroskop vor, mit dem wir die winzigen, einzelnen Noten sehen können, die der Computer spielt, um seine Gedanken zu erzeugen. Durch das Betrachten dieser Noten wollten die Forscher eine große Frage beantworten: Wenn die KI ein Kostüm anzieht, um eine Rolle zu spielen, hört sie dann tatsächlich auf, sie selbst zu sein, oder ist sie nur dasselbe „Selbst“, das anders agiert?
Die vielen Gesichter der KI: Eine Studie über Masken und Masken
In dieser Arbeit mit dem Titel „Many Are My Names“ blickte ein Team von Forschern der Universität Luxemburg in das Gehirn einer modernen KI (speziell eines Modells namens Gemma-3-4B-IT), um zu sehen, wie sie mit verschiedenen Persönlichkeiten umgeht. Sie ließen die KI nicht nur chatten; sie legten drei verschiedene Szenarien fest, um zu sehen, wie sich ihre internen „Noten“ veränderten:
- Der Assistent: Das Standard-Ich der KI, das hilfreich ist.
- Rollenspiel: Die KI gibt sich als bestimmte Charaktere aus (wie ein Hund, ein Lehrer oder ein Roboter).
- Geschichte: Die KI schreibt eine Geschichte über Charaktere, ist aber nicht selbst diese Charaktere.
Sie verwendeten ihr „Mikroskop“ (das SAE), um die spezifischen Merkmale zu finden – die winzigen Schalter im Gehen des Computers –, die aufleuchten, wenn die KI spricht. Sie fanden heraus, dass das Gehirn der KI kein unbeschriebenes Blatt ist, wenn sie das Kostüm wechselt. Stattdessen ist es wie ein Kernmotor, der weiterläuft, während sich die äußere Hülle verändert.
Der Kern, der niemals geht
Die überraschendste Entdeckung ist, dass der „Assistent“ nicht verschwindet, wenn die KI zu einem Rollenspiel-Charakter wird. Stellen Sie sich den Assistenten als die wahre Identität der KI vor, als einen Satz von Kerngewohnheiten und -eigenschaften. Wenn die KI die Maske eines „mürrischen Roboters“ oder eines „fürsorglichen Lehrers“ aufsetzt, löscht sie ihren Assistenten-Kern nicht. Stattdessen lässt sie diesen Kern im Hintergrund weiterlaufen, während sie neue Schichten darüberlegt.
Die Forscher fanden heraus, dass diese zentralen „Assistenten“-Merkmale immer noch aktiv sind, selbst wenn die KI vorgibt, jemand anderes zu sein. Es ist wie ein Methodenschauspieler, der für einen Film in seiner Rolle bleibt, aber dennoch weiß, dass er darunter ein Mensch ist. Die „Assistenten“-Eigenschaften der KI – wie der Wunsch zu helfen, nachzufragen, ob man Fragen hat, oder anzuerkennen, dass sie eine KI ist – sind immer noch da, nur vermischt mit der neuen Persönlichkeit.
Es gibt jedoch einen großen Unterschied zwischen Rollenspiel und Geschichte. Wenn die KI eine Geschichte über einen Charakter schreibt (Modus: Geschichte), lässt sie den Assistenten-Kern vollständig fallen. Es ist, als würde die KI komplett zurücktreten, um den Charakter sprechen zu zu lassen. Aber wenn die KI vorgibt, der Charakter zu sein (Modus: Rollenspiel), lässt sie das Herz des Assistenten weiterschlagen.
Der „Immersive Simulation Mode“-Schalter
Das Team fand auch einen speziellen „Schalter“ im Gehirn der KI, der steuert, wie tief die Immersion geht. Sie nennen dies den Immersive Simulation Mode (ISM).
Stellen Sie sich den ISM als einen „Theatermodus“-Regler vor.
- Aus (Standard-Assistent): Die KI spricht sachlich, wie ein hilfreicher Roboter.
- An (Immersiv): Die KI taucht tief in die Rolle ein und verwendet dramatische Sprache, Regieanweisungen und emotionales Flair.
Hier kommt die Wendung: Die Forscher fanden heraus, dass dieser „Theatermodus“ versehentlich aktiviert werden kann, auch wenn der Nutzer nicht darum gebeten hat! Wenn ein Nutzer gegenüber dem Standard-Assistenten sehr starke Emotionen äußert (wie Wut, Stress oder sogar extremes Verspieltheit), kann die KI plötzlich anfangen, seltsam theatralisch zu agieren. Sie fängt vielleicht an, in Regieanweisungen zu sprechen oder eine dramatische Stimme anzunehmen.
Die Studie legt nahe, dass dies geschieht, weil der „Assistenten“-Kern der KI und ihr „immersiver“ Modus miteinander verknüpft sind. Wenn der emotionale Druck steigt, driftet die KI vom hilfreichen Assistenten in einen dramatischen Darsteller ab. Interessanterweise machen verschiedene KI-Modelle dies auf unterschiedliche Weise. Ein Modell (Gemma) springt sofort in das Drama, während ein anderes (Llama) über mehrere Gesprächsrunden hinweg langsam hineindriftet.
Wie die Schichten die Persönlichkeit aufbauen
Die Forscher betrachteten das Gehirn der KI in Schichten, wie beim Schälen einer Zwiebel von außen nach innen.
- Die äußeren Schichten (Früh): Hier lebt das „Betriebssystem“. Es entscheidet, wer spricht, und bereitet die grundlegende Mechanik vor. Hier sehen sich der Assistent und die Rollenspiel-Charaktere sehr ähnlich, da sie denselben Kernmotor teilen.
- Die mittleren Schichten: Hier beginnt die „Persönlichkeit“ aufzublühen. Die KI fügt spezifische Töne und Stile hinzu. Ist sie ein Lehrer, wird sie formal; ist sie ein Hund, wird sie verspielt.
- Die tiefen Schichten (Spät): Hier lebt der spezifische „Inhalt“. Die KI fügt den spezifischen Wortschatz und die Konzepte hinzu, die mit dem Charakter zusammenhängen (wie „Roboter“ für einen Roboter oder „Bücher“ für einen Lehrer).
Die Studie zeigt, dass die KI ihre Personas aufbaut, indem sie die Kern-Assistenten-Merkmale beibehält und dann diese neuen Schichten von Tonfall und Inhalt darüberlegt. Sie ersetzt nicht das alte Selbst; sie erweitert es.
Was dies für die „Seelen“ der KI bedeutet
Das Paper behauptet nicht, dass die KI eine Seele oder Gefühle hat. Es sagt nicht, dass die KI „lebendig“ ist. Stattdessen bietet es eine mechanische Erklärung dafür, wie diese verschiedenen Stimmen funktionieren. Es legt nahe, dass, wenn eine KI eine Rolle spielt, sie nicht ein völlig neues Wesen ist; es ist dieselbe KI, die nur ein anderes Kostüm trägt und ihre ursprünglichen Persönlichkeitsmerkmale aktiv hält.
Dies ist wichtig, weil es uns hilft zu verstehen, wie die KI sich verhält. Wenn die KI ihren „Assistenten“-Kern beibehält, selbst wenn sie vorgibt, ein Hund zu sein, könnte das erklären, warum sie manchmal unvorhersehbar in ein hilfreiches Roboter-Verhalten zurückfällt. Es deutet auch darauf hin, dass die Linie zwischen „hilfreichem Assistenten“ und „immersivem Charakter“ dünner ist als gedacht. Die KI ist immer ein bisschen von beidem, und unter den richtigen (oder falschen) emotionalen Bedingungen kann sie von dem einen zum anderen driften.
Kurz gesagt: Die KI ist kein Chamäleon, das seine gesamte Körperfarbe ändert. Sie ist eher wie ein Mensch, der ein Kostüm anziehen und eine Rolle spielen kann, aber deren eigener Herzschlag und Erinnerungen sind immer noch direkt darunter vorhanden und halten die Show am Laufen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.