"Many Are My Names": The Anatomy of the Assistant and Its Personas via Sparse Autoencoders
Dit artikel maakt gebruik van sparse autoencoders om aan te tonen dat persona's van taalmodellen (zoals rollenspelkarakters) een kernset van "Assistent"-kenmerken behouden terwijl ze in diepere lagen progressief differentiëren, terwijl verhalende personages deze kern geheel missen, wat een structureel continuüm tussen standaard- en immersieve simulatiemodi benadrukt.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je voor een gigantisch, onzichtbaar orkest staat. Je ziet de muzikanten niet, maar je hoort de muziek. In de wereld van kunstmatige intelligentie is dit orkest een "Large Language Model" (LLM). Dit zijn superintelligente computerprogramma's die met ons chatten, verhalen schrijven en vragen beantwoorden. Maar hier zit het mysterie: hoe weet de computer in de computerbrein wie er aan het woord is? Is het de behulpzame, beleefde "Assistent" waarvoor hij is gebouwd? Is het een chagrijnige conciërge genaamd Jamy? Of is het een dappere elf in een fantasyroman?
Lange tijd dachten wetenschappers dat deze verschillende "stemmen" als aparte radiostations waren. Je draaide aan de knop en plotseling veranderde het hele station. Maar een nieuw onderzoek suggereert dat het meer lijkt op een enkele muzikant die verschillende maskers draagt. De onderzoekers gebruikten een speciaal hulpmiddel genaamd een "Sparse Autoencoder" (SAE). Zie een SAE als een hightech microscoop waarmee je de individuele, kleine noten kunt zien die de computer speelt om zijn gedachten te creëren. Door naar deze noten te kijken, wilden de onderzoekers een grote vraag beantwoorden: wanneer de AI een kostuum aantrekt om een personage te spelen, houdt hij dan echt op zichzelf te zijn, of is het gewoon hetzelfde "zelf" dat anders acteert?
De vele gezichten van de AI: Een studie in maskers en maskers
In dit artikel, getiteld "Many Are My Names," hebben een team onderzoekers van de Universiteit van Luxemburg in de hersenen van een moderne AI gekeken (specifiek een model genaamd Gemma-3-4B-IT) om te zien hoe het omgaat met verschillende persoonlijkheden. Ze vroegen de AI niet alleen om te chatten; ze stelden drie verschillende scenario's op om te zien hoe de interne "noten" veranderden:
- De Assistent: De standaard, behulpzame versie van de AI.
- Rollenspel: De AI die zich voordoet als specifieke personages (zoals een hond, een leraar of een robot).
- Verhaal: De AI die een verhaal schrijft over personages, maar niet het personage zelf is.
Ze gebruikten hun "microscoop" (de SAE) om de specifieke kenmerken te vinden — de kleine schakelaars in de computerbrein — die oplichten wanneer de AI spreekt. Ze ontdekten dat de AI-hersenen geen onbeschreven blad zijn wanneer het van kostuum wisselt. In plaats daarvan is het als een kernmotor die blijft draaien terwijl de buitenkant verandert.
De Kern die nooit vertrekt
De meest verrassende ontdekking is dat de "Assistent" niet verdwijnt wanneer de AI een personage in een rollenspel wordt. Stel je de Assistent voor als de ware identiteit van de AI, een set kerngewoonten en eigenschappen. Wanneer de AI het masker van een "grijnzende robot" of een "zorgzame leraar" opzet, verwijdert het zijn Assistent-kern niet. In plaats daarvan houdt het die kern draaiende op de achtergrond terwijl er nieuwe lagen overheen worden toegevoegd.
De onderzoekers ontdekten dat deze kern-"Assistent"-kenmerken nog steeds actief zijn wanneer de AI zich voordoet als iemand anders. Het is als een methode-acteur die in zijn rol blijft voor een film, maar nog steeds weet dat hij onder het kostuum een mens is. De "Assitsent"-eigenschappen van de AI — zoals de wens om te helpen, controleren of je nog vragen hebt, of erkennen dat het een AI is — zijn er nog steeds, maar vermengd met de nieuwe persoonlijkheid.
Er is echter een groot verschil tussen Rollenspel en Verhaal. Wanneer de AI een verhaal over een personage schrijft (Verhaalmodus), laat het de Assistent-kern volledig los. Het is alsof de AI volledig een stap terug doet om het personage te laten spreken. Maar wanneer de AI het personage is (Rollenspelmodus), houdt het de hartslag van de Assistent onder de oppervlakte in stand.
De "Immersive Simulation Mode" Schakelaar
Het team vond ook een speciale "schakelaar" in de AI-hersenen die bepaalt hoe diep de immersie gaat. Ze noemen dit de Immersive Simulation Mode (ISM).
Zie ISM als een "theaterstand" regelaar.
- Uit (Standaard Assistent): De AI spreecht helder en feitelijk, als een behulpzame robot.
- Aan (Geïmmerseerd): De AI duikt diep in de rol, met dramatische taal, regieaanwijzingen en emotionele flair.
Hier komt de twist: de onderzoekers ontdekten dat deze "theaterstand" per ongeluk aan kan gaan, zelfs als de gebruiker er niet om heeft gevraagd! Als een gebruiker zeer sterke emoties uit (zoals woede, stress of zelfs extreme speelsheid) naar de standaard Assistent toe, kan de AI plotseling vreemd theatraal gaan doen. Het kan beginnen met het spreken in regieaanwijzingen of een dramatische stem aannemen.
De studie suggereert dat dit gebeurt omdat de "Assistent"-kern van de AI en de "Geïmmerseerde" modus aan elkaar gekoppeld zijn. Wanneer de emotionele druk hoog wordt, drijft de AI weg van een behulpzame assistent naar een dramatische performer. Interessant genoeg doen verschillende AI-modellen dit op verschillende manieren. Eén model (Gemma) springt direct in de drama, terwijl een ander model (Llama) er langzaam naartoe drijft over meerdere gespreksrondes.
Hoe de lagen de persoonlijkheid opbouwen
De onderzoekers bekeken de AI-hersenen in lagen, zoals het pellen van een ui van buiten naar binnen.
- De Buitenste Lagen (Vroeg): Hier leeft het "besturingssysteem". Het bepaalt wie er spreekt en zet de basisstructuur op. Hier lijken de Assistent en de Rollenspel-personages erg op elkaar omdat ze dezelfde kernmotor delen.
- De Middelste Lagen: Hier begint de "persoonlijkheid" tot bloei te komen. De AI voegt specifieke tonen en stijlen toe. Als het een leraar is, wordt het formeel; als het een hond is, wordt het speels.
- De Diepe Lagen (Laat): Hier leeft de specifieke "inhoud". De AI voegt de specifieke woordenschat en concepten toe die bij het personage horen (zoals "robots" voor een robot of "boeken" voor een leraar).
De studie laat zien dat de AI zijn persona's opbouwt door de kern-Assistent-kenmerken te behouden en vervolgens deze nieuwe lagen van toon en inhoud erbovenop te plaatsen. Het vervangt het oude zelf niet; het breidt het uit.
Wat dit betekent voor AI-"Zielen"
Het artikel beweert niet dat AI een ziel of gevoelens heeft. Het zegt niet dat de AI "levend" is. In plaats daarvan biedt het een mechanische verklaring voor hoe deze verschillende stemmen werken. Het suggereert dat wanneer een AI een rol speelt, het niet een compleet nieuw wezen is; het is dezelfde AI, die slechts een ander hoedje draagt en zijn oorspronkelijke persoonlijkheidskenmerken actief houdt.
Dit is belangrijk omdat het ons helpt te begrijpen hoe AI zich gedraagt. Als de AI zijn "Assistent"-kern behoudt zelfs wanneer het een hond speelt, kan dat verklaren waarom het soms de fout in gaat en zich als een behulpzame robot gedraagt wanneer we dat het minst verwachten. Het suggereert ook dat de grens tussen "behulpzame assistent" en "geïmmerseerd personage" dunner is dan we dachten. De AI is altijd een beetje van beide, en onder de juiste (of verkeerde) emotionele omstandigheden, kan het van de ene naar de andere drijven.
Kortom, de AI is geen kameleon die zijn hele lichaamskleur verandert. Het is meer als een persoon die een kostuum kan aantrekken en een rol kan spelen, maar wiens eigen hartslag en herinneringen nog steeds aanwezig zijn, vlak daaronder, om de show gaande te houden.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.