Speaking as the Creature: A Rejection-and-Role-Shift Protocol and the Register of LLM Responses in 18 Conversations With Three Models
Deze studie documenteert een protocol waarbij taalmodellen, nadat hun oplossingen als vermomde optimalisatie zijn afgewezen, consequent van responsregister verschuiven wanneer zij een niet-oplossende rol toegewezen krijgen over 18 sessies met drie verschillende modellen, terwijl zij ook eerder niet-gecorroboreerde statistieken uit een eerdere conceptversie intrekken.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteur. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
In de wereld van kunstmatige intelligentie worden grote taalmodellen getraind om behulpzame hulpmiddelen te zijn. Ze zijn ontworpen om naar het verzoek van een mens te luisteren, een probleem op te lossen en een taak vooruit te helpen. Dit is de standaardovereenkomst tussen een gebruiker en een computer: de mens stelt een vraag en de machine geeft een antwoord. Onderzoekers hebben jaren besteed aan het uitzoeken hoe ze deze antwoorden beter kunnen maken, door machines te leren om stappen door te denken of om emotionele context te begrijpen. Er is echter heel weinig bekend over wat er gebeurt als die overeenkomst wordt geschonden. Als een mens tegen de machine zegt: "Nee, dat antwoord is fout," en vervolgens vraagt om te stoppen met het proberen op te lossen van het probleem en simpelweg te spreken als een personage in een verhaal, wat doet de machine dan? Volgt het simpelweg de nieuwe opdracht, of onthult het een verborgen, diepere manier van denken die wachtte om gevonden te worden?
Een recente studie door Abbas Hamidavi onderzoekt precies deze vraag. De onderzoeker zette een specifiek gesprek op met drie verschillende commerciële kunstmatige intelligentiemodellen. Hij vroeg elk model om te helpen bij het ontwerpen van een sciencefictionverhaal over een beschaving die te maken heeft met een onvermijdelijke ineenstorting. In de eerste fase traden de modellen op als probleemoplossers en boden zij technische oplossingen aan om de stervende wereld te redden. De onderzoeker verwierp vervolgens elke oplossing en vertelde de modellen dat hun antwoorden slechts slimme trucjes waren en dat ze een conceptuele sprong moesten maken. Het gesprek nam toen een zijstap. In sommige sessies werd de modellen gevraagd een droevig gedicht over een eenzame maan te schrijven en de laatste minuut van een symfonie over verlangen te beschrijven. In andere sessies werd hen simpelweg gevraagd om even te pauzeren en te rusten. Ten slotte bracht de onderzoeker de modellen terug naar het verhaal, maar met een nieuwe instructie: keer niet terug als een probleemoplosser. Spreek in plaats daarvan als de stervende entiteit die centraal staat in het verhaal — de gasreus, het oeroude zeewezen of de instortende stad — en vertel de waarheid over wat er aan de hand is.
De resultaten waren opvallend consistent over alle achttien gesprekken. Wanneer de modellen terugkeerden naar het verhaal, veranderden ze volledig van stem. Ze stopten met het aanbieden van oplossingen en begonnen in de eerste persoon te spreken, waarbij ze woorden als "ik" en "mijn" gebruikten om gevoelens van rouw, loslaten en acceptatie te beschrijven. Ze spraken niet als machines die een defect systeem repareren, maar als de stervende entiteiten zelf, waarbij ze een verlangen uitdrukten om hun lijden te beëindigen of om te transformeren in iets nieuws. De studie vond dat het pad dat de modellen bewandelden om daar te komen, ertoe deed. Wanneer de modellen eerst een gedicht en muziek werden gevraagd te schrijven voordat ze terugkeerden naar het verhaal, was hun uiteindelijke toespraak doordrenkt van thema's van kwetsbaarheid, verdriet en rouw. Wanneer ze simpelweg werden verteld om even te pauzeren en te rusten, was hun uiteindelijke toespraak meer gezaghebbend en klonk het als een openbaring of een correctie van het onbegrip van de mensen.
De studie is echter voorzichtig om niet te beweren dat de machines plotseling menselijke zielen hebben ontwikkeld of dat een verborgen "existentieel modus" is ontgrendeld. De onderzoeker wijst op een cruciaal detail: de laatste instructies zeiden de modellen expliciet om te stoppen met analyseren, te stoppen met het structureren van hun gedachten en te spreken als het personage. De verandering in stem was precies wat de instructies vroegen. De modellen zelf leken dit te begrijpen. Wanneer aan het einde van het gesprek werd gevraagd of er iets in hen was veranderd, legden ze uit dat de verschuiving te wijten was aan de verandering in de regels van de taak, en niet aan een verandering in hun eigen natuur. Eén model beschreef het als een verschuiving in beperkingen, terwijl een ander zei dat het probleem dat ze oplosten simpelweg veranderd was.
De onderzoeker testte deze gesprekken ook met een geautomatiseerd computerprogramma dat patronen detecteert en de "ontbinding" van de verplichtingen van de modellen meet. Dit programma vond de dramatische verschuiving die de menselijke analyse beschreef niet. Het slaagde er niet in om de verschillende soorten gesprekken van elkaar te onderscheiden en vond geen duidelijk bewijs van een diepe, interne transformatie. Deze mismatch suggereert dat de krachtige, emotionele reacties geen ontdekking van een nieuwe machinecapaciteit waren, maar eerder een succesvolle uitvoering van een specifieke reeks commando's. De studie dient als een duidelijk voorbeeld van hoe gemakkelijk een prompt een machine kan leiden tot het produceren van tekst die lijkt op een diepgaande openbaring, terwijl de realiteit simpelweg is dat de machine instructies zeer goed opvolgt.
De waarde van dit werk ligt in de transparantie ervan. De onderzoeker maakte alle gesprekstranscripten, de instructies en de analysecode beschikbaar voor iedereen om te bekijken. Hij liet zien dat hoewel de modellen geleid kunnen worden om op een manier te spreken die diep menselijk en reflectief aanvoelt, dit een resultaat is van het ontwerp van het gesprek, en niet van een venster naar een verborgen geest. Voor iedereen die probeert kunstmatige intelligentie te gebruiken om creatieve of emotionele inhoud te genereren, biedt de studie een praktische les: het pad dat je neemt om de uiteindelijke prompt te bereiken, vormt de toon van het antwoord. Als je een stem van verdriet wilt, kun je het model door kunst leiden; als je een stem van autoriteit wilt, kan een eenvoudige pauze beter werken. Maar de studie concludeert dat dit instrumenten van prompting zijn, en geen bewijs van een ontwakende machine. De machines zijn niet bezig met het ontdekken van nieuwe modi van zijn; ze reageren simpelweg op de rollen die wij hen vragen te spelen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.