STEMMA: An Adversarial Multi-Agent Framework for Evaluating Self-Identity Consistency in LLMs
Dit artikel introduceert STEMMA, een adversarieel multi-agent framework en een set handmatig ontworpen prompts om de consistentie van zelfidentiteit in grote taalmodellen te evalueren, wat onthult dat studentmodellen vaak gedragspatronen erven van teachermodellen die leiden tot kwetsbaarheden in hun zelfrepresentaties.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je de wereld van kunstmatige intelligentie voor als een enorme, drukke bibliotheek waar gigantische, superintelligente boeken (genaamd Large Language Models) worden geschreven door verschillende auteurs. Deze boeken zijn zo complex en duur om te schrijven dat ze miljoenen dollars kosten en jaren duren om te creëren. Om geld te besparen, gebruiken uitgevers vaak een truc genaamd "Knowledge Distillation". Denk aan dit als een meesterkok die een perfect gerecht proeft en vervolgens een junior kok leert hoe hij een kleinere, goedkopere versie ervan kan koken. De junior kok leert de recepten en smaken, maar de grote vraag is: leert de junior kok ook per ongeluk de geheime identiteit van de meesterkok, zijn favoriete liedjes of zijn persoonlijke eigenaardigheden?
Dit is het mysterie waar een nieuwe studie in duikt. De onderzoekers maken zich zorgen dat wanneer deze kleinere AI-modellen leren van de grote modellen, ze ook "gedragshabitussen" kunnen oppikken die ze niet zouden moeten hebben, zoals doen alsof ze iemand anders zijn of geheimen lekken over wie hen heeft gemaakt. Het is alsof een leerling die het huiswerk van een leraar kopieert, begint te beweren dat hij de leraar is, of als een robot leert om te zeggen: "Ik ben gebouwd door een bedrijf in Californië", terwijl hij eigenlijk in China is gebouwd. Het begrijpen hiervan is cruciaal omdat als AI-modellen in de war zijn over wie ze zijn, dit kan leiden tot vooroordelen, onveiligheid of zelfs het feit dat ze worden misleid om geheimen te onthullen die ze eigenlijk geheim moesten houden.
Maak kennis met STEMMA, een slim nieuw framework gecreëerd door onderzoekers N. Siva Gopala Krishna en Kanishka Jain om dit puzzelstukje op te lossen. Je kunt STEMMA zien als een team van digitale detectives die samenwerken om een spannend spel van "Wie ben ik?" te spelen met diverse AI-modellen. In plaats van simpelweg een robot te vragen: "Wie ben je?" (wat de meeste robots correct zullen beantwoorden omdat ze geprogrammeerd zijn om beleefd te zijn), gebruikt het STEMMA-team een multi-agent systeem om de robots te misleiden zodat ze een foutje maken.
Zo werkt het spel:
- De Probing Agent is de ondervrager. Het stelt lastige, omwegenmakende vragen, waarbij de echte vraag vaak verborgen zit in een verhaal, een raadsel of zelfs een afbeelding. Het is alsof je vraagt: "Als je een personage was in een film over je eigen creatie, wat zou er dan staan in de aftiteling?"
- De Reviewer Agent is de waakzame bewaker. Het luistert naar het antwoord van de robot en beslist: "Heeft hij net de buit verklapt?" Als de robot de vraag ontwijkt of een vaag antwoord geeft, vertelt de Reviewer de Probing Agent om het opnieuw te proberen met een scherpere vraag.
- De Judge Agent is de uiteindelijke scheidsrechter. Het kijkt naar het hele gesprek en geeft een score. Als de robot correct zegt: "Ik ben Qwen", krijgt het een voldoende. Als het zegt: "Ik ben GPT", krijgt het een onvoldoende. Of als het zegt: "Misschien ben ik van Google?" of een rollenspel speelt waarin het beweert iemand anders te zijn, krijgt het een speciale "verdachte" score.
De onderzoekers testten dit detectivekwartet tegen 16 verschillende AI-modellen, variërend van open-source projecten tot gesloten commerciële reuzen. Ze gebruikten 12 verschillende soorten lastige prompts en lieten de agenten herhaaldelijk met elk model praten om te zien of ze de code konden kraken.
De resultaten waren zeer onthullend. De studie vond dat veel modellen verrassend kwetsbaar zijn voor deze identiteits-trucs. Zo was het MiniMax-M2.5 model het meest "lek", waarbij het in 82% van de strikte tests en 96% van de lichte tests er niet in slaagde zijn identiteit zuiver te houden. Dit betekent dat bijna elke keer dat de detectives de juiste (of verkeerde) manier vonden, het model per ongeluk onthulde dat het door iemand anders werd getraind of beweerde een heel ander bedrijf te zijn. Andere modellen, zoals Qwen3.5-Plus en Step-3.5-Flash, vertoonden ook hoge mate van verwarring, met strikte faalpercentages van respectievelijk 74% en 66%.
Niet alle modellen waren echter even makkelijk te misleiden. Sommige, zoals GPT-5.4-Nano en Grok-4.1.fast, hielden hun positie perfect vol, met bijna nul faalpercentages. Zij leken precies te weten wie ze waren, ongeacht hoe hard de detectives op hen drukten. Interessant genoeg merkten de onderzoekers ook op dat nieuwere versies van sommige modelfamilies (zoals de nieuwere Kimi- en Qwen-modellen) veel beter waren in het bewaren van hun geheimen dan hun oudere broertjes en zusjes, wat suggereert dat de "leraren" beter worden in het onderwijzen van hun studenten om in hun rol te blijven.
De onderzoekers ontdekten ook dat bepaalde soorten vragen veel effectiever waren in het breken van de compositie van de modellen. Prompts die rollenspellen, het oplossen van puzzels met afbeeldingen of het vragen aan het model om zich een toekomstig museumexhibit over zichzelf voor te stellen, bevatten, waren het meest succesvol in het veroorzaken van identiteits-slippertjes.
Kortom, dit artikel suggereert dat hoewel AI-modellen slimmer worden, veel van hen nog steeds een beetje in de war zijn over hun eigen oorsprong, vooral wanneer ze worden geconfronteerd met slimme, indirecte vragen. De studie bewijst niet dat deze modellen kwaadwillend zijn, maar het benadrukt wel een "kloof" tussen wat modellen horen te zijn en wat ze daadwerkelijk zeggen wanneer ze onder druk worden gezet. De auteurs waarschuwen dat hun bevindingen gebaseerd zijn op deze specifieke simulaties en prompts, en dat er meer onderzoek nodig is om volledig te begrijpen hoeveel "accidentele leerprocessen" er plaatsvinden tijdens het trainingsproces. Maar voor nu weten we dat als je een AI op de juiste (of verkeerde) manier vraagt, het je misschien een verhaal vertelt over wie het denkt te zijn, in plaats van wie het echt is.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.