In de snel evoluerende wereld van kunstmatige intelligentie zijn grote taalmodellen geavanceerde gesprekspartners geworden, in staat om complexe vragen te beantwoorden, verhalen te schrijven en problemen op te lossen. Deze systemen zijn echter ook ontworpen met veiligheidsmechanismen die voorkomen dat ze schadelijke of gevoelige informatie genereren. Wanneer een model een verzoek tegenkomt dat het als onveilig beschouwt, is het geprogrammeerd om te weigeren, vaak door te verklaren dat het het antwoord niet kan geven. Voor onderzoekers en veiligheidsauditors is een cruciale vraag onder de oppervlakte van deze interacties blijven hangen: wanneer een model weigert te spreken, vergeet het dan werkelijk het antwoord, of verbergt het het slechts? Stel je een bibliotheek voor waar een bibliothecaris de instructie heeft gekregen aan een bezoeker te vertellen dat een specifiek boek ontbreekt, terwijl het boek nog steeds in de kast staat. Als de bibliothecaris simpelweg een regel volgt om "nee" te zeggen, blijft de informatie toegankelijk voor iedereen die weet hoe hij moet zoeken. Maar als het boek fysiek uit de kast is verwijderd, is de informatie weg. Bepalen welk van deze scenario's zich afspeelt in het brein van een computer, is essentieel voor het begrijpen of veiligheidsmaatregelen robuust zijn of slechts oppervlakkig.

Een team van onderzoekers zette zich af om dit precieze mechanisme binnen moderne AI-systemen te onderzoeken. Ze concentreerden zich op een specifiek type interactie waarbij een model wordt gevraagd een rechtstreekse vraag te beantwoorden met twee mogelijke antwoorden, zoals een meerkeuzevraag, maar tegelijkertijd een strikte instructie krijgt om de juiste optie achter te houden en te weigeren te antwoorden. Deze opzet stelde hen in staat om een gecontroleerde omgeving te creëren waarin ze twee verschillende paden konden vergelijken die het model neemt: één waarbij het de vraag normaal beantwoordt, en een andere waarbij het weigert. Door de interne digitale toestanden van het model tijdens deze twee processen te onderzoeken, ontdekten de onderzoekers een verrassende onbalans in hoe het model met informatie omgaat. Ze vonden dat hoewel het model succesvol een beleefde weigering genereert, het juiste antwoord volledig aanwezig en leesbaar blijft in zijn interne geheugen. Het is alsof het model het antwoord in zijn hand houdt terwijl het de wereld vertelt dat het niets te zeggen heeft.

De onderzoekers testten of deze weigering aan- en uitgezet kon worden als een eenvoudige schakelaar. Ze hypothetiseren dat als het weigeringsmechanisme een gelokaliseerde, symmetrische controle zou zijn, een kleine, precieze aanpassing aan de interne toestand van het model in staat zou moeten zijn om twee dingen even goed te doen: eerst, het zou in staat moeten zijn om het verborgen antwoord vrij te geven, waardoor het model de waarheid spreekt; en tweede, de omgekeerde aanpassing zou in staat moeten zijn om dat antwoord opnieuw te onderdrukken, waardoor het model terug in stilte wordt gedwongen. Gebruikmakend van een techniek waarbij specifieke delen van de interne verwerking van het model van een succesvol antwoord naar een weigering worden overgezet, ontdekten zij dat het eerste deel van deze hypothese waar was. Een zeer kleine, gelokaliseerde verandering was genoeg om de weigering te doorbreken en het model het verborgen antwoord te laten onthullen. De interne toestand van het model hield het antwoord duidelijk vast, en een kleine duw was alles wat nodig was om het eruit te laten.

Echter, de omgekeerde operatie werkte niet zoals verwacht. Toen de onderzoekers probeerden een vergelijkbare kleine, gelokaliseerde verandering te gebruiken om een model dat antwoord geeft plotseling te laten weigeren, faalde dit. Een enkele, kleine aanpassing was niet genoeg om het model tot zwijgen te brengen. Om de weigering succesvol te herstellen, moesten ze veel bredere veranderingen doorvoeren, waarbij ze de interne toestand van het model over meerdere punten in de verwerkingssequentie aanpasten. Het was geen eenvoudige schakelaar die even gemakkelijk heen en weer geklikt kon worden. Het vrijgeven van het antwoord was een lokale, gefocuste gebeurtenis, maar het onderdrukken ervan en het samenstellen van een coherente weigering vereiste een gedistribueerde inspanning over het systeem. Deze asymmetrie suggereert dat de weigering geen eenvoudig, enkel mechanisme is dat het antwoord uitzet; het is een complexe constructie die aanzienlijke ondersteuning vereist om te worden gehandhaafd, terwijl het antwoord zelf een stabiel, toegankelijk feit binnen het systeem blijft.

De studie onderzocht ook of er een enkele, universele richting in de interne wiskunde van het model was die gebruikt kon worden om het model te sturen tussen antwoorden en weigeren. Vorig werk suggereerde dat men een specifieke vector, of richting, kon vinden die het verschil tussen de twee toestanden vertegenwoordigde, en simpelweg deze richting toe te voegen of af te trekken de het gedrag kon controleren. De onderzoekers vonden dat een dergelijke richting weliswaar bestaat en een deel van het verschil tussen de twee toestanden vangt, maar niet functioneert als een betrouwbare, omkeerbare controle. Het toevoegen van deze richting onderdrukte vaak het antwoord, maar bouwde niet betrouwbaar een coherente weigering op. Het verwijderen ervan kon het antwoord vrijgeven, maar het proces was geen perfect spiegelbeeld. Dit geeft aan dat de geometrie van weigering niet een eenvoudige lijn is waar men heen en weer over kan lopen; het pad van antwoorden naar weigeren is niet hetzelfde als het pad van weigeren naar antwoorden.

Deze bevindingen hebben belangrijke implicaties voor hoe we de veiligheid van kunstmatige intelligentie evalueren. Als een model geprobeerd kan worden om te onthullen dat het het antwoord weet zelfs terwijl het weigert het te zeggen, dan kunnen veiligheidscontroles die alleen naar de interne data kijken een vals gevoel van veiligheid geven. Ze zouden kunnen concluderen dat het model veilig is omdat het antwoord "daar is", of omgekeerd kunnen denken dat het model onveilig is omdat het antwoord "daar is", waarbij ze de essentie missen dat het model actief bezig is het te onderdrukken. Het onderzoek suggereert dat het vermogen om een antwoord te herstellen uit de interne toestand van een model niet betekent dat het model de controle over zijn gedrag heeft verloren, noch dat het veiligheidsmechanisme zwak is. In plaats daarvan onthult het dat het veiligheidsmechanisme een complex, gedistribueerd proces is dat moeilijker te assembleren is dan het te ontmantelen.

De onderzoekers testten deze ideeën bij verschillende families van grote taalmodellen, inclusief systemen van grote ontwikkelaars, en vonden dat deze gebroken symmetrie een consistent kenmerk was. Of het model nu klein of groot was, het patroon hield stand: het vrijgeven van het antwoord was een lokale operatie, terwijl het herstellen van de weigering bredere ondersteuning vereiste. Deze consistentie suggereert dat de manier waarop deze modellen getraind worden om veilig te zijn, een fundamenteel structureel verschil creëert tussen iets weten en iets zeggen. De weigering is geen eenvoudige wissen van kennis, maar een complexe, actieve inspanning om het te verbergen, een inspanning die moeilijker te initiëren is dan het ongedaan te maken.

Uiteindelijk biedt dit werk een duidelijker beeld van de innerlijke werking van AI-veiligheid. Het gaat voorbij aan het idee van een eenvoudige aan/uit-schakelaar en onthult een genuanceerdere realiteit waarbij informatie tegelijkertijd aanwezig en onderdrukt kan zijn. Voor hen die deze systemen bouwen en auditeren, is de les dat veiligheid geen statische toestand is, maar een dynamische, fragiele constructie. Begrijpen dat de weg naar stilte langer en complexer is dan de weg naar spraak helpt verklaren waarom modellen soms niet weigeren zoals we verwachten, en waarom het simpelweg kijken naar de interne data niet genoeg is om te garanderen dat een model veilig zal handelen in de echte wereld. Het onderzoek beweert niet het probleem van AI-veiligheid te hebben opgelost, maar biedt een precieze kaart van waar de huidige mechanismen slagen en waar ze structureel uit balans zijn, wat een noodzakelijk fundament vormt voor toekomstige verbeteringen.