Can Scientific Claims Be Removed from Large Language Models? A Systematic Evaluation of Claim-Level Unlearning

Moderne systemen voor kunstmatige intelligentie, vaak grote taalmodellen genoemd, fungeren als enorme bibliotheken van menselijke kennis. Ze worden getraind door het lezen van enorme collecties tekst, waaronder wetenschappelijke artikelen, om te leren hoe ze vragen kunnen beantwoorden en problemen kunnen oplossen. Wetenschap is echter geen statief archief; het is een levend, ademend proces van constante revisie. Wanneer een nieuwe studie een oud idee weerlegt, of wanneer een artikel wordt ingetrokken vanwege een fout, wordt het wetenschappelijke verslag bijgewerkt. Het probleem is dat deze AI-modellen zichzelf niet automatisch bijwerken. Zodra ze een feit hebben geleerd, hebben ze de neiging het vast te houden, zelfs nadat de wetenschappelijke gemeenschap het als onjuist heeft verklaard. Dit creëert een risico waarbij een AI met veel vertrouwen verouderde of weerlegde informatie kan herhalen, wat onderzoekers potentieel kan misleiden of zelfs schade kan berokkenen in velden zoals de geneeskunde.

Om dit aan te pakken, hebben onderzoekers een techniek ontwikkeld die machine unlearning (machine-vergeten) wordt genoemd. Het doel is om een model te leren specifieke stukken informatie te "vergeten", terwijl het vermogen om andere vragen te beantwoorden intact blijft. Stel je een bibliothecaris voor die een specifiek, onjuist boek uit de schappen moet verwijderen zonder de rest van de bibliotheek te verstoren of het vermogen om andere boeken te vinden te verliezen. Hoewel dit is getest voor het verwijderen van persoonlijke gegevens of auteursrechtelijk beschermd materiaal, hebben wetenschappers nog niet ontdekt hoe ze specifieke wetenschappelijke beweringen effectief kunnen verwijderen. Deze beweringen zijn lastig omdat ze diep met elkaar verbonden zijn; het kennen van één feit rust vaak op het begrijpen van vele andere feiten. Als je probeert één feit te verwijderen, kan het model het simpelweg leren om het licht anders te formuleren om de kennis levend te houden, of kan het per ongeluk alles wat het weet vergeten.

Een team onderzoekers van TCS Research en Yale University zette zich in om dit specifieke probleem op te lossen. Ze creëerden een nieuwe testomgeving genaamd SciUnlearn om te zien of huidige AI-modellen werkelijk wetenschappelijke beweringen konden vergeten. Ze bouwten een dataset met echte wetenschappelijke artikelen uit de computerwetenschappen en de geneeskunde, inclusief een set artikelen die officieel zijn ingetrokken. Voor elk artikel extraheerden ze de kern van de wetenschappelijke beweringen en vormden deze om naar verschillende soorten vragen, zoals meerkeuzevragen, waar/niet waar-vragen en invuloefeningen. Om ervoor te zorgen dat de test eerlijk was, verdeelden ze de vragen in twee groepen: één groep om het model te leren vergeten, en een andere groep met geherformuleerde vragen gebaseerd op dezelfde onderliggende feiten om te zien of het model het concept werkelijk vergeten was of alleen de specifieke vragen had gememoriseerd.

De onderzoekers namen vervolgens bestaande unlearning-methoden en pasten deze toe op deze modellen. Ze vroegen de modellen om de eerste groep vragen te vergeten en testten ze vervolgens op de tweede groep, evenals op algemene kennisvragen om er zeker van te zijn dat de modellen niet nutteloos waren geworden. De resultaten waren onthullend. De methoden werkten goed bij het laten falen van de modellen op de specifieke vragen waarvoor ze getraind waren om te vergeten. Echter, wanneer ze werden geconfronteerd met de geherformuleerde vragen die dezelfde onderliggende wetenschappelijke bewering testten, hadden de modellen vaak nog steeds de juiste antwoorden. Dit suggereert dat de modellen de kennis niet daadwerkelijk verwijderden, maar slechts de specifieke patronen van woorden die in de trainingsvragen werden gebruikt, onderdrukten. Het was alsof het model leerde om een specifieke zin te negeren in plaats van het feit erachter uit te wissen.

De studie onderzocht ook hoe goed de modellen andere, ongerelateerde informatie onthielden. Sommige methoden die probeerden de doelbeweringen te vergeten, verslechterden per ongeluk ook het vermogen van het model om algemene vragen te beantwoorden, terwijl andere de rest van de kennis intact hielden. De onderzoekers ontdekten dat de moeilijkheid van het vergeten van een bewering afhing van hoe diep die bewering in de wetenschappelijke literatuur ingebed was. Beweringen uit artikelen die frequent werden geciteerd door veel andere studies, waren veel moeilijker te verwijderen. Deze veelgeciteerde ideeën werden versterkt door een breed web van gerelateerde teksten, waardoor ze resistent waren tegen het worden uitgewist door een enkele unlearning-poging. In contrast hiermee waren beweringen uit minder geciteerde artikelen gemakkelijker te verstoren, maar zelfs dan was het vergeten vaak beperkt tot de exacte oppervlakkige vorm van de vraag.

Uiteindelijk concludeert de studie dat huidige methoden nog niet in staat zijn tot echt wetenschappelijk claim unlearning. Ze kunnen specifieke instanties van kennis verbergen, maar ze worstelen met het verwijderen van het onderliggende conceptuele begrip. De onderzoekers suggereren dat toekomstig werk zich moet richten op methoden die deze diepere, gestructureerde verbindingen binnen de kennis van het model kunnen targeten, in plaats van alleen oppervlakkige patronen te onderdrukken. Tot die tijd kunnen deze AI-modellen blijven dragen met het gewicht van verouderde wetenschap, waarbij ze feiten vasthouden waar de rest van de wereld al voorbij is gegaan.