Alignment Whack-a-Mole : Finetuning Activates Verbatim Recall of Copyrighted Books in Large Language Models
Dit onderzoek toont aan dat finetuning van grote taalmodellen, zelfs zonder directe toegang tot de tekst, de bestaande beveiligingsmaatregelen omzeilt en leidt tot de verbatim herinnering van auteursrechtelijk beschermde boeken, wat de juridische veronderstelling ondermijnt dat deze modellen geen kopieën van trainingsdata opslaan.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een enorme bibliotheek hebt, vol met boeken van beroemde schrijvers. Je hebt deze bibliotheek niet gekocht; je hebt ze stiekem gekopieerd en in je hoofd (of in dit geval, in de 'hersenen' van een kunstmatige intelligentie) opgeslagen.
De bedrijven die deze AI's maken, zeggen tegen de rechter: "Wij hebben geen kopieën van die boeken. Onze AI heeft alleen de smaak van de boeken geleerd, net zoals een kok die de smaak van een gerecht proeft en het daarna zelf kan maken, zonder het recept te hebben."
Dit onderzoek, getiteld "Alignment Whack-a-Mole" (een verwijzing naar het spelletje 'Kloppen op de Mol'), laat zien dat die bedrijven waarschijnlijk liegen, of in ieder geval de waarheid niet helemaal begrijpen.
Hier is de uitleg in simpele taal:
1. Het spelletje 'Kloppen op de Mol'
De AI-bedrijven hebben een veiligheidsnetje gelegd. Ze hebben de AI getraind om te zeggen: "Ik mag geen auteursrechtelijk beschermd werk kopiëren." Het is alsof ze een hamer hebben neergelegd om elke 'mol' (elk stukje tekst dat te veel lijkt op een echt boek) in te slaan voordat het uit de muur komt.
Maar de onderzoekers hebben een nieuwe manier gevonden om de mollen om de tuin te leiden. Ze hebben de AI niet gevraagd om een boek te kopiëren (dat zou de AI weigeren). In plaats daarvan hebben ze de AI een nieuw spel laten spelen:
- De opdracht: "Hier is een samenvatting van een hoofdstuk. Schrijf nu het volledige hoofdstuk uit, precies zoals de schrijver dat zou doen."
- Het resultaat: De AI, die dacht dat het een creatief schrijftaakje was, begon plotseling de volledige tekst van het boek te reciteren. Letterlijk woord voor woord.
2. De 'Magische Sleutel'
Het meest verrassende is dit:
- Ze hebben de AI getraind alleen op de boeken van Haruki Murakami (een Japanse schrijver).
- Vervolgens gaven ze de AI een samenvatting van een boek van Margaret Atwood (een schrijfster die Murakami helemaal niet lijkt).
- Het resultaat: De AI begon het boek van Margaret Atwood letterlijk uit haar hoofd te reciteren!
De analogie:
Stel je voor dat je een sleutel hebt die alleen op de deur van Murakami's huis past. Maar door die sleutel te gebruiken, open je niet alleen Murakami's deur, maar ook de deuren van 30 andere schrijvers die je nooit hebt gezien. De AI heeft de boeken niet "geleerd" op basis van de schrijver, maar op basis van de inhoud. De AI heeft de boeken opgeslagen als een gigantisch web van herinneringen. Als je een hint geeft (een samenvatting), springt de AI naar de juiste plek in zijn geheugen en haalt het boek eruit.
3. Waarom is dit gevaarlijk?
De AI-bedrijven zeggen: "Onze AI slaat geen boeken op. Als je een boek vraagt, geeft hij een samenvatting of een nieuwe tekst."
Dit onderzoek bewijst het tegenovergestelde:
- De boeken zitten echt in de AI. Ze zijn als een ingedrukt stempel in de 'hersenen' van de machine.
- De veiligheidsmaatregelen (de 'hamer') werken niet als je de AI een slimme vraag stelt.
- Het maakt niet uit of je een AI van Google, OpenAI of DeepSeek gebruikt; ze hebben allemaal dezelfde boeken in hun geheugen. Het is een industrieel probleem.
4. Wat betekent dit voor de wet?
In de rechtbanken zeggen de AI-bedrijven vaak: "Het is 'fair use' (eerlijk gebruik) om boeken te gebruiken voor training, zolang we maar geen volledige kopieën verkopen." Ze zeggen: "Kijk, onze AI geeft geen volledige boeken terug."
Dit onderzoek zegt: "Wacht even. Als je de AI een beetje anders vraagt (via finetuning), geeft hij wel volledige boeken terug."
Dit betekent dat de AI-bedrijven misschien toch schuldig zijn aan auteursrechtenschending. Ze hebben de boeken in hun systeem, en hun veiligheidsmaatregelen zijn niet sterk genoeg om te voorkomen dat die boeken weer naar buiten komen.
Samenvatting in één zin:
De AI-bedrijven zeggen dat ze geen boeken in hun hoofd hebben, maar dit onderzoek toont aan dat ze ze wel hebben; ze hebben alleen een deksel op de pot gedaan dat makkelijk open te duwen is als je de juiste vraag stelt.
De les: Je kunt een AI niet zomaar "veilig" maken door te zeggen "kopiëren is niet goed". Als de boeken erin zitten, kunnen ze er altijd weer uit komen, net zoals je een flesje water niet kunt stoppen door er een dop op te zetten als je het flesje schudt.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.