Technische Samenvatting: Data-attributie in Large Language Models via Bidirectionale Gradiëntoptimalisatie (DABGO)

Probleemstelling

Large Language Models (LLM's) worden steeds vaker ingezet in kritieke domeinen zoals juridische formulering, medische diagnose en wetenschappelijk onderzoek. Hoewel deze modellen hun capaciteiten ontlenen aan enorme trainingscorpora, blijft een fundamenteel open probleem bestaan: het identificeren van welke specifieke trainingsdata de output van een model het meest heeft beïnvloed. Huidig onderzoek richt zich zwaar op de prestaties van het model gegeven een dataset, terwijl het inverse probleem — het terugleiden van modelgedrag naar specifieke databronnen — onderbelicht blijft. Dit gebrek aan traceerbaarheid belemmert governance, verantwoording en het vermogen om specifieke datapunten te debuggen of te "ontleren" (unlearn). Bestaande methoden voor Training Data Attribution (TDA), zoals Influence Functions, kampen met praktische beperkingen waaronder de onhaalbaarheid van exacte berekening (vereist hertraining) en fundamentele problemen met Hessian-inversie in grootschalige modellen. Bovendien waren eerdere studies naar NLP-attributie vaak beperkt tot fact-tracing met enkelvoudige woordvoorspellingen of granulariteit op datasetniveau, waarbij gefaald werd om volledig open eindige tekstgeneratie aan te pakken.

Methodologie

De auteurs stellen DABGO (Data Attribution via Bidirectional Gradient Optimization) voor, een framework ontworpen om backward influence functions te schatten voor autoregressieve LLM's. De kernhypothese berust op het concept van "gespiegelde invloed" (mirrored influence): de invloed van een trainingsmonster op een modelvoorspelling kan worden geschat door te observeren hoe het optimaliseren van het model op die voorspelling het gedrag van het model op het trainingsmonster beïnvloedt.

Kernalgoritme

1. Bidirectionale Optimalisatie: Gegeven een vooraf getraind model $\pi_{\theta^*}$ en een gegenereerde outputsequentie $\hat{x}$ (geprompt door $\hat{x}_0$), construeert de methode twee geperturbeerde modelvarianten:

   • Gradient Ascent ($\theta_+$): Optimaliseert het model om de waarschijnlijkheid van de gegenereerde tekst $\hat{x}$ te verhogen (simuleert "unlearning" of het maximaliseren van invloed).
   • Gradient Descent ($\theta_-$): Optimaliseert het model om de waarschijnlijkheid van $\hat{x}$ te verlagen (simuleert fine-tuning of het minimaliseren van invloed).
   • Beide optimalisaties maken gebruik van een Fisher-geregulariseerde update (Elastic Weight Consolidation) om catastrofale vergetelheid te mitigeren, benaderd via een diagonale Fisher Information Matrix (FIM) om computationele behapbaarheid te garanderen.

2. Bidirectionale Influence Score (BIS): Voor elk trainingsmonster $x_i$ in de dataset $D$, berekent de methode de loss onder beide geperturbeerde modellen ($\theta_+$ en $\theta_-$). De influence score wordt gedefinieerd als de absolute verandering in loss:
   $$I(x_i; \hat{x}) = |\ell(x_i, \theta_-) - \ell(x_i, \theta_+)|$$
   Monsters die grote absolute veranderingen in loss vertonen, worden gerangschikt als de meest invloedrijke voor de generatie van $\hat{x}$.

3. Granulariteit: Het framework ondersteunt attributie op willekeurige niveaus, van het volledige trainingsmonster tot op token-niveau, door per-token log-likelihood verschillen te meten.

Belangrijkste Bijdragen

• Nieuw Framework: Introductie van DABGO, een eenvoudige maar effectieve attributiemethode voor open eindige tekstgeneratie die dure per-sample gradiëntberekeningen of Hessian-inversies vermijdt.
• Bidirectionale Aanpak: Het artikel demonstreert dat het combineren van zowel gradient ascent als gradient descent een superieure attributatienauwkeurigheid oplevert vergeleken met unidirectionale benaderingen (gebruikmakend van enkel ascent of enkel descent), waarbij complementaire signalen in generatieve modellen worden gevangen.
• Granulaire Attributie: De methode maakt attributie mogelijk op willekeurige datagranulariteit, waarbij zowel feitelijke inhoud als stilistische kenmerken (bijv. auteurschap, syntaxis) in geattribueerde teksten succesvol worden gevangen.
• Evaluatieprotocol: De auteurs introduceren en gebruiken de Tail-Patch Absolute (TPA) score als een computationeel efficiënte proxy voor invloed, gevalideerd tegen de grondwaarheid van de invloed via volledige hertrainingsexperimenten.

Experimentele Resultaten

De auteurs evalueerden DABGO op GPT-2-stijl modellen die vanaf nul zijn getraind op twee verschillende corpora:

1. Factual Attribution: Gebruikmakend van een gecureerd Wikipedia-corpus (230M tokens).
2. Stylistic Attribution: Gebruikmakend van Project Gutenberg literaire teksten (2M tokens) met diverse auteurs.

Kwantitatieve Prestaties:

• Factual Setting: DABGO presteerde consistent beter dan baselines (BM25, TRACKSTAR, GECKO) over de meeste waarden van $k$ (aantal top-geattribueerde monsters). Hoewel BM25 goed presteerde bij $k=1$ vanwege sterke lexicale overlap, excelleerde DABGO naarmate $k$ toenam, wat wijst op een betere identificatie van gedistribueerde feitelijke invloed.
• Stylistic Setting: DABGO presteerde significant beter dan woordgebaseerde retrieval (BM25) en embedding-gebaseerde methoden (GECKO) naarmate $k$ toenam. Dit onderstreept het vermogen van de methode om gedistribueerde stilistische signalen over meerdere trainingsmonsters te vangen in plaats van te vertrouwen op enkele passages.
• Validatie via Hertraining: In contrafeitelijke experimenten waarbij de top-$k$ geattribueerde monsters werden verwijderd en de modellen opnieuw werden getraind, vertoonden de modellen die werden hertraind zonder de door DABGO geattribueerde monsters een significant hogere loss op de test-output vergeleken met die welke werden hertraind zonder monsters geattribueerd door andere methoden. Dit bevestigt de afstemming van DABGO op de grondwaarheid-definitie van invloed.

Ablatie-studies:
Experimenten die gradient ascent en descent isoleerden, toonden aan dat hoewel ascent alleen sterke prestaties levert, de combinatie van beide richtingen (DABGO) de hoogste nauwkeurigheid bereikt, wat de noodzaak van de bidirectionale aanpak voor generatieve taken valideert.

Betekenis en Claims

Het artikel claimt dat DABGO de interpreteerbaarheid van modellen verbetert, een cruciale vereiste voor verantwoorde AI-systemen. Door succesvol open eindige generaties terug te leiden naar hun meest invloedrijke trainingsdata, stelt de methode in staat om:

• De Feedbackloop te Sluiten: Het verbindt trainingsdata direct met modelgedrag, wat toepassingen mogelijk maakt zoals model debugging en data unlearning.
• Eerdere Beperkingen te Overkomen: In tegen tegenovergaan van eerdere werken die beperkt waren tot gecureerde feiten of enkelvoudige woordvoorspellingen, opereert DABGO effectief in volledig open eindige generatieve settings.
• Transparantie te Bieden: Het vermogen om invloed op token-niveau te attribueren biedt fijnmazige interpreteerbaarheid, waarbij onderscheid wordt gemaakt tussen feitelijke bijdragen en stilistische nuances.

De auteurs erkennen beperkingen, waarbij zij opmerken dat DABGO computationeel zwaar blijft (het vereist twee passes over de corpus) en momenteel onpraktisch is voor industriële schaal modellen met honderden miljarden tokens. Daarnaast identificeert het weliswaar invloedrijke monsters, maar houdt het momenteel geen rekening met synergetische of adversariële interacties tussen subgroepen van data, noch stelt het de causale rol van specifieke uitgelichte tokens vast buiten de geobserveerde veranderingen in loss. Desalniettemin vormt het werk een belangrijke stap richting traceerbare en controleerbare AI-systemen.