Technische Samenvatting: ProToken – Token-niveau Attributie voor Federated Large Language Models

1. Probleemstelling

Federated Learning (FL) maakt de collaboratieve training van Large Language Models (LLMs) mogelijk over gedistribueerde, private databronnen zonder de ruwe data te centraliseren. Hoewel dit de privacy waarborgt, creëert het een "black box"-scenario met betrekking tot model-provenance (herkomst). Wanneer een globale federated LLM een specifieke respons genereert, is het onduidelijk welke cliënt(s) hebben bijgedragen aan die output. Dit gebrek aan attributie belemmert kritische systeemtoepassingen, waaronder:

• Debugging: Het identificeren van welke cliënt problematisch gedrag of vergiftigde data heeft geïntroduceerd.
• Vertrouwensverificatie: Valideren dat het globale model de beoogde bijdragen weerspiegelt.
• Rechtvaardige Beloningsallocatie: Het toewijzen van prikkels op basis van werkelijke bijdrage.
• Identificatie van Kwaadwillende Cliënten: Het detecteren van deelnemers die backdoors of adversariële patronen injecteren.

Bestaande interpreteerbaarheidstechnieken voor gecentraliseerde modellen (bijv. gradiënt-integratie, perturbatie-analyse) zijn niet toepasbaar omdat ze uitgaan van toegang tot ruwe trainingsdata en single-model architecturen. Bovendien zijn standaard FL-debuggingmethoden ontworpen voor classificatietaken met discrete outputs, waardoor ze niet in staat zijn de variabele lengte en autoregressieve aard van LLM-generatie aan te pakken. Een kernuitdaging is het onderscheid maken tussen of een gegenereerd token voortkomt uit de specifieke federated trainingsdata van een cliënt of uit de reeds bestaande pre-trained kennis van het model.

2. Methodologie: ProToken

ProToken is een provenance-methodologie ontworpen om token-niveau generatie in federated LLMs toe te schrijven aan specifieke cliënten, terwijl strikt wordt voldaan aan de FL-privacybeperkingen (dat wil zeggen: opereren op enkel modelupdates, activaties en gradiënten, niet op ruwe data).

Kerninzichten

ProToken maakt gebruik van drie cruciale structurele inzichten om attributie hanteerbaar en accuraat te maken:

1. Lineaire Aggregatie: FL-aggregatiestrategieën (bijv. FedAvg, FedProx) zijn lineair op parameterniveau. Dit maakt het mogelijk om de forward computation van het globale model wiskundig te deconstrueren in een gewogen som van per-cliënt laag-gewijze berekeningen.
2. Laag-specialisatie: Transformer-architecturen concentreren taakspecifieke signalen in latere blokken (specifiek de output-projectielagen van de self-attention en de finale feed-forward lagen). Vroege lagen leggen generieke linguïstische kenmerken vast, terwijl latere lagen de specifieke kennis coderen die de uiteindelijke output beïnvloedt.
3. Gradiënt-gebaseerde Relevantie: Niet alle neuronen zijn relevant voor het genereren van een specifiek token. Gradiënt-gebaseerde weging filtert irrelevante neurale activaties eruit, waardoor de attributie zich alleen richt op de neuronen die de token-voorspelling direct beïnvloeden.

Technische Workflow

Het attributieproces werkt tijdens de autoregressieve generatie van een respons:

1. Laagselectie: In plaats van alle parameters te volgen (wat computationeel onhaalbaar is), beperkt ProToken de analyse tot een strategische subset van lagen: de Output Projection-laag van het self-attention mechanisme en de laatste laag van de MLP binnen de laatste $N$ transformer blokken.
2. Per-Token Attributie: Voor elk gegenereerd token $x_j$ berekent het systeem een provenance-score voor elke cliënt $i$.
   • Het globale model verwerkt de input om hidden states ($h^\ell_G$) en gradiënten ($g^\ell_{x_j}$) voor de geselecteerde lagen te genereren.
   • Voor elke cliënt $i$ simuleert het systeem wat de laag-output zou zijn ($h^\ell_i$) als de specifieke gewichten van de cliënt zouden worden gebruikt, waarbij de input van de globale forward pass behouden blijft.
   • De bijdrage-score van de cliënt voor het token wordt berekend als het inproduct van de hypothetische activatie van de cliënt en de globale gradiënt:
     $$P^\ell_{i, x_j} = \langle h^\ell_i, g^\ell_{x_j} \rangle$$
   • Deze score wordt opgeteld over de geselecteerde lagen om een per-token score te verkrijgen, en vervolgens geaccumuleerd over de gehele gegenereerde sequentie om een definitieve sequentie-niveau attributiescore te produceren.
3. Normalisatie: Scores worden genormaliseerd via softmax om een waarschijnlijkheidsverdeling over de cliënten te produceren, waarmee de meest waarschijnlijke bron wordt geïdentificeerd.

3. Evaluatiekader

Om het gebrek aan ground truth in LLM-provenance aan te pakken (het onderscheid tussen pre-trained kennis en federated bijdragen), hebben de auteurs een verifieerbaar evaluatiekader geconstrueerd met behulp van backdoor injectie:

• Ground Truth Generatie: Distincte trigger-respons paren (bijv. een specifieke trigger-phrase die leidt tot een vaste "sentinel" weigeringsrespons) werden geïnjecteerd in de lokale trainingsdata van aangewezen "malicious" cliënten.
• Evaluatiemetriek: De attributie-accuratesse wordt gemeten door het vermogen van het systeem om de trigger-dragende cliënten correct te identificeren wanneer de sentinel-respons wordt gegenereerd. Dit biedt een ondubbelzinnige ground truth dat het modelgedrag afkomstig is van specifieke cliëntbijdragen.

4. Experimentele Resultaten

De auteurs hebben ProToken geëvalueerd over 16 configuraties met vier LLM-architecturen (Gemma, SmolLM, Llama, Qwen) en vier domeinen (medisch, financieel, wiskundig, coderen).

• Attributie-accuratesse: ProToken behaalde een gemiddelde attributie-accuratesse van 98,62% over alle configuraties. Het identificeerde verantwoordelijke cliënten met een hoge mate van vertrouwen, waarbij een duidelijke binaire scheiding werd getoond tussen bijdragende en niet-bijdragende cliënten.
• Schaalbaarheid: In een schaalbaarheidstest waarbij het aantal cliënten werd verhoogd van 6 naar 55 (een toename van 9,2×), behield ProToken een hoge accuratesse (>92%), wat robuustheid aantoont in grootschalige federated implementaties.
• Impact van Gradiënt-weging: Een ablatie-studie toonde aan dat gradiënt-gebaseerde relevantie-weging cruciaal is. Het uitschakelen van gradiënt-weging verminderde de gemiddelde accuratesse van 66,34% naar 35,71%, wat bevestigt dat het filteren van irrelevante neuronen essentieel is voor betrouwbare attributie.
• Computationele Haalbaarheid: Door alleen de laatste subset van transformer blokken te monitoren, reduceerde ProToken de computationele overhead aanzienlijk vergeleken met het volgen van alle parameters. Voor een 100-token respons bleef de methode efficiënt (bijv. ~1,1s tot 1,8s afhankelijk van de laag-diepte), waardoor real-time attributie haalbaar werd.

5. Betekenis en Claims

Het artikel claimt ProToken als de eerste token-niveau provenance attributie methode specifiek voor federated LLMs. De significantie ligt in:

• Het Oplossen van de Attributie-kloof: Het pakt de fundamentele uitdaging aan om outputs te traceren in federated generatieve modellen waar data nooit gecentraliseerd wordt.
• Waarborgen van Privacy: Het opereert volledig op modelupdates en gradiënten, waardoor de privacygaranties van FL in stand blijven.
• Praktische Leefbaarheid: De methode is computationeel hanteerbaar en schaalbaar, gevalideerd over diverse architecturen en domeinen.
• Het Mogelijk Maken van Vertrouwen: Het biedt de noodzakelijke instrumenten voor debugging, het identificeren van kwaadwillende deelnemers en het waarborgen van rechtvaardige beloningsallocatie in collaboratieve LLM-training, waarmee een fundament wordt gelegd voor interpreteerbare en verantwoorde federated LLM-systemen.

De auteurs benadrukken dat hoewel backdoor injectie werd gebruikt om ground truth te creëren voor evaluatie, de methode zelf is ontworpen voor algemene attributie en geen aanval of defensiestrategie is. De resultaten valideren ProToken als een fundamentele stap richting betrouwbare federated LLM-implementatie.