💬 NLP

RoPE-LIME: RoPE-Space Locality + Sparse-K Sampling for Efficient LLM Attribution

Het paper introduceert RoPE-LIME, een open-source methode die gebruikmaakt van een kleiner surrogaatmodel, een RoPE-ruimte gelokaliseerde kernel en Sparse-K bemonstering om efficiënte en betrouwbare attributies voor gesloten LLM's te genereren zonder de noodzaak van dure API-aanroepen.

Oorspronkelijke auteurs: Isaac Picov, Ritesh Goru

Gepubliceerd 2026-02-20

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Isaac Picov, Ritesh Goru

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een heel slimme, maar mysterieuze robot hebt die verhalen schrijft of vragen beantwoordt. We noemen deze robot een LLM (Large Language Model). Het probleem is: deze robot is vaak een "black box". Je kunt niet naar binnen kijken om te zien waarom hij precies dit antwoord gaf. Hij is gesloten, en je hebt alleen een telefoonlijn (API) om met hem te praten.

De auteurs van dit papier, Isaac en Ritesh, hebben een slimme oplossing bedacht om te begrijpen hoe deze robot denkt, zonder hem te hoeven openen of te veel geld uit te geven. Ze noemen hun uitvinding RoPE-LIME.

Hier is hoe het werkt, vertaald naar alledaagse taal:

1. Het Probleem: Te duur en te onstabiel

Vroeger probeerden mensen te begrijpen wat de robot dacht door de input (de vraag) een beetje te veranderen en te kijken wat er gebeurde.

Het dure probleem: Elke keer dat je de vraag een beetje aanpast, moet je de robot opnieuw vragen om een antwoord te geven. Als de robot een dure "VIP-klant" is (zoals een gesloten model van een groot bedrijf), kost dit enorm veel geld, vooral bij lange teksten.
Het onstabiele probleem: Als je de vraag een beetje verandert, kan de robot soms een heel ander verhaal vertellen, niet omdat de betekenis veranderde, maar omdat hij een beetje "nervous" is. Dit maakt het moeilijk om te weten wat er echt belangrijk was.

2. De Oplossing: De "Twee-robot Strategie"

RoPE-LIME lost dit op met een slimme truc: Scheid het denken van het uitleggen.

Stap 1: De Grote Robot (De Chef): Je vraagt de dure, gesloten robot één keer om het antwoord te geven. Dat is het. Je betaalt maar één keer.
Stap 2: De Kleine Robot (De Vertaler): Nu heb je dat vaste antwoord. Je gebruikt nu een kleinere, gratis, open-source robot om uit te leggen waarom de grote robot dat antwoord gaf.

De Analogie:
Stel je voor dat een beroemde chef-kok (de grote robot) een gerecht heeft bereid. In plaats van dat je de chef elke keer vraagt om het gerecht opnieuw te maken als je een ingrediënt wilt testen (wat duur is), neem je een foto van het gerecht. Een jonge kokkentechniek-student (de kleine robot) kijkt naar die foto en zegt: "Ah, dit gerecht smaakt naar knoflook omdat de knoflook hier stond." De student hoeft de echte chef niet te storen; hij analyseert gewoon het eindresultaat.

3. De Twee Slimme Trucs in de Student

Om deze "student" (de kleine robot) zo goed mogelijk te maken, gebruiken ze twee speciale technieken:

A. De "RoPE-Compass" (Voor stabiele vergelijkingen)

Wanneer je teksten vergelijkt, is het lastig als je woorden verwijdert; de volgorde van de resterende woorden schuift op. Normale meetlatjes raken hierdoor in de war.

De oplossing: Ze gebruiken een speciale meetlat die ze RoPE noemen. Denk hierbij aan een kompas of een draaiend wiel. Het maakt niet uit of je een woord verwijdert; de relatieve richting van de woorden blijft hetzelfde. Hierdoor kan de kleine robot heel stabiel meten welke delen van de tekst het belangrijkst waren, zelfs als de tekst een beetje is veranderd.

B. "Sparse-K" (De Slimme Proefnemer)

Stel je voor dat je een cake wilt testen om te zien welk ingrediënt het lekkerst maakt.

De oude manier (Leave-One-Out): Je bakt een cake zonder bloem, dan een zonder suiker, dan een zonder eieren, enzovoort. Als je 100 ingrediënten hebt, moet je 100 cakes bakken. Dat is te veel werk.
De RoPE-LIME manier (Sparse-K): In plaats van alles één voor één te testen, test je slimme combinaties. Je bakt een paar cakes waarbij je willekeurig een paar ingrediënten weghaalt, maar je doet dit op een manier die wiskundig garandeert dat je toch precies weet welke ingrediënten het belangrijkst waren. Je hoeft maar een fractie van de cakes te bakken (logaritmisch minder werk), maar je krijgt net zo'n goed antwoord.

4. Wat hebben ze ontdekt?

Ze hebben dit getest op moeilijke vragen (zoals uit de MMLU en HotpotQA datasets).

Resultaat: Hun methode gaf net zo goede (en soms betere) uitleggen dan de dure methoden die de grote robot keer op keer moeten aanroepen.
Voordeel: Het kost veel minder geld en tijd, en het werkt zelfs beter bij lange teksten.

Samenvattend

RoPE-LIME is als het hebben van een slimme assistent die naar het werk van een dure expert kijkt en je precies kan vertellen welke stukjes van de vraag het belangrijkst waren voor het antwoord. Je hoeft de dure expert niet steeds opnieuw te bellen; je gebruikt een slimme, goedkope assistent die de "geest" van het antwoord begrijpt, zonder de kosten van de originele bron.

Het maakt het mogelijk om te begrijpen hoe AI werkt, zonder dat je je portemonnee hoeft te openen voor elke kleine vraag.

Probleemstelling

Het verklaren van de output van gesloten Large Language Models (LLM's) is een grote uitdaging. Omdat deze modellen vaak alleen via API's toegankelijk zijn, kunnen gradient-based attributiemethoden (die de interne gewichten nodig hebben) niet worden gebruikt. De huidige alternatieven, zoals perturbatie-methoden (bijv. gSMILE), hebben drie ernstige nadelen:

Hoge Kosten: Ze vereisen herhaalde queries naar de dure, gesloten model voor elke verstoring van de input, wat onbetaalbaar wordt voor lange contexten.
Output-Instabiliteit: Ze vertrouwen op gegenereerde tekst in plaats van kansverdelingen. Kleine wijzigingen in de input kunnen leiden tot volledig verschillende generatiepaden, wat ruis introduceert.
Sampling-Inefficiëntie: Standaard strategieën zoals "Leave-One-Out" (LOO) of willekeurige masking schalen slecht met de inputlengte en missen vaak interacties tussen features.

Methodologie: RoPE-LIME

RoPE-LIME is een open-source framework dat het redeneren (de output genereren) ontkoppelt van de uitleg (attributie). Het werkt als volgt:

Eénmalige Query: Het gesloten model wordt slechts één keer aangeroepen om de originele respons te genereren.
Surrogaatmodel: Een kleiner, open-source model fungeert als surrogaat om token-level attributies te berekenen op basis van waarschijnlijkheids-objectieven (zoals negatieve log-likelihood en divergentie) voor de vaste output, zonder het gesloten model opnieuw aan te roepen.

De methode introduceert twee kerninnovaties:

1. Locality Kernel: RWMD in RoPE-ruimte

Om de "localiteit" (gelijkheid) tussen input-varianten te meten, gebruikt RoPE-LIME de Relaxed Word Mover's Distance (RWMD), maar dan berekend in de ruimte van Rotary Positional Embeddings (RoPE).

Waarom RoPE? RoPE encodeert relatieve posities via rotatie. Dit maakt de afstandsmeting robuust tegen indexverschuivingen die ontstaan door masking (verwijdering van tokens), in tegenstelling tot absolute positiemethoden.
Polaire Representatie: Omdat token-spannen (bijv. zinnen) wisselende lengtes hebben, worden embeddings niet in Euclidische ruimte gepooled (wat de rotatie-geometrie zou verstoren). In plaats daarvan worden ze in het polaire domein samengevoegd (gemiddelde magnitude en relatieve fase) en wordt een polaire L2-afstand gebruikt. Dit zorgt voor stabiele span-vergelijkingen.

2. Sparse-K Sampling

In plaats van alle mogelijke combinaties te testen (zoals bij powerset-sampling) of alleen één feature weg te laten (LOO), introduceert RoPE-LIME Sparse-K sampling.

Dit is een perturbatiestrategie die de feature-ruimte efficiënt verkent door gebruik te maken van contextuele afhankelijkheden in natuurlijke taal.
De perturbatie-begroting ( $N$ ) schaalt logaritmisch ( $O(\log K)$ ) met het aantal features, in plaats van lineair. Dit maakt het mogelijk om interacties te vangen binnen een beperkt computatiebudget.

Het Pipeline-proces

Het gesloten model genereert output $y$ voor input $x$ .
Een open-source surrogaatmodel $f_S$ bekijkt de vaste output $y$ en evalueert verstoarde inputs ( $x \odot z_j$ ).
De doelstelling voor regressie is gebaseerd op de KL-divergentie tussen de log-likelihood van de baseline en de verstoarde input.
Gewichten voor de regressie worden bepaald door de RWMD-afstand (lokaliteit).
Een gewogen lineair surrogaatmodel wordt gefit om attributiescores ( $\beta$ ) te schatten.

Belangrijkste Bijdragen

Ontkoppeling van Redenering en Uitleg: Het mogelijk maken van attributie voor gesloten modellen zonder herhaalde API-calls, door gebruik te maken van een lokaal surrogaatmodel.
Stabiele Afstandsmeting: De toepassing van RWMD in RoPE-ruimte met polaire pooling, wat zorgt voor robuustheid tegen masking-geïnduceerde indexverschuivingen.
Efficiënte Sampling: De introductie van Sparse-K sampling, die de schaalbaarheid van attributie voor lange contexten mogelijk maakt met een logaritmische complexiteit.
Probabilistische Attributie: Het verschuiven van focus van tekst-overlap (discreet) naar waarschijnlijkheidsverdelingen (continu), wat ruis reduceert.

Resultaten

De methode is getest op HotpotQA (voor zinnen als features) en een hand-gelabeld subset van MMLU (voor woorden als features).

Vergelijking met gSMILE: Op MMLU presteerde RoPE-LIME beter dan gSMILE op metrics zoals IoU, F1 en AUROC, ondanks dat het uitsluitend gebruikmaakte van een kleiner open-source model (Qwen-8B) in plaats van het gesloten model (gpt-4o-mini) voor de attributie.
Efficiëntie: RoPE-LIME reduceert het aantal calls naar het gesloten model drastisch (van duizenden naar één).
Schaalbaarheid: Op HotpotQA toonde Sparse-K sampling superieure prestaties ten opzichte van LOO-sampling, vooral bij langere contexten met meer features. Het kon interacties tussen features beter vangen binnen een beperkt budget.

Betekenis en Conclusie

RoPE-LIME biedt een praktische en schaalbare oplossing voor de interpretatie van gesloten LLM's. Het bewijst dat hoogwaardige attributie mogelijk is zonder herhaalde, dure inferentie van het oorspronkelijke model. Door de combinatie van geometrisch correcte afstandsmetingen (RoPE/RWMD) en efficiënte sampling (Sparse-K), maakt het framework betrouwbare uitleg mogelijk voor complexe, lange contexten, wat een belangrijke stap is in het sluiten van het interpretabiliteitskloof bij black-box AI-systemen.