💬 NLP

RARe: Retrieval Augmented Retrieval with In-Context Examples

Het paper presenteert RARe, een methode die de prestaties en generalisatie van encoder-only modellen voor tekstretrieval verbetert door ze te finetunen met contextuele voorbeelden die semantisch lijken op de doelzoekopdracht.

Oorspronkelijke auteurs: Atula Tejaswi, Yoonsang Lee, Sujay Sanghavi, Eunsol Choi

Gepubliceerd 2026-02-10

📖 3 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Atula Tejaswi, Yoonsang Lee, Sujay Sanghavi, Eunsol Choi

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je in een gigantische, chaotische bibliotheek staat met miljoenen boeken. Je zoekt iets heel specifieks, bijvoorbeeld: "Hoe maak ik een perfecte appeltaart zonder suiker?"

Normaal gesproken loop je naar de bibliothecaris (het AI-model) en stel je je vraag. De bibliothecaris kijkt even snel in zijn hoofd en wijst je een boek aan. Dat werkt prima, maar soms begrijpt hij de nuance niet helemaal of geeft hij je een boek over algemene baktechnieken in plaats van die specifieke suikervrije methode.

Dit wetenschappelijke paper, genaamd RARe, heeft een slimme nieuwe manier bedacht om de bibliothecaris te helpen.

De Analogie: De "Voorbeeld-Brief"

In plaats van alleen je vraag te stellen, geeft de bibliothecaris nu eerst een paar "voorbeeld-briefjes" aan de AI.

Stel je voor dat je de bibliothecaris niet alleen je vraag geeft, maar ook drie briefjes laat zien van andere mensen die eerder iets vroegen:

Briefje 1: "Ik zoek een recept voor gezonde koekjes" $\rightarrow$ Boek: "Gezond bakken voor beginners".
Briefje 2: "Hoe bak ik zonder boter?" $\rightarrow$ Boek: "Veganistische patisserie".
Jouw vraag: "Hoe maak ik een perfecte appeltaart zonder suiker?"

Door deze voorbeelden te zien, begrijpt de AI direct: "Ah, de gebruiker zoekt niet zomaar een recept, maar zoekt naar specifieke dieetwensen en alternatieve ingrediënten!" De AI krijgt dus een soort contextuele bril op die hem helpt om de juiste richting in te slaan.

Wat hebben de onderzoekers precies gedaan? (De techniek simpel uitgelegd)

De onderzoekers ontdekten dat bestaande AI-modellen (die alleen maar "luisteren" naar je vraag) vaak de plank misslaan als de vraag ingewikkeld is. Ze hebben daarom RARe ontwikkeld:

Zoeken naar gelijkenissen: Voordat de AI je vraag beantwoordt, zoekt het systeem razendsnel naar vragen die lijken op die van jou.
De 'In-Context' upgrade: Het systeem plakt die vergelijkbare vragen en de bijbehorende juiste antwoorden bovenop jouw vraag.
Training: Ze hebben de AI specifiek getraind om ook echt naar die extra voorbeelden te kijken. (Vóór RARe raakte de AI juist in de war als je extra voorbeelden gaf; het was voor hem als een overvolle inbox waar hij niet doorheen kwam).

Waarom is dit belangrijk?

Beter begrijpen: De AI wordt veel beter in het begrijpen van moeilijke, redeneer-gebaseerde vragen (zoals logische puzzels of complexe wetenschappelijke vragen).
Buiten de gebaande paden: Zelfs als de AI een onderwerp tegenkomt waar hij niet veel van weet (een "out-of-domain" onderwerp), helpen de voorbeelden hem om de logica te begrijpen. Het is alsof je een vreemdeling een handleiding in een andere taal geeft; door de voorbeelden begrijpt hij de structuur alsnog.
Prestaties: In hun tests verbeterde de nauwkeurigheid van het zoeken met wel 2,72%. Dat klinkt misschien weinig, maar in de wereld van enorme databases is dat een enorme sprong voorwaarts.

Samenvatting in één zin

RARe maakt zoekmachines slimmer door ze niet alleen de vraag te laten lezen, maar ook een paar "vergelijkbare succesverhalen" te laten zien, zodat ze precies begrijpen wat de bedoeling is.

Technische Samenvatting: RARe

1. Het Probleem (Problem Statement)

In-context learning (ICL) is een krachtig paradigma voor decoder-only Large Language Models (LLM's), waarbij het model taken kan uitvoeren door voorbeelden in de prompt te geven zonder de parameters aan te passen. Hoewel dit veelvuldig is onderzocht voor generatieve modellen, is de nuttigheid ervan voor encoder-only modellen (zoals embedding-modellen die gebruikt worden voor tekstretrieval) onderbelicht.

Bestaande methoden voor retrieval-augmentatie proberen vaak instructies toe te voegen aan een query, maar het effect van het toevoegen van in-context voorbeelden (query-document paren) aan een embedding-model is niet triviaal. In tegenstelling tot decoder-modellen, waarbij voorbeelden de capaciteit van het model vergroten tijdens generatie, dienen ze bij encoder-modellen primair om taakspecifieke informatie te verrijken. Bovendien leidt het simpelweg toevoegen van voorbeelden aan een bestaand, niet-getraind embedding-model vaak tot een significante prestatievermindering.

2. Methodologie (Methodology)

De auteurs introduceren RARe (Retrieval-Augmented Retrieval with In-Context Examples). De kern van hun aanpak is het finetunen van een retriever om effectief gebruik te maken van semantisch relevante in-context voorbeelden.

Het proces verloopt als volgt:

Selectie van voorbeelden: Voor een doel-query ( $q$ ) worden via een sparse retriever (BM25) de $k$ meest semantisch vergelijkbare queries ( $q_{ic}$ ) uit de trainingsset gezocht.
Query Augmentatie: De doel-query wordt uitgebreid tot een nieuwe format:
Instruct: {taak}; Query: {q_ic1}; Document: {d_ic1} ... Query: {q}.
Training: Het model wordt getraind met een contrastive loss functie. Hierbij wordt het model gedwongen om de embedding van de geaugmenteerde query dicht bij de embedding van het relevante document ( $d^+$ ) te brengen, en ver weg van harde negatieven ( $d^-$ ) en in-batch negatieven.
Inference: Tijdens het gebruik van het model worden tijdens de runtime opnieuw vergelijkbare voorbeelden via BM25 opgezocht om de query te verrijken voordat deze wordt omgezet in een embedding.

3. Belangrijkste Bijdragen (Key Contributions)

Nieuw Paradigma: De introductie van RARe, een methode die encoder-modellen aanpast om te profiteren van semantisch relevante in-context voorbeelden.
Architecturale Flexibiliteit: Het bewijs dat deze methode werkt voor zowel decoder-only backbones (zoals Llama-3) als voor bestaande, hoogwaardige retriever-modellen (zoals E5-Mistral).
Diepgaande Analyse: Een uitgebreide studie naar de invloed van de kwaliteit, hoeveelheid ( $k$ ) en het formaat van de in-context voorbeelden, evenals de impact van de gelijkenis tussen de voorbeelden en de doel-query.

4. Resultaten (Results)

De resultaten op diverse benchmarks (BeIR en RAR-b) laten significante verbeteringen zien:

Prestatiewinst: RARe bereikt verbeteringen tot +2,72% nDCG@10 op reasoning-georiënteerde retrieval-taken (RAR-b) vergeleken met modellen zonder in-context voorbeelden.
Generalisatie: Een cruciaal resultaat is dat RARe een sterkere out-of-domain (OOD) generalisatie vertoont. Dit betekent dat het model beter presteert op datasets die het tijdens de training niet heeft gezien, vergelijkbaar met de eigenschappen van ICL in LLM's.
Kwaliteit van voorbeelden: De analyse toont aan dat het gebruik van gezochte (semantisch relevante) voorbeelden superieur is aan het gebruik van willekeurige voorbeelden. Hoe hoger de gelijkenis tussen de in-context query en de doel-query, hoe groter de winst (tot wel 10% op specifieke datasets zoals SciFact).
Formaat en Inhoud: Het toevoegen van negatieve documenten in de prompt helpt niet; het gebruik van alleen queries of alleen documenten is minder effectief dan de volledige query-document paren.

5. Betekenis (Significance)

Dit onderzoek legt de fundering voor de volgende generatie embedding-modellen. Het laat zien dat we de "kennis" van in-context learning kunnen overbrengen naar encoder-modellen, waardoor ze niet alleen beter worden in hun specifieke trainingsdomein, maar ook veel robuuster worden in nieuwe, onbekende domeinen. Bovendien biedt het een alternatief voor dure generatieve query-expansie (waarbij een LLM de query herschrijft), door een efficiëntere retrieval-gebaseerde verrijking te gebruiken.