💻 computer science

SPIRE: Structure-Preserving Interpretable Retrieval of Evidence

Dit paper introduceert SPIRE, een structure-bewuste zoekpipeline voor HTML-documenten die subdocumenten behoudt en contextueel verrijkt om betere, interpreteerbare en schaalbare resultaten te behalen dan traditionele, lineaire fragmentbenaderingen.

Oorspronkelijke auteurs: Mike Rainey, Umut Acar, Muhammed Sezer

Gepubliceerd 2026-04-24

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Mike Rainey, Umut Acar, Muhammed Sezer

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

De Kernprobleem: Het "Flatten" van Boeken

Stel je voor dat je een prachtig, complex boek hebt met hoofdstukken, koppen, lijsten en tabellen. Nu, stel je voor dat iemand dit boek neemt en alle pagina's in één lange, ononderbroken strook papier plakt. De koppen zijn weg, de lijsten zijn verbroken en de tabellen zijn een grote brij van tekst geworden.

Dit is wat de meeste huidige AI-systemen (zoals RAG) doen met webpagina's (HTML). Ze nemen een rijk, gestructureerd document en "plat" het af tot een reeks tekstblokjes.

Het gevolg? Als de AI een zinnetje uit dat boek haalt om een vraag te beantwoorden, is dat zinnetje vaak onbegrijpelijk.

Het is als een zin uit een lijst: "Deze optie is de beste." (Maar wat is de lijst? Wat zijn de andere opties?)
Het is als een getal uit een tabel zonder koppen: "41" (41 wat? 41 parken? 41 mensen? 41 euro?)

Zonder de structuur (de koppen, de lijst, de tabel) is de informatie nutteloos voor de gebruiker.

De Oplossing: SPIRE (De Slimme Bibliotheek)

De auteurs van dit paper, SPIRE, zeggen: "Waarom gooien we de structuur weg? Laten we het juist gebruiken!"

Ze hebben een systeem bedacht dat documenten behandelt als een boomstructuur (met takken, bladeren en wortels), in plaats van als een platte strook.

Hier is hoe het werkt, vertaald naar een simpele analogie:

1. De Boomstructuur (De Documentboom)

Stel je een document voor als een enorme boom.

De stam is de titel van het artikel.
De grote takken zijn de hoofdstukken (koppen).
De kleine takken zijn alinea's of lijsten.
De bladeren zijn de zinnen.

Elk onderdeel heeft een uniek adres (een "pad"), net zoals je een huisadres hebt. SPIRE onthoudt niet alleen de tekst, maar ook precies waar die tekst hangt in de boom.

2. Twee soorten "Context" (De Omgeving)

Als je een blad van de boom plukt, moet je weten waar het vandaan komt, anders is het raadselachtig. SPIRE gebruikt twee slimme manieren om context toe te voegen:

Globale Context (De "Waarom"-context):
Stel je plukt een blad. Om te weten wat het is, moet je weten aan welke tak het zit en wat de naam van de boom is.
- Voorbeeld: Als je een zin leest over "41 parken", voegt SPIRE automatisch de hoofdstuktitel "Key Takeaways" en de documenttitel "Virginia State Parks" toe. Zonder deze toevoeging wist de AI niet waar het over ging. Dit gebeurt automatisch en vastgelegd in de index.
Lokale Context (De "Buren"-context):
Soms is een enkel blad te klein. Je wilt misschien de hele tak zien om de context te begrijpen.
- Voorbeeld: Als de AI een zin vindt, kijkt het even naar de zinnen erboven en eronder (de buren) om de zin te begrijpen. Maar het plukt alleen de buren die nodig zijn. Het gooit niet de hele boom mee.

3. Het Proces: Hoe SPIRE werkt

Het proces lijkt op het zoeken in een zeer georganiseerde bibliotheek:

Zoeken (De Vraag): Je stelt een vraag. De AI zoekt in de "boom" naar zinnen die lijken op je vraag. Omdat ze op zinnen zoeken (in plaats van grote blokken), vinden ze heel precies.
Samenvoegen (De Slimme Verzameling): Stel, de AI vindt 10 zinnen uit één artikel. In een oud systeem zou het de titel en koppen 10 keer herhalen (wat ruimte kost). SPIRE zegt: "Wacht, dit komt uit dezelfde boom. Laten we de titel maar één keer toevoegen en dan alle 10 de zinnen eronder plakken." Dit bespaart ruimte en maakt het overzichtelijker.
Filteren (De Redacteur): Nu heeft de AI een hoop materiaal. Een menselijke redacteur (een slimme AI) kijkt naar de verzameling en zegt: "Oké, deze zin is relevant, maar die zin hieronder is onbelangrijke ruis. Laten we die weglaten."
Het Eindresultaat: Je krijgt een kort, scherp antwoord met de juiste bronvermelding. Je weet precies waar de informatie vandaan komt (bijvoorbeeld: "Hoofdstuk 3, alinea 2, zin 4"), zelfs als er veel context omheen is toegevoegd.

Waarom is dit beter dan wat we nu hebben?

Precisie: Omdat ze op zinnen zoeken, vinden ze het juiste antwoord sneller.
Begrijpelijkheid: Door de koppen en lijsten mee te nemen, is het antwoord nooit een raadsel.
Efficiëntie: Ze verspillen geen ruimte aan het herhalen van titels en koppen.
Betrouwbaarheid: Je kunt altijd terugkijken naar het originele document om te zien of de AI het goed heeft gedaan, omdat elk stukje tekst een vast adres heeft.

Samenvattend

SPIRE is als een slimme bibliotheekmedewerker die niet zomaar een pagina uit een boek scheurt en je die geeft. In plaats daarvan:

Haalt hij de juiste zin.
Plakt er de titel van het hoofdstuk en de naam van het boek bovenop (zodat je weet wat het is).
Voegt hij eventueel de buren-zinnen toe als dat nodig is voor de context.
Controleert hij of het antwoord klopt.
Geeft hij je een perfect, zelfstandig antwoord dat je direct kunt gebruiken.

Het resultaat is dat AI-systemen minder "hallucineren", betere bronvermeldingen geven en antwoorden die echt begrijpelijk zijn voor mensen.

1. Het Probleem

Retrieval-Augmented Generation (RAG) systemen die werken met semi-gestructureerde bronnen (zoals HTML-documenten, technische handleidingen en referentieartikelen), kampen met een fundamenteel mismatch tussen de documentstructuur en de huidige embedding- en generatieve modellen.

Linearisatie en Structuurverlies: Bestaande pipelines converteren documenten vaak naar vlakke, vaste tekstblokken (chunks) voordat ze worden geïndexeerd. Hierdoor gaan essentiële structurele elementen verloren, zoals sectiegrenzen, koppenhiërarchieën, lijsten en tabellen.
Interpreteerbaarheid: Wanneer een model een zin uit het midden van een genummerde lijst of een tabelcel terugvindt zonder de omringende context (zoals de lijstkop of kolomkoppen), is de informatie vaak onbegrijpelijk voor de gebruiker.
Granulariteitsdilemma: Het zoeken op fijnmazig niveau (zinnen) geeft precieze resultaten maar mist context. Het zoeken op grof niveau (grote blokken) behoudt context maar verduistert de relevantie en verspillen het token-budget aan irrelevante informatie.

2. Methodologie: De SPIRE-pijplijn

SPIRE introduceert een structuurbewuste retrieval-pijplijn die documenten behandelt als boomstructuren in plaats van vlakke sequenties. De kern van de methode is het gebruik van subdocumenten: precieze, adresseerbare selecties die hun structurele identiteit behouden, waarbij de keuze voor omringende context wordt uitgesteld tot het moment dat deze nodig is.

De aanpak bestaat uit de volgende componenten:

A. Path-Adresseerbaar Documentmodel

Documenten worden geparseerd naar een boomstructuur waarbij elke knoop een stabiel, op pad gebaseerd identificatienummer krijgt (bijv. [0, 0, 1] voor een specifieke paragraaf).

Subdocumenten: In plaats van direct tekst te extraheren, werkt het systeem met sets van paden ( $P$ ). Een subdocument is een paar $(D, P)$ dat de intentie aangeeft om een deel van de boom te extraheren.
Primitieven: Het systeem gebruikt operatoren voor Ancestor completion (voeg bovenliggende knopen toe om bereikbaarheid te garanderen) en Descendant completion (voeg onderliggende knopen toe om inhoud te behouden) om een geldige boom te vormen.

B. Twee vormen van Contextualisatie

Om de interpretatie te waarborgen, worden twee mechanismen gebruikt:

Global Contextualization (Bij indexering): Voegt niet-lokale structurele steun toe die nodig is om een selectie op zichzelf te begrijpen. Dit omvat:
- Documenttitels en sectiekoppen (die de scope bepalen).
- Lijststructuren (om te voorkomen dat een item losstaat van zijn label).
- Tabelkoppen (rij- en kolomlabels voor cellen).
- Deze context wordt deterministisch toegevoegd aan de padset voordat het wordt ingesloten in een embedding.
Local Contextualization (Na retrieval): Breidt een geselecteerde zin uit naar zijn directe structurele omgeving (bijv. de volledige paragraaf of aangrenzende zinnen) om een compacte, contextrijke weergave te krijgen binnen een token-budget.

C. De Retrieval-pijplijn

De pipeline heeft twee hoofdfasen:

Vector-embedding Retrieval:
- Indexering: Zinnen worden gebruikt als "seeds" voor embeddings. Elke zin wordt geïndexeerd als een subdocument.
- Global Context: Bij het indexeren wordt de globale context (titels, headers) deterministisch toegevoegd aan de tekst die wordt ge-embed.
- Query-tijd Aggregatie: Om duplicatie van gedeelde structuur (zoals dezelfde titel voor meerdere zinnen uit één document) te voorkomen, worden resultaten per document samengevoegd (union van padsets) voordat het budget wordt toegepast. Hierdoor wordt de structuur slechts één keer betaald.
Contextual Filtering (Reranking):
- Een generatief taalmodel (LLM) evalueert de geretrieveerde kandidaten in hun lokaal geëxpandeerde context.
- Het model moet specifiek labels selecteren die essentieel zijn om de vraag te beantwoorden.
- Dit filtert irrelevante kandidaten eruit en levert een compacte, hoogwaardige set citaten op, terwijl de oorspronkelijke pad-identificatie behouden blijft.

3. Belangrijkste Bijdragen

Path-Adresseerbaar Model: Een abstractie met primitieven (paden, subdocumenten, en contextualisatie-operatoren) die een interface vormt tussen boomgestructureerde documenten en sequentie-gebaseerde modellen.
Structuurbewuste Pijplijn: Een systeem dat globale context bij het indexeren toepast en lokale context met LLM-filtering bij de query-uitvoering, wat leidt tot compacte, citeerbare excerpten.
Experimentele Validatie: Bewijs dat het behoud van structuur leidt tot hogere kwaliteit en diversere citaties binnen een vast token-budget, vergeleken met sterke passage-gebaseerde baselines.

4. Resultaten

De auteurs hebben hun systeem getest op HTML-vraag-antwoord benchmarks (HotpotQA en ASQA) en vergeleken met sterke baselines (zoals bge uit HtmlRAG) en ablatie-versies.

Vergelijking met Baselines:
- SPIRE's embedding-only retriever (embedding_retrieval) presteerde qua ratio van nuttige citaties vergelijkbaar met de bge-baseline (bijv. ~0.215 vs 0.222 op HotpotQA), maar produceerde veel meer nuttige citaties binnen hetzelfde token-budget (2225 vs 1514). Dit komt doordat SPIRE op zinsniveau werkt in plaats van op blokniveau.
- Zonder globale contextualisatie (`embedding_retrieval_noctx) daalde de precisie aanzienlijk, wat aantoont dat structurele context essentieel is voor interpretatie.
Impact van Contextual Filtering:
- De volledige SPIRE-pijplijn (met LLM-filtering) verbeterde de ratio van nuttige citaties drastisch: van 0.215 naar 0.655 op HotpotQA en van 0.615 naar 0.813 op ASQA.
- Het filteren verwijdert zwakke kandidaten en concentreert het budget op direct bewijs, terwijl de herkomst (provenance) exact blijft dankzij de pad-identificatie.

5. Betekenis en Conclusie

SPIRE toont aan dat het behoud van documentstructuur niet alleen een kwestie is van betere "chunking", maar de ruimte van zoekoperaties zelf uitbreidt.

Interpreteerbaarheid: Door structurele elementen (koppen, lijsten, tabellen) als eerste klas objecten te behandelen, kunnen systemen citaties genereren die op zichzelf staan en begrijpelijk zijn.
Efficiëntie: Het scheiden van de zoekgranulariteit (zinnen) van de presentatiegranulariteit (gecontroleerde uitbreiding) lost het compromis tussen precisie en context op.
Provenance: Het systeem garandeert dat citaties altijd verwijzen naar de exacte locatie in de originele boomstructuur, zelfs na complexe contextuele bewerkingen.

De studie suggereert dat toekomstige RAG-systemen documentstructuur moeten integreren als een fundamenteel onderdeel van de retrieval-logica, in plaats van deze te reduceren tot vlakke tekststromen.