VaaS is a Multi-Layer Hallucination Reduction Pipeline for AI-Assisted Science: Production Validation and Prospective Benchmarking

Dit artikel beschrijft de ontwikkeling en validatie van de VaaS-pijplijn, een multi-layer systeem dat hallucinaties in AI-ondersteunde wetenschap, zoals het fabriceren van citaties, effectief reduceert tot bijna nul door middel van productievalidatie en prospectieve benchmarking, terwijl het tegelijkertijd kostenefficiënt blijft.

De kern

Stel je voor dat je een enorme bibliotheek bouwt voor zeldzame ziekten. In deze bibliotheek wil je voor elk ziektegen een perfect samenvatting maken, inclusief verwijzingen naar wetenschappelijke artikelen. Je vraagt een superintelligente robot (een AI) om dit te doen.

Het probleem? Deze robot is een fantastische leugenaar als het gaat om bronvermelding. Hij kan met een heel zeker gezicht een boeknummer uitvinden dat niet bestaat, of een bestaand boek aanhalen dat eigenlijk over iets heel anders gaat. In de wetenschap is dit gevaarlijk: het kan leiden tot verkeerde medicijnen of foute onderzoeken.

Dit artikel beschrijft hoe een team een slimme, meerlagige controlelijn (genaamd VaaS) heeft gebouwd om deze leugens te stoppen. Hier is hoe het werkt, vertaald naar alledaagse taal:

1. Het Probleem: De "Zekere" Leugenaar

Stel je voor dat je een journalist vraagt om een artikel te schrijven over een zeldzame ziekte. Hij pakt zijn telefoon, denkt even na en schrijft: "Zoals bewezen in artikel #12345..."
Het probleem is dat #12345 misschien wel bestaat, maar het gaat daar over een soortje kikker, niet over de ziekte. Of het nummer bestaat helemaal niet. De robot is zo zelfverzekerd dat hij denkt dat hij gelijk heeft, terwijl hij eigenlijk uit zijn duim zuigt. Dit noemen ze hallucinaties.

2. De Oplossing: De VaaS-Fabriek (Validatie als Systeem)

In plaats van de robot gewoon te laten werken, hebben de auteurs een veiligheidsfabriek gebouwd. Elke keer dat de robot een bewering doet, moet hij door vijf verschillende poortwachters.

Stel je dit voor als een superstreng restaurantkeuring:

• Poort 1: De "Geen Uitvindingen"-Regel (De Eerste Wet)
  De robot krijgt een strengere opdracht: "Je mag nooit iets verzinnen. Als je het niet zeker weet, zeg je dat je het niet weet." Dit is geen gewone regel, maar een deel van zijn persoonlijkheid. Hij moet eerlijk zijn.

• Poort 2: De Live-Check (De Telefoonoproep)
  De robot zegt: "Ik heb artikel #12345 gevonden."
  In plaats van te vertrouwen op zijn geheugen, moet de robot direct naar de bibliotheek (PubMed) bellen. Hij moet het artikel echt zien, de titel lezen en controleren: "Is dit echt het artikel waar ik het over heb?"

  • Voorbeeld: Als de robot zegt dat een artikel over "hartfalen" gaat, maar de titel is "hoe je een broodje maakt", wordt het artikel direct weggegooid.

• Poort 3: De "Foutenlijst" (De Herinneringskaart)
  De robot heeft een lijstje bij zich met bekende fouten die hij eerder maakte. Bijvoorbeeld: "Vergeet niet: medicijn X is niet goedgekeurd voor ziekte Y." Deze lijst wordt elke keer aangevuld met nieuwe fouten die mensen hebben ontdekt. Het is alsof de chef-kok de kok vertelt: "Vergeet niet, we hebben gisteren al eens vergeten dat we geen zout in de soep doen."

• Poort 4: De Tweede Meester (De Dubbelcheck)
  Een tweede, onafhankelijke robot kijkt mee. Als de eerste robot zegt dat iets klopt, zegt de tweede: "Wacht even, ik check het ook." Als ze het niet eens zijn, wordt het stukje tekst geblokkeerd.

• Poort 5: De Menselijke Inspecteur
  Uiteindelijk kijkt een echte mens (een wetenschapper) nog even naar de twijfelachtige gevallen. De robot doet het zware werk, maar de mens houdt het toezicht.

3. De Resultaten: Van Chaos naar Perfectie

De auteurs hebben dit systeem getest met duizenden artikelen en honderden genen.

• Zonder controle: De robot gaf in 96% van de gevallen verkeerde of niet-bestaande verwijzingen. Het was een puinhoop.
• Met de VaaS-fabriek: De fouten zijn bijna volledig verdwenen. De robot gaf nu 0% valse verwijzingen.
• Kosten: Dit gebeurde voor minder dan $1 per gen. Dat is goedkoper dan een kop koffie!

4. De Grootste Leerles: Het is niet de robot, het is de manier van werken

Het meest interessante is dat dit probleem niet alleen bij één type robot (zoals de duurste) voorkomt. Zelfs bij goedkopere, openbare robots gebeurde hetzelfde: ze verzonnen allemaal evenveel leugens als je ze niet controleerde.

De conclusie:
Je kunt niet vertrouwen op het geheugen van een AI voor feiten. Je moet hem dwingen om live te controleren bij de bron. De VaaS-pijplijn is als een veiligheidsgordel voor wetenschap: het maakt het gebruik van AI veilig, snel en goedkoop, zodat wetenschappers zich kunnen focussen op het ontdekken van nieuwe behandelingen, in plaats van het controleren van valse bronnen.

Kortom: De robot is een snelle schrijver, maar hij is een slechte onderzoeker. Door hem te koppelen aan een systeem dat altijd de feiten checkt, krijgen we eindelijk betrouwbare AI voor de geneeskunde.

Technische samenvatting

Titel en Context

Titel: VaaS (Validation as a System): Een multi-layer pipeline voor hallucinatie-reductie in door AI ondersteunde wetenschap.
Doel: Het adresseren van het inherente risico van hallucinaties (verzonnen citaten, gefabriceerde goedkeuringen, onondersteunde uitkomsten) bij het gebruik van Large Language Models (LLM's) voor wetenschappelijke synthese, specifiek binnen zeldzame ziekten.

---

1. Het Probleem

Grote taalmodellen (LLM's) zijn vatbaar voor een specifiek type fout dat in de wetenschap kritiek is: hallucinaties van citaten. Dit omvat twee hoofdtypen:

• Type I (Fabricatie): Het genereren van een PMID (PubMed-identificatienummer) dat niet bestaat in de database.
• Type II (Verkeerd onderwerp): Het genereren van een bestaand PMID dat verwijst naar een echt artikel, maar dat artikel ondersteunt de bewering niet (bijv. een verkeerd gen, een verkeerde ziekte of een verkeerde bevinding).

Bestaande oplossingen zoals Retrieval-Augmented Generation (RAG) verminderen hallucinaties, maar de auteurs stellen dat zelfs geavanceerde modellen (zoals Claude Opus 3.5) structureel falen bij het genereren van onafhankelijke literatuuroverzichten zonder externe verificatie. Zelfs een lage foutenrate (bijv. 3%) is onacceptabel voor een database die gebruikt wordt voor klinische beslissingen en subsidieaanvragen.

---

2. Methodologie: De VaaS-pipeline

De auteurs hebben een systeem ontwikkeld genaamd VaaS (Validation as a System). Dit is een geautomatiseerde, multi-agent workflow die hallucinaties aanpakt via gelaagde verificatie op het moment van claim-druk.

Kerncomponenten van de pipeline:

1. Epistemische Integriteitsbeperking ("The First Law"): Een systeemprompt die hallucinatie als een fundamenteel verbod definieert. Agents mogen geen data, resultaten of citaten fabriceren. Bij onzekerheid moet onzekerheid worden gekwantificeerd.
2. Live PMID-verificatie (HTTP-fetch): In plaats van te vertrouwen op parametrisch geheugen (trainingsdata), moet de agent elke geciteerde PMID direct ophalen via een HTTP-verzoek naar PubMed. De titel, auteur en jaar moeten overeenkomen met de claim.
3. Onderwerpverificatie (Topic Verification): Na het ophalen van de abstract wordt een prompt gebruikt om te bepalen of het artikel direct het specifieke gen bestudeert (YES/NO/BORDERLINE).
4. Zelfverbeterende Correctielijst: Een "levend document" met bekende fouten (bijv. teruggetrokken goedkeuringen, verkeerde gen-synoniemen) dat verbatim wordt ingebracht in de instructies van elke agent.
5. Subagent-isolatie: Elke gen-review wordt uitgevoerd door een schone, geïsoleerde subagent om context-uitputting en fouten-propagatie te voorkomen.
6. Cross-model validatie: Onafhankelijke checks met andere modellen (bijv. Kimi) om gedeelde hallucinaties te detecteren.

Experimenteel Ontwerp:
De pipeline werd getest via drie complementaire benchmarks:

• Productievalidatie: 225 zorgvuldig geannoteerde zeldzame ziekte-genen (Wave 1 & 2) en een prospectieve set van 100 genen (Wave 3).
• VaaS-RIKER2 Benchmark: Een prospectieve ablatiestudie met 640 runs (40 genen × 4 condities × 4 temperaturen) met de Claude-architectuur, plus 117 runs met open-weight modellen (Llama, Qwen, Mistral) op lokale GPU-hardware.
• MedHallu Benchmark: Een benchmark voor klinische hallucinaties in vraag-antwoord scenario's.

---

3. Belangrijkste Resultaten

A. Hallucinatie-reductie

• Type I (Fabricatie): De onbegeleide baseline (C1) toonde een fabricatierate van ~1,4%. Met de volledige VaaS-protocol (C4) daalde dit naar 0,0%.
• Type II (Verkeerd onderwerp):
  • Onbegeleide output (C1): 95,9% van de citaten waren verkeerd onderwerp (bestaande papers die de claim niet ondersteunen).
  • Volledige VaaS-protocol (C4): De foutenrate in de finale output daalde naar 0,0%. De pipeline blokkeerde 6,5% van de pogingen tijdens de verificatie, maar deze bereikten de gebruiker niet.
  • Open-weight modellen: Drie onafhankelijke modellen (Llama3.2, Qwen2.5, Mistral) toonden onder onbegeleide condities Type II-rates van 81–87%, wat bevestigt dat dit een structureel, model-onafhankelijk probleem is.

B. Benchmark Resultaten

• MedHallu: Op de "harde tier" (gevallen waar alle ensemble-modellen werden misleid) behaalde VaaS een F1-score van 0,9853, vergeleken met de gepubliceerde GPT-4o baseline van 0,811.
• Temperatuur-onafhankelijkheid: De volledige VaaS-protocol (C4) was volledig temperatuur-invariant; de nauwkeurigheid bleef constant over temperaturen van 0,0 tot 1,0.
• Productieschaal: De pipeline werd succesvol ingezet voor meer dan 3.000 geverifieerde citaten over 225+ genen.

C. Kosten en Efficiëntie

• De API-kosten voor een uitgebreide gen-review bedroegen minder dan $1 (exclusief menselijke arbeid en infrastructuur).
• De pipeline opereerde met een snelheid van ongeveer 8 minuten per gen-review (inclusief verificatiestappen).

---

4. Belangrijkste Bijdragen

1. Productie-implementatie: Eerste demonstratie van een hallucinatie-reductiesysteem dat werkt op productieschaal voor biomedische kenniscuratie.
2. Ablatiestudie: De VaaS-RIKER2 studie is de eerste gecontroleerde ablatiestudie die de bijdrage van individuele componenten (zoals live verificatie vs. correctielijst) kwantificeert.
3. Structuur van Hallucinaties: Bewijs dat "verkeerd onderwerp" hallucinaties een universeel, model-onafhankelijk kenmerk zijn van ongegronde LLM-generatie, niet slechts een bug in één specifiek model.
4. Architectuur van Validatie: Het bewijs dat live HTTP-verificatie de "load-bearing gate" is; zonder dit kan geen enkel systeem hallucinaties volledig elimineren, zelfs niet met geavanceerde prompts of correctielijsten.
5. Mens-AI Partnerschap: Een model waarbij AI de schaal en consistentie biedt (duizenden papers scannen), terwijl menselijke experts de correctielijst voeden en de uitzonderlijke interpretaties controleren.

---

5. Betekenis en Conclusie

De studie concludeert dat nul hallucinatie een theoretisch ideaal is, maar dat een betrouwbare pipeline die hallucinaties reduceert tot een verwaarloosbaar niveau (0,0% in de finale output) haalbaar is.

• Wetenschappelijke Integriteit: VaaS biedt een oplossing voor het "vertrouwensprobleem" in AI-gestuurde wetenschap, waardoor AI-agenten veilig kunnen worden ingezet voor kritische taken zoals het opstellen van grant-aanvragen en klinische richtlijnen.
• Toekomstperspectief: De pipeline is schaalbaar en kosteneffectief. De auteurs benadrukken dat menselijke expertise essentieel blijft voor het interpreteren van borderline-cases en het bijwerken van domeinkennis, maar dat AI de "werklast" van het scannen en verifiëren van literatuur kan overnemen.

Kortom, VaaS bewijst dat door een systematische, multi-layer benadering met live verificatie als kern, de inherente hallucinaties van LLM's in de wetenschap kunnen worden overwonnen zonder de productiviteit te offeren.