Never the Number: Structural Abstention for AI Systems Whose Answers Are Consumed as Fact
Dit artikel stelt "structurele onthouding" voor, een architecturaal patroon voor AI-systemen dat een generatieve schil scheidt van een deterministische kern om ervoor te zorgen dat onbeantwoorde of ambigue verzoeken expliciet worden geweigerd in plaats van dat er hallucinaties optreden, waardoor de feitelijke betrouwbaarheid in enterprise- en agentische implementaties wordt gegarandeerd.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
De Vertrouwensval: Wanneer AI te vloeiend liegt
Stel je voor dat je een zeer slimme, zeer praatgrage robot om hulp vraagt bij je huiswerk. Je vraagt: "Hoeveel planeten zijn er in ons zonnestelsel?" De robot antwoordt direct: "Er zijn negen planeten, inclusief Pluto!" Het klinkt zelfverzekerd, de grammatica is perfect en de toon is vriendelijk. Maar jij weet dat Pluto niet langer een planeet is. Het probleem is niet dat de robot dom is; het is dat hij te goed is in het klinken alsof hij het juist weet. In de wereld van Kunstmatige Intelligentie, specifiek bij Large Language Models (LLM's), is dit een gevaarlijke valstrik. Deze modellen zijn erg goed in het raden van welk woord als volgende moet komen, maar ze zijn slecht in het doen van wiskunde of het controleren van feiten. Wanneer ze een vraag fout beantwoorden, zeggen ze niet: "Ik weet het niet." In plaats daarvan verzinnen ze een "hallucinatie" — een nepantwoord dat zo vloeiend en zelfverzekerd klinkt dat je het misschien gelooft.
Dit is een enorm probleem voor bedrijven en tools die op data vertrouwen. Als een robot tegen een winkelmanager zegt: "We hebben 500 eenheden verkocht," terwijl het echte aantal 400 is, kan de manager een slechte beslissing nemen op basis van die leugen. Het enge is dat de leugen precies op de waarheid lijkt. Je kunt het verschil niet zien door alleen de zin te lezen. Wetenschappers en ingenieurs proberen dit op te lossen door de robots slimmer of voorzichtiger te maken, maar dit artikel betoogt dat de echte oplossing niet is om de robot beter te laten raden; het is om de robot te stoppen met het raden van de getallen.
Nooit het Getal: De "Trusted Kernel"-oplossing
Dit artikel introduceert een slimme nieuwe manier om AI-systemen te bouwen die met data omgaan, zoals verkooprapporten of het aantal ziekenhuisbedden. De auteurs noemen deze aanpak "Structural Abstention" (Structurele Onthouding). Het is een chique manier om te zeggen: "Als je niet 100% zeker bent van de wiskunde, probeer het dan niet eens."
Om te begrijpen hoe dit werkt, stel je een luxe restaurantkeuken voor.
- De Generatieve Schil (De Ober): Dit is het vriendelijke, praatgrage deel van het systeem. Het praat met je, begrijpt je rommelige vragen en figureert precies wat je wilt. Als je zegt: "Ik wil weten wat er vorige week gebeurde met het rode spul," vertaalt de ober dat naar een specifieke bestelling: "De klant wil de verkoopcijfers van 'Rode Appels' van 'Vorige Week'." De ober mag creatief zijn, fouten maken en om verduidelijking vragen. Als de ober de bestelling fout krijgt, kun je hem gewoon corrigeren, en is er geen schade aan de hand.
- De Deterministische Kern (De Chef): Dit is het strikte, regelvolgende deel van het systeem. De ober geeft de bestelling door aan de chef. De chef gokt nooit. De chef bereidt alleen gerechten die op een vooraf goedgekeurde menukaart staan. Als de klant iets vraagt dat niet op de menukaart staat (zoals "Rode Appels van de Maan"), probeert de chef geen recept uit te vinden. De chef zegt simpelweg: "Dat kan ik niet maken." De chef berekent vervolgens het exacte aantal met een rekenmachine (de database) en schrijt het op.
De magische regel van dit systeem is de "Perimeter Invariant" (Perimeter Invariant). Deze zegt: Het deel van het systeem dat dingen kan verzinnen (de ober) kan beslissen welke vraag gesteld wordt, maar mag NOOIT beslissen wat het antwoord is. Het antwoord moet altijd komen van de strikte chef die een vast recept volgt.
Hoe het in de praktieve werkt
De auteurs testten dit idee met een echt systeem dat twee jaar lang door verkoopmanagers werd gebruikt. Hier is het stapsgewijze proces dat zij gebruikten:
- Jij Stelt een Vraag: Een manager vraagt: "Hoeveel telefoons heeft de winkel in Riverton vorige week dinsdag verkocht?"
- De Ober (Schil) Luistert: De AI luistert. De AI weet misschien niet wat "Riverton" betekent of of "vorige week dinsdag" een geldige datum is in de kalender van het bedrijf. Dus vraagt het: "Bedoelde u de winkel in Riverton, of de regio Riverton? En bedoelde u de fiscale week?"
- De Bevestiging: Zodra de AI denkt dat hij het begrijpt, spuugt hij niet zomaar een getal uit. Hij zegt: "Oké, ik ga nu berekenen: Telefoonverkoop voor de winkel in Riverton tijdens de fiscale week van 20 januari. Klopt dat?"
- Jij Zegt Ja: Je leest de zin. Als het klopt, zeg je "Ja".
- De Chef (Kern) Berekent: Pas nadat jij ja hebt gezegd, voert het systeem een strikte, vooraf geschreven computercode uit om het getal te verkrijgen. Het gokt niet. Het zoekt simpelweg de data op en telt ze bij elkaar op.
- Het Resultaat: Het systeem geeft je het getal. Omdat de "Chef" nooit heeft gegokt, weet je dat het getal echt is.
Wat gebeurt er als de AI vastloopt?
Als je een vraag stelt die het systeem niet kan afhandelen — zoals "Hoeveel verkopen hebben we gemaakt in een winkel die nog niet bestaat?" — beseft de "Ober" dat de "Chef" geen recept heeft voor dat. In plaats van een nepgetal te verzinnen, stopt het systeem en zegt: "Ik kan dat niet beantwoorden. Hier zijn drie vragen die ik wel kan beantwoorden."
Dit wordt Structural Abstention genoemd. Het systeem weigert te antwoorden omdat de aanvraag niet te representeren is in de strikte regels. Dit is anders dan andere AI-methoden die proberen een betrouwbaarheidsscore te raden (zoals "Ik ben 80% zeker") en dan beslissen of ze wel of niet antwoorden. Dit systeem hoeft niet te raden; het kan de wiskunde simpelweg niet uitvoeren als de vraag niet in het menu past.
Waarom dit ertoe doet
Het artikel vergelijkt dit "Waiter and Chef"-systeem met twee andere soorten AI:
- Het "End-to-End" Model: Dit is een robot die alles zelf probeert te doen. Hij luistert, raadt het antwoord en schrijft de code. Het is snel en dekt veel onderwerpen, maar wanneer hij fout zit, liegt hij vloeiend. Je kunt het verschil niet zien tussen een goed antwoord en een fout antwoord.
- De "Tool-Using" Agent: Dit is een robot die tools gebruikt om antwoorden te vinden. Het is beter, maar het kan nog steeds in de war raken over welke tool te gebruiken of hoe de resultaten te combineren.
De auteurs ontdekten dat voor zakelijke beslissingen het "Waiter and Chef"-systeem het veiligst is. Hoewel het minder vragen kan beantwoorden (het heeft een kleiner menu), zijn de antwoorden die het wel geeft betrouwbaar. Het artikel merkt op dat ze in hun tweejaren test een "kernel-first" systeem bouwden dat zo betrouwbaar was dat het uiteindelijk genoeg data genereerde om later een slimmere AI te trainen. Maar zelfs toen behielden ze de strikte regels voor het uiteindelijke getal.
Het Nadeel
Dit systeem is niet voor iedereen perfect. Als je een wetenschapper bent die een gloednieuwe dataset onderzoekt en wilde, creatieve vragen wilt stellen, zal dit systeem misschien te rigide aanvoelen. Het zal vaak zeggen "Dat kan ik niet doen". Maar voor situaties waarin een fout getal een bedrijf geld kan kosten of een patiënt schade kan berokkenen, betoogt het artikel dat in staat zijn om "Ik weet het niet" te zeggen veel beter is dan in staat zijn om te zeggen: "Hier is een nepgetal dat echt klinkt."
Kortom, het artikel suggereert dat we voor kritieke data moeten stoppen met proberen de AI slimmer te maken in het raden van getallen. In plaats daarvan moeten we systemen bouwen waarbij de AI alleen de vraag mag stellen, en een strikte, oncreatieve machine de enige is die de wiskunde mag uitvoeren. Het is een afweging: je krijgt minder antwoorden, maar de antwoorden die je krijgt, zijn de waarheid.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.