LLM Enhancement with Domain Expert Mental Model to Reduce LLM Hallucination with Causal Prompt Engineering

In de wereld van kunstmatige intelligentie zijn grote taalmodellen bijzonder vaardig geworden in het lezen, schrijven en samenvatten van enorme hoeveelheden informatie. Ze kunnen complexe wetenschappelijke theorieën uitleggen, juridische documenten opstellen en zelfs code schrijven. Echter, deze systemen hebben een fundamenteel blinde vlek: ze kunnen alleen werken met kennis die al is opgeschreven en in hun trainingsdata is gevoed. Wanneer ze worden geconfronteerd met een beslissing die rust op ongeschreven intuïtie, specifieke organisatorische context of een unieke combinatie van omstandigheden die nog nooit is vastgelegd, geeft het model niet simpelweg toe dat het het niet weet. In plaats daarvan verzint het vaak een zelfverzekerd maar foutief antwoord, een fenomeen dat bekend staat als hallucinatie. Dit is geen glitch die kan worden opgelost door meer documenten te zoeken; het is een structurele limiet. Als de kennis niet in een database bestaat, kan de machine het niet vinden. Voor beslissingen met een hoge inzet in velden zoals de geneeskunde, nationale veiligheid of onderzoeksfinanciering, kan deze kloof tussen wat de machine weet en wat een menselijke expert weet gevaarlijk zijn.

Onderzoekers Boris Kovalerchuk en Brent D. Fegley hebben een nieuwe manier voorgesteld om deze kloof te overbruggen. In plaats van te proberen de kunstmatige intelligentie slimmer te maken of het meer boeken te geven om te lezen, stellen zij voor om een specifieke, gestructureerde kaart te bouwen van hoe een menselijke expert daadwerkelijk denkt. Ze noemen dit een Expert Mental Model (Expert Mentaal Model). De kern van het idee is om de machine niet langer te vragen om het antwoord te raden, maar de machine te gebruiken als een instrument om de expert te helpen zijn eigen besluitvormingslogica te articuleren. Door de intuïtieve beoordeling van een mens om te zetten in een duidelijke, stapsgewijze reeks regels, kan het systeem die regels vervolgens toepassen op nieuwe situaties zonder ooit te hallucineren. Deze aanpak behandelt het probleem niet als een falen van het geheugen van de machine, maar als een falen om het specifieke redeneerproces van de mens vast te leggen.

De onderzoekers testten dit idee in drie zeer verschillende velden: het beslissen of men een onderzoekssubsidie moet aanvragen, het ontwerpen van een cybersecurity-systeem en het maken van klinische diagnoses. In het eerste scenario moest een team van onderzoekers beslissen of ze maandenlang een voorstel voor een financieringsinstantie moesten schrijven. De beslissing hing af van veel factoren, zoals of het team over de juiste vaardigheden beschikte, of het project paste bij de doelen van de instantie en of ze genoeg tijd hadden. Een standaard kunstmatige intelligentie kon een lijst met vragen genereren om te stellen, maar kon niet bepalen hoe die antwoorden gewogen moesten worden. Als het team "ja" zei tegen het hebben van de vaardigheden maar "nee" tegen het hebben van het budget, zou de machine kunnen gokken dat het project nog steeds levensvatbaar was, of het zou kunnen gokken dat het dat niet was. De machine had geen manier om te weten dat voor dit specifieke team het budget een dealbreaker was, terwijl het voor een ander team een minder belangrijk obstakel zou kunnen zijn.

Om dit op te lossen, gebruikten de onderzoekers een methode die berust op een eenvoudig principe: als een situatie goed genoeg is om "ja" te zeggen, dan zou het beter maken van enig deel van die situatie de uitkomst niet in een "nee" moeten veranderen. Dit wordt monotoniciteit genoemd. Stel je een team van experts voor dat een reeks ja-of-nee-vragen beantwoordt over een project. Als zij besluiten dat een project met een geweldig idee maar zonder geld een "nee" is, dan moet een project met een geweldig idee, zonder geld, en ook zonder teamleden ook een "no" zijn. Door deze logica te gebruiken, konden de onderzoekers de expert veel minder vragen stellen dan normaal gesproken vereist zou zijn. In plaats van te vragen naar elke mogelijke combinatie van factoren — die in miljoenen scenario's kan oplopen voor een complexe beslissing — vroegen ze een zorgvuldig gekozen set vragen. De antwoorden op deze vragen stelden hen in staat om de antwoorden op duizenden andere scenario's automatisch af te leiden.

In het voorbeeld van de subsidieaanvraag begon het team met twintig potentiële vragen. Een kunstmatige intelligentie hielp deze te organiseren in een hiërarchie, waarbij gerelateerde vragen werden gegroepeerd. Vervolgens beantwoordde de menselijke expert een klein aantal gegeneraliseerde vragen. In plaats van bijvoorbeeld elk detail over middelen te beantwoorden, beantwoordde de expert een brede vraag over de vraag of het team klaar was. Als het antwoord "nee" was, wist het systeem onmiddellijk dat er geen verdere details nodig waren om het project af te wijzen. Als het antwoord "ja" was, drilde het systeem door naar de specifieke details. Door slechts vier rondes van ondervraging waren de onderzoekers in staat om de beslissingslogica van de expert voor meer dan 60 procent van alle mogelijke scenario's in kaart te brengen. De resterende scenario's waren geclusterd rond de moeilijke randgevallen waar de beslissing onduidelijk was, wat precies is waar menselijk oordeel het meest waardevol is.

De onderzoekers testten deze methode ook in cybersecurity, waar de regels vaak worden gedefinieerd door overheidsnormen. In dit geval kon de kunstmatige intelligentie de standaardregels uit een document extraheren, maar had het nog steeds een menselijke expert nodig om die regels toe te passen op de specifieke gegevens van een bepaalde organisatie. Het systeem hielp de expert om de impact van een beveiligingslek op hun specifieke netwerk te bepalen, waarbij vage zorgen werden vertaald naar een gestructureerd model. In het derde gebied, de gezondheidszorg, bekeken de onderzoekers eerdere studies waarin soortgelijke methoden waren gebruikt om borstkanker te diagnosticeren. Ze ontdekten dat wanneer de beslissingsregels direct uit radiologen werden geëxtraheerd met behulp van deze gestructureerde aanpak, de resulterende modellen nauwkeuriger en consistenter waren dan modellen die puur op data waren gebouwd. De modellen konden uitleggen waarom een beslissing werd genomen, door deze terug te leiden naar specifieke factoren, wat cruciaal is voor artsen die het systeem moeten kunnen vertrouwen.

Een cruciaal onderdeel van dit werk was het meten hoe vaak de kunstmatige intelligentie het fout zou hebben als deze aan haar lot werd overgelaten. De onderzoekers creëerden simulaties waarin ze de beslissingen van een menselijke expert vergeleken met de gokken van een kunstmatige intelligentie. Ze ontdekten dat hoewel het algemene foutpercentage klein leek, de fouten geconcentreerd waren in de belangrijkste gevallen. Wanneer de expert "ja" zou hebben gezegd tegen een project, zei de kunstmatige intelligentie vaak "nee", waardoor de kans volledig werd gemist. In sommige simulaties benaderde het foutpercentage voor deze gemiste kansen de 100 procent. Dit onthulde dat het gevaar van hallucinatie niet alleen gaat over het maken van willekeurige fouten; het gaat over het systematisch missen van de zeldzame, hoogwaardige gevallen die specifieke, ongeschreven kennis vereisen.

De onderzoekers betogen dat de oplossing niet is om te proberen de kunstmatige intelligentie meer als een mens te maken, maar om de kunstmatige intelligentie te gebruiken om mensen te helpen hun eigen denken te coderen. De machine is uitstekend in het genereren van lijsten met factoren, het organiseren ervan in logische groepen en het controleren op consistentie. De machine is echter slecht in het weten wat belangrijk is voor een specifiek team of organisatie. Door deze twee te combineren, ontstaat een besluitvormingsinstrument dat zowel computationeel efficiënt als geworteld is in echte menselijke expertise. De kunstmatige intelligentie doet het zware werk van structuur en organisatie, terwijl de mens de specifieke waarden en logica levert die de beslissing betekenisvol maken.

Deze aanpak helpt ook een subtiel risico te voorkomen dat bekend staat als cognitieve homogenisering, waarbij iedereen op dezelfde manier beslissingen gaat nemen omdat ze allemaal dezelfde kunstmatige intelligentie gebruiken. Als een organisatie uitsluitend vertrouwt op een generiek model, kunnen ze hun unieke perspectief en de specifieke inzichten die voortkomen uit hun eigen ervaring verliezen. Door hun eigen Expert Mental Model op te bouwen, behoudt een organisatie haar eigen unieke manier van denken. Het model wordt een draagbaar verslag van hun collectieve wijsheid, dat blijft bestaan zelfs als de experts die het hebben gecreëerd de organisatie verlaten. Het zorgt ervoor dat het besluitvormingsproces transparant en verantwoordelijk blijft, in plaats van een black box die antwoorden produceert die niemand kan verklaren.

De studie beweert niet elk probleem opgelost te hebben. De methode werkt het best wanneer de beslissingslogica de regel volgt dat het verbeteren van een situatie de uitkomst nooit slechter maakt. Het vereist ook dat de experts bereid zijn tijd te besteden aan het articuleren van hun gedachten, wat een uitdaging kan zijn. In sommige gevallen kunnen experts moeite hebben met het beantwoorden van abstracte vragen zonder de specifieke details te zien, en het systeem moet flexibel genoeg zijn om met die onzekerheid om te gaan. Bovendien, hoewel de methode in simulaties is getest en is getoetst aan eerdere studies, erkennen de onderzoekers dat meer testen in de echte wereld nodig zijn om te zien hoe het presteert in live klinische settings of met werkelijke subsidieaanvragen.

Ondanks deze beperkingen bieden de bevindingen een duidelijk pad vooruit voor het gebruik van kunstmatige intelligentie in kritieke velden. Het cruciale inzicht is dat de machine niet de besluitvormer moet zijn. In plaats daarvan moet de machine de architect van het besluitvormingsproces zijn, die helpt bij het bouwen van een structuur die het menselijk oordeel nauwkeurig vastlegt. Door dit te doen, vermijdt het de valstrik van hallucinatie en biedt het een instrument dat zowel krachtig als betrouwbaar is. Het resultaat is een systeem dat de expert niet vervangt, maar het vermogen om solide, consistente en uitlegbare beslissingen te nemen versterkt, zelfs in het licht van complexe en onzekere situaties.