Stel je voor dat je een enorme legpuzzel probeert op te lossen, maar in plaats van een tafel liggen de stukjes verspreid over een bibliotheek zo groot als een stad. Stel je nu voor dat je een superintelligente robotassistent hebt om je te helpen. In de oude dagen probeerde deze robot de gehele bibliotheek tegelijkertijd te bekijken, knijpt zijn ogen zo hard samen dat hij hoofdpijn kreeg, de kleine details miste en uiteindelijk de puzzel opgaf. Dit is het probleem met de huidige AI wanneer deze probeert lange documenten te lezen: het raakt overweldigd door de enorme hoeveelheid informatie, verliest zijn focus en begint dingen te verzinnen (een foutje dat "hallucinatie" wordt genoemd) om de gaten op te vullen.

Om dit op te lossen, leren wetenschappers AI om meer te zijn als een menselijke detective. In plaats van leeg naar een hele pagina te staren, zoomt een menselijke detective in op een specifieke aanwijzing, leest de kleine lettertjes en gaat dan naar de volgende plek. Dit artikel introduceert een nieuw AI-systeem genaamd InSight-doc dat precies dat doet. Het behandelt "inzoomen" niet als een vaste instelling, maar als een superkracht die het kan gebruiken wanneer het dat nodig heeft. Het begint door het hele document van een afstand te bekijken (lage resolutie), en alleen wanneer het iets interessants ziet, haalt het een vergrootglas tevoorschijn voor een kristalhelder, hoogresolutie beeld van precies die kleine plek. Op deze manier bespaart het energie, voorkomt het verwarring en vindt het de waarheid zonder te gokken.

De detective met een magische loep

Maak kennis met InSight-doc, een nieuw soort AI-detective die ontworpen is om de nachtmerrie aan te pakken van het lezen van lange, ingewikkelde documenten zoals wetenschappelijke artikelen, financiële rapporten of juridische contracten. De meeste AI-modellen van vandaag zijn als studenten die proberen een boek van 100 pagina's te lezen door tegelijkertijd naar een piekleine fotokopie van het geheel te turen. Ze proberen elke letter en afbeelding simultaan te verwerken. Dit is een recept voor rampen: de computer wordt traag, raakt het geheugen kwijt en omdat het probeert te veel tegelijk in zijn hoofd te houden, begint het te "rotten" (een chique term voor het feit dat het in de war raakt en vergeet wat het net heeft gelezen). Bovendien, wanneer het vastloopt, verzint het vaak een antwoord om slim te lijken, een gedrag dat we "hallucinatie" noemen.

InSight-doc draait het scenario om. In plaats van het hele boek in één hap door te slikken, gedraagt het zich als een nieuwsgierige tiener die door een tijdschrift bladert. Het begint de pagina's snel te scannen op een lage resolutie—net genoeg om de grote plaatjes en koppen te zien. Dan, wanneer het een paragraaf of een grafiek ziet die eruitziet alsof deze het antwoord kan bevatten, gokt het niet zomaar. Het gebruikt een "zoom-in"-tool om een hoogresolutie, kristalheldere uitsnede van precies dat specifieke gebied te pakken. Het is alsof je een magische loep hebt die je alleen gebruikt wanneer je echt de kleine lettertjes moet lezen.

Het artikel laat zien dat deze "coarse-to-fine" benadering een gamechanger is. Door klein te beginnen en alleen in te zoomen wanneer dat nodig is, wordt InSight-doc niet alleen sneller; het wordt ook daadwerkelijk slimmer. In tests op lange documenten verminderde het het aantal "verzonnen" antwoorden (hallucinaties) met meer dan 40% vergeleken met standaardmodellen. Het werd ook veel sneller en verkortte de tijd die nodig is om na te denken en te antwoorden met 41% tot 68%, terwijl het vaker het juiste antwoord geeft.

Hoe het leerde in te zoomen

Je vraagt je misschien af: hoe leert een robot te weten wanneer hij moet inzoomen en waar hij moet kijken? De onderzoekers hebben de AI niet simpelweg verteld om "slim te zijn". Ze bouwden een enorme trainingsspeeltuin voor de AI. Ze creëerden een speciale dataset van 17.900 voorbeelden waarbij de AI precies werd geleerd hoe hij stap voor stap moest inzoomen om het antwoord te vinden, zoals een leraar een leerling laat zien hoe hij een microscoop gebruikt. Ze voegden ook nog eens 19.200 lastige voorbeelden toe waarbij de AI door middel van vallen en opstaan (een methode genaamd Reinforcement Learning) moest leren wat de beste manier was om naar aanwijzingen te zoeken.

Door deze training leerde de AI een "multimodale chain of thought". Dit is een chique manier om te zeggen dat de AI leerde met zichzelf te praten: "Hm, het antwoord staat niet op pagina 1. Laat me inzoomen op de grafiek op pagina 5. Oh, dat is het ook niet. Laat me de tabel op pagina 12 controleren." Het bouwt een spoor van bewijs op, door in te zoomen op verschillende delen van het document totdat het genoeg bewijs heeft om een zelfverzekerd antwoord te geven. Als het antwoord niet in het document staat, leert het te zeggen: "Ik weet het niet," in plaats van iets te verzinnen.

De resultaten: Sneller, slimmer en minder gasvormig

Het artikel testte deze nieuwe detective tegen enkele van de slimste AI-modellen die beschikbaar zijn, inclust grote propriëtaire modellen van grote technologiebedrijven. De resultaten waren indrukwekkend. Op standaard documentquizzen verbeterde InSight-doc de nauwkeurigheid met een enorme marge—tot wel 16,4 procentpunt beter dan het basismodel wanneer het met een lage resolutie begon.

Maar de echte magie gebeurde bij de langste, meest verwarrende documenten. Wanneer de documenten echt lang werden (honderden pagina's), begonnen de oude modellen te wankelen en fouten te maken. InSight-doc bleef echter kalm. Het slaagde erin de juiste antwoorden te vinden terwijl het 58% minder "tokens" (de digitale bouwstenen van tekst en afbeeldingen die de computer moet verwerken) gebruikte. Dit betekent dat het niet alleen het juiste antwoord vond, maar dat het dit deed met een fractie van de rekenkracht en tijd.

De onderzoekers controleerden ook of deze vaardigheid ook gebruikt kon worden op andere zaken dan documenten, zoals het bekijken van complexe kaarten of grafieken. Hoewel het voornamelijk op documenten was getraind, toonde de AI aan dat het kon generaliseren, waardoor de prestaties op deze visuele puzzels ook verbeterden.

Wat het niet is (en wat het niet doet)

Het is belangrijk om te weten wat InSight-doc niet is. Het is geen toverstaf die je gedachten leest, en het vertrouwt niet op een externe zoekmachine om pagina's voor het te vinden. Sommige andere AI-systemen proberen eerst de juiste pagina te "zoeken", zoals het gebruik van Google om een PDF te vinden voordat ze deze lezen. InSight-doc doet dit volledig zelfstandig, in zijn eigen brein, zonder een externe helper nodig te hebben. Dit maakt het sneller en minder waarschijnlijk dat het verdwaalt als de zoekmachine de verkeerde pagina kiest.

Het artikel maakt ook duidelijk dat dit geen opgelost probleem is voor elke situatie. De onderzoekers hebben het getest op specifieke soorten documenten en vragen. Ze beweerden niet dat het perfect werkt voor elke denkbare afbeelding of tekst in het universum, en ze geven toe dat er nog steeds ruimte is om het nog beter te maken. Ze gebruikten geen fancy nieuwe wiskundige trucjes of geheime ingrediënten; ze lieten simpelweg zien dat het geven van de AI het vermogen om "beter te kijken" wanneer dat nodig is, een krachtig, simpel idee is dat verrassend goed werkt.

Kortom, InSight-doc leert ons dat de beste manier om het hele plaatje te zien soms is om te stoppen met proberen alles tegelijk te bekijken. Door te leren in te zoomen op de details alleen wanneer die ertoe doen, kan AI een betrouwbaardere, efficiëntere en eerlijkere partner worden bij het oplossen van de meest complexe documentpuzzels ter wereld.