In de snel expanderende wereld van kunstmatige intelligentie krijgen machines steeds vaker de taak om menselijke cultuur te creëren en te evalueren. Ze schrijven verhalen, vatten nieuws samen, geven advies en formuleren publieke berichten. Om ervoor te zorgen dat deze digitale creaties behulpzaam en accuraat zijn, gebruiken onderzoekers vaak een tweede kunstmatige intelligentie om als rechter op te treden, die het werk van de eerste beoordeelt. Deze aanpak is aantrekkelijk omdat het snel en schaalbaar is, en een manier biedt om duizenden outputs te testen zonder dat er voor elke specifieke taak een team van menselijke experts nodig is. Echter, er is een kritiek gebrek aan het dagelijks functioneren van deze digitale rechters naar voren gekomen. Wanneer een AI wordt gevraagd een stuk werk te evalueren, kijkt het vaak naar een paar voorbeelden die in de instructies zijn opgenomen om te begrijpen wat een "goed" antwoord is. Als die voorbeelden irrelevant zijn of uit de verkeerde context komen, kan de rechter in de war raken en een slecht antwoord met vol vertrouwen als uitstekend beoordelen, simpelweg omdat het op het verkeerde soort voorbeeld lijkt. Dit fenomeen, waarbij de verkeerde context het oordeel vertekent, creëert een gevaarlijke illusie van betrouwbaarheid.

Onderzoekers bij Microsoft hebben dit specifieke foutmechanisme geïdentificeerd, dat zij context-geïnduceerde miskalibratie noemen, en hebben een nieuwe methode ontwikkeld om dit te herstellen. Hun aanpak, genaamd DA-RAC, behandelt de voorbeelden die aan een AI-rechter worden gegeven niet als willekeurige instructies, maar als historische precedenten die zorgvuldig moeten worden afgestemd op de specifieke taak die voorhanden is. In plaats van een vaste set voorbeelden voor elke evaluatie te gebruiken, zoekt het systeem dynamisch naar de meest relevante voorbeelden uit het verleden die het dichtst bij de huidige situatie liggen. Het weegt deze voorbeelden vervolgens op basis van hoe ze lijken op elkaar, zowel in hun betekenis als in hun onderliggende logische structuur. Door het oordeel te funderen in deze zorgvuldig geselecteerde, relevante precedenten, wordt het systeem veel betrouwbaarder. De onderzoekers ontdekten dat wanneer zij deze afstand-bewuste methode gebruikten, de nauwkeurigheid van de AI-rechter aanzienlijk verbeterde en het systeem veel minder snel werd misleid door irrelevante informatie.

De kern van het probleem ligt in de manier waarop deze digitale rechters context interpreteren. In een standaardopstelling kan een AI-rechter een handvol voorbeelden krijgen om te laten zien wat een goed verhaal of een goede uitleg is. Als die voorbeelden willekeurig zijn gekozen of simpelweg hetzelfde zijn voor elke taak, kan de rechter gemakkelijk worden misleid. In de tests van de onderzoekers, toen de rechter werd gevoed met willekeurige, mismatchende voorbeelden, daalde de nauwkeurigheid tot een niveau dat nauwelijks beter was dan gokken. Dit gebeurde omdat de rechter zijn interne standaarden verschoof om aan te sluiten bij de verkeerde voorbeelden, waarbij hij generieke vloeiendheid beloonde in plaats van de specifieke kwaliteit die vereist was voor de taak. De studie stelt dat de kwaliteit van het oordeel volledig afhangt van de kwaliteit van de verstrekte context. Een rechter kan niet worden vertrouwd als hij naar de verkeerde referentiepunten kijkt, net zoals een menselijke criticus zou worstelen met het beoordelen van een gedicht als hij de regels voor een wetenschappelijk rapport zou gebruiken.

Om dit op te lossen, bouwden de onderzoekers een systeem dat fungeert als een bibliothecaris voor de AI-rechter. Voordat de rechter een beslissing neemt, doorzoekt het systeem een grote poel van voorbeelden uit het verleden om de voorbeelden te vinden die het meest vergelijkbaar zijn met de huidige taak. Dit doen ze door twee soorten afstand te meten: hoe dicht de woorden en betekenissen bij elkaar liggen, en hoe dicht de logische structuur van de argumenten bij elkaar ligt. Bijvoorbeeld, twee teksten kunnen vergelijkbare woorden gebruiken maar totaal verschillende logische stromen hebben, zoals de ene een oorzaak-gevolgrelatie beargumenteert terwijl de andere een contrast presenteert. Het systeem detecteert deze subtiele verschillen en zorgt ervoor dat de rechter alleen naar voorbeelden kijkt die echt bij de situatie passen. Zodra de beste voorbeelden zijn gevonden, geeft het systeem deze verschillende niveaus van belangstelling op basis van hoe dicht ze bij de huidige taak liggen, waardoor de meest relevante voorbeelden de beslissing sterker kunnen sturen.

De resultaten van deze nieuwe methode waren opmerkelijk. In experimenten waarbij de AI-rechter werd getest op honderden verschillende scenario's, behaalde het nieuwe systeem een nauwkeurigheidspercentage van meer dan negentig procent, een aanzienlijke sprong ten opzichte van de zeventig procent die door standaardmethoden werd bereikt. Belangrijker nog, het systeem werd veel stabieler; wanneer dezelfde taak meerdere keren werd geëvalueerd, bleven de resultaten consistent, terwijl andere methoden veel meer variatie vertoonden. De onderzoekers ontdekten ook dat het simpelweg gebruiken van een krachtiger AI-model het probleem niet oploste. Zelfs een zeer geavanceerd model maakte dezelfde fouten als het verkeerde voorbeelden kreeg. Dit suggereert dat de manier waarop we informatie aan een AI selecteren en presenteren even belangrijk is als de intelligentie van de AI zelf.

Een belangrijk inzicht uit de studie is dat het systeem nu kan aangeven wanneer het onzeker is. Door te kijken naar hoe ver de best passende voorbeelden verwijderd zijn, kan het systeem een signaal genereren dat de moeilijkheidsgraad van de taak aangeeft. Als de dichtstbijzijnde voorbeelden nog steeds erg verschillen van de huidige taak, markeert het systeem dit als een geval dat mogelijk menselijke controle vereist. Dit is bijzonder belangrijk voor culturele artefacten, waarbij het juiste antwoord vaak afhangt van specifieke gemeenschapswaarden of historische context die een AI mogelijk niet volledig begrijpt. In plaats van stilzwijgend een zelfverzekerd maar potentieel foutief oordeel te vellen, kan het systeem nu zeggen: "Ik neem een beslissing op basis van deze specifieke voorbeelden, maar ze zijn geen perfecte match, dus een mens zou dit moeten controleren."

De onderzoekers benadrukken dat hun doel niet is om menselijke critici of experts door machines te vervangen. Culturele evaluatie omvat nuances, emoties en gemeenschapswaarden die moeilijk te coderen zijn. In plaats daarvan is het systeem ontworpen om menselijke besluitvorming te ondersteunen door het redeneren van de AI zichtbaar en betwistbaar te maken. Het toont precies welke voorbeelden het oordeel hebben beïnvloed en wijst erop wanneer de AI buiten zijn comfortzone opereert. Deze aanpak transformeert de AI van een black box die definitieve vonnissen produceert naar een hulpmiddel dat mensen helpt de basis van een oordeel te begrijpen. De studie suggereert dat voor AI om werkelijk betrouwbaar te zijn bij het evalueren van menselijke cultuur, het moet zijn geworteld in relevante, inspecteerbare en betwistbare voorbeelden, in plaats van te vertrouwen op generieke regels of willekeurige data.

Uiteindelijk wijst het werk naar een toekomst waarin AI-evaluatie transparanter en aanpasbaarder is. Door voorbeelden te behandelen als dynamische precedenten die zorgvuldig moeten worden afgestemd op de taak, vermindert het systeem het risico op verborgen vooroordelen en fouten. Het erkent dat wat een goed antwoord is, sterk afhangt van de context, en dat een goede rechter moet weten hoe hij de juiste context vindt. Deze verschuiving van statische, eenheidsmethoden naar een methode die gevoelig is voor de specifieke details van elk geval, biedt een pad naar meer betrouwbare en eerlijke AI-systemen. De onderzoekers concluderen dat de waarde van een dergelijk systeem niet ligt in het automatiseren van culturele autoriteit, maar in het in staat stellen van mensen om te zien hoe oordelen worden gevormd en om in te grijpen wanneer de context ontbreekt of onduidelijk is.