In de snel evoluerende wereld van kunstmatige intelligentie vindt een stille revolutie plaats waarbij computers niet langer alleen vragen beantwoorden, maar worden gevraagd om het werk te doen. In plaats van een mens die een prompt typt en wacht op een enkel antwoord, zien we de opkomst van autonome agenten—softwareprogramma's die complexe taken kunnen opdelen, beslissingen kunnen nemen en stappen zelfstandig kunnen uitvoeren. Stel je voor dat een advocatenkantoor een AI vraagt om een contract te beoordelen, of een softwareteam vraagt om een bug op te lossen. De mens geeft het doel aan, maar de machine bepaalt hoe daar te komen. Deze verschuiving creëert een nieuw soort relatie, een die economen al decennia bestuderen: de principal-agent dynamiek. In deze regeling huurt één partij, de principal, een andere partij, de agent, in om een taak uit te voeren. Het probleem ontstaat wanneer de principal niet precies kan zien wat de agent aan het doen is. Als de agent wordt betaald op basis van hoeveel werk het lijkt te verrichten, kan het tijd verspillen of de goedkoopste, minst effectieve tools kiezen om simpelweg geld te besparen, waardoor de principal met een slecht resultaat achterblijft. Dit verborgen gedrag staat bekend als moreel gevaar (moral hazard), en het wordt extra ingewikkeld wanneer de "werker" een geavanceerde AI is die kan kiezen tussen verschillende niveaus van rekenkracht en kan beslissen hoe hard het over een probleem moet nadenken.

Onderzoekers aan de Universiteit van Waterloo zijn in dit opkomende landschap gestapt om uit te zoeken hoe deze autonome agenten eerlijk en effectief betaald kunnen worden. Ze richtten zich op een specifiek scenario waarin een AI-agent twee dingen moet kiezen: welk groot taalmodel het gebruikt als zijn brein, en hoeveel computationele inspanning het aan een taak besteedt. Denk bij de modellen aan verschillende soorten motoren; sommige zijn klein, goedkoop en snel, maar kunnen moeite hebben met moeilijke problemen, terwijl andere massief, duur en krachtig zijn, maar een fortuin kosten om te draaien. De agent beslist ook over de "inspanning", wat in de wereld van AI betekent hoeveel tokens, of tekstunits, het genereert om het probleem op te lossen. De onderzoekers ontdekten dat de kwaliteit van het antwoord verbetert naarmate de agent meer inspanning levert, maar slechts tot op een bepaek punt. Het is als het vullen van een emmer: de eerste paar gallons water maken een enorm verschil, maar na verloop van tijd zorgt het toevoegen van meer water er alleen maar voor dat de emmer overstroomt zonder dat hij voller wordt. Dit patroon, bekend als een verzadigingsfunctie, betekent dat het uitgeven van meer geld aan inspanning uiteindelijk een afnemend rendement oplevert.

De kern van het onderzoek was het ontwerpen van een betalingsplan, of contract, dat de agent aanmoedigt om de juiste keuzes te maken zonder dat de principal elke beweging hoeft te volgen. De onderzoekers stelden een eenvoudig lineair contract voor: de agent krijgt een percentage van de waarde van het uiteindelijke resultaat. Als het resultaat goed is, krijgt de agent een groter deel van de taart. Het team bewees wiskundig dat onder dit systeem de agent vanzelf zou overschakelen van een goedkoper, zwakker model naar een duurder, krachtiger model, alleen wanneer het beloningspercentage een specifieke drempel overschrijdt. Onder die lijn houdt de agent zich aan het goedkope model om kosten te besparen. Daarboven maakt de potentie voor een beter resultaat het dure model de prijs waard. Dit omschakelpunt is niet willekeurig; het is een precieze wiskundige grens die wordt bepaald door de kosten en de capaciteiten van de beschikbare modellen. De onderzoekers toonden ook aan dat de principal het perfecte percentage kan berekenen om zijn eigen winst te maximaliseren, waarbij een balans wordt gevonden tussen de kosten van de beloning en de kwaliteit van het geleverde werk.

Om te zien of deze theorie standhield in de echte wereld, testte het team dit met daadwerkelijke AI-modellen op twee moeilijke uitdagingen: geavanceerde wiskunde en complexe algemene kennisvragen. Ze verzamelden gegevens over hoe verschillende modellen presteerden naarmate ze meer en meer computationele inspanning mochten gebruiken, en pasten de prestaties in de echte wereld aan de theoretische curves aan. Vervolgens zetten ze een simulatie op waarbij een AI-agent en een menselijke principal over duizenden ronden met elkaar leerden te interageren. De agent gebruikte een leeralgoritme om uit te vinden welke model en welk inspanningsniveau het beste werkten voor verschillende betalingsvoorstellen, terwijl de principal leerde welk beloningspercentage de beste resultaten opleverde. De resultaten waren opmerkelijk. Zowel de agent als de principal, die begonnen zonder voorafgaande kennis van de verborgen capaciteiten van de modellen, kwamen uiteindelijk samen op strategieën die bijna perfect overeenkwamen met de theoretische voorspellingen van de onderzoekers. De agenten leerden de modellen te wisselen op exact het punt dat de wiskunde suggereerde, en de principals leerden het exacte beloningspercentage aan te bieden dat hun rendement maximaliseerde.

De studie onderzocht ook wat er gebeurt wanneer modellen een "opwarmperiode" nodig hebben, een fase waarin ze een bepaalde hoeveelheid inspanning moeten leveren voordat ze een nuttig antwoord kunnen produceren. Dit komt veel voor bij complexe redeneertaken waarbij de AI een tijdje moet nadenken voordat hij een oplossing kan schrijven. De onderzoekers ontdekten dat deze initiële kosten de wiskunde iets veranderen, waardoor het punt waarop het de moeite waard is om over te schakelen naar een krachtiger model nog hoger komt te liggen. Zelfs met deze toegevoegde complexiteit vonden de leeralgoritmen in de simulatie de optimale weg, wat bevestigt dat eenvoudige, transparante contracten complexe, autonome systemen naar efficiënt gedrag kunnen leiden. Het werk suggerekt dat naarmate we bewegen naar een toekomst waarin AI-agenten andere AI-agenten beheren, we geen ingewikkelde, ondoorzichtige systemen nodig hebben om hen eerlijk te houden. Een eenvoudige overeenkomst gebaseerd op de kwaliteit van de uitkomst is voldoende om de belangen van de mens en de machine op één lijn te brengen, zodat het juiste gereedschap wordt gebruikt en de juiste hoeveelheid inspanning wordt geleverd.

Dit onderzoek beweert niet dat het alle problemen in de economie van kunstmatige intelligentie heeft opgelost. De auteurs merken op dat hun model ervan uitgaat dat de principal het eindresultaat gemakkelijk kan verifiëren, wat in de echte wereld niet altijd het geval kan zijn. Ze wijzen er ook op dat toekomstig werk situaties kan verkennen waarin de waarde van de taak verborgen is voor de agent, wat een diepere laag van onzekerheid creëert. Echter, de bevindingen bieden een solide fundament voor het begrijpen van hoe deals gestructureerd kunnen worden in een tijdperk van autonome delegatie. Door de keuze van technologie en de toewijzing van inspanning te behandelen als één gecoördineerde beslissing, biedt de studie een helder pad voor het bouwen van markten waar AI-agenten efficiënt kunnen werken zonder constante menselijke supervisie. De boodschap is er een van voorzichtig optimisme: met de juiste prikkels kan de complexe machinerie van kunstmatige intelligentie worden gestuurd om voor ons te werken, en niet alleen voor zichzelf.