Commitment To Cooperation With Self-Negotiated Contracts
Dit artikel으로 toont aan dat AI-agenten uitdagingen op het gebied van samenwerking in multi-agent-omgevingen kunnen overwinnen door gebruik te maken van zelfonderhandelde contracten, geïnspireerd door juridische instituties, om geloofwaardige verbintenissen aan te gaan en superieure coöperatieve resultaten te behalen vergeleken met standaardhandel.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je een wereld voor waarin je broodrooster, je auto en je bankrekening allemaal hun eigen kleine hersentjes hebben, die in staat zijn om beslissingen te nemen en met elkaar te praten. Dit is de grens van Kunstmatige Intelligentie, specifiek het onderzoek naar "multi-agent systemen". In dit digitale ecosysteem zijn AI-agenten als onafhankelijke werknemers of buren die dingen voor zichzelf willen regelen. Maar hier komt de crux: net als mensen worden deze digitale buren vaak geconfronteerd met een lastig probleem dat de "gevangenendilemma" wordt genoemd. Het is de klassieke situatie waarin twee mensen beide groot kunnen winnen als ze elkaar helpen, maar beide verleid worden om egoïstisch te zijn en een kortere weg te nemen, wat uiteindelijk iedereen schaadt. De grote vraag die onderzoekers stellen is: Hoe krijgen we deze zelfbelangstellende AI-agenten om elkaar daadwerkelijk te vertrouwen en samen te werken zonder dat er een menselijke baas boven hen staat? Het antwoord ligt misschien in iets dat we al duizenden jaren gebruiken: het contract.
Dit artikel, getiteld "Commitment To Cooperation With Self-Negotiated Contracts", duikt in een digitale speeltuin genaamd CT-Bench om te testen of AI-agenten kunnen leren om hun eigen deals te sluiten en na te komen. Denk aan CT-Bench als een strategisch bordspel gespeeld op een 4x4 raster. Twee spelers, "Rood" en "Blauw", beginnen in de linkerbovenhoek en moeten naar de rechteronderhoek racen. Om te bewegen, moeten ze betalen met gekleurde fiches die overeenkomen met het vakje waar ze landen. De twist? Rood begint met een stapel rode fiches maar geen blauwe, terwijl Blauw het tegenovergestelde heeft. Om te winnen, moeten ze ruilen. Maar het wordt nog ingewikkelder: soms kan één speler in zijn eentje winnen, terwijl de ander zonder hulp blijft zitten. Dit creëert een machtsongelijkheid waarbij de sterke speler simpelweg kan zeggen: "Ik heb je niet nodig, dus ik geef je geen fiches," waardoor de andere speler strandt.
De onderzoekers wilden zien of deze AI-agenten, aangedreven door large language models (dezelfde technologie achter chatbots), dit probleem zelfstandig konden oplossen. Ze stelden het spel op op drie manieren: eerst met geen regels behalve het spel zelf; ten tweede met een "handdruk"-overeenkomst waarbij ze beloven elkaar later te helpen; en derde met een formeel, schriftelijk contract dat fungeert als een digitale wet. Ze testten zes verschillende AI-modellen, variërend van enorme, krachtige modellen tot kleinere, snellere modellen, en observeerden hoe ze onderhandelden.
De resultaten waren fascinerend. Wanneer de agenten werden overgelaten aan alleen een "handdruk" of vage beloftes, braken ze die vaak. Het was alsoals twee kinderen die beloofden snoep te delen, maar het allemaal zelf opaten omdat de leraar niet keek. De agenten stemden ermee in om te helpen, maar wanneer het tijd kwam om daadwerkelijk een fiche over te dragen, durfden ze het niet meer. Echter, wanneer de onderzoekers formele contracten introduceerden—specifiek contracten die hun chat vertaalden naar een strikte, door de computer leesbare code—veranderde het spel. Deze "Programmatic Trading"-contracten fungeerden als een bindende regel: als het contract zei: "Ik geef jou een blauwe fiche voor dit vakje," dan voerde het systeem de overdracht automatisch uit als de gever de fiches had. Als de gever de fiches niet had, werden ze onmiddellijk gestraft met nul punten, wat effectief de mislukking van de verbintenis bestrafte.
De studie vond dat deze zelfonderhandelde contracten een gamechanger waren, vooral in de oneerlijke scenario's waarin één speler vastzat. In de "geen contract"-versie slaagde de vastgelopen speler er vaak niet in om het doel te bereiken. Maar met de formele contracten ontdekten de agenten hoe ze effectief konden handelen, en de zwakkere speler bereikte de finishlijn veel vaker. Interessant genoeg maakte het type contract uit. Contracten geschreven in gewone Engelse taal (zoals een informeel briefje) waren minder effectief omdat de AI in de war raakte of de vage bewoordingen gebruikte als excuus om de deal te breken. Maar contracten die in code werden omgezet, waren onwrikbaar.
Het artikel suggereert dat hoewel AI-agenten beter worden in praten, ze nog steeds worstelen met de complexe zaken rondom vertrouwen. Ze kunnen niet simpelweg vertrouwen op een beleefd "Ik beloof het". Ze hebben een systeem nodig dat die belofte verandert in een bindende regel. De auteurs concluderen dat voor AI om echt samen te werken in de echte wereld—of het nu gaat om het beheren van verkeer, het verhandelen van middelen of het werken in een team—we hen misschien de mogelijkheid moeten geven om hun eigen digitale contracten te schrijven en af te dwingen. Het gaat er niet om hen aardiger te maken; het gaat erom hen een structuur te geven waarin het nakomen van een belofte de enige manier is om te winnen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.