💬 NLP

Predicting Decisions of AI Agents from Limited Interaction through Text-Tabular Modeling

Dit artikel stelt een doeladaptief tekst-tabelmodeleringskader voor dat gebruikmaakt van verborgen representaties uit een bevroren "LLM als waarnemer" om effectief de beslissingen van onbekende AI-onderhandelingspartners te voorspellen op basis van een beperkte interactiegeschiedenis, en hierbij directe prompting en standaard op kenmerken gebaseerde basismodellen overtreft.

Oorspronkelijke auteurs: Eilam Shapira, Moshe Tennenholtz, Roi Reichart

Gepubliceerd 2026-05-13

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Eilam Shapira, Moshe Tennenholtz, Roi Reichart

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een drukke markt binnenloopt waar iedereen probeert dingen te verkopen of te kopen, maar de mensen met wie je praat, zijn eigenlijk robots. Je kent hun code niet, hun geheime instructies niet, en ook niet wat voor soort "brein" ze in zich hebben. Je ziet alleen wat ze zeggen en wat ze aanbieden.

De grote vraag die dit artikel stelt is: Kun je uitrekenen wat een robot als volgende zal doen, alleen door te kijken hoe het een paar deals aangaat?

Hier volgt een eenvoudige uitleg van hoe de onderzoekers dit probeerden op te lossen, met behulp van alledaagse analogieën.

Het Probleem: De "Black Box"-Koper

In de echte wereld worden AI-agenten (zoals koopbots) steeds gebruikelijker. Ze onderhandelen met elkaar over prijzen. Maar hun interne logica is een "black box". Je kunt niet naar binnen kijken om hun code te zien.

De Uitdaging: Als je een nieuwe robotverkoper ontmoet, kun je dan voorspellen of ze je prijs zullen accepteren of een tegenbod zullen doen, alleen door te zien hoe ze een paar keer eerder met andere mensen onderhandelen?

De Oplossing: Een "Tekst-Tabulaire" Detective

De onderzoekers bouwden een systeem dat fungeerde als een detective. In plaats van een enorme, krachtige AI te vragen het antwoord te "raden" (wat ze LLM-as-Predictor noemen), behandelden ze het probleem als een invulraadsel met een spreadsheet.

Stel je het zo voor:

De Spreadsheet (De Tabel): Elke keer dat een robot een beslissing neemt, is dat als een rij in een spreadsheet. Deze rij bevat:
- De Spelstatistieken: Het rondenummer, de huidige prijs, de resterende tijd.
- Het Chatlogboek: De tekstberichten die de robots hebben uitgewisseld.
- De "Observer"-Hint: Een speciaal nieuw kenmerk (hieronder uitgelegd).
De Aanpassing (De "K"-Spellen): Voordat de detective probeert de zet van de nieuwe robot te voorspellen, krijgt deze K (een klein aantal, zoals 2, 8 of 16) eerdere spellen te zien waarin die specifieke robot speelde. Deze fungeren als "studiehandleidingen" om de persoonlijkheid van die specifieke robot te leren kennen.

Het Geheime Wapen: De "Observer"

Dit is het meest creatieve idee van het artikel. Normaal gesproken vraag je aan een AI om een situatie te begrijpen: "Wat zal er gebeuren?" en het geeft je een antwoord.

De onderzoekers deden iets anders. Ze gebruikten een kleine, bevroren AI (de Observer) om de situatie en de chat te lezen, maar wierpen het antwoord weg.

De Metafoor: Stel je een detective (de Observer) voor die een moordplek leest. In plaats van een rapport te schrijven waarin staat "De butler heeft het gedaan", krijgt de detective gewoon een plotseling gevoel of een buikgevoel over de scène. De onderzoekers namen dat "buikgevoel" (de interne verborgen staat van de AI) en gebruikten het als een aanwijzing in hun spreadsheet.
Waarom het werkt: Het artikel vond dat het "buikgevoel" van de AI verborgen signalen bevatte over hoe de robot zich zou gedragen, die de daadwerkelijke gesproken woorden van de AI misten. Het is als weten dat iemand nerveus is door hun houding, zelfs als ze zeggen "Ik ben oké".

Het Experiment: Twee Groepen Robots

Om dit te testen, gebruikten ze twee groepen robots:

De "Bron"-Groep (De Trainingsklas): 13 robots gemaakt door toptechnologiebedrijven (zoals Google, OpenAI, enz.). Ze gebruikten allemaal dezelfde instructies maar hadden verschillende "hersenen". Het systeem leerde van hen.
De "Doel"-Groep (De Testklas): 91 robots gebouwd door studenten tijdens een hackathon. Deze studenten gebruikten allemaal hetzelfde "brein" maar bouwden verschillende "lichamen" (verschillende regels en prompts).

Het systeem moest leren van de "Bron"-groep en vervolgens de zetten van de volledig nieuwe "Doel"-groep voorspellen.

De Resultaten: De Spreadsheet Wint

De onderzoekers vergeleken drie methoden:

Direct Gissen: Een enorme AI vragen: "Hier is de chatgeschiedenis en de eerdere spellen van de robot; wat zal het als volgende doen?"
Basis-Spreadsheet: Het gebruik van spelstatistieken en chatlogs in een spreadsheet-model.
De Volledige Detective (Hun Methode): Het spreadsheet-model + het "buikgevoel" van de "Observer".

De Winnaar: De Volledige Detective-methode won.

Het was beter in het raden of een robot "Ja" of "Nee" zou zeggen (Accepteren/Afwijzen).
Het was beter in het raden welke prijs de robot als volgende zou bieden.
Cruciaal: Het verborgen gevoel van de "Observer" voegde ongeveer 4% meer nauwkeurigheid toe dan alleen het gebruik van chatlogs en spelstatistieken.

De Conclusie

Het artikel concludeert dat wanneer je probeert te voorspellen wat een vreemde AI als volgende zal doen, je niet zomaar een enorme AI moet vragen om te raden. In plaats daarvan moet je:

De situatie omzetten in een gestructureerde datarij (statistieken + chat).
Een kleine AI gebruiken om alleen de situatie te "lezen" en zijn interne "vibe" (verborgen staat) te extraheren.
Die vibe invoeren in een slim spreadsheet-model dat leert van eerdere voorbeelden.

Deze aanpak is goedkoper, nauwkeuriger en beter in het aanpassen aan nieuwe, onbekende robots dan het gewoon vragen aan een grote AI om er direct over na te "denken".

Technische Samenvatting: Voorspellen van Beslissingen van AI-Agenten via Beperkte Interactie door Tekst-Tabulaire Modellering

Probleemformulering
Het artikel adresseert de uitdaging om de volgende beslissing van een onbekende, taalgebaseerde AI-agent (de 'doelagent') te voorspellen, gegeven slechts een beperkt aantal eerdere interactiegeschiedenissen ( $K$ spellen). In scenario's zoals geautomatiseerde onderhandeling of inkoop, zijn de onderliggende Large Language Model (LLM), systeemprompts, contrologica en regelgebaseerde fallbacks van de doelagent verborgen. Elk beslispunt omvat een mix van gestructureerde spelstaten (aanbiedingen, rondenummers, uitkomsten) en vrije tekstdialogen. De auteurs formuleren dit als een doeladaptieve tekst-tabulaire voorspellingsprobleem. Het doel is om twee complementaire taken te voorspellen:

Antwoordvoorspelling: Een binaire classificatietaken die bepaalt of de doelagent een huidige aanbieding zal accepteren of afwijzen.
Voorstelvoorspelling: Een regressietaken die de waarde van het volgende voorstel schat dat de doelagent zal doen.

Deze setting vereist aanpassing aan een nieuwe agent zonder toegang tot zijn interne code of prompts, waarbij uitsluitend wordt vertrouwd op $K$ gelabelde voorbeelden van zijn eerdere gedrag en een grote bronpopulatie van eerder waargenomen agenten.

Methodologie
De voorgestelde aanpak wijkt af van directe 'LLM-als-voorspeller'-prompting (waarbij een grote LLM wordt gevraagd om de volgende zet direct te voorspellen). In plaats daarvan maken de auteurs gebruik van een tekst-tabulaire fundamenteel model (TabPFN) dat conditieert op een multimodale representatie van het beslispunt. De kerncomponenten zijn:

Functiemodaliiteiten: Elk beslispunt wordt weergegeven als één tabelrij die drie functieblokken combineert:
- Spelstaatfuncties: Gestructureerde variabelen, waaronder configuratieparameters (bijv. disconteringsfactoren, waarderingen), rondenummer, huidige en historische aanbiedingen, en beslissingsgeschiedenis.
- Dialogrepresentatie: Generieke semantische embeddings van de conversatiegeschiedenis, gecodeerd via een zins-transformator (bijv. all-MiniLM-L6-v2) en gereduceerd via PCA.
- Observerrepresentatie (LLM-als-Observer): Een nieuw functieblok waarbij een kleine, bevroren LLM (bijv. Gemma-2-2B, Qwen3-1.7B) de publieke beslissingsmomentstaat en dialoog leest. Cruciaal is dat de directe output van de LLM (haar voorspelde beslissing) wordt verworpen. In plaats daarvan worden haar verborgen staten (specifiek uit de bovenste stack-lagen, relatieve diepte 0,6–0,9) geëxtraheerd en gebruikt als een hoogdimensionale functievektor. Dit behandelt de LLM als een encoder van beslissingsrelevante signalen in plaats van een directe voorspeller.
Doeladaptief Leren: Het TabPFN-model is getraind op een bronpopulatie van agenten (13 frontier-LLM's uit de GLEE-benchmark) en past zich aan de doelagent aan met behulp van zijn $K$ waargenomen spellen als in-context gelabelde voorbeelden. Het model combineert populatieniveau-regelmatigheden met doel-specifiek bewijs zonder gradiëntgebaseerde hertraining.
Basislijnen: De auteurs vergelijken hun volledige model met:
- Spel+Tekstfuncties: Dezelfde tabulaire model maar zonder de Observer-verborgen-staatfuncties.
- LLM-als-voorspeller: Een frontier-LLM die direct wordt geprompt met de spelstaat, dialoog en $K$ voorbeelden om een voorspelling te genereren.

Belangrijkste Bijdragen

Formulering: Het artikel herformuleert few-shot voorspelling van taalgebaseerde agenten als een doeladaptieve tekst-tabulaire taak, waarbij gebruik wordt gemaakt van $K$ eerdere spellen als gelabelde aanpassingsvoorbeelden.
LLM-als-Observer: De introductie van een beslissingsgerichte functieblok waarbij een bevroren LLM fungeert als encoder. De auteurs demonstreren dat de verborgen staten van een kleine bevroren LLM complementaire, beslissingsrelevante signalen bieden die niet betrouwbaar worden blootgelegd in de directe output van het model.
Cross-Populatie Dataset en Evaluatie: De auteurs introduceren een vastgehouden dataset van 91 'gescaffolde' agenten (gebouwd door studenten met een gedeelde onderliggende LLM maar variërend in prompts en contrologica) en evalueren transfer van een bronpopulatie van frontier-LLM's (variërend in onderliggend model). Dit test de robuustheid van voorspellers over verschillende assen van agentheterogeniteit.

Resultaten
Experimenten werden uitgevoerd op onderhandelings- en onderhandelingspellen uit het GLEE-framework.

Prestatie: Het volledige tekst-tabulaire model met Observer-functies presteert beter dan zowel de 'Spel+Tekst'-basislijn als de directe 'LLM-als-voorspeller'-aanpak over alle waarden van $K$ (0 tot 16).
Observer-bijdrage: Bij $K=16$ verbeteren de Observer-functies de Response Prediction AUC met ongeveer 4 procentpunten ten opzichte van de beste basislijn en verminderen ze de Proposal Prediction-fout (gemeten door mediane $R^2$ ) met 14% in onderhandelingspellen.
Verborgen Staten versus Directe Output: Ablatiestudies bevestigen dat de voorspellende kracht voortkomt uit de verborgen staten van de LLM, niet uit haar directe logits. De verborgen staten presteren consistent beter dan de eigen accepteer/verwerp-kansen van de LLM, wat suggereert dat ze strategische informatie coderen die de outputkop niet succesvol aan het licht brengt.
Robuustheid: De winst van Observer-functies is stabiel over verschillende bevroren LLM-aanbieders (Gemma, Qwen, Llama) en over midden- tot late lagen, wat aangeeft dat het signaal een intrinsieke eigenschap van de representatie is.
Beperkingen van LLM-als-voorspeller: Direct prompting met grote frontier-LLM's presteert slecht bij voorstelvoorspelling (regressie), vaak resulterend in negatieve $R^2$ -scores, waarschijnlijk vanwege de moeilijkheid om autoregressieve token-generatie te kalibreren voor continue numerieke waarden in vergelijking met de regressiecapaciteiten van het tabulaire model.

Betekenis en Claims
Het artikel claimt dat het voorspellen van de beslissingen van onbekende AI-agenten beter wordt geframed als een doeladaptief tekst-tabulair leerprobleem dan als directe few-shot LLM-voorspelling. De betekenis ligt in het aantonen dat:

Het scheiden van representatie (geëxtraheerd via een bevroren LLM-encoder) en aanpassing (uitgevoerd door een supervised tabulaire leraar) superieure prestaties oplevert.
Verborgen LLM-representaties beslissingsrelevante signalen blootleggen die direct prompting niet betrouwbaar aan het licht brengt, zelfs wanneer kleinere, bevroren modellen worden gebruikt in vergelijking met grote frontier-modellen.
Deze aanpak effectieve aanpassing mogelijk maakt aan nieuwe, geconstrueerde agenten (gescaffolde agenten) met behulp van een herbruikbare bronpopulatie, wat wijst op een algemeen recept voor het modelleren van de besluitvorming van onbekende AI-agenten in taal-gemedieerde handel.

De auteurs merken beperkingen op, waaronder dat de spellen gecontroleerde abstracties zijn in plaats van echte markten, en dat de methode uitgaat van toegang tot een relevante bronpopulatie. Ze benadrukken dat de aanpak een stap is naar voorspellingsbewuste agenten die kunnen aanpassen aan partners zonder private staten te delen.