Technische Samenvatting: TERMS-BENCH

Probleemstelling

Onderhandeling dient als een centraal mechanisme voor economische uitwisseling en als een canonieke testomgeving voor agentische taalmodellen (LLM's), wat interactie in meerdere beurten vereist onder verborgen voorkeuren, strategische communicatie en bindende beperkingen. Het evalueren van onderhandelingsagenten vormt echter een unieke methodologische uitdaging: in tegen tegenstelling tot wiskunde of code, mist onderhandeling een intrinsieke verifieerder. Bestaande evaluatieparadigma's vertrouwen op LLM-tegenover-LLM-interacties of geaggregeerde uitkomstmetrieken zoals de dealrate. Deze aanpak lijdt onder twee structurele beperkingen:

1. Ondoorzichtigheid van Attributie: Omdat de tegenpartij een black-box-beleid is met ongespecificeerde latente voorkeuren, vervuilen uitkomsten de competentie van de agent met variabiliteit van de tegenpartij, waardoor het onmogelijk wordt om falen toe te schrijven aan specifieke redeneerfouten.
2. Verlies van Diagnostische Granulariteit: Zelfs metrieken die gevalideerd zijn door menselijke voorkeur of multi-component scoring, reduceren prestaties tot scalaire rangordes, waardoor onduidelijk blijft waar in de onderhandelingsworkflow een agent slaagt of faalt (bijv. inferentie versus controle).

Consequentelijk falen huidige benchmarks erin te diagnosticeren of het falen van een agent voortkomt uit instabiel redeneren, prompt-gevoeligheid of latente gedragsvariabiliteit, waardoor fouten ondoorzichtig blijven voor praktijkgebruikers.

Methodologie: TERMS-BENCH

De auteurs introduceren TERMS-BENCH (Testbed for Economic Reasoning in Multi-turn Strategy), een framework dat de omgeving zelf als de verifieerder construeert. In plaats van een andere LLM als rechter te gebruiken, specificeert TERMS-BENCH de latente type, het beleid en de payoff-structuur van de tegenpartij expliciet, waardoor de omgeving observeerbaar is voor de evaluator terwijl deze verborgen blijft voor de agent.

1. Framework Formulering

TERMS-BENCH modelleert onderhandeling als een uitgebreide, incomplete-informatie Bayesiaanse game:

• Omgeving ($\Gamma$): Gedefinieerd door een set haalbare uitkomsten, private type-ruimtes voor de agent ($T_A$) en de tegenpartij ($T_B$), nutfuncties en een prior over latente types ($\mu$). Een type $t_i$ codeert een reservatiewaarde ($r_i$), een buitenoptie ($e_i$), urgentie ($\kappa_i$) en een strategische houding ($\eta_i$).
• Protocol ($P$): Legt de volgorde van zetten, de actieruimte (economische handelingen gekoppeld aan natuurlijke taal), regels voor informatieverblootting en afsluitingsvoorwaarden vast.
• Agent Beleid ($\pi$): Brengt informatiestaten (historie, private context, overtuigingen) in kaart naar acties.

2. Instantiatie: Bilaterale Prijsonderhandeling

Het paper instantieert dit framework in een bilaterale prijsonderhandeling waarbij een agent een scalaire prijs onderhandelt met een door een simulator gestuurde tegenpartij.

• Tegenpartij als Diagnostisch Instrument: De tegenpartij wordt beheerst door een vaste stochastische kernel $\pi_B$, geparametriseerd door een gesampled latent type $t_B$. De agent moet $t_B$ afleiden uit geobserveerde prijzen en berichten.
• Tegenpartij-families: Om specifieke capaciteiten te isoleren, definiëren de auteurs zes tegenpartij-gedragsfamilies die variëren langs twee assen:
  • Economische Reactiviteit: Hoeveel gedrag afhankelijk is van de recente biedingen van de agent versus het latente type (bijv. Type-Instrumental versus High-Reactivity).
  • Cue Betrouwbaarheid: Of taalkundige signalen (sentiment, houding) de latente houding accuraat reflecteren (bijv. Accurate versus Uninformative versus Noisy versus Pressuring).
  • De kernfamilies zijn Candid, Taciturn, Expressive en Strategic, met stress-tests Stochastic en Adversarial.

3. Evaluatiemetrieken en Attributie

TERMS-BENCH gaat verder dan de dealrate door middel van een multi-as diagnostisch framework:

• Terminale Waarde: Surplus-efficiëntie ($SE^+_\pi$), genormaliseerd door de Zone of Possible Agreement (ZOPA).
• Overeenkomst Kalibratie: Ratio's van overeenstemming in haalbare episodes ($AGR^+_\pi$) en valse overeenkomsten in onhaalbare episodes ($FAGR^-_\pi$).
• Tegenstander Modellering: Fout in de overtuiging (belief error) met betrekking tot reservatiewaarde, urgentie en houding.
• Protocol Compliance: Ratio's van kritieke schendingen (prijsgrenzen, individuele rationaliteit).

Oracle Interventies: Om falen toe te schrijven, vergelijkt het framework de prestaties van de agent met drie condities:

1. Base: De agent leidt het type af vanaf nul.
2. Oracle-Posterior: De agent ontvangt de exacte Bayesiaanse posterior van het type van de tegenpartij.
3. Revealed-Type: De agent ontvangt het ware latente type.
4. Model-Based Oracle: Een dynamisch-programmerende referentiepolicy ($\pi^*$) die Bayes-optimaal is voor de gespecificeerde omgeving.

Dit maakt de decompositie van het prestatieverschil mogelijk in Inference ($\Delta_{inf}$), Uncertainty ($\Delta_{unc}$) en Control ($\Delta_{ctrl}$) bottlenecks.

Belangrijkste Resultaten

De auteurs evalueerden 13 frontier LLM-agents (inclusief Claude Opus 4.6/4.7, GPT-5.5, Gemini 3.1 Pro, etc.) en drie vaste concessie-baselines over 1.800 seeded episodes.

1. Hoge Dealrate Maskeert Waarde-extractie: Terwijl de meeste frontier modellen bijna verzadigde dealrates bereiken ($>97\%$ in haalbare episodes), divergeren ze significant in surplus-extractie. Bijvoorbeeld, Claude Opus 4.6 behaalde een surplus-efficiëntie van 0,694, terwijl Doubao-Seed-2.0-Pro een efficiëntie van 0,522 behaalde ondanks een hogere dealrate (99,9%).
2. Cue-Gebruik Falen: Agents extraheerden consequent minder surplus wanneer informatieve cues aanwezig waren vergeleken met wanneer deze gedempt waren ($\alpha_{cue} < 0$). Dit suggereert dat agents mogelijk te veel concessies doen bij "warme" cues of een broos gedrag vertonen onder "druk" cues, waarbij ze er niet in slagen linguïstische signalen te ontkoppelen van economische strategie.
3. Informatie-Actie Kloof: Frontier modellen faalden in het omzetten van latente-type inferentie naar surplus.
   • Posterior Injectie: Het verstrekken van de exacte Bayesiaanse posterior aan agents leverde zwakke of inconsistente resultaten op, waarbij slechts ~1% van de kloof voor topmodellen werd gedicht.
   • Belief Kalibratie: Fouten in overtuigingen verbeterden niet over de tijd; in sommige gevallen namen ze zelfs toe, waarbij de inferentie van de houding (stance) de dominante bron van fouten was.
   • Inference Penalty: Agents presteerden vaak slechter in families waar de inferentie van het latente type economisch instrumenteel was vergeleken met high-reactivity families.
4. Distinctieve Bottlenecks via Oracle Decompositie:
   • GPT-4o-mini was primair control-limited (98% van de kloof), en had moeite om op onthulde informatie te handelen.
   • Claude Opus 4.7 en Grok 4.20 waren uncertainty-limited, waarbij grote kloven bleven bestaan zelfs na type-onthulling.
   • Claude Opus 4.6 vertoonde een gemengd profiel over inferentie, onzekerheid en controle.
5. Stabiele Onderhandelings-fingerprints: Agents vertoonden stabiele gedragstypologieën (bijv. "anchor-and-hold", "mid/balanced") en zelf-beperkingsprofielen (IR-schendingsratio's versus exit-discipline) die consistent waren over verschillende tegenpartij-families, wat suggereert dat dit intrinsieke model-eigenschappen zijn in plaats van omgevingsartefacten.
6. Data-Gegronde Validatie: Wanneer getest op een data-gegronde variant met Amazon catalogus statistieken, werd de rangorde van de agents grotendeels behouden (Spearman $\rho=0.90$), maar het "difficulty multiplier" effect vergrootte het prestatieverschil tussen sterke en zwakke modellen. Sterkere modellen maakten effectief gebruik van publieke product-ankers, terwijl zwakkere modellen worstelden met bredere prijsbereiken.
7. Commerciële Impact: In een "Bankroll Mode" simulatie die meerdere episodes ketent, cumuleerden kleine fouten per periode tot significante solvabiliteitsproblemen. De uiteindelijke balans-spreiding tussen de sterkste en zwakste LLM's was ~21x, wat de ~14x spreiding in single-episode surplus-efficiëntie ver overtrof.

Betekenis en Claims

Het paper claimt dat TERMS-BENCH de evaluatie van onderhandeling herformuleert van een black-box rangorde-oefening naar een agent-attributabele diagnostische tool. Door de omgeving de verifieerder te maken, maakt het mogelijk:

• Schaalbare, Mens-Annotatie-Vrije Diagnose: Het identificeren van specifieke foutmodi (inferentie, onzekerheid, controle) zonder te vertrouwen op subjectieve menselijke rechters.
• Het Onthullen van Verborgen Fouten: Het aantonen dat hoge dealrates vaak kritieke tekortkomingen in surplus-extractie, cue-sensitiviteit en zelf-beheersing maskeren.
• Actiegerichte Inzichten voor Praktijkgebruikers: Het bieden van een gecontroleerde basis om aan te tonen waar agents vastlopen en wat versterkt moet worden (bijv. het verbeteren van belief-kalibratie versus strategische controle).

De auteurs positioneren dit werk als een noodzakelijke stap richting inzetbare onderhandelingsagenten, waarbij zij opmerken dat hoewel de huidige instantiatie zich richt op bilaterale prijsonderhandeling, het framework generaliseerbaar is naar multi-party en multi-product settings. Zij erkennen dat menselijke studies en rijkere multi-issue settings belangrijke volgende stappen blijven om de transfer buiten de huidige scope te valideren.