AgentCoMa: A Compositional Benchmark Mixing Commonsense and Mathematical Reasoning in Real-World Scenarios

Deze paper introduceert AgentCoMa, een nieuw benchmark voor het testen van LLM's op gecombineerd gezond verstand en wiskundig redeneren in realistische scenario's, waarbij blijkt dat modellen bij gemengde taken aanzienlijk slechter presteren dan bij afzonderlijke stappen, ondanks dat mensen dit probleem niet ervaren.

De kern

🧠 De "Twee-Hoofdige" Uitdaging voor AI

Stel je voor dat je een slimme robot hebt die perfect kan rekenen en perfect kan redeneren over alledaagse dingen.

• Rekenen: "Als ik 3 appels koop voor €1,50 elk, hoeveel kost dat dan?" (Dit is wiskunde).
• Redeneren: "Mag ik een tapijt dweilen met water?" (Dit is gezond verstand; het antwoord is nee, want het gaat kapot).

Tot nu toe dachten we dat deze robots (grote taalmodellen of LLM's) hier allebei goed in waren. Maar dit nieuwe onderzoek, genaamd AgentCoMa, laat zien dat er een groot probleem is als we deze twee vaardigheden tegelijk vragen.

🏗️ De Bouwtekening: Wat is AgentCoMa?

De onderzoekers (van o.a. Imperial College London) hebben een nieuwe test ontwikkeld. Ze noemen het AgentCoMa.

Stel je voor dat je een huis bouwt.

• De eerste stap is het kiezen van de juiste materialen (gezond verstand). Bijvoorbeeld: "Welke vloer is geschikt om te dweilen?"
• De tweede stap is het berekenen van de kosten (wiskunde). Bijvoorbeeld: "Hoeveel vierkante meter is dat en wat kost dat totaal?"

In de echte wereld moeten AI-agenten dit vaak doen. Maar in de tests van de onderzoekers moesten de robots eerst een keuze maken op basis van gezond verstand, en daarna direct een berekening maken op basis van die keuze.

📉 Het Grote Geheim: De "Klap" in de Prestaties

Hier komt het verrassende deel. De onderzoekers hebben 61 verschillende AI-modellen getest.

1. Los van elkaar: Als je de AI vraagt alleen de keuze te maken, lukt dat bijna altijd (90% succes). Als je vraagt alleen de som te maken, lukt dat ook bijna altijd.
2. Samen: Maar als je ze vraagt om beide stappen in één keer te doen, zakt hun prestatie met ongeveer 30%.

De metafoor:
Stel je voor dat je een atleet hebt die perfect kan hardlopen en perfect kan springen.

• Als je zegt: "Loop 100 meter," doet hij het perfect.
• Als je zegt: "Spring over de hindernis," doet hij het perfect.
• Maar als je zegt: "Loop 100 meter en spring dan direct over de hindernis," struikelt hij.

Het lijkt alsof de AI vergeet hoe ze moeten hardlopen zodra ze moeten springen. Ze raken de draad kwijt.

🧩 Waarom gebeurt dit? (De "Brein"-analyse)

De onderzoekers keken diep in het "brein" van de AI (de neurale netwerken) om te zien wat er misging. Ze vonden drie belangrijke dingen:

1. De "Gewone" Oefening: De AI's zijn getraind op enorme hoeveelheden tekst. Maar in die tekst komen vragen voor waarbij je eerst moet rekenen en dan moet redeneren, of andersom, heel zelden voor. Het is een zeldzame combinatie voor hen.
2. De Verkeerde Schakelaar: Wanneer de AI de moeilijke vraag krijgt, schakelt ze automatisch naar het "rekenen-deel" van haar brein. Ze vergeet het "gezond-verstand-deel" bijna volledig. Het is alsof je een auto start die alleen maar naar links kan sturen, terwijl je nu rechts moet afslaan.
3. Mensen vs. Robots: Interessant genoeg kunnen gewone mensen (die geen experts zijn) deze vragen heel goed oplossen. Voor ons is het niet moeilijk om eerst te denken "Oh, tapijt mag niet gedweild worden" en dan "Oké, dan reken ik alleen de tegels". De AI vindt dit echter een enorme hindernis.

🛠️ Wat betekent dit voor de toekomst?

Dit onderzoek is belangrijk omdat het laat zien dat AI's nog kwetsbaar zijn. Ze zijn goed in losse taken, maar nog niet goed in het mixen van verschillende soorten denken in realistische situaties.

• Voorbeeld uit de echte wereld: Een AI die voor jou boodschappen doet. Hij moet weten dat je een vegetariër bent (gezond verstand) én dat je niet meer dan €50 wilt uitgeven (rekenen). Als hij de combinatie niet goed maakt, koopt hij misschien vlees of wordt je budget overschreden.

🎯 Conclusie in één zin

AgentCoMa is een nieuwe test die laat zien dat AI's, net als iemand die net een nieuwe sport leert, vaak struikelen als ze twee verschillende vaardigheden tegelijk moeten gebruiken, terwijl mensen dit moeiteloos doen. Het is een uitnodiging aan onderzoekers om AI's te leren hoe ze beter kunnen "schakelen" tussen verschillende soorten denken.

Technische samenvatting

Hier is een gedetailleerde technische samenvatting van het paper "AgentCoMa: A Compositional Benchmark Mixing Commonsense and Mathematical Reasoning in Real-World Scenarios" in het Nederlands.

Probleemstelling

Grote Taalmodellen (LLMs) hebben hoge prestaties bereikt op complexe taken die één type redenering vereisen, zoals louter gezond verstand (commonsense) of wiskundige redenering. Echter, real-world AI-agenten moeten vaak verschillende redeneertypen combineren om taken succesvol uit te voeren (bijvoorbeeld: eerst bepalen welke producten veilig zijn om bij kamertemperatuur te bewaren [gezond verstand] en vervolgens de totale kosten berekenen [wiskunde]).

Bestaande benchmarks testen deze vaardigheden meestal gescheiden of combineren ze stappen van hetzelfde type (bijv. alleen wiskunde of alleen feitelijke kennis). Er ontbreekt een gestructureerde dataset om systematisch te evalueren hoe goed LLMs gemengde-type compositional reasoning (het combineren van verschillende redeneertypen) aankunnen. Dit paper identificeert een fundamenteel tekort in de huidige evaluatiemethoden voor agentic reasoning.

Methodologie

1. De AgentCoMa Benchmark
De auteurs introduceren AgentCoMa, een benchmark bestaande uit menselijk geschreven vragen in vijf real-world agent-scenario's:

• Huishouden (House working)
• Webwinkelen (Web shopping)
• Wetenschappelijke experimenten (Science experiments)
• Slimme assistent (Smart assistant)
• Reisagent (Travel agent)

Elke vraag vereist twee opeenvolgende stappen:

1. Gezond verstand (Commonsense): Een keuze maken tussen opties op basis van wereldkennis (bijv. "Welke vloeren mogen niet worden gedweild?").
2. Wiskunde (Math): Een enkele rekenoperatie uitvoeren op basis van het resultaat van stap 1 (bijv. "Bereken het totale oppervlak dat wel gedweild moet worden").

Het dataset bevat 260 samples (180 test, 80 development), zorgvuldig gevalideerd door experts om ambiguïteiten te voorkomen. Er is geen trainingsset, omdat de benchmark bedoeld is voor evaluatie van pre-getrainde modellen.

2. Experimentele Opzet

• Modellen: Er zijn 61 LLMs getest, variërend in grootte (1.5B tot 141B parameters), architectuur (MoE, standaard) en trainingsstrategie (Instruction-tuned, Supervised Fine-Tuning (SFT) voor redenering, en Reinforcement Learning (RL) voor redenering).
• Evaluatie: Modellen werden getest op drie niveaus:
  1. De gezond verstand-stap alleen.
  2. De wiskundestap alleen (met het antwoord van stap 1 als context).
  3. De volledige samengestelde vraag (compositional).
• Vergelijking: De resultaten werden vergeleken met bestaande benchmarks zoals Bamboogle (gezond verstand) en MultiArith (wiskunde), evenals met de prestaties van niet-expert menselijke annotatoren.
• Interpreteerbaarheid: Om de oorzaken van fouten te begrijpen, werden analyses uitgevoerd op:
  • Contextlengte: Invloed van extra tekst.
  • Trainingsdata-gebruik: Membership Inference Analysis (Min-K%++) om te zien hoe bekend de patronen zijn in de trainingsdata.
  • Aandachtskaarten: Lookback attention ratios om context-hallucinaties te meten.
  • Neuronale patronen: QRNCA (Query-Relevant Neuron Cluster Attribution) om te analyseren welke neuronen worden geactiveerd.

Belangrijkste Resultaten

1. Het "Compositional Gap"
Er is een aanzienlijke prestatiedaling vastgesteld wanneer modellen de stappen moeten combineren:

• Individuele stappen: LLMs behalen een mediane nauwkeurigheid van >85% op de individuele gezond verstand- en wiskundestappen. Ze kunnen beide stappen afzonderlijk in bijna 75% van de gevallen correct oplossen.
• Samengestelde taak: De nauwkeurigheid daalt gemiddeld met ~30% naar slechts 42% op de samengestelde vraag.
• Vergelijking met mensen: Niet-expert mensen behalen een hoge nauwkeurigheid op zowel de individuele stappen als de samengestelde vragen (geen significant gat).
• Vergelijking met andere benchmarks: Bij benchmarks met één redeneertype (zoals Bamboogle of MultiArith) is dit gat verwaarloosbaar. Falen daar komt meestal doordat het model één van de sub-vragen fout heeft. Bij AgentCoMa falen modellen vaak zelfs als ze beide sub-stappen correct kunnen oplossen.

2. Analyse van Fouten

• De fouten treden voornamelijk op bij modellen die de individuele stappen wel correct kunnen beantwoorden. Ongeveer 74% van de compositional-fouten gebeurt wanneer het model beide stappen afzonderlijk correct zou kunnen oplossen.
• Dit patroon geldt voor alle modelgroottes en trainingsstrategieën (inclusief geavanceerde RL-geoptimaliseerde modellen).

3. Oorzaken van het Falen (Interpreteerbaarheid)
De diepteanalyse levert drie cruciale inzichten op:

• Zeldzame patronen: De Min-K%++ analyse toont aan dat gemengde-type redeneertaken relatief zeldzaam zijn in de trainingsdata van LLMs. De modellen zijn hier minder vertrouwd mee dan met pure wiskunde of puur gezond verstand.
• Neuronale "Brittleness": De neuronale overlap-analyse toont aan dat wanneer modellen de samengestelde taak uitvoeren, ze voornamelijk de neuronen activeren die horen bij wiskundig redeneren. De neuronen die nodig zijn voor gezond verstand blijven grotendeels inactief. Het model "vergeten" dus het eerste type redenering toe te passen en valt terug op één type circuit.
• Contextuele Hallucinaties: De lookback attention analyse toont aan dat modellen minder aandacht besteden aan de context bij samengestelde vragen, wat leidt tot hallucinaties die inconsistent zijn met de gegeven informatie.

Bijdragen

1. AgentCoMa Dataset: De eerste gestructureerde benchmark voor het systematisch evalueren van gemengde-type compositional reasoning (gezond verstand + wiskunde) in real-world agent-scenario's.
2. Grootschalige Evaluatie: Een benchmark van 61 LLMs die een groot en consistent gat in prestaties aantoont, wat suggereert dat huidige modellen fundamenteel kwetsbaar zijn voor dit type taken.
3. Mechanistisch Inzicht: Het paper levert bewijs dat het falen niet komt door een gebrek aan kennis of rekenkracht, maar door een onvermogen om de juiste neurale circuits te combineren. Modellen activeren slechts één redeneertype (vaak wiskunde) en negeren het andere, zelfs als beide nodig zijn.

Significantie

De studie onthult een fundamentele kwetsbaarheid (brittleness) in huidige LLMs. Hoewel modellen uitstekend presteren op gespecialiseerde taken, falen ze dramatisch wanneer ze verschillende redeneertypen moeten integreren, wat essentieel is voor echte agentic toepassingen.

Dit impliceert dat:

• Huidige trainingsmethoden (zoals SFT en RL) onvoldoende zijn om modellen te leren om contextueel flexibel tussen redeneertypen te schakelen.
• Toekomstige verbeteringen in agentic reasoning waarschijnlijk nieuwe trainingsparadigma's vereisen die specifiek gericht zijn op het combineren van diverse redeneertypen, in plaats van alleen het optimaliseren van één type.
• AgentCoMa dient als een strikt testplatform om de voortgang van toekomstige modellen te meten op dit kritieke aspect van intelligentie.