💬 NLP

Learning Adaptive Reasoning Paths for Efficient Visual Reasoning

Dit paper introduceert AVR, een adaptief visueel redeneerkader dat door dynamische selectie van het meest efficiënte antwoordformaat de token-gebruik met 50-90% vermindert zonder in te leveren op nauwkeurigheid, waardoor het probleem van 'overthinking' in visuele redeneermodellen wordt opgelost.

Oorspronkelijke auteurs: Yixu Huang, Tinghui Zhu, Muhao Chen

Gepubliceerd 2026-04-17

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Yixu Huang, Tinghui Zhu, Muhao Chen

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Hoe je een slimme robot leert om niet te "overdenken": Een uitleg van het AVR-papier

Stel je voor dat je een zeer slimme, maar soms wat overdreven robot hebt. Deze robot kan kijken naar een foto en vragen beantwoorden. Maar er is een probleem: deze robot is zo fanatiek dat hij altijd een heel lang verhaal vertelt, zelfs als het antwoord simpel is.

Het is alsof je iemand vraagt: "Wat is 2 + 2?" en die persoon begint met een uitgebreide lezing over de geschiedenis van wiskunde, de eigenschappen van het getal 2, en de chemische samenstelling van de inkt waarmee je het opschrijft, voordat hij eindelijk zegt: "4". Dit noemen de onderzoekers "overdenken" (in het Engels: overthinking). Het kost veel tijd, veel energie en soms maakt de robot zelfs fouten omdat hij te veel nadenkt.

Dit papier introduceert een nieuwe methode genaamd AVR (Adaptive Visual Reasoning). Hier is hoe het werkt, vertaald naar alledaagse taal:

1. Het Probleem: De "Alles-Of-Niets" Robot

Vroeger dachten onderzoekers dat een slimme robot altijd zijn volledige denkproces moest gebruiken: eerst kijken (perceptie), dan nadenken (redeneren), en dan antwoorden.
Maar de onderzoekers ontdekten iets interessants: Niet elke vraag vereist een heel denkproces.

Soms moet je alleen even kijken naar een foto (bijv. "Wat is de kleur van de auto?").
Soms moet je gewoon je kennis gebruiken (bijv. "Hoeveel benen heeft een hond?").
Alleen bij moeilijke puzzels (bijv. wiskundige problemen) moet je echt lang nadenken.

De oude robots deden echter voor alles hetzelfde: ze maakten een lang, complex verhaal. Dit noemen ze Redundantie (overbodigheid).

2. De Oplossing: AVR (De Slimme Chauffeur)

AVR is als een slimme chauffeur die drie verschillende manieren van rijden kent, afhankelijk van de weg:

De "Directe Schakel" (Direct Answer): Voor een rechte weg zonder obstakels. Je geeft gewoon het antwoord. Geen gedoe.
- Voorbeeld: "Wat is de kleur van de lucht?" -> "Blauw."
De "Kijk-En-Zeg Schakel" (Perception-Only): Voor een weg waar je alleen goed moet kijken, maar niet hoeft te rekenen. Je beschrijft wat je ziet en geeft het antwoord.
- Voorbeeld: "Hoeveel rode auto's zie je?" -> "Ik zie drie rode auto's. Het antwoord is 3." (Geen lange redenering over waarom ze rood zijn).
De "Volledige Navigatie" (Full Format): Voor een gevaarlijk, complex traject met veel bochten. Dan gebruik je het volledige denkproces: kijken, nadenken, vergelijken en dan antwoorden.
- Voorbeeld: Een ingewikkelde wiskundige opgave met een diagram.

Het geheim van AVR: De robot leert om automatisch te kiezen welke schakel hij moet gebruiken. Hij wordt niet gedwongen om altijd in de "Volledige Navigatie" te rijden.

3. Hoe leren ze dit? (De Training)

De onderzoekers hebben de robot op twee manieren getraind, net als het trainen van een hond of een kind:

Stap 1: Leren wat de opties zijn (SFT): Eerst leren ze de robot dat er drie manieren zijn om te antwoorden. Ze laten hem zien: "Kijk, voor deze vraag is optie A goed, voor die vraag is optie B goed."
Stap 2: Leren kiezen op basis van slimheid (RL/FS-GRPO): Dit is het echte genie. Ze geven de robot een beloningssysteem:
- Als hij het juiste antwoord geeft met de kortste manier (bijv. direct antwoord), krijgt hij een grote beloning.
- Als hij het juiste antwoord geeft met een langere manier (waar het niet nodig was), krijgt hij een kleinere beloning.
- Als hij een fout maakt, krijgt hij een straf.

Zo leert de robot vanzelf: "Oh, voor deze simpele vraag hoef ik niet lang na te denken. Als ik snel antwoord, krijg ik meer punten!"

4. Het Resultaat: Sneller, Goedkoper en Slimmer

De tests tonen aan dat deze methode wonderen doet:

Minder woorden: De robot gebruikt 50% tot 90% minder woorden (tokens) om zijn antwoord te geven.
Beter resultaat: Omdat hij niet meer in de war raakt door zijn eigen lange verhalen, maakt hij zelfs minder fouten op simpele vragen.
Slimme verdeling: Op moeilijke vragen (zoals wiskunde) gebruikt hij nog steeds zijn volle denkvermogen, maar op simpele vragen (zoals "wat zie ik?") schakelt hij direct over op de snelle manier.

Samenvattend

Stel je voor dat je een auto hebt die altijd met 200 km/u rijdt, zelfs in een woonwijk. Dat is gevaarlijk en versleten. AVR is de nieuwe bestuurder die weet: "In de woonwijk ga ik 30 km/u (Direct Antwoord), op de snelweg 100 km/u (Kijk-en-Zeg), en op het racecircuit 200 km/u (Volledig Denken)."

Het resultaat is dat je sneller aankomt, minder benzine verbruikt en minder kans hebt op een ongeluk. Voor kunstmatige intelligentie betekent dit: slimmer denken door minder te doen waar het niet nodig is.

Titel: Learning Adaptive Reasoning Paths for Efficient Visual Reasoning (AVR)

1. Het Probleem: Overdenken en Redundantie

De auteurs identificeren een fundamenteel probleem bij huidige Visueel-Redenerende Modellen (VRMs): "Overdenken" (overthinking). Hoewel deze modellen uitstekend zijn in het integreren van visuele waarneming met taalredenering, genereren ze vaak onnodig lange redeneerketens (Chain-of-Thought of CoT), zelfs voor eenvoudige taken.

Redeneringspad-redundantie: Veel visuele vragen vereisen niet het volledige redeneringsproces. De paper introduceert het concept dat veel vragen correct beantwoord kunnen worden zonder expliciete logische redenering of zelfs zonder enige redenering (direct antwoord).
Gevolgen: Dit leidt tot een enorme verspilling van tokens (rekenkracht), verhoogde kosten, en soms zelfs een daling in nauwkeurigheid door fouten die zich ophopen in de tussenstappen van de redenering.
Bestaande oplossingen: Huidige methoden om dit aan te pakken zijn vaak heuristisch en negeren de unieke cognitieve structuur van visueel redeneren, waarbij waarneming en redeneren sterk met elkaar verbonden zijn.

2. Methodologie: Het AVR Framework

Om dit probleem op te lossen, stellen de auteurs AVR (Adaptive Visual Reasoning) voor. Dit is een framework dat visueel redeneren decomposeert in drie cognitieve functies en het model in staat stelt dynamisch te kiezen tussen drie antwoordformaten.

A. Decompositie van Cognitieve Functies
Het redeneringsproces wordt opgesplitst in:

Visuele Waarneming (Visual Perception): Het extraheren van relevante informatie uit de afbeelding (objecten, attributen, tekst/OCR, ruimtelijke relaties).
Logische Redenering (Logical Reasoning): Het uitvoeren van inferenties, vergelijkingen, tellingen of commonsense redenering op basis van de waarneming.
Antwoordtoepassing (Answer Application): Het omzetten van het resultaat naar het definitieve antwoord.

B. Drie Adaptieve Antwoordformaten
AVR definieert drie specifieke output-formaten, gemarkeerd met speciale tokens:

Full Format: Bevat alle drie de componenten (<perception>...<reasoning>...<answer>). Gebruikt voor complexe taken.
Perception-Only Format: Combineert waarneming direct met het antwoord (<perception>...<answer>), zonder uitgebreide logische redenering. Ideaal voor waarnemingsintensive taken.
Direct Answer: Alleen het antwoord (<answer>). Voor taken die direct uit de afbeelding of voorkennis kunnen worden afgeleid.

C. Twee-fasen Trainingspijplijn

Fase 1: Supervised Fine-Tuning (SFT): Het model wordt getraind op een dataset van 11.000 voorbeelden met annotaties voor de drie formaten. Dit leert het model hoe het verschillende formaten moet genereren.
Fase 2: Reinforcement Learning (RL) met FS-GRPO:
- De auteurs introduceren FS-GRPO (Format-Selection Group Relative Policy Optimization), een aanpassing van GRPO.
- Beloningssysteem: De beloning ( $r_i$ $r_{i}$ ) is een combinatie van:
  - Correctheid: Het antwoord moet juist zijn.
  - Format-bonus: Korte formaten (Direct Answer > Perception-Only > Full) krijgen een hogere bonus om efficiëntie te stimuleren.
  - Lengte-scaling: Een factor die de beloning verlaagt als het antwoord te lang is (verbetering van token-efficiëntie).
  - Diversiteitsbeloning: Voorkomt dat het model in één format "vastloopt" (format collapse) door zeldzame formaten binnen een groep te belonen.

3. Belangrijkste Bijdragen

Identificatie van Redundantie: Het paper biedt empirisch bewijs dat een aanzienlijk deel van visuele vragen (bijv. 36,7% zonder redenering, 32,1% direct) kan worden opgelost zonder het volledige redeneringspad.
AVR Framework: Een nieuw framework dat dynamische formatselectie mogelijk maakt door SFT te combineren met een speciaal ontworpen RL-objectief (FS-GRPO).
Efficiëntie en Nauwkeurigheid: Het bewijst dat adaptief redeneren niet alleen tokens bespaart, maar ook de nauwkeurigheid kan verbeteren door het vermijden van fouten in onnodige redeneerstappen.

4. Resultaten

De experiments zijn uitgevoerd op meerdere benchmarks (OCR, wiskunde, algemene VQA) met verschillende modelgroottes (Qwen3-VL 2B, 4B, 8B).

Token-reductie: AVR reduceert het token-gebruik met 50% tot 90% ten opzichte van traditionele "Thinking"-modellen.
- Bij waarnemingsintensive taken (zoals OCRBench) is de reductie >80% met een verbeterde nauwkeurigheid.
- Bij redeneringsintensive taken (zoals MathVista) blijft de nauwkeurigheid gelijk of verbetert deze, terwijl het token-gebruik significant daalt.
Dynamische Selectie: Het model leert automatisch het juiste formaat te kiezen:
- Voor OCR-taken: Voornamelijk "Direct Answer" of "Perception-Only".
- Voor wiskundige problemen: Voornamelijk "Full Format".
Vergelijking met Baselines: AVR presteert beter dan bestaande methoden zoals "Think-or-Not" (TON) en "ARM2", die vaak vastlopen in een binair keuze (denken of niet denken) of minder efficiënt zijn in token-gebruik.

5. Betekenis en Conclusie

De paper toont aan dat "meer redeneren" niet altijd "beter redeneren" betekent. Door de cognitieve structuur van visueel redeneren te respecteren en het model te leren wanneer het moet stoppen met denken, kan men:

De operationele kosten van multimodale AI drastisch verlagen.
De snelheid van inferentie verhogen.
De betrouwbaarheid vergroten door het vermijden van fouten in overbodige redeneerstappen.

AVR biedt een schaalbare oplossing die werkt over verschillende modelgroottes en families, en markeert een verschuiving van statische, lange redeneerketens naar adaptieve, taakbewuste redenering. De code en data zijn openbaar beschikbaar.