💻 computer science

Beacon: Knowing When and How to Perform Agentic Visual Reasoning

Het artikel introduceert Beacon, een nieuw agentisch visueel redeneermodel dat de algehele prestaties verbetert door de beperkingen van bestaande modellen op het gebied van Modus-adaptiviteit en Tool-effect aan te pakken via een reinforcement learning-raamwerk met Necessity-Aware Adaptive Rewards en Hint-Guided Capability Expansion.

Oorspronkelijke auteurs: Qixun Wang, Yang Shi, Letian Cheng, Zhuoran Zhang, Yan He, Yuqi Tang, Qi Zhang, Xinlei Yu, Ruizhe Chen, Tianrun Xu, Yuanxing Zhang, Pengfei Wan, Haotian Wang, Xianghua Ying

Gepubliceerd 2026-07-31

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Qixun Wang, Yang Shi, Letian Cheng, Zhuoran Zhang, Yan He, Yuqi Tang, Qi Zhang, Xinlei Yu, Ruizhe Chen, Tianrun Xu, Yuanxing Zhang, Pengfei Wan, Haotian Wang, Xianghua Ying

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een super-slimme robotvriend hebt die naar plaatjes kan kijken en vragen erover kan beantwoorden. Deze robot maakt deel uit van een vakgebied genaamd "multimodale AI", waarbij computers leren om zowel tekst als afbeeldingen te begrijpen. Normaal gesproken probeert deze robot een puzzel op te lossen met alleen zijn brein (tekstredenering) wanneer hij een lastige afbeelding ziet. Maar soms is de puzzel te moeilijk voor alleen het denken; hij heeft dan een paar "gereedschappen" nodig, zoals een vergrootglas om in te zoomen, een rekenmachine om dingen te tellen, of een schaar om een deel van de afbeelding bij te snijden. Dit wordt "agentic visual reasoning" genoemd. De grote vraag waar wetenschappers zich mee bezighouden is niet alleen "Kan de robot gereedschap gebruiken?", maar "Weet de robot wanne'r hij ze moet gebruiken?". Als de robot een hamer pakt om een noot te kraken, verspilt hij tijd en kan hij de noot beschadigen. Als hij probeert duizend kleine stipjes met zijn ogen te tellen in plaats van een teller te gebruiken, kan hij het antwoord fout krijgen. We geven hierom omdat we willen dat onze AI-helpers efficiënt en accuraat zijn, en niet alleen druk bezig.

Maak kennis met Beacon, een nieuw soort AI-model gemaakt door onderzoekers die beseften dat veel huidige "gereedschap-gebruikende" robots een beetje onhandig zijn. Ze hebben de neiging om hun gereedschap voor alles te gebruiken, zelfs voor eenvoudige taken die ze met hun ogen dicht zouden kunnen oplossen, en ze falen vaak in het gebruiken ervan wanneer een taak zonder hulp eigenlijk onmogelijk is. De auteurs van dit artikel, een team van universiteiten en het Kling-team, besloten een slimmere robot te bouwen die precies weet wanneer hij de gereedschappen moet neerleggen en wanneer hij ze moet oppakken.

Ze ontdekten dat bestaande modellen lijken op een student die een rekenmachine blijft gebruiken voor eenvoudige optellingen zoals $2+2$ , wat tijd verspilt en soms voor stomme fouten zorgt omdat ze te veel op de machine vertrouwen. Ondertussen, wanneer ze geconfronteerd worden met een echt moeilijke wiskundeprobleem, vergeten deze zelfde studenten vaak de rekenmachine te gebruiken. De onderzoekers maten dit gedrag en ontdekten dat voor veel huidige modellen de "hulp" die de gereedschappen bieden bij moeilijke problemen bijna volledig wordt tenietgedaan door de "schade" die ze veroorzaken bij eenvoudige problemen.

Om dit op te lossen, bouwden ze Beacon met behulp van een speciale trainingsmethode genaamd Reinforcement Learning. Denk hierbij aan het trainen van een hond met een zeer specifieke set regels. Eerst leerden ze het model hoe het gereedschap gebruikt (zoals het schrijven van Python-code om een afbeelding bij te snijden of pixels te tellen) door middel van veel oefening. Daarna introduceerden ze twee slimme trucs om het te leren wanneer het ze te gebruiken:

De "Necessity-Aware" Beloning: Stel je een leraar voor die een gouden ster geeft als je een probleem zonder rekenmachine oplost, maar nog steeds een zilveren ster geeft als je de rekenmachine correct gebruikt alleen wanneer het probleem te moeilijk is om in je hoofd te doen. Als je de rekenmachine op een eenvoudig probleem gebruikt, krijg je geen ster. Dit leert het model om zijn gereedschap te bewaren voor de zware klussen.
De "Hint-Guided" Expansie: Soms is een probleem zo moeilijk dat het model vastloopt en opgeeft. In plaats van gewoon op te geven, lieten de onderzoekers een super-slim "expert"-model (zoals een genie-tutor) een hint schrijven die de robot begeleidt over hoe hij een gereedschap moet gebruiken om het probleem op te lossen, zonder het antwoord weg te geven. De robot oefent vervolgens het oplossen van het probleem met deze hint, leert de strategie, en leert het uiteindelijk uit zichzelf te doen zonder de hint.

De resultaten zijn indrukwekkend. Bij tests op 13 verschillende uitdagende benchmarks (variërend van het tellen van knikkers op een baan tot het uitzoeken van badmintonscores) werd Beacon het best presterende open-source model. Het werd niet alleen beter in het gebruik van gereedschap; het werd ook beter in het kiezen ervan. De gegevens laten zien dat Beacon zijn algemene score met gemiddeld 6,07 punten verbeterde ten opzichte van de basisversie. Belangrijker nog, het toonde een "Tool Gain" van +3,14%, wat betekent dat de gereedschappen die het gebruikte daadwerkelijk hielpen om problemen op te lossen die het voorheen niet kon oplossen, zonder de eenvoudige problemen te verstoren.

Kortom, het artikel suggereert dat de toekomst van slimme AI niet alleen gaat over het hebben van meer gereedschappen of algemeen slimmer zijn; het gaat over het hebben van de wijsheid om te weten wanneer je naar een gerecht grijpt en wanneer je op je eigen oordeel vertrouwt. Beacon bewijst dat AI met de juiste training kan leren een doordachte partner te zijn in plaats van een gejaagde gereedschap-gebruiker.

Technische Samenvatting: BEACON – Weten wanneer en hoe agentische visuele redenering moet worden uitgevoerd

1. Probleemstelling

Agentische visuele redenering beoogt Multimodale Large Language Models (MLLM's) te verbeteren door externe tools te benutten (bijv. code-executie voor beeldmanipulatie of numerieke berekeningen) om complexe taken op te lossen. De huidige benaderingen lijden echter aan twee kritieke tekortkomingen:

Gebrek aan Modale Adaptiviteit: Bestaande modellen falen vaak in het bepalen wanneer tools noodzakelijk zijn. Ze neigen er ofwel toe om willekeurig tools aan te roepen (wat onnodige computationele overhead en fouten bij eenvoudige taken introduceert) of ze gebruiken ze nooit (waardoor kansen missen om moeilijke problemen op te lossen).
Ineffectief Toolgebruik (Tool Effect): Hoewel tools bedoeld zijn om de capaciteiten van het model uit te breiden bij onoplosbare problemen, introduceren huidige modellen vaak fouten bij problemen die ze zonder tools al zouden kunnen oplossen. Bijgevolg worden de prestatiewinsten op "moeilijke" voorbeelden vaak tenietgedaan door de degradatie op "gemakkelijke" voorbeelden, wat resulteert in een verwaarloosbare netto verbetering ten opzichte van reasoning zonder tools.

Het artikel betoogt dat het fundamentele doel niet louter het uitrusten van modellen met tools moet zijn, maar het waarborgen dat ze deze adaptief en effectief gebruiken om echte capaciteitsuitbreiding te bereiken.

2. Methodologie: Het Beacon Framework

De auteurs stellen Beacon voor, een nieuw agentisch visueel redeneermodel dat wordt getraind via een Supervised Fine-Tuning (SFT) gevolgd door een Reinforcement Learning (RL) paradigma. De kerninnovaties liggen in de dataconstructie en het RL-framework.

2.1 Constructie van Trainingsdata

Selectie van Bronnen: Data is gecureerd uit 16 diverse benchmarks die de werkelijkheid beslaan, waaronder perceptie, grafieken, OCR, STEM en ruimtelijk redeneren.
SFT Data Synthese: Het basismodel (Qwen3-VL-8B-Instruct) wordt geëvalueerd op de brongegevens. Moeilijke voorbeelden (correct beantwoord $\le$ 2 keer op 5) worden geselecteerd. Een sterk teacher-model (Gemini 3.1 Pro) genereert code-ondersteunde redeneertrajecten voor deze moeilijke voorbeelden, die vervolgens worden verfijnd om correctheid te garanderen.
RL Data Curatie: Het SFT-model wordt geëvalueerd op dezelfde pool. Voorbeelden die nog steeds onopgelost blijven (correct beantwoord $\le$ 3 keer op 5) worden geselecteerd voor de RL-fase om de focus te leggen op het uitbreiden van de capaciteitsgrenzen.

2.2 Reinforcement Learning Framework

Beacon maakt gebruik van een aangepast RL-framework gebaseerd op GRPO (Group Relative Policy Optimization) met twee nieuwe mechanismen:

A. Necessity-Aware Adaptive Reward (NAAR)

Deze beloningsfunctie adresseert Modale Adaptiviteit. Het heeft als doel om toolgebruik alleen te stimuleren wanneer dat nodig is, zonder het vermogen van het model om problemen op te lossen te onderdrukken.

Logica: Voor een groep rollouts geldt: als er ten minste één correct tekst-alleen antwoord bestaat, is de beloning voor een correct tekst-alleen antwoord 1.0, terwijl een correct code-gebaseerd antwoord een gereduceerde beloning van 0.25 ontvangt. Als er geen tekst-alleen antwoord correct is, ontvangt een correct code-gebaseerd antwoord de volledige beloning van 1.0.
Doel: Dit creëert een "zachte voorkeur" voor tekst-alleen redeneren wanneer dit voldoende is, waarbij onnodige tool-aanroepen worden bestraft terwijl de prikkel om tools te gebruiken voor moeilijke problemen behouden blijft.

B. Hint-Guided Capability Expansion (HCE)

Dit mechanisme adresseert de Tool Effect door leer-signalen te herstellen uit "all-wrong" groepen die in standaard RL gewoonlijk worden weggegooid.

Proces: Wanneer een groep rollouts faalt in het oplossen van een moeilijk probleem, genereert een sterk expert-model (Gemini 3.1 Pro) een "hint". Deze hint bestaat uit tussenliggende redeneerstappen en subdoelen (maar niet het uiteindelijke antwoord) afgeleid van een geverifieerd correct traject.
Re-rollout: Het policy-model wordt geprompt met de originele vraag plus de hint om nieuwe trajecten te generen.
Optimalisatie: Tijdens de policy-update wordt de hint verwijderd uit de input prompt, maar het succesvolle traject dat met de hint is gegenereerd, wordt behouden. Dit draagt de capaciteit over om het probleem op te lossen zonder afhankelijk te zijn van de hint tijdens de inferentie.

2.3 Inferentiegedrag

Tijdens de inferentie beslist Beacon autonoom of het Python-code moet genereren (omsloten door <tool_call>...</tool_call>) voor operaties zoals croppen, annoteren of berekenen. De output wordt geretourneerd als een observatie (<observation>...</observation>) om verdere redenering of de uiteindelijke antwoordgeneratie te sturen.

3. Belangrijkste Bijdragen

Systematische Analyse van Toolgebruik: De auteurs definiëren en kwantificeren twee metrieken: Mode Adaptiveness (MA) (het vermogen om de juiste redeneermodus te kiezen) en Tool Effect (TE) (de netto winst van toolgebruik, berekend als Tool-Gain minus Tool-Harm). Hun analyse laat zien dat bestaande modellen een gebrek aan adaptiviteit vertonen en dat door tools geïnduceerde winsten vaak worden tenietgedaan door schade op eenvoudige taken.
Nieuw Trainingsframework: De introductie van NAAR en HCE binnen een RL-framework om specifiek te richten op adaptieve aanroeping en echte capaciteitsuitbreiding.
Hoogwaardige Datapipeline: Een synthese-pipeline die een sterk teacher-model gebruikt om code-ondersteunde trajecten voor moeilijke voorbeelden te genereren en te verfijnen, wat zorgt voor hoogwaardige supervisie.
State-of-the-Art Prestaties: Beacon behaalt de beste gemiddelde prestaties over 13 diverse benchmarks onder open-source modellen, waarmee het gat met closed-source modellen aanzienlijk wordt verkleind.

4. Experimentele Resultaten

Het model werd geëvalueerd op 13 benchmarks, waaronder high-resolution visuele zoekopdrachten (V*, HRBench), ruimtelijk redeneren (BLINK, BabyVision) en agentische redenering (TIRBench, GameQA).

Algemene Prestaties: Beacon-8B behaalde de hoogste gemiddelde score van alle open-source modellen en staat op nummer één op 11 van de 13 benchmarks. Het presteerde beter dan het basismodel (Qwen3-VL-8B-Instruct) met een gemiddelde verbetering van 6.07 punten.
Modale Adaptiviteit: Beacon demonstreerde de hoogste MAmean (gemiddelde adaptiviteitsscore), wat aantoont dat het effectief kan schakelen tussen tekst-alleen en tool-ondersteunde modi op basis van de moeilijkheidsgraad van het probleem. In tegen afhankelijk van andere modellen die een enkele modus bevoordelen, past Beacon zijn strategie aan.
Tool Effect: Beacon vertoonde de grootste positieve kloof tussen Tool-Gain en Tool-Harm ( $\Delta$ TE = +3.14%). Dit geeft aan dat Beacon er succesvol in slaagt tools te gebruiken om moeilijke problemen op te lossen, terwijl de prestatiedegradatie op eenvoudige problemen wordt geminimaliseerd. Andere modellen vertoonden vaak een $\Delta$ TE die dicht bij nul of negatief was.
Ablatie-studies: Het verwijderen van NAAR verminderde de Modale Adaptiviteit, terwijl het verwijderen van HCE de Tool Effect ( $\Delta$ TE) verminderde. Het volledige model combineerde beide om optimale resultaten te behalen.

5. Betekenis en Claims

Het artikel claimt dat de vooruitgang in agentische visuele redenering niet louter gemeten moet worden aan de hand van de frequentie van toolgebruik of de geaggregeerde nauwkeurigheid, maar door de vraag of modellen weten wanneer tools noodzakelijk zijn en hoe ze deze moeten gebruiken om echte capaciteitswinsten te behalen.

Beacon demonstreert dat door expliciet te optimaliseren voor adaptiviteit en het netto voordeel van toolgebruik, het mogelijk is om modellen te creëren die:

Onnodige computationele overhead op oplosbare taken vermijden.
Erin slagen hun capaciteiten uit te breiden naar voorheen onoplosbare problemen.
Een robuust evenwicht bereiken waarbij door tools geïnduceerde winsten niet worden gecompenseerd door door tools geïnduceerde schade.

De auteurs concluderen dat hun aanpak een effectiever paradigma biedt voor agentische visuele redenering, waarbij zij verder gaan dan de "onbezonnen tool-aanroeping" die bij eerdere werken werd gezien, naar een intelligentere, door noodzaak gedreven agent.