💻 computer science

Tycho: Active Abstraction with Programmatic World Models for ARC-AGI-3

Het artikel introduceert Tycho, een coding-agent systeem dat de ARC-AGI-3 uitdaging aanpakt door omgevingen te formaliseren als geparametriseerde Moore-machines en "actieve abstractie" te gebruiken om dynamisch uitvoerbare wereldmodellen te construeren, te testen en te repareren, waarmee een perfecte menselijke replay-efficiëntie op alle 183 niveaus wordt bereikt terwijl het aantal acties aanzienlijk wordt verminderd ten opzichte van menselijke baselines.

Oorspronkelijke auteurs: Jens Lehmann, Andrei Aioanei, Sahar Vahdati

Gepubliceerd 2026-07-31

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Jens Lehmann, Andrei Aioanei, Sahar Vahdati

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je in een gloednieuwe videogame wordt gedropt zonder handleiding, zonder tutorial en zonder de mogelijkheid om hulp te vragen. Je kunt alleen het scherm zien, op een knop drukken en kijken wat er daarna gebeurt. Om te winnen, moet je de verborgen regels ontdekken, het doel raden en dit alles doen zonder ook maar één zet te verspillen, want elke knopdruk telt mee tegen je score. Dit is de uitdaging van actieve abstractie: leren hoe een wereld werkt door dingen erin te doen, in plaats van alleen antwoorden te memoriseren. Wetenschappers noemen dit "vaardigheidsverwerving", wat in essentie het vermogen is om een nieuwe truc snel te leren na slechts een paar pogingen, in plaats van dat je een miljoen keer moet oefenen. De grote vraag is: kan een computer deze mysterieuze spellen spelen zoals een mens dat doet—door te kijken, te raden wat de regels zijn, en die regels vervolgens te gebruiken om vooruit te plannen?

Dit artikel introduceert een systeem genaamd Tycho (genoemd naar de astronoom Tycho Brahe, die de sterren zo nauwkeurig in kaart bracht dat anderen later de wetten van het universum konden ontdekken) om die vraag te beantwoorden. Tycho is een "coderingsagent" die ontworpen is om een specifieke reeks lastige puzzels genaamd ARC-AGI-3 te spelen. In plaats van alleen de volgende zet te raden, probeert Tycho een klein computerprogramma te schrijven dat fungeert als een simulator van het spel zelf. Het observeert het spel, schrijft code om te voorspellen wat er gebeurt als het op een knop drukt, controleert of die code juist is, en gebruikt die code vervolgens om zijn zetten te plannen. De onderzoekers testten vier verschillende manieren waarop Tycho deze simulator kon gebruiken: het volledig negeren ervan, de hoofdbrain de code zelf laten schrijven, een helper-bot vragen om de code te schrijven, of de code automatisch repareren wanneer het een fout maakt.

De resultaten waren verrassend en genuanceerd. Het team kwam tot de conclusie dat het hebben van een simulator op zichzelf niet genoeg is; de strategie over wanneer je deze gebruikt, is het belangrijkst. De beste aanpak was actor-requested delegation (door de actor gevraagde delegatie), waarbij de hoofdagent een gespecialiseerde helper vraagt om de gamesimulator te bouwen op het moment dat hij denkt dat het nodig is. Deze methode scoorde de hoogste efficiëntie tijdens de initiële tests. Toen ze deze winnende strategie aan twee van de krachtigste AI-modellen die momenteel beschikbaar zijn gaven (GPT-5.6 Sol en Opus 5), waren de resultaten ongelofelijk: ze losten 100% van de 25 publieke games en alle 183 levels daarbinnen op. Het Opus 5-model was bijzonder efficiënt en gebruikte 61% minder acties dan de gemiddelde menselijke speler om dezelfde levels te voltooien.

Het artikel waarschuwt echter ook voor een veelvoorkomende valkuil. Ze ontdekten dat het bouwen van een simulator die elke pixel van het spel perfect voorspelt (hoge nauwkeurigheid) niet garandeert dat je zult winnen. Eén strategie, genaamd "automatic repair" (automatische reparatie), bouwde simulators die ongelooflijk nauwkeurig waren in het voorspellen van wat er hierna gebeurt, maar de agent speelde nog steeds slecht omdat hij niet wist waar hij naar moest streven of wanneer hij de simulator moest gebruiken. Het is alsof je een perfecte kaart van een doolhof hebt, maar niet weet waar de uitgang is. Het artikel concludeert dat ware intelligentie niet alleen gaat over het bouwen van een perfect model van de wereld; het gaat over de "actieve abstractie" van beslissen wanneer je een model bouwt, wanneer je het vertrouwt, en wanneer je het negeert en gewoon handelt. Tycho liet zien dat door het spel te behandelen als een set regels die ontdekt en getest moeten worden, in plaats van een plaatje dat opgelost moet worden, AI met menselijke efficiëntie nieuwe spellen kan leren spelen.

Technische Samenvatting: Tycho – Actieve Abstractie met Programmatische Wereldmodellen voor ARC-AGI-3

Probleemdefinitie

Het artikel behandelt ARC-AGI-3, een interactieve benchmark waarbij een agent de regels, de verborgen staat en de doelen van onbekende spellen moet afleiden door louter observatie en actie. In tegenstelling tot statische redeneertaken legt ARC-AGI-3 een strikt actiebudget op: elke zet telt mee voor de score, en de agent moet een balans vinden tussen exploratie (gegevens verzamelen) en exploitatie (niveaus voltooien).

De kernuitdaging is actieve abstractie: de agent moet niet alleen beslissen wat waar is over de omgeving, maar ook wanneer het de moeite waard is om een model te construeren, het te gebruiken voor planning, het te repareren bij falen, of het volledig te omzeilen. Het artikel formaliseert deze omgevingen als geparameteriseerde gerenderde deterministische Moore-machines, waarbij onderscheid wordt gemaakt tussen de onderliggende staat (die verborgen variabelen bevat zoals tellers of cameraveloffsets), de transitiedynamiek en de observatievorming (rendering). Een belangrijke moeilijkheid is dat identieke gerenderde grids overeen kunnen komen met verschillende onderliggende staten (niet-Markoviaanse observaties), waardoor de agent een geschiedenis van interacties moet bijhouden om ambiguïteit op te lossen.

Methodologie: Het Tycho-systeem

Tycho is een coding-agent systeem ontworpen om programmatische wereldmodellen te construeren en te gebruiken tijdens interactie. Het werkt op een gedeelde taak-tijdarchitectuur (Figuur 1) bestaande uit een actor (die redeneert en acties committeert) en een optionele werkbank (die uitvoerbare modellen construeert of repareert).

1. Formeel Kader

Gerenderde Moore-machines: De omgeving wordt gemodelleerd als een deterministisch systeem waarbij acties een onderliggende staat $s$ bijwerken, en de staat een observatie (grid), beschikbare acties en een uitkomst produceert. Transities kunnen tussenliggende animatieframes (transiënte bewijslast) uitzenden voordat ze landen op het volgende beslissingsframe.
Getypeerde Interactiegeschiedenis: Het systeem houdt een gestructureerde geschiedenis bij van beslissingsframes, acties, transiënte frames en terminale uitkomsten. Dit voorkomt dat de agent animatieframes verwart met beslissingspunten.
Partiële Voorspelling: Om onzekerheid aan te pakken, kan de renderer van het model zich onthouden van pixels die het niet kan bepalen (het geeft $\perp$ terug) of een begrensde set observatievarianten teruggeven voor kwantiseringsambiguïteiten (bijv. een HUD-balk die een verborgen teller representeert).

2. Uitvoerbare Hypothesetaal

Tycho representeert wereldmodellen als Python-programma's die vier kernfuncties implementeren:

init_state: Brengt de initiële grid en levelindex in kaart naar een gemodelleerde staat.
transition: Beweegt de staat voort na een actie.
render: Brengt de staat terug naar een grid (ondersteunt onthouding).
outcome: Classificeert de staat als lopend, level voltooid, of game over.
Het model is vrij vorm, waardoor de agent de staatrepresentatie kan kiezen (bijv. objectenlijsten, cellulaire automata, tellers) op basis van de specifieke spelmechanica.

3. Metareasoning-beleid

Het artikel evalueert vier verschillende beleidsregels voor het beheer van de interactie tussen de actor en het model:

Geen Wereldmodel (Direct Redeneren): De actor redeneert direct over de bewijslast zonder een uitvoerbaar model te construeren.
Enkelvoudig (Door Actor Geautoriseerd): De actor redeneert zowel als bewerkt het model naar behoefte.
Orchestrator (Door Actor Verzocht Delegatie): De actor kan een gespecialiseerde bouw-subagent verzoeken om het model te construeren of te repareren.
Trigger (Automatisch Herstel): De harness roept de builder automatisch aan wanneer verificatie faalt (bijv. transitie-mismatch, onvoldoende dekking) of bij levelgrenzen.

4. Verificatie en Planning

Verificatie: Het model wordt getest door de opgenomen interactiegeschiedenis opnieuw af te spelen. Een transitie wordt "geaccepteerd" als de voorspelde grid van het model overeenkomt met de geobserveerde grid op alle geclaimde cellen (of overeenkomt met een van de toegestane varianten).
Planning: Zodra een model is geverifieerd, zoekt het systeem in de toestandsruimte naar een sequentie van acties die leidt naar level_complete. De resulterende plan wordt gevalideerd tegen de interne staat van het model en stap voor stap uitgevoerd, waarbij de actor de staat na elke actie opnieuw verifieert.

Belangrijkste Bijdragen

Formalisering: Het artikel formaliseert ARC-AGI-3 als de actieve identificatie van gerenderde deterministische Moore-machines met transitie-emissies, waarbij expliciet wordt omgegaan met verborgen staat, niet-injectieve observaties en de kosten van interactie.
Programmatische Wereldmodellen: Het definieert een vrij vorm, uitvoerbare hypothesetaal die agents in staat stelt regels te externaliseren als inspecteerbare, bewerkbare Python-code, ondersteunend voor partiële voorspelling en staat-abstractie.
Beleid-Benchmarking: Het biedt een gematchte vergelijking van vier model-onderhoudsbeleidsregels (Geen Model, Enkelvoudig, Orchestrator, Trigger) onder een identiek inferentiebudget, waarbij het effect van modelallocatie (wie het model bouwt en wanneer) wordt geïsoleerd van de capaciteit tot modelsynthese.
Onderscheid van Metrieken: Het werk maakt onderscheid tussen transitie-nauwkeurigheid (reproduceert de simulator de geschiedenis?) en spelprestaties (helpt het model bij het winnen?). Het demonstreert dat een hoge transitie-nauwkeurigheid geen hoge scores garandeert als het model het doel verkeerd identificeert of als het beleid middelen verkeerd toewijst.
Human-Adaptatie Loop: Het beschrijft een proces waarbij meta-reflecties uit agent-runs worden gebruikt om de agent-harness (tools, geheugen, verificatie) iteratief te verfijnen voordat deze voor toekomstige runs wordt vastgezet.

Experimentele Resultaten

De evaluatie werd uitgevoerd op de 25 publieke ARC-AGI-3 games (183 levels totaal) met behulp van frontier LLM's (Claude Opus 4.8, GPT-5.6 Sol, en Opus 5).

Gematched Beleidsselectie (Opus 4.8)

Direct Redeneren (Geen Model): Behaalde 79.07 RHAE (Relative Human Action Efficiency).
Enkelvoudig (Door Actor Geautoriseerd): Behaalde 85.36 RHAE.
Orchestrator (Gedelegeerd): Behaalde 88.49 RHAE, de hoogste onder de gematchte beleidsregels.
Trigger (Automatisch Herstel): Behaalde 83.07 RHAE. Ondanks het produceren van modellen met de hoogste geaccepteerde transitie-match (88.1%), presteerde het minder goed dan de Orchestrator. Deze kloof illustreert dat een nauwkeurige simulatie van dynamiek onvoldoende is zonder correcte doelidentificatie of efficiënte toewijzing van middelen.

Frontier Model Evaluatie (Geselecteerd Orchestrator Beleid)

Gebruikmakend van het Orchestrator-beleid met sterkere modellen:

GPT-5.6 Sol: Bereikte 100.00 RHAE, voltooide alle 25 games en 183 levels in 7.766 gescoord acties.
Opus 5: Bereikte 100.00 RHAE, voltooide alle 183 levels in 6.641 acties (gebruikte 14,5% minder acties dan GPT-5.6 Sol).
Efficiëntie: Opus 5 gebruikte 61% minder gescoord acties dan het geaggregeerde officiële menselijke baseline.
Kosten: De Opus 5 run kostte naar schatting $2.99k (API-equivalent), aanzienlijk lager dan vergelijkbare runs van andere systemen (bijv. Rodionov's verificatie runs geschat op $13.6k–$ 15.5k onder vergelijkbare condities).

Kwalitatieve Analyse

Casestudies (bijv. cd82, tu93, sk48) toonden aan:

Succes: Modellen kunnen trial-and-error vervangen door geverifieerde sequenties (bijv. cd82) en ondersteunen zoekopdrachten over gereduceerde toestandsruimtes (bijv. tu93).
Falen: Een nauwkeurig transitiemodel kan falen als het doel verkeerd wordt geïdentificeerd (bijv. sk48, waar het model de mechanica perfect simuleerde maar het doel miste).
Herstel: Het systeem lokaliseerde succesvol mismatches (bijv. onverwachte patrouille-explosies in tu93) en repareerde het model om herplanning mogelijk te maken.

Betekenis en Claims

Het artikel claimt dat actieve abstractie een cruciaal onderdeel is van algemene intelligentie: het vermogen om testbare modellen te genereren uit kostbare interactie en te beslissen wanneer deze te gebruiken.

Selectieve Modellering: De resultaten suggereren dat wereldmodellering het meest effectief is wanneer het aan een specialist wordt gedelegeerd (Orchestrator) in plaats van automatisch te worden afgedwongen (Trigger) of uitsluitend door de actor wordt afgehandeld.
Nauwkeurigheid vs. Nut: Een hoogwaardige simulatie van omgevingstransities is noodzakelijk maar niet voldoende voor succes; het systeem moet ook de doelstellingen correct afleiden en computationele middelen efficiënt toewijzen.
Systeemarchitectuur: De prestatiewinst (van 79.07 naar 100.00 RHAE) wordt toegeschreven aan het compound agent systeem (harness + model + beleid) in plaats van aan het fundamentele model alleen. Het artikel benadrukt dat algemene intelligentie afhangt van machinerie die in staat is om beperkte ervaring te organiseren in taakmodellen en het systeem dat dat proces ondersteunt aan te passen.
Bescheidenheid: De auteurs erkennen dat deze resultaten de prestaties op een vaste publieke testomgeving karakteriseren. Ze merken op dat de huidige adaptatieloop menselijk-gemedieerd is (auteurs verfijnen de harness op basis van agent-notities) en dat toekomstig werk deze buitenste loop moet automatiseren om echte zelfverbetering te bereiken. Ze waarschuwen ook dat de hoge inferentiekosten (API-calls) een ruilhandel zijn van ongescoren rekenkracht voor gescoren actie-efficiëntie, een afweging die verschilt van biologische efficiëntie.