💻 computer science

Agentic Discovery with Active Hypothesis Exploration for Visual Recognition

Dit paper introduceert HypoExplore, een agentisch raamwerk dat de ontdekking van neurale architecturen voor visuele herkenning vormgeeft als een hypothese-gedreven wetenschappelijk onderzoek dat via evolutionaire vertakking en actieve hypotheseverkenning state-of-the-art prestaties bereikt op diverse datasets.

Oorspronkelijke auteurs: Jaywon Koo, Jefferson Hernandez, Ruozhen He, Hanjie Chen, Chen Wei, Vicente Ordonez

Gepubliceerd 2026-04-15

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Jaywon Koo, Jefferson Hernandez, Ruozhen He, Hanjie Chen, Chen Wei, Vicente Ordonez

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een groep slimme, digitale onderzoekers hebt die samenwerken om de perfecte foto-app te bouwen. Maar in plaats van dat één mens alles uitdenkt en probeert, laten we een team van robots dit doen, waarbij ze leren van elke fout en elke succesvolle poging.

Dat is precies wat HypoExplore doet. Het is een nieuw systeem dat kunstmatige intelligentie (AI) helpt om zelf de beste "hersenen" (neuronale netwerken) te bedenken voor het herkennen van beelden, zoals gezichten of dieren op foto's.

Hier is hoe het werkt, vertaald naar alledaagse taal:

1. Het Grote Idee: Wetenschap in plaats van Gokken

Normaal gesproken proberen mensen en computers nieuwe AI-ontwerpen vaak door blind te gokken of door kleine aanpassingen te doen aan bestaande ontwerpen. Het is alsof je probeert een betere auto te bouwen door alleen de wielen te veranderen, zonder te weten of het chassis wel goed is.

HypoExplore doet het anders. Het werkt als een wetenschappelijk team.

De Hypothese: In plaats van zomaar een ontwerp te maken, stelt het team eerst een "hypothese" op. Dat is een slimme gok: "Als we deze specifieke schakel toevoegen, zal de auto sneller rijden."
De Test: Ze bouwen de auto, testen hem, en kijken of het werkt.
De Leerervaring: Of het nu lukt of mislukt, ze noteren het resultaat en gebruiken die kennis voor de volgende poging.

2. Het Team: Verschillende Robots met Verschillende Taken

HypoExplore is geen enkele robot, maar een team van specialisten die samenwerken:

De Dromer (Idea Agent): Deze robot bedenkt nieuwe, creatieve ideeën voor de auto. Hij kijkt naar wat er al bekend is en probeert iets nieuws te verzinnen.
De Bouwer (Coding Agent): Deze robot neemt het idee van de Dromer en bouwt het daadwerkelijk in code. Als er een fout in de bouw zit, probeert hij het direct te repareren.
De Testbaan (Executor): Deze robot rijdt de auto een rondje om te zien hoe snel hij is en of hij niet kapot gaat.
De Analyseurs (Feedback Agents): Dit is het meest interessante deel. Vier verschillende experts kijken naar het resultaat:
- De Statistieker: Kijkt naar de cijfers (snelheid, brandstofverbruik).
- De Kunstcriticus: Kijkt naar de foto's die de auto verkeerd heeft herkend en vraagt: "Waarom dacht hij dat dit een hond was en geen kat?"
- De Oorzaak-Expert: Vergelijkt de nieuwe auto met de oude en zegt: "Het is die nieuwe schakel die het verschil maakte."
- De Diagnose-Expert: Kijkt waarom de auto kapot ging (bijvoorbeeld: te zwaar, motor oververhit).

3. Het Geheugen: De Boom en het Dagboek

Het systeem vergeet niets. Het heeft twee soorten geheugen:

De Stamboom (Trajectory Tree): Dit is een kaart van alle pogingen. Het toont welke ideeën waar vandaan komen. Als een tak van de boom goed werkt, gaan ze daar verder mee. Als een tak doodloopt, stoppen ze daar niet mee, maar zoeken ze een andere tak.
Het Hypothese-Dagboek (Hypothesis Memory Bank): Dit is een dagboek waarin ze de "regels" noteren. Bijvoorbeeld: "Regel 1: Als je een kleine globale token toevoegt, werkt het vaak goed." Of: "Regel 2: Als je te veel details toevoegt, wordt het systeem traag."
- Elke keer als ze iets testen, wordt de vertrouwen in deze regels bijgewerkt. Als een regel vaak klopt, wordt hij sterker. Als hij faalt, wordt hij zwakker.

4. De Slimme Strategie: Balans tussen Bekend en Nieuw

HypoExplore is heel slim in het kiezen van wat ze als volgende moeten doen. Ze gebruiken een strategie die lijkt op het zoeken naar een schat:

Exploitatie (Bekende paden): Ze kiezen soms voor een idee dat ze al weten dat het werkt (bijvoorbeeld: "Die ene schakel die vorige keer goed werkte, laten we die nog eens proberen").
Exploratie (Nieuwe paden): Maar ze durven ook onzekere ideeën te testen. Misschien is het een gek idee, maar als het werkt, kan het een doorbraak zijn. Ze proberen een balans te vinden tussen veilig spelen en risico's nemen.

5. Het Resultaat: Een Super-App

In hun proefprojecten hebben ze een nieuwe AI-architectuur bedacht die GSTN heet.

De prestatie: Deze nieuwe architectuur is heel klein en licht (zoals een compacte auto), maar presteert net zo goed als de zware, dure modellen die menselijke experts hebben ontworpen.
De verrassing: Ze hebben dit niet alleen op standaard foto's getest, maar ook op medische foto's (zoals huidkanker of weefsel). Het systeem vond daar zelfs de beste oplossing die tot nu toe bekend was!

Samenvatting

Kortom, HypoExplore is een autonoom wetenschappelijk team dat niet blindelings rondloopt, maar systematisch leert. Het stelt vragen, test antwoorden, houdt een dagboek bij van wat werkt en wat niet, en gebruikt die kennis om steeds betere AI-ontwerpen te bouwen. Het bewijst dat als je computers laat denken als echte wetenschappers (met hypothesen en bewijs), ze verrassend goede resultaten kunnen bereiken, zelfs op gebieden waar mensen moeite mee hebben.

Probleemstelling

Het ontwerpen van effectieve neurale architecturen voor computer vision blijft een centrale uitdaging. Hoewel er veel succes is geboekt met standaard benchmarks, vereist het ontdekken van sterke architecturen voor gespecialiseerde domeinen nog steeds aanzienlijke menselijke inspanning, herhaaldelijk experimenteren en zorgvuldige iteratie. Bestaande methoden voor geautomatiseerde architectuuroptimalisatie (zoals Neural Architecture Search) lopen vaak vast in lokale optimums, herhalen bestaande ontwerppatronen of zijn te beperkt tot het fine-tunen van hyperparameters binnen een vooraf gedefinieerde zoekruimte. Er is behoefte aan systemen die niet alleen architecturen genereren, maar een gestructureerd, wetenschappelijk proces volgen om fundamenteel nieuwe ideeën te verkennen en te valideren.

Methodologie: HypoExplore

Het paper introduceert HypoExplore, een agentisch raamwerk dat neurale architectuuroptimalisatie vormgeeft als een hypothese-gedreven wetenschappelijke ontdekking. In plaats van te zoeken in een vaste ruimte, start het systeem bij een door de mens gespecificeerd onderzoeksrichting en bouwt het architecturen van scratch op.

De kerncomponenten van de methode zijn:

Multi-Agent Systeem:
- Idea Agent: Genereert nieuwe architectuurconcepten en formuleren expliciete hypotheses (IF-THEN-BECAUSE structuren) over waarom een ontwerp zou moeten werken.
- Coding Agent: Implementeert de architectuur in code (PyTorch) en voert foutherstel en hyperparameter-tuning uit.
- Executor: Traint en evalueert de modellen binnen een tijdslimiet.
- Feedback Agents: Vier gespecialiseerde agents (Kwantitatief, Kwalitatief/VLM, Causaal, Diagnostisch) analyseren de resultaten vanuit verschillende perspectieven om de oorzaken van succes of falen te begrijpen.
- Hypothesis Synthesis Agent: Consolidereert de feedback, lost tegenstrijdigheden op en update het geheugen.
Gestructureerd Geheugen:
- Trajectory Tree: Een boomstructuur die de volledige stamboom van het onderzoek vastlegt, inclusief alle hypotheses, implementaties en resultaten. Dit stelt het systeem in staat om patronen in de evolutie van ontwerpen te zien.
- Hypothesis Memory Bank: Een database die statistieken per hypothese bijhoudt, waaronder een vertrouwensscore ( $c_t(h)$ ) die wordt bijgewerkt op basis van experimenteel bewijs. Hypotheses worden geklasseerd als bevestigd, weerlegd of onzeker.
Dual Selection Strategy (Dubbele Selectiestrategie):
Om de balans tussen exploitatie (het volgen van veelbelovende richtingen) en exploratie (het testen van onzekere hypotheses) te beheren, gebruikt HypoExplore een twee-staps selectie:
- Parent-Node Selectie: Kies welke tak van de onderzoekstboom verder moet worden onderzocht, gebaseerd op prestaties en de beschikbaarheid van nog niet-geteste hypotheses in die tak.
- Hypothesis Selectie: Kies welke specifieke hypotheses binnen die tak getest moeten worden. Dit gebeurt via Thompson Sampling voor exploitatie (hypotheses met hoge bewijskracht) en Epistemic Value voor exploratie (hypotheses met hoge onzekerheid, d.w.z. een vertrouwensscore rond 0.5).

Belangrijkste Bijdragen

HypoExplore Framework: Een geheugen-gebaseerd multi-agent systeem dat architectuuroptimalisatie transformeert van een zoekprobleem naar een autonoom wetenschappelijk proces.
Expliciete Hypothesemanagement: Het introduceren van een systeem dat hypotheses niet alleen genereert, maar ook actief trackt, valideert en hun betrouwbaarheid update op basis van empirisch bewijs.
Dubbele Selectiestrategie: Een mechanisme dat de exploratie-exploitatie-dilemma oplost door zowel de onderzoekstak als de specifieke testhypothese strategisch te kiezen.
Transversale Kennisoverdracht: Het aantonen dat geleerde principes (hypotheses) kunnen worden overgedragen tussen onafhankelijke evolutionaire lijnen en verschillende domeinen.

Resultaten

Het systeem is getest op verschillende datasets met indrukwekkende resultaten:

CIFAR-10: HypoExplore ontdekte een lichtgewicht architectuur genaamd GSTN (Global Shape Token Network). Deze architectuur bereikte 94,11% nauwkeurigheid met slechts 0,9 miljoen parameters. Dit is een enorme verbetering ten opzichte van de startbasis (18,91%) en presteert vergelijkbaar met of beter dan handmatig ontworpen modellen zoals MobileNet V3 en ResNet-18, maar met aanzienlijk minder parameters.
Generalisatie: De ontdekte GSTN-architectuur generaliseerde robuust naar CIFAR-100 en Tiny-ImageNet, waarbij het de prestaties van vergelijkbare lichtgewicht baselines overtrof.
Medische Beeldvorming (MedMNIST): In een onafhankelijke zoektocht voor medische beeldclassificatie (DermalMNIST, TissueMNIST, BreastMNIST) bereikte het systeem State-of-the-Art (SOTA) prestaties, wat de toepasbaarheid in gespecialiseerde domeinen bewijst.
Validatie van Hypotheses: De analyse toonde aan dat de vertrouwensscores van hypotheses voorspellend zijn; hypotheses met een hoge score voorspelden experimentele uitkomsten met een nauwkeurigheid van 80% (in de hoogste bin), wat aantoont dat het systeem echt "leert" waarom bepaalde ontwerpen werken.

Betekenis en Impact

De significante bijdrage van dit werk ligt in de verschuiving van "blind zoeken" naar "gestuurd wetenschappelijk ontdekken".

Interpreteerbaarheid: Door hypotheses expliciet te maken, wordt het ontwerpproces minder een "black box" en meer een logisch, stap-voor-stap proces waarbij men begrijpt waarom een architectuur werkt.
Efficiëntie: Het vermijdt redundante experimenten door het geheugen te gebruiken om eerdere mislukkingen en successen te onthouden.
Toekomstperspectief: Het paper suggereert dat dit paradigma van expliciete, bewijsgedreven hypothesebeheer verder kan worden toegepast op andere gebieden van machine-driven wetenschappelijke ontdekking, niet alleen beperkt tot neurale architectuuroptimalisatie. Het bewijst dat autonome systemen in staat zijn om fundamenteel nieuwe inzichten te genereren die zelfs menselijke experts kunnen overtreffen in specifieke domeinen.