🤖 AI

Coupled Hierarchical Search over Topology and Execution for Agentic Workflow Synthesis

HierFlow is een training-vrije, test-time architectuur die de synthese van agentische workflows automatiseert door een gekoppeld hiërarchisch zoekparadigma te hanteren, dat topologische aanpassingen dynamisch integreert met optimalisatie op executieniveau om superieure prestaties en efficiëntie te bereiken over diverse benchmarks.

Oorspronkelijke auteurs: Dong Li, Yanchi Liu, Xujiang Zhao, Wei Cheng, Zhengzhang Chen, Xintao Wu, Zhong Chen, Chen Zhao, Haifeng Chen

Gepubliceerd 2026-07-27

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Dong Li, Yanchi Liu, Xujiang Zhao, Wei Cheng, Zhengzhang Chen, Xintao Wu, Zhong Chen, Chen Zhao, Haifeng Chen

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een superintelligente robot probeert te leren hoe hij een echt moeilijke puzzel moet oplossen, zoals een complex wiskundig probleem of een lastige programmeeruitdaging. Je kunt de robot niet gewoon zeggen "figuur het maar uit" en hopen op het beste; hij heeft een plan nodig, een stapsgewijs recept van wat hij eerst, daarna en als derde moet doen. In de wereld van kunstmatige intelligentie worden deze plannen workflows genoemd. Denk aan een workflow als een kaart voor een schattenjacht: het vertelt de robot waar hij moet graven, wanneer hij naar aanwijzingen moet zoeken en hoe hij gereedschap moet gebruiken om de schat te vinden.

Een lange tijd moesten mensen deze kaarten met de hand tekenen. Als de puzzel veranderde, werd de kaart vaak nutteloos en moesten mensen weer helemaal opnieuw beginnen. Onlangs hebben wetenschappers ontdekt hoe ze de robot zijn eigen kaarten kunnen laten tekenen. Maar hier zit de adder onder het gras: het aantal mogelijke kaarten is zo enorm dat het is alsof je één specifere zandkorrel probeert te vinden op elk strand op aarde. Als de robot elke mogelijke kaart probeert te controleren, duurt het eeuwig en brandt zijn brein (of zijn computerbudget) op. Dus de grote vraag voor wetenschappers is: hoe kunnen we een robot leren om snel de beste kaart voor een specifieke puzzel te vinden zonder tijd te verspillen aan slechte kaarten, en zonder dat hij eerst terug naar school moet om nieuwe dingen te leren?

Dit is waar een nieuw idee genaamd HierFlow om de hoek komt kijken. De onderzoekers achter dit artikel, onder leiding van Dong Li en collega's, realiseerden zich dat in plaats van te proberen de perfecte kaart in één keer te vinden, je deze in lagen moet opbouwen, zoals een bouwploeg. Ze stellen een tweetrapsdans voor: eerst de ruwe schets van het plan maken (de "topologie"), en dan, alleen indien nodig, inzoomen om de specifieke details van elke stap te perfectioneren (de "executie").

Zo werkt hun tovertruc. Stel je voor dat je een enorme schoolvoorstelling organiseert. Het Topniveau is de regisseur. De regisseur maakt zich geen zorgen over hoe de kostuums worden genaaid of de decors worden geschilderd; hij beslist alleen over het grote plaatje: "Eerst bouwen we het podium. Dan bezetten we de rollen. Ten slotte repeteren we." Dit is de Topology Search. De regisseur tekent een eenvoudig stroomdiagram van deze grote stappen.

Maar wat als het plan van de regisseur een fout bevat? Missom het podium niet gebouwd kan worden voordat de acteurs de rollen hebben gekregen, omdat de acteurs hun tekst moeten kennen om mee te helpen bij het ontwerp van het podium. De regisseur weet dit misschien nog niet. Dit is waar het Lagere Niveau in beeld komt. Zie dit als een team van gespecialiseerde technici. Wanneer de regisseur zegt: "Bouw het podium," beginnen de technici niet zomaar blindelings te hameren. Ze voeren een snelle, slimme test uit (met een methode geïnspireerd op een spel genaamd Monte Carlo Tree Search, wat lijkt op het in je hoofd uitspelen van een paar mogelijke toekomsten om te zien welke wint). Ze proberen een paar verschillende manieren om het podium te bouwen. Als ze tegen een muur aanlopen of beseffen dat het plan onmogelijk is, sturen ze een signaal terug naar de regisseur: "Hé, deze volgorde werkt niet! Laten we de stappen omdraaien."

Het coolste deel van HierFlow is de Adaptive Gating. In het verleden probeerden robots elke enkele stap van het plan te verbeteren, zelfs als de stap al perfect was. Het is alsof een chef elke korrel zout in een soep proeft, zelfs als de soep al heerlijk is. HierFlow is slimmer. Het heeft een "poortwachter" die vraagt: "Is deze stap echt kapot of verwarrend?" Als het antwoord "Nee" is, blijft de poort gesloten en bespaart de robot zijn energie. Als het antwoord "Ja" is, gaat de poort open en zoomen de technici in om het te repareren. Dit bespaart een enorme hoeveelheid tijd en computerkracht.

Het artikel laat zien dat deze methode ongelooflijk goed werkt. Wanneer ze HierFlow testten op uitdagende opdrachten zoals het beantwoorden van lastige vragen, het oplossen van wiskundeproblemen en het schrijven van code, versloeg het bijna elke andere methode waarmee ze het vergeleken. Het leverde niet alleen betere antwoorden op, maar deed dat ook sneller en goedkoper. De onderzoekers ontdekten dat door de "regisseur" en de "technici" met elkaar te laten praten, de robot zijn eigen fouten onderweg kon corrigeren zonder dat daar extra training voor nodig was. Het is also kind een zelfcorrigerend kompas dat de robot recht naar de oplossing wijst, ongeacht hoe kronkelig het pad ook is.

Kortom, HierFlow suggereert dat we robots niet hoeven te dwingen om elke mogbare oplossing uit het hoofd te leren. In plaats daarvan kunnen we ze leren om een plan te schetsen, te controleren of het zin heeft, en pas diep in de details te duiken wanneer ze het daadwerkelijk nodig hebben. Het is een manier om AI slimmer, sneller en flexibeler te maken, waardoor een chaotische zoektocht naar het perfecte plan verandert in een soepel, georganiseerd bouwproject.

Technische Samenvatting: Gekoppelde Hiërarchische Zoektocht over Topologie en Executie voor de Synthese van Agentische Workflows

Probleemstelling

Het automatiseren van de creatie van gestructureerde workflows voor Large Language Models (LLMs) om complexe agentische taken op te lossen, wordt belemmerd door een enorme, combinatorische zoekruimte. Bestaande benaderingen kampen met een dichotomie:

Handmatig Ontwerp: Methoden zoals Self-Refine en LLM-Debate vertrouwen op handmatig ontworpen, statische workflows die een gebrek aan aanpassingsvermogen vertonen naarmate de taakcomplexiteit toeneemt.
Automatische Generatie: Huidige geautomatiseerde methoden (bijv. AFlow, ADAS) opereren doorgaans binnen een enkele "proxy-ruimte" (bijv. code of natuurlijke taalprogramma's) met behulp van offline zoektochten of op training gebaseerde ontwerpers. Deze benaderingen lijden onder hoge data-/engineeringkosten, een slechte generalisatie naar nieuwe distributies en inflexibiliteit door vaste trainingsdistributies.

De kernuitdaging is het uitvoeren van test-time scaling—het aanpassen van de workflowgeneratie aan specifieke queries zonder extra training—terwijl de computationele kosten van het doorzoeken van een complexe, discrete workflow-ruimte worden beheerd.

Methodologie: HierFlow

De auteurs stellen HierFlow voor, een training-vrij, hiërarchisch zoekraamwerk voor test-time dat workflowgeneratie behandelt als een gekoppelde zoektocht over topologie en executie. In plaats van een enkele proxy-ruimte te doorzoeken, opereert HierFlow over twee verweven lagen:

1. Dual-Space Zoekarchitectuur

Bovenliggend Niveau (Topologie-ruimte): Zoekt naar taakdecomposities. Het construeert een Directed Acyclic Graph (DAG) waarbij knopen subtaken vertegenwoordigen. De topologie definieert de grenzen en afhankelijkheden van subtaken, wat effectief de zoekruimte voor het lager gelegen niveau lokaliseert.
Onderliggend Niveau (Code Executie-ruimte): Voert een gerichte zoektocht uit binnen de specifieke code-domeinen van elke subtaak die door het bovenliggende niveau is gedefinieerd. Het maakt gebruik van een MCTS-geïnspireerde, lichtgewicht boomzoektocht om uitvoerbare code-implementaties te verkennen.
Koppelingsmechanisme: De zoektocht is bidirectioneel. De topologie induceert subtaak-specifieke code-zoekdomeinen, terwijl feedback van de executie op het lager gelegen niveau kan leiden tot topologie-verfijning (het terugdraaien, toevoegen/verwijderen van knopen, of reorganiseren van afhankelijkheden) op het bovenliggende niveau. Dit creëert een gesloten systeem waarbij het zoekobject een gekoppelde staat is van structuur en executie, in plaats van een vaste pijplijn.

2. Adaptief Gating-mechanisme

Om de balans te vinden tussen computationele kosten en kwaliteit, introduceert HierFlow een gating-module die de zoektochten op het lager gelegen niveau selectief activeert.

Zoeknoodzaak Proxy ( $Z_i$ ): Voor elke subtaak berekent het systeem een proxy gebaseerd op Zoekpotentieel (onverkende ruimte) en Onzekerheid (predictieve entropie van de evaluatie-ratio).
Beslissingslogica: De zoektocht op het lager gelegen niveau wordt alleen geactiveerd als $Z_i$ een drempelwaarde $\tau$ overschrijdt. Dit voorkomt verspillende berekeningen voor subtaken die ofwel goed gedefinieerd zijn, ofwel weinig baat zullen hebben bij verdere exploratie.
Theoretische Basis: Het artikel biedt een koppeling-bewuste analyse (Stelling 2.2 en 2.6), die aantoont dat de efficiëntie van deze hiërarchische benadering afhangt van de "observeerbare koppeling" tussen subtaken. De methode is het meest efficiënt wanneer afhankelijkheden schaars zijn en herstelpercentages laag zijn; de prestaties verslechteren naarmate de koppeling tussen subtaken toeneemt.

3. Algoritmische Componenten

Initialisatie: Een initiator genereert kandidaat-topologieën en selecteert de beste op basis van een gewogen score die dekking, structurele integriteit en doorzoekbaarheid omvat.
Verfijning: Als de executie op het lager gelegen niveau faalt of wijst op structurele ontoereikendheid (via een verfijningssignaal), stelt een topologie-refiner (LLM) herziene DAG's voor, waarbij voltooide knopen behouden blijven terwijl afhankelijkheden of subtaken worden gewijzigd.
Onderliggende Zoektocht: Gebruikt een soft mixed probability strategie voor selectie en een LLM-gebaseerde optimizer voor expansie, waarbij kandidaten worden geëvalueerd via gesandboxed executie en LLM-gebaseerde scoring.

Belangrijkste Bijdragen

Gekoppelde Zoektocht Formulering: Het artikel formuleert query-niveau workflowgeneratie als een gekoppelde zoektocht over topologie en executie, waarbij de topologie een dynamische zoekvariabele is die code-zoekdomeinen induceert, en executie-feedback de topologie tijdens de test-time herziet.
Adaptieve Gating: Introductie van een budget-bewust gating-mechanisme dat subtaak-niveau code-zoektochten selectief triggert op basis van een "zoeknoodzaak"-proxy, waardoor de afweging tussen kwaliteit en computationele kosten wordt geoptimaliseerd.
Koppeling-bewuste Analyse: Een theoretische karakterisering die uitlegt wanneer hiërarchische decompositie en gating voordelig zijn, specif{%} specifiek door de efficiëntiewinst te koppelen aan de dichtheid van observeerbare afhankelijkheden en de executie-getriggerde herstelpercentages.
Empirische Validatie: Uitgebreide evaluatie over diverse benchmarks (Vraagbeantwoording, Wiskundig Redeneren, Codegeneratie) die superieure prestaties aantonen zonder hertraining.

Experimentele Resultaten

De auteurs hebben HierFlow geëvalueerd tegenover 11 baselines (inclusclusief handmatige methoden zoals CoT en geautomatiseerde methoden zoals AFlow, MaAS en DyFlow) over vijf datasets: HotpotQA, GSM8K, MATH, HumanEval en MBPP.

Prestaties: HierFlow behaalde consistent de hoogste gemiddelde prestaties over alle datasets (bijv. 78,74% gemiddelde score versus 77,42% voor de op één na beste, MaAS). Het presteerde beter dan zowel handmatig ontworpen workflows als andere automatische generatiemethoden.
Generalisatie: In tegen tegenstelling tot methoden die vertrouwen op offline training of dataset-specifieke optimalisatie (bijv. MaAS, DyFlow), demonstreerde HierFlow een robuuste "plug-and-play" generalisatie naar nieuwe datadistributies zonder prestatieverlies.
Efficiëntie-Kwaliteit Afweging: Door de gating-drempel $\tau$ te variëren, lieten de auteurs een vloeiende Pareto-front zien. Een gematigde drempel ( $\tau=4$ ) bood een sterke balans, waarbij een hoge nauwkeurigheid werd bereikt terwijl de API-kosten en de wandkloktijd aanzienlijk werden verminderd vergeleken met een agressieve, niet-gegate zoektocht.
Ablatieonderzoeken: Het verwijderen van de topologie-ruimte (flat search) of de bovenliggende verfijning degradeerde de prestaties aanzienlijk of verhoogde de kosten, wat de noodzaak van de dual-space koppeling valideert. Het verwijderen van het gating-mechanisme verhoogde de kosten zonder evenredige winst in nauwkeurigheid, wat de efficiëntie van de adaptieve trigger bevestigt.

Betekenis en Claims

Het artikel claimt dat HierFlow de beperkingen van huidige agentische workflow-synthese aanpakt door:

Trainingsoverhead te Elimineren: Het opereert volledig tijdens de test-time, waardoor de data- en engineeringkosten die gepaard gaan met het trainen van workflow-ontwerpers worden vermeden.
Statische Beperkingen te Overkomen: Door executie-feedback toe te staan de topologie te hervormen, overwint het de rigiditeit van vaste, handmatig ontworpen of offline geoptimaliseerde workflows.
Zoekefficiëntie te Optimaliseren: De gekoppelde zoektocht en de gating-mechanismen stellen het systeem in staat om de combinatorische explosie van de workflow-ruimte effectiever te navigeren dan single-proxy benaderingen, wat een schaalbare oplossing biedt voor complexe agentische taken.

De auteurs positioneren HierFlow niet als een universele asymptotische versnelling, maar als een methode die bijzonder effectief is in regimes waar taakdecompositie de zoektocht kan lokaliseren en waar de koppeling tussen subtaken beheersbaar is, wat een robuust, training-vrij alternatief biedt voor hoogwaardige agentische workflowgeneratie.