💬 NLP

FlowBot: Inducing LLM Workflows with Bilevel Optimization and Textual Gradients

Dit artikel introduceert FlowBot, een datagedreven raamwerk dat automatisch LLM-workflows induceert en optimaliseert door het proces te formuleren als een bilevel-optimalisatieprobleem dat wordt opgelost via modulaire tekstuele gradiënten, waarmee prestaties worden bereikt die concurreren met door mensen ontworpen baselines.

Oorspronkelijke auteurs: Hongyeon Yu, Young-Bum Kim, Yoon Kim

Gepubliceerd 2026-04-30

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Hongyeon Yu, Young-Bum Kim, Yoon Kim

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een team gespecialiseerde robots probeert te leren een zeer moeilijk raadsel op te lossen. In het verleden moesten mensen neerzitten en handmatig een strikt instructiehandboek voor elke afzonderlijke robot schrijven, waarbij ze precies bepaalden in welke volgorde ze moesten werken en welke specifieke woorden ze tegen elkaar moesten zeggen. Dit is traag, duur en moeilijk schaalbaar.

Het artikel introduceert FLOWBOT, een nieuwe methode die robots in staat stelt zichzelf te leren hoe ze zich moeten organiseren en met elkaar moeten communiceren, zonder dat een mens eerst een handboek hoeft te schrijven.

Hier is hoe het werkt, met behulp van een eenvoudige analogie:

Het Twee-Niveau Coachsysteem

Zie FLOWBOT als een coachesysteem met twee niveaus: een Hoofdcoach en een Positiecoach.

1. De Hoofdcoach (De Buitenste Lus): "Het Wedstrijdplan Aanpassen"
De Hoofdcoach kijkt naar het grote geheel. Hij maakt zich geen zorgen over de specifieke woorden die een speler zegt; hij maakt zich zorgen over de structuur van het spel.

Het Probleem: Misschien probeert het team een wiskundig probleem op te lossen door eerst een tekening te maken, wat de verkeerde volgorde is. Of misschien missen ze een stap helemaal, zoals "het scorebord controleren".
De Oplossing: De Hoofdcoach kijkt waar het team is gefaald en zegt: "Oké, we moeten een stap toevoegen om het scorebord te controleren voordat we proberen een tekening te maken," of "Laten we de tekenstap helemaal verwijderen."
In het Artikel: Dit is de Buitenste Lus. Het optimaliseert de "workflow-schets". Het bepaalt hoeveel stappen er zijn, in welke volgorde ze plaatsvinden en of er hulpmiddelen (zoals zoekmachines) moeten worden toegevoegd of verwijderd.

2. De Positiecoach (De Binnenste Lus): "Het Spelplan Verfijnen"
Zodra de Hoofdcoach het wedstrijdplan heeft vastgesteld, werkt de Positiecoach met individuele spelers (de specifieke LLM-aanroepen) om hun specifieke instructies te perfectioneren.

Het Probleem: De speler weet wat hij moet doen (bijvoorbeeld "feiten zoeken"), maar hij doet het slecht. Misschien hallucineert hij (dingen verzinnen) of mist hij een belangrijk detail.
De Oplossing: In plaats van gewoon te zeggen "doe het beter", gebruikt de Positiecoach een speciale truc genaamd Tekstuele Gradienten.
- Stel je voor dat het eindantwoord verkeerd is. De Positiecoach vraagt een AI-rechter: "Waarom is dit gebeurd?"
- De rechter geeft een tekstcommentaar: "Je hebt een fout gemaakt omdat je je bron niet hebt gecontroleerd."
- Dit commentaar wordt achterwaarts doorgegeven aan de vorige speler, die zegt: "Oh, ik moet ervoor zorgen dat mijn bron duidelijk is voor de volgende persoon."
- Dit gaat door tot helemaal terug bij de eerste speler.
In het Artikel: Dit is de Binnenste Lus. Het gebruikt "Tekstuele Backpropagatie". Net zoals een neurale netwerk wiskunde gebruikt om getallen aan te passen, gebruikt FLOWBOT natuurlijke taalfeedback om de tekstprompts van elke stap aan te passen.

De "Tekstuele Gradient"-Magie

In de traditionele informatica, als een berekening verkeerd is, gebruikt de computer wiskunde om precies uit te rekenen hoeveel de getallen moeten worden bijgesteld om het te herstellen. Dit heet "backpropagatie".

LLM's (Large Language Models) begrijpen wiskunde niet op dezelfde manier; ze begrijpen taal. Daarom heeft FLOWBOT Tekstuele Gradienten uitgevonden.

In plaats van een getal zoals +0,5, krijgt het systeem een zin zoals: "Je antwoord was verkeerd omdat je X aannam, maar het bewijs toont Y. Controleer je bronnen de volgende keer."
Het systeem geeft deze zin achterwaarts door via de keten van robots. Elke robot leest de feedback, begrijpt wat er misging in de stappen na hen, en herschrijft hun eigen instructies om die fout in de toekomst te voorkomen.

Wat Hebben Ze Gevonden?

De onderzoekers hebben FLOWBOT getest op veel verschillende taken, zoals het beantwoorden van complexe trivia-vragen, het schrijven van code en het volgen van strikte instructies.

Het werkt vanaf nul: In tegenstelling tot andere methoden die een mens nodig hebben om een goed startplan te geven, kan FLOWBOT beginnen met een blanco blad en zelf de beste workflow uitwerken.
Het verslaat de concurrentie: Het presteerde even goed als (of beter dan) systemen waarbij mensen veel tijd hebben besteed aan het handmatig maken van de perfecte workflow.
Het bespaart geld: Omdat het zo efficiënt leert, vereist het minder "API-aanroepen" (die geld kosten) om de juiste oplossing te vinden in vergelijking met andere geautomatiseerde methoden.

De Conclusie

FLOWBOT is als een zelfverbeterende assemblagelijn. Het past niet alleen de instructies op de machines aan; het herschikt ook de machines zelf. Door natuurlijke taalfeedback te gebruiken om fouten te "backpropageren", ontdekt het automatisch de beste manier om een team van AI-modellen te organiseren om complexe problemen op te lossen, waardoor de behoefte aan mensen als architecten van elke enkele workflow wordt verwijderd.

1. Probleemstelling

Grote Taalmodellen (LLM's) worden steeds vaker gebruikt in "samengestelde AI-systemen"—gestructureerde workflows die meerdere LLM-aanroepen, tools en tussenliggende redeneerstappen omvatten om complexe taken op te lossen. Echter, huidige benaderingen voor het bouwen van deze workflows staan voor twee grote knelpunten:

Menselijke Afhankelijkheid: De meeste workflows worden door mensen met de hand ontworpen, wat niet schaalbaar is over diverse taken en domeinen.
Beperkingen van Bestaande Automatisering: Recente geautomatiseerde benaderingen (zoals AFlow, ADAS) optimaliseren vaak prompts binnen een vaste workflow-structuur of zoeken naar workflow-structuren met behulp van code-gebaseerde representaties zonder fijnmazige, laag-voor-laag optimalisatie. Ze missen een mechanisme om zowel de hoog-niveau workflow-architectuur als de specifieke instructies (prompts) voor elke component gelijktijdig te optimaliseren.

De kernvraag van het onderzoek is: Hoe kunnen we zowel de structuur als de individuele componenten van een LLM-workflow op een datagedreven manier automatisch induceren en optimaliseren?

2. Methodologie: FLOWBOT

De auteurs stellen FLOWBOT voor, een raamwerk dat workflow-inductie formuleert als een bilevel optimalisatieprobleem opgelost met behulp van tekstuele gradiënten.

A. Probleemformulering

Een LLM-workflow $W$ wordt gedefinieerd als een keten van $K$ LLM-aanroepen: $W = [a_1, \dots, a_K]$ .

Buitenste Lus (Structuur): Optimaliseert de hoog-niveau schets $W$ (de volgorde, het type en de samenstelling van de aanroepen).
Binnenste Lus (Parameters): Optimaliseert de gedetailleerde prompt $\theta_i$ voor elke specifieke aanroep $a_i$ .
Doel: Minimaliseren van de verwachte verliesfunctie $L(f_W(x), y)$ over een dataset $D$ .

B. Tekstuele Gradiënten

Omdat LLM-parameters discrete tekststrings zijn, is traditionele backpropagation onmogelijk. FLOWBOT maakt gebruik van tekstuele gradiënten, waarbij een LLM natuurlijke taalfeedback genereert die beschrijft hoe een invoer of prompt moet worden aangepast om het verlies te verminderen.

C. Het Optimalisatieproces

Het raamwerk werkt in twee geneste lussen:

1. Binnenste Lus: Laag-voor-laag Tekstuele Backpropagation
Gegeven een vaste workflow-structuur $W$ , optimaliseert het systeem de prompts $\{\theta_i\}$ :

Forward Pass: De workflow verwerkt invoer $x$ om uitvoer $x_K$ te produceren.
Verliesgradiënt ( $g_K$ ): Een LLM analyseert de uiteindelijke uitvoer, de grondwahrheid (ground truth) en het verlies om een tekstuele gradiënt $g_K$ te genereren (feedback over wat er misging).
Ketenvolgorde Propagatie: Gradiënten worden laag-voor-laag achterwaarts gepropageerd. Voor laag $k$ neemt een LLM de huidige invoer $x_k$ , de uitvoer van de volgende laag $x_{k+1}$ , en de downstream-gradiënt $g_{k+1}$ om $g_k$ te berekenen. Dit beantwoordt de vraag: "Hoe moet de uitvoer van stap $k$ veranderen om stap $k+1$ beter te laten presteren?"
Prompt Update: Een optimizer-LLM aggregatie gradiënten van een batch monsters en updatet de prompt $\theta_i$ om de geïdentificeerde fouten aan te pakken terwijl succesvolle patronen behouden blijven.

2. Buitenste Lus: Workflow Schets Optimalisatie
Zodra de binnenste lus convergeert (of periodiek), optimaliseert het systeem de structuur $W$ zelf:

De huidige workflow-schets, uitvoersporen en geaggregeerd verlies worden aan een LLM gevoerd.
De LLM genereert een workflow-gradiënt ( $g_W$ ) die structurele wijzigingen suggereert: stappen toevoegen (bijv. "entiteitsdisambiguatie toevoegen"), overbodige stappen verwijderen, stappen samenvoegen, of de volgorde wijzigen.
De workflow-schets wordt bijgewerkt op basis van deze suggesties.

D. Initialisatie

Het proces begint met een "zero-shot" workflow (een enkele LLM-aanroep). De buitenste lus wordt onmiddellijk geactiveerd om een initiële multi-stap schets te genereren, gevolgd door het genereren van initiële prompts voor elke stap.

3. Belangrijkste Bijdragen

Bilevel Optimalisatie voor Workflows: Het eerste raamwerk dat de topologie (structuur) en parameters (prompts) van LLM-workflows gezamenlijk optimaliseert met behulp van een bilevel-benadering, geïnspireerd door Neural Architecture Search (NAS).
Tekstuele Backpropagation: Breidt het concept van tekstuele gradiënten (voorheen gebruikt voor enkele prompts) uit naar diepe, multi-laag workflows, waardoor modulaire, laag-voor-laag fouttoeschrijving en correctie mogelijk wordt.
Datagedreven Inductie: Demonstreert dat complexe, multi-stap workflows (inclusief tool-gebruik) vanaf nul kunnen worden ontdekt zonder menselijke priors over de structuur.

4. Experimentele Resultaten

De auteurs hebben FLOWBOT geëvalueerd op 10 diverse benchmarks (QA, redenering, code-generatie, privacy, enz.) tegen sterke baselines.

vs. Prompt Optimalisatie (Vaste Structuur): FLOWBOT presteerde beter dan GEPA (een state-of-the-art prompt-optimizer) op taken met veel zoekopdrachten zoals HotpotQA (72,80 vs 69,00) en HoVer (63,20 vs 51,67), wat bewijst dat het optimaliseren van de structuur cruciaal is voor complexe taken.
vs. Geautomatiseerde Workflow Generatie: FLOWBOT presteerde beter dan AFlow (dat Monte Carlo Tree Search gebruikt op code-graafjes) op 4 van de 6 benchmarks (bijv. HumanEval: 93,74 vs 94,70; GSM8K: 96,01 vs 86,16).
Efficiëntie: FLOWBOT vereiste aanzienlijk minder API-aanroepen en lagere kosten dan AFlow om de piekprestaties te bereiken (bijv. 54,7K aanroepen vs 338K aanroepen voor HotpotQA).
Kwalitatieve Analyse: De geïnduceerde workflows bleken logisch en weerspiegelden vaak door mensen ontworpen patronen (bijv. het scheiden van zoekopdrachten, entiteitsdisambiguatie en verificatie).
Ablatiestudies:
- Het verwijderen van de bilevel-structuur (het behandelen ervan als een enkele laag) veroorzaakte significante prestatiedalingen.
- Het verwijderen van laag-voor-laag backpropagation (het tegelijkertijd updaten van alle prompts) degradeerde ook de prestaties, wat het belang van modulaire, ketenvolgorde-gebaseerde feedback benadrukt.

5. Betekenis en Impact

Paradigmaverschuiving: Verplaatst het ontwerp van LLM-systemen van "met de hand ontworpen pijplijnen" naar "automatisch geïnduceerde systemen", waardoor de engineeringlast voor het implementeren van complexe AI-agenten wordt verminderd.
Generaliseerbaarheid: De aanpak is model-onafhankelijk en werkt met verschillende open-weight en propriëtaire LLM's.
Interpreteerbaarheid: De tekstuele gradiënten bieden een voor mensen leesbaar audittrail van waarom een workflow faalde en hoe deze werd verbeterd, waardoor inzicht wordt gegeven in het redeneerproces van het systeem.
Toekomstige Richting: Het paper demonstreert een proof-of-concept voor het induceren van een geünificeerde workflow die meerdere taaktypen kan afhandelen (routeren van wiskunde vs. code vs. leesbegrip) binnen één dynamische structuur, wat de weg effent voor algemeen doelstellende autonome agenten.

Kortom, FLOWBOT overbrugt de kloof tussen neurale architectuurzoek en LLM-prompting, en biedt een robuuste, datagedreven methode om geavanceerde AI-workflows automatisch te construeren en te verfijnen.