RouteGoT: Node-Adaptive Routing for Cost-Efficient Graph of Thoughts Reasoning

RouteGoT is een nieuw, budgetbeheersbaar framework dat de efficiëntie van redenering met een Graf van Gedachten (GoT) verbetert door dynamisch zware modellen toe te wijzen aan complexe planningstaken en lichtere modellen aan eenvoudigere subtaken, waardoor de tokenkosten aanzienlijk worden verlaagd zonder in te leveren op de nauwkeurigheid.

Yuhang Liu, Ruijie Wang, Yunlong Chu, Bing Hao, Yumeng Lin, Shengzhong Liu, Minglai Shao

Gepubliceerd 2026-03-09
📖 4 min leestijd☕ Koffiepauze-leesvoer

Each language version is independently generated for its own context, not a direct translation.

Stel je voor dat je een grote, ingewikkelde puzzel moet oplossen. Je hebt een team van experts bij de hand: er is een superintelligente, dure professor (een groot AI-model) die alles kan, maar die kost veel geld en tijd om te raadplegen. Dan heb je ook slimme stagiairs (kleinere, goedkopere modellen) die heel goed zijn in simpele taken, zoals het sorteren van blokken of het zoeken van een specifiek woord.

Vroeger deden de slimste AI-systemen (zoals Graph of Thoughts of GoT) het zo: ze gaven elke stap van de puzzel, van het allereerste idee tot het laatste antwoord, aan die dure professor. Zelfs als het alleen maar ging om het controleren van een simpele datum of het uitsluiten van een duidelijk fout antwoord. Dat was als een dure chef-kok die zelf de aardappels schilt, de sla wast en de borden wast. Het resultaat was misschien goed, maar het was enorm duur en langzaam.

RouteGoT is de nieuwe, slimme manager die dit probleem oplost.

Hoe werkt RouteGoT? (De Analogie van de Slimme Chef)

RouteGoT is een systeem dat tijdens het oplossen van een probleem dynamisch beslist wie er aan het werk moet. Het werkt als een zeer efficiënte chef-kok in een restaurant:

  1. De Grote Plannen (Planning & Synthese):
    Als het gaat om het maken van het menu of het samenvoegen van alle gerechten tot een perfect diner, schakelt RouteGoT de dure professor in. Dit zijn de moeilijke momenten waar creativiteit en diep inzicht nodig zijn.

  2. De Simpele Taken (Leaf Subtasks):
    Als het gaat om simpele taken, zoals "is dit ingrediënt vers?" of "wat is de naam van deze groente?", stuurt RouteGoT het werk direct naar de slimme stagiair. Deze kunnen het net zo goed doen, maar kosten een fractie van de tijd en het geld.

  3. Het Budget (De Portemonnee):
    RouteGoT heeft altijd een strak budget in de gaten. Stel, je hebt maar €100 om een diner te maken. RouteGoT zorgt ervoor dat je niet te veel uitgeeft aan simpele taken, zodat er genoeg geld overblijft voor de moeilijke onderdelen. Als het budget bijna op is, weet het systeem precies wanneer het moet stoppen met uitbreiden en moet focussen op het eindantwoord.

Waarom is dit zo'n groot verschil?

In de oude systemen (zoals AGoT) werd vaak "blind" uitgegeven. Ze probeerden elke mogelijke route in de puzzel uit met de duurste experts, wat leidde tot:

  • Te hoge kosten: Je betaalt voor dingen die je niet nodig had.
  • Onzekerheid: Je wist nooit precies hoeveel het zou kosten voordat het klaar was.
  • Verkeerde resultaten: Soms was het systeem zo druk met het betalen van dure experts voor simpele dingen, dat er geen geld meer over was voor de echte moeilijke vragen.

RouteGoT doet het anders:

  • Het kijkt naar de moeilijkheid: Voordat een taak wordt uitgevoerd, vraagt het systeem: "Is dit moeilijk?" Als het antwoord "nee" is, gaat het naar de goedkope stagiair.
  • Het houdt rekening met de portemonnee: Het zorgt dat je niet faalt omdat je te veel geld hebt uitgegeven aan de verkeerde plekken.
  • Het is sneller: Omdat het minder dure calls doet, is het resultaat er veel sneller.

Het Resultaat in het Dagelijkse Leven

Stel je voor dat je een reis wilt plannen.

  • De oude manier: Je belt een dure reisbureauexpert voor alles: van het kiezen van het vliegtuig tot het controleren of de koffers wel op het juiste formaat zijn. Het kost je een fortuin en duurt dagen.
  • De RouteGoT-methode: Je belt de expert alleen voor het kiezen van de beste bestemming en het routeplan. Voor het controleren van de kofferformaat of het boeken van een simpele treinreis, gebruik je een goedkope app of een assistent.

Conclusie:
RouteGoT maakt het gebruik van slimme AI betaalbaar en betrouwbaar. Het zorgt ervoor dat je niet meer betaalt voor "overkill" bij simpele vragen, maar wel de beste resultaten krijgt bij de moeilijke vragen. Het is als het hebben van een slimme manager die precies weet wie er wat moet doen, zodat je nooit meer geld verbrandt aan onnodige taken.

In de testresultaten van het onderzoek bleek dat RouteGoT niet alleen goedkoper was (tot wel 79% minder kosten), maar ook beter presteerde dan de oude systemen. Het is de manier om AI slim en efficiënt te maken voor de echte wereld.