Technische Samenvatting: Naar Betrouwbare Ontwerp van LLM-Geactiveerde Agentische Werkstromen

1. Probleemstelling

Moderne AI-systemen vertrouwen steeds vaker op agentische werkstromen, waarbij meerdere interacterende agenten (sommige aangedreven door Large Language Models [LLM's] en anderen door conventionele rekenmodules) samenwerken om complexe taken op te lossen. Naarmate deze werkstromen schalen, wordt hun implementatie resource-intensief, wat een fundamentele uitdaging creëert: hoe deze systemen efficiënt en betrouwbaar te configureren.

Huidige ontwerppraktijken vertrouwen vaak op heuristieken of kostbare trial-and-error. Er ontbreekt een wiskundig raamwerk om de trade-offs tussen drie kritieke prestatie-indicatoren te analyseren en te optimaliseren:

1. Latentie: De tijd die de werkstroom nodig heeft om te voltooien.
2. Betrouwbaarheid: De waarschijnlijkheid dat de werkstroom een aanvaardbare output produceert.
3. Kosten: De rekenkundige en voor de gebruiker zichtbare kosten die worden gemaakt.

Dit artikel adresseert de behoefte aan principiële methoden om resource-allokatie te optimaliseren in LLM-geactiveerde agentische werkstromen, met name gericht op sequentiële werkstromen onder latentie- en kostenbeperkingen.

2. Methodologie

2.1 Prestatiemodeling

De auteurs introduceren parametrische prestatiemodellen voor zowel LLM- als niet-LLM-agenten om de relatie tussen rekenkundige inspanning en outputkwaliteit vast te leggen.

• LLM-Agenten: De uitvoering wordt gemodelleerd in twee fasen:

  • Redenering: Interne berekening om een oplossing te construeren, gemeten aan de hand van redeningstokens ($X_j$).
  • Generatie: Het produceren van de uiteindelijke respons, gemeten aan de hand van outputtokens ($L_j$).
  • Latentie: Gemodelleerd als een stochastische variabele met een gemiddelde $\bar{T}_j = \bar{\tau}_j + (X_j/\lambda_{th}) + (L_j/\lambda_{gen})$, waarbij $\bar{\tau}_j$ de infrastructuurvertraging is en de $\lambda$-termen verwerkingssnelheden vertegenwoordigen.
  • Betrouwbaarheid: Gedefinieerd als de waarschijnlijkheid van een aanvaardbare output, gemodelleerd met een parametrische exponentiële functie:
    $$\rho_j(X_j, L_j) = (1 - e^{-\alpha_j X_j})(1 - e^{-\beta_j L_j})$$
    Deze functie vangt afnemende marginale opbrengsten voor zowel redeneringsinspanning als outputlengte.
  • Kosten: Onderscheid tussen gebruikerskosten (evenredig met outputtokens $L_j$) en systeemrekenkosten (evenredig met totale tokens $X_j + L_j$).

• Niet-LLM-Agenten: Gemodelleerd met behulp van wachtrijtheoretische abstracties waarbij de latentie de inverse is van de service-snelheid ($1/\lambda_i$) en de betrouwbaarheid een vaste waarschijnlijkheid $\rho_i$ is.

2.2 Werkstroomaggregatie

Het artikel analyseert hoe individuele agentmetrieken aggregeren op basis van de werkstroomstructuur:

• Sequentieel: Latenties sommeren; betrouwbaarheid is het product van individuele betrouwbaarheden.
• Parallel: Latentie wordt bepaald door het kritieke pad (max); betrouwbaarheid hangt af van aggregatielogica (conjunctief versus redundant).
• Feedback: Latentie schaalt met iteraties; betrouwbaarheid schaalt exponentieel met het aantal iteraties.

De studie focust primair op sequentiële werkstromen, waarbij wordt opgemerkt dat complexe architecturen kunnen worden beschouwd als sequentiële composities van samengestelde modules.

2.3 Optimalisatieformulering

Het ontwerpprobleem wordt geformuleerd als het maximaliseren van de werkstroombetrouwbaarheid onderworpen aan:

1. Een latentiebudget ($T$).
2. Een gebruikerskostenbudget ($C$).

Aannemende dat redeningstoewijzingen ($X_j$) vaste interne parameters zijn, reduceert het probleem zich tot het optimaliseren van de responslengten ($L_j$) voor LLM-agenten. Het doel is het maximaliseren van het product van betrouwbaarheden, wat wordt getransformeerd tot het maximaliseren van de som van log-betrouwbaarheden om convexe optimalisatie te faciliteren.

3. Belangrijkste Bijdragen en Resultaten

3.1 Water-Filling Token-toewijzingsbeleid

Het primaire theoretische resultaat is de afleiding van een gesloten-vorm optimale toewijzingsbeleid voor outputtokens, genaamd het Water-Filling Token-toewijzingsbeleid.

• Effectief Budget: De beperkingen worden geconsolideerd tot één effectief tokenbudget $B = \min \{ \lambda_{gen} B_T, C/c_{tok} \}$.
• Optimale Oplossing: De optimale responslengte $L_j^*$ voor elke agent wordt gegeven door:
  $$L_j^* = \left[ \frac{1}{\beta_j} \log \left( 1 + \frac{\beta_j}{\theta} \right) \right]_+$$
  waarbij $\theta \ge 0$ een Lagrange-multiplicator (schaduwprijs) is die zo wordt gekozen dat de totale toegewezen tokens gelijk zijn aan het budget $B$.
• Interpretatie: Dit beleid egaliseert de marginale winst in log-betrouwbaarheid per token over alle actieve agenten. Agenten met lagere sensitiviteitsparameters ($\beta_j$), die meer tokens vereisen om hoge betrouwbaarheid te bereiken, krijgen een groter aandeel van het budget.

3.2 Karakterisering van Optimale Betrouwbaarheid

Het artikel biedt een gesloten-vorm karakterisering van de optimale werkstroombetrouwbaarheid ($R^*_{wf}$) in termen van de schaduwprijs $\theta$:
$$R^*_{wf} = \prod_{j \in ALLM} (1 - e^{-\alpha_j X_j}) \frac{\beta_j}{\beta_j + \theta}$$
Dit resultaat koppelt de maximaal haalbare betrouwbaarheid van het systeem direct aan de schaarste van het tokenbudget.

3.3 Numerieke Validatie

Numerieke experimenten op een sequentiële werkstroom met 5 heterogene agenten tonen aan dat het water-filling beleid consequent beter presteert dan basistrategieën (uniforme, evenredige en omgekeerd-evenredige toewijzing). De resultaten bevestigen dat het optimale beleid dynamisch meer tokens toewijst aan agenten die "moeilijker" te bevredigen zijn (lagere $\beta_j$) om de algehele systeembetrouwbaarheid te maximaliseren.

4. Betekenis en Aanspraken

Het artikel claimt een principieel wiskundig raamwerk te bieden voor het configureren van op LLM gebaseerde systemen, weg van heuristisch ontwerp. De betekenis ligt in:

• Kwantificering van Trade-offs: Het expliciet modelleren van de interactie tussen rekenkundige inspanning (tokens), latentie, kosten en betrouwbaarheid.
• Optimale Resource-allokatie: Het afleiden van een gesloten-vorm oplossing die optimale betrouwbaarheid garandeert onder resource-beperkingen.
• Economische Interpretatie: Het formuleren van het optimalisatieprobleem door de lens van schaduwprijzen, wat ontwerpers een duidelijke maatstaf biedt voor de marginale waarde van extra tokens.

De auteurs merken op dat toekomstig werk dit raamwerk zal uitbreiden naar de gezamenlijke optimalisatie van redenerings- en responslengten, evenals adaptieve toewijzingsbeleid die budgetten dynamisch aanpassen op basis van tussentijdse resultaten. De huidige studie blijft bescheiden, met een strikte focus op sequentiële werkstromen met vaste redeningstoewijzingen.