🤖 AI

PANDO: Efficient Multimodal AI Agents via Online Skill Distillation

PANDO stellt ein effizientes Online-Framework zur Fähigkeiten-Distillation vor, das multimodale Web-Agenten ermöglicht, ihre Leistung zu verbessern und den Token-Verbrauch zu senken, indem es eine strukturierte Fähigkeitenbibliothek pflegt und Techniken wie Fortschrittsreflexion und cache-bewusste Prompting-Strategien einsetzt, wodurch auf VisualWebArena eine Erfolgsrate von 58,3 % bei deutlich geringeren Inferenzkosten im Vergleich zu bestehenden Methoden erreicht wird.

Ursprüngliche Autoren: Yubo Li, Yidi Miao, Haotian Shen, Yuxin Liu

Veröffentlicht 2026-05-26

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Yubo Li, Yidi Miao, Haotian Shen, Yuxin Liu

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das große Problem: Die „Pay-Per-Click"-Falle

Stellen Sie sich vor, Sie stellen einen sehr klugen, aber teuren Assistenten ein, der Ihnen beim Online-Shopping hilft. Jedes Mal, wenn dieser eine Webseite betrachtet, überlegt, was zu tun ist, oder auf einen Button klickt, müssen Sie eine winzige Gebühr (ein sogenanntes „Token") bezahlen.

Derzeit versuchen die meisten KI-Agenten, ihre Arbeit besser zu machen, indem sie mehr Geld ausgeben. Wenn sie scheitern, versuchen sie es erneut. Wenn sie feststecken, holen sie eine zweite Meinung ein. Sie führen dieselbe Aufgabe zehn Mal aus und wählen das beste Ergebnis aus. Das funktioniert, ist aber so, als würde man für eine Taxifahrt zum Supermarkt bezahlen, dann für eine zweite Taxifahrt zurück, um zu prüfen, ob man die Brieftasche vergessen hat, und dann für eine dritte Taxifahrt, um den Preis noch einmal zu überprüfen. Die Aufgabe wird erledigt, aber es ist unglaublich teuer und langsam.

Die Autoren dieses Papiers fragten: Können wir einen Agenten bauen, der mit zunehmender Arbeit günstiger und schneller wird, anstatt jedes Mal einfach nur mehr Geld auszugeben?

Die Lösung: PANDO (Der „Riesen-Aspen"-Agent)

Die Forscher entwickelten einen Agenten namens PANDO. Er ist nach dem „Pando"-Aspenhain in Utah benannt.

Die Metapher: Pando sieht aus wie 47.000 einzelne Bäume, aber sie sind tatsächlich alle durch ein einziges Wurzelsystem unter der Erde verbunden. Wenn ein Baum wächst, teilt er Nährstoffe mit den anderen. Wenn ein Baum stirbt, erinnert sich das Wurzelsystem daran und hält den gesamten Wald am Leben.
Die KI-Version: PANDO ist ein KI-Agent mit einer gemeinsamen „Gedächtniswurzel" (einer Fähigkeitsbibliothek). Anstatt jede neue Aufgabe als brandneues Problem zu behandeln, erinnert er sich daran, was er aus früheren Aufgaben gelernt hat, und nutzt diese Lehren, um neue zu lösen.

Wie PANDO funktioniert (Die 4-Schritte-Schleife)

PANDO rät und prüft nicht einfach nur. Es folgt einem Zyklus: Planen → Handeln → Reflektieren → Lernen.

Planen: Das „Gehirn" (eine intelligente, teure KI) zerlegt eine große Aufgabe (wie „finde die günstigste Gitarre unter 500 $") in kleine Schritte.
Handeln: Die „Hände" (eine günstigere, schnellere KI) klicken tatsächlich auf die Buttons.
Reflektieren: Ein „Manager" prüft, ob die Schritte funktioniert haben. Hat der Preisfilter die Liste tatsächlich geändert? Wenn nicht, warum?
Lernen (Der magische Teil): Hier wird PANDO schlauer.
- Fähigkeitsbibliothek: Wenn der Agent erfolgreich eine günstige Gitarre findet, schreibt er das Rezept auf: „Um günstige Artikel zu finden, klicke auf 'Nach Preis sortieren' und dann 'Aufsteigend'." Er speichert dies als Regel oder als Routine.
- Wiederverwendung von Fähigkeiten: Das nächste Mal, wenn der Agent das „teuerste" Item finden muss, muss er nicht schwer nachdenken. Er schaut einfach in seine Bibliothek, sieht die Regel und schaltet auf „Absteigend" um.
- Degradierung (Die Aufräumaktion): Wenn eine Regel nicht mehr funktioniert (z. B. weil eine Webseite ihr Layout geändert hat), markiert der Agent sie als „kaputt" und nutzt sie nicht mehr. Dies verhindert, dass der Agent in Schleifen feststeckt und versucht, alte, defekte Anweisungen zu verwenden.

Warum es ein Gamechanger ist

Das Papier testete PANDO an 910 verschiedenen Web-Aufgaben (Einkaufen, Kleinanzeigen, Reddit). Hier ist, was passierte:

Erfolgsrate: PANDO hatte in 58,3 % der Fälle Erfolg. Das ist besser als die derzeit besten Agenten (die bei etwa 54 % lagen).
Kosten: Das ist der große Gewinn. PANDO verbrauchte 58 % weniger Tokens (Geld) als der nächstbeste Agent.
Der „Gratis-Mittagessen"-Effekt:
- Am Anfang: PANDO ist etwas langsam, weil es die Regeln lernt.
- Später: Während es seine Bibliothek mit Fähigkeiten aufbaut, wird es schneller und günstiger. Am Ende des Tests löste es Aufgaben mit weniger Schritten und weniger Geld als zu Beginn.
- Analogie: Stellen Sie sich einen Schüler vor, der einen Mathe-Test schreibt.
  - Alte Agenten: Jedes Mal, wenn sie ein neues Problem sehen, leiten sie die Formel von Grund auf neu her. Das dauert ewig.
  - PANDO: Das erste Mal, wenn sie ein Problem sehen, lösen sie es und schreiben die Formel auf einen Spickzettel. Die nächsten 99 Male schauen sie einfach auf den Spickzettel. Sie beenden den Test schneller und mit weniger Hirnschmalz.

Die „versteckten Kosten", die PANDO vermeidet

Das Papier weist darauf hin, dass andere Agenten ihre Kosten auf zwei Arten verschleiern:

Entdeckung vor der Bewertung: Manche Agenten verbringen Wochen damit, Werkzeuge zu „trainieren" oder zu „entdecken", bevor der Test überhaupt beginnt. PANDO lernt während des Tests, sodass keine versteckten Vorabkosten anfallen.
Skalierung durch Ausrollen: Manche Agenten versuchen die Aufgabe einfach 10 Mal und wählen den Gewinner. PANDO versucht es einmal, nutzt aber sein Gedächtnis, damit dieser eine Versuch zählt.

Das Fazit

PANDO beweist, dass man nicht mehr Geld in eine KI stecken muss, um sie besser zu machen. Indem man ihr ein strukturiertes Gedächtnis (eine Bibliothek von Fähigkeiten) und eine Möglichkeit gibt, schlechte Erinnerungen zu bereinigen (Degradierung), wird der Agent mit zunehmender Arbeit effizienter.

Es ist der Unterschied zwischen einem Arbeiter, der jeden Tag alles vergisst und ständig neu eingearbeitet werden muss, und einem Arbeiter, der ein Notizbuch mit „Wie man Dinge macht" führt und jeden einzelnen Tag schneller wird.

Wichtigste Erkenntnis: PANDO wird nicht nur schlauer; es wird mit zunehmender Erfahrung günstiger im Betrieb.

Technische Zusammenfassung: PANDO – Effiziente multimodale KI-Agenten durch Online-Fertigkeitsdistillation

Problemstellung

Die jüngsten Fortschritte bei multimodalen Web-Agenten stützen sich weitgehend auf eine „Token-Ökonomie", bei der eine verbesserte Leistung durch erhöhte Inferenzkosten erkauft wird. Dazu gehören Strategien wie die Ausweitung von Rollout-Suchen (z. B. Best-of-N), das Hinzufügen von Verifizierungsdurchläufen, die Durchführung einer Offline-Tool-Entdeckung oder das Stapeln spezialisierter Modelle. Obwohl dieser Ansatz bei Benchmark-Scores effektiv ist, erzeugt er eine lineare oder superlineare Beziehung zwischen Token-Aufwand und Erfolg, was zu hoher Latenz, hohem Energieverbrauch und versteckten Kosten im Zusammenhang mit der Vor-Evaluierungs-Entdeckung führt.

Die Autoren identifizieren drei spezifische mechanistische Ineffizienzen in aktuellen Agenten-Trajektorien auf dem VisualWebArena (VWA)-Benchmark:

Wiederholungs-Aktions-Schleifen: Agenten geraten häufig in Schleifen wiederholter Aktionen (34–42 % der mit Bildannotationen versehenen Fehler).
Versteckte Entdeckungkosten: Systeme wie WALT verursachen erhebliche Offline-Explorationskosten, die in den berichteten Metriken pro Aufgabe oft nicht enthalten sind.
Ineffizienz der Prompt-Architektur: Text-/Bildunterschriften-Methoden weisen eine geringe Prompt-Cache-Auslastung (<11 %) auf und nutzen stabile Präfixe nicht aus, während der Agent Erfahrung sammelt.

Die zentrale Frage lautet, ob ein Agent effizienter werden kann, je mehr Erfahrung er sammelt, anstatt für jede Aufgabe eine feste „Denksteuer" zu zahlen.

Methodik: Das PANDO-Framework

PANDO (benannt nach dem Pando-Eschenhain, einem einzigen Wurzelsystem, das viele Stämme trägt) ist ein Single-Rollout-Framework zur Online-Fertigkeitsdistillation. Es arbeitet in einer Planen → Handeln → Reflektieren → Lernen-Schleife, die darauf ausgelegt ist, während der Evaluierung eine strukturierte Fertigkeitsbibliothek aufzubauen, ohne dass ein Budget für die Vor-Evaluierungs-Entdeckung erforderlich ist.

Kernkomponenten

Strukturierte Fertigkeitsbibliothek ( $S_t$ ):
- Die Bibliothek ist eine disjunkte Vereinigung von Regeln (deterministische, mustergetriggerte Sicherheitsvorkehrungen) und Routinen (parametrisierte, ausführbare Programm-als-Aktion-Fertigkeiten).
- Abruf: Im Gegensatz zu embeddings-basiertem Abruf verwendet PANDO wörtliche Schlüsselwort-Enthaltung für deterministischen, überprüfbaren und cache-freundlichen Abruf.
- Lebenszyklus-Management: Die Bibliothek ist nicht statisch; sie wächst online. Erfolgreiche Sub-Trajektorien werden in Routinen induziert, während gescheiterte verfolgt werden.
Lernen und Distillation:
- Induktion: Nach einer erfolgreichen Trajektorie extrahiert ein Lernmodul Kandidaten-Fertigkeiten, wenn diese eine wiederverwendbare Teilziel-Vorlage und verifizierte Auswahlmuster besitzen.
- Polaritäts-Paar-Merging: Um ein Anschwellen der Bibliothek zu verhindern, werden Routinen, die sich nur durch die Richtung unterscheiden (z. B. „günstigste" vs. „teuerste"), zu einer einzigen parametrisierten Routine $f_{\pm}(x, d)$ zusammengeführt.
- Vertrauensbasierte Degradierung: Fertigkeiten behalten laufende Vertrauensschätzungen bei ( $c_s = \alpha_s / (\alpha_s + \beta_s)$ ). Wenn eine Fertigkeit wiederholt scheitert, wird sie auf eine Degradierungs-Schwarze Liste gesetzt, um zu verhindern, dass der Agent zerbrechliche Routinen erneut entdeckt und erneut scheitert.
Ausführungsökonomie:
- Hierarchisches Routing: Ein starkes Modell (Planer) wird spärlich für Dekomposition und Reflexion eingesetzt. Ein günstigeres Modell (Akteur) übernimmt die hochfrequente Verankerung.
- Visuelle Kompression: Reduziert die Token-Last des dominanten Akteur-Terms durch Komprimierung visueller Eingaben.
- Cache-bewusstes Prompting: Das Prompt-Layout ist so strukturiert, dass stabile Anweisungen und Fertigkeitszusammenfassungen vor volatilen Beobachtungen platziert werden, um die KV-Cache-Auslastung mit wachsender Bibliothek zu maximieren.
Kostenzerlegung:
Der Artikel formalisiert die Agentenkosten in vier additive Terme:
$C(\pi; B) = \frac{C_{pre}}{|B|} + N_{rollout} C_{exec} + C_{verify} + C_{induce}$
PANDO strebt $C_{pre}=0$ (keine Offline-Entdeckung), $N_{rollout}=1$ (Single Rollout) und ein kleines $C_{induce}$ an, das strikt innerhalb des Aufgabenstroms gezahlt wird, während $C_{exec}$ durch Fertigkeit-Wiederverwendung minimiert wird.

Hauptbeiträge

Token-Ökonomie-Rahmen: Die Autoren formalisieren eine Kostenidentität, die Vor-Evaluierungs-Entdeckung, Rollout-Skalierung, Verifizierung und Online-Induktion trennt, und argumentieren, dass aktuelle Benchmarks diese unterschiedlichen Kostenwährungen oft verschleiern.
Strukturiertes Fertigkeit-Lern-Framework: PANDO integriert musterindizierte Regeln, parametrisierte Routinen, Online-Distillation, Polaritäts-Paar-Merging, vertrauensbasierte Degradierung und cache-bewusstes Prompting in einen einzigen Agenten.
Intrinsische Effizienzmessgrößen: Neben der Erfolgsquote (SR) führt der Artikel die Wiederholungsrate von Aktionen (ARR), das Verhältnis der Schritt-Overheads (SOR) und die Prompt-Cache-Auslastung ein, um Ineffizienzen auf Trajektorienebene zu diagnostizieren.
State-of-the-Art-Ergebnisse: PANDO erreicht eine neue Pareto-Frontier auf VWA und liefert höhere Erfolgsquoten mit deutlich weniger Tokens als alle bewerteten Baselines.

Experimentelle Ergebnisse

Evaluiert auf allen 910 Aufgaben des VisualWebArena-Benchmarks:

Erfolgsquote (SR): PANDO erreicht 58,3 % und übertrifft SGV (54,0 %) sowie eine Reproduktion von WALT (45,2 %).
Token-Effizienz: PANDO verwendet durchschnittlich 115K Tokens pro Aufgabe. Das sind 58 % weniger als bei SGV (275K) und 61 % weniger als bei WALT (294K).
Intrinsische Metriken:
- ARR: 9,1 % (niedrigste unter automatisierten Methoden), was eine effektive Schleifenvermeidung anzeigt.
- SOR: 1,8× (niedrigste), zeigt, dass gescheiterte Aufgaben keine übermäßigen Schrittsstrafen verursachen.
- Cache-Auslastung: 72,4 % (höchste), belegt die Wirksamkeit stabiler Prompt-Präfixe.
Ablationsstudien (VWA-300):
- Fertigkeitskomponenten: Regeln, Routinen und Online-Distillation lieferten den Großteil der SR-Steigerung (von 38,6 % auf 57,3 %).
- Effizienzkomponenten: Hierarchisches Routing, visuelle Kompression und cache-bewusstes Prompting trugen minimal zur SR bei, waren jedoch für den Großteil der Token-Reduktion (von 147K auf 117K) und die erhöhte Cache-Auslastung verantwortlich.
Lern-Dynamik: Das System zeigt eine „Cold-Start"-Phase mit hohen Schrittzahlen (~30 Schritte/Aufgabe), die sich mit reifender Bibliothek auf ~8,5 Schritte/Aufgabe stabilisiert. Die Fertigkeitsbibliothek wuchs im Strom von 12 Start-Routinen auf 47 induzierte Routinen (32 nach Degradierung aktiv).

Bedeutung und Behauptungen

Der Artikel behauptet, dass PANDO zeigt, dass der Fortschritt bei Web-Agenten nicht ausschließlich durch erhöhte Rollouts, versteckte Entdeckungsbudgets oder pro-Schritt-Stapelung spezialisierter Modelle erkauft werden muss.

Wiederverwendbarkeit als Kapital: Die zentrale Erkenntnis ist, dass vergangener Token-Aufwand zu wiederverwendbarem Kapital werden sollte. Durch die Distillation von Erfahrung in eine strukturierte, überprüfbare Bibliothek senkt der Agent seine marginale Inferenzlast im Laufe der Zeit.
Transparenz: Im Gegensatz zu Black-Box-Vektorspeichern oder Offline-Entdeckungsphasen ist die Fertigkeitsbibliothek von PANDO überprüfbar, deterministisch und unter Prompt-Caching stabil.
Benchmark-Berichterstattung: Die Autoren argumentieren, dass Computer-Nutzung-Benchmarks die SR zusammen mit rohen Tokens, dem Anteil gecachter Tokens, versteckten Entdeckungsausgaben und Latenz berichten müssen, um ein vollständiges Bild der Agenteneffizienz zu liefern.

Der Artikel schließt, dass PANDO einen neuen Pareto-optimalen Punkt erreicht: höhere Genauigkeit bei geringeren marginalen Kosten, was darauf hindeutet, dass „Effizienz nicht dadurch erreicht wird, weniger zu tun, sondern dadurch, dass sichergestellt wird, dass das, was getan wird, einen Ort hat, an den es gehen kann."