Reason Wide, Not Deep: Amortizing the Reasoning Premium into Distilled Skills
Dieses Paper schlägt vor, die hohen Token-Kosten von Reasoning-Modellen zu amortisieren, indem kompakte natürliche Sprachfertigkeiten aus einem kleinen Korpus bestehender Trajektorien in Nicht-Reasoning-Modelle destilliert werden, was eine vergleichbare oder überlegene Leistung bei agentischen Benchmarks erreicht, während signifikant weniger Token emittiert werden, indem tiefe Suche pro Instanz gegen weite, einmalige Korpus-Destillation eingetauscht wird.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Die große Token-Steuer und das magische Referenzblatt
Stellen Sie sich vor, Sie versuchen einem superintelligenten Roboter beizubringen, wie man Hausarbeiten erledigt, wie zum Beispiel ein unordentliches Zimmer zu organisieren oder ein kniffliges Matheproblem zu lösen. In der Welt der künstlichen Intelligenz gibt es einen beliebten Trick namens „Reasoning“ (Schlussfolgern). Das ist so, als würde man dem Roboter sagen: „Denke laut nach“, bevor er handelt. Anstatt einfach nur einen Socken zu greifen, hält der Roboter inne und sagt: „Okay, ich muss den Socken finden, prüfen, ob er sauber ist, und ihn dann in den Wäschekorb legen.“ Dieser „Denkprozess“ macht den Roboter bei schwierigen Aufgaben viel besser, aber er hat einen hohen Preis: Er verbraucht jedes Mal eine gewaltige Menge digitaler Energie (genannt „Tokens“). Es ist, als müsste man jedes Mal eine Maut bezahlen, wenn man eine vertraute Straße befährt, selbst wenn man diese Straße schon tausendmal befahren hat. Der Roboter leitet dieselben einfachen Regeln immer wieder neu her, was Energie für Dinge verschwendet, die er eigentlich schon wissen sollte.
Die große Frage, die sich Forscher stellen, lautet: Können wir den Roboter diese Regeln einmal beibringen, damit er nicht jedes Mal aufs Neue darüber „nachdenken“ muss? Wenn wir dem Roboter ein permanentes „Referenzblatt“ mit den besten Vorgehensweisen geben könnten, könnte er genauso schlau sein wie der „denkende“ Robot, aber ohne die teure Energierechnung? Dies ist der Kern der neuen Forschung vom COLM 2026 Workshop, die einen cleveren Weg untersucht, wie man Energie spart, ohne an Intelligenz einzubüßen.
Die große Idee des Papers: „Reason Wide, Not Deep“ (Breit denken, nicht tief)
Die Forscher hinter dieser Studie, die mit Microsoft zusammenarbeiten, bemerkten etwas Merkwürdiges an der Funktionsweise dieser „denkenden“ Roboter. Wenn sie eine Serie ähnlicher Aufgaben bewältigen – wie etwa die Unterstützung eines Kunden in einem Geschäft oder das Organisieren einer Tabelle – verbringen sie einen riesigen Teil ihrer Zeit damit, das Rad neu zu erfinden. Sie könnten immer wieder durch den Prozess gehen: „Ich sollte das Konto des Kunden erst aufrufen, wenn er mir eine E-Mail gegeben hat“, obwohl diese Regel sich nie ändert. Es ist wie ein Schüler, der bei jeder Mathearbeit jedes Mal aufs Neue entdeckt, dass ist, anstatt es sich einfach zu merken.
Das Team schlug eine Lösung vor, die sie Passive Skill Distillation nennen. Anstatt den Roboter jedes Mal tief „nachdenken“ zu lassen (was so ist, als würde man in einer Bibliothek für jedes einzelne Buch eine tiefe Suche durchführen), entschieden sie sich für eine „breite Suche“ über viele vergangene Versuche hinweg, um die Muster zu finden.
So haben sie es gemacht:
- Die Sammlung: Sie sammelten einen kleinen Stapel vergangener Versuche (etwa 35 bis 50 Aufgaben), bei denen ein Roboter versuchte, Probleme zu lösen. Dies konnten Versuche sein, bei denen der Roboter „dachte“ oder einfach nur „handelte“, ohne nachzudenken.
- Der Analytiker: Sie übergaben diesen Stapel an Daten an einen anderen, sehr intelligenten Programmier-Roboter (einen „Agenten“). Sie baten diesen Analytiker, die Protokolle zu durchsehen, die Stellen zu finden, an denen die Roboter scheiterten, und herauszufinden, warum.
- Das Referenzblatt: Der Analysator-Roboter schrieb einen kurzen, einfachen Satz von Regeln in klarem Englisch (etwa 40 bis 130 Zeilen Text). Zum Beispiel könnte er schreiben: „Bevor du versuchst, die ID eines Benutzers zu finden, stelle sicher, dass die E-Mail-Adresse tatsächlich in der Nachricht enthalten ist, sonst erhältst du eine Fehlermeldung.“
- Die Injektion: Sie nahmen diesen kurzen „Skill“ (Fähigkeit) und fügten ihn in die Systeminstruktionen des Nicht-Denk-Roboters ein. Nun muss der Roboter nicht mehr „nachdenken“, um sich die Regel zu erinnern; er liest einfach das Referenzblatt und handelt.
Was sie fanden: Schlauer, schneller und günstiger
Die Ergebnisse waren überraschend gut. Als sie diese „Referenzblatt“-Roboter auf vier verschiedenen anspruchsvollen Benchmarks testeten (wie das Organisieren eines virtuellen Hauses, das Reparieren von Tabellen oder die Bearbeitung von Kundenservice-Anrufen), schnitten die Roboter mit den Skills fast so gut oder manchmal sogar besser ab als die teuren „denkenden“ Roboter.
- Die Punktzahl: In einigen Tests war der Nicht-Denk-Roboter mit dem Skill tatsächlich besser als der denkende Roboter. In einer Aufgabe namens ALFWorld (das Organisieren eines virtuellen Hauses) erreichte der Skill-gestützte Roboter einen Wert von 0,787, während der denkende Roboter nur 0,713 erreichte.
- Die Ersparnis: Die denkenden Roboter verbrauchten 3- bis 6-mal mehr Output-Tokens als die Skill-gestützten Roboter. In einigen Fällen verbrauchten die Skill-gestützten Roboter 2,7- bis 6-mal weniger Tokens.
- Die Kosten: Die Erstellung dieses Referenzblatts war unglaublich günstig. Es kostete nur 1,28 bis 2,44 US-Dollar pro Domäne, um den Skill zu generieren, während die denkenden Roboter diese „Steuer“ jedes Mal zahlen, wenn sie eine Aufgabe ausführen.
Die Wendung: Man braucht nicht die „Denk-Protokolle“
Einer der interessantesten Funde war, dass die Forscher die „Denk-Protokolle“ eigentlich gar nicht brauchten, um ein gutes Referenzblatt zu erstellen. Sie versuchten, Skills nur aus den Protokollen von Robotern zu erstellen, die nicht dachten (also jenen, die einfach nur handelten und oft scheiterten). Überraschenderweise waren diese Skills genauso gut wie die, die aus den „Denk-Protokollen“ erstellt wurden.
Tatsächlich war der Skill, der aus den „Nicht-Denk“-Fehlern erstellt wurde, in einem speziellen Test (SpreadsheetBench) sogar 10 Punkte besser als derjen aus den Denk-Protokollen. Die Forscher vermuten, dass dies daran liegt, dass die „Denk-Protokolle“ voll von dem internen Monolog des Roboters sind, was er zu denken glaubte, während die „Nicht-Denk-Protokolle“ genau zeigen, was in der realen Welt tatsächlich schiefgelaufen ist. Es ist wie beim Autofahren lernen: Ein Handbuch zu lesen (das Denk-Protokoll) ist hilfreich, aber ein Video zu sehen, in dem ein Auto gegen einen Bordstein fährt (das Fehler-Protokoll), lehrt einen exakt, was man nicht tun soll.
Wo das Referenzblatt nicht funktioniert
Die Forscher wiesen vorsichtig darauf hin, dass dies kein Allheilmittel für alles ist. Das Referenzblatt funktioniert am besten für Regeln, die immer gleich bleiben, wie „prüfe immer die E-Mail, bevor du das Tool aufrufst“. Bei Aufgaben jedoch, die für jedes einzelne Problem eine einzigartige, schrittweise Logik erfordern – wie eine komplexe Tabelle, in der jede Zelle von einer anderen Variable abhängt, oder ein Kundenservice-Anruf mit einer sehr spezifischen, seltsamen Historie – konnte das Referenzblatt nicht so sehr helfen. In diesen Fällen ist die „tiefe Suche“ des Denkens weiterhin notwendig.
Das Fazit
Dieses Paper legt eine neue Art vor, auf künstliche Intelligenz zu blicken. Anstatt jeden Roboter zu zwingen, für jede einzelne Aufgabe tief zu „denken“, können wir ihnen die gemeinsamen Muster einmalig und dauerhaft beibringen. Indem wir eine „breite Suche“ über viele vergangene Fehler durchführen, um die Regeln zu finden, können wir Robotern ein permanentes Fähigkeitsspektrum geben, das sie schneller, günstiger und manchmal sogar intelligenter macht als ihre „denkenden“ Gegenstücke. Es stellt sich heraus, dass man für viele Aufgaben das Rad nicht jedes Mal neu erfinden muss; man braucht nur eine gute Karte.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.