Agent-Omit: Adaptive Context Omission for Efficient LLM Agents

Das Problem: Der „Über-Erklärer"-Agent

Stellen Sie sich vor, Sie stellen einen sehr klugen, aber leicht obsessiven Forschungsassistenten ein, der für Sie eine bestimmte Tatsache im Internet finden soll.

• Die gute Nachricht: Er ist brillant. Er findet die Antwort.
• Die schlechte Nachricht: Um dorthin zu gelangen, schreibt er für jeden einzelnen Schritt, den er unternimmt, einen 50-seitigen Tagebucheintrag. Er schreibt auf: „Ich überlege, auf den blauen Button zu klicken", dann klickt er darauf. Dann schreibt er: „Ich lese den Text auf dem Bildschirm", dann liest er ihn. Selbst wenn er nur auf einen Button klickt, der aus dem vorherigen Schritt offensichtlich war, schreibt er einen ganzen Absatz darüber.

Genau das tun aktuelle KI-Agenten. Sie generieren viele „Gedanken" (Schlussfolgerungen) und „Beobachtungen" (das Lesen der Ergebnisse ihrer Aktionen). Obwohl dies ihnen hilft, schwierige Probleme zu lösen, entsteht dadurch eine massive Menge an „digitalem Unrat". Dieser Unrat:

1. Kostet viel Geld (weil KI-Unternehmen nach Wort/Token abrechnen).
2. Verlangsamt alles.
3. Verwirrt die KI, weil der Gesprächsverlauf so lang wird, dass sie den Anfang vergisst.

Die Erkenntnis: Nicht alle Gedanken sind gleichwertig

Die Forscher hinter diesem Paper stellten eine einfache Frage: „Müssen wir wirklich jede einzelne Seite dieses 50-seitigen Tagebuchs lesen?"

Sie analysierten die Reise der KI und stellten fest, dass die Bedeutung dieser Gedanken und Beobachtungen davon abhängt, wann sie auftreten:

• Der Anfang: Die KI muss hart nachdenken, um ihre Route zu planen. (Hoher Wert).
• Die Mitte: Die KI klickt nur auf Buttons oder liest einfache Suchergebnisse. Oft muss sie dafür keinen Tagebucheintrag schreiben; sie kann die Aktion einfach ausführen. (Niedriger Wert).
• Das Ende: Die KI muss die Ergebnisse zusammenfassen. Sie braucht die Endergebnisse, aber sie muss die Suchergebnisse von vor drei Stunden nicht erneut lesen. (Niedriger Wert für alte Daten).

Die Analogie: Stellen Sie sich vor, Sie folgen einem Rezept. Zu Beginn müssen Sie die Anweisungen sorgfältig lesen (Planung). Aber wenn Sie den Topf bereits zum zehnten Mal umrühren, müssen Sie kein Roman über das Umrühren schreiben. Sie rühren einfach. Wenn Sie weiter über das Umrühren schreiben, gehen Ihnen die Blätter aus, bevor Sie fertig gekocht haben.

Die Lösung: Agent-Omit

Das Team entwickelte ein neues Trainingsframework namens Agent-Omit. Stellen Sie sich dies vor, als würden Sie der KI eine neue Superkraft beibringen: Die Kunst zu wissen, was man überspringen kann.

Anstatt die KI zu zwingen, alles aufzuschreiben, bringt Agent-Omit ihr bei zu sagen: „Ich weiß, was ich tue, ich muss das nicht aufschreiben" oder „Ich muss diese alte Notiz nicht erneut lesen."

Sie taten dies in zwei Schritten:

Schritt 1: Der „Kaltstart" (Vermittlung der Grundlagen)

Zuerst erstellten sie einen speziellen Satz an Übungsproblemen. Sie zeigten der KI manuell Beispiele für:

• „Hier ist ein Moment, in dem Sie zu viel nachgedacht haben. Das nächste Mal überspringen Sie einfach den Gedanken."
• „Hier ist ein Moment, in dem Sie eine alte Beobachtung gelesen haben, die nicht half. Das nächste Mal überspringen Sie das Lesen."

Sie brachten der KI die spezifischen „Handzeichen" (Spezialcodes) bei, die sie verwenden soll, wenn sie einen Schritt überspringen möchte. Es ist wie das Unterrichten eines Schülers, dass manchmal „Ich kenne die Antwort" eine gültige Antwort ist und er nicht für jedes einzelne Matheproblem seinen Lösungsweg zeigen muss.

Schritt 2: Das „Belohnungssystem" (Bestärkendes Lernen)

Anschließend ließen sie die KI Spiele spielen (wie das Navigieren auf einer Website oder das Lösen eines Wissenschaftspuzzles) und gaben ihr ein spezielles Belohnungssystem:

• Belohnung für die richtige Antwort.
• Bonus-Belohnung für die Verwendung weniger Wörter.

Wenn die KI versuchte, faul zu sein und einen notwendigen Schritt übersprang, erhielt sie eine schlechte Punktzahl. Aber wenn sie korrekt einen redundanten Schritt identifizierte und ihn übersprang, wodurch Zeit und Geld gespart wurden, erhielt sie einen riesigen Bonus. Im Laufe der Zeit lernte die KI, ein „kluger Minimalist" zu sein – die Arbeit zu erledigen, aber weniger darüber zu schreiben.

Die Ergebnisse: Der „Goldilocks"-Agent

Die Forscher testeten diese neue KI (genannt Agent-Omit) gegen sieben andere erstklassige KI-Agenten.

• Leistung: Sie löste die Probleme genauso gut wie die „superklugen" Giganten (wie DeepSeek-R1 oder o3).
• Effizienz: Sie benötigte deutlich weniger Wörter (Tokens), um dorthin zu gelangen.
• Der Kompromiss: Sie fand das perfekte Gleichgewicht. Sie war nicht so faul, dass sie scheiterte, und nicht so geschwätzig, dass sie Geld verschwendete.

Die Analogie: Stellen Sie sich zwei Fahrer vor, die zum selben Ziel fahren wollen.

• Fahrer A (Alte KI): Fährt den ganzen Weg und erzählt dabei jede Kurve, jede Ampel und jede Wolke, die sie sieht. Sie kommen an, aber sie verbrauchen viel Benzin und brauchen lange.
• Fahrer B (Agent-Omit): Fährt den ganzen Weg, spricht aber nur auf, wenn sie eine komplexe Entscheidung treffen oder eine Karte prüfen müssen. Sie kommen genauso schnell an, verbrauchen aber viel weniger Benzin.

Warum das wichtig ist (laut dem Paper)

Das Paper behauptet, dass wir durch das Beibringen des „Omit"-Verhaltens (Überspringen unnötigen Kontexts) diese Agenten:

1. Günstiger im Betrieb machen können.
2. Schneller machen können.
3. Genau so intelligent halten können.

Sie bewiesen mathematisch, dass dieses Überspringen die Fähigkeit der KI, korrekt zu denken, nicht beeinträchtigt, solange sie die richtigen Dinge überspringt. Sie zeigten, dass die KI natürlich lernte, etwa 3 bis 4 Runden unnötigen Geschwätzes in der Mitte einer Aufgabe zu überspringen, genau dort, wo normalerweise die „langweiligen" Teile der Arbeit stattfinden.

Kurz gesagt: Agent-Omit ist eine Trainingsmethode, die KI-Agenten beibringt, das Über-Erklären einzustellen, wodurch Zeit und Geld gespart werden, ohne ihre Intelligenz zu verlieren.