Stellen Sie sich vor, Sie hätten einen superintelligenten Roboter-Freund, der jedes Buch der Welt lesen und Ihre Fragen sofort beantworten kann. Dies ist das Versprechen von Large Language Models (LLMs), den KI-Gehirnen hinter vielen modernen Chatbots. Aber hier ist der Haken: Wenn Sie diesen Roboter nach einem spezifischen, komplizierten Thema fragen – wie etwa den Regeln für Strompreise in einer bestimmten Provinz – könnte er verwirrt werden. Warum? Weil das „Gedächtnis“ des Roboters begrenzt ist, und wenn Sie ihm eine ganze Bibliothek an Dokumenten auf einmal in sein Gehirn schütten, wird er überfordert. Es ist, als würde man versuchen, eine bestimmte Nadel in einem Heuhaufen zu finden, indem man den gesamten Heuhaufen in eine winzige Schachtel stopft; die Nadel ist technisch gesehen da, aber sie ist unter zu viel Müll vergraben. Dies ist das Problem des „Context Engineering“: herauszufinden, wie man dem Roboter genau die richtige Menge an Informationen füttert, damit er klar denken kann, ohne sich zu verlieren.

Die große Frage, die sich Forscher stellen, lautet: Wie bauen wir ein System, das nicht einfach nur rät, sondern tatsächlich nach den richtigen Antworten in einem riesigen, sich ständig ändernden Haufen von Rechts- und Fachdokumenten sucht? Das Papier, das Sie gleich lesen werden, untersucht diese Reise. Es bewegt sich von einer einfachen „Suchen-und-Lesen“-Methode hin zu einem viel klügeren, mehrstufigen Detektivprozess. Die Autoren schlagen vor, dass es besser ist, dem Roboter beizubringen, ein besserer Forscher zu sein, anstatt zu versuchen, sein Gehirn neu zu trainieren, um jedes neue Gesetz auswendig zu lernen (was teuer und langsam ist). Sie fanden heraus, dass der Schlüssel nicht darin liegt, dem Roboter mehr Platz zum Denken zu geben, sondern ihm bessere Werkzeuge an die Hand zu geben, um Schritt für Schritt die exakten Fakten zu finden, während Kosten und Zeit im Zaum gehalten werden.

---

Von „Einfach Fragen“ zu „Super-Detektiv“: Die Evolution eines KI-Forschers

Dieses Papier erzählt die Geschichte, wie ein Team bei Ontario Power Generation (OPG) ihr KI-System aufgerüstet hat, um die massive, komplexe Aufgabe der regulatorischen Compliance zu bewältigen. Stellen Sie es sich wie die Geschichte eines Junior-Bibliothekars vor, der langsam lernt, ein Meisterdetektiv zu werden.

Der Ausgangspunkt: Der „naive“ Bibliothekar

Zu Beginn nutzte das Team ein „naives RAG“-System. Stellen Sie sich einen Bibliothekar vor, der, wenn Sie eine Frage stellen, die ersten 20 Bücher greift, die vage relevant aussehen, und sie Ihnen alle gleichzeitig auf den Tisch knallt. Wenn Sie fragen: „Wie viel hat das Wasserkraftwerk im Jahr 2022 gekostet?“, legt der Bibliothekar Ihnen vielleicht 25.000 Wörter Text vor die Nase, einschließlich Seiten über 2019, 2023 und unbeteiligte Ausrüstung.

Das Problem? Die KI (der „Leser“) wird überfordert. Es ist, als würde man versuchen, einen bestimmten Satz in einem Roman zu finden, während jemand einem 50 andere Sätze ins Ohr schreit. Je mehr Text man ihr füttert, desto schlechter wird sie darin, die richtige Antwort zu finden. Dies ist das, was die Autoren „Context Rot“ (Kontextverfall) nennen. Die Fakten sind da, aber sie gehen im Lärm verloren. Der Bibliothekar fügt einfach immer mehr Bücher hinzu, in der Hoffnung, dass die Antwort darin enthalten ist, aber das macht den Prozess nur langsamer und teurer.

Level Up: Der „aktive“ Detektiv

Das Team erkannte, dass die KI aufhören musste, ein passiver Empfänger zu sein, und anfangen musste, ein aktiver Ermittler zu werden. Dies war Stufe II: Agentic Retrieval.

Anstatt nun eine Stapel von Büchern auf den Tisch zu werfen, agiert die KI wie ein Detektiv mit einer Lupe. Sie bittet den Bibliothekar nach jeweils nur fünf Seiten. Sie liest sie, denkt nach und sagt dann: „Okay, diese Seiten erwähnen ‚2022‘, aber ich muss speziell die Datei ‚Exhibit C‘ prüfen.“ Dann bittet sie um einen neuen, spezifischeren Satz von Seiten.

Dies wird progressive Discovery genannt. Die KI rät nicht einfach; sie verfeinert ihre Suche. Wenn sie auf einer einzelnen Seite eine wirklich vielversprechende Spur findet, entscheidet sie sich vielleicht dazu, das gesamte Dokument zu lesen, um sicherzugehen. Aber sie ist vorsichtig! Sie tut dies nur, wenn die „Spur“ stark genug ist, um die zusätzliche Zeit und das Geld zu rechtfertigen. Es ist, als würde ein Detektiv entscheiden, ob er in ein Haus einbricht: Nur tun, wenn die Beweise darauf hindeuten, dass der Kriminelle definitiv darin ist.

Die Meisterschule: Der „Deep Agent“ mit einem Team

In Stufe III wird das System noch klüger. Die KI sucht nicht nur; sie plant. Bevor sie überhaupt mit der Suche beginnt, zerlegt sie eine große, beängstigende Frage in eine Liste kleinerer, handhabbarer Aufgaben.

Stellen Sie sich vor, Sie müssen die Kosten von zwei verschiedenen Kraftwerken über zehn Jahre vergleichen. Eine einfache KI würde verwirrt werden. Aber dieser „Deep Agent“ erstellt einen Forschungsplan:

1. „Finde die Kosten von 2020 für Kraftwerk A.“
2. „Finde die Kosten von 2020 für Kraftwerk B.“
3. „Vergleiche sie.“

Um dies zu bewältigen, stellt die Haupt-KI ein Team von Sub-Agenten (kleinen Helfer-Robotern) ein. Ein Helfer liest ein riesiges Dokument und fasst es in einer winzigen Notiz zusammen. Die Haupt-KI sieht niemals das unordentliche, 50-seitige Dokument; sie sieht nur die saubere, 2-Satz-Zusammenfassung. Dies verhindert, dass der „Context Rot“ erneut auftritt. Die Haupt-KI bleibt frisch und fokussiert, während die Helfer die schwere Arbeit erledigen.

Da es zudem strenge Datenschutzgesetze in Kanada gibt, hat das System einen speziellen Trick. Einige Dokumente enthalten Diagramme und Grafiken, die eine „Vision“-KI zum Lesen benötigen. Da die Haupt-KI diese Bilder nicht an einen ausländischen Server senden kann, nutzt das System eine spezielle „lokale“ KI in Kanada, die die Bilder liest und nur den Text zurückschickt. Es ist, als hätte man einen spezialisierten Übersetzer, der im Raum bleibt, damit keine Geheimnisse das Gebäude verlassen.

Die Geheimzutat: PEA-CAE

Die Autoren formalisierten diesen klugen, schrittweisen Ansatz in einem Framework, das sie PEA-CAE nennen (Progressive Evidence Acquisition with Cost-Aware Escalation).

Betrachten Sie es als Regelbuch für einen klugen Einkäufer:

• Fang klein an: Schau dir zuerst die Preisschilder (Textfragmente/Chunks) an.
• Kauf nicht den ganzen Laden: Kaufe den ganzen Artikel (lies das gesamte Dokument) nur, wenn das Preisschild verdächtig gut aussieht.
• Komprimiere deine Liste: Fasse deine Funde zusammen, damit du nicht zu viel Gewicht mit dir herumträgst.

Das Papier zeigt, dass diese Methode funktioniert. In ihren Tests führte das System 67 „Chunk“-Suchen durch, stieg aber nur 7 Mal auf das Lesen des vollständigen Dokuments hoch. Das ist ein Verhältnis von etwa 10 zu 1. Das bedeutet, das System ist meistens mit einem kurzen Blick richtig, was enorm viel Zeit und Geld spart. Wenn es doch einmal ein vollständiges Dokument lesen musste, dauerte dies zwischen 0,7 und 12 Sekunden, was beweist, dass das „vollständige Lesen“ ein schweres Werkzeug ist, das nur bei Bedarf eingesetzt wird.

Was das für die Zukunft bedeutet

Die wichtigste Erkenntnis dieses Papers ist: Für riesige, sich ändernde Bibliotheken von Regeln und Vorschriften müssen Sie nicht das Gehirn der KI neu trainen. Sie müssen ihr nicht jedes neue Gesetz beibringen. Stattdessen müssen Sie eine bessere Suchmaschine um sie herum bauen.

Die Autoren argumentieren, dass „Context Engineering“ – die Kunst, der KI zur richtigen Zeit die richtige Menge an Informationen zu liefern – die wahre Magie ist. Es ist besser, als zu versuchen, die KI zu zwingen, alles auswendig zu lernen. Indem man ein System nutzt, das plant, delegiert und vorsichtig eskaliert, können Unternehmen genaue, rückverfolgbare Antworten von ihrer KI erhalten, ohne dass diese sich in einer See von Text verliert.

Kurz gesagt: Das Papier legt nahe, dass die Zukunft der KI in komplexen Bereichen nicht darin besteht, den Roboter isoliert betrachtet schlauer zu machen; es geht darum, ihm eine bessere Karte, eine schärfere Lupe und ein Team von Helfern zu geben, die die schwere Arbeit erledigen. Es geht darum, dem Roboter beizubringen, ein Detektiv zu sein, und nicht nur ein Leser.