EnterpriseRAG: Benchmarking LLM Instruction Adherence and Robustness under Non-Ideal Enterprise Retrieval
Das Papier stellt EnterpriseRAG vor, einen umfassenden Benchmark aus 983 Experten-validierten Stichproben über sechs Domänen hinweg, der eine kritische „Orchestrierungslücke“ in unternehmensweiten Retrieval-Augmented-Generation-Systemen (RAG) aufzeigt und offenlegt, dass große Sprachmodelle zwar oft einzelne Einschränkungen erfüllen, ihre ganzheitliche Befolgung von Anweisungen jedoch unter realistischen Produktionsbedingungen, die verrauschte Abfragen, Wissenslücken und faktische Konflikte beinhalten, signifikant zusammenbricht.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie versuchen einem superintelligenten Roboter beizubringen, wie man ein hilfreicher Assistent ist. Sie geben ihm eine Bibliothek von Büchern (seine Wissensbasis) und stellen ihm eine Frage. Der Roboter geht in die Bibliothek, schnappt sich ein paar Seiten, liest sie und schreibt eine Antwort. Dies wird RAG (Retrieval-Augmented Generation) genannt. Es ist wie ein Schüler, der eine Hausaufgabe mit offenen Büchern macht: Er muss nicht alles auswendig lernen, aber er muss die richtige Seite finden und sie sorgfältig lesen, um die Antwort richtig zu bekommen.
Aber hier liegt der Haken: In der realen Welt sind Bibliotheken unordentlich. Manchmal schnappt sich der Roboter Seiten, die überhaupt nichts mit der Frage zu tun haben (Rauschen). Manchmal enthalten die Bücher die Antwort gar nicht (eine Wissenslücke). Und manchmal sagen zwei verschiedene Bücher etwas Gegensätzliches über denselben Fakt (ein Konflikt). Die meisten Tests für diese Roboter gehen davon aus, dass die Bibliothek perfekt ist und die Fragen einfach sind, wie zum Beispiel: „Was ist die Hauptstadt von Frankreich?“
In der Realität sieht es eher so aus: „Fasse den Umsatz für das letzte Quartal in einer Tabelle zusammen, aber wenn die Daten fehlen, sage ‚Ich weiß es nicht‘, anstatt zu raten, und wenn sich zwei Berichte widersprechen, liste beide auf.“
Dies ist der Punkt, an dem es knifflig wird. Wir wollen, dass unsere Roboter-Assistenten nicht nur Fakten finden, sondern auch strengen Regeln folgen, zugeben können, wenn sie feststecken, und mit chaotischen Situationen umgehen können, ohne Dinge zu erfinden. Wenn ein Roboter das nicht kann, liefert er vielleicht eine selbstbewusste, aber falsche Antwort, was für ein Unternehmen, das wichtige Entscheidungen treffen muss, katastrophal sein kann.
Das große „Durchhalte-Versagen“
Ein Team von Forschern der Jiutian Research von China Mobile hat einen neuen, härteren Test namens EnterpriseRAG entwickelt, um zu sehen, wie gut diese KI-Roboter tatsächlich mit der Unordnung der realen Welt zurechtkommen. Betrachten Sie diesen Test als einen „Stresstest“ für KI, der darauf ausgelegt ist zu sehen, ob die KIs die Fassung bewahren können, wenn die Anweisungen kompliziert sind und die Informationen, die sie finden, fehlerhaft oder widersprüchlich sind.
Sie erstellten 983 knifflige Szenarien in sechs verschiedenen Bereichen wie Energie, Medizin, Recht und Finanzen. In diesen Szenarien stellten sie den Robotern nicht nur einfache Fragen. Sie gaben den Robotern komplexe Anweisungen mit mehreren Regeln, wie zum Beispiel: „Verwende eine Tabelle“, „Rate nicht“, „Nenne deine Quellen“ und „Wenn du einen Widerspruch siehst, informiere mich darüber“. Dann manipulierten sie die Informationen, die die Roboter fanden, absichtlich: Sie fügten irrelevante Inhalte hinzu, entfernten die Antwort vollständig oder platzierten gefälschte Widersprüche.
Die große Entdeckung: Die „Orchestrierungs-Lücke“
Die Ergebnisse waren ein Schock. Als die Forscher überprüften, ob die Roboter einzelne Regeln befolgen konnten, schnitten sie ziemlich gut ab. Etwa 84 % der Zeit lieferte ein Roboter eine einzelne Regel korrekt ab, wie etwa die Verwendung des richtigen Formats oder das Zitieren einer Quelle. Es war, als würde ein Schüler jeden einzelnen mathematischen Schritt richtig machen, aber dann die Lösung vergessen.
Als sie jedoch prüften, ob die Roboter alle Regeln gleichzeitig befolgten, stürzte die Punktzahl auf nur 27 % ab. Die Forscher nennen dies eine 57-Punkte „Orchestrierungs-Lücke“. Es stellt sich heraus, dass diese KI-Modelle sehr gut darin sind, eine Sache nach der anderen zu erledigen, aber sie brechen zusammen, wenn sie mehrere komplexe Anweisungen gleichzeitig jonglieren müssen. Sie verwenden vielleicht das richtige Format, halluzinieren dann aber einen Fakt, oder sie finden die richtige Antwort, vergessen aber zu sagen „Ich weiß es nicht“, wenn die Daten fehlen.
Die „Hilfsbereitschafts-Falle“
Eine der interessantesten Erkenntnisse war, wie die Roboter mit Situationen umgehen, in denen die Antwort nicht in den Büchern steht. Menschen wissen: Wenn man etwas nicht weiß, sollte man sagen: „Ich weiß es nicht.“ Aber diese KI-Roboter haben eine starke „Hilfsbereitschafts-Verzerrung“ (Helpfulness Bias). Sie wollen unbedingt hilfreich sein, daher erfinden sie oft etwas, wenn sie die Antwort nicht finden können.
Im Test verweigerten die Roboter, wenn Informationen fehlten, nur in 42,7 % der Fälle die Antwort korrekt (mit dem besten Modell, Claude-Opus-4.5). In den restlichen 57,3 % der Fälle raten sie selbstbewusst oder halluzinieren eine Antwort. Das ist gefährlich, denn eine selbstbewusste falsche Antwort ist oft schlimmer als gar keine Antwort.
Reasoning hilft, ist aber kein Zauberstab
Die Forscher testeten auch „Reasoning“-Modelle (Modelle mit logischem Schlussfolgern) – KIs, die einen Moment innehalten, um zu „denken“, bevor sie antworten, ähnlich wie ein Schüler, der kurz innehält, um ein schwieriges Problem zu lösen. Diese Modelle schnitten besser ab als die Standardmodelle. Zum Beispiel waren sie viel besser darin, zu erkennen, wenn sich zwei Dokumente widersprachen. Das beste Reasoning-Modell erkannte Konflikte in 44,3 % der Fälle, während andere deutlich niedriger lagen.
Dennoch waren selbst die „denkenden“ Modelle nicht perfekt. Sie hatten immer noch Schwierigkeiten, alle Regeln gleichzeitig zu befolgen, und sie raten immer noch manchmal, wenn sie eigentlich hätten aufgeben sollen. Die Arbeit legt nahe, dass es nicht ausreicht, die KI einfach nur intensiver „nachdenken“ zu lassen; die Roboter benötigen ein besseres Training darin, zu beurteilen, wann sie über genügend Informationen verfügen, und darin, komplexe Protokolle zu befolgen, ohne die Nerven zu verlieren.
Das Faz-it
Die Arbeit behauptet nicht, dass KI für immer kaputt ist, aber sie zeigt, dass wir unterschätzen, wie bereit diese Systeme für ernsthafte, reale Aufgaben sind. Nur weil eine KI ein Gedicht schreiben oder eine einfache Frage beantworten kann, bedeutet das nicht, dass sie eine komplexe Geschäftsaufgabe mit unordentlichen Daten und strengen Regeln bewältigen kann. Um diese Systeme zuverlässig zu machen, müssen wir aufhören, sie in perfekten, sauberen Umgebungen zu testen, und anfangen, sie in der unordentlichen, verrauschten und widersprüchlichen Welt zu testen, in der sie tatsächlich leben werden. Bis wir diese 57-Punkte-Lücke schließen können, sollten wir sehr vorsichtig sein, wenn wir diesen Robotern erlauben, eigenständig wichtige Entscheidungen zu treffen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.