ScalableRAG: High-Quality RAG at Zero Ingestion Cost
Das Paper stellt ScalableRAG vor, einen hochwertigen Retrieval-Augmented-Generation-Ansatz, der durch die Nutzung eines dynamischen Workspaces für aggregative Schlussfolgerungen in Echtzeit eine überlegene Genauigkeit über mehrere Datensätze hinweg bei gleichzeitig null Ingestionskosten erreicht, während er zudem eine Limited-Ingestion-Variante bietet, die die Leistung bei Skalierung mit minimaler Vektordatenbanknutzung weiter steigert.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie versuchen, ein riesiges Rätsel zu lösen, indem Sie eine Bibliothek von einer Million Büchern lesen. In der Welt der Künstlichen Intelligenz wird dies als Retrieval-Augmented Generation (RAG) bezeichnet. Denken Sie an eine Standard-KI als einen brillanten Detektiv, der das gesamte Internet gelesen hat, aber keine spezifischen Details aus einem verstaubten Archiv parat hat. Um dem Detektiv zu helfen, bauen wir normalerweise einen „Kartotheken-Index“ oder einen „Knowledge Graph“ (Wissensgraphen), bevor er mit der Arbeit beginnt. Dies beinhaltet das Lesen jedes einzelnen Buches, das Zusammenfassen und das Organisieren in eine komplexe Datenbank, damit die KI die richtige Seite schnell findet. Es ist, als würde man ein Team von Bibliothekaren engagieren, das Wochen damit verbringt, die Bibliothek zu indexieren, noch bevor der Detektiv überhaupt eintrifft. Dieser Prozess ist teuer, langsam und erfordert viel Rechenleistung, nur um überhaupt erst einmal anzufangen. Aber was wäre, wenn der Detektiv in die Bibliothek gehen, die Bücher betrachten und die Antworten direkt vor Ort finden könnte, ohne einen vorgefertigten Katalog zu benötigen? Das ist die große Frage, die dieses Paper behandelt: Können wir die gleichen brillanten Ergebnisse erzielen, ohne die hohen „Ingestion“-Kosten für den Aufbau dieser massiven Datenbank zu tragen?
Die Forscher bei Cohesity, angeführt von Hilaf Hasson und ihrem Team, sagen, dass die Antwort ein begeistertes „Ja“ ist. Sie führen ein neues System namens ScalableRAG ein, das in zwei Varianten kommt: Zero-Ingestion und Limited-Ingestion. Ihre wichtigste Entdeckung ist, dass man nicht das gesamte Archiv vorverarbeiten muss, um komplexe Fragen zu beantworten. Stattdessen agiert ihr KI-Agent wie ein super organisierter Detektiv, der ein magisches, erweiterbares Klemmbrett bei sich trägt. Wenn der Detektiv eine spezifische Information benötigt, sucht er nicht einfach nach einem Schlagwort; er erstellt eine temporäre „Gruppe“ relevanter Dokumente, filtert diese und führt sogar Berechnungen mit den Ergebnissen direkt im Moment der Anfrage durch.
So funktioniert ihre „Zero-Ingestion“-Methode, erklärt anhand einer einfachen Metapher: Stellen Sie sich vor, Sie haben einen Haufen durcheinandergewürfelter Quittungen aus einem ganzen Jahr voller Einkäufe. Ein traditionelles System würde erfordern, dass jemand jeden Beleg liest und sie in beschriftete Ordner (Lebensmittel, Benzin, Elektronik) sortiert, bevor Sie eine Frage stellen wie: „Wie viel habe ich im Juni für Benzin ausgegeben?“ Diese Sortierung dauert ewig. ScalableRAG hingegen überspringt das Sortieren komplett. Wenn Sie die Frage stellen, schaut die KI auf den Haufen, findet alle Quittungen, die „Benzin“ erwähnen, filtert diesen kleineren Haufen dann so, dass nur die vom Monat „Juni“ übrig bleiben, und addiert schließlich die Zahlen zusammen. Dies geschieht, indem sie „Mengen“ (Sets) von Dokumenten direkt vor Ort erstellt und verwaltet. Es ist, als hätte man einen Detektiv, der augenblicklich einen Kreis um die relevanten Quittungen ziehen, sie zählen und die Rechnung erstellen kann, ohne sie jemals vorher ablegen zu müssen.
Das Paper zeigt, dass dieser „On-the-fly“-Ansatz unglaublich leistungsstark ist. In Tests über sechs verschiedene Dokumentensammlungen hinweg (die von Protokollen von Regierungsaussschüssen bis hin zu Finanzberichten und Filmmanuskripten reichen) übertraf ihr Zero-Ingestion-System alle Baselines (einschließlich Knowledge-Graph-Ansätzen) in drei der sechs Datensätze deutlich (MuSiQue, Transcripts und Hotels). In den anderen drei Datensätzen (2Wiki, FinanceBench und ComplexTR) verfehlte es die maximale Leistung nur geringfügig und lag im Durchschnitt nur 1,63 % hinter der jeweils besten Baseline (welche A-RAG war). Trotz dieser knappen Rückstände in der Hälfte der Datensätze erreichte das System eine durchschnittliche Genauigkeit über alle sechs Datensätze hinweg, die etwa 7,36 % höher war als die der nächstkompetitiven Baseline. Dies ist eine große Sache, denn es deutet darauf hin, dass der teure Schritt des Voraufbaus einer Datenbank für viele Arten von Fragen tatsächlich unnötig ist.
Um das System für schwierigere Fragen noch besser zu machen, haben sie auch eine „Limited-Ingestion“-Version entwickelt. Dies ist vergleichbar damit, dem Detektiv einen kleinen, vorgefertigten Index für die häufigsten Arten von Hinweisen zu geben, ihn aber dennoch die Hauptarbeit vor Ort erledigen zu lassen. Diese Version nutzt eine winzige Menge an Vorverarbeitung (nur eine Stichprobe der Dokumente, um Muster zu finden) und eine kleine Vektordatenbank (ein Werkzeug, das hilft, ähnliche Ideen statt nur exakte Wörter zu finden). Dieser hybride Ansatz steigerte die Genauigkeit noch weiter, insbesondere in Datensätzen, in denen die Informationen in komplexen Strukturen verborgen waren, wie etwa beim Auffinden einer bestimmten Einrichtung in einer Hotelbeschreibung oder einer spezifischen Klausel in einem Rechtsvertrag.
Das Paper argumentiert explizit gegen die Vorstellung, dass man zwingend einen massiven, vorverarbeiteten Knowledge Graph oder eine vollständige SQL-Datenbank aufbauen muss, um komplexe, mehrstufige Fragen zu beantworten. Sie zeigen, dass die „Ingestion-schweren“ Methoden, die erfordern, dass eine LLM jedes Dokument liest und Daten extrahiert, noch bevor der Nutzer überhaupt eine Frage stellt, oft übertrieben sind. Während diese Methoden gut darin sind, Daten zu gruppieren, beweist ScalableRAG, dass ein Agent dieselbe Gruppierung und Mathematik sofort während des Gesprächs durchführen kann. Die Autoren sind sehr zuversichtlich in diese Ergebnisse, da sie diese über diverse Datensätze hinweg mit einer strengen Testmethode gemessen haben, bei der eine separate KI als Richter fungiert und die Antworten bewertet. Sie fanden heraus, dass ihr System nicht nur Geld und Zeit spart, sondern oft auch öfter die richtige Antwort gibt als die teuren Alternativen oder zumindest sehr nah herankommt – und das mit deutlich weniger Aufwand.
Kurz gesagt: ScalableRAG verändert die Spielregeln, indem es zeigt, dass man kein riesiges Lagerhaus mit organisiertem Wissen bauen muss, um die Nadel im Heuhaufen zu finden. Stattdessen kann man einen intelligenten Agenten in den Heuhaufen schicken, der über ein Set magischer Werkzeuge verfügt, um die Nadeln genau dort zu greifen, zu sortieren und zu zählen. Ob Sie nun ein System benötigen, das keine Kosten für die Einrichtung verursacht (Zero-Ingestion), oder eines, das ein klein wenig Vorarbeit für zusätzliche Präzision leistet (Limited-Ingestion) – diese Forschung legt nahe, dass die Zukunft der KI-gestützten Beantwortung von Fragen viel einfacher, schneller und kostengünstiger sein könnte, als wir dachten.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.