Retrieval-Augmented Large Language Models as Components of Cognitive Computing architecture for Regulatory Knowledge Management
Diese Arbeit zeigt auf, dass die Integration lokal bereitgestellter großer Sprachmodelle mit Retrieval-Augmented Generation (RAG) auf Hardware für Endverbraucher diese in zuverlässige kognitive Rechenkomponenten verwandelt, die in der Lage sind, die faktische Genauigkeit, Auditierbarkeit und das dynamische regulatorische Wissensmanagement zu verbessern, ohne dass ein erneutes Training des Modells erforderlich ist.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich eine Welt vor, in der Computer nicht nur Zahlen berechnen, sondern tatsächlich über komplexe Regeln „nachdenken“, wie ein Anwalt, der einen Vertrag liest, oder ein Arzt, der eine Diagnose prüft. Dies ist das Reich des Cognitive Computing, einem Bereich, der versucht, Maschinen zu bauen, die das menschliche Denken nachahmen, anstatt nur starren Anweisungen zu folgen. Das Herzstück dieser neuen Welle sind Large Language Models (LLMs), die wie superintelligente, belesene Roboter sind, die schreiben, zusammenfassen und chatten können, indem sie das nächste Wort in einem Satz vorhersagen. Diese Roboter haben jedoch eine tückische Angewohnheit: Manchmal erfinden sie Dinge mit absoluter Zuversicht, ein Fehler, der als „Halluzination“ bekannt ist. Um dies zu beheben, nutzen Wissenschaftler einen Trick namens Retrieval-Augmented Generation (RAG). Stellen Sie sich RAG wie das Geben eines Bibliotheksausweises an den Roboter und einer strengen Regel vor: „Du darfst eine Frage nicht beantworten, es sei denn, du findest zuerst die exakte Seite im Buch, die dies beweist.“ Diese Arbeit untersucht, ob die Kombination dieser beiden Ideen – kluge Roboter und strenge Bibliotheksregeln – ein zuverlässiges System für die Verwaltung komplexer rechtlicher Regeln schaffen kann, während die Daten gleichzeitig sicher innerhalb der eigenen Unternehmensmauern bleiben, anstatt in die Cloud gesendet zu werden.
Die Forscher, unter der Leitung von Dariusz Nowak-Nova von der WSB University in Polen, unternahmen den Versuch zu testen, ob diese „Roboter plus Bibliothek“-Kombination einen Standard-KI-Modell in eine vertrauenswürdige Komponente eines Cognitive-Computing-Systems verwandeln kann. Sie verwendeten dafür nicht die massiven, teuren Supercomputer, die normalerweise für diese Aufgaben erforderlich sind. Stattdessen führten sie das Experiment auf einem handelsüblichen Consumer-Laptop mit einem Apple M4 Prozessor und 24 GB Arbeitsspeicher durch, wobei sie Open-Source-Sprachmodelle für die polnische Sprache namens Bielik und PLLuM verwendeten. Sie richteten eine lokale „kognitive Architektur“ ein, in der die KI mit einer riesigen digitalen Bibliothek aus 17.377 Rechtsdokumenten (insgesamt 22,84 GB), die direkt auf dem Computer gespeichert waren, chatten konnte. Dieser Aufbau ermöglichte es der KI, spezifische Gesetze in Echtzeit nachzuschlagen, bevor sie Fragen beantwortete, anstatt sich allein auf das zu verlassen, was sie während des Trainings auswendig gelernt hatte.
Das Team stellte der KI vier spezifische Fragen zur Definition von „Immobilien“ im polnischen Recht, wobei sie der KI zuerst erlaubte, aus ihrem eigenen Gedächtnis zu antworten, und ihr dann erlaubte, nach der Nutzung des RAG-Systems in den Rechtsdokumenten zu suchen. Die Ergebnisse waren faszinierend. Wenn die KI das RAG-System verwendete, wurden ihre Antworten wesentlich präziser und voller korrekter juristischer Terminologie, wodurch sie eher wie ein erfahrener Anwalt und weniger wie ein allgemeines Lexikon klangen. Der Text wurde dichter und spezialisierter, was genau das ist, was man im Umgang mit strengen Gesetzen erreichen möchte. Beispielsweise zitierte die durch RAG verbesserte Antwort korrekt spezifische Artikel aus dem Zivilgesetzbuch und anderen Akten, während die eigenständige KI manchmal vage oder unvollständige Zusammenfassungen lieferte.
Dennoch stellte die Studie auch fest, dass das System noch nicht perfekt ist. Obwohl das RAG-System den Stil und die Spezifität der Antworten verbesserte, konnte es Fehler nicht vollständig eliminieren. In einem Fall machte die KI unter Verwendung des RAG-Systems einen grundlegenden rechtlichen Fehler, indem sie suggerierte, dass Immobilien unter bestimmten Bedingungen „beweglich“ sein könnten, was dem Basisverständnis des Sachenrechts widerspricht. Die Forscher merkten an, dass das System zwar in der Lage war, die richtigen Dokumente zu finden, aber manchmal Schwierigkeiten hatte, den Unterschied zwischen einem Gesetz, das ein Konzept definiert, und einem Gesetz, das das Konzept lediglich für einen anderen Zweck verwendet (wie etwa die Besteuerung), zu interpretieren. Dies deutet darauf hin, dass das System zwar besser darin wird, Informationen zu finden, aber immer noch Hilfe beim Verständnis der tiefen Logik hinter den Regeln benötigt.
Letztendlich legt die Arbeit nahe, dass die Installation dieser KI-Modelle auf lokalen Computern mit einem RAG-System ein leistungsstarker Weg ist, um regulatorisches Wissen zu verwalten, ohne das Risiko von Datenlecks in die Cloud einzugehen. Es verwandelt die KI von einer „Black Box“, die Antworten rät, in ein „kognitives Modul“, das überprüft, kontrolliert und aktualisiert werden kann, wenn sich Gesetze ändern, ohne dass das gesamte Modell neu trainiert werden muss. Die Autoren kommen zu dem Schluss, dass dieser Ansatz ein vielversprechender Schritt zum Aufbau zuverlässiger KI-Assistenten für die Rechts- und Regulierungsarbeit ist, sofern wir im Hinterkopf behalten, dass die KI ein mächtiges Werkzeug zum Finden und Organisieren von Informationen ist, aber immer noch menschliche Experten benötigt, um die endgültige Logik zu verifizieren.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.