RAG System for Supporting Japanese Litigation Procedures: Faithful Response Generation Complying with Legal Norms
Dieses Paper schlägt das Design eines Retrieval-Augmented-Generation-Systems (RAG) vor, das speziell für japanische medizinische Rechtsstreitigkeiten maßgeschneidert ist und die Einhaltung gesetzlicher Vorschriften gewährleistet, indem es die strikte Abfrage von zeitgestempelten externen Informationen sicherstellt, die Verwendung privater Informationen untersagt und garantiert, dass alle generierten Antworten dem bereitgestellten Kontext treu bleiben.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich einen Gerichtssaal in Japan als ein hochkarätiges Spiel namens „Zeig deine Karten“ vor. In diesem Spiel ist der Richter der Schiedsrichter und die beiden Anwälte (die Kläger und die Beklagten) sind die Spieler. Die goldene Regel dieses Spiels lautet, dass der Schiedsrichter Entscheidungen nur auf der Grundlage der Karten treffen darf, die die Spieler auf den Tisch gelegt haben. Es ist dem Schiedsrichter streng untersagt, geheimes Wissen aus seiner eigenen Tasche zu ziehen oder Informationen zu verwenden, die nur eine Seite gesehen hat.
Stellen Sie sich nun vor, dass medizinische Fälle so kompliziert sind, dass selbst der Schiedsrichter (der Richter) einen speziellen Assistenten benötigt, um die medizinischen Karten zu verstehen. Normalerweise ist dieser Assistent ein menschlicher Arzt, der dem Richter die medizinische Wissenschaft erklärt. Aber die Autoren dieser Arbeit fragen: Was wäre, wenn wir diesen menschlichen Arzt durch eine superintelligente KI ersetzen würden?
Die Arbeit argumentiert, dass wir, um diese KI in einem Gerichtssaal einsatzfähig zu machen, sie nicht einfach wie einen normalen Computer „chatten“ lassen dürfen. Wir müssen eine spezielle „Rechts-KI“ bauen, die drei strengen Regeln folgt, sonst würde sie das Spiel zerstören.
Hier ist die Erklärung dieser Regeln durch die Autoren unter Verwendung einfacher Analogien:
1. Die „Keine geheime Bibliothek“-Regel (Kontrolle der Wissensquellen)
Das Problem: Normale KI-Modelle sind wie Schüler, die Millionen von Büchern gelesen haben, bevor die Schule überhaupt anfing. Sie erinnern sich an alles, was sie gelesen haben, einschließlich geheimer Fakten oder privater Meinungen, die sonst niemand kennt. Wenn eine KI-Richterin dieses „private Gedächtnis“ verwendet, verletzt sie die Regel, dass beide Seiten alle Beweise sehen müssen.
Die Lösung der Arbeit: Die KI muss wie ein Bibliothekar sein, der nur dazu berechtigt ist, Bücher aus einem bestimmten, genehmigten Regal zu ziehen.
- Die Analogie: Stellen Sie sich vor, die KI ist ein Koch. Ein normaler Koch benutzt vielleicht ein geheimes Familienrezept aus seinem Kopf. Aber ein „Rechts-Koch“ darf nur Zutaten verwenden, die der Kläger und der Beklagte bereits auf die Küchenarbeitsplatte gelegt haben. Wenn der Koch versucht, ein Gewürz aus seinem privaten Vorratsschrank zu verwenden, wird das Gericht ent disqualifiziert. Das System muss jegliches „private Wissen“ streng herausfiltern und nur Dokumente verwenden, die offiziell verifiziert und von Experten geteilt wurden.
2. Die „Ehrliche Ghostwriter“-Regel (Treue zum Kontext)
Das Problem: KI kann manchmal „halluzinieren“, was bedeutet, dass sie Dinge erfindet oder ihre eigenen Erinnerungen mit den Fakten vermischt. In einem Gerichtssaal ist es eine Katastrophe, wenn die KI einen Fakt erfindet, der nicht in den Beweisen steht.
Die Lösung der Arbeit: Die KI muss wie ein strenger Ghostwriter agieren, der nur schreiben darf, was direkt vor ihm liegt.
- Die Analogie: Denken Sie an die KI als einen Schreiber, der ein Dokument kopiert. Wenn der Schreiber einen Satz hinzufügt, der nicht im Originaltext steht, lügt er. Die Arbeit schlägt ein System vor, bei dem die KI ständig prüfen muss: „Habe ich das gerade gesagt, weil es in dem Dokument stand, das ich gerade lese, oder habe ich es mir nur ausgedacht?“ Wenn die Antwort lautet: „Ich habe es mir ausgedacht“, muss das System diese Antwort ablehnen. Es ist wie ein Schüler, der eine Prüfung ablegt und nur das bereitgestellte Lehrbuch benutzen darf; er darf nicht sein eigenes Wissen verwenden, das er im letzten Jahr gelernt hat.
3. Die „Zeitreise“-Regel (Zeitbezogene Referenzzeit)
Das Problem: Die medizinische Wissenschaft verändert sich schnell. Eine Behandlung, die vor zehn Jahren als „perfekt“ galt, könnte heute als „fahrlässig“ betrachtet werden. In einem Rechtsstreit darf man die vergangenen Handlungen eines Arztes jedoch nicht nach den Regeln von heute beurteilen. Man muss ihn nach den Regeln beurteilen, die zum Zeitpunkt seines Fehlers galten.
Die Lösung der Arbeit: Die KI benötigt eine Zeitmaschine (oder zumindest einen sehr guten Kalender).
- Die Analogie: Stellen Sie sich vor, ein Arzt hat im Jahr 2015 einen Fehler gemacht. Wenn Sie die KI fragen: „War das ein Fehler?“ und die KI sucht in einem medizinischen Lehrbuch aus dem Jahr 2024 nach, sagt sie vielleicht: „Ja, das war falsch!“ Aber das ist unfair gegenüber dem Arzt, denn im Jahr 2015 war das die korrekte Vorgehensweise.
- Die Arbeit besagt, dass die KI klug genug sein muss zu wissen: „Okay, diese Frage bezieht sich auf ein Ereignis im Jahr 2015. Ich muss die Bücher von 2024 ignorieren und nur die Bücher von 2015 betrachten.“
- Es ist wie die Bewertung einer Modenschau aus den 1980er Jahren. Man kann ein Outfit mit Schlaghosen nicht dafür kritisieren, dass es im Jahr 2024 nicht „in Mode“ ist; man muss es basierend darauf bewerten, was in den 80ern cool war.
Zusammenfassung
Die Autoren sagen nicht, dass diese KI bereit ist, morgen Richter zu ersetzen. Stattdessen ist es ein Entwurf für den Bau einer sicheren Rechts-KI-Assistentin.
Um in einem japanischen Gerichtssaal nützlich zu sein, muss diese KI folgende Eigenschaften besitzen:
- Ehrlich bezüglich ihrer Quellen: Nur Bücher verwenden, über die sich alle einig sind.
- Treue zum Text: Nichts erfinden.
- Zeitbewusst: Genau wissen, wann eine Regel oder ein medizinischer Fakt gültig war, damit sie die Vergangenheit nicht mit den Augen der Zukunft beurteilt.
Die Autoren arbeiten derzeit daran, wie sie diese „Leitplanken“ bauen können, damit die KI, wenn sie spricht, den strengen Regeln des Gesetzes folgt und nicht nur den Regeln der Wahrscheinlichkeit.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.