Alignment as Jurisprudence
Dieser Aufsatz argumentiert, dass Rechtsphilosophie und KI-Ausrichtung eine grundlegende Struktur darin teilen, Entscheidungen mächtiger Akteure durch Sprache vorherzusagen und zu gestalten, und schlägt vor, dass interdisziplinäre Erkenntnisse aus Rechtstheorien wie Dworkins Interpretivismus und Sunsteins analogischem Denken die Strategien zur KI-Ausrichtung verfeinern können, während KI-Fortschritte umgekehrt neue Perspektiven zur Verbesserung der Rechtstheorie bieten.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Die große Idee: Zwei Welten, ein Problem
Stellen Sie sich zwei sehr unterschiedliche Jobs vor:
- Ein Richter: Jemand, der alte Fälle (Präzedenzfälle) und Gesetze betrachtet, um zu entscheiden, wie mit einer brandneuen Situation umgegangen werden soll.
- Ein KI-Trainer: Jemand, der versucht, einem superintelligenten Roboter (einer KI) beizubringen, sich so zu verhalten, wie es Menschen mögen, indem er alte Daten und Regeln verwendet.
Der Autor argumentiert, dass diese beiden Jobs eigentlich Zwillinge sind. Sie stehen beide vor exakt demselben Rätsel: Wie nehmen wir eine Reihe vergangener Beispiele und Regeln und nutzen sie, um eine faire Entscheidung über etwas zu treffen, das noch nie passiert ist?
Das Papier schlägt vor, dass Anwälte und KI-Forscher ihre Notizen austauschen sollten. Anwälte lösen dieses Problem der „Zukunftsvorhersage" seit Jahrhunderten, während KI-Forscher gerade erst anfangen, es zu verstehen.
Teil 1: Wie KI unterrichtet wird (die Phase des „Trainings")
Derzeit sind KI-Modelle wie Schüler, die das gesamte Internet gelesen haben. Sie wissen, wie man das nächste Wort in einem Satz vorhersagt, aber sie wissen nicht, was „gut" oder „schlecht" zu sagen ist. Um dies zu beheben, verwenden Forscher Alignment-Techniken.
Der alte Weg (RLHF): Stellen Sie sich einen Lehrer vor, der einem Schüler einen Test gibt. Der Lehrer bewertet jede Antwort: „Gut gemacht!" oder „Versuch es nochmal." Der Schüler lernt durch das Erhalten von Tausenden dieser Bewertungen. Dies nennt man Reinforcement Learning from Human Feedback (RLHF).
- Das Problem: Es ist teuer, langsam und hängt von den spezifischen Meinungen einer kleinen Gruppe von Lehrern (den Crowdworkern) ab. Wenn die Lehrer voreingenommen sind, lernt der Schüler Voreingenommenheit.
Der neue Weg (Constitutional AI): Anstatt dass ein Lehrer jede einzelne Antwort bewertet, erhält der Schüler eine Verfassung – eine kurze Liste von Regeln wie „Sei hilfreich", „Sei nicht gemein" und „Respektiere die Menschenrechte". Die KI wird dann darin unterrichtet, sich selbst basierend auf diesen Regeln zu bewerten.
- Das Problem: Die Regeln sind vage. Was bedeutet „Sei hilfreich" tatsächlich in einer seltsamen, neuen Situation?
Der fallbasierte Weg: Dies ist wie das Unterrichten eines Schülers, indem ihm eine Bibliothek mit spezifischen Geschichten (Fällen) gezeigt wird und gefragt wird: „Wenn das passiert wäre, was würdest du tun?" Der Schüler lernt, indem er neue Situationen mit diesen spezifischen Geschichten vergleicht.
Teil 2: Die Rechtstheorien (das „Gehirn" des Papiers)
Der Autor bringt zwei berühmte Rechtsdenker ein, um die KI-Probleme zu lösen.
1. Ronald Dworkin: Der „Prinzipien"-Richter
Dworkin glaubt, dass ein Richter, wenn er vor einem neuen Fall steht, nicht nur auf die Regeln schauen sollte; er muss auf die zugrunde liegenden Werte (wie Gerechtigkeit und Fairness) schauen.
- Die Analogie: Stellen Sie sich einen Koch vor, der ein Rezeptbuch (das Gesetz) hat. Wenn ein Kunde ein Gericht bestellt, das nicht im Buch steht, rät der Koch nicht einfach. Er fragt: „Was ist der Geist dieser Küche? Was bedeutet 'lecker' in dieser Kultur?" Er verwendet hochrangige Prinzipien, um sein Kochen zu leiten.
- Die Lehre für KI: Die KI sollte nicht nur einer Liste von „Verboten" folgen. Sie muss den Geist der Regeln (wie „Menschenrechte") verstehen, damit sie auch dann gute Entscheidungen treffen kann, wenn die Regeln vage sind.
2. Cass Sunstein: Der „Analogie"-Richter
Sunstein glaubt, dass Richter keine großen, abstrakten Theorien benötigen. Sie müssen nur auf ähnliche vergangene Fälle schauen.
- Die Analogie: Stellen Sie sich vor, Sie versuchen zu entscheiden, ob eine neue Frucht ein Apfel ist. Sie benötigen keinen PhD in Botanik. Sie schauen sich einfach ein Bild einer roten Frucht an, von der Sie wissen, dass sie ein Apfel ist, und sagen: „Das sieht aus wie diese hier." Sie müssen nicht zustimmen, warum es ein Apfel ist, sondern nur, dass es einer ist. Dies nennt man eine „unvollständig theoretisierte Übereinstimmung".
- Die Lehre für KI: Die KI muss nicht über die tiefe Bedeutung von „Gerechtigkeit" übereinstimmen. Sie muss nur zustimmen, wie mit spezifischen, konkreten Beispielen umgegangen wird. Wenn wir der KI genügend Beispiele für „faire" und „unfaire" Situationen zeigen, kann sie das Muster lernen, ohne einen Philosophiediplom zu benötigen.
Teil 3: Die vorgeschlagene Lösung (die Mischung der beiden)
Das Papier argumentiert, dass der beste Weg, KI zu trainieren, darin besteht, Dworkins „Prinzipien" mit Sunsteins „Beispielen" zu mischen.
- Der hybride Ansatz:
- Geben Sie der KI eine Verfassung (Dworkins Prinzipien), damit sie die übergeordneten Ziele kennt (z. B. „Schützen Sie die Menschenrechte").
- Geben Sie der KI eine Bibliothek von Fällen (Sunsteins Beispiele), damit sie sieht, wie diese Prinzipien im echten Leben funktionieren.
- Der magische Schritt: Lassen Sie Menschen über spezifische Beispiele debattieren und entscheiden. Zum Beispiel: „Ist es fair, einem 12-Jährigen zu erlauben, ein Videospiel zu kaufen?" Die KI lernt aus diesen Debatten.
- Das Ergebnis: Die KI lernt nicht nur was die Regel ist, sondern wie sie auf neue, seltsame Situationen angewendet werden kann, indem sie die „Form" vergangener Entscheidungen betrachtet.
Dies schafft ein System, das demokratisch ist (weil Menschen die Beispiele entscheiden) und flexibel (weil die KI die Logik auf neue Situationen anwenden kann).
Teil 4: Wie KI dem Recht zurückhelfen kann
Das Papier schlägt auch vor, dass KI Anwälten helfen kann, nicht nur umgekehrt.
- Die „zweite Meinung"-Maschine: Stellen Sie sich vor, ein Richter trifft eine Entscheidung. Eine KI, die auf Tausende vergangener Fälle trainiert ist, könnte sofort sagen: „Hey, diese Entscheidung sieht sehr anders aus als 50 ähnliche Fälle, die Sie zuvor getroffen haben. Sind Sie sicher, dass Sie diesen Weg gehen wollen?" Sie fungiert als Kontrolle, um sicherzustellen, dass Richter nicht nur ihren eigenen persönlichen Voreingenommenheiten folgen.
- Der „Zeitreise"-Übersetzer: Die KI könnte alte Gesetze analysieren und uns sagen, was Wörter damals bedeuteten (ursprüngliche Bedeutung) im Gegensatz zu dem, was sie heute bedeuten, und hilft Anwälten, die wahre Absicht alter Gesetze zu verstehen.
- Der „Super-Agent": In der Zukunft könnte KI wie ein persönlicher Anwalt für jeden fungieren. Wenn Sie ein Haus kaufen oder einen Vertrag unterzeichnen möchten, könnte Ihr KI-Agent für Sie verhandeln, sicherstellen, dass das Geschäft fair ist, und das Recht für normale Menschen zugänglich machen, nicht nur für Reiche.
Das Fazit
Das Papier behauptet, dass Recht und KI-Alignment dasselbe Spiel sind, das mit verschiedenen Figuren gespielt wird.
- Anwälte spielen dieses Spiel seit Jahrhunderten und finden heraus, wie man Regeln und Geschichten nutzt, um die Zukunft zu entscheiden.
- KI-Forscher versuchen, Robotern beizubringen, dasselbe Spiel zu spielen.
Indem wir KI-Forschern beibringen, wie Richter zu denken (unter Verwendung von Prinzipien und Beispielen), können wir sicherere, intelligentere und fairere KIs bauen. Und indem wir KI helfen lassen, Anwälten zu helfen, können wir das Rechtssystem für alle transparenter und fairer machen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.