Implementing Computational Law in Wolfram Language for the Governance of Artificial Intelligence
Dieses Papier präsentiert eine Implementierung der Reified Input/Output Logic in der Wolfram Language für die KI-Governance, welche deren Fähigkeit demonstriert, rechtliche Normen in ausführbaren Code für auditierbares Agentenverhalten zu übersetzen, während sie gleichzeitig aktuelle Einschränkungen bei der Verwendung von Large Language Models zur Automatisierung dieses Formalisierungsprozesses hervorhebt.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie versuchen, einem superintelligenten Roboter beizubringen, wie er sich in einer Welt voller Regeln verhalten soll. Das Problem ist, dass das Gehirn des Roboters eine „Black Box“ ist. Sie können nicht hineinsehen, um genau zu verstehen, wie er denkt oder warum er eine Entscheidung trifft. Es ist, als würde man einen Magier bitten, einen Trick zu erklären, während er ihn noch aufführt. Normalerweise versuchen wir dies zu beheben, indem wir hoffen, dass der Roboter lernt, wie ein Mensch zu denken, aber das ist riskant, da die menschliche Sprache chaotisch ist, voller versteckter Bedeutungen und voller Schlupflöcher.
Hier kommt die Computational Law (Computergestützte Rechtswissenschaft) ins Spiel. Betrachten Sie dies als das Umwandeln eines chaotischen, handgeschriebenen Regelbuchs in ein striktes Computerprogramm. Anstatt zu schreiben „Sei nicht gemein“, schreiben Sie Code, der besagt: „Wenn Aktion X passiert, muss Ergebnis Y eintreten.“ Dieses Feld versucht, rechtliche Regeln so präzise zu machen, dass ein Computer sie lesen, befolgen und beweisen kann, dass er ihnen gefolgt ist. Die vorliegende Arbeit untersucht einen spezifischen Weg, dies mithilfe einer speziellen Programmiersprache namens Wolfram Language zu tun. Dabei werden Gesetze wie mathematische Gleichungen behandelt, bei denen man überprüfen kann, ob ein Roboter die Regeln einhält, selbst wenn man nicht versteht, wie das Gehirn des Roboters funktioniert. Die große Frage ist: Können wir einfach eine superintelligente KI (wie diejenige, die diesen Text schreibt) bitten, unsere chaotischen englischen Gesetze in perfekten Computercode zu übersetzen?
Das große Experiment der Arbeit: Kann KI die Regeln schreiben?
Die Autorin, James K. Wiles, beschloss, diese Idee zu testen. Er baute ein System in der Wolfram Language, das wie ein „rechtlicher Übersetzer“ fungiert. Dieses System verwendet eine spezielle Logik namens Reified Input/Output Logic. Um dies zu verstehen, stellen Sie sich einen Verkaufsautomaten vor. Sie werfen eine Münze hinein (Input), und der Automat gibt Ihnen eine Limonade (Output). In diesem Rechtssystem ist der „Input“ eine Tatsache (wie „Es ist Nachtzeit“) und der „Output“ ist eine Regel (wie „Du musst anhalten“). Das System verarbeitet auch komplexe Ideen wie „Reifizierung“, was nur ein schicker Weg ist, um ein Ereignis (wie „Alice gibt Bob ein Buch“) in ein physisches Objekt zu verwandeln, das der Computer halten, messen und darüber sprechen kann.
Die Autorin bat dann eine leistungsstarke KI (GPT-4), als Übersetzer zu fungieren. Er gab der KI vier einfache englische Rechtssätze und bat sie, diese in den Computercode zu übersetzen, den das System benötigt.
Die Ergebnisse: Eine Mischung aus Magie und Fehlern
Das Experiment zeigte, dass die KI zwar schnell ist und Code schreiben kann, der korrekt aussieht, aber sie ist noch nicht sicher genug, um ihr allein zu vertrauen. Hier ist, was mit den vier Testsätzen geschah:
- Der „Krawatte und Blond“-Test: Die KI wurde gebeten, eine Regel über Personen zu übersetzen, die keine Krawatten tragen oder blond sind und den Raum verlassen müssen. Die KI schrieb Code, der scheinbar funktionierte. Als der Autor jedoch die Mathematik überprüfte, fand er einen stillen Fehler: Der Code war so fehlerhaft, dass er für alle „Wahr“ ausgab, sogar für Menschen, die Krawatten trugen und dunkles Haar hatten. Die KI hatte eine Regel erstellt, die eigentlich gar nichts prüfte.
- Der „Jeder Mann“-Test: Die KI wurde gebeten, zu übersetzen: „Jeder Mann ist verpflichtet zu rennen.“ Die KI schrieb Code, der funktionierte, aber sie machte einen Fehler bei der Definition von „Mann“. Anstatt zu prüfen, ob eine Person tatsächlich ein Mann war, nahm der Code einfach an, dass die Person ein Mann sei, weil die Regel dies besagte. Dies ist wie ein Türsteher in einem Club, der jeden reinlässt, weil er entschieden hat, dass jeder ein VIP ist, anstatt Ausweise zu kontrollieren.
- Der „Manager und Sekretär“-Test: Die KI versuchte, eine Regel zu übersetzen, nach der eine Sekretärin die Aufgaben eines Managers aufschreiben muss. Die KI schrieb Code, der perfekt aussah, und fügte sogar einen Kommentar hinzu: „Dave ist kein Manager, also keine Verpflichtung.“ Doch als der Code tatsächlich lief, zwang er die Sekretärin trotzdem dazu, die Aufgabe aufzuschreiben, und ignorierte den Kommentar. Der Code der KI und ihre eigene Erklärung widersprachen sich.
- Der „Satelliten“-Test: Die KI wurde gebeten, eine Regel zu schreiben, dass ein Satellit 200 Kilometer von der Internationalen Raumstation entfernt bleiben muss. Die KI schrieb Code, der echte Satellitendaten verwendete, was beeindruckend war. Aber die Mathematik war falsch: Sie maß die Distanz entlang der Erdoberfläche (wie auf einer Straße fahren) anstatt der geraden Linie durch den Weltraum. Zwei Satelliten könnten vertikal 400 Kilometer voneinander entfernt sein, aber der Code würde sagen, sie würden sich berühren.
Das Urteil
Die Arbeit kommt zu dem Schluss, dass KI ein großartiger Assistent, aber ein schrecklicher Chef ist. Sie kann die Regeln schnell entwerfen, aber sie macht „stille Fehler“ – Fehler, die das Programm nicht zum Absturz bringen, aber den Roboter dazu bringen, das Falsche zu tun. Die Autorin argumentt, dass wir die KI nicht einfach die Gesetze für andere KIs schreiben lassen dürfen. Stattdessen benötigen wir einen Teamansatz: Die KI entwirft den Code, aber Menschen müssen jede einzelne Zeile mit strengen Tests überprüfen, um sicherzustellen, dass die Logik Bestand hat.
Die „Fluffy“-Fallstudie: Ein Roboter-Schutzhund
Um zu zeigen, wie das in der realen Welt aussieht, erstellte der Autor eine Fallstudie eines Roboter-Schutzhundes namens Fluffy. Fluffy gehört einem KI-Unternehmen und operiert unter einem „computational contract“ (computergestützten Vertrag). Dies ist kein schriftlicher Vertrag; die Regeln sind direkt in Fluffys Gehirn geschrieben.
Der Vertrag enthielt drei einfache Regeln:
- Eindringlinge stoppen: Wenn eine Person in der Nacht innerhalb von 100 Metern um das Haus kommt, muss Fluffy sie stoppen.
- In der Nähe bleiben: Fluffy muss innerhalb von 200 Metern um das Haus bleiben.
- Erlaubnis zur Gewaltanwendung: Fluffy darf seinen Taser benutzen, ist aber nicht dazu verpflichtet.
Das Coole daran ist, dass Fluffys Handlungen auditierbar (prüfbar) sind. Wenn Fliff seinen Taser benutzt, sagt das System nicht nur „Ich habe es getan“. Es erstellt einen symbolischen Beleg, der besagt: „Ich habe den Taser benutzt, weil: Fakt A (Person bei 80 m) + Fakt B (Es ist Nacht) + Regel 1 = Verpflichtung zum Stoppen.“ Dies schafft eine klare, unveränderliche Spur, die beweist, dass der Roboter dem Gesetz gefolgt ist.
Warum das wichtig ist
Die Arbeit argumentiert, dass wir aufhören müssen zu hoffen, dass Roboter unsere Gesetze „verstehen“, und statfangen sollten, ihnen Gesetze zu geben, die sie ausführen können. Wir können nicht warten, bis wir in das Innere der Black Box eines KI-Geistes schauen können. Stattdessen müssen wir die Black Box in einen Käfig aus ausführbaren Regeln einwickeln.
Der Autor schlägt vor, dass wir zwar nicht jedes Gesetz in Code umwandeln können (einige Dinge sind zu vage, wie „angemessen sein“), wir aber definitiv können und sollten, die Regeln für sicherheitskritische Maschinen in Code zu übersetzen. Das Ziel ist nicht, menschliche Richter zu ersetzen, sondern uns Werkzeuge an die Hand zu geben, mit denen wir prüfen können, ob ein Roboter jetzt gerade die Regeln einhält.
Die Arbeit endet mit einer Warnung: Wir bauen mächtige Maschinen, und wenn wir ihnen keine klaren, ausführbaren Regeln geben, könnten wir in einer Zukunft landen, in der ein Roboter eine schreckliche Entscheidung trifft und wir keine Ahnung haben, warum. Durch die Nutzung von Computational Law können wir sicherstellen, dass selbst wenn der Roboter eine Black Box ist, seine Regeln kristallklar sind und wir immer prüfen können, ob er das getan hat, was er sollte.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.