Barriers to Evidence in AI-Related Cases and the Privatization of Proof
Dieser Beitrag argumentiert, dass proprietäre Kontrolle über KI-Systeme eine „Privatisierung des Beweises" schafft, die Rechtsstreitigkeiten behindert, indem sie sieben wesentliche Asymmetrien im Zugang erzeugt, und schlägt einen dreiteiligen Test vor, der auf Verhältnismäßigkeit und austauschbaren Zugangsalternativen basiert, um diese Beweisstreitigkeiten zu lösen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie befinden sich vor Gericht und versuchen zu beweisen, dass ein riesiger, unsichtbarer Roboter einen Fehler gemacht hat, der Ihnen Schaden zugefügt hat. Sie wissen, dass etwas schiefgelaufen ist, doch das Gehirn des Roboters, sein Gedächtnis und die Regeln, denen er folgt, sind in einer Blackbox eingeschlossen, die einem mächtigen Technologieunternehmen gehört.
Dieses Papier, verfasst von den Forscherinnen Sarah Cen, Hannah Ismael und Lucia Zheng, argumentiert, dass in Fällen, die Künstliche Intelligenz (KI) betreffen, die Regeln der Beweisführung gebrochen sind. Es geht nicht nur darum, dass Beweise schwer zu finden sind; es geht darum, dass die Personen, die die Beweise kontrollieren, eine so hohe Mauer errichtet haben, dass man sie nicht erklimmen kann, und der Richter Ihnen oft nicht einmal erlaubt, es zu versuchen.
Hier ist eine Aufschlüsselung ihrer Erkenntnisse unter Verwendung einfacher Analogien.
1. Das „Catch-22"-Dilemma des Beweises
Die Autoren beschreiben einen frustrierenden Kreislauf, den sie die „Privatisierung des Beweises" nennen.
- Das Szenario: Sie (die klagende Partei) müssen die inneren Abläufe der KI einsehen, um zu beweisen, dass sie voreingenommen oder defekt war.
- Die Verteidigung des Unternehmens: Das Unternehmen sagt: „Sie können nicht beweisen, dass Sie den Code einsehen müssen, es sei denn, Sie haben bereits den Beweis, dass der Code defekt ist."
- Das Ergebnis: Sie können den Code nicht ohne Beweis erhalten, aber Sie können keinen Beweis ohne den Code erhalten. Das Spiel endet, bevor es beginnt.
Die Analogie: Stellen Sie sich vor, Sie werden beschuldigt, einen Keks aus einem Glas gestohlen zu haben, doch das Glas ist in einem Tresor verschlossen, der dem Bäcker gehört. Der Bäcker sagt: „Sie können den Tresor nicht öffnen, um nach Keksbröseln zu suchen, es sei denn, Sie beweisen zuerst, dass Sie einen Keks gestohlen haben." Aber Sie können nicht beweisen, dass Sie einen Keks gestohlen haben, ohne die Brösel im Tresor zu sehen. Der Bäcker hält den Schlüssel, und der Richter stimmt oft zu, dass Sie den Tresor nicht öffnen dürfen, weil Sie noch nicht „bewiesen" haben, dass Sie es brauchen.
2. Die sieben „Schlüssel" zur Blackbox
Das Papier identifiziert sieben spezifische Dinge, die normalerweise verschlossen sind und eine massive Lücke zwischen dem Unternehmen und der klagenden Partei schaffen. Betrachten Sie diese als sieben verschiedene Schlüssel, die benötigt werden, um die Blackbox zu öffnen:
- Das Modell: Das eigentliche „Gehirn" der KI (der Code und die Gewichte).
- Die Daten: Die „Lehrbücher", mit denen die KI trainiert wurde.
- Die Dokumentation: Das „Bedienhandbuch", das von den Entwicklern verfasst wurde.
- Die Protokolle: Das „Tagebuch" darüber, was die KI tatsächlich getan und den Nutzern gesagt hat.
- Das Fachwissen: Das spezialisierte Wissen, das benötigt wird, um die Maschine zu verstehen.
- Die Rechenleistung: Die massiven Supercomputer, die benötigt werden, um Tests durchzuführen.
- Die Infrastruktur: Die physischen Werkzeuge und Server, die das Unternehmen nutzt.
Die Analogie: Wenn Sie beweisen wollen, dass ein Auto fehlerhaft ist, müssen Sie den Motor (Modell), die Baupläne (Dokumentation), den verwendeten Kraftstoff (Daten) und die Notizen des Mechanikers (Protokolle) sehen. Doch der Automobilhersteller sagt: „Wir zeigen Ihnen den Motor nicht, weil es ein Geschäftsgeheimnis ist, und wir lassen Sie keinen Mechaniker beauftragen, weil wir Ihnen nicht vertrauen." Währenddessen verfügt der Hersteller über alle Werkzeuge und Experten, während Sie nichts als die Außenhaut des Autos haben.
3. Der „fungible"-Trick (Schlüssel austauschen)
Einer der interessantesten Punkte des Papiers ist, dass diese „Schlüssel" fungibel sind. Dies ist ein ausgefallenes Wort, das bedeutet, dass sie ausgetauscht werden können.
Die Analogie: Stellen Sie sich vor, Sie müssen in einen Raum gelangen, um ein bestimmtes Dokument zu finden.
- Option A: Sie bitten um den Hauptschlüssel zum Raum (vollständiger Quellcode). Der Eigentümer sagt: „Nein, das ist zu riskant."
- Option B: Der Eigentümer bietet Ihnen ein Fenster zum Hindurchschauen an, oder einen Video-Feed des Raums, oder eine vertrauenswürdige dritte Person, die hineingeht und Ihnen sagt, was sie sieht.
Die Autoren argumentieren, dass Gerichte diese Austausche akzeptieren sollten. Wenn das Unternehmen Ihnen den Hauptschlüssel (den Code) wegen „Geschäftsgeheimnissen" verweigert, sollte es gezwungen werden, Ihnen etwas anderes zu geben, das genauso gut funktioniert, wie ein Video-Feed oder ein kontrollierter Test, um Ihren Standpunkt zu beweisen. Sie brauchen nicht genau denselben Schlüssel; Sie brauchen nur einen Weg, um an dieselben Informationen zu gelangen.
4. Der Drei-Schritte-Test für Richter
Um dies zu beheben, schlagen die Autoren einen einfachen Drei-Schritte-Test für Richter vor, den sie anwenden sollen, wenn ein Unternehmen die Vorlage von Beweisen verweigert.
Schritt 1: Ist die Lücke real?
Benötigt die klagende Partei tatsächlich mehr Informationen, um ihren Fall zu beweisen, oder hat sie bereits genug? Wenn sie bereits genug haben, stoppen. Wenn sie feststecken, weil das Unternehmen Dinge versteckt, gehen Sie zu Schritt 2 über.Schritt 2: Ist die Anfrage fair?
Dies ist ein Abwägungsakt. Der Richter wägt ab:- Nutzen: Wie viel gewinnt die klagende Partei davon, diese Beweise zu sehen?
- Risiko: Wie viel Schaden würde es dem Unternehmen zufügen, sie zu zeigen?
- Die Basislinie: Der Richter fragt: „Was ist die minimale Menge an Informationen, die benötigt wird, um den rechtlichen Anspruch überhaupt zu verstehen?" Wenn das Unternehmen sogar dieses Minimum versteckt, verlieren sie. Wenn sie zusätzliche Dinge verstecken, die nicht notwendig sind, müssen sie diese möglicherweise zeigen.
Schritt 3: Gibt es einen sicheren Austausch?
Wenn das Unternehmen sagt: „Wir können Ihnen die Rohdaten nicht zeigen, weil sie privat sind", fragt der Richter: „Können Sie uns etwas anderes zeigen, das dasselbe beweist?" Vielleicht eine bereinigte Version der Daten oder ein Testlauf in einer sicheren „Sandbox", in der das Unternehmen zuschauen kann, der Kläger aber dennoch lernen kann. Wenn ein fairer Austausch existiert, muss das Unternehmen ihn bereitstellen.
Warum dies wichtig ist
Das Papier kommt zu dem Schluss, dass ohne eine Behebung dieses Problems KI-Klagen scheitern werden, nicht weil die KI nichts falsch gemacht hat, sondern weil die Regeln des Gerichtssaals gegen die Person gestellt sind, die die Wahrheit herausfinden will. Die „Privatisierung des Beweises" bedeutet, dass private Unternehmen rechtliche Ergebnisse effektiv entscheiden, indem sie die Beweise verstecken, und den Gerichtssaal zu einem Ort machen, an dem die Person mit den meisten Geheimnissen gewinnt, unabhängig davon, wer tatsächlich im Recht ist.
Kurz gesagt: Die Autoren wollen das „Catch-22"-Dilemma beenden, indem sie Unternehmen zwingen, entweder die Beweise vorzulegen oder einen fairen, alternativen Weg zu bieten, um die Wahrheit zu beweisen, und sicherstellen, dass Gerechtigkeit nicht hinter einer Paywall aus Geschäftsgeheimnissen eingeschlossen ist.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.