Correcting AI-generated false criminal allegations: a human-rights framework for remedial closure

Stellen Sie sich eine Welt vor, in der ein Computerprogramm, das darauf ausgelegt ist, Fragen zu beantworten und Geschichten zu erzählen, plötzlich ein Verbrechen erfindet. Es begeht nicht nur einen kleinen Fehler bei einem Datum oder einem Namen; es erfindet eine Geschichte, nach der eine bestimmte, lebende Person ihre eigenen Kinder ermordet hat und eine lange Haftstrafe absitzt. Dies ist keine Szene aus einem Thrillerroman, sondern eine reale Möglichkeit, die durch moderne künstliche Intelligenz geschaffen wird. Wenn eine solche Lüge auf einem Bildschirm erscheint, ist das schon schlimm genug, aber die Gefahr endet dort nicht. Die falsche Geschichte kann sich im Speicher des Computers verstecken, durch seine internen Systeme reisen und an andere Organisationen gesendet werden, die die Antworten des Computers nutzen, um wichtige Entscheidungen über Jobs, Kredite oder Sicherheit zu treffen. Dies schafft eine Situation, in der eine Person als Krimineller behandelt wird, nicht weil sie ein Verbrechen begangen hat, sondern weil eine Maschine eines erfunden und es nicht vollständig gelöscht hat. Die Kernfrage, vor der Experten stehen, ist nicht nur, wie man die Lüge vom Bildschirm löscht, sondern wie man weiß, wann die Lüge wirklich daran gehindert wurde, sich im gesamten digitalen System auszubreiten.

Ein Team von Forschern hat einen neuen Weg entwickelt, um über dieses Problem nachzudenken, indem sie über einfache Korrekturen hinausgehen und einen klaren Standard dafür schaffen, wann eine Korrektur wirklich abgeschlossen ist. Sie argumentieren, dass es nicht ausreicht, dem Computer lediglich zu sagen, er solle die Lüge aufhören zu erzählen. Stattdessen schlagen sie einen schrittweisen Prozess vor, der jeden Ort überprüft, an dem die Lüge sich verstecken könnte – von der ursprünglichen Antwort über die internen Datensätze bis hin zu den Entscheidungen von anderen Menschen, die die Information erhalten haben. Ihre Arbeit legt nahe, dass eine Korrektur erst dann abgeschlossen ist, wenn das verantwortliche Unternehmen nachweisen kann, dass es jeden erreichbaren Ort, an dem die Lüge hätte reisen können, überprüft, die Datensätze dort korrigiert und jeden, der die Lüge zur Entscheidungsfindung genutzt haben könnte, darüber informiert hat, dass sie falsch war. Dieser Ansatz betrachtet das Problem nicht als einen einzelnen Fehler, der gelöscht werden muss, sondern als eine Welle, die an jedem Punkt, an dem sie Schaden anrichten kann, gestoppt werden muss.

Die Forscher bauten ihre Idee auf dem Verständnis aufgebaut, dass Systeme der künstlichen Intelligenz komplexe Netzwerke sind. Wenn ein Computer eine falsche Geschichte generiert, kann diese Geschichte auf verschiedene Arten gespeichert werden. Sie könnte in einem temporären Speicher gespeichert sein, der dem Computer hilft, sich an ein Gespräch zu erinnern, oder sie könnte aus einer Liste von Fakten abgerufen werden, die der Computer nutzt, um Fragen zu beantworten. Sie kann auch über digitale Verbindungen an andere Computer gesendet werden oder von einer Bank oder einer Vermittlungsagentur genutzt werden, um zu entscheiden, ob jemand vertrauenswürdig ist. Das Team nennt diese Verbreitung falscher Informationen „Propagation“. Sie fanden heraus, dass bestehende Regeln zur Behebung von Fehlern oft nur auf die endgültige Antwort fokussiert sind, die dem Nutzer angezeigt wird. Wenn die falsche Geschichte jedoch in den Speicher des Computers verbleibt oder in den Unterlagen eines Unternehmens gespeichert ist, das sie erhalten hat, könnte der Computer die gleiche Lüge später erneut erzählen, oder das Unternehmen könnte die unschuldige Person weiterhin als schuldig behandeln.

Um dies zu lösen, entwickelten die Forscher einen Rahmen, der wie eine Checkliste zur Behebung des Problems fungiert. Der erste Schritt besteht darin, dass die betroffene Person klar angibt, worin die Lüge besteht, und einen Beweis liefert, dass sie falsch ist. Sobald dies geschehen ist, muss das verantwortliche Unternehmen ermitteln. Sie können nicht einfach sagen: „Wir haben es behoben.“ Sie müssen genau zeigen, wo sie nachgesehen haben. Dies beinhaltet die Überprüfung der Hauptantwort, des internen Speichers, der Faktenlisten und jeglicher Verbindungen zu anderen Systemen. Wenn das Unternehmen feststellt, dass die Lüge für eine Entscheidung verwendet wurde, etwa bei der Ablehnung eines Arbeitsplatzes oder der Einstufung als Risiko, muss es auch prüfen, ob diese Entscheidung überprüft oder geändert werden kann. Das Ziel ist sicherzustellen, dass die Lüge nicht nur aus der Sicht gelöscht, sondern auch aus den Orten entfernt wird, an denen sie echten Schaden anrichten kann.

Ein wesentlicher Teil dieses neuen Standards ist die Idee des „angemessenen Abschlusses“ (reasonable closure). Die Forscher erkennen an, dass es unmöglich sein kann, jeden einzelnen Computer auf der Welt zu überprüfen oder zu garantieren, dass eine Lüge niemals in einer Million verschiedenen Arten wieder auftauchen wird. Stattdessen schlagen sie vor, dass ein Unternehmen genug getan hat, wenn es jeden Ort überprüft hat, den es vernünftigerweise erreichen und kontrollieren kann. Sie müssen ihre Arbeit dokumentieren und zeigen, welche Teile des Systems sie korrigiert haben und welche Teile sie nicht erreichen konnten. Wenn sie einen bestimmten Teil nicht erreichen konnten, müssen sie erklären, warum dies zu schwierig oder unmöglich war. Diese Dokumentation dient als Beweis dafür, dass sie ihrer Pflicht nachgekommen sind. Dies verschiebt den Fokus von einer perfekten, unmöglichen Garantie hin zu einer praktischen, verifizierbaren Anstrengung, die die Grenzen der Technologie respektiert und gleichzeitig die Rechte der betroffenen Person schützt.

Die Forscher testeten ihre Idee anhand eines realen Beispiels, bei dem eine Person von einem populären Chatbot fälschlicherweise eines schrecklichen Verbrechens beschuldigt wurde. In diesem Fall war die Beschwerde nicht nur darüber, dass der Chatbot etwas Falsches sagte, sondern über die Möglichkeit, dass die Lüge im System weiterleben könnte. Durch die Anwendung ihres neuen Checklists zeigten die Forscher, wie ein Unternehmen von der bloßen Löschung der Antwort zu einem gründlicheren Prozess übergehen könnte. Dies würde die Überprüfung des internen Speichers beinhalten, um sicherzustellen, dass die Lüge dort nicht gespeichert wurde, die Verifizierung, dass die Lüge nicht in einer Weise gespeichert wurde, die später abgerufen werden könnte, und die Kontaktaufnahme mit Organisationen, die die falschen Informationen möglicherweise erhalten haben. Wenn eine Organisation die Lüge genutzt hat, um eine Entscheidung zu treffen, müsste das Unternehmen helfen, das Verständnis für den Fehler zu vertiefen, damit die Entscheidung überdacht werden kann.

Dieser Ansatz klärt auch, wer wofür verantwortlich ist. In einem komplexen System, in dem viele verschiedene Unternehmen beteiligt sein könnten, sagen die Forscher, dass jedes Unternehmen für die Teile des Systems verantwortlich ist, die es kontrolliert. Wenn ein Unternehmen eine falsche Geschichte an ein anderes Unternehmen sendet, muss das erste Unternehmen dem zweiten mitteilen, dass die Geschichte falsch ist. Das erste Unternehmen ist jedoch nicht dafür verantwortlich, die internen Systeme des zweiten Unternehmens zu reparieren. Jedes Unternehmen muss die Teile korrigieren, die es selbst besitzt. Dies verhindert die Verwirrung, einen einzelnen Akteur für das gesamte globale Netzwerk verantwortlich zu machen, während gleichzeitig sichergestellt wird, dass jedes Glied in der Kette seinen Teil dazu beiträgt, die Verbreitung der Lüge zu stoppen.

Die Forscher merken vorsichtig an, dass dieser Standard kein Zauberstab ist, der alle Fehler für immer verschwinden lässt. Sie geben zu, dass sich die Technologie ständig verändert und neue Wege für die Verbreitung von Lügen entstehen können. Ihr Standard ist darauf ausgelegt, flexibel zu sein, um eine Überprüfung zu ermöglichen, falls eine Lüge in einer neuen Form wieder auftaucht. Sie betonen auch, dass dieser Prozess die Rechte anderer respektieren muss, wie etwa die Freiheit, echte Verbrechen zu melden oder öffentliche Ereignisse zu diskutieren. Das Ziel ist es, nur die falschen, schädlichen Lügen zu entfernen, nicht die Geschichte zu löschen oder legitime Rede zum Schweigen zu bringen. Durch die Konzentration auf verifizierte, schwerwiegende Lügen, die echten Schaden anrichten, zielt der Rahmen darauf ab, Menschen zu schützen, ohne ein System zu schaffen, das zu schwerfällig oder einschränkend ist, um zu funktionieren.

Letztendlich bietet diese Forschung einen Weg, Ordnung in ein chaotisches Problem zu bringen. Sie verschiebt die Diskussion von der Frage „Hast du die Lüge gelöscht?“ hin zu „Kannst du beweisen, dass du die Lüge daran gehindert hast, mehr Schaden anzurichten?“. Sie bietet einen klaren Pfad für Unternehmen, dem sie folgen können, und für Regulierungsbehörden, die dies prüfen können. Indem sie statt bloßer Versprechen eine Beweislast für das Handeln fordern, geben sie Menschen, die durch künstliche Intelligenz geschädigt wurden, eine bessere Chance auf Gerechtigkeit. Die Arbeit legt nahe, dass wir zwar nicht immer verhindern können, dass Maschinen Fehler machen, wir aber Systeme bauen können, die ehrlich mit diesen Fehlern umgehen und gründlich bei deren Behebung sind. Dies schafft eine Zukunft, in der die Macht der künstlichen Intelligenz durch eine klare und rechenschaftspflichtige Art der Fehlerkorrektur ergänzt wird, um sicherzustellen, dass der Ruf eines Menschen nicht durch die Halluzination einer Maschine zerstört wird.