Who gets to verify AI? Provenance, authority and accountability in digital government
Dieses Paper argumentiert, dass eine effektive Governance von KI-Inhalten über isolierte Kennzeichnungs- oder Provenienzwerkzeuge hinausgehen muss, indem ein ganzheitlicher Rahmen eingeführt wird, der zwischen öffentlicher Lesbarkeit, infrastruktureller Verifizierbarkeit und institutioneller Rechenschaftspflicht über den gesamten Lebenszyklus des Inhalts hinweg unterscheidet, um echte Verantwortlichkeit anstelle bloßer symbolischer Compliance zu gewährleisten.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
In der modernen Welt verlassen sich Regierungsbehörden zunehmend auf künstliche Intelligenz, um offizielle Bekanntmachungen zu entwerfen, Dokumente zu übersetzen, Bilder zu erstellen und sogar die Chatbots zu betreiben, die Fragen von Bürgern beantworten. Diese Technologie bietet Schnelligkeit und Effizienz, bringt aber eine einzigartige Gefahr mit sich: Sie macht es möglich, äußerst überzeugende gefälschte Versionen offizieller Informationen zu erstellen. Ein synthetisches Bild eines Amtsträgers oder eine fabrikierte Notfallwarnung kann sich schneller verbreiten als die Wahrheit, was Menschen verunsichert und sie fragen lässt, was real und was künstlich erschaffen ist. Um dem entgegenzuwirken, haben Regulierungsbehörden und Technologieunternehmen eine einfache Idee verfolgt: Kennzeichnung. Die Logik dahs ist, dass Menschen vorsichtig sein werden, wenn wir Inhalte klar als „von KI erstellt“ markieren. Dieser Ansatz setzt jedoch voraus, dass ein einfaches Warnzeichen ausreicht, um das Vertrauen wiederherzustellen, und ignoriert das komplexe Geflecht aus Regeln, Software und menschlichen Entscheidungen, das erforderlich ist, damit ein solches System tatsächlich funktioniert.
Eine neue Studie von Shuai Wang und Kollegen untersucht, ob diese Kennzeichnungssysteme Regierungen und Technologieunternehmen wirklich zur Rechenschaft ziehen oder ob sie lediglich den Anschein von Sicherheit erzeugen. Die Forscher untersuchten elf wichtige Regulierungsdokumente und technische Standards aus China, der Europäischen Union und von internationalen Organisationen. Sie betrachteten alles – von obligatorischen Kennzeichnungspflichten bis hin zu den technischen Spezifikationen für digitale „Wasserzeichen“, die verfolgen, woher eine Datei stammt. Ihre Analyse zeigt, dass Transparenz kein einzelner Schalter ist, den man einfach umlegen kann. Stattdessen fanden sie heraus, dass ein funktionierendes System drei verschiedene Ebenen erfordert, die zusammenwirken müssen: die Inhalte für die Öffentlichkeit verständlich zu machen, den Ursprung der Inhalte für Maschinen verifizierbar zu machen und sicherzustellen, dass Institutionen zur Rechenschaft gezogen werden können, wenn etwas schiefgeht.
Die Forscher entdeckten, dass das bloße Anbringen eines sichtbaren Labels an einem Inhalt die Last der Verifizierung oft auf den durchschnittlichen Bürger überträgt. Wenn ein Nutzer eine Warnung sieht, dass ein Bild KI-generiert ist, aber keine Möglichkeit hat, die Quelle zu prüfen oder zu verstehen, was die Warnung eigentlich bedeutet, wird das Label zu einer Form des Haftungsmanagements für die Organisation statt zu einem Werkzeug für die öffentliche Sicherheit. Die Studie zeigt, dass ein Label ohne eine Möglichkeit zur Verifizierung wie ein Beleg ohne Ladenadresse ist; es sagt einem, dass eine Transaktion stattgefunden hat, bietet aber keinen Beweis dafür, woher sie kam. Darüber hinaus konzentrieren die technischen Systeme, die darauf ausgelegt sind, die Historie einer Datei zu verfolgen – bekannt als Provenienz –, die Macht oft in den Händen weniger großer Technologieunternehmen und Standardisierungsgremien. Diese Systeme können zwar verifizieren, dass eine Datei von einem bestimmten Server stammt, sie können jedoch nicht verifizieren, ob die Information innerhalb der Datei wahr ist. Ein Dokument kann perfekt von seiner Erstellung bis zu seiner Veröffentlichung nachverfolgt werden und dennoch falsche oder irreführende Informationen enthalten.
Der vielleicht kritischste Befund ist, dass selbst dann, wenn alle technischen Teile vorhanden sind, die Rechenschaftspflicht oft scheitert, weil das System falsch organisiert ist. Die Forscher identifizierten sechs gängige Wege, wie diese Systeme versagen. Ein wesentliches Versagen tritt auf, wenn die Regeln für verschiedene Arten von Inhalten zu breit gefasst sind, indem beispielsweise ein harmloses kreatives Bild genauso behandelt wird wie eine kritische Notfallwarnung, was Ressourcen verschwendet und gefährliche Informationen weniger geschützt lässt. Ein weiteres Versagen tritt auf, wenn das sichtbare Label und die verborgenen technischen Daten nicht miteinander verknüpft sind, was es einer Organisation ermöglicht, eine Warnung anzuzeigen, während die zugrunde liegenden Beweise verloren gehen oder unzugänglich werden. Die Studie hebt auch hervor, dass der digitale Pfad oft unterbrochen wird, wenn eine Datei bearbeitet oder über verschiedene Plattformen geteilt wird, wodurch es unmöglich wird, den Inhalt zurück zu seiner Quelle zu verfolgen. In diesen Szenarien wird die Verantwortung fragmentiert; der Softwareanbieter gibt der Plattform die Schuld, die Plattform gibt dem Nutzer die Schuld, und der Regulator verfügt weder über die Macht noch über die technische Fähigkeit, die Geschichte wieder zusammenzufügen.
Die Autoren argumentieren, dass Transparenz als Teil der öffentlichen Infrastruktur behandelt werden muss und nicht als eine einfache technische Lösung. Das bedeutet, dass Kennzeichnungsregeln mit zugänglichen Verifizierungswerkzeugen verbunden sein müssen, die es den Bürgern ermöglichen, die Quelle von Informationen zu prüfen. Es erfordert zudem, dass Institutionen die Autorität und die Kapazität besitzen, auf die notwendigen Datensätze zuzugreifen, um Schuld zuzuweisen und Korrekturen durchzusetzen, wenn Fehlinformationen verbreitet werden. Die Studie legt nahe, dass ein erfolgreiches System die Frage „Wer hat das gemacht?“ von der Frage „Ist das wahr?“ trennen sollte, um sicherzustellen, dass eine verifizierte Quelle nicht automatisch bedeutet, dass der Inhalt auch korrekt ist. Letztlich kommt die Forschung zu dem Schluss, dass mehr Offenlegung nicht automatisch zu mehr Rechenschaft führt. Ohrem die sichtbaren Labels mit verifizierbaren Beweisen zu verknüpfen und sicherzustellen, dass Institutionen in der Lage sind, auf diese Beweise zu reagieren, läuft die aktuelle Welle der KI-Kennzeichnung Gefahr, zu einer Form von „Vertrauens-Theater“ zu werden, bei dem die Zeichen der Sicherheit zwar sichtbar sind, die Fähigkeit, die Öffentlichkeit tatsächlich zu schützen, jedoch unerreichbar bleibt.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.