Legal Status of the AI-Transparency Duties at the Consumer-Facing Interface
Durch eine strukturierte vergleichende Analyse von elf Jurisdiktionen kategorisiert dieses Papier diverse KI-Transparenzpflichten an der Schnittstelle zum Verbraucher in eine vierstufige Typologie, die eine teilweise Konvergenz der Regulierungstechniken aufzeigt und gleichzeitig signifikante Variationen in deren Rechtskraft und Implementierung in der Europäischen Union, China, der Republik Korea und anderen globalen Regionen hervorhebt.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
In der digitalen Welt ist der Bildschirm, auf den man blickt, mehr als nur ein Fenster; er ist der Punkt, an dem eine menschliche Hand auf den Geist einer Maschine trifft. Jahrzehntelang waren die Regeln, die bestimmen, was auf diesem Bildschirm geschieht, über verschiedene Rechtskategorien verstreut, wie etwa Datenschutzhinweise oder Nutzungsbedingungen. Doch der Aufstieg der künstlichen Intelligenz hat die Natur dieser Begegnung verändert. Wenn ein Computerprogramm eine Geschichte schreibt, eine Krankheit diagnostiziert oder als freundlicher Begleiter fungiert, verschwimmt die Linie zwischen Mensch und Maschine. Die Frage für Juristen und politische Entscheidungsträger ist nicht mehr nur die nach der Technologie selbst, sondern danach, was der Nutzer sieht und weiß, in dem Moment der Interaktion. Wenn eine Person mit einem Bot spricht, der exakt wie ein Mensch klingt, oder einen Nachrichtenartikel liest, der von einer Maschine geschrieben wurde, hat sie ein Recht darauf, es zu wissen. Dies ist der Bereich der Transparenz: die Pflicht, das unsichtbare Wesen einer Maschine für die Person, die sie nutzt, sichtbar zu machen.
Ein Team von Forschern setzte sich zum Ziel, abzubilden, wie elf verschiedene Länder und Regionen mit dieser Pflicht umgehen. Sie betrachteten die Europäische Union, die Vereinigten Staaten, China, das Vereinigte Königreich, Kanada, Japan, Südkorea, Singapur, Australien, Brasilien und die Vereinigten Arabischen Emirate. Ihr Ziel war es nicht zu zählen, wie viele Gesetze existieren, sondern zu verstehen, welche spezifischen Handlungen auf dem Bildschirm selbst erforderlich sind. Sie konzentrierten sich auf vier Hauptarten sichtbarer Pflichten: dem Nutzer mitzuteilen, dass er mit einer Maschine spricht, Inhalte zu kennzeichnen, die von einer Maschine erstellt wurden, den Nutzer zu warnen, wenn eine Maschine eine folgenschwere Entscheidung trifft, und sicherzustellen, dass die Organisation hinter der Maschine offen über ihre Regeln ist. Indem sie den Bildschirm als einen gemeinsamen Vergleichspunkt behandelten, konnten sie sehen, wie verschiedene Rechtssysteme mit ihren eigenen einzigartigen Geschichten und Sprachen versuchen, dasselbe Problem zu lösen.
Die Forscher fanden heraus, dass sich die tatsächlichen Anforderungen auf dem Bildschirm zwar unterschiedlich gestalten, die Gesetze aber beginnen, ähnlich auszusehen. In der Europäischen Union, in China und in Südkorea sind die Regeln streng und in bindendes Recht gegossen. Diese Orte verlangen von Unternehmen, KI-generierte Bilder oder Texte deutlich zu kennzeichnen und den Nutzern sofort mitzuteilen, wenn sie mit einem System statt mit einer Person interagieren. In China beispielsweise schreiben spezifische Vorschriften vor, dass KI-generierte Inhalte ein Label tragen müssen, und in Südkorea müssen Unternehmen Informationen darüber veröffentlichen, wie sie Risiken für ihre hochwirksamen KI-Systeme steuern. Die Europäische Union hat einen umfassenden Satz von Regeln etabliert, der in allen ihren Mitgliedstaaten gilt und Offenlegungen für alles von Chatbots bis hin zu Deepfake-Videos fordert.
Im Gegensatz dazu haben die Vereinigten Staaten kein einzelnes nationales Gesetz, das all dies abdeckt. Stattdessen ist die Regelung ein Flickenteppich aus bundesstaatlichen Durchsetzungsmaßnahmen und Gesetzen, die von einzelnen Bundesstaaten verabschiedet wurden. Die Bundesregierung nutzt bestehende Verbraucherschutzgesetze, um Unternehmen daran zu hindern, über ihre KI zu lügen, während Bundesstaaten wie Kalifornien, New York und Colorado ihre eigenen spezifischen Gesetze verabschiedet haben. Diese staatlichen Gesetze konzentrieren sich oft auf „Begleit“-Chatbots – Systeme, die als Freunde oder Vertraute konzipiert sind – und verlangen von ihnen, ihre nicht-menschliche Natur offenzulegen und Sicherheitsprotokolle für Nutzer in Krisensituationen zu haben. Dies schafft eine Situation, in der ein Unternehmen, das in den USA tätig ist, eine komplexe Landkarte unterschiedlicher staatlicher Anforderungen navigieren muss, anstatt einem einzigen nationalen Standard zu folgen.
Andere Regionen befinden sich noch im Prozess der Ausarbeitung ihrer Regeln. Länder wie Kanada und Brasilien haben Gesetzesentwürfe vorgeschlagen, die dem europäischen Modell ähneln, diese sind jedoch noch nicht als geltendes Recht aktiv geworden. Singapur und Australien verlassen sich derzeit auf freiwillige Leitlinien und Industriestandards und ermutigen Unternehmen zur Transparenz, ohne sie mit strengen Strafen zu zwingen. Das Vereinigte Königreich und die Vereinigten Arabischen Emirate verfolgen einen anderen Ansatz, indem sie bestehende Datenschutzgesetze oder neue Regierungsbehörden zur Überwachung von KI nutzen, anstatt ein einzelnes, dediziertes KI-Gesetz zu schaffen. Die Forscher stellten fest, dass die Pflicht zur Transparenz in diesen Orten oft vom spezifischen Kontext abhängt, etwa davon, ob die KI eine Entscheidung über einen Job oder die Kreditwürdigkeit einer Person trifft.
Die Studie kommt zu dem Schluss, dass die rechtlichen Grundlagen zwar fragmentiert sind, das praktische Ergebnis auf dem Bildschirm jedoch konvergiert. Weltweit ist die wiederkehrende Forderung nach denselben vier Dingen: einem klaren Hinweis auf die Beteiligung einer Maschine, einem Label auf synthetischen Inhalten, einer Warnung bei Hochrisiko-Entscheidungen und öffentlichen Informationen darüber, wie das System gesteuert wird. Die Forscher warnen jedoch davor, dass das bloße Anbringen eines Labels auf einem Bildschirm nicht ausreicht. Eine generische Warnung, die besagt „Dies ist KI“, mag zwar sichtbar sein, erklärt aber nicht, wer verantwortlich ist, welche Risiken bestehen oder wie eine Person eine Entscheidung anfechten kann. Die eigentliche Herausforderung für die Zukunft besteht darin, sicherzustellen, dass diese sichtbaren Offenlegungen mit den tatsächlichen Funktionen der Maschine und den Menschen, die sie kontrollieren, verknüpft sind. Wenn KI zu einem Standardbestandteil des täglichen Lebens wird, besteht das Ziel darin, über einfache Labels hinauszugehen zu einem System, in dem der Nutzer die Beziehung zwischen seinen Handlungen und den Reaktionen der Maschine wirklich verstehen kann.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.