Transparency as Architecture: Structural Compliance Gaps in EU AI Act Article 50 II

Die Arbeit zeigt auf, dass die im EU-KI-Gesetz vorgeschriebene duale Transparenz für KI-generierte Inhalte aufgrund fundamentaler technischer und struktureller Mängel aktueller Systeme nicht durch einfache Nachmarkierung erreicht werden kann, sondern eine architektonische Neugestaltung erfordert, die Rechtssemantik, KI-Engineering und nutzerzentriertes Design integriert.

Das Wesentliche

🏗️ Transparenz als Architektur: Warum das neue EU-Gesetz für KI-Labeling an der Realität scheitert

Stellen Sie sich vor, die Europäische Union hat ein neues Gesetz erlassen, das besagt: „Jedes Bild, jeder Text oder jedes Video, das von einer KI erstellt wurde, muss ein unsichtbares Stempel tragen."

Dieses Gesetz heißt Artikel 50 Absatz 2 des EU-KI-Gesetzes. Es soll sicherstellen, dass wir wissen, was echt ist und was von einer Maschine gemacht wurde. Das Gesetz tritt im August 2026 in Kraft.

Die Autoren dieses Papers, Vera Schmitt und ihre Kollegen, sagen jedoch: „Das ist wie der Versuch, einem fliegenden Vogel einen schweren Rucksack aufzupacken, ohne zu verstehen, wie Fliegen funktioniert."

Das Gesetz verlangt zwei Dinge gleichzeitig:

1. Für Menschen sichtbar: Wir müssen es lesen oder sehen können (z. B. ein kleines Wasserzeichen).
2. Für Maschinen lesbar: Computer müssen es automatisch erkennen können, um es zu überprüfen.

Das Problem? Die Technik der heutigen KI-Systeme ist so aufgebaut, dass sie diese beiden Anforderungen nicht gleichzeitig erfüllen kann, ohne die KI selbst zu zerstören oder die Arbeit von Menschen zu behindern.

Hier sind die drei Hauptprobleme, erklärt mit einfachen Analogien:

---

1. Das Problem mit dem „Unkraut" im Garten (Synthetische Daten)

Die Situation: KI-Modelle müssen trainiert werden. Dafür brauchen sie riesige Mengen an Daten. Oft fehlen echte Daten, also erstellen Forscher künstliche (synthetische) Daten, um die KI zu füttern.

Das Gesetz: Diese künstlichen Daten müssen mit einem Wasserzeichen versehen werden, damit man später weiß: „Aha, das ist KI-Daten."

Das Problem (Die Metapher):
Stellen Sie sich vor, Sie bauen einen Garten, um köstliches Gemüse (die KI) anzubauen. Das Gesetz verlangt, dass Sie in jeden Samen ein sichtbares, rotes Etikett stecken, damit man weiß, dass es ein künstlicher Samen ist.

• Das Dilemma: Wenn Sie diese roten Etiketten in den Boden stecken, fängt die Pflanze an, sich nur noch auf die roten Etiketten zu konzentrieren, statt auf das Gemüse. Die KI lernt das „Etikett" als wichtiges Merkmal, nicht den Inhalt. Das Gemüse (die KI-Leistung) wird schlecht.
• Die Lösungsidee: Man müsste zwei Versionen des Gartens anlegen: Einen mit Etiketten für die Menschen und einen ohne für die KI-Pflanze. Das ist aber extrem teuer, kompliziert und verwirrend.

Fazit: Wenn man KI-Daten labelt, um sie für Menschen sichtbar zu machen, kann man sie oft nicht mehr gut zum Trainieren von KI nutzen.

---

2. Das Problem mit dem „Korrektur-Team" (Faktenprüfung)

Die Situation: Journalisten nutzen KI, um Fake-News zu prüfen. Die KI liest einen Artikel, sucht Beweise und schreibt einen ersten Entwurf: „Das ist falsch."

Das Gesetz: Dieser KI-Entwurf muss als KI-Output gekennzeichnet sein.

Das Problem (Die Metapher):
Stellen Sie sich vor, ein Roboter schreibt einen Zeitungsartikel. Er klebt ein unsichtbares, aber für Computer lesbares Siegel auf den Text.
Dann kommt der menschliche Journalist. Er liest den Text, findet Fehler, ändert Sätze um, kürzt Absätze und fügt eigene Gedanken hinzu.

• Das Dilemma: Sobald der Journalist den Text ändert (was er tun muss, um ihn gut zu machen), zerstört er das Siegel. Es ist wie ein Siegel auf einem Briefumschlag: Wenn man den Brief öffnet und den Inhalt ändert, ist das Siegel kaputt.
• Das Gesetz sagt: „Das Siegel muss bleiben."
• Die Realität sagt: „Wenn der Mensch den Text bearbeitet, ist das Siegel weg."

Es gibt keine technische Lösung, die es erlaubt, dass ein Text sowohl von einer KI geschrieben als auch von einem Menschen bearbeitet wird, wobei das Siegel trotzdem intakt bleibt.

---

3. Die drei „Bau-Löcher" (Strukturelle Lücken)

Die Autoren sagen, das Problem liegt nicht daran, dass wir die Technik noch nicht perfektioniert haben. Das Problem ist, dass das Gesetz und die Technik grundlegend unterschiedlich funktionieren. Sie nennen drei große Lücken:

1. Kein gemeinsames Wörterbuch (Interoperabilität):
   Jede Firma benutzt ein anderes System, um ihre KI-Label zu machen. Es ist wie bei den Ladekabeln für Handys: Wenn jeder Hersteller ein eigenes Kabel hat, kann man das Handy nirgendwo aufladen. Es gibt keinen einheitlichen Standard, damit alle Computer die Label verstehen.

2. Das „Zufalls-Problem" (Zuverlässigkeit):
   KI ist wie ein Wahrsager, der manchmal recht hat und manchmal nicht. Das Gesetz verlangt aber „Zuverlässigkeit". Man kann einem Zufallsgenerator (der KI) nicht garantieren, dass er immer das gleiche Ergebnis liefert. Das Gesetz verlangt eine Sicherheit, die die Technik physikalisch nicht bieten kann.

3. Die „Einheitsgröße"-Falle (Verständlichkeit):
   Das Gesetz sagt: „Alle müssen es verstehen." Aber ein KI-Experte braucht eine andere Erklärung als ein normaler Journalist oder ein Schüler.

   • Wenn man einem Laien zu viel Technik erklärt, versteht er nichts.
   • Wenn man ihm zu wenig erklärt, vertraut er der KI blind und macht Fehler.
     Das Gesetz bietet keine Anleitung, wie man die Erklärung an die Person anpasst.

---

🏁 Das Fazit: Architektur statt Aufkleber

Die Kernaussage des Papers ist sehr wichtig:

Wir können Transparenz nicht einfach als Aufkleber auf fertige Produkte kleben (wie ein „Made in Germany"-Sticker).
Stattdessen muss Transparenz von Anfang an als Architektur-Prinzip in den Bau der KI-Systeme integriert werden.

Die Metapher:
Man kann einem fertigen Haus nicht einfach eine neue Treppe anbauen, ohne die Fundamente zu verändern. Man muss das Haus von Grund auf neu planen, damit die Treppe (die Transparenz) Teil des Designs ist.

Was muss passieren?
Bevor das Gesetz im August 2026 in Kraft tritt, müssen Juristen, KI-Ingenieure und Designer zusammenarbeiten, um:

• Neue Standards zu erfinden, die auch bei menschlicher Bearbeitung funktionieren.
• Klare Regeln zu schaffen, wann ein Label nötig ist und wann nicht.
• Systeme zu bauen, die verstehen, wer die Information liest, und die Erklärung entsprechend anpassen.

Ohne diese tiefgreifenden Änderungen wird das Gesetz entweder nicht funktionieren oder die Innovation von KI-Systemen unnötig behindern.

Technische Zusammenfassung

Titel: Transparenz als Architektur: Strukturelle Compliance-Lücken in Artikel 50 Absatz 2 des EU-KI-Gesetzes

1. Problemstellung

Das Papier adressiert die technischen und regulatorischen Herausforderungen, die durch Artikel 50 Absatz 2 (Art. 50 II) des EU-KI-Gesetzes (AI Act) entstehen, der im August 2026 in Kraft treten wird. Diese Vorschrift verlangt eine doppelte Transparenzpflicht für KI-generierte Inhalte:

1. Menschlich verständliche Kennzeichnung: Nutzer müssen erkennen können, dass der Inhalt KI-generiert ist.
2. Maschinenlesbare Kennzeichnung: Inhalte müssen so markiert sein, dass eine automatisierte Verifizierung möglich ist (z. B. durch Wasserzeichen oder Metadaten).

Das Kernproblem liegt in der strukturellen Diskrepanz zwischen den regulatorischen Anforderungen (Persistenz, Robustheit, Zuverlässigkeit) und den technischen Realitäten aktueller generativer KI-Systeme. Die Autoren argumentieren, dass Compliance nicht durch nachträgliches Anfügen von Labels („Post-hoc Labeling") erreicht werden kann, da die probabilistische Natur von LLMs (Large Language Models) und iterative menschlich-KI-Workflows die geforderte Nachverfolgbarkeit (Provenance) fundamental untergraben.

2. Methodik

Die Studie verwendet einen diagnostischen Ansatz mittels zweier spezifischer Anwendungsfälle (Use Cases), um die Compliance-Lücken zu analysieren:

• Synthetische Datengenerierung: Analyse von Pipelines, in denen KI-Systeme Trainingsdaten erzeugen.
• Automatisierte Faktenprüfung (Fact-Checking): Analyse von Systemen, die KI nutzen, um Behauptungen zu verifizieren und Begründungen zu generieren.

Für beide Szenarien werden die Anforderungen von Art. 50 II gegen die technischen Constraints der jeweiligen Systeme abgeglichen. Dabei werden bestehende Standards (z. B. ISO 42001, C2PA, Dublin Core) auf ihre Eignung zur Lösung der identifizierten Probleme überprüft. Die Analyse stützt sich auf zwei Forschungsfragen (RQ):

• RQ1: Welche Anforderungen von Art. 50 II sind technisch umsetzbar, und wo liegen systemische Grenzen?
• RQ2: Wie divergieren juristische Konzepte (z. B. „Verständlichkeit", „Zuverlässigkeit") von ihren technischen Äquivalenten (z. B. Erklärbarkeit, Output-Konsistenz), und welche Folgen hat dies für die Compliance?

3. Schlüsselbeiträge und Ergebnisse

Die Analyse offenbart drei fundamentale strukturelle Lücken, die eine direkte Umsetzung von Art. 50 II derzeit verhindern:

A. Paradoxon der synthetischen Datengenerierung:

• Das Problem: Um Art. 50 II zu erfüllen, müssen synthetische Daten dauerhaft markiert werden. Wenn diese Daten jedoch zum Trainieren neuer KI-Modelle verwendet werden, besteht ein hohes Risiko, dass das KI-Modell das Wasserzeichen als irrelevantes, aber lernbares Merkmal („Spurious Feature") absorbiert, anstatt den eigentlichen Inhalt zu lernen. Dies gefährdet die Integrität des Trainingsprozesses.
• Die technische Falle: Eine Lösung, bei der zwei Versionen der Daten bereitgestellt werden (eine markierte für Menschen, eine unmarkierte für das Training), erhöht die operative Komplexität und Kosten drastisch. Zudem sind bestehende Wasserzeichen-Technologien oft nicht robust genug gegen Standard-Datenverarbeitung (Komprimierung, Zuschneiden), was die geforderte „Persistenz" untergräbt.

B. Zusammenbruch der Provenance-Kette in Faktenprüfungs-Systemen:

• Das Problem: Faktenprüfungs-Systeme nutzen oft RAG (Retrieval-Augmented Generation) und iterative Redaktionsworkflows. Ein KI-generierter Entwurf wird von Journalisten bearbeitet, umformuliert und veröffentlicht.
• Die technische Falle: Jede menschliche Bearbeitung zerstört die maschinenlesbare Markierung (Wasserzeichen), da Text-Wasserzeichen extrem fragil gegenüber Paraphrasierung sind. Es gibt keine architektonische Lösung, die eine saubere Trennung zwischen KI- und menschlichem Beitrag in einem solchen hybriden Workflow ermöglicht. Zudem können aktuelle Metadaten-Schemata (wie Dublin Core) die komplexe, gewichtete Provenance von RAG-Systemen (Quellen, Konfidenzscore) nicht maschinenlesbar abbilden.
• Rechtliche Klarstellung: Die Autoren widerlegen die Annahme, dass Faktenprüfungs-Systeme unter die „Assistenz-Funktion"-Ausnahme fallen könnten. Da diese Systeme aktiv Wahrheitswerte zuweisen und keine bloße Unterstützung bei der Präsentation bieten, unterliegen sie der vollen Transparenzpflicht.

C. Fehlende Interoperabilität und Anpassungsfähigkeit:

• Es existieren keine harmonisierten, plattformübergreifenden Formate für die Kennzeichnung von Inhalten, in denen menschliche und KI-Beiträge vermischt sind (Interleaved Outputs).
• Die regulatorischen Begriffe „Zuverlässigkeit" und „Verständlichkeit" passen nicht zu probabilistischen KI-Outputs. Juristische Zuverlässigkeit impliziert eine deterministische Nachweisbarkeit, die bei LLMs aufgrund von Halluzinationen und Nicht-Determinismus technisch nicht garantiert werden kann.
• Es fehlt an Leitlinien, wie Transparenz an unterschiedliche Nutzergruppen (technische Experten vs. Journalisten/Öffentlichkeit) angepasst werden soll, was zu „Overreliance" (übermäßiges Vertrauen) oder Unverständlichkeit führen kann.

4. Signifikanz und Schlussfolgerung

Das Papier kommt zu dem Schluss, dass Transparenz im Sinne von Art. 50 II nicht als nachträgliche Metadaten-Funktion behandelt werden darf, sondern als architektonisches Design-Requirement verstanden werden muss, das den gesamten KI-Lebenszyklus durchdringt.

Wesentliche Implikationen:

1. Architekturwandel: KI-Systeme müssen von Grund auf so entworfen werden, dass sie Transparenz in ihren Workflows integrieren (z. B. durch neue Provenance-Standards, die menschliche Bearbeitungsschritte abbilden können).
2. Interdisziplinäre Forschung: Es wird eine koordinierte Forschung zwischen Rechtssemantik, KI-Ingenieurwesen und Human-Centered Design benötigt, um die Lücken zu schließen.
3. Dringlichkeit: Bis zum Inkrafttreten im August 2026 müssen Standards für robuste, interoperable Markierungen entwickelt werden, die sowohl menschliche Bearbeitung als auch maschinelle Lernprozesse berücksichtigen.

Die Studie warnt davor, dass ohne diese tiefgreifenden Anpassungen die regulatorischen Ziele des AI Act (Wiederherstellung des epistemischen Vertrauens) technisch nicht erreichbar sein werden und Compliance zu einem rein formalen Akt ohne tatsächliche Wirksamkeit verkommt.