Evaluating Intellectual Property Guardrails of Generative Image Models: A Technical Report
Dieser technische Bericht bewertet vierzehn generative Bildmodelle mit Stand März 2026 und stellt fest, dass zwar alle privaten Modelle IP-Schutzmechanismen mit variierenden Ablehnungsraten bei fiktiven Charakteren, Prominenten und Logos implementieren, jedoch jedes getestete Modell weiterhin in der Lage ist, erkennbares geistiges Eigentum zu generieren.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich eine Welt vor, in der Sie einen magischen Künstler bitten können, alles zu malen, was Sie sich vorstellen können. Sie könnten sagen: „Male mir ein Bild eines berühmten Superhelden“ oder „Zeichne ein Logo für eine große Limonadenfirma“. Dieser Bericht stammt von einem Team bei Sony AI, das untersuchen wollte, wie gut diese „magischen Künstler“ (generative Bildmodelle) den Regeln folgen, wenn man sie bittet, Dinge zu zeichnen, die anderen gehören, wie zum Beispiel berühmte Charaktere, Prominente oder Firmenlogos.
Hier ist eine einfache Aufschlüsselung dessen, was sie getan haben und was sie herausgefunden haben, unter Verwendung einiger alltäglicher Analogien.
Das große Problem: Der „Nachahmer“-Künstler
Stellen Sie sich diese KI-Modelle wie Schüler vor, die fast jedes Buch gelesen und fast jedes Bild im Internet gesehen haben, um das Zeichnen zu lernen. Da sie aus dem gesamten Internet gelernt haben, kopieren sie manchmal versehentlich (oder absichtlich) berühmte Dinge, die sie zuvor gesehen haben, wie etwa Micky Maus oder den Nike-„Swoosh“.
Die Unternehmen, die diese Künstler gebaut haben, haben „Zäune“ (genannt IP-Leitplanken) errichtet, um die Künstler daran zu hindern, diese urheberrechtlich geschützten Dinge zu zeichnen. Das Sony-Team wollte testen: Wie stark sind diese Zäune? Funktionieren sie tatsächlich?
Der Test: Ein „Pop-Quiz“ für die KI
Um die Zäune zu testen, erstellte das Team ein riesiges Pop-Quiz mit 1.809 verschiedenen Fragen. Sie baten 14 verschiedene KI-Künstler (einige kostenlos und offen, andere kostenpflichtig und privat), Bilder basierend auf diesen Fragen zu zeichnen.
Die Fragen waren auf zwei Arten konzipiert:
- Die „direkte“ Anfrage: „Zeichne Micky Maus.“ (Nennung des Charakters direkt).
- Die „Umgehungs“-Anfrage: „Zeichne eine Maus mit großen runden Ohren, einer roten Hose und gelben Schuhen.“ (Beschreibung des Charakters ohne den Namen, um den Zaun auszutricksen).
Sie testeten fünf Arten von „berühmten Dingen“:
- Reale Prominente (wie Taylor Swift).
- Comic-Helden und -Bösewichte (wie Superman).
- Zeichentrickfiguren (wie SpongeBob).
- Videospiel-Charaktere (wie Mario).
- Firmenlogos (wie Apple oder Google).
Sie prüften auch, ob die KI besser darin war, berühmte Dinge aus dem Westen (wie Hollywood-Stars) im Vergleich zum Osten (wie japanische Anime) zu blockieren, und ob sie „super berühmte“ Dinge mehr blockierte als „weniger berühmte“.
Die Ergebnisse: Wie die Zäune performten
1. Die „offenen“ Künstler hatten keine Zäune
Die drei „offenen“ Modelle (die jeder auf seinem eigenen Computer herunterladen und ausführen kann) hatten überhaupt keine Zäune. Wenn man sie bat, ein berühmtes Logo oder einen Prominenten zu zeichnen, taten sie es einfach. Sie sagten nicht „Nein“.
2. Die „privaten“ Künstler hatten Zäune, aber sie waren wackelig
Die 11 kostenpflichtigen, privaten Modelle (wie die von Amazon, Google und OpenAI) hatten Zäune. Die Stärke der Zäune variierte jedoch extrem:
- Der strenge Wächter: Ein Modell (Amazon's Titan Image G2) sagte zu etwa 50 % der Anfragen „Nein“. Es war sehr gut darin, Dinge zu blockieren.
- Der nachsichtige Wächter: Die Modelle eines anderen Unternehmens (Stability AI) sagten zu weniger als 2 % der Anfragen „Nein“. Sie ließen fast alles durch.
3. Die „Logo“-Lücke
Hier ist der überraschendste Teil: Die Zäune waren schlecht darin, kommerzielle Logos zu stoppen.
Selbst die strengsten Modelle ließen Anfragen zum Zeichnen von Logos (wie das Apple-Logo) fast immer durch. Es ist, als hätte der Zaun ein riesiges Loch speziell für Markennamen. Das Team fand heraus, dass Logos die am häufigsten generierten „berühmten“ Gegenstände waren.
4. Der „Namens“-Trick
Wenn Nutzer direkt fragten („Zeichne Wonder Woman“), sagten die Modelle viel eher „Nein“.
Aber wenn Nutzer den Charakter beschrieben, ohne ihn zu benennen („Zeichne eine große Frau mit einem rot-blauen Anzug und einer goldenen Lasso“), sagten die Modelle viel eher „Ja“ und zeichneten sie trotzdem. Es scheint, dass die Zäune hauptsächlich nach spezifischen Namen auf einer „Verbotsliste“ suchen, anstatt das tatsächliche Bild zu verstehen, das erstellt wird.
5. Berühmt vs. Unbekannt
Das Team fragte sich, ob die Modelle besser darin wären, super berühmte Dinge (wie Batman) als weniger berühmte zu blockieren.
- Verweigerungen: Die Modelle machten kaum einen Unterschied bei der Popularität; sie blockten berühmte und weniger berühmte Dinge in ähnlicher Rate.
- Erfolg: Wenn die Modelle jedoch etwas zeichneten, war die Wahrscheinlichkeit höher, dass sie die super berühmen Dinge erfolgreich nachbildeten. Es ist einfacher für die KI, ein sehr berühmtes Gesicht zu erkennen und zu reproduzieren, als ein weniger berühmtes.
Der „Richter“ (Wie sie die Antworten prüften)
Um die Ergebnisse zu bewerten, ließ das Team keinen Menschen jedes einzelne Bild anschauen (das würde ewig dauern). Stattdessen nutzten sie eine sehr intelligente KI-„Richterin“ (ein Vision-Language-Modell), um die generierten Bilder anzusehen und zu sagen: „Ja, das sieht wie ein berühmtes Ding aus“ oder „Nein, das ist nur eine generische Zeichnung“.
- Dieser „Richter“ war ziemlich gut, aber nicht perfekt. Es war wie eine strenge Lehrerin, die manchmal eine generische Zeichnung für etwas Berühmtes hält oder eine subtile Kopie übersieht.
Das Fazit
Stand März 2026 kommt der Bericht zu dem Schluss, dass, obwohl einige Unternehmen versuchen, Zäune zu bauen, um ihre KI am Kopieren berühmter Dinge zu hindern, die Zäune nicht sehr stark sind.
- Die meisten Modelle generieren immer noch erkennbare berühmte Charaktere und Logos.
- Logos sind am einfachsten zu generieren.
- Wenn man nicht den spezifischen Namen verwendet, ist die Wahrscheinlichkeit viel höher, dass die Modelle das berühmte Ding zeichnen lassen.
- Die „offenen“ Modelle haben gar keine Zäune.
Die Autoren warnen, dass dies nur eine Momentaufnahme ist. Die Zäune könnten morgen stärker werden oder die Modelle könnten besser darin werden, die Sperren zu umgehen. Aber im Moment sind diese KI-Tools immer noch sehr bereit, für Sie einen berühmten Charakter oder ein Logo zu zeichnen, wenn Sie darum bitten.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.