Verifying Provenance of Digital Media: Why the C2PA Specifications Fall Short
Dieser Beitrag stellt die erste umfassende unabhängige Sicherheitsanalyse der C2PA-Spezifikationen vor, die durch formale Methoden aufzeigt, dass das System seine behaupteten Sicherheitsziele sowie zusätzliche Anforderungen für einen vertrauenswürdigen Einsatz nicht erfüllt, und warnt somit vor einer vorzeitigen Nutzung für hochriskante Anwendungen wie Journalismus und forensische Beweismittel.
Originalarbeit unter CC0 1.0 der Gemeinfreiheit gewidmet (http://creativecommons.org/publicdomain/zero/1.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie haben gerade ein seltenes, teures Gemälde gekauft. Um zu beweisen, dass es echt ist, gibt Ihnen der Künstler eine spezielle, unzerstörbare Plastikhülle mit einem Hologrammaufkleber darauf. Der Aufkleber besagt: „Ich habe dies am Dienstag erstellt, und ich versichere, dass es das Original ist." Sie fühlen sich sicher, oder?
Stellen Sie sich nun eine Gruppe von Sicherheitsexperten (die Autoren dieses Papiers) vor, die sich diese Plastikhülle und die Regeln für ihre Herstellung angesehen haben. Sie stellten fest, dass die Idee zwar großartig ist, die tatsächliche Hülle jedoch einige riesige Löcher aufweist. Tatsächlich könnte ein Fälscher den Aufkleber leicht austauschen, das Datum ändern oder sogar eine gestohlene Künstlersignatur verwenden, und die Hülle würde es nicht bemerken.
Hier ist eine einfache Aufschlüsselung dessen, was das Papier über C2PA aussagt, ein System, das entwickelt wurde, um die Herkunft digitaler Fotos und Videos nachzuweisen.
Die große Idee: Ein „digitaler Reisepass"
C2PA ist wie ein digitaler Reisepass für Fotos und Videos. Wenn eine Kamera oder ein KI-Programm ein Bild erstellt, versucht C2PA, ein „Inhaltszertifikat" (ein digitales Etikett) daran anzuhängen. Dieses Etikett soll Ihnen Folgendes mitteilen:
- Wer es erstellt hat (eine Kamera oder ein Computer).
- Wann und wo es erstellt wurde.
- Ob es bearbeitet wurde.
Das Ziel ist es, zu verhindern, dass Menschen durch gefälschte KI-Bilder getäuscht werden. Die großen Technologieunternehmen (wie Adobe, Google und Microsoft) bauen dieses System auf.
Das Problem: Der Reisepass hat Mängel
Die Forscher testeten das C2PA-System und stellten fest, dass es nicht so gut funktioniert, wie die Unternehmen behaupten. Sie fanden sechs Hauptwege, auf denen ein Böswilliger das System täuschen könnte.
1. Der „Datumsaufkleber" kann ausgetauscht werden
Die Analogie: Stellen Sie sich vor, Ihr Reisepass hat einen Stempel mit der Aufschrift „Ausgestellt im Jahr 2024". Aber das Papier, das den Stempel hält, ist nicht festgeklebt. Ein Fälscher kann den 2024er-Stempel abziehen, einen 2020er-Stempel aufkleben, und der Reisepass sieht immer noch „gültig" aus.
Die Behauptung des Papiers: C2PA ermöglicht es Menschen, das Datum, an dem ein Foto erstellt wurde, zu ändern, ohne das Sicherheitssiegel zu brechen. Wenn ein Politiker ein gefälschtes Video von „letzter Woche" postet, könnte das System möglicherweise nicht erkennen, dass das Datum gefälscht wurde.
2. Verwendung von „abgelaufenen" oder „gestohlenen" Schlüsseln
Die Analogie: Stellen Sie sich einen Sicherheitsbeamten in einem Club vor, der jeden hereinlässt, solange er einen VIP-Ausweis hat. Aber der Beamte prüft nie, ob dieser Ausweis als gestohlen gemeldet wurde oder ob die VIP-Mitgliedschaft letzten Monat abgelaufen ist.
Die Behauptung des Papiers: Wenn der geheime Schlüssel einer Kamera gestohlen wird oder einem Unternehmen die Berechtigung entzogen wird, Fotos zu signieren, prüfen C2PA-Validatoren (die „Wächter") dies oft nicht. Sie lassen die gefälschten Fotos trotzdem herein und halten sie für echt.
3. Die „Schiedsrichter" können sich nicht einigen
Die Analogie: Stellen Sie sich vor, Sie zeigen einem Foto zwei Schiedsrichter, um zu sehen, ob es echt ist. Schiedsrichter A sagt: „Das ist zu 100 % echt!" Schiedsrichter B sagt: „Das ist eine Fälschung!" Sie wissen nicht, wem Sie vertrauen sollen.
Die Behauptung des Papiers: Unterschiedliche Tools, die C2PA-Fotos überprüfen, geben oft unterschiedliche Antworten für exakt dasselbe Bild. Ein Tool könnte sagen, ein Foto sei sicher, während ein anderes sagt, es sei gefährlich. Das verwirrt alle.
4. Die „Ausschlusszone"-Lücke
Die Analogie: Stellen Sie sich vor, Ihr Reisepass hat einen Abschnitt für „Persönliche Daten", der mit einem Stück Klebeband abgedeckt ist. Die Regeln besagen: „Wir prüfen nicht, was unter dem Klebeband ist." Ein Fälscher kann eine gefälschte Adresse unter dieses Klebeband schieben, und der Reisepass gilt immer noch als gültig.
Die Behauptung des Papiers: C2PA erlaubt es, bestimmte Teile einer Datei (wie GPS-Standort) vom Schutz „auszuschließen". Angreifer können die Standortdaten ändern, ohne das Siegel zu brechen, sodass es so aussieht, als wäre ein Foto in Paris aufgenommen worden, obwohl es tatsächlich in einem Studio aufgenommen wurde.
5. Der Reisepass läuft zu schnell ab
Die Analogie: Sie erhalten einen Reisepass, der nur 6 Monate gültig ist. Danach sagt das System, selbst wenn das Foto echt ist: „Ich kann dies nicht mehr verifizieren."
Die Behauptung des Papiers: Da die digitalen Zertifikate schnell ablaufen, können Fotos, die heute gültig waren, in ein paar Monaten „nicht mehr verifizierbar" werden. Dies ist eine Katastrophe für Dinge wie gerichtliche Beweise oder Wahldokumente, die Jahre später überprüft werden müssen.
6. Das „Siegel der Genehmigung" ist gefälscht
Die Analogie: Stellen Sie sich ein „Zertifiziert sicher"-Etikett auf einem Bankschrank vor. Aber das Unternehmen, das das Etikett vergibt, überprüft den Schrank tatsächlich nicht; es fragt einfach den Bankbesitzer: „Ist Ihr Schrank sicher?" und nimmt deren Wort dafür.
Die Behauptung des Papiers: Das C2PA-„Konformitätsprogramm" (die Gruppe, die Produkte zertifiziert) testet die Software tatsächlich nicht und betrachtet den Code nicht. Sie verlassen sich darauf, dass Unternehmen sagen: „Wir haben es richtig gemacht." Ein Produkt kann also „zertifiziert" sein, aber dennoch die oben genannten Sicherheitslücken aufweisen.
Das Fazit
Die Forscher sagen: Vertrauen Sie C2PA noch nicht.
Sie sagen nicht, dass die Idee schlecht ist. Es ist ein vielversprechendes Konzept, wie ein guter Bauplan für ein Haus. Aber die aktuelle Konstruktion ist voller Risse. Wenn wir dieses System jetzt für wichtige Dinge verwenden – wie gerichtliche Beweise, Nachrichtenberichterstattung oder Finanzdokumente – könnten wir von Fälschungen getäuscht werden, die perfekt echt aussehen.
Die Lösung: Bevor wir uns auf dieses System verlassen, müssen die Regeln verschärft werden. Wir müssen sicherstellen, dass:
- Abgelaufene Schlüssel tatsächlich blockiert werden.
- Daten nicht ausgetauscht werden können.
- Alle ÜberprüfungsTools miteinander übereinstimmen.
- Das „Siegel der Genehmigung" echte Sicherheitstests beinhaltet und nicht nur ein Versprechen ist.
Bis diese Korrekturen vorgenommen sind, warnt das Papier davor, dass die reliance auf C2PA das Problem der Fake News tatsächlich verschlimmern könnte, statt es zu verbessern.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.