Deepfakes: we need to re-think the concept of "real" images
Dieses Positionspapier argumentiert, dass der aktuelle Fokus auf die Erkennung „gefälschter" Bilder grundlegend fehlerhaft ist, da er auf veralteten Definitionen und Datensätzen „realer" Bilder beruht, und fordert die Forschungsgemeinschaft auf, das Konzept der Authentizität neu zu bewerten, da die moderne Smartphone-Fotografie selbst auf neuronalen Netzwerkbasierten Algorithmen beruht, die jenen in generativen Modellen ähneln.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie sind ein Detektiv, der einen Fälscher zu fassen versucht. Ihre Aufgabe besteht darin, ein Gemälde zu betrachten und zu entscheiden: „Ist dies ein echtes Meisterwerk oder eine Fälschung?"
Seit Jahren baut die Community des maschinellen Lernens High-Tech-Scanner, um dieses „Deepfake"-Problem zu lösen. Sie haben ihre KI-Detektive an einer riesigen Bibliothek mit „echten" Gemälden (Fotos) trainiert, um zu lernen, wie Authentizität aussieht.
Das Problem: Die Autoren dieses Papiers argumentieren, dass die Detektive eine veraltete Bibliothek verwenden. Sie versuchen, moderne Fälschungen anhand einer Definition von „echt" zu entlarven, die vor etwa zehn Jahren nicht mehr funktionierte.
Hier ist die Aufschlüsselung ihres Arguments, unter Verwendung einfacher Analogien:
1. Das Problem der „alten Bibliothek"
Die KI-Detektive werden derzeit an Datensätzen (Bibliotheken von Fotos) trainiert, die überwiegend 10 bis 15 Jahre alt sind.
- Die Analogie: Stellen Sie sich vor, Sie versuchen, einem Schüler beizubringen, moderne Autos zu erkennen, indem Sie ihm Bilder von Model-T-Ford-Modellen zeigen. Der Schüler lernt, wie ein „Auto" aussieht, basierend auf Holzrädern und offenen Dächern. Wenn Sie ihm dann einen modernen Tesla zeigen, ist er vielleicht verwirrt, weil er nicht wie die „echten" Autos in seinem Buch aussieht.
- Die Realität: Das Papier zeigt, dass fast alle aktuellen „echten" Bilddatensätze alt, niedrig aufgelöst und stark komprimiert sind (wie JPEGs). Sie repräsentieren nicht die Fotos, die wir heute aufnehmen.
2. Der Wandel zum „intelligenten Kamera"
Heute werden über 90 % der Fotos mit Smartphones aufgenommen. Doch hier kommt die Wendung: Smartphones machen Fotos nicht nur „auf"; sie „berechnen" sie.
- Die Analogie: In den alten Tagen war eine Kamera wie ein Fenster. Man blickte hindurch, und das Licht traf den Film. Das Bild war eine direkte Aufnahme der Realität.
- Die neue Realität: Ein modernes Smartphone ist eher wie ein Küchenmixer. Sie geben rohe Zutaten hinein (Licht von mehreren Sensoren, mehrere Kameras, mehrere Bilder, die in einem Bruchteil einer Sekunde aufgenommen wurden), und der interne Computer des Telefons (unter Verwendung komplexer neuronaler Netze) mixt sie zu einem perfekten Smoothie (dem endgültigen Foto).
- Der Konflikt: Die KI-Detektoren wurden trainiert, um „gefälschte" Bilder zu erkennen, die von KI-Generatoren erstellt wurden. Doch nun werden auch die „echten" Bilder, die aus unseren Telefonen kommen, von KI-Algorithmen (neuronalen Netzen) innerhalb des Telefons erstellt. Die Grenze zwischen „echt" und „gefälscht" verschwimmt, weil die „echten" Fotos bereits digital zubereitet wurden.
3. Der gescheiterte Test
Die Autoren führten ein einfaches Experiment durch, um ihren Punkt zu beweisen.
- Der Test: Sie zeigten ihren besten „Fake-Erkennungs"-KI-Modellen zwei Dinge:
- Alte, qualitativ minderwertige Fotos aus dem Internet (die die KI gut kannte).
- Frische, rohe Fotos, die in der realen Welt mit den neuesten iPhones aufgenommen wurden.
- Das Ergebnis: Die KI funktionierte bei den alten Fotos hervorragend. Doch als sie die frischen iPhone-Fotos sah, geriet sie in Verwirrung und begann zu versagen. Sie konnte keinen Unterschied zwischen einem „echten" iPhone-Foto und einem „gefälschten" KI-Bild erkennen, weil das iPhone-Foto von der eigenen KI des Telefons verarbeitet worden war.
- Die Metapher: Es ist wie ein Sicherheitsbeamter, der trainiert wurde, Menschen mit roten Hüten zu erkennen. Er fängt jeden mit einem roten Hut. Doch dann beginnen auch die Polizeibeamten, rote Hüte zu tragen. Nun kann der Wächter die Kriminellen nicht mehr von der Polizei unterscheiden.
4. Die philosophische Falle
Das Papier argumentiert, dass wir in einer Schleife gefangen sind.
- Wenn wir „Echt" als „nicht von KI berührt" definieren, dann ist fast kein Foto mehr echt, da unsere Telefone KI verwenden, um das Licht zu korrigieren, Rauschen zu entfernen und das Bild zu schärfen.
- Wenn wir „Echt" als „von einem Menschen aufgenommen" definieren, hilft uns diese Definition nicht, da die KI des Telefons die schwere Arbeit geleistet hat.
Die Schlussfolgerung der Autoren
Das Papier bietet keinen neuen Algorithmus zur Reparatur der Detektoren. Stattdessen schlägt es Alarm: Wir müssen innehalten und das gesamte Spiel neu überdenken.
- Neue Daten: Wir benötigen neue Datensätze, die moderne, von Smartphones berechnete Fotos enthalten, nicht nur alte, niedrig aufgelöste.
- Neue Definitionen: Wir müssen uns darauf einigen, was „Echt" bedeutet. Ist ein Foto echt, wenn das Telefon es aufgehellt hat? Ist es gefälscht, wenn eine KI einen Makel entfernt hat? Wir können nicht mehr nur nach „digitalen Fingerabdrücken" suchen, weil auch die „echten" Fotos diese haben.
- Vielleicht funktionieren Detektoren nicht: Die Autoren schlagen vor, dass der Versuch, Fälschungen durch die Betrachtung der Bildpixel zu erkennen, möglicherweise eine Sackgasse ist. Stattdessen müssten wir uns vielleicht auf andere Methoden verlassen, wie digitale Wasserzeichen oder Blockchain-Signaturen, um die Herkunft eines Bildes zu beweisen, anstatt zu raten, ob es „echt" aussieht.
Kurz gesagt: Die Werkzeuge, die wir gebaut haben, um Lügner zu fassen, versagen, weil die Wahrheitsredenden (unsere Telefone) begonnen haben, dieselben Tricks wie die Lügner anzuwenden. Wir müssen das Regelbuch neu schreiben, bevor wir die nächste Generation von Fälschungen fassen können.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.