Stellen Sie sich eine Welt vor, in der Sie Ihren Augen und Ohren nicht länger trauen können. Wir leben in einer Ära, in der Computer gelernt haben, so gut zu malen, zu singen und zu schauspielern, dass sie „falsche“ Versionen echter Menschen erschaffen können. Dies sind nicht nur schlechte Zeichnungen oder lustige Stimmenimitationen; es sind hyperrealistische digitale Fälschungen, die man Deepfakes nennt. Betrachten Sie sie als digitale Puppen: Man kann ein Video eines Politikers nehmen, sein Gesicht durch das eines anderen ersetzen, ihn Dinge sagen lassen, die er nie gesagt hat, oder sogar ein Video eines Prominenten generieren, der auf einem Einhorn auf dem Mars reitet, nur indem man einen Satz eintippt. Diese Technologie ist ein zweischneidiges Schwert. Einerseits ist sie ein magisches Werkzeug für Kreativität und Unterhaltung. Andererseits ist sie eine Waffe für Betrüger und Manipulatoren, die Menschen täuschen können, um ihnen Geld zu entlocken oder sie zur Glaubwürdigkeit von Lügen zu verleiten. Die große Frage für Wissenschaftler lautet: Wenn die Fälschungen immer besser werden, können wir Detektoren bauen, die klug genug sind, um sie zu entlarven, bevor sie Probleme verursachen?

Dieses Papier ist wie eine riesige, organisierte Schatzkarte für jeden, der versucht, dieses hochriskante Katzengame zu verstehen. Die Autoren, ein Team von Forschern aus Universitäten in Rumänien, den VAE und den USA, haben jede bekannte Methode sowohl für das Erstellen dieser Deepfakes als auch für das Entlarven derselben zusammengetragen. Sie sortieren das Chaos aus Bildern, Videos und Audiodateien, um einen klaren „Stammbaum“ (oder eine Taxonomie) davon zu erstellen, wie diese Fälschungen gemacht werden. Sie betrachten die Oldschool-Werkzeuge, wie Generative Adversarial Networks (GANs) – die wie zwei Künstler funktionieren, die gegeneinander kämpfen, wobei einer versucht, eine Fälschung zu malen, und der andere versucht, sie zu erkennen – und die neueren, supermächtigen „Diffusionsmodelle“, die dadurch arbeiten, dass sie langsam zufälliges statisches Rauschen in ein klares Bild verwandeln, ganz ähnlich wie ein Bildhauer, der einen Block Stein abträgt, um eine Statue zu enthüllen.

Die Forscher wenden ihre Aufmerksamkeit dann auf die Detektive: die Computerprogramme, die darauf ausgelegt sind, die Fälschungen zu entdecken. Sie überprüfen die besten derzeit verfügbaren Werkzeuge, die größtenteils komplexe neuronale Netze (mathematische Systeme, die vom menschlichen Gehirn inspiriert sind) verwenden, um nach winzigen, unsichtbaren Fehlern oder „Artefakten“ zu suchen, die Menschen entgehen. Aber hier ist der Twist, den sie entdeckt haben: die aktuellen besten Detektoren versagen. Als sie diese Detektoren mit Deepfakes testeten, die von brandneuen, leistungsstarken KI-Tools erstellt wurden, die die Detektoren noch nie zuvor gesehen hatten, wurden die Detektoren verwirrt und scheiterten daran, die Fälschungen zu erkennen. Es ist, als würde man einen Sicherheitsmann darauf trainieren, einen spezifischen Typ von gefälschtem Ausweis zu erkennen, nur damit die Kriminellen am nächsten Tag zu einer völlig neuen Art von Fälschung wechseln. Das Papier führt auch ein neues „Testgelände“ (einen Benchmark) ein, um dieses Versagen zu messen, und schlägt vor, dass wir das Spiel vielleicht ganz ändern müssen – etwa indem wir die Quelle des Inhalts mithilfe der Blockchain-Technologie verifizieren oder uns auf bestimmte Personen konzentrieren, um die Erkennung zu erleichtern.

Das große Ganze: Was passiert hier?

Deepfakes sind im Wesentlichen digitale Illusionen. Sie können Bilder (Fotos), Videos (bewegte Bilder), Audio (Stimmen) oder multimodal (Videos mit Ton) sein. Das Papier unterteilt die Herstellung dieser Fälschungen in verschiedene „Geschmacksrichtungen“:

• Identitätsaustausch (Identity Swapping): Das Gesicht einer Person nehmen und auf den Körper einer anderen Person übertragen (wie ein Gesichtstausch).
• Ausdrucksaustausch (Expression Swapping): Eine Person glücklich aussehen lassen, obwohl sie eigentlich traurig war, ohne dabei die Identität zu ändern.
• Talking Face Synthesis: Die Lippen einer Person bewegen und ihr Gesichtsausdruck so verändern, dass er zu einer Sprachaufnahme passt, selbst wenn sie diese Worte nie gesagt hat.
• Text-zu-Bild/Video: Einen Satz wie „Morgan Freeman reitet auf einem Einhorn“ eintippen und den Computer ein brandneues Video davon aus dem Nichts generieren lassen.

Die Autoren fanden heraus, dass die „Ersteller“ dieser Fälschungen einige Hauptwerkzeuge verwendet haben. Die alten Favoriten waren GANs und VAEs (Variational Autoencoders), aber die neuen Schwergewichte sind Diffusionsmodelle und Transformer. Diese neuen Werkzeuge sind so gut, dass sie qualitativ hochwertige Fälschungen in Sekundenschnelle generieren können.

Die Detektivarbeit: Wie versuchen wir, sie zu fangen?

Auf der anderen Seite des Tisches sitzen die Detektoren. Lange Zeit wurden diese Detektoren darauf trainiert, die „Fehler“ zu finden, die von älteren KI-Tools hinterlassen wurden. Wenn beispielsweise eine alte KI Schwierigkeiten hatte, eine gefälschte Nase auf ein echtes Gesicht zu blenden, lernte der Detektor, nach genau diesem Unschärfeeffekt zu suchen. Das Papier ordnet diese Detektoren nach ihrer Funktionsweise ein:

• CNNs: Diese sind wie traditionelle Kameras, die ein Bild Pixel für Pixel scannen, um Muster zu finden.
• Transformer: Dies sind neuere, intelligentere Systeme, die das gesamte Bild (oder Video) auf einmal betrachten und verstehen, wie die verschiedenen Teile miteinander zusammenhängen.
• Hybride Modelle: Diese kombinieren das Beste aus beiden Welten.

Die Forscher haben eine riesige Liste von Datensätzen (Sammlungen von echten und gefälschten Videos) zusammengestellt, die Wissenschaftler zum Trainieren und Testen ihrer Detektoren verwenden. Sie haben berühmte Datensätze wie FaceForensics++, Celeb-DF und DeepFake-TIMIT untersucht. Sie haben sogar ein Ranking erstellt, welche Detektoren bei diesen spezifischen Tests am besten abschneiden.

Die schockierende Entdeckung: Die Detektoren verlieren

Dies ist der wichtigste Teil des Papiers. Die Autoren nahmen die „besten“ Detektoren – jene, die bei alten Tests eine Genauigkeit von 99 % erreichten – und warfen sie in eine neue Herausforderung: das Out-of-Distribution-Testing. Das bedeutet, sie testeten die Detektoren an Deepfakes, die von neuen, ungesehenen KI-Tools erstellt wurden, mit denen die Detektoren zuvor noch nie trainiert worden waren.

Das Ergebnis? Die Detektoren versagten kläglich.

Das Papier zeigt, dass die Detektoren zurückfallen, wenn die KI-Ersteller ihre Werkzeuge verbessern. Ein Detektor, der perfekt darin war, Fälschungen erstellt durch Tool A zu erkennen, könnte gegenüber Fälschungen erstellt durch Tool B völlig blind sein. Die Autoren legen nahe, dass dies daran liegt, dass die Detektoren lernen, die spezifischen „Fingerabdrücke“ der alten Werkzeuge zu erkennen, anstatt das grundlegende Wesen dessen zu verstehen, was einen Deepfake zu einem Deepfake macht. Es ist, als würde man einem Hund beibringen, nur bei roten Autos zu bellen; wenn ein blaues Auto vorbeifährt, bleibt der Hund stumm.

Was kommt als Nächstes? Neue Ideen und Werkzeuge

Da der aktuelle „Finde-die-Fälschung“-Ansatz Schwierigkeiten hat, schlägt das Papier frische Ideen vor:

1. Ein neuer Benchmark: Die Autoren haben einen neuen Test entwickelt (der auf ihrer Website verfügbar ist), der speziell darauf ausgelegt ist zu sehen, wie gut Detektoren mit diesen „ungesehenen“ Fälschungen umgehen können. Dies hilft Forschern, die tatsächlichen Schwächen ihrer Systeme zu erkennen.
2. POI-Erkennung (Person-of-Interest): Anstatt zu versuchen zu erraten, ob irgendein Video gefälscht ist, was wäre, wenn wir das Video mit einem bekannten, verifizierten Foto der betreffenden Person vergleichen? Wenn das Video nicht mit dem bekannten Foto übereinstimmt, ist es eine Fälschung. Dies vereinfacht das Problem.
3. Blockchain-Lösungen: Anstatt zu versuchen, Fälschungen zu erkennen, nachdem sie bereits aufgetaucht sind, warum nicht die Quelle des Inhalts verifizieren, bevor er geteilt wird? Das Papier schlägt vor, die Blockchain (ein sicheres digitales Register) zu nutzen, um den Ursprung von Medien zu verfolgen und sicherzustellen, dass nur verifizierte Inhalte geteilt werden.

Das Faztag

Dieses Papier ist ein Weckruf. Es sagt uns, dass wir zwar enorme Fortschritte sowohl bei der Erstellung als auch bei der Erkennung von Deepfakes gemacht haben, der „Wettrüsten“ jedoch noch lange nicht vorbei ist. Die aktuellen Detektoren sind zu spezialisiert; sie sind großartig darin, die Fälschungen von gestern zu fangen, werden aber von den Fälschungen von morgen leicht getäuscht. Die Autoren kommen zu dem Schluss, dass wir aufhören müssen, uns allein auf das Finden von „Fehlern“ zu verlassen, und statfangen müssen, Systeme zu bauen, die generalisieren können – das heißt, Systeme, die eine Fälschung erkennen können, egal welches Werkzeug verwendet wurde, um sie zu erstellen. Bis dahin wird die Linie zwischen Realität und digitaler Illusion weiterhin verschwimmen, und wir benötigen bessere Werkzeuge, um die Wahrheit zu schützen.