The Deepfakes We Missed: We Built Detectors for a Threat That Didn't Arrive
Dieses Positionspapier argumentiert, dass sich das jahrzehntelange Fokussieren der Machine-Learning-Community auf die Erkennung von Deepfakes bekannter Persönlichkeiten von der Realität entfremdet hat, da die tatsächlichen dominierenden Bedrohungen sich auf nicht einvernehmliche intime Bilder, Betrug durch Stimmenklone und emotionale Betrügereien verlagert haben, wodurch eine kritische Engstelle in der realen Verteidigung entsteht, die eine sofortige Neuausrichtung der Forschungsagenden erfordert.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Das große Ganze: Der falsche Schutzschild
Stellen Sie sich eine Gruppe von Ingenieuren vor, die zehn Jahre damit verbringt, den ultimativen Feuerlöscher zu entwickeln. Sie verbringen ihre gesamte Zeit und ihr Geld damit, ihn gegen massive, tobende Waldbrände zu testen, von denen sie glauben, dass sie eintreten werden. Sie bauen riesige Tanks, entwickeln komplexe Sprühmuster und schreiben Handbücher darüber, wie man ein Feuer bekämpft, das eine ganze Stadt niederbrennen könnte.
Doch wenn die „Feuersaison" endlich eintrifft, geschehen die massiven Waldbrände nie. Stattdessen entpuppt sich die tatsächliche Gefahr als tausende kleine, versteckte Küchenbrände, die in den Häusern der Menschen ausbrechen, und Gaslecks in ihren Kellern.
Die Ingenieure stehen immer noch mit ihren riesigen Waldbrand-Löschern da, bereit, die Stadt zu retten, während der eigentliche Schaden in den Küchen und Kellern entsteht. Das Paper argumentiert, dass das Feld der KI-gestützten Deepfake-Erkennung genau in dieser Situation steckt.
Das Waldfeuer, das nie stattfand (T1)
Im letzten Jahrzehnt waren Forscher besessen von einer bestimmten Art von Deepfake: gefälschten Videos berühmter Personen (wie Politiker oder Filmstars), die Dinge sagen, die sie nie gesagt haben.
- Die Angst: Alle waren entsetzt über die Vorstellung, ein gefälschtes Video eines Präsidenten, der einen Krieg erklärt, oder eines Prominenten, der einen Betrug bewirbt, würde das Chaos bei Wahlen auslösen und das Vertrauen in Videobeweise zerstören.
- Die Realität: Bei den globalen Wahlen 2024 trat diese spezifische Katastrophe nicht ein. Zwar tauchten einige gefälschte Videos von Politikern auf, doch normale Menschen, Journalisten und Faktenprüfer stellten sie auf. Sie benötigten keinen KI-Detektor mit Supercomputer-Leistung, um sie zu finden; menschliche Augen haben die Arbeit erledigt.
- Die Forschung: Trotzdem konzentrieren sich 71 % aller Forschungsarbeiten und Datensätze nach wie vor ausschließlich darauf, diese „Videos berühmter Personen" zu fangen. Es ist, als würden die Ingenieure immer noch ihre Waldbrand-Löscher polieren.
Die Küchenbrände, die tatsächlich stattfanden (T2, T3, T5)
Während die Forscher in den Himmel schauten, um das große Feuer zu sehen, geschah der eigentliche Schaden in drei spezifischen Bereichen, die kaum Beachtung fanden:
Der „Küchenbrand" (Peer-erzeugte NCII):
- Was es ist: Normale Menschen (oft Schüler oder Bekannte) nutzen KI, um gefälschte, intime Bilder anderer normaler Menschen ohne deren Einverständnis zu erstellen.
- Das Ausmaß: Dies explodiert gerade. Im Jahr 2025 zeigten Berichte eine 260-fache Zunahme von KI-generiertem Missbrauchsmaterial für Kinder und nicht einvernehmlichen intimen Bildern.
- Die Lücke: Forscher haben fast keine Detektoren dafür. Es ist, als hätte man einen Feuerlöscher für Wälder, aber keine Rauchmelder für Häuser.
Das „Gasleck" (Voice-Clone-Betrug):
- Was es ist: Betrüger nutzen KI, um die Stimmen von Familienmitgliedern oder Vorgesetzten zu klonen, um Menschen zu täuschen und Geld zu überweisen.
- Das Ausmaß: Im Jahr 2025 verursachten diese Betrügereien fast 900 Millionen Dollar Verluste. Ein bekannter Fall betraf einen Finanzmitarbeiter, der 25 Millionen Dollar überwies, weil er glaubte, in einem Videoanruf mit seinem Chef zu sprechen (der in Wirklichkeit ein KI-Avatar war).
- Die Lücke: Die meisten Forschungsarbeiten betrachten vorab aufgezeichnete Audioaufnahmen im Studio. Doch diese Betrügereien finden in Echtzeit-Telefonaten mit schlechter Verbindungsqualität statt. Die aktuellen Detektoren sind zu langsam und funktionieren nicht in Telefonleitungen.
Die „versteckten Rohre" (Messaging-Apps):
- Was es ist: Gefälschte Inhalte verbreiten sich über private Gruppenchats (wie WhatsApp oder Telegram), in denen die Verschlüsselung den Inhalt vor der öffentlichen Sicht verbirgt.
- Das Ausmaß: So verbreiten sich die „Küchenbrände" (die Betrügereien mit intimen Bildern).
- Die Lücke: Aktuelle Detektoren sind für das „offene Web" (wie YouTube oder Twitter) gebaut. Sie können nicht in private, verschlüsselte Nachrichten hineinsehen.
Warum schauen wir immer noch auf das Falsche?
Das Paper fragt: Wenn die großen Waldbrände nicht stattfanden, warum bauen wir dann immer noch Waldbrand-Löscher?
Es identifiziert drei Gründe, warum die Forschungscommunity feststeckt:
- Die „Testpunktzahl"-Falle: Forscher müssen Papers veröffentlichen, um Jobs und Fördergelder zu erhalten. Dazu verwenden sie standardisierte „Testsets" (wie FaceForensics++). Diese Tests enthalten nur berühmte Personen. Wenn Sie versuchen, einen Detektor für Sprachbetrug oder private Bilder zu testen, gibt es keinen Standardtest, den Sie verwenden können. Es ist, als würden Sie den Führerschein machen wollen, aber der einzige verfügbare Test ist das Fahren eines Rennwagens auf einer Strecke, obwohl Sie einen Minivan in der Stadt fahren müssen.
- Die „Privatsphären-Mauer": Es ist sehr einfach, Bilder von Prominenten zu beschaffen, um KI zu trainieren. Es ist jedoch illegal und unethisch, private Fotos von Opfern oder Aufnahmen von Betrugsanrufen zu sammeln. Da die Daten schwer zu beschaffen sind, meiden Forscher die Arbeit daran.
- Der „Titel"-Effekt: Ein gefälschtes Video eines Präsidenten macht die Abendnachrichten. Ein gefälschtes Video eines Teenagers, der in einem Gruppenchat gemobbt wird, nicht. Forscher und Geldgeber folgen den Schlagzeilen, nicht den tatsächlichen Statistiken darüber, wer verletzt wird.
Die Lösung: Die Karte ändern
Das Paper sagt nicht, dass wir die Untersuchung von Deepfakes berühmter Personen vollständig einstellen sollten. Stattdessen argumentiert es, dass wir unsere Bemühungen neu ausbalancieren müssen.
Es schlägt drei neue Forschungsagenden vor:
- Echtzeit-Telefondetektoren: Entwickeln Sie KI, die einen Live-Telefonanruf mithören und in weniger als einer Sekunde sagen kann: „Warten Sie, diese Stimme klingt gefälscht", selbst bei schlechter Telefonverbindung.
- Private „Haus"-Detektoren: Erstellen Sie Tools, die auf Ihrem eigenen Telefon laufen, um zu prüfen, ob ein Foto gefälscht ist, bevor Sie es teilen, ohne Ihre privaten Fotos an einen zentralen Server zu senden (zum Schutz der Privatsphäre).
- Chat-App-Abwehrmaßnahmen: Entwickeln Sie Methoden, um gefälschte Inhalte in privaten Gruppenchats zu erkennen, ohne die Verschlüsselung zu brechen.
Das Fazit
Das Paper kommt zu dem Schluss, dass das größte Problem im Kampf gegen Deepfakes nicht darin besteht, dass unsere KI nicht intelligent genug ist. Das Problem ist, dass wir eine Karte aus dem Jahr 2017 verwenden, um eine Welt von 2026 zu navigieren. Wir haben Detektoren für eine Bedrohung gebaut, die nicht eingetroffen ist, während die Bedrohungen, die eingetroffen sind, ungebremst wachsen. Es ist Zeit, den Waldbrand-Löscher beiseite zu legen und Rauchmelder für die Häuser zu bauen, in denen die echte Gefahr lauert.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.