AI-Powered Facial Mask Removal Is Not Suitable For Biometric Identification
Die Studie kommt zu dem Schluss, dass KI-gestützte Verfahren zur Entfernung von Gesichtsmasken für biometrische Identifizierungszwecke ungeeignet sind, da sie zu unzuverlässigen Ergebnissen und Fehlidentifizierungen führen können.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Titel: Warum KI-Gesichtsmasken-Entfernung für die Identifizierung von Menschen eine schlechte Idee ist
Stellen Sie sich vor, Sie sehen ein verschwommenes Foto eines Verbrechers, der eine Maske trägt. Ein neugieriger Nachbar lädt das Bild in einen KI-Chatbot hoch und sagt: „Mach mal die Maske weg, damit wir sehen, wer das ist!" Die KI generiert ein neues, scharfes Bild eines Gesichts. Der Nachbar ist überzeugt: „Das ist er! Ich erkenne ihn!"
Die neue Studie von Emily Cooper und Hany Farid von der UC Berkeley sagt jedoch ganz klar: Halt! Das ist eine gefährliche Illusion.
Hier ist die Erklärung, warum das funktioniert wie ein Zaubertrick, aber nicht wie ein Fingerabdruck-Scanner.
1. Der Hintergrund: Ein gefährlicher Irrtum
In der echten Welt ist bereits passiert, dass Leute durch solche KI-Tricks völlig falsche Personen verdächtigt haben. Ein bekanntes Beispiel: Ein Agent der US-Behörde trug eine Maske. Nutzer nutzten eine KI, um die Maske digital zu entfernen. Das Ergebnis sah so realistisch aus, dass die Leute glaubten, sie hätten den Täter identifiziert. Sie nannten einen völlig unschuldigen Mann beim Namen, der zufällig ähnlich aussah.
Die Forscher wollten wissen: Ist das Gesicht, das die KI erfindet, wirklich das Gesicht der echten Person?
2. Der Experiment: Ein Test mit vier Gruppen
Um das herauszufinden, haben die Forscher vier verschiedene „Gruppen" von Gesichtern getestet:
- Die „Einen": Verschiedene Menschen, die man kennt.
- Die „Doppelgänger": Menschen, die sich zufällig sehr ähnlich sehen (wie Zwillinge, die nicht verwandt sind).
- Die „Maskierten": Echte Fotos von US-Senatoren mit Mundschutz.
- Die „Künstlich Verdeckten": Gesichter, bei denen die Forscher die untere Hälfte einfach digital abgeschnitten haben.
Sie gaben diese Bilder in drei verschiedene KI-Modelle (ChatGPT, Gemini und GrokAI) und ließen sie die Masken oder den abgeschnittenen Teil „nachmalen".
3. Die Analogie: Der Koch und das fehlende Rezept
Stellen Sie sich die KI wie einen Koch vor, der ein Rezept für ein Gericht (das Gesicht) hat, aber ihm fehlen wichtige Zutaten (die untere Gesichtshälfte oder die Maske).
- Die echte Person: Das ist das Originalgericht.
- Die KI: Der Koch, der sagt: „Ich weiß, wie ein Hamburger normalerweise schmeckt, also baue ich mir einen."
Das Problem: Der Koch hat keine Ahnung, wie Ihr spezifischer Burger genau schmeckt. Er nutzt nur statistische Wahrscheinlichkeiten.
- Wenn er eine Nase malen soll, malt er eine „durchschnittliche" Nase.
- Wenn er einen Mund malen soll, malt er einen „durchschnittlichen" Mund.
Das Ergebnis sieht zwar lecker und realistisch aus, aber es ist nicht Ihr Burger. Es ist ein Burger, der irgendeinem ähnlichen Burger ähnelt.
4. Die Ergebnisse: Der „Gesichts-Test"
Die Forscher haben die von der KI gemalten Gesichter mit einem biometrischen Scanner (einem digitalen Fingerabdruck für Gesichter) verglichen.
- Das Ergebnis: Die KI-Gesichter lagen irgendwo in der Mitte. Sie sahen nicht aus wie die echte Person (das wäre ein perfekter Treffer), aber sie sahen auch nicht aus wie ein völlig fremder Mensch.
- Der Vergleich: Die KI-Gesichter waren oft näher an den „Doppelgängern" als an der echten Person.
- Die Schwankung: Wenn man die KI 100 Mal denselben Auftrag gab, bekam man 100 leicht unterschiedliche Gesichter. Einmal hatte der „erfundene" Mann einen breiteren Mund, das nächste Mal eine andere Nase.
Das ist wie wenn Sie versuchen, einen Menschen an seiner Stimme zu erkennen, aber jemand spielt Ihnen eine Aufnahme vor, die die KI aus verschiedenen Stimmen gemischt hat. Sie hören eine Stimme, die ähnlich klingt, aber es ist nicht die echte Person.
5. Warum ist das so gefährlich?
Die KI ist ein Künstler, kein Detektiv.
- Ein Detektiv sucht nach Beweisen, die exakt übereinstimmen.
- Ein Künstler (die KI) sucht nach dem, was wahrscheinlich gut aussieht.
Wenn die KI eine Maske entfernt, „erfindet" sie die fehlenden Teile basierend auf dem, was sie in Millionen anderen Fotos gelernt hat. Sie kann nicht erraten, wie Ihr Bart aussieht oder wie Ihre Lippen geformt sind, wenn sie diese nicht sieht.
Fazit: Ein Warnschild
Die Studie kommt zu einem klaren Schluss: Verlassen Sie sich niemals auf KI, um verdeckte Gesichter zu identifizieren.
Es ist wie ein Wetterbericht, der sagt: „Es könnte morgen regnen, weil es oft regnet." Das mag statistisch stimmen, aber wenn Sie daraufhin Ihre Wäsche aufhängen, werden Sie nass.
Für die Justiz, die Polizei oder für Bürger, die online Ermittlungen durchführen, ist diese Technologie aktuell nicht verlässlich. Sie erzeugt eine überzeugende Fälschung, die so real aussieht, dass sie uns glauben lässt, wir hätten die Wahrheit gesehen. Aber in Wirklichkeit haben wir nur eine sehr gute Vermutung gesehen – und bei der Identifizierung von Menschen reicht eine Vermutung nicht aus.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.