🤖 machine learning

From Fake to Real: Pretraining on Balanced Synthetic Images to Prevent Spurious Correlations in Image Recognition

Das Papier schlägt „From Fake to Real“ (FFR) vor, eine zweistufige Trainingspipeline, die Modelle auf balancierten synthetischen Daten vortrainiert, um robuste Subgruppenrepräsentationen zu erlernen, bevor sie auf realen Daten feinjustiert werden, wodurch das Entstehen durchmischter realer und synthetischer Verteilungen verursachende Scheinkorrelationen verhindert und die Worst-Group-Genauigkeit signifikant verbessert wird.

Ursprüngliche Autoren: Maan Qraitem, Kate Saenko, Bryan A. Plummer

Veröffentlicht 2026-08-11

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Maan Qraitem, Kate Saenko, Bryan A. Plummer

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie bringen einem Roboter bei, Tiere zu erkennen. Sie zeigen ihm tausende Fotos, aber es gibt ein hinterlistiges Problem: Fast jedes Foto eines „Großen Hundes“ wurde zufällig in einem gemütlichen Wohnzimmer aufgenommen, während fast jedes Foto eines „Kleinen Hundes“ draußen in einem Park entstanden ist. Der Roboter ist intelligent, aber er ist auch effizient. Anstatt zu lernen, wie ein Hund eigentlich aussieht, lernt er eine Abkürzung: „Wenn ich ein Sofa sehe, ist es ein Großer Hund. Wenn ich Gras sehe, ist es ein Kleiner Hund.“ In der Welt der Informatik nennt man das eine „Scheinkorrelation“. Der Roboter hat gelernt, sich auf den Hintergrund zu verlassen, anstatt auf das Motiv. Das ist ein großes Problem, denn wenn der Roboter draußen auf einen Großen Hund trifft, wird er verwirrt und scheitert. Wissenschaftler versuchen dies zu beheben, damit die KI die Welt klar sieht und nicht nur die Muster, in die sie getäuscht wurde.

Um dies zu beheben, haben Forscher einen cleveren Trick ausprobiert: Sie nutzen „generative KI“ (wie einen digitalen Künstler), um neue, künstliche Fotos zu erstellen, um die Bilanz auszugleichen. Wenn es nicht genug Bilder von Großen Hunden im Freien gibt, zeichnet der Computer einige dazu. Die Idee war, dass der Roboter durch das Mischen dieser neuen, künstlichen Fotos mit den echten Fotos schließlich lernen würde, den Hintergrund zu ignorieren. Doch wie sich herausstellte, hatte dieser Mix-and-Match-Ansatz einen verborgenen Fehler. Die neue Arbeit „From Fake to Real“ legt nahe, dass das einfache Mischen von echten und künstlichen Fotos tatsächlich eine neue Art der Abhängigkeit schafft. Der Roboter beginnt zu bemerken, dass die künstlichen Fotos sich leicht von den echten Fotos unterscheiden – vielleicht haben die künstlichen Hunde eine seltsame Textur oder das Licht ist ein kleines bisschen anders. So lernt der Roboter eine neue, noch hinterlistigere Abkürzung: „Wenn das Foto wie ein echtes Foto aussieht, ist es ein Kleiner Hund. Wenn das Foto wie eine künstliche Zeichnung aussieht, ist es ein Großer Hund.“ Er schaut gar nicht auf den Hund; er schaut darauf, ob das Bild echt oder synthetisch ist.

Die Autoren dieser Arbeit, Maan Qraitem, Kate Saenko und Bryan A. Plummer, erkannten, dass der Versuch, den Roboter mit sowohl echten als auch künstlichen Fotos gleichzeitig zu trainieren, das Problem war. Sie schlugen eine neue zweistufige Trainingsmethode namens „From Fake to Real“ (FFR) vor. Stellen Sie sich das wie das Unterrichten eines Schülers für eine Matheprüfung vor. Zuerst geben Sie ihm einen Stapel Übungsaufgaben, die perfekt ausbalanciert und leicht verständlich sind, damit er die Kernkonzepte ohne Verwirrung lernt. Dies ist die „Fake“-Phase: Der Roboter trainiert nur mit den perfekt ausbalancierten, computergenerierten Bildern. Er lernt, wie ein Hund aussieht, ohne die störenden Hintergrundablenkungen. Sob sobald der Roboter ein solides Fundament hat, gehen Sie zum zweiten Schritt über: die „Real“-Phase. Jetzt zeigen Sie ihm die unordentlichen, echten Fotos. Da der Roboter bereits weiß, worauf er achten muss, hat er aus dem ersten Schritt heraus keine Probleme mit dem Hintergrund oder der Tatsache, dass die Bilder echt sind. Er wendet einfach das Gelernte an.

Die Forscher testeten diese Idee mit drei verschiedenen Datensätzen, darunter Fotos von Gesichtern und Tieren, mit Bias-Niveaus, die von moderat bis extrem hoch (bis zu 99,9 % einer Gruppe in einer spezifischen Umgebung) reichten. Sie fanden heraus, dass ihre zweistufige Methode ein Wendepunkt war. Während frühere Methoden, die echte und künstliche Daten mischten, mit zunehmendem Bias zu kämpfen hatten, blieb der „From Fake to Real“-Ansatz stark. Tatsächlich verbesserte er die Genauigkeit des Roboters bei den schwierigsten Fällen (der „schlechtesten Gruppe“) im Vergleich zu den besten bestehenden Methoden um bis zu 20 %. Als sie genau untersuchten, worauf der Roboter tatsächlich achtete, sahen sie, dass die alten Methoden immer noch durch den Hintergrund oder die „Künstlichkeit“ der Bilder abgelenkt wurden, aber die neue Methode konzentrierte sich exakt auf den Hund oder das Gesicht der Person.

Die Autoren ließen auch Simulationen laufen, um zu beweisen, warum der alte Weg nicht funktionierte. Sie zeigten, dass der Roboter fast immer einen Weg finden wird, den Unterschied zwischen echten und synthetischen Daten als Unterscheidungsmerkmal zu nutzen, solange man echte und synthetische Daten mischt. Durch die Trennung des Trainings in zwei distinkte Phasen verhinderten sie effektiv, dass der Roboter den „Unterschied“ zwischen echt und künstlich jemals als Hinweis wahrnehmen konnte. Die Autoren merken an, dass diese Methode gut mit anderen Techniken kombiniert werden kann, weisen aber auch auf eine Einschränkung hin: Sie setzt voraus, dass der digitale Künstler in der Lage ist, einen perfekt ausbalancierten Satz künstlicher Bilder zu zeichnen. Wenn der Künstler das Gleichgewicht im ersten Schritt falsch setzt, leidet das gesamte System darunter. Dennoch bietet diese „Erst Fake, dann Real“-Strategie für den Moment eine überraschend einfache und effektive Methode, um zu verhindern, dass die KI die falschen Lektionen lernt, damit sie, wenn sie einen Hund sieht, auch wirklich einen Hund sieht und nicht den Raum, in dem er sich befindet.

Technisches Resümee: From Fake to Real (FFR)

Problemstellung
Visuelle Erkennungsmodelle neigen dazu, spurehafte Korrelationen zu erlernen, wenn Trainingsdatensätze verzerrt sind – etwa wenn eine bestimmte Bedingung $B$ (z. B. „Innen“) innerhalb einer spezifischen Klasse $Y$ (z. B. „Große Hunde“) überrepräsentiert ist. Während synthetische Daten, die durch groß angelegte generative Modelle (z. B. Diffusionsmodelle) erzeugt werden, einen vielversprechenden Weg zur Abhilfe bieten, indem sie unterrepräsentierte Untergruppen ergänzen, führen bestehende Ansätze eine neue Quelle von Bias ein.

Vorherige Methoden, wie Additive Synthetic Balancing (ASB) und Uniform Synthetic Balancing (USB), mischen reale und synthetische Daten während des Trainings. Die Autoren argumentieren, dass dies eine Störvariable $G$ (Datenquelle: Real vs. Synthetisch) erzeugt. Da sich synthetische und reale Daten oft in ihrer Verteilung unterscheiden (z. B. durch generative Artefakte), können Modelle, die auf gemischten Daten trainiert werden, dazu neigen, $Y$ basierend auf dem Paar $(B, G)$ vorherzusagen anstatt auf den wahren semantischen Merkmalen. Beispielsweise könnte ein Modell lernen, dass „synthetische Frauen“ lächeln, während „reale Frauen“ dies nicht tun, einfach weil der Prozess der synthetischen Generierung diese Korrelation erzeugt hat. Das Papier liefert einen theoretischen Beweis (Theorem 1), der zeigt, dass jede Augmentierung eines verzerrten Datensatzes mit synthetischen Daten in Standard-Spurious-Correlation-Szenarien zwangsläufig zu einem Bias gegenüber dem Paar $(B, G)$ führt.

Methodik: From Fake to Real (FFR)
Um den Bias gegenüber der Datenquelle $(B, G)$ zu adressieren, schlagen die Autoren From Fake to Real (FFR) vor, eine zweistufige Trainings-Pipeline, die das Lernen der synthetischen und realen Datenverteilungen voneinander trennt.

Stufe 1: Pretraining auf balancierten synthetischen Daten
Das Modell wird ausschließlich auf einem balancierten synthetischen Datensatz ( $D_{syn}$ ) vortrainiert, bei dem das Ziel-Label $Y$ statistisch unabhängig von der Bias-Gruppe $B$ ist ( $P_{D_{syn}}(Y|B) = P_{D_{syn}}(Y)$ ). Dies wird erreicht, indem eine gleiche Anzahl an synthetischen Bildern für jede Bias-Untergruppe unter Verwendung eines generativen Modells (z. B. Stable Diffusion) gezogen wird. Das Ziel ist es, robuste, unvoreingenommene Repräsentationen über alle Untergruppen hinweg zu erlernen, ohne der statistischen Unterschiede zwischen realen und synthetischen Daten ausgesetzt zu sein.
Stufe 2: Fine-Tuning auf realen Daten
Das aus Stufe 1 initialisierte Modell wird auf dem verzerrten realen Datensatz ( $D$ ) feinjustiert. Um zu verhindern, dass das Modell den in den realen Daten vorhandenen Bias wiedererlernt, nutzt diese Stufe die Standard-Empirical-Risk-Minimization (ERM) oder gängige auf Verlustfunktionen basierende Bias-Mitigation-Methoden (z. B. GroupDRO, Resampling, Deep Feature Reweighting). Da das Modell jedoch im Pretraining auf balancierten Daten trainiert wurde, startet es mit einer Repräsentation, die weniger anfällig für die spurehaften Korrelationen in den realen Daten ist.

Durch die Trennung der Datenquellen in zwei distinkte Trainingsphasen verhindert FFR, dass das Modell jemals die gemeinsame Verteilung von $(B, G)$ beobachtet, und vermeidet so das Erlernen von spurehaften Signalen bezüglich der Frage, ob ein Bild real oder synthetisch ist.

Zentrale Beiträge

Neuartige Pipeline: Einführung von FFR, einem einfachen, zweistufigen Trainings-Framework, das synthetische Daten zur Bias-Mitigation nutzt, ohne das Modell der Verteilungsdifferenz zwischen realen und synthetischen Daten auszusetzen.
Theoretische Analyse: Ein formaler Beweis, der zeigt, dass das Mischen von realen und synthetischen Daten in einer einzigen Trainingsphase zwangsläufig einen Bias gegenüber der Datenquelle $(B, G)$ einführt, wodurch vorherige Mixed-Training-Ansätze suboptimal werden.
Umfassende Evaluierung: Systematische Analyse über drei Datensätze (CelebA-HQ, UTK-Face, SpuCo Animals) und fünf Bias-Ratios (von 90 % bis 99,9 %), insgesamt über 5.000 Experimente.
Integration: Demonstration, dass FFR kompatibel mit und eine Verbesserung bestehender Methoden zur Bias-Mitigation ohne synthetische Daten (z. B. GroupDRO, DFR) darstellt.

Experimentelle Ergebnisse
Die Autoren evaluieren FFR gegenüber Baselines, einschließlich „keine synthetischen Daten“, USB und ASB, wobei Worst Accuracy (WA) und Balanced Accuracy (BA) als Metriken verwendet werden.

Leistungssteigerungen: FFR verbessert die Worst-Group-Accuracy gegenüber State-of-the-Art-Methoden um bis zu 20 % über die evaluierten Datensätze hinweg. Beispielsweise übertrifft FFR bei dem UTK-Face-Datensatz mit einer 95 %-Bias-Ratio USB und ASB um mehr als 10 %.
Robustheit: Im Gegensatz zu vorherigen Methoden, deren Leistung mit zunehmender Schwere des Bias signifikant abnimmt (insbesondere bei Celebala-HQ und UTK-Face), behält FFR eine stabile Performance über alle Bias-Ratios hinweg bei.
Feature-Lernen: Eine qualitative Analyse mittels RISE-Saliency-Maps zeigt, dass mit FFR trainierte Modelle sich auf relevante semantische Merkmale (z. B. das Gesicht des Hundes) konzentrieren anstatt auf spurehafte Hintergrundmerkmale oder generative Artefakte (z. B. zusätzliche Zehen in synthetischen Bildern). Im Gegensatz dazu verlassen sich ASB- und USB-Modelle häufig auf diese Artefakte.
Embedding-Analyse: t-SNE-Projektionen zeigen, dass FFR die Embeddings von realen und synthetischen Daten in einen einzigen, engen Cluster projiziert, was darauf hindeutet, dass das Modell gemeinsame Kernmerkmale lernt. Im Gegensatz dazu projizieren ASB und USB die realen und synthetischen Daten in separate Cluster, was bestätigt, dass sie sich auf quellspezifische Merkmale verlassen.

Bedeutung und Limitationen
Das Paper behauptet, dass FFR das Problem des durch die Verteilungsunterschiede zwischen realen und synthetischen Daten induzierten Bias effektiv löst – ein Problem, das von bisherigen synthetischen Augmentationsstrategien übersehen wurde. Durch die Entkopplung des Trainings dieser beiden Datenquellen ermöglicht FFR, dass synthetische Daten als Quelle unvoreingenommener Repräsentationen dienen, die die Leistung auf realen Daten verbessern.

Die Autoren räumen Einschränkungen hinsichtlich der Qualität der verwendeten generativen Modelle ein. Wenn das generative Modell selbst verzerrt ist oder Prompts nicht originalgetreu befolgt (z. B. Schwierigkeiten bei der Kompositionalität), kann die Pretraining-Verteilung weiterhin unbalanciert bleiben, was die Leistung von FFR erheblich beeinträchtigt (wie in den Ablationsstudien gezeigt). Zudem hängt die Methode von der Fähigkeit des generativen Modells ab, einen balancierten synthetischen Datensatz zu erzeugen; wenn das Modell bestimmte Untergruppen nicht präzise generieren kann, wird der Nutzen der ersten Stufe abgeschwächt. Die Autoren schlagen vor, dass zukünftige Arbeiten, die sich auf das Training fairerer und genauerer generativer Modelle konzentrieren, diese Probleme weiter lindern würden.

Technisches Resümee: From Fake to Real (FFR)

Mehr davon