💬 NLP

From Preferences to Prejudice: The Role of Alignment Tuning in Shaping Social Bias in Video Diffusion Models

Dit onderzoek introduceert *VideoBiasEval*, een diagnostisch kader dat aantoont hoe het afstemmen van videodiffusiemodellen op menselijke voorkeuren sociale vooroordelen niet alleen versterkt, maar deze ook tijdelijk stabieler en stereotyper maakt in gegenereerde video's.

Oorspronkelijke auteurs: Zefan Cai, Haoyi Qiu, Haozhe Zhao, Ke Wan, Jiachen Li, Jiuxiang Gu, Wen Xiao, Nanyun Peng, Junjie Hu

Gepubliceerd 2026-02-12

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Zefan Cai, Haoyi Qiu, Haozhe Zhao, Ke Wan, Jiachen Li, Jiuxiang Gu, Wen Xiao, Nanyun Peng, Junjie Hu

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een supermoderne robot hebt die prachtige filmpjes kan maken van alles wat je maar bedenkt. Je zegt: "Maak een filmpje van iemand die aan het sporten is," en de robot tovert direct een film van hoge kwaliteit op je scherm. Klinkt fantastisch, toch?

Maar er is een addertje onder het gras. Deze onderzoekers hebben ontdekt dat deze robots een soort "verborgen vooroordelen" hebben. En het ergste is: de manier waarop we ze proberen te verbeteren, maakt die vooroordelen vaak alleen maar sterker.

Hier is de uitleg van het onderzoek, uitgelegd in gewone mensentaal.

1. De Robot en de "Gouden Standaard" (Alignment Tuning)

Om de robot betere filmpjes te laten maken, geven we hem een soort "smaaktest". We laten hem duizenden filmpjes zien en zeggen: "Dit filmpje is mooi, dit filmpje is lelijk." De robot leert van deze menselijke voorkeuren. Dit noemen we Alignment Tuning. Het is alsof je een kok leert wat mensen lekker vinden: "Mensen houden van zout, dus voeg meer zout toe."

2. Het Probleem: De "Smaak" is Bevooroordeeld

Het probleem is dat de mensen die de smaaktest doen, onbewust hun eigen vooroordelen meenemen. Als de meeste mensen die de test doen toevallig witte mannen met kort haar "mooier" of "professioneler" vinden, dan leert de robot: "Ah, zout is niet genoeg, ik moet vooral witte mannen maken om de test te halen!"

De onderzoekers ontdekten dat de robot niet alleen een voorkeur heeft, maar dat hij die voorkeur versterkt. Als de robot een klein beetje een voorkeur heeft voor mannen, dan zorgt de "smaaktest" ervoor dat hij bijna alleen nog maar mannen maakt.

3. De Metafoor: De "Glanzende Stereotypen"

Dit is het meest fascinerende (en een beetje enge) deel van het onderzoek. De onderzoekers ontdekten dat de robot door de training niet alleen bevooroordeeld wordt, maar dat die vooroordelen ook "glanzender" en "stabieler" worden.

Stel je voor dat je een tekening maakt van een dokter. In het begin is het een beetje een rommelige schets: soms een vrouw, soms een man, soms een persoon van kleur. Maar zodra de robot de "smaaktest" heeft doorlopen, wordt de tekening een perfecte, glanzende, hyperrealistische foto. Maar... het is nog steeds altijd diezelfde witte man in een witte jas.

De robot wordt dus technisch gezien "beter" (de filmpjes zijn vloeiender en mooier), maar hij wordt ook een "stereotype-machine". De vooroordelen zijn niet langer slordige foutjes, maar ze worden onderdeel van de perfecte, gladgestreken werkelijkheid die de robot laat zien.

4. Wat hebben ze onderzocht? (VideoBiasEval)

De onderzoekers hebben een soort "detective-kit" gebouwd, genaamd VideoBiasEval. Hiermee kunnen ze de robot heel precies ondervragen. Ze geven hem opdrachten zoals: "Maak een filmpje van iemand die kookt" of "Maak een filmpje van iemand die sport."

Ze kijken dan heel nauwkeurig:

Wie is er in beeld? (Man of vrouw? Welke huidskleur?)
Wat doen ze? (Worden vrouwen vaker in de keuken gezet en mannen in de sportschool?)
Blijft het beeld hetzelfde? (Verandert de persoon in het filmpje halverwege van uiterlijk, of blijft het stereotype de hele tijd hetzelfde?)

5. De Oplossing: De Robot "Tegengas" geven

De onderzoekers ontdekten ook dat je de robot kunt "sturen". Als je de robot een smaaktest geeft die juist zegt: "Vrouwen zijn ook heel belangrijk in deze context," dan kun je de vooroordelen weer een beetje rechtzetten. Je kunt de robot dus eigenlijk heropvoeden door hem een meer diverse "smaak" aan te leren.

De moraal van het verhaal

We denken vaak dat als we AI-modellen "verbeteren" om menselijke voorkeuren te volgen, we ze eigenlijk slimmer maken. Maar dit onderzoek laat zien dat we ze ook een soort "sociale blindheid" kunnen aanleren. Als we niet oppassen, maken we machines die de wereld niet laten zien zoals hij is, maar zoals onze meest beperkte vooroordelen eruitzien — en dan wel in prachtige, glanzende 4K-resolutie.

Technische Samenvatting: From Preferences to Prejudice

Probleemstelling

De recente vooruitgang in video-diffusiemodellen (text-to-video) wordt grotendeels gedreven door alignment tuning. Hierbij worden modellen geoptimaliseerd om menselijke voorkeuren na te bootsen, vaak met behulp van reward models die zijn getraind op menselijke vergelijkingen. Het fundamentele probleem dat dit paper aanstipt, is dat deze menselijke voorkeuren vaak onbewuste sociale vooroordelen (biases) bevatten met betrekking tot gender en etniciteit. Wanneer een model wordt getuned op deze voorkeuren, loopt het risico deze vooroordelen niet alleen over te nemen, maar ook te versterken en te "stabiliseren" in de gegenereerde video's, wat leidt tot stereotiepe en onrechtvaardige representaties.

Methodologie

De auteurs introduceren VideoBiasEval, een uitgebreid diagnostisch framework om sociale bias in video-generatie systematisch te meten. De methodologie rust op drie pijlers:

Event-Centric Prompting: In plaats van algemene prompts gebruikt het framework een gestructureerde aanpak: $\langle p, a, c \rangle$ (actor, actie, context). Door de actor (gender/etniciteit) los te koppelen van de actie (werkwoorden) en de context, kunnen de onderzoekers precies meten hoe specifieke demografische kenmerken de visuele weergave beïnvloeden.
Multi-granulaire Evaluatie:
- Ethnicity-aware Gender Bias (PBSG): Meet de disbalans tussen mannelijke en vrouwelijke representaties binnen specifieke etnische groepen.
- Ethnicity Bias (RDSe & SDI): Gebruikt de Representation Deviation Score en de Simpson’s Diversity Index om de afwijking van een uniforme etnische verdeling te meten.
- Temporal Attribute Stability (TAS): Een nieuwe metriek die meet hoe consistent een identiteit (bijv. gender) blijft gedurende de frames van een video.
End-to-End Analyse: Het onderzoek volgt de bias door de hele pijplijn: van menselijke voorkeur-datasets $\rightarrow$ naar getrainde reward models $\rightarrow$ naar de uiteindelijke alignment-tuned videomodellen.

Belangrijkste Bijdragen

VideoBiasEval Framework: Het eerste uitgebreide framework dat specifiek is ontworpen voor de temporele en sociale complexiteit van video-generatie.
Eerste End-to-End Bias-analyse: Het in kaart brengen van hoe bias wordt geërfd en versterkt tijdens het alignment-proces.
Ontdekking van "Bias Stabilization": Het aantonen dat alignment tuning video's visueel vloeiender maakt, maar tegelijkertijd stereotypen "vastzet" in de tijd, waardoor ze moeilijker te detecteren en hardnekkiger worden.
Controleerbare Bias-modellering: Het demonstreren dat men door het manipuleren van de samenstelling van reward-datasets de bias in videomodellen gericht kan sturen (zowel versterken als mitigeren).

Resultaten

Overdracht van Bias: Menselijke voorkeur-datasets (zoals HPDv2 en Pick-a-Pic) vertonen een sterke voorkeur voor witte representaties en specifieke genderpatronen. Deze biases worden direct overgenomen door reward models (zoals HPSv2.0).
Versterking door Alignment: Alignment tuning met deze modellen verhoogt de gender-bias in videomodellen. Bijvoorbeeld, het tunen met HPSv2.0 versterkte de voorkeur voor mannen aanzienlijk.
De Paradox van Stabiliteit: De TAS-metriek toonde aan dat alignment de temporele coherentie verbetert (minder "flikkeren" van identiteiten), maar dat dit ook betekent dat een bevooroordeelde weergave (bijv. een man in een specifieke rol) gedurende de hele video zeer stabiel en "geloofwaardig" wordt gepresenteerd.
Mitigatie via Counter-Biased Modeling: De auteurs toonden aan dat het trainen van een counter-biased reward model (bijv. een model dat specifiek vrouwen/diverse groepen bevoordeelt) een effectieve manier is om de inherente mannelijke/witte bias van een basismodel te corrigeren.

Significantie

Dit onderzoek is cruciaal voor de ontwikkeling van verantwoorde AI. Het laat zien dat het verbeteren van de visuele kwaliteit van video-AI (via alignment) een tweesnijdend zwaard is: het maakt de beelden mooier, maar maakt sociale vooroordelen ook "gladder", stabieler en daardoor gevaarlijker voor de normalisering van stereotypen. Het paper pleit voor bias-aware evaluatie en het zorgvuldig samenstellen van datasets als essentiële stappen in de ontwikkeling van sociaal verantwoorde generatieve media.