Scale Can't Overcome Pragmatics: The Impact of Reporting Bias on Vision-Language Reasoning

Dit onderzoek toont aan dat de beperkte redeneercapaciteiten van Vision-Language Models het gevolg zijn van een rapportagebias in de trainingsdata die essentiële impliciete informatie uitsluit, en dat schaling van model- of datasetgrootte dit niet oplost zonder gerichte curatie van data met expliciete annotaties.

De kern

Titel: Waarom slimme beeld-taal-modellen niet kunnen "nadenken" (en waarom meer data niet helpt)

Stel je voor dat je een jonge student wilt leren hoe de wereld werkt. Je geeft hem een bibliotheek vol met miljarden foto's, elk met een korte beschrijving eronder. De bedoeling is dat hij door al die foto's en teksten te lezen, vanzelf alles over de wereld leert: waar dingen staan, hoeveel er zijn, wat er niet is, en wat er voor of na iets gebeurt.

Maar er is een groot probleem. De student leert niet goed te "redeneren". Hij kan een hond herkennen, maar als je vraagt: "Hoeveel honden zijn er?" of "Is de hond links of rechts van de boom?", faalt hij.

Deze paper legt uit waarom dit gebeurt. Het is niet omdat de student niet slim genoeg is, en het is ook niet omdat hij te weinig boeken heeft gelezen. Het probleem zit in hoe mensen foto's beschrijven.

Hier is de uitleg in simpele taal:

1. Het probleem: De "Stille Regels" van Mensen

Mensen zijn heel efficiënt als ze praten of schrijven. We volgen onbewuste regels (in de taalwetenschap "pragmatica" genoemd). We zeggen alleen wat nodig is om de boodschap over te brengen.

• Voorbeeld: Als je een foto ziet van een hond en een kat, schrijft iemand: "Een hond en een kat."
• Wat we NIET schrijven: "De hond staat links van de kat." of "Er zijn precies twee dieren." of "Er is geen vogel te zien."

Waarom? Omdat het voor de lezer vanzelfsprekend lijkt of omdat het te veel moeite kost om te tellen. We noemen dit rapportage-bias (een vertekening in wat we rapporteren). We laten "stille informatie" weg die voor ons logisch is, maar die een computer nodig heeft om te leren redeneren.

2. De vier "ontbrekende puzzelstukjes"

De onderzoekers ontdekten dat mensen in hun beschrijvingen systematisch vier soorten informatie weglaten, die essentieel zijn voor logisch denken:

1. Ruimte: Woorden als "links van", "boven", "onder".
2. Tijd: Woorden als "voor", "na", "tijdens".
3. Aantallen: Precieze getallen (in plaats van "een hoopje").
4. Ontkenningen: Woorden als "niet" (bijv. "geen parrot").

Zelfs in gigantische databases met miljarden foto's (zoals LAION) zijn deze zinnen extreem zeldzaam. Het is alsof je een kookboek hebt met 10.000 recepten, maar in geen enkel recept staat hoe je een ei moet prikken of roeren. Je kunt het ei dan ook niet goed koken, hoe hard je ook probeert.

3. De grote misvatting: "Meer is beter"

Velen denken: "Als we gewoon nog meer data verzamelen en nog grotere modellen bouwen, zullen ze vanzelf leren redeneren."

De onderzoekers zeggen: Nee, dat werkt niet.
Het is alsof je een student 100 keer hetzelfde boek laat lezen waarin de zin "er is geen regen" nooit voorkomt. Als je hem 1.000 keer hetzelfde boek geeft, leert hij het nog steeds niet. De "vertaling" van de menselijke taal is het probleem, niet het aantal boeken.

Zelfs als je de modellen in verschillende talen traint (Duits, Frans, Chinees), gebeurt hetzelfde: mensen in alle talen laten deze details weg. Dus meer talen helpen ook niet.

4. De oplossing: Geef duidelijke instructies

Hoe los je dit op? Je moet de mensen (of de AI die de data schrijft) specifiek vragen om die ontbrekende details te noemen.

• Slecht instructie: "Beschrijf deze foto." (Dan schrijven mensen: "Een hond.")
• Goede instructie: "Beschrijf deze foto en zeg precies hoeveel dieren er zijn, waar ze staan ten opzichte van elkaar, en of er dingen ontbreken." (Dan schrijven mensen: "Er zijn twee honden. De ene staat links van de andere. Er is geen kat.")

De onderzoekers hebben een experiment gedaan waarbij ze mensen vroegen om foto's te beschrijven met deze specifieke instructies. Het resultaat? Plotseling waren er veel meer zinnen met "links", "twee", "niet" en "na".

5. Het bewijs

Toen ze een AI-model trainden op deze nieuwe, "bewust samengestelde" data, werd het model veel beter in het redeneren.

• Conclusie: Het probleem is niet dat de AI dom is. Het probleem is dat de "leraar" (de mens die de data schrijft) te veel informatie weglaat.

Samenvatting in één metafoor

Stel je voor dat je een speler wilt leren voetballen.

• De oude manier: Je geeft de speler een video van 10 miljoen voetbalwedstrijden, maar de commentatoren zeggen alleen: "Het is een mooie dag" en "Er is een bal." Ze vertellen nooit waar de spelers staan of hoe ze schieten. De speler kijkt urenlang, maar kan niet leren spelen.
• De nieuwe manier: Je zegt tegen de commentatoren: "Vertel precies waar de spelers staan, hoeveel er zijn, en wat ze niet doen." Nu heeft de speler de juiste informatie om te leren.

De boodschap: Om slimme AI te maken, moeten we stoppen met vertrouwen op "grote aantallen" en beginnen met bewust kiezen wat we in de trainingsdata opnemen. We moeten de instructies voor het verzamelen van data verbeteren, zodat de AI niet alleen ziet, maar ook begrijpt.

Technische samenvatting

Probleemstelling

Vision-Language Models (VLM's) vertonen een opvallend paradox: ondanks indrukwekkende prestaties op gestandaardiseerde benchmarks, falen ze vaak bij taken die redenering vereisen, zoals tellen, ruimtelijke redenering, negatie en temporele redenering. De auteurs hypothetiseren dat dit niet komt door een gebrek aan modelcapaciteit of data-schaal, maar door een rapportagebias (reporting bias) in de trainingsdata.

Mensen die afbeeldingen beschrijven (bijvoorbeeld in alt-tekst of bijschriften), negeer systematisch bepaalde informatie die voor hen vanzelfsprekend is of niet relevant lijkt in de context van de conversatie. Volgens principes uit de pragmatica (zoals de Griceaanse maaksels) zijn mensen geneigd om kort en bondig te zijn en alleen informatie te geven die nodig is voor de "Vraag onder Discussie" (Question Under Discussion - QUD). Hierdoor ontbreken in web-scale corpora vaak expliciete beschrijvingen van:

1. Ruimtelijke relaties (bijv. "links van", "boven").
2. Temporele relaties (bijv. "voor", "na").
3. Tellingen (exacte aantallen in plaats van "een groep").
4. Negaties (bijv. "geen parrot" in plaats van alleen "een hond").

De auteurs stellen dat deze impliciete informatie niet wordt opgenomen in de trainingsdata, waardoor VLM's deze vaardigheden niet kunnen leren, ongeacht hoe groot het model of de dataset is.

Methodologie

De studie combineert linguïstische theorie met empirische data-analyse en experimenten:

1. Theoretische Hypothesen:
   De auteurs baseren hun onderzoek op theorieën uit linguïstiek, pragmatica en cognitieve wetenschap. Ze voorspellen dat mensen bepaalde concepten systematisch weglaten omdat ze als "te vanzelfsprekend" worden beschouwd of omdat het beschrijven ervan in strijd is met de maaksels van kwaliteit en kwantiteit (bijv. het tellen van objecten kost moeite en is zelden nodig).

2. Data-analyse van Bestaande Corpora:
   Ze analyseerden populaire open-source datasets (LAION-2B, LLaVA-1.5, Molmo/PixMo) om de frequentie van deze redeneerconcepten te meten.

   • Ze gebruikten trefwoordenzoeking voor ruimtelijke preposities, telwoorden, negaties en temporele termen.
   • Ze voerden handmatige validaties uit op steekproeven om te bepalen of de trefwoorden daadwerkelijk de redeneervaardigheid operationaliseerden (waarheidswaarde) of slechts toevallige matches waren.

3. Benchmarks:
   Ze creëerden vier specifieke benchmarks om VLM's te evalueren:

   • Ruimtelijk: Subsets van What'sUp (relaties zoals links/rechts/boven/onder).
   • Tellen: Een vereenvoudigde versie van CountBench.
   • Negatie: Hergebruik van VAW (Visual Attributes with Negation).
   • Temporeel: Subsets van ControlledImCaps (voor/na een gebeurtenis).

4. Experimenten:

   • Schaal-effecten: Evaluatie van contrastieve (OpenCLIP) en generatieve (LLaVA, Molmo, GPT-4o, etc.) modellen van verschillende groottes.
   • Meertaligheid: Testen of het toevoegen van vertaalde bijschriften de bias vermindert.
   • Annotator-instructies: Een gecontroleerde user study waarbij annotatoren dezelfde afbeeldingen kregen met verschillende instructies (standaard vs. instructies die expliciet om redenering vragen).
   • Finetuning: Een experiment om te testen of het verhogen van de prevalentie van redeneerdata (via hun instructies) de modelprestaties verbetert.

Belangrijkste Resultaten

1. Bevestiging van Rapportagebias:
   De analyse toont aan dat redeneergerelateerde termen extreem zeldzaam zijn, zelfs in miljarden grote datasets. Bijvoorbeeld, ruimtelijke relaties komen slechts in 0,1% van de LAION-captions voor die daadwerkelijk ruimtelijke redenering operationaliseren. Dit is veel lager dan frequentie van simpele attributen zoals "zwart" (3,2%).

2. Schaal lost het probleem niet op:

   • Het vergroten van de modelgrootte of de hoeveelheid trainingsdata leidt niet tot het ontstaan (emergence) van deze redeneervaardigheden.
   • Voor ruimtelijk en temporeel redeneren daalt de loss niet significant bij schaling.
   • Voor tellen en negatie blijft de prestatie ver achter bij menselijk niveau, zelfs bij de grootste modellen.
   • Het toevoegen van meertalige data (vertalingen) verbetert de prestaties niet, wat aantoont dat de bias universeel is voor menselijke communicatie, niet specifiek voor het Engels.

3. Impact van Instructies:

   • In de user study bleek dat annotatoren die expliciet werden gevraagd om ruimtelijke relaties, tellingen, negaties en temporele context te beschrijven, deze concepten 2 tot 3 keer vaker produceerden dan bij standaard instructies.
   • Zonder specifieke instructies blijven negaties en temporele relaties vrijwel volledig afwezig.

4. Finetuning-resultaten:
   Door een model (LLaVA-1.5) te finetunen op data met een hogere prevalentie van tellen (39% vs. de standaard ~6-7%), verbeterde de prestatie significant. Dit bewijst dat de architectuur van de modellen deze vaardigheden kan leren, mits de juiste data beschikbaar is.

Bijdragen

1. Identificatie van Reporting Bias: Het paper onthult dat web-scale corpora systematisch tekortschieten in het vertegenwoordigen van cruciale redeneerconcepten door de natuurlijke neiging van mensen om impliciete informatie weg te laten.
2. Validatie van Schaal-Limieten: Het weerlegt het populaire idee dat "meer data" automatisch leidt tot redeneringsvaardigheden. De onderliggende menselijke bias wordt niet opgelost door schaling.
3. Nieuwe Benchmarks: Het introduceert specifieke benchmarks voor ruimtelijk, temporeel, tellend en negatief redeneren om VLM's nauwkeuriger te evalueren.
4. Oplossing via Intentionele Datacollectie: Het toont aan dat het aanpassen van annotator-instructies (of instructies voor LLM's die data synthetiseren) effectief is om deze bias te mitigeren en de kwaliteit van trainingsdata te verbeteren.

Significantie en Implicaties

De studie heeft grote gevolgen voor de toekomst van Vision-Language Modellen:

• Verschuiving van Schaal naar Kwaliteit: De focus moet verschuiven van het simpelweg vergroten van datasets ("scaling laws") naar intentionele datacuratie. Zonder specifieke instructies zullen VLM's blijven worstelen met redenering.
• Kwaliteit van Synthetische Data: Aangezien steeds meer data synthetisch wordt gegenereerd door LLM's (die zelf ook op menselijke data zijn getraind), is het cruciaal om de instructies aan deze LLM's zorgvuldig te ontwerpen om dezelfde bias niet te reproduceren.
• Pragmatische Benadering: Het paper benadrukt dat het begrijpen van menselijke communicatie (pragmatica) essentieel is voor het bouwen van betere AI-systemen. Om VLM's slim te maken, moeten we ze niet alleen meer data geven, maar ze ook leren wat er niet wordt gezegd in de menselijke wereld.

Kortom: Schalen kan pragmatische beperkingen niet overwinnen; we moeten bewust data verzamelen die de "stilzwijgende" informatie expliciet maakt.