Evian: Towards Explainable Visual Instruction-tuning Data Auditing

Titel: Evian: Towards Explainable Visual Instruction-tuning Data Auditing

Auteurs: Zimu Jia, Mingjie Xu, Andrew Estornell, Jiaheng Wei (HKUST-Guangzhou & ByteDance Seed)

1. Het Probleem

Grote Visueel-Taalmodellen (LVLMs) zijn afhankelijk van de kwaliteit van hun trainingsdata om effectief te zijn. Hoewel Visual Instruction Tuning (VIT) cruciaal is voor het aligneren van visuele perceptie met taal, kampen bestaande datasets en filtermethoden met ernstige tekortkomingen:

• Inconsistentie in kwaliteit: Grote synthetische datasets (zoals LLaVA-Instruct-150K) verbeteren instructie-opvolging maar introduceren vaak ruis.
• Grove filtermethodes: Bestaande methoden vertrouwen op grofkorrelige scores (bijv. CLIP-score) die visuele gronding meten, maar geen subtiele semantische fouten kunnen detecteren, zoals logische drogredenen, feitelijke onjuistheden of hallucinaties.
• Gebrek aan granulariteit: Huidige benaderingen collapse diverse fouttypen tot één ondoorzichtig scoregetal, wat het moeilijk maakt om de oorzaak van fouten te diagnosticeren. Dit creëert een fundamentele bottleneck voor het ontwikkelen van betrouwbaardere modellen.

2. Methodologie: Het EVIAN Framework

De auteurs stellen EVIAN (Explainable Visual Instruction-tuning Data AuditiNg) voor, een geautomatiseerd en interpreteerbaar framework dat een nieuwe "Decomposition-then-Evaluation" (Ontleden dan Evalueren) paradigma introduceert. Het proces verloopt in twee fasen:

Fase 1: Respons Decompositie via Chain-of-Thought (CoT)

In plaats van een antwoord als een onontwarbaar blok tekst te behandelen, deconstrueert EVIAN antwoorden in drie verifieerbare cognitieve componenten met behulp van een CoT-proces (geïmplementeerd met Qwen3-235B):

1. Semantische Tagging: Het originele antwoord wordt geparseerd waarbij subjectieve inferenties worden gemarkeerd met <INFER>-tags en feitelijke claims met <KNOW>-tags. Pure visuele beschrijvingen blijven ongemarkeerd.
2. Visuele Distillatie: De gemarkeerde segmenten worden herschreven naar neutrale, objectieve beschrijvingen of verwijderd als ze niet verifieerbaar zijn. Dit resulteert in een "gezuiverde" visuele samenvatting ($R_{visual}$).
3. Vloeiende Synthese: De gezuiverde tekst wordt herschreven tot een samenhangende paragraaf zonder nieuwe inhoud toe te voegen.

Fase 2: Multi-dimensionale Kwaliteitsevaluatie

Elk component wordt geëvalueerd langs drie orthogonale assen door een automatische auditor (Qwen2.5-VL-7B), die een score van 1 tot 5 en een tekstuele onderbouwing geeft:

1. Logische Coherentie ($S_L$): Evalueert of de inferenties (<INFER>) logisch volgen uit het visuele bewijs.
2. Feitelijke Nauwkeurigheid ($S_K$): Controleert kennisclaims (<KNOW>) tegen externe feiten.
3. Beeld-Tekst Consistentie ($S_V$): Meet de trouw van de visuele beschrijving aan de afbeelding (consistentie boven volledigheid).

De uiteindelijke score is een gewogen som van deze drie dimensies, waarbij de auteurs aantonen dat logische coherentie vaak de meest kritieke factor is.

3. Belangrijkste Bijdragen

1. 300K-sample Benchmark: De auteurs hebben een uitgebreid benchmark gecreëerd door systematisch diverse, subtiele defecten (logische, feitelijke en visuele) in te injecteren in een dataset van 300.000 voorbeelden. Dit dient als een uitdagende testomgeving voor fijnkorrelig data-auditing.
2. Het Decomposition-then-Evaluation Paradigma: Een nieuw raamwerk dat complexe responsen ontleden in verifieerbare onderdelen, waardoor gerichte analyse mogelijk wordt in plaats van holistische scoring.
3. Het EVIAN Framework: Een volledig geautomatiseerde pipeline die data scant op de drie genoemde dimensies, wat leidt tot een selectie van hoogwaardige, compacte datasets.

4. Resultaten

De experimenten tonen aan dat "minder meer is" (less is more) voor LVLMs:

• Superieure Prestaties: Een model dat is gefinetuned op een compacte subset van 10.000 samples, geselecteerd door EVIAN, presteert consequent beter dan modellen die zijn getraind op datasets die tientallen keren groter zijn (inclusief de volledige 300K dataset en andere state-of-the-art filters zoals SCALE, CLIPScore, en BLIP-2).
• Gemiddelde Score: Het EVIAN-model bereikte een gemiddelde score van 70.20 op diverse benchmarks (MME, MMBench, ScienceQA, etc.), wat een aanzienlijke verbetering is ten opzichte van de SOTA-baselines (bijv. SCALE: 67.41).
• Ablatie Studies:
  • Het verwijderen van de Logische Coherentie ($S_L$) leidde tot een dramatische daling in prestaties (van 70.20 naar 57.27), wat aantoont dat logische integriteit cruciaal is voor redeneertaken.
  • Alleen vertrouwen op visuele consistentie ($S_V$) was onvoldoende om hallucinaties te voorkomen.
• Generaliseerbaarheid: De resultaten bleven consistent wanneer het gefinetuned model werd gewijzigd naar een ander architectuurtype (InternVL2-2B), wat bewijst dat EVIAN fundamentele kwaliteitsindicatoren detecteert en niet alleen bias van de auditor-architectuur.

5. Betekenis en Conclusie

Dit paper daagt het heersende paradigma uit dat schaal (grote hoeveelheden data) de sleutel is tot betere LVLMs. De auteurs tonen aan dat interpreteerbare, fijnkorrelige data-curatie belangrijker is dan pure schaal.

• Kerninzicht: Logische coherentie is de meest kritieke factor in data-kwaliteitsevaluatie. Zelfs als data visueel correct en feitelijk waar is, kan een gebrek aan logische samenhang de prestaties van het model ernstig schaden.
• Toekomstperspectief: EVIAN biedt een blauwdruk voor het bouwen van betrouwbaardere AI-systemen door complexe audit-taken op te splitsen in verifieerbare subtaken. Dit stelt onderzoekers in staat om hoogwaardige, compacte datasets te creëren die superieur zijn aan enorme, ruisige datasets, en legt de basis voor de volgende generatie visueel-taalmodellen.