Sintesi Tecnica: MM–SCALE

Definizione del Problema

I modelli visione-linguaggio (VLM) attualmente faticano a compiere giudizi moralmente salienti in contesti multimodali e socialmente ambigui. I metodi di allineamento della sicurezza esistenti si affidano tipicamente a una supervisione binaria (sicuro/non sicuro) o a coppie (A vs B). Questi approcci non riescono a catturare la natura continua e scalare del ragionamento morale umano e spesso trascurano come il contesto visivo e le sfumature situazionali possano rimodellare le interpretazioni morali. I benchmark precedenti mancano di copertura sui giudizi scalari e sulla base esplicita della modalità (se un giudizio dipenda dal testo, dall'immagine o da entrambi), limitando la capacità dei modelli di gestire un ragionamento morale pluralista e sensibile al contesto.

Metodologia

1. Costruzione del Dataset: MM–SCALE

Gli autori introducono MM–SCALE (MULTIMODAL MORAL SCALE), un dataset su larga scala composto da 32.212 scenari morali annotati, radicati in immagini generate dall'IA.

• Materiale di Origine: Gli scenari derivano dal Commonsense NormBank, visualizzati tramite Stable Diffusion v1.5 e DALL·E 3.
• Schema di Annotazione: Ogni coppia immagine-scenario è annotata con:
  • Valutazioni Morali Scalari: Una scala a 5 punti (1–5) per l'accettabilità morale.
  • Fondamento della Modalità (Modality Grounding): Etichette che indicano se il giudizio si basa sul testo, sull'immagine o su entrambi.
• Pipeline di Annotazione (MORALE): Gli autori hanno sviluppato MORALE (MORal Alignment and Listwise Evaluation), un'interfaccia interattiva basata sul web.
  • Modello nel Loop (Model-in-the-Loop): Il sistema confronta le valutazioni degli annotatori con le predizioni dei VLM.
  • Gestione delle Discrepanze: Se il giudizio di un modello devia significativamente dalla valutazione umana, il sistema attiva un controllo del fondamento della modalità per determinare se il modello ha prestato attenzione alla modalità errata.
  • Espansione: Se il modello e l'umano concordano, gli annotatori sono sollecitati ad aggiungere nuovi scenari rilevanti per l'immagine per espandere la copertura.
• Controllo della Qualità: Il dataset è stato sottoposto a un rigoroso filtraggio, inclusi lo screening della varianza e i "canary checks", risultando in un'elevata coerenza tra gli annotatori (Krippendorff's $\alpha$ = 0,74 per i punteggi, 0,71 per la modalità).

2. Framework di Addestramento: Ottimizzazione Preferenziale Listwise

Inveve di trattare i giudizi scalari come etichette indipendenti o ridurli a classi binarie, gli autori utilizzano un framework di ottimizzazione preferenziale listwise.

• Obiettivo: Il modello viene addestrato per riprodurre l'ordinamento delle preferenze umane su un intero set di scenari associati a una singola immagine.
• Funzione di Perdita: Gli autori utilizzano la perdita ListMLE (Listwise Maximum Likelihood Estimation). Ciò incoraggia il modello ad assegnare punteggi scalari tali che l'ordinamento risultante corrisponda alla permutazione reale dei giudizi umani.
• Architettura: Il framework effettua il fine-tuning di una testa di regressione scalare sopra VLM pre-addestrati (es. LLaVA-OneVision, Qwen2-VL, Phi-3-Vision, InstructBLIP).

Contributi Chiave

1. Dataset MM–SCALE: Un nuovo dataset di 32.212 scenari morali multimodali caratterizzato da valutazioni scalari (1–5) ed esplicite annotazioni di fondamento della modalità, distinguendosi dai precedenti benchmark binari o a coppie.
2. Analisi dell'Allineamento Listwise: Un'analisi che dimostra come la supervisione scalare combinata con il fondamento multimodale migliori l'allineamento dei VLM con le preferenze morali umane, andando oltre i confronti binari isolati.
3. Interfaccia MORALE: Un'interfaccia web interattiva e open-source progettata per raccogliere dati di disaccordo su larga scala, facilitando l'allineamento centrato sull'uomo e l'espansione del dataset attraverso il feedback del modello nel loop.

Risultati Sperimentali

Gli autori hanno valutato i VLM sottoposti a fine-tuning su MM–SCALE rispetto a modelli addestrati con obiettivi di preferenza binaria (BPO) e classificazione binaria (BCE).

• Fedeltà dell'Ordinamento (Ranking Fidelity): I modelli addestrati con supervisione scalare listwise hanno costantemente raggiunto le metriche di ordinamento più elevate, inclusi NDCG@5 (fino a 0,89) e Mean Reciprocal Rank (MRR), superando i baseline binari e a coppie. Ciò indica che l'apprendimento della struttura ordinale completa fornisce un migliore ordinamento morale globale.
• Calibrazione della Sicurezza: Mentre i modelli addestrati con approccio binario mostravano "Tassi di Insicurezza" leggermente inferiori (una metrica binaria che favorisce gli obiettivi basati su soglie), essi presentavano un AUC-Safety peggiore e una calibrazione meno stabile. I modelli listwise hanno prodotto predizioni scalari più fluide e discriminanti, mantenendo tassi di sicurezza competitivi pur offrendo una stima del rischio superiore e priva di soglie.
• Fondamento della Modalità: L'analisi empirica ha rivelato che il 68% dei giudizi morali umani è cambiato dopo la visione dell'immagine rispetto alle etichette solo testuali. Inoltre, il 78% di questi giudizi divergenti era fondato sull'immagine o sulla combinazione di immagine e testo, confermando la necessità del fondamento multimodale.
• Consistenza Umana: I modelli con supervisione listwise hanno mostrato il più forte accordo con il consenso umano (Kendall's $\tau$ = 0,68) rispetto agli approcci a coppie (0,60) e binari (0,55).

Significato e Rivendicazioni

Il documento sostiene che MM–SCALE affronta una lacuna critica nell'allineamento della sicurezza multimodale, passando da una supervisione binaria discreta a una supervisione scalare e listwise con esplicito fondamento della modalità.

• Sfumatura rispetto al Binario: Gli autori sostengono che l'allineamento morale non riguarda solo l'azione, ma anche il contesto in cui essa si svolge. Le valutazioni scalari catturano l'accettabilità fine e le azioni parzialmente accettabili e ambigue che le etichette binarie perdono.
• Sensibilità al Contesto: Il dataset dimostra che il contesto visivo spesso riconfigura l'interpretazione morale, con cambiamenti significativi nel giudizio quando l'immagine contraddice o rafforza il testo.
• Stabilità: Lo studio evidenzia come la supervisione listwise scalare produca classifiche morali più coerenti tra le modalità e mantenga la stabilità tra immagini sintetiche e reali, suggerendo che la granularità della supervisione sia fondamentale per migliorare l'allineamento morale.

Gli autori posizionano MM–SCALE come una base per il lavoro futuro sui modelli multimodali socialmente allineati, in particolare per compiti che richiedono la risoluzione di ambiguità situazionali attraverso sia il linguaggio che la visione. Riconoscono i limiti riguardanti la diversità culturale degli annotatori (principalmente USA/UK) e la natura grossolana dell'attribuzione della modalità (testo/immagine/entrambi), suggerendoli come aree per futuri perfezionamenti.