Resumo Técnico: MM–SCALE

Declaração do Problema

Os Modelos de Visão-Linguagem (VLMs) atualmente têm dificuldade em realizar julgamentos moralmente salientes em contextos multimodais e socialmente ambíguos. Os métodos de alinhamento de segurança existentes dependem tipicamente de supervisão binária (seguro/inseguro) ou pareada (A vs. B). Essas abordagens falham em capturar a natureza contínua e escalar do raciocínio moral humano e frequentemente negligenciam como o contexto visual e as nuances situacionais remodelam as interpretações morais. Benchmarks anteriores carecem de cobertura sobre julgamentos escalares e de fundamentação de modalidade explícita (se um julgamento depende do texto, da imagem ou de ambos), limitando a capacidade dos modelos de lidar com o raciocínio moral pluralista e sensível ao contexto.

Metodologia

1. Construção do Conjunto de Dados: MM–SCALE

Os autores introduzem o MM–SCALE (MULTIMODAL MORAL SCALE), um conjunto de dados de larga escala composto por 32.212 cenários morais anotados, fundamentados em imagens geradas por IA.

• Material de Origem: Os cenários são derivados do Commonsense NormBank, visualizados utilizando Stable Diffusion v1.5 e DALL·E 3.
• Esquema de Anotação: Cada par imagem-cenário é anotado com:
  • Avaliações Morais Escalares: Uma escala de 5 pontos (1–5) para aceitabilidade moral.
  • Fundamentação de Modalidade: Rótulos indicando se o julgamento é baseado no texto, na imagem ou em ambos.
• Pipeline de Anotação (MORALE): Os autores desenvolveram o MORALE (MORal Alignment and Listwise Evaluation), uma interface interativa baseada na web.
  • Modelo no Loop (Model-in-the-Loop): O sistema compara as classificações dos anotadores com as previsões do VLM.
  • Tratamento de Discrepância: Se o julgamento de um modelo desviar significamente da classificação humana, o sistema aciona uma verificação de fundamentação de modalidade para determinar se o modelo atentou para a modalidade errada.
  • Expansão: Se o modelo e o humano concordarem, os anotadores são instigados a adicionar novos cenários relevantes à imagem para expandir a cobertura.
• Controle de Qualidade: O conjunto de dados passou por uma filtragem rigorosa, incluindo triagem de variância e "verificações canary", resultando em alta consistência entre anotadores (Krippendorff's $\alpha$ = 0,74 para pontuações, 0,71 para modalidade).

2. Estrutura de Treinamento: Otimização de Preferência de Lista (Listwise)

Em vez de tratar julgamentos escalares como rótulos independentes ou reduzi-los a classes binárias, os autores empregam uma estrutura de otimização de preferência de lista (listwise preference optimization).

• Objetivo: O modelo é treinado para reproduzir a ordenação de preferência humana sobre um conjunto completo de cenários associados a uma única imagem.
• Função de Perda: Os autores utilizam a perda ListMLE (Listwise Maximum Likelihood Estimation). Isso incentiva o modelo a atribuir pontuações escalares de modo que a classificação resultante corresponda à permutação da classificação real feita por humanos.
• Arquitetura: A estrutura realiza o ajuste fino (fine-tuning) de uma cabeça de regressão escalar sobre VLMs pré-treinados (ex: LLaVA-OneVision, Qwen2-VL, Phi-3-Vision, InstructBLIP).

Principais Contribuições

1. Conjunto de Dados MM–SCALE: Um novo conjunto de dados de 32.212 cenários morais multimodais apresentando classificações escalares (1–5) e anotações explícitas de fundamentação de modalidade, distinguindo-o de benchmarks binários ou pareados anteriores.
2. Análise de Alinhamento de Lista: Uma análise demonstrando como a supervisão escalar combinada com a fundamentação multimodal melhora o alinhamento do VLM com as preferências morais humanas, indo além de comparações binárias isoladas.
3. Interface MORALE: Uma interface web interativa e de código aberto, projetada para coletar dados de discordância em escala, facilitando o alinhamento centrado no ser humano e a expansão do conjunto de dados através de feedback de modelo no loop.

Resultados Experimentais

Os autores avaliaram VLMs ajustados com MM–SCALE contra modelos treinados com objetivos de preferência binária (BPO) e classificação binária (BCE).

• Fidelidade de Classificação (Ranking): Modelos treinados com supervisão escalar de lista alcançaram consistentemente as métricas de classificação mais altas, incluindo NDCG@5 (até 0,89) e Mean Reciprocal Rank (MRR), superando as linhas de base binárias e pareadas. Isso indica que aprender a estrutura ordinal completa fornece um melhor ordenamento moral global.
• Calibração de Segurança: Embora os modelos treinados com binários tenham mostrado taxas de "Insegurança" ligeiramente menores (uma métrica binária que favorece objetivos baseados em limiar), eles exibiram pior AUC-Safety e calibração menos estável. Os modelos de lista produziram previsões escalares mais suaves e discriminativas, mantendo taxas de segurança competitivas enquanto oferecem uma estimativa de risco superior e livre de limiares.
• Fundamentação de Modalidade: A análise empírica revelou que 68% dos julgamentos morais humanos mudaram após a visualização da imagem em comparação com os rótulos apenas de texto. Além disso, 78% desses julgamentos divergentes foram fundamentados na imagem ou em uma combinação de imagem e texto, confirmando a necessidade de fundamentação multimodal.
• Consistência Humana: Modelos supervisionados por lista mostraram o maior acordo com o consenso humano (Kendall's $\tau$ = 0,68) em comparação com as abordagens pareada (0,60) e binária (0,55).

Significância e Alegações

O artigo afirma que o MM–SCALE aborda uma lacuna crítica no alinhamento de segurança multimodal ao mudar da supervisão binária discreta para a supervisão escalar de lista com fundamentação de modalidade explícita.

• Nuance sobre Binário: Os autores argumentam que o alinhamento moral não trata apenas da ação, mas também do contexto em que ela ocorre. As classificações escalares capturam a aceitabilidade detalhada e ações parcialmente aceitáveis que os rótulos binários perdem.
• Sensibilidade ao Contexto: O conjunto de dados demonstra que o contexto visual frequentemente reconfigura a interpretação moral, com mudanças significativas no julgamento ocorrendo quando as imagens contradizem ou reforçam o texto.
• Estabilidade: O estudo destaca que a supervisão de lista escalar produz classificações morais mais consistentes entre modalidades e mantém a estabilidade entre imagens sintéticas e reais, sugerindo que a granularidade da supervisão é fundamental para melhorar o alinhamento moral.

Os autores posicionam o MM–SCALE como uma base para trabalhos futuros em modelos multimodais socialmente alinhados, particularmente para tarefas que exigem a resolução de ambiguidades situacionais através de linguagem e visão. Eles reconhecem limitações relativas à diversidade cultural dos anotadores (principalmente EUA/Reino Unido) e à natureza grosseira da atribuição de modalidade (texto/imagem/ambos), sugerindo estas como áreas para refinamento futuro.