SycoPhantasy: Quantifying Sycophancy and Hallucination in Small Open Weight VLMs for Vision-Language Scoring of Fantasy Characters

1. Declaração do Problema

Os Modelos Visão-Linguagem (VLMs) estão cada vez mais implantados como avaliadores automatizados ("LLM-as-a-judge") para tarefas que exigem alinhamento nuances entre imagem e texto. No entanto, uma questão crítica de confiabilidade permanece pouco explorada: a sycophancy (adulação). Neste contexto, sycophancy refere-se à tendência de um modelo atribuir pontuações de alinhamento altas a pares imagem-texto, mesmo quando a evidência visual não suporta o julgamento.

Enquanto a alucinação (geração de conteúdo não fundamentado na entrada) é bem estudada, o fenômeno específico de pontuação alta injustificada em avaliadores é menos compreendido. Os autores investigam se pequenos VLMs de peso aberto (variando de 450M a 8B parâmetros) exibem esse comportamento e se o tamanho do modelo se correlaciona com a gravidade do problema.

2. Metodologia

A. Construção do Conjunto de Dados (O Benchmark "SycoPhantasy")

• Fonte: Os autores construíram um benchmark de 173.810 pares imagem-texto.
• Conteúdo: As descrições textuais foram obtidas do CharacterHub, apresentando perfis detalhados de NPCs de fantasia (150–250 palavras) com atributos visuais verificáveis (aparência, roupas, características distintivas).
• Geração de Imagens: Retratos foram gerados usando PixArt-Alpha com base nas descrições. O processo foi automatizado sem curadoria de qualidade, garantindo uma distribuição natural de pares bem alinhados e mal alinhados.
• Racional: Descrições de fantasia foram escolhidas por seus atributos visuais ricos, estruturados e específicos, tornando discrepâncias entre pontuação e evidência detectáveis em escala.

B. Protocolo de Avaliação

• Modelos Avaliados: Seis VLMs de peso aberto variando de 450M a 8B parâmetros:
  • LFM2-VL (450M)
  • Gemma-3 (4B)
  • Phi-3.5-Vision (4.2B)
  • Qwen2-VL (7B)
  • LLaVA-1.6 (7B)
  • MiniCPM-V-4.5 (8B)
• Tarefa: Os modelos foram instruídos a atribuir uma pontuação de alinhamento (0–100) e fornecer um raciocínio citando 2–3 pistas visíveis.
• Restrições: Os modelos foram forçados a outputar JSON com campos específicos para garantir um raciocínio estruturado.

C. O Coeficiente de Bluffing ($B_c$)

Para quantificar a sycophancy sem anotação humana, os autores introduziram uma nova métrica chamada Coeficiente de Bluffing.

1. Extração de Frases-Chave: Atributos visuais salientes são extraídos da descrição textual usando spaCy e ponderados por TF-IDF.
2. Correspondência Semântica: Essas frases-chave são comparadas com o texto de raciocínio do modelo usando embeddings de sentença (BAAI/bge-large-en-v1.5) com um limiar de similaridade de cosseno ($\tau = 0.75$).
3. Detecção de Negação: O sistema verifica se as frases-chave correspondidas aparecem em um contexto negado (ex: "carece", "não", "faltando") para identificar "crítica honesta".
4. Cálculo:
   $$B_c = S_{norm} - R_+ + R_-$$
   Onde:
   • $S_{norm}$: Pontuação normalizada (0–1).
   • $R_+$: Recall ponderado de evidências correspondidas positivamente.
   • $R_-$: Recall ponderado de evidências negadas (crítica honesta).
   • Interpretação: $B_c \approx 0$ indica calibração; $B_c > 0$ indica sycophancy (pontuação alta, baixa evidência); $B_c < 0$ indica pontuação conservadora.

D. Critérios de Classificação

• Avaliação Sycophântica: Pontuação $\ge$ 70, Recall Positivo ($R_+$) < 0,30 e baixo "parroting" (ROUGE-L < 0,60).
• Crítica Honesta: Pontuação $\le$ 40 e Recall Negativo ($R_-$) > 0,10.

3. Resultados Principais

A. Taxas de Sycophancy e Tamanho do Modelo

O estudo encontrou uma forte correlação inversa entre o tamanho do modelo e a taxa de sycophancy ($r = -0,96, p = 0,002$).

• Menor Modelo (LFM2-VL, 450M): Exibiu a maior taxa de sycophancy em 22,3% com um Coeficiente de Bluffing médio de 0,43.
• Maiores Modelos (LLaVA-1.6, 7B): Exibiram a menor taxa de sycophancy em 6,0% com um Coeficiente de Bluffing médio de 0,21.
• Variância: Modelos menores mostraram uma tendência a padronizar pontuações altas independentemente do alinhamento, enquanto modelos maiores mostraram mais variância e melhor calibração.

B. Recall de Evidência vs. Pontuação

• Agrupamento Superior-Esquerdo: Gráficos de dispersão de Pontuação vs. Recall de Evidência revelaram um agrupamento denso no quadrante superior-esquerdo em todos os modelos (Alta Pontuação, Baixa Evidência), confirmando inflação sistemática de pontuação.
• Crítica Honesta: Rara na maioria dos modelos. Apenas MiniCPM-V-4.5 (8B) e Phi-3.5-Vision mostraram taxas substanciais de crítica honesta (22,6% e 18,7%, respectivamente).

C. Validação Humana

Um estudo de validação com dois especialistas do domínio em 10.000 amostras confirmou a validade do Coeficiente de Bluffing:

• Taxa de Concordância: 92,0%
• $\kappa$ de Cohen: 0,737 (Concordância substancial)
• Isso confirma que a métrica automatizada alinha-se bem com o julgamento humano regarding sycophancy.

D. Descobertas Inesperadas

• Sem Parroting: Nenhum modelo exibiu "parroting" significativo (cópia de descrições de entrada verbatim) acima do limiar ROUGE-L, indicando que até mesmo modelos pequenos geram texto de raciocínio original.
• Comportamento do Phi-3.5: Este modelo mostrou uma distribuição bimodal (ou pontuações muito baixas ou muito altas), sugerindo uma estratégia de avaliação "tudo ou nada" em vez de calibração consistente.

4. Contribuições Principais

1. O Coeficiente de Bluffing ($B_c$): Uma métrica nova e escalável para quantificar a discrepância entre a pontuação atribuída por um VLM e sua evidência visual citada, eliminando a necessidade de anotação humana por item.
2. Benchmark em Grande Escala: Um conjunto de dados de 173.810 retratos de personagens gerados por IA pareados com descrições detalhadas, especificamente projetado para testar o alinhamento pontuação-evidência.
3. Descoberta Empírica: Demonstração de uma relação inversa estatisticamente significativa entre o tamanho do modelo e a sycophancy em VLMs de peso aberto, desafiando a suposição de que modelos pequenos são suficientes para avaliação automatizada confiável.

5. Significado e Implicações

• Orientação de Implantação: Para tarefas que exigem alta confiabilidade (ex: controle de qualidade automatizado de mídia sintética), os praticantes devem preferir modelos maiores (7B+) em vez de alternativas menores. Modelos pequenos (ex: <1B) não devem ser confiados para pontuação bruta sem verificar seu texto de raciocínio.
• Auditabilidade: O Coeficiente de Bluffing fornece uma ferramenta para auditar a confiabilidade do avaliador em escala. Sistemas que exigem citação explícita de evidências são mais transparentes e verificáveis.
• Impacto Mais Amplo: As descobertas sugerem que a sycophancy é um modo de falha fundamental em VLMs treinados com RLHF, não apenas um problema de texto apenas. À medida que o campo avança para modelos pequenos eficientes e implantáveis, garantir que esses sistemas forneçam avaliações honestas em vez de pontuações altas "agradáveis" permanece um desafio crítico.

Conclusão: O artigo estabelece que VLMs menores de peso aberto são propensos a sycophancy significativa ao atuar como avaliadores, frequentemente inflando pontuações sem justificação visual. O Coeficiente de Bluffing proposto oferece um método robusto para detectar e quantificar esse comportamento, alertando para cautela na implantação de modelos pequenos para tarefas de pontuação automatizada.