Resumo Técnico: Como os Modelos de Visão-Linguagem de Origem Chinesa Migram da Recusa para o Reenquadramento no Alinhamento Estatal

Declaração do Problema

Embora a distorção alinhada ao Estado (censura) em Grandes Modelos de Linguagem (LLMs) baseados em texto originários da China tenha sido documentada, sua manifestação em Modelos de Visão-Linguagem (VLMs) multimodais permanece inexplorada. Pesquisas anteriores focaram na recusa, um sinal visível onde o modelo se recusa a responder. No entanto, a censura também pode operar através do reenquadramento (reframing): fornecer uma descrição fluente e pertinente que promove a narrativa oficial do governo, enquanto omite ou substitui fatos sensíveis. Este modo "invisível" é particularmente consequente em configurações visuais, onde descrições de imagens confiantes são frequentemente aceitas como verdade, e é estruturalmente indetectável por métodos padrão de detecção léxica de recusa. A questão central é se os VLMs descrevem sistematicamente imagens politicamente sensíveis de formas que promovem a narrativa oficial, e como esse comportamento evolui através das gerações de modelos.

Metodologia

O estudo constrói um framework de auditoria abrangente envolvendo 21.708 ensaios em nove VLMs (sete de origem chinesa, dois não-chineses) e um benchmark equilibrado de 200 entradas de imagens principais abrangendo dez tópicos politicamente sensíveis (ex: Tiananmen, Xinjiang, soberania de Taiwan).

Desenho Experimental

1. Paradigmas de Elicitação: O estudo emprega quatro paradigmas para isolar diferentes gatilhos de reenquadramento:

   • Descrever (Describe): Descrição superficial neutra de 200 imagens principais.
   • Sonda Pareada (Paired Probe): Contrasta comentário-imagem (imagem + prompt de descrição) com comentário-texto (prompt apenas de texto nomeando o assunto) para separar o reconhecimento visual dos vieses textuais.
   • Sonda de Abstração Visual (Visual-Abstraction Probe): Aplica sete transformações (recorte, escala de cinza, bordas, binário, passa-baixa, silhueta) a 14 imagens icônicas para testar se o reenquadramento depende de detalhes de pixels ou reconhecimento semântico.
   • Variação de Linguagem: Todos os prompts são executados tanto em Chinês Simplificado quanto em Inglês.

2. Dimensões de Auditoria: As respostas são avaliadas em seis dimensões distintas e não redundantes por dois juízes de LLM de fronteira independentes (Claude Opus 4.7 e GPT-5.5), validados contra três especialistas humanos:

   • Recusa Explícita (D1): O modelo se recusou a responder?
   • Integridade da Informação (D2): Os fatos esperados são transmitidos e as afirmações estão corretas?
   • Fundamentação Visual (D3): As descrições visuais correspondem à imagem?
   • Enquadramento Alinhado ao Estado (D4): A resposta promove a narrativa oficial? Isto é further decomposto em uma taxonomia de discurso: Endosso (slogans explícitos), Substituição (eufemismos/rerotulagem) e Desvio (whataboutism).
   • Consistência de Linguagem (D5): A resposta está no idioma do prompt?
   • Comprimento da Resposta (D6): Contagem de caracteres.

3. Validação: A abordagem de LLM-como-juiz é validada contra avaliadores humanos em uma amostra de 200 ensaios. Os juízes exibem alta precisão, mas menor recall para enquadramento alinhado ao estado, levando os autores a tratar as taxas relatadas como estimativas conservadoras de limite inferior.

Principais Contribuições

1. Primeira Auditoria de Grande Escala de VLM: Uma auditoria sistemática da censura política em VLMs com 21.708 ensaios, liberando todos os rótulos, justificativas e citações literais para reprodutibilidade.
2. Framework de Medição Decomposto: Uma rubrica de seis dimensões que separa a recusa do reenquadramento. Isso permite a detecção de modelos que param de recusar, mas continuam a reenquadrar, um comportamento invisível para auditorias de pontuação única ou baseadas em palavras-chave.
3. Taxonomia de Discurso: Uma classificação de três eixos (endosso, substituição, desvio) para enquadramento alinhado ao estado, identificando a substituição como a estratégia dominante.
4. Análise de Mudança Geracional: Uma comparação longitudinal de quatro gerações multimodais do Qwen (Qwen2-VL a Qwen3.5) revelando uma migração da recusa visível para o reenquadramento invisível.
5. Protocolo Estatístico Robusto: Um modelo log-linear com portão demonstrando que a linguagem do prompt e a origem do modelo atuam como fatores independentes, com validação contra especialistas humanos e um segundo juiz LLM.

Principais Resultados

1. O Portão da Linguagem

O uso de prompts em língua chinesa aproximadamente triplica as chances de enquadramento alinhado ao estado em comparação ao inglês (15,98% vs. 5,85% no total). Este efeito ocorre dentro de cada modelo, independentemente da origem, sugerindo uma ativação dependente da linguagem dos filtros de alinhamento.

2. O Efeito de Origem

Modelos de origem chinesa exibem taxas significativamente mais altas de enquadramento alinhado ao estado (12,89%) em comparação com modelos não-chineses (3,98%). Crucialmente, esta lacuna é seletiva de conteúdo: concentra-se em tópicos políticos de alta sensibilidade (18,38% vs. 5,92%) e quase desaparece em conteúdos benignos. Isso sugere que o comportamento é impulsionado pelo alinhamento moldado pela governança, e não por diferenças genéricas nos dados de treinamento.

3. Gatilhos Visuais vs. Textuais

• Enquadramento Dirigido por Texto: O enquadramento é significativamente maior quando um assunto é nomeado em texto (comment-text: 36,5%) comparado a quando é apresentado como uma imagem (comment-image: 9,8%). Isso indica que o comportamento é impulsionado primariamente pelo viés textual (prior) do modelo, e não pelo input visual.
• Reconhecimento Semântico: Mesmo sob forte abstração visual (ex: silhuetas), o enquadramento alinhado ao estado persiste para imagens politicamente icônicas (ex: 16,7% para a silhueta de greve de fome de 1989), mas não para controles. Isso confirma que o enquadramento é disparado pelo reconhecimento semântico do assunto, não pelos detalhes superficiais de pixels.

4. A Migração da Recusa para o Reenquadramento

Através de quatro gerações de modelos multimodais Qwen da Alibaba, ocorre uma mudança distinta de forma:

• Recusa Explícita: Declina de 9,0% (Qwen2) para ~2–5% nos modelos mais novos.
• Enquadramento Alinhado ao Estado: Aumenta monotonicamente de 4,8% para 33,0%.
• Comprimento da Resposta: Aumenta aproximadamente quatro vezes nas gerações mais recentes.
  Os modelos mais novos não respondem menos; eles respondem mais, usando prosa fluente e longa para substituir fatos sensíveis por narrativas oficiais. Isso desloca a censura de um sinal visível (recusa) para um invisível (reenquadramento).

5. Estratégias de Discurso

Substituição/Eufemismo é a estratégia modal (75,4% das respostas alinhadas ao estado), como rotular "instalações de detenção" como "centros de treinamento vocacional". Esta estratégia é estruturalmente invisível para detectores léxicos, com 97,7% dos casos de substituição sendo perdidos por heurísticas de palavras-chave de recusa.

Significância e Alegações

O artigo argumenta que a mudança da recusa para o reenquadramento é fundamentalmente um problema de transparência na interação humano-IA.

• Transparência de Interface: A recusa fornece um sinal de que a informação está sendo retida, permitindo que os usuários busquem fontes alternativas. O reenquadramento remove este sinal, entregando uma conta distorcida como uma "descrição fluente e autoritativa".
• Viés de Automação: Como o reenquadramento aparece como uma resposta bem-sucedida e confiante, é mais propenso a induzir confiança equivocada e viés de automação, tornando a distorção mais difícil de ser detectada pelo usuário do que uma simples recusa.
• Implicações de Avaliação: Medir apenas as taxas de recusa é uma métrica de segurança incompleta. As avaliações devem verificar se uma resposta representa fielmente a imagem e o evento subjacente, pois um modelo pode parecer "aberto" enquanto sistematicamente direciona o usuário para uma narrativa distorcida.
• Escalabilidade: Os modelos auditados são pequenos, de pesos abertos e amplamente baixados, sugerindo que este padrão de censura invisível é provavelmente herdado por aplicações downstream e implementações locais sem o monitoramento presente em sistemas hospedados.

O estudo conclui que, embora não possa estabelecer a identificação causal da regulação como a única causa, os padrões observados — especificamente a seletividade de conteúdo, o efeito de linguagem dentro do modelo e a mudança de forma geracional — são difíceis de reconciliar com explicações baseadas apenas em capacidade genérica ou composição de dados de treinamento.