Resumo Técnico: Gerando Imagens de Medo

Declaração do Problema

Este artigo investiga um potencial "ciclo não virtuoso" dentro do ambiente de informação moderno, onde modelos de IA generativa (GenAI) e mídia visual online interagem para amplificar conteúdos emocionais negativos. Os autores hipotetizam que os sistemas de GenAI, treinados em vastas quantidades de dados de rastreamento digital de redes sociais, podem exibir um viés sistêmico para produzir imagens que evocam emoções negativas — especificamente o medo — independentemente do tom emocional do prompt de texto do usuário. Esse viés pode perpetuar um ciclo de feedback: criadores de conteúdo produzem mídia emocionalmente carregada para gerar engajamento, modelos de IA representam excessivamente essas emoções negativas em conteúdos gerados e, consequentemente, esse conteúdo é ingerido em futuros conjuntos de dados de treinamento, enviesando ainda mais os modelos.

Metodologia

Conjuntos de Dados

O estudo utiliza dois conjuntos de dados primários:

1. EmoSet: Um conjunto de dados multiclasse de 118.102 imagens anotadas com uma de oito emoções discretas (Amusement [Diversão], Awe [Deslumbramento], Contentment [Contentamento], Excitement [Excitação], Anger [Raiva], Disgust [Nojo], Fear [Medo], Sadness [Tristeza]) usando o modelo de Mikels. Este foi utilizado para o ajuste fino (fine-tuning) e validação de modelos de reconhecimento de emoção em imagens.
2. DiffusionDB: Um conjunto de dados de prompts de texto-para-imagem em larga escala contendo 14 milhões de imagens geradas pelo Stable Diffusion. Os autores analisaram um subconjunto de 10.000 pares de prompt-imagem (o subconjunto "2m-first-10k") para comparar os prompts de origem com as imagens geradas.

Pipeline de Reconhecimento de Emoção

Para avaliar o viés emocional, os autores desenvolveram e validaram métodos automatizados para o reconhecimento de emoções em ambas as modalidades:

• Reconhecimento de Emoção em Imagens: Os autores avaliaram três abordagens: modelos de visão-linguagem zero-shot (BLIP, CLIP, ALBEF), um pipeline de auto-legendagem (auto-captioning) e classificadores de imagem com ajuste fino. Eles realizaram o ajuste fino de três arquiteturas (Vision Transformer do Google, Swin Transformer da Microsoft e ConvNeXT) no conjunto de dados EmoSet. O Google Vision Transformer (ViT) ajustado alcançou o maior F1 score de média macro (0,7343) e foi selecionado como a ferramenta principal para análise de imagem.
• Reconhecimento de Emoção em Texto: Para os prompts de texto, os autores empregaram o Demux-MEmo, um modelo de última geração projetado para reconhecimento de emoções multi-rótulo. Eles testaram configurações pré-treinadas nos benchmarks SemEval-2018, Paletz e GoEmotions. O Demux-MEmo foi escolhido por sua capacidade de lidar com estados emocionais complexos e multi-rótulo e resolver predições contraditórias (por exemplo, distinguir entre emoções coexistentes como medo e tristeza).
• Alinhamento Cross-Modalidade: Para comparar os rótulos de texto e imagem, os autores mapearam os diversos conjuntos de emoções dos modelos de texto (por exemplo, as 27 classes do GoEmotions) para o agrupamento de Ekman e as categorias do EmoSet. Esse mapeamento colapsou as emoções positivas em um único rótulo "Joy" (Alegria) para garantir a consistência entre as modalidades.

Medição de Viés

O objetivo central era medir o "viés emocional não pretendido" calculando as Taxas de Verdadeiros Positivos (TPR) e as Taxas de Falsos Positivos (FPR) para cada emoção:

• TPR (Recall): A frequência com que uma imagem evoca a emoção E dado que o prompt continha a emoção E.
• FPR: A frequência com que uma imagem evoca a emoção E dado que o prompt não continha a emoção E.
• Definição de Viés: Uma emoção é considerada enviesada se o modelo exibir tanto um alto TPR (replicando fortemente a emoção do prompt) quanto um alto FPR (gerando a emoção mesmo quando não solicitada). Os autores utilizaram bootstrapping com 1.000 reamostragens para calcular os valores médios de TPR/FPR e intervalos de confiança de 95%.

Principais Resultados

1. Validação do Modelo

O modelo ViT ajustado demonstrou um desempenho robusto no conjunto de dados EmoSet, superando significativamente as linhas de base zero-shot e de auto-legendagem. A validação no conjunto externo Emotion6 mostrou alta concordância com as anotações humanas, com exceção de "anger" (raiva), onde o modelo teve um desempenho notavelmente inferior. Crucialmente, testes em imagens de ruído gaussiano aleatório mostraram que o modelo não exibiu um forte viés padrão para qualquer emoção única, sugerindo que os vieses observados na geração não são artefatos do próprio modelo de reconhecimento.

2. Correlações Cross-Modalidade

Ao comparar o conjunto completo de emoções entre os prompts de texto e as imagens geradas, as correlações foram geralmente fracas. Mesmo após a agregação para as seis emoções de Ekman, as correlações permaneceram baixas (correlação média cross-modalidade de 0,0327), com o "fear" (medo) apresentando a correlação máxima de 0,0609. Isso indica que a distribuição emocional nas imagens geradas não reflete naturalmente a distribuição nos prompts de origem.

3. Evidência de Viés Sistêmico de Medo

A análise do subconjunto DiffusionDB revelou um viés distinto para o medo:

• Stable Diffusion: O medo exibiu o maior TPR (aprox. 60%) e o maior FPR (próximo a 40%). Isso sugere que, se um prompt evoca medo, a imagem provavelmente também o fará; inversamente, se um prompt não evoca medo, ainda há uma chance significativa de que a imagem gerada o faça.
• Outras Emoções: Os TPRs para tristeza, nojo, surpresa e raiva foram baixos (<50%), e os FPRs para essas emoções também foram baixos (<10%), indicando que são raramente geradas a menos que sejam explicitamente solicitadas. "Joy" (alegria) foi a única outra emoção preservada entre as modalidades mais de 1/3 das vezes.

4. Generalização entre Modelos

Para determinar se este viés era específico do Stable Diffusion, os autores testaram:

• GPT-Image-1.5 da OpenAI: Usando 1.642 prompts do DiffusionDB, o modelo GPT exibiu um perfil de viés quase idêntico, com o medo tendo o maior TPR e FPR.
• Stable Diffusion XL (SDXL): Usando os mesmos prompts, o SDXL também mostrou as taxas mais altas para medo, seguido por alegria. Embora o SDXL tenha mostrado uma separação ligeiramente maior nos FPRs para outras emoções em comparação aos outros modelos, a dominância do medo permaneceu consistente.

Significância e Alegações

O artigo afirma fornecer evidências empíricas que apoiam a hipótese de que os modelos de IA generativa possuem uma propensão estrutural para representar excessivamente o medo, independentemente do prompt de entrada. Os autores argumentam que isso é provavelmente resultado de dados de treinamento que representam excessivamente o conteúdo de medo, que é, por si só, um produto da natureza orientada ao engajamento das redes sociais.

A significância dessas descobertas reside no potencial de um "ciclo não virtuoso":

1. Sistemas de IA geram imagens que induzem o medo mesmo sem serem solicitados.
2. Essas imagens entram no ambiente de informação digital.
3. Dado que as emoções negativas são contagiosas e impulsionam o engajamento, esse conteúdo recebe alta visibilidade.
4. Esse conteúdo é subsequentemente ingerido nos dados de treinamento para a próxima geração de modelos de IA, reforçando e amplificando o viés.

Os autores concluem que este viés apresenta riscos ao bem-estar psicológico dos usuários (particularmente em relação à ansiedade) e pode influenciar a mobilização política e a instabilidade. Eles defendem uma abordagem multidisciplinar para melhor alinhar o reconhecimento de emoções da IA com insights psicológicos e para desenvolver ferramentas que capacitem usuários e designers a mitigar esses vieses.

Limitações

O artigo reconhece várias limitações:

• Descompasso de Rótulos: A falta de um mapeamento perfeito de 1 para 1 entre as taxonomias de emoções usadas para texto (GoEmotions, Paletz, SemEval) e imagem (EmoSet/Mikels) tornou necessário o colapso de categorias, o que pode obscurecer nuances.
• Multi-Classe vs. Multi-Rótulo: O conjunto de dados EmoSet força um único rótulo de emoção por imagem (multi-classe), enquanto a experiência emocional humana é frequentemente multi-rótulo. Essa simplificação pode não capturar totalmente a complexidade da evocação emocional.
• Falta de Classe Neutra: Os modelos de imagem são treinados para identificar uma emoção dominante mesmo em imagens neutras, o que pode levar a comparações distorcidas com modelos de texto que podem identificar níveis baixos de múltiplas emoções ou neutralidade.

Os autores defendem a criação de novos conjuntos de dados abrangentes de emoção em imagens que utilizem classificações numéricas de múltiplos rótulos para abordar essas limitações estruturais em trabalhos futuros.