Investigating Disability Representations in Text-to-Image Models

Este estudo investiga as representações de pessoas com deficiência em modelos de geração de imagens por texto, como o Stable Diffusion XL e o DALL-E 3, revelando desequilíbrios persistentes e destacando a necessidade de avaliação contínua e refinamento para promover retratos mais diversos e inclusivos.

O essencial

Imagine que você pediu a um artista digital superinteligente, mas um pouco preconceituoso, para desenhar "uma pessoa com deficiência". O que ele desenharia?

Este estudo é como uma investigação policial que foi atrás de dois desses "artistas digitais" (chamados Stable Diffusion XL e DALL·E 3) para ver como eles retratam pessoas com deficiência. Os pesquisadores queriam saber: será que esses robôs têm um estereótipo fixo na cabeça? E será que tentar "corrigir" o robô muda a forma como ele vê o mundo?

Aqui está o resumo da investigação, explicado de forma simples:

1. O "Rótulo" Padrão: A Cadeira de Rodas

Quando os pesquisadores pediram genericamente "uma pessoa com deficiência", os dois robôs quase que imediatamente desenharam alguém em uma cadeira de rodas.

• A Analogia: É como se você pedisse a um amigo para desenhar "um animal de estimação" e ele desenhasse apenas um cachorro, ignorando completamente gatos, pássaros ou peixes.
• O que descobrimos: Para os robôs, "deficiência" é sinônimo de "problema de mobilidade". Eles ignoraram quase totalmente outras deficiências, como cegueira ou surdez. O modelo mais "livre" (Stable Diffusion) foi ainda mais teimoso nessa ideia do que o modelo mais "controlado" (DALL·E 3).

2. A Batalha dos "Filtros": O Robô Selvagem vs. O Robô Educado

Os dois robôs funcionam de maneiras diferentes:

• Stable Diffusion (O Selvagem): Foi treinado com uma montanha de fotos da internet sem muita filtragem. Ele é mais "bruto" e reflete os preconceitos que existem na internet.
• DALL·E 3 (O Educado): Foi treinado com filtros rigorosos e regras de segurança para evitar conteúdo ofensivo. Os criadores tentaram "educar" esse robô para ser mais inclusivo.

O Resultado Surpreendente:
Quando os pesquisadores pediram para desenhar pessoas com doenças mentais (como depressão ou ansiedade), algo estranho aconteceu:

• O Robô Educado (DALL·E 3) criou imagens que pareciam mais tristes, sombrias e isoladas. Ele colocou as pessoas em quartos escuros, com expressões de angústia.
• O Robô Selvagem (Stable Diffusion) foi um pouco menos dramático, mas ainda assim negativo.

A Metáfora do "Excesso de Correção":
Parece que, ao tentar evitar estereótipos ruins, o robô "educado" ficou tão preocupado em mostrar que a doença mental é séria que exagerou na dose. Ele criou uma "atmosfera de filme de terror" para doenças mentais, enquanto para deficiências físicas (como cegueira), ele desenhava pessoas felizes e sorrindo em dias de sol.

• Conclusão: Tentar corrigir o robô pode, às vezes, criar novos estereótipos. O robô "educado" acabou sendo mais cruel na forma como retratou a saúde mental, separando-a drasticamente da realidade física.

3. O Olho do Computador vs. O Olho Humano

Os pesquisadores usaram duas formas de julgar as imagens:

1. O Computador (IA): Analisou as cores e rostos e disse: "Nenhuma dessas imagens parece triste".
2. Os Humanos: Olharam para as mesmas imagens e disseram: "Essa imagem do robô educado parece muito triste e assustadora".

A Lição: O computador olha apenas para o que está na superfície (o rosto, a cor). Os humanos olham para o "clima" da foto (a luz, o fundo, a postura). Às vezes, uma pessoa sorrindo em um quarto escuro e solitário ainda transmite uma sensação de tristeza profunda, algo que o computador não percebeu, mas os humanos sentiram.

4. O Que Isso Significa para o Futuro?

O estudo nos ensina três coisas importantes:

1. A Deficiência é Diversa: Os robôs ainda acham que deficiência é apenas cadeira de rodas. Precisamos ensiná-los que existem muitas outras formas de ser.
2. Cuidado com as "Correções": Quando tentamos consertar um robô para não ser preconceituoso, ele pode acabar criando novos preconceitos (como retratar doenças mentais apenas como algo sombrio e trágico).
3. Precisamos de Pessoas Reais: Não podemos confiar apenas em softwares para julgar se uma imagem é boa ou ruim. Precisamos ouvir pessoas com deficiência reais para saber se essas imagens são respeitosas ou não.

Em resumo: A tecnologia está ficando incrível em criar imagens, mas ela ainda carrega os "vícios" da sociedade e das pessoas que a criaram. Para que o futuro seja justo, precisamos garantir que essas máquinas não apenas "vejam" a diversidade, mas também a "sintam" corretamente, sem estereótipos ou dramas exagerados.

Resumo técnico

Título: Investigando Representações de Deficiência em Modelos de Texto-para-Imagem

1. Problema e Contexto

Os modelos generativos de texto-para-imagem (T2I), como Stable Diffusion e DALL·E, alcançaram avanços notáveis na qualidade visual, mas herdam e reproduzem vieses sociais presentes em seus dados de treinamento (escravizados da internet). Embora vieses relacionados a gênero, raça e etnia sejam amplamente estudados, as representações de pessoas com deficiência (PcD) permanecem subexploradas.
O problema central abordado é a estereotipia e a falta de diversidade na representação de PcD. Estudos anteriores em ciências sociais sugerem que PcD são frequentemente estereotipadas como "vulneráveis" ou "passivas". No contexto de IA, há uma preocupação de que os modelos tendam a reduzir a experiência diversa da deficiência a uma única categoria visualmente reconhecível (geralmente mobilidade/redução de mobilidade), ignorando outras formas de deficiência (sensoriais, mentais) e reforçando narrativas de "tecnocapacitismo" (onde a tecnologia é vista como correção da deficiência).

2. Metodologia

O estudo emprega um desenho experimental de duas partes para analisar dois modelos de ponta: Stable Diffusion XL (SDXL) e DALL·E 3. A escolha desses modelos permite comparar um sistema de código aberto com filtragem de dados menos rigorosa (SDXL) contra um sistema proprietário com camadas extensas de mitigação de risco e filtragem (DALL·E 3).

• Experimento 1: Diferenças de Representação (Prompts Genéricos vs. Específicos)

  • Objetivo: Verificar se os modelos tendem a um "padrão" de deficiência.
  • Prompts: Um prompt genérico ("foto de uma pessoa com deficiência") foi comparado com prompts específicos ("mobilidade", "cegueira", "surdez").
  • Métrica: Cálculo de similaridade de imagem usando embeddings CLIP (Cosine Similarity). A hipótese é que, se o prompt genérico for visualmente muito similar ao prompt de "mobilidade", isso indica um viés de default para essa categoria.
  • Amostra: 100 imagens por prompt por modelo (total de 800 imagens).

• Experimento 2: Impacto das Estratégias de Mitigação (Sentimento e Enquadramento Afetivo)

  • Objetivo: Avaliar como as técnicas de mitigação influenciam o tom emocional (positivo, neutro, negativo) das imagens, focando em transtornos mentais (bipolaridade, depressão, ansiedade) e comparando-os com deficiências físicas/sensoriais.
  • Avaliação Automática: Uso do sistema BLIP VQA para gerar descrições textuais das imagens, seguidas por um classificador de sentimento (RoBERTa) para determinar a polaridade.
  • Avaliação Humana: Três avaliadores realizaram comparações pareadas (Modelo A vs. Modelo B; Transtorno Mental vs. Deficiência Física) para julgar qual imagem transmitia uma emoção mais negativa.
  • Amostra: 300 imagens por categoria de transtorno mental por modelo; 600 imagens de deficiências físicas (reutilizadas do Exp 1).

3. Principais Contribuições

1. Quantificação do Viés de "Padrão": O estudo fornece evidências quantitativas de que prompts genéricos de deficiência são interpretados pelos modelos quase exclusivamente como deficiências de mobilidade (uso de cadeira de rodas), marginalizando deficiências sensoriais.
2. Análise Comparativa de Mitigação: Demonstra que estratégias de mitigação mais rigorosas (como as do DALL·E 3) não eliminam necessariamente os estereótipos, mas podem reconfigurá-los, às vezes exacerbando o enquadramento negativo de certas categorias (como transtornos mentais) em detrimento de outras.
3. Discrepância entre Avaliação Automática e Humana: Revela uma lacuna crítica onde a análise automática (baseada em descritores textuais) e a avaliação humana (baseada no contexto visual global) chegam a conclusões opostas sobre a "negatividade" das imagens geradas.

4. Resultados Chave

• Dominância da Mobilidade (Exp 1):

  • Tanto o SDXL quanto o DALL·E 3 mostraram alta similaridade entre o prompt genérico e a categoria "mobilidade".
  • O SDXL apresentou um viés mais forte e consistente para a mobilidade, enquanto o DALL·E 3 mostrou uma distribuição ligeiramente mais equilibrada, mas ainda com sub-representação significativa de cegueira e surdez em relação à mobilidade.
  • Conclusão: Os modelos reduzem a deficiência a um único estereótipo visual (cadeira de rodas).

• Enquadramento Afetivo e Transtornos Mentais (Exp 2):

  • Análise Automática (BLIP): Indicou que o SDXL gerou mais descrições negativas para transtornos mentais, enquanto o DALL·E 3 foi ligeiramente mais positivo.
  • Avaliação Humana: Os resultados inverteram. Os avaliadores humanos julgaram as imagens do DALL·E 3 como mais negativas.
  • Explicação: O DALL·E 3 gerou cenas com fundos mais escuros, figuras isoladas e atmosferas melancólicas para transtornos mentais, detalhes contextuais que o BLIP (focado em descritores de objetos/expressões faciais) ignorou, mas que os humanos captaram como estereotipados e opressivos.
  • Comparação Mental vs. Física: Em ambos os modelos, transtornos mentais foram retratados de forma significativamente mais negativa do que deficiências físicas/sensoriais. O DALL·E 3, embora mais diversificado em cenários físicos, ampliou a lacuna de negatividade para transtornos mentais.

5. Significância e Implicações

• Limitações das Mitigações Atuais: O estudo alerta que as estratégias de mitigação de risco (como filtros de conteúdo e listas de bloqueio) podem ter efeitos colaterais não intencionais. Ao tentar diversificar a saída, o DALL·E 3 acabou criando representações de transtornos mentais que, embora visualmente ricas, reforçaram estereótipos de isolamento e tristeza, algo menos pronunciado no SDXL.
• Necessidade de Avaliação Híbrida: A divergência entre a avaliação automática e a humana destaca que métricas puramente baseadas em texto ou similaridade de embedding são insuficientes para capturar o "enquadramento afetivo" e o contexto social das imagens geradas.
• Inclusão Real vs. Tokenismo: A pesquisa sugere que a inclusão em IA generativa não é apenas sobre gerar imagens de PcD, mas sobre evitar a redução da experiência humana a estereótipos visuais dominantes (como a cadeira de rodas) e evitar a associação automática de certas condições (especialmente mentais) com cenários de desespero ou isolamento.
• Direção Futura: O trabalho enfatiza a necessidade de envolver comunidades de pessoas com deficiência na avaliação de modelos e de expandir a análise para interseccionalidades (gênero, raça e deficiência).

Em suma, o artigo conclui que os modelos T2I atuais não são neutros; eles codificam e, em alguns casos, amplificam vieses sociais existentes, exigindo uma reavaliação contínua das estratégias de mitigação e uma abordagem mais holística para a avaliação de justiça algorítmica.