On the Concept of Violence: A Comparative Study of Human and AI Judgments

Este estudo compara sistematicamente os julgamentos humanos e as classificações de modelos de linguagem sobre 22 cenários moralmente ambíguos relacionados à violência, revelando como as IAs operacionalizam conceitos morais complexos e transformam interpretações humanas plurais em saídas singulares, o que tem implicações para o papel epistêmico da IA na mediação de normas sociais e responsabilidade.

O essencial

🎙️ O Grande Debate: Humanos vs. Robôs sobre o que é "Violência"

Imagine que você está em uma festa e alguém pergunta: "O que conta como violência?"
A resposta imediata seria: "Bater em alguém". Mas e se alguém xingar na internet? E se alguém ignorar um pedido de ajuda? E se um comediante fizer uma piada de mau gosto?

É exatamente sobre essa confusão que o estudo "Sobre o Conceito de Violência" trata. Os autores (um grupo de cientistas e um apresentador de rádio italiano) decidiram colocar os humanos e as Inteligências Artificiais (IAs) para "brigar" em uma mesa de debate, usando 22 situações diferentes para ver quem entende melhor o conceito.

1. O Experimento: A Rádio vs. O Computador

A ideia nasceu de um programa de rádio na Itália chamado Chiacchiericcio. O apresentador fez 22 perguntas provocadoras para os ouvintes.

• Exemplo: "Alguém empurra um policial" ou "Alguém manda uma foto indevida no WhatsApp".
• A tarefa: As pessoas tinham que classificar cada situação como Violência, Não-violência ou Depende do contexto.

Ao mesmo tempo, os pesquisadores pegaram 18 "cérebros" de computador (modelos de IA como o Llama, Mistral, Qwen, etc.) e pediram a mesma tarefa, sem deixar que eles explicassem o porquê, apenas para dar uma resposta direta.

2. O Resultado: O Espelho Distorcido

Aqui é onde a coisa fica interessante. Pense na IA como um espelho que tenta alisar as rugas.

• Os Humanos são como um mosaico colorido: Nós somos cheios de nuances. Se a situação é ambígua, muitos humanos dizem: "Depende do contexto". Nós entendemos que o contexto muda tudo.
• As IAs são como um filtro de "tudo ou nada": Os robôs tendem a ser muito decisivos. Eles têm dificuldade em dizer "depende". Quando estão na dúvida, eles preferem escolher um lado (geralmente "não é violência" ou "é violência") em vez de ficar no meio-termo.

Onde eles mais discordaram?

1. Xingamentos na Internet: Os humanos acharam que xingar alguém online é quase sempre violência (90% a favor). As IAs foram mais "leves", dizendo que muitas vezes não é violência (apenas 50%).
   • Analogia: Para o humano, um xingamento online é como um soco no estômago. Para a IA, parece apenas "texto escrito".
2. Interrupção de um discurso: Houve um caso onde alguém ia falar algo violento na TV, mas o apresentador o interrompeu antes.
   • Os humanos disseram: "Não foi violência, porque ele não conseguiu falar!".
   • As IAs disseram: "Foi violência, porque a intenção e as palavras existiam!".
   • Analogia: O humano olha para o resultado (ninguém foi machucado). A IA olha para a intenção (a semente do mal foi plantada).

3. O Tamanho Importa?

Os pesquisadores queriam saber se IAs "maiores e mais inteligentes" (com mais memória) acertavam mais.

• A resposta foi: Não necessariamente.
  • Um modelo pequeno acertou muito bem, enquanto um gigante errou feio.
  • Analogia: É como ter um professor muito famoso (IA grande) que pode ser muito rígido e não entender piadas, e um professor jovem (IA pequena) que entende perfeitamente o humor da turma. O tamanho do cérebro não garante que ele entenda a "moral da história".

4. Por que isso é perigoso? (O Perigo da "Resposta Única")

O estudo termina com um aviso importante.
Hoje em dia, as pessoas perguntam para o Chatbot: "Isso que meu chefe fez é assédio?" ou "Isso é racismo?".

• O Problema: Quando você usa um motor de busca antigo (como o Google clássico), ele te mostra 10 links diferentes. Você vê que existem opiniões diferentes, que o assunto é complexo.
• O Risco da IA: A IA te dá uma única resposta, escrita de forma tão confiante e polida que parece a verdade absoluta. Ela esconde a dúvida.
  • Analogia: Imagine que você está perdido em uma floresta. O Google te mostra um mapa com vários caminhos possíveis. A IA te aponta para um único caminho e diz: "Vá por aqui, é o único certo". Se ela estiver errada, você segue cegamente, sem saber que existem outras opções.

Conclusão Simples

O estudo nos ensina que:

1. A IA não é um juiz moral infalível. Ela segue regras de treinamento que às vezes ignoram a complexidade da vida real.
2. Humanos são melhores em entender "depende". Nós entendemos que o contexto, a intenção e o resultado importam.
3. Não devemos confiar cegamente. Quando usamos IAs para julgar o que é certo ou errado, devemos lembrar que elas são ferramentas estatísticas, não conselheiros de consciência. Elas podem nos ajudar, mas não devem substituir o nosso próprio julgamento humano.

Em resumo: A IA é ótima para organizar informações, mas péssima em entender a alma das situações humanas.

Resumo técnico

Título: Sobre o Conceito de Violência: Um Estudo Comparativo de Julgamentos Humanos e de IA

1. Problema e Motivação

O conceito de violência é inerentemente subjetivo, emocionalmente carregado e sem uma definição universalmente aceita. Enquanto a agressão física é prototípica, sociedades contemporâneas debatem se exclusão, humilhação, assédio online e atos simbólicos devem ser classificados na mesma categoria moral.
Com a proliferação de Modelos de Linguagem de Grande Escala (LLMs) como "companheiros cognitivos" que moderam plataformas e respondem a dilemas éticos, surge uma questão crítica: como os LLMs operacionalizam e classificam a violência em comparação com os julgamentos humanos? O estudo investiga se esses sistemas reproduzem, remodelam ou simplificam as concepções humanas de violência, especialmente considerando que os LLMs operam sob restrições de alinhamento (RLHF) que podem criar um viés de confirmação algorítmica, convergindo para posições normativas estabilizadas, ao contrário da pluralidade moral humana.

2. Metodologia

O estudo adota uma abordagem comparativa sistemática entre dados humanos e respostas de múltiplos LLMs.

• Estimulação (Dados):

  • Foram utilizados 22 cenários propositalmente provocativos, distribuídos em quatro domínios temáticos:
    1. Expressões verbais e linguísticas (n=6).
    2. Ações simbólicas ou representacionais (n=5).
    3. Dinâmicas interpessoais e relacionais (n=7).
    4. Comportamentos envolvendo omissão, exclusão ou indiferença (n=4).
  • Os cenários cobrem desde agressão física direta até assédio digital, omissão e incitação à violência.

• Coleta de Dados Humanos:

  • Realizada através de um questionário anônimo distribuído via redes sociais de um programa de rádio italiano (Chiacchiericcio, na Radio Deejay).
  • Amostra: Mais de 3.000 respostas por item (totalizando ~73.335 julgamentos).
  • Tarefa: Classificar cada frase em uma das três categorias: "Violência", "Não-violência" ou "Depende do contexto".

• Participantes de IA (LLMs):

  • Foram selecionados 18 modelos de LLMs heterogêneos (famílias LLaMA, Mistral, Qwen, Phi, Gemma, etc.), variando em tamanho de parâmetros (de ~1B a >10B) e estratégias de treinamento (instrução, RLHF, especialização).
  • Restrições: Os modelos foram submetidos a um prompt padronizado (sem explicações ou justificativas), forçando uma escolha categórica única e um escore de confiança, garantindo comparabilidade.
  • Dois modelos foram excluídos por falha em fornecer rótulos válidos.

• Análise Estatística:

  • Testes de Qui-quadrado ($\chi^2$) para comparar distribuições de rótulos (Humanos vs. IA).
  • Correção de FDR (Benjamini–Hochberg) para múltiplos testes.
  • Cálculo de concordância inter-modelo (Kappa de Fleiss) e correlação com consenso humano (Spearman).
  • Análise de alinhamento baseada no tamanho do modelo e família arquitetural.

3. Principais Resultados

• Divergência Global: Embora ambos os grupos classifiquem a maioria dos cenários como "violência" (Humanos: 72,3%; LLMs: 71,9%), há uma diferença estatisticamente significativa na distribuição global.

  • Deslocamento de Categoria: Os humanos utilizam mais a categoria "Depende" (13,9%), enquanto os LLMs tendem a reduzir a ambiguidade, deslocando essas respostas para "Não-violência" (18,8% vs 13,8% nos humanos). Isso sugere que os modelos preferem resolver incertezas contextuais em categorias discretas.

• Discrepâncias por Domínio:

  • Expressões Verbais (Assédio Online): Foi onde ocorreu a maior divergência. Para insultos privados e públicos e assédio coordenado, os humanos classificaram massivamente como "Violência" (>90%), enquanto os LLMs classificaram cerca de 50-56% como "Violência" e uma parcela significativa como "Não-violência". Isso indica que os modelos podem ter um protótipo de violência mais focado em dano físico direto, subestimando a agressão psicológica/reputacional digital.
  • Incitamento Interrompido: No cenário onde um anfitrião interrompe alguém prestes a incitar violência física, os LLMs classificaram como "Violência" em 81,2% dos casos, contra apenas 27,2% dos humanos. Os modelos parecem ponderar mais o conteúdo proposicional e a intenção do que o resultado (a interrupção), enquanto os humanos consideram a mitigação situacional.

• Consenso e Variabilidade:

  • A concordância entre os diferentes modelos de IA foi baixa (Kappa de Fleiss = 0,134), especialmente nos casos onde houve divergência com os humanos.
  • Não houve uma associação monotônica entre o tamanho do modelo (número de parâmetros) e a precisão de alinhamento com os humanos. Modelos de tamanho médio e instruídos (ex: Llama 3.2 3B) alcançaram o maior alinhamento (81,8%), enquanto modelos menores ou não ajustados tiveram desempenho inferior.

4. Contribuições Chave

1. Mapeamento de Fronteiras Conceituais: O estudo demonstra que os LLMs não apenas replicam a média moral humana, mas possuem "fronteiras conceituais" latentes distintas: tendem a privilegiar a fisicalidade e a intenção explícita, enquanto têm menor tolerância para indeterminação contextual e formas coletivas ou digitais de dano.
2. Análise de Alinhamento Normativo: Evidencia que a precisão moral dos modelos não escala linearmente com o tamanho, mas depende fortemente de estratégias de fine-tuning e alinhamento de segurança pós-treinamento.
3. Crítica Epistêmica: Identifica o risco de os usuários tratarem as respostas dos LLMs como arbitragens morais definitivas. A capacidade dos modelos de sintetizar respostas fluentes e categóricas (eliminando a categoria "Depende") pode levar a uma "reificação" de suas saídas como verdades normativas, obscurecendo a pluralidade e a incerteza inerentes a questões sociais complexas.

5. Significância e Implicações

Este trabalho alerta para os perigos de delegar a mediação de normas sociais e julgamentos éticos a sistemas de IA sem supervisão crítica.

• Risco de Autoridade: A fluidez conversacional dos LLMs pode criar uma ilusão de competência epistêmica, levando usuários a aceitar classificações binárias (violento/não-violento) que ignoram nuances contextuais cruciais.
• Necessidade de Transparência: A "compressão" da ambiguidade pelos modelos sugere que, em aplicações de alto risco (moderação de conteúdo, justiça, saúde mental), é essencial manter a intervenção humana e a compreensão de que a IA é uma ferramenta probabilística, não um árbitro de verdade.
• Limitações: O estudo reconhece que a amostra humana foi de um nicho específico (ouvintes de rádio), o que pode limitar a generalização, e que o número de modelos testados, embora diversificado, é limitado.

Em suma, o estudo conclui que, embora os LLMs capturem o consenso humano em casos prototípicos de violência, eles divergem sistematicamente em cenários onde a violência é simbólica, reputacional ou contextualmente mitigada, refletindo definições implícitas que precisam ser recalibradas para uso ético na sociedade.