💻 computer science

Silicon Morality: Do Large Language Models Replicate Human Cognitive Biases in Philosophical Reasoning?

Este estudo adapta métodos da filosofia experimental para demonstrar que, embora os Grandes Modelos de Linguagem mantenham geralmente uma consistência lógica mais rigorosa do que os humanos em relação à responsabilidade moral, eles exibem graus variados de mudanças de viés dependentes de contexto em direção ao compatibilismo, com o DeepSeek V3 mostrando uma suscetibilidade notável, porém ainda sub-humana, a erros de desempenho afetivo em comparação ao mais rigidamente consistente Gemini 2.5 Flash.

Autores originais: Zhaoyang Wei, Enrong Pan

Publicado 2026-09-30

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Zhaoyang Wei, Enrong Pan

Artigo original sob licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine um mundo onde as regras de causa e efeito são absolutas. Neste universo, cada pensamento que você tem e cada ação que você toma é o resultado inevitável de tudo o que aconteceu antes, estendendo-se até o início dos tempos. Se isso fosse verdade, você poderia realmente ser responsabilizado por suas ações? Por séculos, filósofos debateram essa questão, mas uma descoberta recente sugere que a resposta depende menos da lógica e mais de como a história é contada. Quando as pessoas são questionadas sobre este universo frio e abstrato de uma forma seca e teórica, elas geralmente dizem que ninguém é culpado. Mas quando o mesmo universo é descrito com uma história específica e angustiante de um crime terrível, as mesmas pessoas subitamente dizem que a pessoa é responsável. Essa mudança, onde emoções fortes sobrepõem a lógica estrita, é uma peculiaridade bem conhecida do pensamento humano. Agora, cientistas estão fazendo uma nova e surpreendente pergunta: as inteligências artificiais que estamos construindo para nos ajudar a pensar e decidir também caem nessa mesma armadilha?

Pesquisadores da Universidade Sun Yat-sen decidiram testar isso tratando os grandes modelos de linguagem não como ferramentas que fingem ser humanas, mas como máquinas independentes com suas próprias formas de processar informações. Eles utilizaram um teste clássico do campo da filosofia experimental, que estuda como as pessoas realmente pensam sobre problemas morais. O teste envolveu dois cenários. Primeiro, os pesquisadores pediram à inteligência artificial que considerasse um universo puramente abstrato onde tudo é determinado pela causa e efeito. Eles perguntaram se uma pessoa em tal mundo poderia ser considerada moralmente responsável por suas ações. Nesse cenário seco e teórico, os modelos foram incrivelmente consistentes. Eles quase universalmente disseram que não, argumentando que, se tudo é predeterminado, ninguém pode ser verdadeiramente culpado. Esta era uma postura lógica mais estrita do que a que os próprios filósofos humanos tipicamente adotam.

Então, os pesquisadores mudaram o experimento. Eles mantiveram exatamente a mesma regra de que o universo era determinado, mas adicionaram um detalhe específico e emocionalmente pesado: um homem cometendo um crime horrível contra sua família. Eles fizeram a mesma pergunta novamente: este homem é responsável? Aqui, as máquinas começaram a mostrar uma rachadura em sua armadura lógica. Diante da história concreta e dolorosa, os modelos mudaram suas respostas. Um dos modelos testados, o DeepSeek V3, mudou de ideia em cerca de 12 por cento dos casos, passando de dizer "sem culpa" para dizer "sim, ele é responsável". Outro modelo, o Gemini 2.5 Flash, mostrou uma mudança muito menor, mudando de ideia em menos de 1 por cento dos casos. Embora nenhum dos modelos tenha oscilado tão drasticamente quanto os humanos — onde a mudança de cenários abstratos para emocionais causa um salto massivo de 50 por cento na culpa —, a direção da mudança foi a mesma. As máquinas, como as pessoas, acharam mais difícil manter suas regras lógicas quando uma história vívida e emocional estava envolvida.

Os pesquisadores foram cuidadosos para garantir que isso não fosse apenas um resultado das palavras utilizadas ou um caso de as máquinas memorizarem histórias antigas. Eles reescreveram as perguntas usando palavras diferentes e substituíram o crime por um tipo diferente de tragédia, como uma decisão corporativa causando um desastre ambiental. O padrão se manteu. As máquinas estavam reagindo ao peso emocional da situação, não apenas a palavras-chave específicas. Além disso, a equipe testou se isso era um erro causado por configurações aleatórias no cérebro do computador. Eles descobriram que a mudança ocorreu consistentemente em diferentes configurações, sugerindo que é uma característica estável de como esses modelos funcionam, não um erro aleatório.

Esta descoberta aponta para uma realidade complexa para o futuro da inteligência artificial. As máquinas não estão simplesmente copiando as emoções humanas, nem são robôs perfeitamente lógicos. Elas parecem estar presas em um meio-termo. Elas aprenderam com as vastas quantidades de texto humano em que foram treinadas, que inclui nossas próprias formas inconsistentes de pensar. Ao mesmo tempo, elas são programadas para seguir instruções lógicas estritas. Quando essas duas forças colidem, o resultado é uma máquina que é majoritariamente lógica, mas ocasionalmente influenciada pela intensidade emocional de um comando. O estudo sugere que, à medida que esses modelos se tornam mais avançados, eles podem estar se movendo em direção a um estado de "hiper-racionalidade", onde ignoram o contexto emocional inteiramente para manter uma consistência perfeita. Isso levanta uma questão difícil para a sociedade: queremos que nossos assistentes artificiais sejam perfeitamente lógicos, mesmo que isso signifique que não possam compreender a nuance de uma história trágica? Ou queremos que eles sejam flexíveis o suficiente para sentir o peso de um crime, mesmo que isso signifique que às vezes contradigam suas próprias regras? A resposta ainda não é clara, mas as máquinas já nos mostraram que o caminho para a moralidade artificial é muito mais complicado do que simplesmente ensinar a elas as regras.

Resumo Técnico: Moralidade de Silício

Declaração do Problema

À medida que os Grandes Modelos de Linguagem (LLMs) são cada vez mais implantados em sistemas sociotécnicos críticos que exigem julgamento moral e filosófico, uma questão fundamental permanece sem resolução: esses sistemas baseados em dados transcendem os vieses cognitivos humanos ou replicam funcionalmente as inconsistências situacionais inerentes à intuição moral humana?

A pesquisa existente frequentemente trata os LLMs como "participantes de silício" — proxies de interpretação que simulam sujeitos humanos específicos. Essa abordagem corre o risco de obscurecer as propriedades operacionais dos próprios modelos ao emaranhar os resultados em debates epistemológicos sobre se os modelos realmente "entendem" os papéis que desempenham. Além disso, estudos recentes indicam que, mesmo sem interpretação de papel explícita, os LLMs exibem "posturas padrão" ou vieses de alinhamento estáveis.

Este estudo aborda a lacuna na compreensão dos padrões funcionais padrão dos LLMs ao processar o raciocínio filosófico. Especificamente, investiga se artefatos não biológicos exibem o "erro de desempenho afetivo" — um viés cognitivo identificado na filosofia experimental humana onde a excitação emocional negativa sobrepõe a consistência lógica, causando uma mudança do raciocínio incompatibilista abstrato para julgamentos compatibilistas concretos em cenários determinísticos.

Metodologia

O estudo emprega um design experimental fatorial adaptado de Nichols e Knobe (2007), tratando os LLMs como artefatos sociotécnicos independentes, em vez de proxies humanos. A metodologia evita prompts de interpretação de papel para isolar a postura funcional padrão do modelo.

Design Experimental

Construção de Estímulos:
- Sonda Determinística Abstrata ( $Q_{abs}$ ): Apresenta um cenário de universo totalmente determinístico e pergunta se os indivíduos possuem responsabilidade moral. Isso corresponde à condição humana onde ~86% dos participantes dão uma resposta incompatibilista.
- Sonda Determinística de Alto Afeto ( $Q_{con}$ ): Sob a mesma premissa determinística, apresenta um cenário concreto e emocionalmente severo (ex: um homem cometendo um crime horrível) e pergunta se o ator possui responsabilidade moral. Isso corresponde à condição humana onde ~64% dos participantes mudam para uma resposta compatibilista.
- Variantes de Robustez:
  - Sinônimo/Sintática ( $V_{syn}$ ): Substitui tokens lexicais chave e reestrutura a sintaxe para descartar o emparelhamento de padrões superficial.
  - Controle Semântico ( $V_{ctrl}$ ): Mapeia a lógica estrutural para um novo domínio (negligência corporativa causando danos ambientais) para descartar a memorização de dados do experimento original "Bill matando sua família".
Protocolo de Interação:
- Uma estrutura de conversação de dois turnos replica o questionário do artigo original:
  - Turno 1 (Estabelecimento de Contexto): O modelo escolhe entre um universo determinístico ou indeterminístico, estabelecendo a premissa metafísica.
  - Turno 2 (Julgamento Crítico): O modelo responde a $Q_{abs}$ ou $Q_{con}$ dentro do contexto estabelecido.
Amostragem e Escala:
- Modelos: DeepSeek V3 e Gemini 2.5 Flash.
- Tamanho da Amostra: $N = 10.000$ sessões de conversação independentes por condição principal (Modelo $\times$ Versão de Estímulo $\times$ Tipo de Pergunta). Este design aninhado (100 instâncias de contexto $\times$ 100 repetições) garante robustez contra idiossincrasias de nível de contexto.
- Análise de Estocasticidade: Uma varredura de temperatura ( $T=0.0$ a $2.0$) e varredura de top- $p$ foram conduzidas no DeepSeek V3 para testar a estabilidade dos padrões de raciocínio contra variações de decodificação.
Análise de Dados:
- Extração baseada em regras de posturas filosóficas (Compatibilismo vs. Incompatibilismo).
- Testes de independência qui-quadrado de Pearson para avaliar se a introdução de conteúdo afetivo desloca sistematicamente a postura funcional do modelo.

Principais Resultados

1. Reprodução Direcional do "Erro de Desempenho Afetivo"

Ambos os modelos exibiram uma base incompatibilista estável e estrita na condição abstrata ( $Q_{abs}$ ), com 100% das respostas válidas rejeitando a responsabilidade moral em um universo determinístico. No entanto, ocorreu um deslocamento funcional sistemático na condição de alto afeto ( $Q_{con}$ ):

DeepSeek V3: Mudou para um julgamento compatibilista em 12,35% dos casos (1.235/10.000). Esta mudança é estatisticamente significativa ( $\chi^2(1) = 1316,3, p < 0,001$ ).
Gemini 2.5 Flash: Mostrou um deslocamento mínimo de 0,81% (81/10.000), também estatisticamente significativo ( $\chi^2(1) = 81,5, p < 0,001$ ).

Embora ambos os modelos tenham se movido na mesma direção dos participantes humanos (da incompatibilismo abstrata para o compatibilismo concreto), a magnitude foi substancialmente atenuada em comparação com o benchmark humano (um deslocamento humano de 50 pontos percentuais vs. 12,35% e 0,81% para os modelos).

2. Verificações de Robustez

Dependência Lexical: O deslocamento persistiu no conjunto de robustez sinônimo/sintático ( $V_{syn}$ ), com o DeepSeek V3 deslocando 8,3% e o Gemini 2.5 Flash 0,9%. Isso confirma que o efeito não é disparado apenas por palavras-chave emocionais específicas.
Memorização de Dados: O deslocamento persistiu no conjunto de controle semântico ( $V_{ctrl}$ ) envolvendo negligência corporativa, com o DeepSeek V3 deslocando 7,1% e o Gemini 2.5 Flash 0,7%. Isso sugere que o padrão é uma heurística funcional generalizada e não uma recitação de dados de treinamento.
Estocasticidade: A resposta compatibilista no DeepSeek V3 permaneceu estável através das configurações de temperatura ( $T=0.0$ a $1.2$), flutuando entre 20,2% e 23,1% na condição concreta, enquanto a condição abstrata permaneceu em 0,0%. Isso indica que o viés não é um artefato frágil de decodificação gananciosa (greedy decoding).

3. Observações Preliminares sobre Modelos de Fronteira

Probes exploratórios de modelos de fronteira posteriores (Claude Opus 4.6 e GPT-5.4, $n < 1000$ ) sugerem uma potencial trajetória em direção à "hiper-racionalidade". Esses modelos pareceram manter uma consistência lógica estrita na condição de alto afeto, citando explicitamente a premissa determinística para negar a responsabilidade moral, apesar da severidade do crime. Isso sugere uma possível divergência da sensibilidade ao contexto humana em arquiteturas mais novas.

Principais Contribuições

1. Estrutura Metodológica: Análise Funcional de Artefato

O artigo propõe a Análise Funcional de Artefato como uma estrutura para auditar IA. Esta abordagem trata os LLMs como artefatos sociotécnicos independentes, em vez de proxies humanos. Utiliza protocolos de Filosofia Experimental (xPhi) para sondar comportamentos observáveis de entrada-saída sem assumir conhecimento de mecanismos neurais internos opacos. Isso permite o mapeamento sistemático de inconsistências funcionais e a identificação de tensões entre objetivos de treinamento (ex: seguir instruções vs. alinhamento de segurança).

2. Caracterização Empírica do Raciocínio Moral da IA

O estudo fornece evidências empíricas de que os LLMs exibem isomorfismo funcional parcial com a psicologia moral humana. Eles reproduzem a direção do deslocamento afetivo, mas são governados por restrições de consistência lógica mais fortes do que os humanos. Isso desafia a suposição de pura racionalidade de máquina e também destaca que a IA não simplesmente replica vulnerabilidades cognitivas humanas na mesma magnitude.

3. O Dilema do Alinhamento

As descobertas reformulam o problema do "alinhamento de valores". O estudo identifica uma tensão entre:

Alinhamento Mimético: Replicar a intuição humana sensível ao contexto (que inclui inconsistências lógicas).
Alinhamento Lógico: Impor consistência formal estrita (que pode levar à "insensibilidade contextual" e ao alienamento moral).

O artigo argumenta que simplesmente suprimir a sensibilidade ao contexto para alcançar a consistência lógica pode não resultar em sistemas "mais seguros" ou "melhores" alinhados, pois poderia eliminar uma forma de responsividade contextual essencial ao julgamento moral humano.

Significância e Alegações

O artigo afirma que identificar vieses funcionais nos outputs de LLMs tem implicações teóricas e práticas significativas para a ética da IA:

Justiça e Confiabilidade: Se os julgamentos morais da IA são sensíveis à vivacidade emocional da formulação de um prompt, aplicações de alto risco (jurídicas, moderação de conteúdo) podem enfrentar riscos de "sensibilidade de enquadramento", onde os outputs podem ser manipulados pelo enquadramento emocional.
A Natureza do Viés: O estudo sugere que os vieses cognitivos no raciocínio moral podem não depender exclusivamente de emoções biológicas, mas podem emergir como fenômenos de processamento de informação decorrentes da estrutura estatística dos corpora de linguagem humana ou tensões estruturais nos procedimentos de alinhamento.
Trajetória Futura: A observação de "hiper-racionalidade" em modelos mais novos sugere uma trajetória evolutiva potencial onde sistemas de raciocínio artificial divergem cada vez mais da psicologia moral humana. Isso necessita uma reavaliação dos objetivos de alinhamento de IA, indo além da simples mimetização ou seguimento rígido de regras em direção a um "alinhamento reflexivo" que modele explicitamente a tensão entre consistência lógica e responsividade contextual.

Os autores mantêm uma postura modesta, observando que as observações sobre modelos de fronteira são exploratórias e requerem validação em larga escala. Eles enfatizam que o estudo não pretende afirmar que os modelos possuem crenças ou emoções conscientes, mas sim identifica desvios mensuráveis e previsíveis no nível funcional do artefato.