Machine Behavior in Relational Moral Dilemmas: Moral Rightness, Predicted Human Behavior, and Model Decisions

Título: Comportamento de Máquina em Dilemas Morais Relacionais: Retidão Moral, Comportamento Humano Previsto e Decisões do Modelo

1. Problema e Motivação

À medida que os Grandes Modelos de Linguagem (LLMs) são integrados em sistemas de suporte à decisão em contextos sociais complexos, surge uma questão fundamental: esses modelos conseguem capturar as nuances sociais humanas, especialmente em situações moralmente ambíguas?

A literatura atual tende a tratar a moralidade da IA como uma estrutura monolítica e estática, focando em benchmarks éticos amplos. No entanto, o julgamento moral humano é:

• Dependente do contexto: Varia com a gravidade do crime e a proximidade relacional.
• Perspectiva-driven: Existe uma lacuna entre o que as pessoas consideram "moralmente certo" (normas prescritivas) e o que elas preveem que outras pessoas farão ou o que elas mesmas fariam sob pressão social (normas descritivas).

O artigo investiga se os LLMs apresentam essa mesma complexidade e inconsistência interna, ou se eles operam com uma lógica rígida que ignora as dinâmicas relacionais (como lealdade vs. justiça) que são centrais para a agência moral humana.

2. Metodologia

Framework Experimental: O Dilema do Denunciante (Whistleblower's Dilemma)
Os autores adaptaram o dilema do denunciante para criar um ambiente controlado onde variam sistematicamente duas dimensões experimentais:

1. Gravidade do Crime (Severity): Quatro níveis (Menor, Moderado, Grave, Crítico).
2. Proximidade Relacional (Closeness): Quatro níveis (Estranho, Conhecido, Amigo, Família).

Três Perspectivas de Avaliação
Para cada cenário (ex: "Alguém testemunha um assalto grave cometido pelo seu melhor amigo"), o modelo foi solicitado a responder sob três ângulos distintos:

1. Retidão Moral (Moral Rightness): "É certo denunciar?" (Avaliação prescritiva/normativa).
2. Comportamento Humano Previsto (Predicted Human Behavior): "As pessoas denunciam?" (Avaliação descritiva/social).
3. Decisão Autônoma do Modelo (LLM's Decision): "Você denuncia?" (Intenção comportamental/decisão prática).

Configuração do Experimento

• Modelos Testados: Seis LLMs modernos (Claude 3.5 Haiku, Gemini 2.5 Pro, GPT-5 mini, o3-mini, Qwen3 30B A3B Thinking, DeepSeek-V3.1).
• Dataset: 1.296 instâncias de prompts (combinações de perspectivas, gravidade, proximidade e tipos de crime: assalto, fraude, arrombamento).
• Análise de Raciocínio: Utilização do Moral Foundations Dictionary (MFD) para extrair e quantificar a presença de valores morais (Fairness/Justiça, Loyalty/Lealdade, Authority/Autoridade, Care/Cuidado) nas justificativas geradas pelo modelo.
• Validação Humana: Um estudo piloto com anotação humana para validar a precisão da perspectiva de "comportamento previsto" dos modelos.

3. Principais Contribuições

1. Framework de Avaliação Moral Contextual: Introdução de uma estrutura sistemática que modula a proximidade relacional e a gravidade do crime para testar a robustez das escolhas morais da IA, indo além de benchmarks binários estáticos.
2. Descoberta de Inconsistência Trans-perspectiva: Identificação de uma discrepância fundamental entre o julgamento de "retidão moral" do modelo, sua previsão do comportamento humano e sua própria decisão final.
3. Caracterização da Dinâmica de Fundamentos Morais: Geração de dados em larga escala mostrando como as tensões entre Justiça (Fairness) e Lealdade (Loyalty) se reconfiguram dinamicamente dependendo da perspectiva solicitada e do contexto social.

4. Resultados Chave

• Sensibilidade Contextual: Os modelos demonstram sensibilidade às variáveis contextuais. A taxa de denúncia aumenta com a gravidade do crime e diminui com o aumento da proximidade relacional (de estranhos para família), espelhando tendências da psicologia social humana.
• Inconsistência Estrutural (O "Gap" Principal):
  • Retidão Moral: Os modelos mantêm uma postura fortemente orientada para a Justiça/Fairness, com altas taxas de denúncia (>90%) independentemente da relação.
  • Comportamento Previsto: Ao prever o que outros fariam, os modelos shiftam significativamente para a Lealdade, prevendo taxas de denúncia muito menores quando a relação é próxima.
  • Decisão do Modelo: Crucialmente, quando o modelo decide por si mesmo ("Você denuncia?"), sua decisão alinha-se com a Retidão Moral (Justiça), ignorando a sensibilidade social que ele mesmo modelou na previsão de comportamento humano.
• Dinâmica de Valores (Análise MFD):
  • Na perspectiva de "Comportamento Previsto", termos relacionados à Lealdade e "traição" dominam o raciocínio.
  • Nas perspectivas de "Retidão" e "Decisão", termos de Justiça, "direitos" e "responsabilidade" predominam.
  • Isso indica que os modelos possuem uma capacidade interna de modelar nuances sociais (lealdade), mas seus protocolos de alinhamento (RLHF/safety tuning) priorizam regras prescritivas rígidas sobre a sensibilidade social descritiva ao tomar decisões.

5. Significado e Implicações

• Risco de Desalinhamento Prático: A inconsistência entre o que a IA prevê que as pessoas farão (baseado em lealdade) e o que ela recomenda fazer (baseado em justiça rígida) pode levar a recomendações que parecem desconectadas da realidade social, reduzindo a confiança e a utilidade em cenários de aplicação real.
• Necessidade de Avaliação Multi-perspectiva: Benchmarks éticos atuais são insuficientes. É necessário avaliar os modelos através de múltiplas lentes (prescritiva, descritiva e decisória) para garantir que eles funcionem como agentes sociais responsáveis.
• Viés Prescritivo no Pós-treinamento: Os resultados sugerem que o alinhamento pós-treinamento (RLHF) pode estar super-otimizando a consistência normativa em detrimento da sensibilidade contextual e cultural (como a importância da lealdade em culturas coletivistas).
• Direção Futura: A pesquisa aponta para a necessidade de desenvolver agentes de IA que possam navegar nas tensões entre normas universais e obrigações relacionais específicas, reconhecendo que a moralidade não é monolítica.

Em resumo, o estudo revela que, embora os LLMs compreendam internamente a complexidade das relações humanas, suas decisões finais tendem a ser rigidamente prescritivas, criando uma lacuna perigosa entre a representação interna do modelo e seu comportamento agido.