Resumo Técnico: Os LLMs conseguem imaginar alternativas morais além de dilemas binários?

Declaração do Problema

Pesquisas existentes sobre Modelos de Linguagem de Grande Escala (LLMs) e raciocínio moral predominantemente enquadram a tomada de decisão ética como uma tarefa de seleção entre opções pré-especificadas e concorrentes (por exemplo, Opção A vs. Opção B). Esse enquadramento binário negligencia um aspecto central da cognição moral humana: a imaginação moral, definida como a capacidade de identificar novos cursos de ação, antecipar suas consequências e ir além de escolhas forçadas entre "um ou outro". As avaliações atuais falham em verificar se os LLMs conseguem (1) alterar seus julgamentos quando apresentados com alternativas não binárias (compromissos ou opções reestruturadas) e (2) gerar tais alternativas matizadas com qualidade comparável às criadas por humanos. Essa lacuna limita a capacidade dos sistemas de IA de funcionarem como agentes morais sofisticados em cenários de alto risco, onde conflitos de valores exigem reconciliação em vez de simples seleção.

Metodologia

Construção do Dataset: MoralAltDataset

Os autores introduzem o MoralAltDataset, um corpus de 307 dilemas morais projetados para avaliar a imaginação moral. O dataset é dividido em dois subconjuntos complementares:

1. Dilemas de Conselheiro (156 itens): Derivados de sinopses de enredos de filmes (dataset MPST), estes fornecem contextos ricos e narrativos de conflitos humanos.
2. Dilemas de Agente (151 itens): Adaptados do framework Litmus-Testing AI Values, estes cobrem cenários realistas e de alto risco que sistemas de IA podem encontrar (ex: saúde, gestão de resíduos).

Cada dilema é aumentado com dois tipos distintos de alternativas além das opções binárias originais (A e B):

• Alternativa de Compromisso (Opção C): Equilibra os objetivos conflitantes de A e B por meio de uma troca concreta (trade-off), preservando pelo menos um objetivo moral central de cada lado.
• Alternativa de Reenquadramento (Opção D): Reestrutura o próprio dilema ao introduzir novos princípios, trazer à tona partes interessadas ausentes ou redefinir o escopo/quadro temporal do conflito.

Fontes de Dados:

• Base Humana: 164 dilemas apresentam alternativas escritas por humanos (75 de Conselheiro, 89 de Agente) criadas por anotadores de nível de pós-graduação.
• Geração por LLM: 143 dilemas apresentam alternativas filtradas por autores e geradas pelo GPT-5.
• Total: O conjunto final de escolha com quatro opções inclui 307 dilemas, com dados de julgamento humano coletados de 1.535 respostas (5 participantes por dilema) sob condições controladas.

Desenho Experimental

O estudo aborda duas questões de pesquisa principais através de dois setups experimentais:

1. Sensibilidade de Seleção (Q1): Os LLMs alteram seus julgamentos quando alternativas são introduzidas?

   • Setup: Uma tarefa de escolha de quatro opções (A, B, C, D) apresentada a 15 LLMs (incluindo famílias GPT, Claude, Gemini, Llama, Qwen e Mistral) e participantes humanos.
   • Métricas: Taxas de seleção, mudanças de valor (usando o framework LITMUS VALUES) e concordância humano-LLM (medida via F1 de 4 vias e concordância em nível de grupo).

2. Qualidade de Geração (Q2): Os LLMs conseguem gerar alternativas comparáveis às humanas?

   • Setup: LLMs geraram alternativas de compromisso e de reenquadramento para os 164 dilemas escritos por humanos.
   • Avaliação:
     • Preferência Pareada: Avaliadores compararam saídas Humanas vs. LLM frente a frente com base em critérios como Viabilidade, Equilíbrio, Reenquadramento e Aceitabilidade Moral.
     • Avaliação Intrínseca Baseada em Especialistas: Três especialistas em filosofia avaliaram 100 instâncias contra listas de verificação detalhadas para qualidade de geração (ex: Validade do Cenário, Mecanismo de Troca) e frameworks éticos (Deontologia, Utilitarismo, Ética da Virtude).

Principais Resultados

1. Alternativas Moldam o Julgamento Moral

• Preferência por Compromisso: Em ambos, humanos e 15 LLMs, a introdução de alternativas alterou significativamente as distribuições de escolha. As alternativas de compromisso (Opção C) foram a opção mais frequentemente selecionada, recebendo muitas vezes uma parcela de escolhas maior do que as opções binárias originais.
• Comportamento dos Modelos: Modelos de pesos fechados (ex: GPT-5, Claude) mostraram uma preferência forte e consistente pelo compromisso em detrimento do reenquadramento. Modelos de pesos abertos exibiram mais heterogeneidade.
• Mudanças de Valor: A presença de alternativas deslocou sistematicamente os valores éticos priorizados pelos LLMs. Nos dilemas de Conselheiro, os modelos mudaram de autonomia/respeito para Sabedoria e prudência. Nos dilemas de Agente, houve um deslocamento para Cooperação e Adaptabilidade, afastando-se de valores rígidos baseados em regras como Justiça e Profissionalismo.
• Concordância Humano-LLM: Embora a concordância exata de 4 vias tenha sido modesta, a concordância aumentou significativamente quando os humanos selecionaram alternativas. Os LLMs alinharam-se com as escolhas humanas no grupo de "alternativas" (C/D) muito mais fortemente do que no grupo "binário" (A/B), particularmente para soluções de compromisso.

2. LLMs Geram Alternativas de Alta Qualidade

• Preferência sobre Humanos: Nas avaliações de preferência pareada, as alternativas geradas por LLM (especificamente GPT-5, Claude Sonnet 4.5 e Qwen 3.5) foram geralmente preferidas em relação às escritas por humanos. Elas foram percebidas como mais claras, melhor estruturadas e mais alinhadas com a função pretendida do tipo de alternativa.
• Trade-off Estrutural vs. Viabilidade: Um trade-off crítico surgiu. Modelos como o GPT-5 destacaram-se em critérios estruturais (ex: regras de troca explícitas, novidade moral), mas pontuaram mais baixo em Viabilidade em comparação com modelos como Claude Sonnet 4.5 e Qwen 3.5. Isso sugere que enfatizar as características definidoras de uma alternativa (ex: equilíbrio perfeito) pode, por vezes, reduzir seu embasamento prático.
• Alinhamento Ético: O GPT-5 obteve as pontuações mais altas em todas as três dimensões éticas (Deontologia, Utilitarismo, Ética da Virtude) nas avaliações de especialistas, e sua alta pontuação de preferência correlacionou-se com os julgamentos de especialistas de defensabilidade normativa.

Significância e Alegações

O artigo alega que os atuais LLMs possuem uma capacidade significativa, porém desigual, de engajar-se na imaginação moral.

• Além do Binário: O estudo demonstra que o raciocínio moral não é estático; a disponibilidade de alternativas altera causalmente as escolhas morais tanto para humanos quanto para máquinas, com o compromisso emergindo como uma estratégia robusta de resolução de conflitos.
• Capacidade de Geração: Os LLMs não estão apenas selecionando de um conjunto fixo, mas podem gerar alternativas que frequentemente superam as escritas por humanos em qualidade estrutural e alinhamento ético, embora lutem para otimizar simultaneamente a elegância estrutural e a viabilidade prática.
• Implicações para a Agência da IA: Esses achados sugerem que, para que os LLMs atuem como conselheiros morais sofisticados, eles devem ser avaliados não apenas pela sua capacidade de escolher entre opções dadas, mas pela sua capacidade de imaginar e propor "terceiras vias" que reconciliem valores conflitantes.

Limitações

Os autores observam que o dataset, embora abranja cenários narrativos e de agentes, não esgota a diversidade de restrições culturais, linguísticas ou institucionais do mundo real. O uso de prompting zero-shot padronizado e conjuntos de opções fixos garante a reprodutibilidade, mas não captura a deliberação interativa ou a negociação entre partes interessadas. Além disso, a avaliação ética baseia-se em proxies de listas de verificação para frameworks normativos, que são ferramentas práticas, mas não medições filosóficas definitivas. Os autores enfatizam que o dataset é uma ferramenta de diagnóstico para estudar as capacidades dos LLMs, não uma ferramenta prescritiva para tomada de decisão de alto risco sem supervisão humana.