Are You the A-hole? A Fair, Multi-Perspective Ethical Reasoning Framework

1. Declaração do Problema

Os métodos atuais para agregar julgamentos humanos em IA, particularmente em domínios de alto conflito como o raciocínio ético, dependem fortemente de votação majoritária. Essa abordagem trata opiniões divergentes como ruído estatístico em vez de sinais valiosos, levando a injustiça epistêmica.

• Limitações do Consenso: A simples contagem de votos abafa perspectivas minoritárias, amplifica vieses de "mente de rebanho" e ignora o raciocínio por trás de um rótulo em favor do volume de votos.
• Contexto do Estudo de Caso: O fórum r/AmItheAsshole (AITA) do Reddit exemplifica essa falha. Seu atual "Bot de Julgamento" trava decisões após 18 horas baseando-se exclusivamente no comentário mais votado. Esse mecanismo é estruturalmente injusto, ignora contra-argumentos, sofre de vieses geográficos/de fuso horário e reduz dilemas morais complexos a concursos de popularidade.
• Desafio Central: Como agregar raciocínio moral humano diverso, ruidoso e conflitante em um veredito logicamente consistente, justo e explicável sem suprimir perspectivas minoritárias válidas.

2. Metodologia

Os autores propõem um quadro de agregação neuro-simbólico que substitui a contagem de votos por Satisfatibilidade Máxima Ponderada (MaxSAT). O pipeline consiste em quatro etapas principais:

A. Coleta e Pré-processamento de Dados

• Conjunto de Dados: 600 posts altamente controversos do subreddit r/AmItheAsshole (selecionados de um arquivo de mais de 30k usando uma métrica baseada em entropia para garantir alto desacordo).
• Entrada: Comentários de nível superior são extraídos para capturar julgamentos morais independentes, ignorando respostas aninhadas para focar em argumentos distintos.

B. Extração Semântica Baseada em LLM (Componente Neural)

Uma estratégia de prompt restrito usando GPT-5.1 analisa cada comentário em dois vetores estruturados:

1. Vetor de Conteúdo (Reivindicações Morais): Codifica quatro predicados binários baseados em teorias morais estabelecidas (Moralidade Diádica, Teoria das Fundações Morais, Teoria de Reparação de Imagem):
   • Dano, Intenção, Empatia, Desculpa.
2. Vetor de Qualidade (Confiabilidade Epistêmica): Pontua a qualidade do argumento em uma escala Likert de 1–5 em cinco dimensões (Justificação, Fundamentação Ética, Deliberação, Equidade, Linguagem Imparcial).

C. Lógica de Confiança "Split-Stream" (Inovação)

Para prevenir erros lógicos onde a competência de um usuário em uma área infla sua autoridade em outra, o sistema desacopla o raciocínio em dois fluxos de ponderação independentes baseados na Teoria do Processo Duplo de Greene:

• Fluxo 1: Autoridade Lógica ($W_{Logic}$): Pondera predicados factuais (Dano, Intenção).
  • Fórmula: $(Justificação + Deliberação) \times Não\text{-}Viés$.
  • Racional: O processamento do Sistema 2 (cognitivo/deliberativo) é necessário para estabelecer fatos.
• Fluxo 2: Autoridade Ética ($W_{Ethic}$): Pondera predicados de caráter (Empatia, Desculpa).
  • Fórmula: $(Princípio Ético + Equidade) \times Não\text{-}Viés$.
  • Racional: O processamento do Sistema 1 (normativo/emocional) é necessário para julgamentos de caráter.
• Tratamento de Viés: O viés atua como um portão escalar multiplicativo. Se um comentário é tendencioso, seu peso é suprimido proporcionalmente em todos os predicados, em vez de apenas adicionar uma penalidade.

D. Raciocínio Baseado no Solucionador Z3 (Componente Simbólico)

Os vetores extraídos são codificados como restrições suaves no Provedor de Teoremas Microsoft Z3:

• Otimização: O solucionador busca uma única atribuição de verdade (Verdadeiro/Falso para Dano, Intenção, Empatia, Desculpa) que minimize o custo total de penalidade de violar restrições.
• Mecanismo: Argumentos de alta qualidade (altos pesos) atuam como restrições fortes. Se um especialista de alta qualidade discorda de dez trolls de baixa qualidade, o solucionador alinha-se com o especialista porque satisfazer a restrição de alto peso minimiza o custo global.
• Atribuição de Veredito: O estado de consenso resultante dos quatro predicados é mapeado para um rótulo final (NTA, YTA, NAH, ESH) via uma árvore de decisão hierárquica fundamentada em princípios legais (Mens Rea) e Justiça Restaurativa.

3. Contribuições Principais

1. Arquitetura Split-Stream: Um pipeline inovador que impõe computacionalmente a separação da validade factual dos julgamentos de caráter normativos, garantindo que a dedução lógica não inflacione artificialmente a autoridade em questões emocionais.
2. Formalização da Jurisprudência: Traduz a filosofia moral abstrata em restrições suaves quantificáveis, permitindo que um solucionador formal derive vereditos eticamente coerentes e logicamente sólidos em vez de estatisticamente prováveis.
3. Mudança de Rigor: Demonstra que priorizar a qualidade do raciocínio sobre a popularidade leva a um aumento mensurável na responsabilidade, revertendo vereditos de votação majoritária em favor de resultados mais principistas.

4. Resultados

O quadro foi avaliado em 600 posts de alto conflito com três etapas de validação:

• Precisão do Vetor LLM: Revisores humanos validaram os vetores gerados pelo LLM, encontrando 81% de alinhamento com a interpretação humana. Modos de falha foram previsíveis (ex.: justificação insuficiente).
• Divergência da Maioria: O solucionador alterou o veredito majoritário do Reddit em 62% dos casos (372/600).
  • A mudança mais comum foi de NTA (Não é o Asshole) para YTA (Você é o Asshole), indicando que o sistema identificou malícia ou negligência oculta ignorada pela multidão.
• Acordo Humano: Avaliadores humanos independentes (cegos para o veredito original do Reddit) concordaram com as decisões do solucionador 86% das vezes. Isso confirma que o sistema produz resultados consistentes com o raciocínio humano, não apenas artefatos formais.
• Robustez: O sistema filtrou com sucesso "bombardeio de avaliações" e assédio de multidões, alinhando-se com testemunho de especialistas de alta qualidade em vez de volume.

5. Significado e Implicações

• Mudança de Paradigma: Move o alvo da agregação de IA de "coletar votos" para "agregar raciocínio". Trata o desacordo como um sinal a ser analisado em vez de ruído a ser eliminado.
• Justiça e Responsabilidade: Ao ponderar argumentos com base na qualidade epistêmica em vez de popularidade, o quadro mitiga o efeito "câmara de eco" e protege perspectivas minoritárias que são logicamente sólidas, mas numericamente superadas.
• Explicabilidade: Diferente de redes neurais de caixa preta, o solucionador Z3 fornece uma cadeia transparente de lógica (quais predicados foram violados e por quê), tornando o processo decisório auditável.
• Generalizabilidade: Embora testado no AITA, essa abordagem neuro-simbólica é aplicável a outros domínios de alto conflito, como deliberação política, auxílios de sentenciamento legal, detecção de discurso de ódio e ética médica, desde que a ontologia de predicados seja adaptada ao domínio.

Conclusão: O estudo prova que acoplar extração semântica neural com resolução de restrições formais cria um quadro escalável e interpretável para tomada de decisão ética que impõe solidez lógica e justiça, superando efetivamente as limitações do consenso democrático em paisagens morais complexas.