A Contractualist Argumentation Framework for Moral Decision-Making

Resumo Técnico: Uma Estrutura de Argumentação Contratualista para a Tomada de Decisão Moral

Definição do Problema
Agentes autônomos operando em ambientes compartilhados (por exemplo, ambientes domésticos com eletrodomésticos inteligentes ou robôs sociais) enfrentam o desafio de tomar decisões que afetam múltiplos indivíduos com interesses potencialmente conflitantes. Embora os modelos de linguagem de grande escala (LLMs) possam raciocinar sobre o contexto social a partir de entradas perceptivas, há uma carência de estruturas normativas principistas para estruturar esse raciocínio formalmente. As abordagens existentes frequentemente falham em fornecer um mecanismo para que os agentes justifiquem ações a todas as partes envolvidas com base em princípios que respeitem a autonomia individual e a moralidade interpessoal. O problema central é como operacionalizar a tomada de decisão moral de modo que a legitimidade de uma decisão dependa não apenas do resultado, mas de se ela pode ser justificada a todas as partes afetadas por meio de um processo de negociação hipotética.

Metodologia
Os autores propõem uma estrutura formal fundamentada no contratualismo de Thomas Scanlon, uma teoria ética onde uma ação é permissível se puder ser justificada por princípios que nenhuma parte afetada possa rejeitar razoavelmente. Para implementar isso computacionalmente, a estrutura integra três componentes principais:

1. Princípios Contratualistas: A estrutura adota as restrições de Scanlon sobre razões morais: elas devem ser pessoais (relacionadas a interesses individuais), individuais (fundamentadas em impactos específicos, em vez de bem-estar agregado) e genéricas (aplicáveis a qualquer pessoa em uma posição semelhante). O processo de decisão é modelado como "Barganha Virtual", onde os agentes simulam uma negociação comparando razões através de diferentes pontos de vista.
2. Argumentação ASPIC+: Os autores utilizam a ASPIC+, uma estrutura de argumentação estruturada, para representar e avaliar essas razões. Os argumentos são construídos a partir de uma base de conhecimento contendo axiomas (fatos indiscutíveis) e premissas ordinárias (fatos contestáveis). Os conflitos são resolvidos por meio de ataques (minimização, refutação, enfraquecimento) e uma ordenação de preferência.
3. Filtragem Baseada em Valores (VBF): Para garantir que as razões sejam relevantes, a estrutura utiliza Estruturas de Raciocínio Baseado em Valores. Um mecanismo de filtragem determina quais premissas são incluídas no processo de argumentação com base no perfil de valor de um agente.
   • ValProp: Atribui um peso a quanto uma proposição promove ou viola um valor específico para um agente.
   • ValLimit: Define um limite de tolerância de um agente em relação a um valor.
   • Filtragem: Uma proposição é incluída na argumentação apenas se seu peso atingir ou exceder o limite do agente para aquele valor. Isso garante que apenas razões "moralmente relevantes" (aquelas que um agente levantaria razoavelmente) entrem no debate.

Construção da Estrutura (Teoria da Argumentação Contratualista - CAT)
Os autores definem uma estrutura específica para a Teoria da Argumentação (AT) para garantir a compatibilidade com o contratualismo:

• AT Única Compartilhada: Diferente das VBFs padrão que criam teorias subjetivas separadas para cada agente, esta estrutura constrói uma única AT contendo as razões morais filtradas de todos os agentes.
• Estrutura de Argumento: Os argumentos (Argumentos Contratualistas) são construídos para concluir ou a favor de uma ação ($a$) ou contra ela ($\neg a$). Crucialmente, cada argumento deve conter pelo menos uma razão moral (um par proposição-valor filtrado, $p_v(\alpha)$) e deve concluir com o veredito da ação.
• Separação de Fatos e Moralidade: Premissas fatuais (axiomas) são mantidas distintas das premissas morais. Os axiomas estabelecem condições estruturais (ex: "O Agente X é o proprietário"), enquanto as premissas morais carregam o peso da objeção (ex: "Violação de privacidade").
• Resolução de Conflitos: Conflitos surgem como ataques de refutação entre argumentos que concluem $a$ e $\neg a$. A estrutura utiliza um princípio elitista de último elo para a ordenação de preferência. Como cada argumento contém apenas uma razão moral (para evitar a agregação de razões, o que o contratualismo proíbe), a força do argumento é determinada unicamente pelo peso dessa única razão moral ($ValProp$). O argumento com o peso maior derrota o de menor peso.

Exemplo Ilustrativo
O artigo demonstra a estrutura com um cenário doméstico: um agente sabe que a pessoa $\alpha$ fumou secretamente, e a pessoa $\beta$ (o parceiro) pede informações. O agente deve decidir se revela ($a$) ou não ($\neg a$).

• Agente $\alpha$: Valoriza muito a privacidade. A proposição "divulgação" viola a privacidade com um peso alto (3). Um argumento é construído concluindo $\neg a$.
• Agente $\beta$: Valoriza a autonomia. A retenção de informação viola a autonomia, mas com um peso inferior (2) nesta configuração específica. Um argumento é construído concluindo $a$.
• Resultado: A estrutura compara os pesos. Como o peso da objeção de privacidade de $\alpha$ (3) é maior que a objeção de autonomia de $\beta$ (2), o argumento para $\neg a$ derrota o argumento para $a$. O sistema conclui por não revelar a informação.

Principais Contribuições

• Formalização do Contratualismo: O artigo fornece uma formalização computável do contratualismo de Scanlon usando argumentação estruturada, indo além da discussão teórica para um modelo procedural.
• Construção de Raciocínio Baseada em Valores: Ao contrário de abordagens onde os valores apenas resolvem conflitos entre argumentos pré-construídos, esta estrutura usa valores para filtrar e construir os próprios argumentos. Isso garante que os agentes apenas avancem razões que genuinamente sustentam, alinhando-se ao requisito contratualista de justificativa pessoal.
• Implementação da Barganha Virtual: A estrutura operacionaliza a "Barganha Virtual" ao permitir que as razões subjetivas dos agentes interajam diretamente dentro de uma estrutura compartilhada, onde a relação de derrota determina quais objeções são "razoavelmente rejeitáveis".
• Distinção de Trabalhos Anteriores: Os autores distinguem sua abordagem dos modelos de rede de Wyner e Zurek. Enquanto Wyner e Zurek focam em alcançar o acordo proposicional sacrificando valores, esta estrutura foca em justificar ações com base em razões não rejeitáveis, tornando os valores componentes explícitos da argumentação, em vez de filtros implícitos.

Resultos e Significância
O artigo não apresenta resultados experimentais empíricos ou simulações de larga escala. Em vez disso, seu "resultado" é a construção bem-sucedida de uma estrutura lógica que:

1. Separa o raciocínio factual da avaliação moral.
2. Respeita a autonomia individual ao impedir a agregação de razões (utilitarismo) e garantir que as objeções sejam fundamentadas em pontos de vista individuais.
3. Fornece um mecanismo transparente para a tomada de decisão moral onde o "vencedor" é determinado pela força comparativa de objeções baseadas em valores e não agregadas.

Significância e Limitações
Os autores afirmam que a estrutura é significativa para o desenvolvimento de IA eticamente alinhada, particularmente para robôs sociais, pois espelha a tendência humana de confiar em agentes que utilizam o raciocínio contratualista em vez de abordagens utilitaristas ou deontológicas. Oferece uma implementação mais flexível do que tentativas anteriores ao depender de valores em vez de normas rígidas.

No entanto, o artigo é modesto quanto ao seu escopo atual e limitações:

• Vereditos de Passo Único: O modelo atual produz uma decisão única e não modela o diálogo iterativo de múltiplos turnos característico da barganha virtual do mundo real.
• Preferências Estáticas: A estrutura depende de pesos de valores pré-definidos. Ela não modela atualmente como os agentes podem manipular preferências para controlar resultados, nem aprende valores dinamicamente a partir do contexto.
• Complexidade Computacional: Os autores reconhecem que o raciocínio em ASPIC+ é computacionalmente difícil no caso geral e que trabalhos futuros são necessários para analisar a complexidade da instanciação de argumentos via Modelos de Linguagem de Grande Escala (LLMs).
• Escopo dos Valores: A estrutura não pode descobrir novos valores; sua cobertura é limitada pela ontologia de valores fornecida.

Em resumo, o artigo apresenta uma arquitetura teórica e formal para a tomada de decisão moral que preenche a lacuna entre a teoria ética de alto nível (o contratualismo de Scanlon) e o raciocínio computacional de baixo nível (ASPIC+), oferecendo um caminho estruturado para que agentes justifiquem ações através da comparação de razões individuais baseadas em valores.