🤖 AI

Towards an Argumentative Foundation for Evaluative AI

Este artigo de posicionamento defende o uso da argumentação computacional como uma base formal para a IA Avaliativa, permitindo sistemas que apoiem a tomada de decisão humana ao apresentar hipóteses concorrentes com evidências de maneira explicável e contestável.

Autores originais: Xiang Yin, Tim Miller, Nico Potyka, Antonio Rago, Francesca Toni

Publicado 2026-08-11

📖 8 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Xiang Yin, Tim Miller, Nico Potyka, Antonio Rago, Francesca Toni

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está entrando em uma biblioteca gigante e barulhenta onde os livros estão tentando ajudá-lo a resolver um mistério. No mundo da Inteligência Artificial, há um grande debate sobre como esses ajudantes digitais devem falar conosco. Por muito tempo, a abordagem padrão era como um bibliotecário rigoroso que aponta para um único livro e diz: "Esta é a resposta. Confie em mim". Isso é chamado de "recomendação" e, embora seja rápido, muitas vezes nos faz parar de pensar por conta própria. Podemos seguir cegamente o conselho ou ignorá-lo completamente sem entender o porquê. Mas há uma ideia mais nova e emocionante chamada IA Avaliativa. Em vez de gritar uma resposta final, este tipo de IA atua mais como um treinador de debates amigável. Ela apresenta várias teorias possíveis sobre o que está acontecendo, mostra a você a evidência a favor de cada uma e também a evidência contra elas. Ela convida você a intervir, observar as pistas e decidir por si mesmo qual teoria faz mais sentido. Isso mantém você no comando, tornando a IA uma parceira, não uma chefe.

Este artigo, escrito por uma equipe de pesquisadores de universidades do Reino Unido e da Austrália, sugere uma maneira específica e poderosa de construir esse tipo de IA "treinadora de debates". Eles argumentam que a melhor ferramenta para o trabalho é algo chamado Argumentação. Pense nisso não como uma discussão aos gritos, mas como um jogo estruturado de "ligar os pontos", onde cada peça de evidência é um nó, e os links entre eles mostram como eles se apoiam ou se atacam. Os autores propõem o uso de uma estrutura matemática chamada Estruturas de Argumentação Bipolar Quantitativa Pesada (wQBAFs). Em termos simples, isso é uma forma de desenhar um mapa onde cada pista tem uma "pontuação de confiança" (o quão forte ela é) e cada conexão tem um "peso" (o quanto de influência ela tem). Ao processar esses números, a IA pode criar uma lista classificada das melhores teorias, não apenas um palpite único. O artigo sugere que este método é superior às formas antigas de fazer as coisas porque é transparente — você pode ver exatamente por que uma teoria é classificada alto — e, o mais importante, é contestável. Se você, o humano, achar que uma pista está errada ou que uma conexão é fraca, você pode desafiá-la, ajustar os números e observar a classificação mudar. Isso transforma a IA de uma caixa preta em um workshop colaborativo onde humanos e máquinas podem argumentar, refinar e concordar sobre o melhor caminho a seguir.

A Ideia Central: De "Aqui está a Resposta" para "Vamos Debater"

Os autores começam apontando uma falha na forma como costumamos usar a IA. A maioria dos sistemas trabalha em um modelo de "recomendar e explicar". A IA escolhe um vencedor e, então, tenta justificá-lo. O problema? Estudos mostram que isso faz as pessoas pararem de pensar. Elas podem sofrer de "fixação cognitiva" — encarando a escolha da IA como um coelho hipnotizado — ou descartá-la inteiramente sem um segundo pensamento.

Para corrigir isso, o artigo defende a IA Avaliativa (EAI). Em vez de entregar uma única recomendação, a EAI apresenta um menu de hipóteses plausíveis (palpites) junto com os "prós" e "contras" para cada uma. Imagine um médico usando uma IA para diagnosticar um paciente. Em vez de a IA dizer: "É definitivamente pneumonia", ela poderia dizer: "Aqui estão três possibilidades: Pneumonia Viral, Pneumência Bacteriana ou Asma. Aqui está a evidência que apoia cada uma e aqui está a evidência que argumenta contra elas. Você decide".

A Solução: O Jogo do "Mapa de Argumentação"

O artigo propõe que a melhor maneira de construir este sistema é usando a Argumentação. Os autores sugerem uma estrutura matemática específica chamada wQBAF (Estrutura de Argumentação Bipolar Quantitativa Pesada). Vamos decompor isso com uma metáfora.

Imagine uma rede gigante e flutuante de nós brilhantes.

Os Nós: Alguns nós são Evidências (como "Febre Alta" ou "Tosse") e alguns são Hipóteses (como "Pneumonia Viral" ou "Asma").
As Conexões: Linhas conectam esses nós. Algumas linhas são Verdes (Suporte), significando "Esta pista torna aquela teoria mais provável". Outras são Vermelhas (Ataque), significando "Esta pista torna aquela teoria menos provável".
Os Pesos: Cada nó começa com uma Pontuação Base (o quão forte a pista é inicialmente). Cada linha tem um Peso (o quanto de influência essa conexão tem).

No exemplo do artigo, um paciente tem febre alta e tosse. Estas são as notas iniciais. A febre pode apoiar fortemente a "Pneumonia Viral", mas fracamente a "Asma". A IA não apenas adivinha; ela executa um cálculo. Ela observa as pontuações base e a força das conexões, então "recalcula" a força de cada hipótese com base no cabo de guerra entre as linhas verdes e vermelhas.

O resultado não é uma única resposta, mas uma Lista Classificada. A hipótese com a força final mais alta fica no topo, seguida pela próxima melhor, e assim por diante. No exemplo de saúde do artigo, o sistema pode classificar "Terapia antiviral" e "Antibióticos" como igualmente fortes (ambos com uma pontuação de força de 0,40), enquanto o "Broncodilatador" é inferior (0,31).

Por Que Esta Abordagem é Especial

Os autores argumentam que esta abordagem argumentativa possui três superpoderes que outros métodos não têm:

Explicabilidade: Como o sistema é construído sobre um mapa visível de argumentos, ele pode explicar por que uma hipótese é classificada alto. Ele pode apontar para o nó específico "Febre Alta" e a forte linha verde que o conecta à "Pneumonia Viral" e dizer: "É por isso que achamos que esta é a principal escolha". Não é mágica; é um caminho rastreável.
Contestabilidade: Este é o ponto principal. Em muitos sistemas de IA, se você discorda, você está preso. Aqui, como o sistema é apenas um mapa de pesos e conexões, você pode mudar o mapa. Se você acha que o sintoma "Tosse" não é tão importante quanto a IA pensa, você pode diminuir seu peso. Se você tem uma nova evidência, pode adicionar um novo nó. O sistema recalcula instantaneamente a classificação. Isso transforma o usuário de um observador passivo em um participante ativo que pode desafiar o raciocínio da IA.
Colaboração Multiagente: O artigo vislumbra um futuro onde diferentes "agentes" (talvez um seja um médico humano, outro um banco de dados especializado e um terceiro seja um modelo de IA diferente) constroem seus próprios mapas de argumentos. Eles podem então combinar seus mapas, argumentar entre si e fundir suas opiniões para criar uma classificação final mais forte e robusta. É como uma mesa redonda de especialistas onde todos trazem suas próprias notas e debatem até encontrarem a melhor solução juntos.

As Regras do Jogo

Para garantir que este sistema se comporte racionalmente, os autores propõem um conjunto de "Princípios" que o sistema de classificação deve seguir. Eles são como as regras de um jogo justo:

Monotonicidade: Se você adicionar mais evidências que apoiam uma teoria, sua classificação nunca deve diminuir.
Equilíbrio: Se você adicionar quantidades iguais de evidências de "prós" e "contras", a classificação não deve mudar.
Dominância: Se uma teoria tem mais ou mais fortes evidências de apoio do que outra (com a mesma evidência oposta), ela deve ser classificada mais alto.
Robustez: Pequenas mudanças nos dados não devem fazer com que toda a classificação mude de forma drástica e descontrolada.
Explicabilidade e Contestabilidade: Como mencionado, o sistema deve ser capaz de explicar sua lógica e permitir que os humanos o desafiem.

O artigo observa que muitos métodos matemáticos existentes para argumentação já satisfazem as quatro primeiras regras, mas os autores sugerem que precisamos continuar desenvolvendo novos métodos para garantir que o sistema também seja robusto e verdadeiramente contestável.

Os Limites e o Futuro

Os autores são cuidadosos ao não afirmar que resolveram tudo. Eles admitem que construir esses mapas de argumentação é difícil. Atualmente, fazer com que uma IA identifique corretamente todos os argumentos, as conexões e os pesos é um grande gargalo. Eles sugerem que os novos "Modelos de Linguagem de Grande Escala" (os chatbots inteligentes que conhecemos) podem ajudar a construir esses mapas automaticamente, mas ainda não é perfeito.

Eles também alertam sobre o recurso de "contestabilidade". Se os humanos podem mudar os pesos, o que impede alguém de bagunçar o sistema de propósito? Eles sugerem que podemos precisar de sistemas "com permissão", onde apenas usuários confiáveis podem mudar as regras, ou formas de pesar a confiabilidade da pessoa que está fazendo a mudança.

Finalmente, eles reconhecem que em um mundo multiagente, diferentes especialistas podem discordar profundamente. Às vezes, não haverá uma única resposta "correta". O objetivo do sistema deles não é forçar todos a concordar, mas gerenciar esse desacordo de uma forma estruturada e transparente para que os humanos possam navegar pelo conflito.

Em suma, este artigo não propõe apenas um novo algoritmo; propõe uma nova filosofia para a IA. Sugere que o futuro das máquinas inteligentes não é sobre elas serem a pessoa mais inteligente da sala, mas sobre serem as melhores facilitadoras do debate humano, ajudando-nos a pesar as evidências, desafiar nossas suposições e chegar a decisões em que possamos realmente confiar.

Resumo Técnico: Rumo a uma Base Argumentativa para a IA Avaliativa

1. Definição do Problema

O artigo aborda as limitações dos atuais paradigmas de IA Explicável (XAI), especificamente o modelo "recomendar-e-explicar", onde uma IA produz um único resultado seguido de uma justificativa. Os autores argumentam que essa abordagem induz à fixação cognitiva, levando os usuários a confiar excessivamente ou a descartar as recomendações da IA sem a devida deliberação.

Para contrapor isso, o artigo foca na IA Avaliativa (EAI - Evaluative AI), um paradigma que apoia a tomada de decisão humana ao apresentar hipóteses concorrentes juntamente com evidências estruturadas a favor e contra cada uma, em vez de uma única recomendação. O principal desafio técnico identificado é a formalização da EAI como um problema de classificação (ranking-based): dado um conjunto de hipóteses ( $H$ ) e evidências ( $E$ ), o sistema deve determinar uma preordenação total (classificação) sobre as hipóteses baseada em dependências ponderadas de prós e contras, em vez de selecionar um único vencedor.

2. Metodologia

Os autores propõem Estruturas de Argumentação Bipolar Quantitativa Ponderada (wQBAFs - Weighted Quantitative Bipolar Argumentation Frameworks) como a base formal e computacional para a EAI baseada em classificação.

Definição Formal do Problema

O problema de EAI é definido por uma tupla $E = \langle E, H, \text{pro}, \text{con}, \tau, w \rangle$ :

$E$ e $H$ : Conjuntos finitos de evidências e hipóteses.
$\text{pro}, \text{con}$ : Relações binárias disjuntas que representam dependências de suporte e ataque. Crucialmente, essas relações existem não apenas entre evidência e hipóteses ( $E \times H$ ), mas também entre evidências ( $E \times E$ ) e entre hipóteses ( $H \times H$ ), permitindo o raciocínio de múltiplos passos.
$\tau$ : Uma função que mapeia elementos para pesos iniciais em $[0, 1]$ , representando plausibilidade ou severidade antes de considerar as dependências.
$w$ : Uma função que mapeia relações para pesos em $[0, 1]$ , representando a força da influência.

Solução Argumentativa

O problema é mapeado para uma wQBAF $Q = \langle A, R^-, R^+, \tau, w \rangle$ , onde:

$A = E \cup H$ (Os argumentos incluem tanto evidências quanto hipóteses).
$R^-$ e $R^+$ correspondem às relações $\text{con}$ e $\text{pro}$ .
Avaliação: Métodos de avaliação quantitativa (ex: semânticas O-QuAD, semânticas baseadas em MLP) são usados para computar recursivamente a força final de cada argumento. Esses métodos atualizam os pesos iniciais com base nas forças combinadas de apoiadores e atacantes.
Classificação (Ranking): As forças finais das hipóteses em $H$ são comparadas para gerar a preordenação total $\succeq_E$ .

Princípios de Design

O artigo delineia sete princípios que a solução argumentativa deve satisfazer para ser adequada a uma EAI centrada no ser humano:

Monotonicidade: As classificações devem alinhar-se com a intuição racional em relação às atualizações de evidências.
Equilíbrio: As classificações permanecem inalteradas se as forças das evidências de prós e contras forem equilibradas.
Equivalência: Hipóteses com perfis de evidência idênticos devem ser classificadas igualmente.
Dominância: Hipóteses com evidências de prós superiores (em número ou peso) devem ser classificadas mais alto.
Robustez: As classificações devem ser estáveis contra pequenas perturbações nos pesos das evidências.
Explicabilidade: O mecanismo de classificação deve ser transparente, suportando explicações locais (por que A > B) e globais.
Contestabilidade: Os usuários devem ser capazes de contestar a classificação modificando os pesos das evidências, adicionando novas evidências ou contestando hipóteses.

3. Principais Contribuições

O artigo apresenta três contribuições primárias para a agenda de pesquisa:

Formalização: Define a EAI formalmente como um problema de classificação sobre hipóteses dadas evidências ponderadas, indo além da proposta conceitual para um framework matemático tratável.
Seleção de Paradigma: Defende as wQBAFs como o paradigma mais adequado para a EAI. Esta abordagem oferece vantagens sobre métodos existentes (como Weight of Evidence ou estilos conversacionais baseados em LLM) ao suportar estruturas de dependência mais ricas, fornecer explicabilidade intrínseca e permitir a contestabilidade.
Visão Multi-Agente: Propõe uma extensão multi-agente onde diversos modelos avaliativos (agentes) com diferentes estilos de raciocínio podem interagir, trocar argumentos e agregar suas wQBAFs para formar uma avaliação de nível de grupo, mitigando assim o viés individual.

4. Resultados e Alegações

Como um artigo de posição, o trabalho não apresenta resultados experimentais empíricos ou um sistema implantado. Em vez disso, fornece uma análise teórica e um "esqueleto" de uma solução (ilustrada via um cenário de saúde envolvendo sintomas, diagnósticos e tratamentos).

Os autores alegam o seguinte com base em seu framework teórico:

Explicabilidade: Como o modelo subjacente é argumentativo (uma wQBAF), as explicações são "intrínsecas" e "fiéis". A estrutura gráfica mostra explicitamente os caminhos de raciocínio, e as forças quantitativas podem ser explicadas via métodos de atribuição ou contrafactuais.
Contestabilidade: O framework suporta naturalmente a interação humano-no-loop. Os usuários podem contestar componentes específicos (ex: o peso inicial de um sintoma ou a existência de uma relação) para alterar a classificação final, posicionando a IA como uma parceira deliberativa em vez de uma tomadora de decisão.
Comportamento Baseado em Princípios: O artigo afirma que as semânticas de avaliação de wQBAF existentes (ex: O-QuAD) satisfazem os quatro primeiros princípios (Monotonicidade, Equilíbrio, Equivalência, Dominância). Nota-se que a Robustez e a Explicabilidade requerem investigação adicional ou escolhas semânticas específicas.

5. Significância e Limitações

Significância:
O impacto primário do artigo é a transição da EAI de uma proposta conceitual para uma agenda de pesquisa formal. Ao fundamentar a EAI na teoria da argumentação, ele fornece uma base para sistemas que são:

Centrados no ser humano: Preservando a agência humana ao exigir deliberação ativa entre hipóteses.
Distribuídos: Capazes de integrar fontes heterogêneas e deliberação multi-agente.
Confiáveis: Através de explicabilidade intrínseca e da capacidade de os usuários contestarem e refinarem o raciocínio do sistema.

Limitações:
Os autores reconhecem vários constrangimentos e desafios abertos:

Gargalo de Construção: O framework assume que a wQBAF (argumentos, relações e pesos) é construída corretamente. Na prática, extrair essa estrutura de forma confiável de dados brutos ou LLMs continua sendo um desafio.
Riscos de Manipulação: A abertura necessária para a contestabilidade introduz o risco de usuários fornecerem evidências enganosas ou de baixa qualidade. O artigo sugere contribuições com permissão e ponderação consciente de confiança como possíveis salvaguardas.
Desacordo Irredutível: Em configurações multi-agente, desacordos profundos entre agentes podem ser irredutíveis. O framework sugere gerenciar o pluralismo e o desacordo estruturado em vez de impor o consenso.