Explainable and Human-Grounded AI for Decision Support Systems: The Theory of Epistemic Quasi-Partnerships

Resumo Técnico: IA Explicável e Fundamentada em Humanos para Sistemas de Apoio à Decisão

Declaração do Problema
O artigo aborda uma lacuna crítica no campo da Inteligência Artificial Explicável (XAI) relativa aos Sistemas de Apoio à Decisão com IA (IA-SAD). Embora quadros regulatórios como o Ato de IA da UE (2024) exijam transparência para sistemas de IA de alto risco, a pesquisa atual em XAI luta para definir o que constitui uma explicação "suficientemente transparente" para implementadores típicos (especialistas em domínio com pouca fluência em aprendizado de máquina). Os autores identificam o problema de "presidiários administrando o manicômio", onde as explicações são frequentemente projetadas para desenvolvedores e não para usuários finais. Além disso, a literatura empírica existente apresenta resultados conflitantes: alguns estudos sugerem que gráficos de características (por exemplo, LIME, SHAP) melhoram a compreensão, enquanto outros indicam que eles falham em aumentar a calibração de confiança ou a precisão. Argumenta-se que os quadros teóricos atuais para explicações fundamentadas em humanos são inadequados porque ou falham em explicar essa evidência empírica ou oferecem conselhos eticamente insustentáveis, como promover o antropomorfismo.

Metodologia
Os autores empregam uma análise conceitual e teórica fundamentada em uma revisão da literatura empírica de XAI.

• Revisão de Literatura: O artigo sintetiza descobertas de estudos-chave que utilizam a "tarefa de previsão de renda" (IPT) e o "paradigma de porcentagem de troca" para medir a calibração de confiança (o grau em que os usuários deferem às recomendações da IA).
• Análise Comparativa: Os autores analisam a eficácia de várias técnicas de explicação, incluindo:
  • Gráficos de Características: (LIME, SHAP) visualizando a importância das características.
  • Confiança do Modelo: Declarações proposicionais de confiabilidade (por exemplo, "90% de confiança").
  • Contratúteis: Descrições baseadas em texto e gráficas de como as entradas devem mudar para alterar os resultados.
  • Âncoras: Regras do tipo "se-então" especificando condições para previsões.
  • Protótipos: Comparando novas instâncias com exemplos de treinamento representativos.
• Crítica Teórica: O artigo avalia três teorias existentes proeminentes de explicações fundamentadas em humanos:
  1. Teoria dos Modelos Mentais (TMM): A confiança requer a compreensão dos mecanismos internos.
  2. Teoria dos Modelos Mentais Plus (TMM+): A confiança requer a compreensão dos limites de erro.
  3. Teoria do Antropomorfismo (TA): A confiança requer tratar a IA como semelhante a um humano.
• Desenvolvimento de Quadro Conceitual: Os autores propõem um novo quadro teórico, a Teoria de Quase-Parcerias Epistêmicas (EQP), e derivam uma metodologia prática chamada Abordagem RCC (Razões, Contratúteis, Confiança) com base na síntese da evidência empírica e na crítica das teorias existentes.

Principais Contribuições

1. Identificação da Opacidade Epistêmica: Os autores argumentam que os gráficos de características são frequentemente "epistemicamente opacos" para não especialistas porque falham em facilitar o discernimento epistêmico (a capacidade de determinar razões para crenças). Embora intuitivos para especialistas, eles não se alinham com as práticas epistêmicas humanas ordinárias.
2. Crítica às Teorias Existentes:
   • TMM/TMM+: Estas são criticadas por serem contra-intuitivas (usuários confiam em sistemas opacos diariamente) e conceitualmente limitadas, pois não conseguem explicar por que a confiança do modelo ou os contratúteis são eficazes sem revelar mecanismos internos.
   • TA: Embora a TA explique o sucesso de explicações semelhantes a humanos, os autores argumentam que ela é eticamente problemática, pois depende da manipulação de vieses cognitivos (antropomorfismo) e corre o risco de instilar erros de categoria relativos à agência da máquina.
3. Teoria de Quase-Parcerias Epistêmicas (EQP): O artigo introduz a EQP como uma teoria novel de interação humano-máquina. Ela postula que os IA-SAD devem ser vistos como "quase-parceiros epistêmicos" — ferramentas que oferecem contribuições especializadas sem responsabilidade social. A confiança é estabelecida não por imitar humanos (antropomorfismo) ou revelar código interno (transparência mecanicista), mas por se engajar em práticas epistêmicas sólidas comuns ao raciocínio humano.
4. A Abordagem RCC: Derivada da EQP, os autores propõem um quadro específico para explicações fundamentadas em humanos consistindo de três componentes:
   • Razões: Fornecer justificações proposicionais para decisões (por exemplo, "Escolhi X por causa de Y").
   • Contratúteis: Demonstrar responsividade a cenários do tipo "e se" para mostrar robustez e limites de decisão.
   • Confiança: Declarar explicitamente pontuações de confiabilidade, idealmente em relação a como a confiança muda sob alterações contratúteis.

Resultados e Alinhamento Empírico
O artigo não apresenta novos dados experimentais, mas sintetiza estudos existentes para apoiar a abordagem RCC:

• Confiança: Estudos (por exemplo, Zhang et al., 2020) mostram que a confiança proposicional do modelo facilita uma melhor calibração de confiança do que gráficos de características.
• Contratúteis: Pesquisas (por exemplo, Le et al., 2022) indicam que descrições contratúteis, particularmente as gráficas, melhoram a precisão e a calibração de confiança.
• Âncoras vs. Gráficos de Características: Embora os gráficos de características auxiliem na "simulabilidade" para especialistas (Hase & Bansal, 2020), eles frequentemente falham em melhorar a precisão ou a confiança para novatos. Por outro lado, as explicações de Âncoras (regras se-então) e as explicações de protótipos alinham-se ao raciocínio lógico (modus ponens) e ao raciocínio abdutivo, respectivamente, tornando-as mais eficazes para práticas epistêmicas ordinárias.
• Mitigação de Vieses: A análise sugere que explicações baseadas em exemplos e contratúteis engajam o pensamento do Sistema 2 (racional), reduzindo os vieses de ancoragem associados a gráficos de características e pontuações de confiança isoladas.

Significância e Alegações
Os autores afirmam que a Teoria de Quase-Parcerias Epistêmicas e a Abordagem RCC oferecem um quadro superior para desenvolver IA-SAD éticas e explicáveis.

• Poder Explicativo: A EQP explica com sucesso a evidência empírica que as teorias atuais (TMM, TMM+, TA) falham em contabilizar, especificamente por que explicações não mecanicistas (confiança, contratúteis) são eficazes.
• Orientação Ética: Diferentemente da Teoria do Antropomorfismo, a EQP evita a armadilha ética de manipular a confiança do usuário através de engano ou erros de categoria. Ela defende "quase-parcerias" que são ficções úteis, mantendo uma distinção clara entre agência humana e de máquina enquanto fomenta a confiança epistêmica.
• Aplicação Prática: O artigo argumenta que, para cumprir mandatos de transparência (como o Ato de IA da UE) e mitigar a aversão algorítmica, os desenvolvedores devem projetar IA-SAD para fornecer razões, contratúteis e confiança em formatos que se alinhem com as práticas epistêmicas humanas, em vez de tentar tornar os mecanismos internos do modelo transparentes para não especialistas.

O artigo conclui que a abordagem RCC é tanto um método empiricamente apoiado para melhorar a calibração de confiança quanto uma estratégia eticamente sólida para a interação humano-IA.