An Explanation-oriented Inquiry Dialogue Game for Expert Collaborative Recommendations

Resumo Técnico: Um Jogo de Diálogo de Investigação Orientado à Explicação para Recomendações Colaborativas de Especialistas

Definição do Problema
O artigo aborda o desafio de projetar sistemas multiagentes colaborativos (MAS) onde especialistas humanos e artificiais devem gerar recomendações conjuntamente, particularmente em domínios de alto risco como a saúde. A literatura atual foca frequentemente em explicar os resultados do sistema para usuários humanos após uma decisão ser tomada (explicabilidade post-hoc). No entanto, há uma carência de frameworks que incorporem a explicabilidade dentro do próprio processo de raciocínio dos agentes. Os autores identificam a necessidade de um protocolo de diálogo que permita aos especialistas com diferentes bases de conhecimento colaborar para resolver conflitos, transferir conhecimento e gerar uma recomendação acompanhada de um histórico rico e rastreável do processo de raciocínio. As ferramentas de comunicação existentes na saúde (ex: plataformas de mensagens) frequentemente carecem de protocolos estruturados para impor a troca de justificativas e explicações, levando a potenciais falhas de comunicação e tomadas de decisão opacas.

Metodologia
Os autores propõem um novo protocolo de interação chamado Experts' Dialogue Game (EDG). A metodologia segue uma abordagem de engenharia de software centrada no usuário:

1. Análise de Requisitos: Os autores realizaram uma revisão sistemática da literatura médica e discussões informais com especialistas médicos para identificar 14 requisitos para uma colaboração eficaz entre especialistas. Estes foram categorizados em quatro classes:

   • Orientado ao Agente: Mitigar restrições de comunicação individuais.
   • Orientado à Cooperação: Promover discussão aberta, transferência de conhecimento e controle de qualidade.
   • Orientado ao Protocolo: Garantir a comunicação explícita de histórico, pontos críticos, explicações e mecanismos de resolução de conflitos.
   • Orientado à Implementação: Abordar coordenação, registro e privacidade.

2. Design de Protocolo Formal (EDG):

   • Tipo: O EDG é definido como um diálogo de investigação (onde o objetivo é encontrar prova/evidência) enriquecido com forças ilocucionárias explicativas.
   • Locuções: O protocolo define quatro subconjuntos de atos de fala (locuções):
     • Informacional: observação (observation), veredito (verdict), aconselhamento (advise), preocupação (concern), afirmação (assert).
     • Solicitações: wh-explain (solicitar detalhes), wh-justify (solicitar respaldo para uma postura), wh-clarify (solicitar definição de termo).
     • Respostas: explicar (explain), justificar (justify), clarificar (clarify), concordar (agree), retratar-se (retract).
     • Gestão: prompt (instrução/comando), encerrar (end), passar (pass).
   • Mecanismo: Diferente dos diálogos de investigação padrão que dependem fortemente de movimentos de afirmação (assert), o EDG força os participantes a usar locuções baseadas em explicação ao desafiar ou apoiar uma alegação. Isso gera "rastros mais ricos" do processo de raciocínio.
   • Armazéns de Compromisso: O sistema mantém armazéns de compromisso individuais para cada agente e um Armazém de Acordo (AS - Agreement Store) coletivo. O AS apenas acumula afirmações que sobreviveram ao debate crítico e receberam concordância explícita (ou falta de contestação), garantindo que a recomendação final seja robusta.
   • Regras de Polidez: Para evitar incoerência, o protocolo impõe regras exigindo que as wh-solicitações sejam respondidas pelo destinatário antes que outros movimentos sejam feitos, e utiliza prompt para gerenciar questões pendentes.

3. Implementação e Avaliação:

   • Um protótipo de aplicação web foi desenvolvido para impor o protocolo EDG, traduzindo locuções formais em interfaces de linguagem natural (ex: "Pode justificar" para wh-justify).
   • Um estudo de usuário formativo foi conduzido com seis estudantes de medicina atuando como especialistas. Eles utilizaram a plataforma para diagnosticar colaborativamente um paciente com distúrbio de tireoide, com os dados do paciente distribuídos desigualmente entre eles para testar a transferência de conhecimento.
   • O estudo avaliou o sistema em relação aos requisitos iniciais e coletou feedback qualitativo sobre usabilidade, eficácia e a utilidade das solicitações de explicação.

Principais Contribuições

1. Especificação de Requisitos: O artigo fornece uma especificação de requisitos fundamentada no domínio, porém abstrata, para colaboração entre especialistas, aplicável além da medicina para campos como aviação e engenharia.
2. Diálogo de Investigação Orientado à Explicação: Os autores introduzem um jogo de diálogo que incorpora forças ilocucionárias explicativas (wh-explain, wh-justify, wh-clarify) diretamente em um diálogo de investigação. Isso desloca o foco de meramente trocar fatos para trocar as razões por trás dos fatos, tornando o próprio processo de raciocínio do agente explicável.
3. Integração Metodológica: O trabalho demonstra uma metodologia de importar práticas de engenharia de software centradas no usuário (levantamento de requisitos, prototipagem, avaliação formativa) para o design de jogos de diálogo formais.
4. Validação Empírica: O artigo apresenta um estudo de usuário confirmando que o jogo de diálogo atende às necessidades de especialistas médicos para colaboração e que a troca estruturada de explicações é percebida como valiosa para construir confiança e clareza.

Resultados

• Satisfação de Requisitos: A avaliação (Tabela 8) indica que o protocolo EDG e sua implementação satisfazem a maioria dos requisitos identificados. Especificamente, o protocolo consegue impor a cooperação (RC1), permite discussões detalhadas (RC3) e facilita a transferência de conhecimento (RC4).
• Feedback dos Usuários:
  • Os participantes consideraram a plataforma valiosa para comunicação profissional, observando que as solicitações estruturadas de justificativa ajudaram a superar barreiras sociais (ex: o medo de ser rude ao pedir esclarecimentos).
  • A classificação das solicitações de explicação foi geralmente útil, embora alguns participantes tenham achado o termo "justificar" ligeiramente agressivo em comparação a "explicar".
  • O mecanismo de turnos (turn-taking) foi visto como útil para a coordenação e, ocasionalmente, restritivo, com sugestões para um gerenciamento de turnos mais dinâmico.
  • A separação de tópicos de diálogo (histórico, diagnóstico, aconselhamento) foi classificada positivamente quanto à eficiência.
• Geração de Rastro: O estudo confirmou que o protocolo gera com sucesso um armazém de acordo coletivo que reflete o consenso alcançado através de raciocínio explícito, em vez de apenas uma lista de afirmações não contestadas.

Significância e Alegações
O artigo afirma que o EDG representa um passo significativo em direção à Inteligência Artificial Explicável (XAI) em sistemas multiagentes. Ao integrar a explicação na fase de raciocínio em vez de apenas na fase de saída, o sistema produz uma trilha de auditoria transparente de como uma recomendação foi derivada. Os autores afirmam modestamente que, embora o jogo de diálogo seja formalmente fundamentado, sua verdadeira novidade reside em seu embasamento empírico nos requisitos do usuário e em sua aplicação em cenários reais de colaboração entre especialistas.

O trabalho não pretende resolver todos os problemas de coordenação multiagente (ex: nota que garantias de terminação em tempo de execução e estratégias para agentes não cooperativos permanecem como problemas em aberto). Em vez disso, posiciona o EDG como um protocolo fundamental que pode ser estendido para sistemas híbridos humano-artificial, oferecendo uma maneira estruturada de lidar com a complexidade da tomada de decisão interdisciplinar, mantendo a integridade e a explicabilidade do processo. Os autores concluem que tais ferramentas baseadas em diálogo têm valor real para a comunidade médica, potencialmente melhorando a qualidade e a transparência de diagnósticos colaborativos.