PONTE: Personalized Orchestration for Natural Language Trustworthy Explanations

O artigo apresenta o PONTE, um framework de inteligência artificial explicável (XAI) com interação humana que supera as limitações das abordagens padronizadas e dos modelos de linguagem, utilizando um processo de validação em loop fechado para gerar explicações naturalizadas, personalizadas e confiáveis adaptadas às necessidades específicas de cada usuário.

O essencial

Imagine que você tem um médico especialista (ou um consultor financeiro) que é um gênio em sua área, mas que fala uma língua que você não entende: "Estatística", "SHAP scores", "probabilidades condicionais". Se ele apenas jogar esses dados na sua cara, você ficará confuso e não saberá o que fazer.

Por outro lado, se você pedir para um tradutor (uma Inteligência Artificial comum) explicar isso, ele pode inventar coisas, mentir sobre os números ou falar de um jeito que você não gosta (muito técnico ou muito vago).

O PONTE é a solução para esse problema. Pense nele como um "Maestro Personalizado" que garante que a explicação seja:

1. Verdadeira (não inventa dados).
2. Completa (não esquece nada importante).
3. Personalizada (fala exatamente como você gosta de ouvir).

Aqui está como o PONTE funciona, usando uma analogia de uma cozinha de restaurante de luxo:

1. O Chef (O Modelo de IA Original)

O "Chef" é o modelo de IA que fez a previsão (ex: "Você tem 95% de risco de diabetes"). Ele é muito preciso, mas só sabe falar a língua dos ingredientes brutos (números e dados). Ele não sabe explicar por que ou o que fazer.

2. O Garçom Tradutor (O Gerador de Narrativa)

Antes, tínhamos apenas um garçom que pegava a receita do Chef e tentava traduzir para o cliente. O problema? Às vezes o garçom inventava ingredientes que não existiam (alucinação) ou falava de um jeito muito chato para um cliente jovem, ou muito simples para um cliente exigente.

O PONTE transforma esse garçom em um Maestro de Orquestra com três ajudantes especiais:

• O Chefe de Controle de Qualidade (Verificador de Fidelidade): Antes de servir o prato, ele pega a explicação e compara rigorosamente com a receita original do Chef. Se a receita diz "95% de risco" e o garçom escreveu "90%", o Chefe de Controle joga o prato fora e manda refazer. Nada de mentiras ou erros de cálculo.
• O Bibliotecário Especializado (Argumentação Baseada em Busca): Se o cliente perguntar "Por que isso é perigoso?", o garçom não inventa uma resposta. Ele vai até uma biblioteca de livros confiáveis (artigos médicos ou leis financeiras) e traz a resposta correta baseada em fatos reais, não em "achismos" da IA.
• O Personalizador de Estilo (O Modelo de Preferência): Este é o segredo do PONTE. Ele não trata todos os clientes iguais. Ele aprende com você.
  • Se você é um paciente, ele fala de forma simples, direta e encorajadora ("Você precisa comer menos açúcar").
  • Se você é um médico, ele fala com termos técnicos e profundidade ("Aumento de glicose em 20% impacta a função hepática").
  • Ele ajusta o volume (curto ou longo), a profundidade (simples ou complexa) e a ação (apenas explicar ou dar um plano de ação).

3. O Ciclo de Feedback (A Conversa)

A mágica do PONTE é que ele não é "um e pronto". É um ciclo de conversa:

1. O Maestro gera uma explicação.
2. Os verificadores conferem se está certo e se o estilo está bom.
3. Se você (o cliente) disser: "Ei, isso está muito complicado, fale mais simples", o sistema aprende na hora.
4. Ele ajusta o "botão de estilo" e gera uma nova versão até que você diga: "Isso! Perfeito".

Por que isso é importante?

Imagine que você precisa decidir se pede um empréstimo ou se muda sua dieta.

• Sem o PONTE: Você recebe um gráfico cheio de linhas ou um texto confuso que pode conter erros. Você não confia e não toma a decisão certa.
• Com o PONTE: Você recebe uma história clara, que respeita seus conhecimentos (ou falta deles), que é 100% fiel aos dados reais e que te diz exatamente o que fazer.

Resumo da Ópera:
O PONTE é como ter um assistente pessoal superinteligente que não apenas traduz o "idioma dos robôs" para o "idioma humano", mas que também escuta o que você gosta, verifica se não está mentindo e aprende com você a cada conversa, garantindo que a explicação seja útil, verdadeira e feita sob medida para você.

Resumo técnico

Título: PONTE: Orquestração Personalizada para Explicações Confiáveis em Linguagem Natural

1. O Problema

A Inteligibilidade Artificial Explicável (XAI) enfrenta dois desafios principais que limitam sua adoção em cenários reais de alta responsabilidade (como saúde e finanças):

1. Paradigma "Tamanho Único": A maioria dos métodos XAI atuais gera explicações técnicas padronizadas (ex: atribuição de características, contrafactuais) que ignoram as diferenças de expertise, objetivos e necessidades cognitivas dos usuários finais. Isso resulta em baixa utilidade prática para não especialistas.
2. Desafios com Grandes Modelos de Linguagem (LLMs): Embora os LLMs possam traduzir artefatos técnicos em linguagem natural (criando "Narrativas XAI"), eles introduzem riscos de fidelidade (alucinações ou distorção dos dados originais) e confiabilidade. O uso de LLMs como explicadores autônomos é problemático devido à "cegueira epistêmica" (falta de acesso aos limites de decisão do modelo subjacente).

O objetivo é criar um sistema que personalize explicações para diferentes perfis de usuários, mantendo a fidelidade estrita aos dados do modelo e garantindo a confiabilidade da argumentação.

2. Metodologia: O Framework PONTE

O PONTE é um framework de orquestração com intervenção humana (human-in-the-loop) que trata a personalização não como simples engenharia de prompts, mas como um processo de validação e adaptação em ciclo fechado.

O sistema é agnóstico ao modelo preditivo e à técnica XAI utilizada. Sua arquitetura modular consiste nos seguintes componentes:

• Backbone XAI: Gera os artefatos explicativos estruturados (ex: pontuações SHAP, exemplos contrafactuais) a partir de um modelo de caixa preta.
• Modelo de Preferência Contextual (CPM):
  • Modela a personalização como um estado latente dinâmico de baixa dimensão.
  • Utiliza um vetor de preferências $s \in [0, 1]^4$ com quatro dimensões interpretáveis:
    1. Técnicalidade: Do linguajar simples ao relatórios quantitativos específicos.
    2. Verbosidade: De frases telegráficas a prosa contínua e detalhada.
    3. Profundidade: De declarações isoladas a explicações sistêmicas de interações.
    4. Acionabilidade: De descrições diagnósticas a orientações prescritivas para resultados desejados.
  • O vetor é inicializado com um "arquétipo" (ex: Paciente vs. Clínico) e refinado iterativamente com feedback do usuário.
• Gerador de Narrativas: Transforma os artefatos estruturados e o vetor de preferência em texto natural usando um LLM, mantendo os dados técnicos em formato controlado (tags) para preservar a semântica.
• Argumentação Baseada em Recuperação (RAG): Integra uma camada de verificação que busca evidências em bases de conhecimento certificadas (ex: literatura médica revisada por pares) para fundamentar alegações que vão além dos dados brutos, reduzindo alucinações.
• Módulos de Verificação (O Ciclo de Refinamento): Antes de entregar a explicação, o sistema submete a narrativa candidata a três verificações:
  1. Verificador de Fidelidade: Garante a correção numérica e a completude informacional (todos os fatores modificados devem ser mencionados) comparando o texto gerado com os artefatos XAI originais.
  2. Verificador de Alinhamento de Estilo: Avalia se a narrativa atende ao vetor de preferências do CPM.
  3. Ciclo de Rejeição e Refinamento: Se houver violação de restrições, o sistema gera um feedback estruturado e solicita ao LLM que refine a narrativa. Este processo itera até que todas as restrições sejam satisfeitas ou um limite de tentativas seja atingido.
• Integrador de Feedback: O feedback do usuário (em linguagem natural) é traduzido em atualizações do vetor de preferência, fechando o ciclo de personalização.

3. Principais Contribuições

1. Personalização em Ciclo Fechado: Formaliza a geração de explicações como um processo iterativo onde um estado latente dinâmico garante o alinhamento contínuo entre fatos do modelo e requisitos cognitivos do usuário.
2. Orquestração Agnóstica: O sistema funciona com qualquer modelo preditivo e qualquer técnica XAI local (pós-hoc), transformando artefatos estruturados em narrativas adaptativas.
3. Validação de Fidelidade Determinística: Introduz um mecanismo que garante que a narrativa gerada corresponda exatamente aos dados da explicação subjacente, evitando a "alucinação" de fatos.
4. Argumentação Fundamentada em Recuperação: Utiliza RAG para ancorar alegações explicativas em literatura de domínio certificada, mitigando o risco de plausibilidade enganosa.

4. Resultados Experimentais

O PONTE foi validado em dois cenários de alto risco: Saúde (risco de diabetes) e Finanças (risco de inadimplência), utilizando modelos como Kimi-k2.5 e GPT-OSS-20b.

• Avaliação Automática:

  • O PONTE superou significativamente uma linha de base de "Geração Única" (Single-Pass).
  • Fidelidade: Alcançou 100% de fidelidade (vs. 0.96-0.99 na base), garantindo que nenhum dado numérico fosse distorcido.
  • Completude e Estilo: Houve ganhos substanciais. No cenário de diabetes com GPT-OSS, o alinhamento de estilo saltou de 0.39 (base) para 0.94 (PONTE).
  • Eficiência: O ciclo de refinamento exigiu, em média, apenas 1.1 a 1.8 iterações para convergir, com taxas de falha inferiores a 5%.
  • Diferença de Personas: Personas profissionais (médicos, banqueiros) convergiram mais rapidamente do que leigos, sugerindo que preferências profissionais residem em regiões mais lineares do espaço latente.

• Avaliação Humana (N=17):

  • Alinhamento de Estilo: Houve forte concordância entre os vetores de preferência pretendidos e a percepção humana do estilo (escores de alinhamento de ~0.75 a 0.78).
  • Robustez: Diferenças entre duas gerações independentes (V1 vs V2) não foram estatisticamente significativas, indicando robustez à estocasticidade do LLM.
  • Qualidade Percebida: Os participantes avaliaram positivamente a clareza, a acionabilidade e a satisfação geral. Usuários não especialistas (pacientes, solicitantes de empréstimo) tiveram respostas particularmente positivas.
  • Dimensões: A dimensão "Técnicalidade" teve o melhor alinhamento (0.857), enquanto "Profundidade" e "Acionabilidade" apresentaram maiores desvios, indicando maior complexidade semântica.

5. Significado e Conclusão

O PONTE representa um avanço significativo na área de XAI ao resolver o dilema entre personalização e confiabilidade. Ao mover-se além da simples engenharia de prompts e incorporar mecanismos de verificação determinística e iteração em ciclo fechado, o sistema consegue:

• Garantir que explicações complexas sejam acessíveis e adaptadas ao usuário sem sacrificar a precisão dos dados.
• Mitigar os riscos de alucinação inerentes ao uso de LLMs em contextos críticos.
• Estabelecer um padrão para sistemas explicativos que evoluem com o usuário, aprendendo suas preferências de comunicação ao longo do tempo.

O trabalho sugere que o futuro da XAI deve focar em orquestração modular e validação rigorosa, em vez de depender exclusivamente da capacidade generativa de modelos de linguagem.