Resumo Técnico do AnTenA: Sistema de Análise de Tensores Acionável e Explicável com Grandes Modelos de Linguagem

Declaração do Problema

Explicar com precisão padrões ocultos dentro de dados multi-aspecto (tensores) tradicionalmente dependia de rótulos e metadados auxiliares. No entanto, essa abordagem enfrenta limitações significativas em cenários do mundo real: os metadados podem ser imprecisos (não padronizados ou inconsistentes), insuficientes (por exemplo, dados tabulares estáticos para gravações dependentes do tempo) ou inteiramente indisponíveis. Além disso, as estruturas de IA Explicável (XAI) existentes frequentemente focam em explicar os processos de tomada de decisão de modelos "caixa-preta" supervisionados, em vez de fornecer insights sobre as próprias estruturas subjacentes dos dados. No domínio da mineração de dados tensoriais, os componentes latentes derivados de decomposição são inerentemente difíceis de interpretar porque capturam interações multi-vias complexas, e confiar apenas em metadados obsoletos ou incompletos pode levar a explicações desalinhadas.

Metodologia

Os autores propõem o AnTenA (Sistema de Análise de Tensores Acionável e Explicável), um sistema de demonstração que utiliza Grandes Modelos de Linguagem (LLMs) para gerar explicações em linguagem natural para padrões latentes extraídos de decomposição de tensores. A arquitetia do sistema consiste em dois módulos primários:

1. Módulo de Análise de Tensores

Este módulo extrai componentes latentes interpretáveis usando modelos de decomposição de tensores.

• Modelos: O sistema suporta a decomposição CP (CANDECOMP/PARAFAC), conhecida por sua simplicidade, e o NeAT, um modelo de tensor neural que mantém a estrutura CP enquanto captura padrões latentes não lineares via redes neurais aplicadas a cada componente.
• Restrições: Para aumentar a interpretabilidade, os modelos incorporam restrições de não-negatividade (garantindo que os valores dos fatores sejam não-negativos para que as magnitudes sejam significativas) e de ortogonalidade (garantindo que os fatores permaneçam distintos).
• Saída: O módulo produz um conjunto de componentes latentes representando padrões co-agrupados através de diferentes modos do tensor.

2. Módulo de Explicação (Explainer Module)

Este módulo utiliza LLMs para traduzir componentes matemáticos latentes em narrativas legíveis por humanos.

• Entradas: O LLM recebe as top-K entidades para cada modo, seus valores de fator correspondentes, métricas de decomposição (erro de reconstrução, Factor Match Score [FMS]) e metadados opcionais.
• Estratégias de Prompting:
  • Prompts Agnósticos à Tarefa: Instruem o LLM a descrever padrões ocultos de forma geral, fornecendo uma visão ampla.
  • Prompts Específicos de Tarefa: Guiam o LLM para interpretar padrões no contexto de tarefas específicas (por exemplo, sugerindo recomendações de filmes baseadas em componentes do MovieLens ou prevendo tendências de pesquisa baseadas em co-clusters do DBLP).
• Avaliação de Confiabilidade (Tarefas de Inferência): Para avaliar a credibilidade das explicações do LLM, o sistema emprega duas tarefas de inferência motivadas por trabalhos anteriores [11]:
  • Inferência Direta (Forward Inference): O LLM é solicitado a prever entidades que logicamente pertencem a um determinado componente, mas que estão ausentes de sua lista top-K. Isso testa a capacidade do modelo de recuperar entidades plausíveis de um pool construído (top-50 entidades através de todos os componentes).
  • Inferência Reversa (Backward Inference): O LLM é solicitado a identificar uma entidade "falsa" injetada em um componente. Essas entidades falsas são selecionadas a partir do top-K de um componente distinto (medido por FMS), testando a capacidade do modelo de detectar inconsistências dentro de um pequeno conjunto.

Demonstração do Sistema

O artigo demonstra o AnTenA utilizando dois conjuntos de dados do mundo real: MovieLens-Belief-2024 e DBLP (dados de publicação acadêmica). A interface permite que os usuários:

1. Selecionem conjuntos de dados e modelos (CP ou NeAT) com restrições e hiperparâmetros específicos.
2. Visualizem resultados de decomposição, incluindo erros de reconstrução (nRE, RMSE) e similaridade de componentes (FMS).
3. Visualizem mapas de calor de valores de fatores top-K e resumos de co-clusters.
4. Observem as explicações geradas pelo LLM (tanto agnósticas à tarefa quanto específicas de tarefa) e os resultados das verificações de confiabilidade de inferência direta e reversa.

Principais Contribuições

• Explicação de Tensores Baseada em LLM: A introdução de um sistema que utiliza LLMs para explicar componentes latentes extraídos de decomposição de tensores, indo além da dependência de metadados auxiliares potencialmente falhos.
• Interpretabilidade Aprimorada: A integração de restrições de não-negatividade e ortogonalidade nos modelos de tensor (CP e NeAT) para garantir que os valores dos fatores sejam significativos e distintos.
• Estrutura de Dual-Prompt: A implementação de prompting tanto agnóstico à tarefa quanto específico de tarefa para equilibrar insights gerais com recomendações acionáveis e específicas do domínio.
• Avaliação de Confiabilidade: A proposta de tarefas de inferência direta e reversa especificamente desenhadas para avaliar a qualidade e a consistência das explicações geradas pelo LLM no contexto de análise de tensores.

Significância e Alegações

O artigo posiciona o AnTenA como um passo em direção a uma XAI mais intuitiva e diretamente interpretável para mineração de tensores não supervisionada. Os autores alegam que, ao alavancar o vasto conhecimento e as capacidades de raciocínio dos LLMs, o sistema pode identificar nuances em interações multi-vias que os métodos tradicionais baseados em metadados perdem. A inclusão de tarefas de inferência é destacada como um mecanismo para melhorar a confiabilidade e a credibilidade das explicações geradas. O sistema é apresentado como uma ferramenta de demonstração que facilita a análise de tensores do mundo real, oferecendo tanto uma visão geral dos padrões de dados quanto insights específicos e acionáveis dependendo das necessidades do usuário.

Nota: O artigo não alega resolver todos os desafios de XAI ou propor novos limites teóricos para a decomposição de tensores; em vez disso, foca na aplicação prática de LLMs para interpretar resultados de decomposição existentes e validar essas interpretações através de tarefas de inferência específicas.