Resumo Técnico: Programação Lógica Diferenciável para Mitigar Atalhos de Raciocínio em Sistemas Neurosimbólicos

1. Definição do Problema

Sistemas neurosimbólicos (NeSy) visam combinar as capacidades de generalização de redes neurais com a interpretabilidade da lógica simbólica. No entanto, pesquisas recentes indicam que esses sistemas são propensos ao raciocínio de atalho (shortcut reasoning), onde os modelos alcançam alta acurácia de treinamento explorando padrões espúrios ou caminhos de raciocínio excessivamente simplistas, em vez de aprender os conceitos semânticos pretendidos. Os autores identificam duas manifestações específicas deste fenômeno:

1. Atalhos de Satisfação de Restrições: O modelo satisfaz trivialmente restrições lógicas sem aprender o conceito pretendido. Por exemplo, em uma restrição $P \to Q$, um modelo pode aprender a sempre falsificar $P$ (tornando a implicação vacuidade verdadeira) em vez de aprender a relação entre $P$ e $Q$. Isso é particularmente prevalente em configurações semissupervisionadas, onde as restrições lógicas fornecem a principal supervisão.
2. Atalhos de Cognição: O modelo aprende mapeamentos incorretos entre entradas e conceitos devido a dados de treinamento enviesados ou confundidos. Mesmo que as regras lógicas sejam sintaticamente satisfeitas, o mapeamento semântico é incorreto (por exemplo, confundindo conceitos de dígitos em uma tarefa de adição enviesada).

Abordagens existentes frequentemente dependem de distribuições de probabilidade suaves ou relaxações de lógica difusa (fuzzy logic), que permitem que as restrições sejam satisfeitas por meio de atribuições de valores de verdade parciais. Essa flexibilidade pode permitir que os modelos contornem a necessidade de classificações de conceitos definitivos, facilitando assim comportamentos de atalho.

2. Metodologia

Os autores propõem uma estrutura de programação lógica diferenciável baseada em matrizes para abordar esses problemas. A abordagem baseia-se em trabalhos anteriores que codificam programas lógicos como operações de matriz, mas introduz elementos de design específicos para impor um enraizamento (grounding) explícito.

2.1 Codificação de Matriz e Semântica

O núcleo do método envolve representar um programa de lógica proposicional normal como operações de matriz:

• Matriz do Programa ($Q$): Codifica as regras. Cada linha representa uma regra, e as colunas correspondem a átomos e suas negações.
• Matriz de Cabeça ($D$): Mapeia os corpos das regras para seus átomos de cabeça.
• Tratamento Unificado de Restrições: Restrições de integridade (ex: $\leftarrow a \land b$) são reescritas usando um átomo auxiliar $z$ (ex: $z \leftarrow a \land b \land \neg z$) onde $z$ deve permanecer falso. Isso permite que as restrições sejam tratadas identicamente às regras de implicação dentro de uma única estrutura de matriz, reduzindo os requisitos de armazenamento em comparação com métodos anteriores que exigiam matrizes separadas.

2.2 Avaliação Diferenciável

As saídas da rede neural são tratadas como valores de verdade contínuos que formam um vetor de interpretação $v$. Isso é estendido para $w = [v; 1-v]$ para incluir negações. A derivação dos átomos é computada via:
$$h = \min(1, D(1 - \min(1, Q(1 - w))))$$
Esta formulação implementa implicitamente a t-norma de Łukasiewicz (agregação de soma limitada) para conjunções. A função de perda é definida como a Entropia Cruzada Binária (BCE) entre os valores suaves derivados $h$ e os rótulos alvo $t$.

2.3 Distinção Arquitetural Chave

Ao contrário de abordagens de lógica difusa (ex: Logic Tensor Networks) ou compilação probabilística (ex: DeepProbLog) que dependem de relaxações suaves, este método estabelece uma correspondência um-para-um entre as saídas neurais e os átomos lógicos. A estrutura de matriz cria caminhos de gradiente diretos das violações de restrição para as previsões neurais específicas responsáveis, forçando o modelo a se comprometer com classificações de conceitos definitivas, em vez de satisfazer restrições via valores de verdade parciais.

3. Principais Contribuições

1. Método de Mitigação Baseado em Matriz: Uma nova abordagem de programação lógica diferenciável que utiliza codificação de matriz unificada para mitigar tanto atalhos de satisfação de restrição quanto de cognição.
2. Tratamento Unificado de Restrições: Uma estratégia de codificação que integra restrições de integridade e implicações em uma única matriz usando átomos auxiliares, preservando a semântica de modelo suportado enquanto reduz o armazenamento.
3. Análise Empírica de T-Normas: Uma comparação sistemática de operações de matriz contra t-normas de lógica difusa (Łukasiewicz, Product, Gödel), analisando suas propriedades de fluxo de gradiente e impacto na mitigação de atalhos.
4. Avaliação Sistemática: Experimentos extensos em variantes de MNIST demonstrando que o enraizamento de átomo um-para-um supera significativamente os métodos de relaxação suave na aprendizagem de conceitos pretendidos sob supervisão enviesada ou fraca.

4. Resultados Experimentais

Os autores avaliaram seu método (MatLP) contra baselines incluindo CNN, Logic Tensor Networks (LTN), Semantic Loss, DeepProbLog, DeepStochLog e NeurASP em duas tarefas.

4.1 Atalhos de Satisfação de Restrições (MNIST 6/9)

Em uma tarefa semissupervisionada onde uma classe de díg (ex: "6") não é rotulada e deve ser aprendida via uma restrição lógica envolvendo imagens rotacionadas:

• Baselines: Modelos como Semantic Loss, LTN e NeurASP alcançaram altas taxas de satisfação de restrição (ex: 100% de satisfação da restrição de rotação), mas falharam em aprender o conceito do dígito ausente (0% de acurácia na classe ausente). Eles satisfizeram as restrições suprimindo a probabilidade da classe correspondente sem se comprometer com a classe alvo.
• MatLP: Alcançou alta acurácia no dígito ausente (92,3% no MNIST, 42,4% no USPS) mantendo a satisfação da restrição. A abordagem baseada em matriz forçou o modelo a realmente classificar o dígito em vez de explorar a restrição de forma vacante.

4.2 Atalhos de Cognição (MNIST-Half)

Em uma tarefa de adição enviesada onde apenas um subconjunto de pares de dígitos é observado, levando a mapeamentos de conceitos ambíguos:

• Caso 1 (Alto Viés): Com apenas 4 regras, a maioria dos modelos (incluindo LTN e DeepProbLog) falhou em desambiguar conceitos, alcançando acurácia próxima ao acaso.
• Casos 2-5 (Aumento de Restrições): À medida que regras adicionais foram inseridas para desambiguar os mapeamentos:
  • Métodos de Relaxação Suave (LTN, Semantic Loss): Lutaram para escapar dos atalhos iniciais, mostrando melhoria mínima na acurácia apesar do aumento das restrições.
  • Métodos de Enraizamento Explícito (NeurASP, MatLP): Demonstraram melhoria progressiva. O NeurASP atingiu acurácia quase perfeita rapidamente, enquanto o MatLP mostrou uma melhoria consistente e robusta (de 41% para 99,5% de acurácia) conforme as restrições eram adicionadas.
• Comparação de T-Normas: Na tarefa padrão de Adição MNIST, a t-norma Product alcançou a maior acurácia (91,7%), seguida pelo método baseado em matriz (88,5%). A t-norma Gödel teve o pior desempenho (82,9%) devido a gradientes esparsos.

5. Significância e Alegações

O artigo afirma que o acoplamento entre o conhecimento simbólico e o aprendizado neural é crítico para mitigar atalhos de raciocínio. Especificamente:

• Enraizamento Explícito é Necessário, mas Insuficiente: Embora o enraizamento um-para-um de átomo (como em NeurASP e MatLP) ajude, o mecanismo de otimização importa. O NeurASP falhou em tarefas de satisfação de restrição onde o MatLP teve sucesso, sugerindo que a avaliação diferenciável contínua combinada com o enraizamento explícito é superior à enumeração discreta isolada.
• Propriedades de Fluxo de Gradiente: A abordagem baseada em matriz cria caminhos de gradiente diretos das violações para as previsões responsáveis, impedindo que os modelos satisfaçam restrições através de valores de verdade "parciais" que não correspondem à semântica pretendida.
• Limitações: Os autores observam que sua avaliação é limitada a programas proposicionais em tarefas baseadas em MNIST. Eles não alegam generalização imediata para raciocínio de primeira ordem complexo ou tarefas de visão do mundo real, identificando a escalabilidade via matrizes esparsas e a extensão para a lógica de primeira ordem como trabalhos futuros.

Em conclusão, os autores demonstram que a programação lógica diferenciável baseada em matriz, ao forçar o enraizamento explícito e a propagação direta de gradiente, oferece uma escolha arquitetural robusta para prevenir que sistemas neurosimbólicos explorem atalhos de raciocínio na presença de dados enviesados ou com supervisão fraca.