Resumo Técnico: Lógica das Hipóteses (LoH)

Declaração do Problema

A integração neurosimbólica (NeSy) visa combinar o poder dedutivo da lógica simbólica com as capacidades de aprendizado de redes neurais. As abordagens existentes geralmente ocupam extremos opostos de um espectro:

1. Injeção de Conhecimento: Métodos como DeepProbLog e LTN dependem de especialistas do domínio fornecendo fórmulas lógicas de alta qualidade como priores ou restrições. Isso assume que tais regras estão prontamente disponíveis e não lida com cenários onde as regras devem ser aprendidas ou parcialmente revisadas.
2. Indução de Regras: Métodos como SATNet, DSL e Programação Lógica Indutiva (ILP) aprendem regras simbólicas diretamente dos dados. Embora flexíveis, eles frequentemente lutam para incorporar conhecimento prévio parcial ou impor templates sintáticos específicos (por exemplo, cláusulas de comprimento fixo) sem mecanismos ad hoc.

Uma lacuna significativa permanece no manuseio de cenários intermediários onde uma estrutura lógica parcial é fornecida, mas componentes ausentes devem ser aprendidos, ou onde regras aprendidas devem aderir a restrições sintáticas específicas. Modelos NeSy diferenciáveis atuais frequentemente carecem da flexibilidade para abranger esse espectro de "zero a conhecimento total" dentro de um único framework principiado. Além disso, muitos modelos existentes que utilizam lógica difusa (por exemplo, t-normas Produto ou Łukasiewicz) sofrem de uma discrepância entre seu desempenho contínuo de treinamento e sua extração de regras discretas e interpretáveis, levando à perda de precisão após a binarização.

Metodologia: A Lógica das Hipóteses (LoH)

Os autores propõem a Lógica das Hipóteses (LoH), um formalismo lógico novel que unifica injeção de conhecimento e indução de regras.

1. O Operador de Escolha

A LoH estende a sintaxe padrão da lógica proposicional com um operador de escolha $[\Phi_1, \dots, \Phi_n]$.

• Sintaxe: Uma fórmula $\Phi$ pode conter operadores de escolha que selecionam uma subfórmula de um conjunto finito de candidatos.
• Semântica: Uma única fórmula LoH representa um espaço de hipóteses $\mathcal{H}(\Phi)$, que é o conjunto de todas as fórmulas proposicionais clássicas obtidas selecionando exatamente uma subfórmula para cada operador de escolha.
• Flexibilidade: Isso permite a representação de fórmulas não especificadas. Ao ajustar a presença de operadores de escolha, a LoH pode representar desde uma regra totalmente especificada (sem escolhas) até um espaço de busca totalmente orientado por dados (todas as escolhas).

2. Compilação para Grafos Diferenciáveis

Para permitir o aprendizado via retropropagação, as fórmulas LoH são compiladas em grafos computacionais diferenciáveis:

• Portões Ponderados: Cada subfórmula candidata $\Phi_i$ em um operador de escolha recebe um peso aprendível $w_i \in [0, 1]$.
• Compilação Dual: O operador de escolha é convertido em uma fórmula proposicional usando Compilação Disjuntiva ($\bigvee w_i \land \Phi_i$) ou Compilação Conjuntiva ($\bigwedge \neg w_i \lor \Phi_i$). A escolha entre estas depende do contexto do operador (por exemplo, dentro de uma conjunção versus uma disjunção) para otimizar o fluxo de gradiente.
• Semântica de Lógica Difusa: As fórmulas compiladas são interpretadas usando lógica difusa de Gödel (onde a conjunção é $\min$ e a disjunção é $\max$). Isso permite que as operações lógicas sejam diferenciáveis.

3. O Truque de Gödel e Discretização

Um componente crítico é o mecanismo para aprender decisões discretas mantendo a diferenciabilidade:

• Parametrização: Em vez de aprender pesos $w_i$ diretamente, o modelo aprende logits $z_i$.
• Busca Local Estocástica: Durante a passagem direta, ruído Gumbel é adicionado aos logits. Os valores são então deslocados para que exatamente um logit seja positivo, e uma função sigmoide é aplicada para produzir pesos.
• Teorema 1 (Extração Sem Perdas): Aproveitando propriedades da lógica de Gödel, os autores provam que, para qualquer interpretação difusa, arredondar os valores de saída usando um limiar de 0,5 produz uma interpretação booleana consistente com o modelo contínuo. Isso garante que discretizar o modelo aprendido não incorre em perda de precisão em comparação com a versão contínua, uma propriedade não garantida por outras lógicas difusas como Produto ou Łukasiewicz.

4. Integração Arquitetônica

A LoH pode ser empilhada sobre redes neurais (por exemplo, CNNs) para aprender mapeamentos percepção-símbolo de ponta a ponta. Os operadores de escolha também podem ser usados para impor templates sintáticos (por exemplo, cláusulas de largura fixa) ou para selecionar subconjuntos de uma base de conhecimento conhecida.

Contribuições Principais

1. Linguagem Novel (LoH): Um formalismo que estende a lógica proposicional com um operador de escolha, permitindo a representação compacta de espaços de hipóteses e a integração flexível de conhecimento prévio parcial.
2. Compilação Diferenciável: Um procedimento para compilar fórmulas LoH em grafos computacionais usando lógica difusa de Gödel e o truque de Gödel. Isso permite o aprendizado de ponta a ponta de regras lógicas discretas sem degradação de precisão após a binarização.
3. Framework Unificador: A LoH subsume paradigmas NeSy existentes. Pode funcionar como um indutor puro de regras (zero conhecimento), um injetor de conhecimento (conhecimento total) ou um sistema híbrido lidando com cenários intermediários (conhecimento parcial, restrições de template).
4. Validação Empírica: O framework demonstra forte desempenho em dados tabulares e tarefas perceptivas (Jogo da Velha Visual), superando ou igualando modelos state-of-the-art como MLLP e DLN, enquanto fornece regras discretas interpretáveis.

Resultados Experimentais

Os autores avaliaram a LoH em duas frentes principais:

1. Classificação Tabular (12 Conjuntos de Dados UCI)

• Configuração: Modelos LoH foram comparados contra Árvores de Decisão (DT), Florestas Aleatórias (RF), XGBoost, Redes Neurais padrão (NN), Redes Lógicas Diferenciáveis (DLN) e Perceptrões Lógicos Multicamada (MLLP).
• Descobertas:
  • A LoH alcançou pontuações F1 competitivas, frequentemente igualando ou superando o desempenho de NNs padrão e MLLP.
  • Diferentemente do MLLP, onde as regras extraídas (CRS) frequentemente sofrem uma queda significativa de desempenho em comparação com o modelo contínuo, as regras discretas da LoH mantêm a mesma precisão do modelo contínuo devido às semânticas de Gödel.
  • A LoH consistentemente superou o CRS e o DLN (em sua forma discreta) na maioria dos conjuntos de dados, particularmente em configurações multiclasse com menos classes.

2. Jogo da Velha Visual

• Configuração: Uma tarefa perceptiva onde a entrada é uma grade $3 \times 3$ de dígitos MNIST (0=X, 1=O, 2=Vazio) em vez de entradas simbólicas. O objetivo é prever se o 'X' vence.
• Descobertas:
  • A LoH (especificamente a variante DNF) alcançou o maior desempenho, encontrando a fórmula lógica 100% correta em 4 de 30 execuções.
  • Outros modelos (MLLP, DLN) lutaram com a avaliação simbólica após o treinamento, frequentemente falhando em produzir regras discretas precisas apesar de um desempenho contínuo razoável.
  • O modelo aprendeu com sucesso a ancorar símbolos (identificando X, O e Vazio a partir de imagens) e descobrir a estrutura lógica subjacente simultaneamente.

3. Simulação de Risco de Incêndio Florestal (Regimes de Conhecimento)

• Configuração: Uma tarefa sintética testando diferentes níveis de conhecimento prévio: Conhecimento Total, Seleção de Regras Confiáveis, Seleção de Uma Regra por Conjunto e Conhecimento Parcial.
• Descobertas: A LoH adaptou-se com sucesso a todos os regimes. Quando comparada a uma linha de base $\partial$ILP modificada, a LoH a superou em regimes envolvendo grandes espaços de hipóteses, demonstrando eficiência superior no manuseio de seleção complexa de regras e integração de conhecimento parcial.

Significância e Alegações

O artigo alega que a LoH fornece um único framework de aprendizado principiado que preenche a lacuna entre injeção de conhecimento e indução de regras. Sua significância primária reside em:

• Flexibilidade: Permite que pesquisadores especifiquem a quantidade exata de conhecimento prévio disponível, de "zero" a "total", e lidem com casos intermediários onde regras precisam de revisão ou complementação.
• Discretização Sem Perdas: Ao utilizar lógica de Gödel e o truque de Gödel, a LoH garante que as regras discretas e interpretáveis extraídas do modelo sejam tão precisas quanto o modelo contínuo usado durante o treinamento. Isso aborda uma limitação majoritária em abordagens neurosimbólicas anteriores.
• Aprendizado de Ponta a Ponta: Permite o aprendizado simultâneo de regras simbólicas e mapeamentos percepção-símbolo, ancorando conceitos abstratos em dados brutos sem exigir componentes simbólicos pré-treinados.

Os autores reconhecem limitações, notando que a implementação atual é proposicional e que a escalabilidade permanece um desafio para extensões de primeira ordem devido à explosão combinatória de ancoragens. No entanto, eles postulam que a LoH oferece uma base robusta para desenvolvimentos futuros em IA neurosimbólica.