Machine Learning as Iterated Belief Change a la Darwiche and Pearl

Resumo Técnico: Aprendizado de Máquina como Mudança de Crença Iterada à la Darwiche e Pearl

Enunciação do Problema
Este artigo aborda a lacuna teórica entre as dinâmicas de aprendizado de máquina e a teoria formal de mudança de crença. Embora o trabalho anterior dos autores [2] tenha estabelecido que o treinamento de Redes Neurais Artificiais (RNAs) binárias — redes feed-forward com entradas e saídas binárias — pudesse ser modelado como uma sequência de transições de conjuntos de crenças utilizando o framework de Alchourrón, Gärdenfors e Makinson (AGM), aquele estudo recorria a operações de mudança de crença de "interseção total" (full-meet). O trabalho atual identifica limitações críticas nessa abordagem: a revisão por interseção total é "amnéstica", descartando todas as crenças anteriores ao surgir um conflito, e a contração por interseção total remove demasiada informação, frequentemente produzindo a teoria menor possível. Além disso, as operações de interseção total são incompatíveis com os princípios da mudança de crença iterada, especificamente o framework Darwiche-Pearl (DP), que governa como os estados de crença devem evoluir ao longo de sequências de atualizações. O artigo busca refinar a modelagem das dinâmicas de treinamento de RNAs binárias substituindo as operações de interseção total por operadores robustos e compatíveis com o DP, que refletem melhor a aprendizagem gradual e estruturada.

Metodologia
Os autores empregam uma abordagem neuro-simbólica, mapeando o comportamento de entrada-saída de RNAs binárias para lógica proposicional e conjuntos de crenças. A metodologia prossegue através das seguintes etapas:

1. Pré-requisitos Formais: O estudo utiliza uma linguagem proposicional $\mathcal{L}$ e modela o conhecimento da RNA como conjuntos de crenças (teorias fechadas sob consequência lógica). O processo de treinamento é visto como uma trajetória de conjuntos de crenças $K_1, \dots, K_n$, onde cada conjunto representa a função booleana codificada pela rede em um estágio específico de treinamento.
2. Métricas de Distância e Transições Graduais: O artigo revisita métricas de distância entre conjuntos de crenças (Tipo-A e Tipo-B). Introduz-se uma nova condição estrutural, (SD), que postula que o conjunto de discrepâncias (distância Tipo-B) entre um conjunto de crenças anterior e o alvo final deve ser um superconjunto das discrepâncias entre qualquer conjunto de crenças intermediário e o alvo. Esta condição captura uma convergência hierárquica, baseada em inclusão, em direção ao estado aprendido final.
3. Método de Dalal para Gradualismo: Os autores demonstram que o método de mudança de crença de Dalal, que ordena mundos possíveis com base na distância de Hamming, apoia naturalmente a construção de sequências graduais e bem ordenadas de conjuntos de crenças intermediários.
4. Operadores Compatíveis com DP: A mudança metodológica central envolve a substituição das operações de interseção total por revisão lexicográfica e contração moderada. Estes operadores satisfazem os postulados de Darwiche-Pearl (DP1–DP4 para revisão; DPC1–DPC4 para contração), garantindo que a ordenação dos mundos possíveis seja atualizada de modo a preservar a racionalidade através de múltiplas iterações.
5. Modelagem Teórica: Os autores provam que, se a trajetória de treinamento de uma RNA binária satisfizer a condição (SD), a transição de qualquer conjunto de crenças $K_i$ para $K_{i+1}$ pode ser formalmente representada como uma sequência de uma revisão lexicográfica seguida por uma contração moderada: $K_{i+1} = (K_i * \phi_1^i) \cdot \phi_2^i$. Aqui, $\phi_1^i$ e $\phi_2^i$ são sentenças proposicionais derivadas dos dados de treinamento que atuam como substitutos epistêmicos para as atualizações de parâmetros.

Principais Contribuições

• Método de Dalal como Base para o Gradualismo: O artigo estabelece que a abordagem baseada em distância de Dalal fornece uma fundação natural para a construção de sequências estruturadas de estados de crença intermediários, oferecendo um modelo de aprendizagem mais plausível cognitivamente do que mudanças abruptas de estado.
• Refinamento da Modelagem de Dinâmicas de RNA: Os autores demonstram que as dinâmicas de treinamento de RNAs binárias são modeladas de forma mais eficaz utilizando revisão lexicográfica e contração moderada, em vez de operações de interseção total. Isso aborda a natureza "amnéstica" e excessivamente destrutiva da mudança por interseção total.
• Compatibilidade com Mudança de Crença Iterada: O estudo prova que o treinamento de RNAs binárias é compatível com o framework Darwiche-Pearl. Mostra que, sob a suposição estrutural da condição (SD), a trajetória de aprendizagem pode ser totalmente capturada por operadores compatíveis com o DP.
• Interpretação Simbólica de Sinais de Treinamento: O artigo fornece um mecanismo formal para interpretar atualizações de treinamento como operações lógicas. Constrói sentenças proposicionais específicas ($\phi_1, \phi_2$) que correspondem aos passos de revisão e contração necessários para mover de um estado de rede para o próximo, traduzindo efetivamente atualizações baseadas em gradiente em mudanças de crença simbólicas.

Resultados

• Prova Teórica (Teorema 25): O resultado central é um teorema afirmando que, para qualquer sequência de conjuntos de crenças gerada por um processo de treinamento de RNA binária de saída única que satisfaça a condição (SD), existem uma função de revisão DP e uma função de contração DP, juntamente com sentenças de entrada específicas, que reproduzem exatamente a sequência de transições de crenças.
• Ilustração Empírica: O artigo fornece dois exemplos ilustrativos:
  1. Uma RNA binária aprendendo a operação lógica "pelo menos dois" em 3 entradas. A trajetória de treinamento mostrou um aumento monotônico na precisão e uma relação de subconjunto estrito nas distâncias Tipo-B entre conjuntos de crenças sucessivos e o alvo final, satisfazendo a condição (SD).
  2. Uma RNA binária treinada em um subconjunto do conjunto de dados MNIST (distinguindo os dígitos 0 e 1). A análise experimental confirmou que os conjuntos de crenças associados às saídas sucessivas evoluíram de acordo com a condição (SD), com discrepâncias encolhendo de forma aninhada.
• Incompatibilidade da Interseção Total: O artigo demonstra formalmente (Proposição 17) que a mudança de crença por interseção total viola os postulados DP, especificamente (DP2), confirmando a necessidade da mudança proposta para operadores lexicográficos e moderados.

Significado
O artigo afirma fortalecer as fundações teóricas do raciocínio simbólico dentro do aprendizado de máquina. Ao migrar da interseção total para operadores compatíveis com o DP, o estudo oferece um framework mais robusto e principista para compreender as dinâmicas de RNAs binárias. Sugere que a escolha da política de mudança de crença não é meramente uma questão de racionalidade lógica, mas também impacta as propriedades de aprendibilidade e convergência do sistema. O trabalho preenche a lacuna entre IA neuro-simbólica e lógica epistêmica dinâmica, propondo que o treinamento de redes neurais pode ser rigorosamente analisado como uma sequência de mudanças de crença iteradas que aderem a postulados de racionalidade estabelecidos. Esta perspectiva abre caminhos para uma análise simbólica de granularidade fina das dinâmicas de aprendizagem, tratando dados de treinamento como entradas lógicas que impulsionam revisões específicas e estruturadas do estado de conhecimento interno da rede.