Machine Learning as Iterated Belief Change a la Darwiche and Pearl

Resumen Técnico: Aprendizaje Automático como Cambio de Creencias Iterado a la Darwiche y Pearl

Planteamiento del Problema
Este artículo aborda la brecha teórica entre las dinámicas del aprendizaje automático y la teoría formal del cambio de creencias. Si bien el trabajo anterior de los autores [2] estableció que el entrenamiento de Redes Neuronales Artificiales (RNA) binarias —redes de alimentación directa con entradas y salidas binarias— podía modelarse como una secuencia de transiciones de conjuntos de creencias utilizando el marco de Alchourrón, Gärdenfors y Makinson (AGM), dicho estudio se basó en operaciones de cambio de creencias de "intersección total" (full-meet). El trabajo actual identifica limitaciones críticas en este enfoque: la revisión de intersección total es "amnéstica", descartando todas las creencias previas ante un conflicto, y la contracción de intersección total elimina demasiada información, produciendo a menudo la teoría más pequeña posible. Además, las operaciones de intersección total son incompatibles con los principios del cambio de creencias iterado, específicamente el marco Darwiche-Pearl (DP), que rige cómo deben evolucionar los estados de creencia a lo largo de secuencias de actualizaciones. El artículo busca refinar el modelado de las dinámicas de entrenamiento de RNA binarias reemplazando las operaciones de intersección total por operadores robustos compatibles con DP que reflejen mejor un aprendizaje gradual y estructurado.

Metodología
Los autores emplean un enfoque neuro-simbólico, mapeando el comportamiento entrada-salida de las RNA binarias a lógica proposicional y conjuntos de creencias. La metodología procede a través de los siguientes pasos:

1. Prerrequisitos Formales: El estudio utiliza un lenguaje proposicional $\mathcal{L}$ y modela el conocimiento de la RNA como conjuntos de creencias (teorías cerradas bajo consecuencia lógica). El proceso de entrenamiento se visualiza como una trayectoria de conjuntos de creencias $K_1, \dots, K_n$, donde cada conjunto representa la función booleana codificada por la red en una etapa específica de entrenamiento.
2. Métricas de Distancia y Transiciones Graduales: El artículo revisa las métricas de distancia entre conjuntos de creencias (Tipo-A y Tipo-B). Introduce una nueva condición estructural, (SD), que postula que el conjunto de discrepancias (distancia Tipo-B) entre un conjunto de creencias anterior y el objetivo final debe ser un superconjunto de las discrepancias entre cualquier conjunto de creencias intermedio y el objetivo. Esta condición captura una convergencia jerárquica, basada en la inclusión, hacia el estado aprendido final.
3. Método de Dalal para el Gradualismo: Los autores demuestran que el método de cambio de creencias de Dalal, que ordena los mundos posibles basándose en la distancia de Hamming, apoya naturalmente la construcción de secuencias ordenadas y graduales de conjuntos de creencias intermedios.
4. Operadores Compatibles con DP: El cambio metodológico central implica reemplazar las operaciones de intersección total con revisión lexicográfica y contracción moderada. Estos operadores satisfacen los postulados de Darwiche-Pearl (DP1–DP4 para revisión; DPC1–DPC4 para contracción), asegurando que el ordenamiento de los mundos posibles se actualice de manera que preserve la racionalidad a través de múltiples iteraciones.
5. Modelado Teórico: Los autores prueban que si la trayectoria de entrenamiento de una RNA binaria satisface la condición (SD), la transición de cualquier conjunto de creencias $K_i$ a $K_{i+1}$ puede representarse formalmente como una secuencia de una revisión lexicográfica seguida de una contracción moderada: $K_{i+1} = (K_i * \phi_1^i) \cdot \phi_2^i$. Aquí, $\phi_1^i$ y $\phi_2^i$ son oraciones proposicionales derivadas de los datos de entrenamiento que actúan como sustitutos epistémicos de las actualizaciones de parámetros.

Contribuciones Clave

• Método de Dalal como Base para el Gradualismo: El artículo establece que el enfoque basado en distancias de Dalal proporciona una base natural para construir secuencias estructuradas de estados de creencia intermedios, ofreciendo un modelo de aprendizaje más plausible cognitivamente que los cambios abruptos de estado.
• Refinamiento del Modelado de Dinámicas de RNA: Los autores demuestran que las dinámicas de entrenamiento de las RNA binarias se modelan más eficazmente utilizando revisión lexicográfica y contracción moderada en lugar de operaciones de intersección total. Esto aborda la naturaleza "amnéstica" y excesivamente destructiva del cambio de intersección total.
• Compatibilidad con el Cambio de Creencias Iterado: El estudio prueba que el entrenamiento de RNA binarias es compatible con el marco Darwiche-Pearl. Muestra que, bajo el supuesto estructural de la condición (SD), la trayectoria de aprendizaje puede capturarse completamente mediante operadores compatibles con DP.
• Interpretación Simbólica de las Señales de Entrenamiento: El artículo proporciona un mecanismo formal para interpretar las actualizaciones de entrenamiento como operaciones lógicas. Construye oraciones proposicionales específicas ($\phi_1, \phi_2$) que corresponden a los pasos de revisión y contracción necesarios para pasar de un estado de red al siguiente, traduciendo efectivamente las actualizaciones basadas en gradientes a cambios de creencia simbólicos.

Resultados

• Prueba Teórica (Teorema 25): El resultado central es un teorema que establece que para cualquier secuencia de conjuntos de creencias generada por un proceso de entrenamiento de RNA binaria de una sola salida que satisfaga la condición (SD), existen una función de revisión DP y una función de contracción DP, junto con oraciones de entrada específicas, que reproducen exactamente la secuencia de transiciones de creencias.
• Ilustración Empírica: El artículo proporciona dos ejemplos ilustrativos:
  1. Una RNA binaria aprendiendo la operación lógica "al menos dos" sobre 3 entradas. La trayectoria de entrenamiento mostró un aumento monótono en la precisión y una relación de subconjunto estricto en las distancias Tipo-B entre conjuntos de creencias sucesivos y el objetivo final, satisfaciendo la condición (SD).
  2. Una RNA binaria entrenada en un subconjunto del conjunto de datos MNIST (distinguiendo los dígitos 0 y 1). El análisis experimental confirmó que los conjuntos de creencias asociados con las salidas sucesivas evolucionaron de acuerdo con la condición (SD), con las discrepancias reduciéndose de manera anidada.
• Incompatibilidad de la Intersección Total: El artículo demuestra formalmente (Proposición 17) que el cambio de creencias de intersección total viola los postulados DP, específicamente (DP2), confirmando la necesidad del cambio propuesto hacia operadores lexicográficos y moderados.

Significado
El artículo afirma fortalecer los fundamentos teóricos del razonamiento simbólico dentro del aprendizaje automático. Al pasar de la intersección total a operadores compatibles con DP, el estudio ofrece un marco más robusto y principista para comprender las dinámicas de las RNA binarias. Sugiere que la elección de la política de cambio de creencias no es meramente una cuestión de racionalidad lógica, sino que también impacta las propiedades de aprendibilidad y convergencia del sistema. El trabajo cierra la brecha entre la IA neuro-simbólica y la lógica epistémica dinámica, proponiendo que el entrenamiento de redes neuronales puede analizarse rigurosamente como una secuencia de cambios de creencia iterados que se adhieren a postulados de racionalidad establecidos. Esta perspectiva abre vías para un análisis simbólico detallado de las dinámicas de aprendizaje, tratando los datos de entrenamiento como entradas lógicas que impulsan revisiones específicas y estructuradas del estado de conocimiento interno de la red.