Machine Learning as Iterated Belief Change a la Darwiche and Pearl

Sintesi Tecnica: Apprendimento Automatico come Cambiamento Iterato di Credenze alla Darwiche e Pearl

Enunciato del Problema
Questo lavoro affronta il divario teorico tra le dinamiche dell'apprendimento automatico e la teoria formale del cambiamento di credenze. Mentre il lavoro precedente degli autori [2] ha stabilito che l'addestramento di Reti Neurali Artificiali (RNA) binarie — reti feed-forward con ingressi e uscite binarie — poteva essere modellato come una sequenza di transizioni di insiemi di credenze utilizzando il quadro di Alchourrón, Gärdenfors e Makinson (AGM), tale studio si basava su operazioni di cambiamento di credenze "full-meet" (incontro completo). Il lavoro corrente identifica limitazioni critiche in questo approccio: la revisione full-meet è "amnesica", scartando tutte le credenze precedenti in caso di conflitto, e la contrazione full-meet rimuove troppa informazione, producendo spesso la teoria più piccola possibile. Inoltre, le operazioni full-meet sono incompatibili con i principi del cambiamento iterato di credenze, in particolare il quadro Darwiche-Pearl (DP), che governa come gli stati di credenza dovrebbero evolvere attraverso sequenze di aggiornamenti. Il lavoro mira a perfezionare la modellazione delle dinamiche di addestramento delle RNA binarie sostituendo le operazioni full-meet con operatori robusti e conformi al quadro DP, che riflettono meglio un apprendimento graduale e strutturato.

Metodologia
Gli autori adottano un approccio neuro-simbolico, mappando il comportamento ingresso-uscita delle RNA binarie sulla logica proposizionale e sugli insiemi di credenze. La metodologia procede attraverso i seguenti passaggi:

1. Prerequisiti Formali: Lo studio utilizza un linguaggio proposizionale $\mathcal{L}$ e modella la conoscenza delle RNA come insiemi di credenze (teorie chiuse per conseguenza logica). Il processo di addestramento è visto come una traiettoria di insiemi di credenze $K_1, \dots, K_n$, dove ogni insieme rappresenta la funzione booleana codificata dalla rete in una specifica fase di addestramento.
2. Metriche di Distanza e Transizioni Graduali: Il lavoro riprende le metriche di distanza tra insiemi di credenze (Tipo-A e Tipo-B). Introduce una nuova condizione strutturale, (SD), che postula che l'insieme delle discrepanze (distanza di Tipo-B) tra un insieme di credenze precedente e l'obiettivo finale debba essere un soprainsieme delle discrepanze tra qualsiasi insieme di credenze intermedio e l'obiettivo. Questa condizione cattura una convergenza gerarchica, basata sull'inclusione, verso lo stato appreso finale.
3. Metodo di Dalal per il Gradualismo: Gli autori dimostrano che il metodo di cambiamento di credenze di Dalal, che ordina i mondi possibili basandosi sulla distanza di Hamming, supporta naturalmente la costruzione di sequenze graduali e ben ordinate di insiemi di credenze intermedi.
4. Operatori Compatibili con DP: Il cambiamento metodologico fondamentale consiste nel sostituire le operazioni full-meet con la revisione lessicografica e la contrazione moderata. Questi operatori soddisfano i postulati Darwiche-Pearl (DP1–DP4 per la revisione; DPC1–DPC4 per la contrazione), garantendo che l'ordinamento dei mondi possibili venga aggiornato in modo da preservare la razionalità attraverso molteplici iterazioni.
5. Modellizzazione Teorica: Gli autori dimostrano che se la traiettoria di addestramento di una RNA binaria soddisfa la condizione (SD), la transizione da qualsiasi insieme di credenze $K_i$ a $K_{i+1}$ può essere formalmente rappresentata come una sequenza di una revisione lessicografica seguita da una contrazione moderata: $K_{i+1} = (K_i * \phi_1^i) \cdot \phi_2^i$. Qui, $\phi_1^i$ e $\phi_2^i$ sono frasi proposizionali derivate dai dati di addestramento che agiscono come surrogati epistemici per gli aggiornamenti dei parametri.

Contributi Chiave

• Il Metodo di Dalal come Base per il Gradualismo: Il lavoro stabilisce che l'approccio basato sulla distanza di Dalal fornisce una fondazione naturale per la costruzione di sequenze strutturate di stati di credenza intermedi, offrendo un modello di apprendimento più plausibile dal punto di vista cognitivo rispetto ai cambiamenti di stato bruschi.
• Perfezionamento della Modellazione delle Dinamiche delle RNA: Gli autori dimostrano che le dinamiche di addestramento delle RNA binarie sono modellate più efficacemente utilizzando la revisione lessicografica e la contrazione moderata piuttosto che le operazioni full-meet. Questo affronta la natura "amnesica" e eccessivamente distruttiva del cambiamento full-meet.
• Compatibilità con il Cambiamento Iterato di Credenze: Lo studio dimostra che l'addestramento delle RNA binarie è compatibile con il quadro Darwiche-Pearl. Mostra che, sotto l'assunzione strutturale della condizione (SD), la traiettoria di apprendimento può essere completamente catturata da operatori conformi al DP.
• Interpretazione Simbolica dei Segnali di Addestramento: Il lavoro fornisce un meccanismo formale per interpretare gli aggiornamenti di addestramento come operazioni logiche. Costruisce specifiche frasi proposizionali ($\phi_1, \phi_2$) che corrispondono ai passaggi di revisione e contrazione necessari per passare da uno stato della rete al successivo, traducendo efficacemente gli aggiornamenti basati sul gradiente in cambiamenti di credenza simbolici.

Risultati

• Dimostrazione Teorica (Teorema 25): Il risultato centrale è un teorema che afferma che per qualsiasi sequenza di insiemi di credenze generata da un processo di addestramento di una RNA binaria a uscita singola che soddisfa la condizione (SD), esistono una funzione di revisione DP e una funzione di contrazione DP, insieme a specifiche frasi di ingresso, che riproducono esattamente la sequenza di transizioni di credenze.
• Illustrazione Empirica: Il lavoro fornisce due esempi illustrativi:
  1. Una RNA binaria che apprende l'operazione logica "almeno due" su 3 ingressi. La traiettoria di addestramento ha mostrato un aumento monotono dell'accuratezza e una relazione di sottoinsieme stretto nelle distanze di Tipo-B tra insiemi di credenze successivi e l'obiettivo finale, soddisfacendo la condizione (SD).
  2. Una RNA binaria addestrata su un sottoinsieme del dataset MNIST (distinguendo le cifre 0 e 1). L'analisi sperimentale ha confermato che gli insiemi di credenze associati alle uscite successive si sono evoluti in conformità con la condizione (SD), con le discrepanze che si riducevano in modo annidato.
• Incompatibilità del Full-Meet: Il lavoro dimostra formalmente (Proposizione 17) che il cambiamento di credenze full-meet viola i postulati DP, in particolare (DP2), confermando la necessità dello spostamento proposto verso operatori lessicografici e moderati.

Significato
Il lavoro afferma di rafforzare le fondamenta teoriche del ragionamento simbolico all'interno dell'apprendimento automatico. Passando dalle operazioni full-meet a operatori conformi al DP, lo studio offre un quadro più robusto e principiato per comprendere le dinamiche delle RNA binarie. Suggerisce che la scelta della politica di cambiamento di credenze non è meramente una questione di razionalità logica, ma influisce anche sulle proprietà di apprendibilità e convergenza del sistema. Il lavoro colma il divario tra l'IA neuro-simbolica e la logica epistemica dinamica, proponendo che l'addestramento delle reti neurali possa essere analizzato rigorosamente come una sequenza di cambiamenti iterati di credenze che aderiscono a postulati di razionalità consolidati. Questa prospettiva apre vie per un'analisi simbolica fine delle dinamiche di apprendimento, trattando i dati di addestramento come ingressi logici che guidano revisioni specifiche e strutturate dello stato di conoscenza interno della rete.