Riepilogo Tecnico: DeepSWIP – Controfatuali Quotient-WMC per Programmi Logici Probabilistici Neurali

1. Definizione del Probleamento

I sistemi neurosimbolici come DeepProbLog combinano efficacemente la percezione neurale con la logica probabilistica per gestire l'incertezza percettiva. Tuttavia, l'inferenza standard in questi sistemi è associativa (calcola $P(Y|X=x)$) piuttosto che causale. Non possono rispondere nativamente a query controfatuali (ad esempio, "Cosa sarebbe successo se $X$ fosse stato $x$, data l'evidenza $E=e$?") che richiedono una semantica causale per le intervezioni ($do(X=x)$).

Gli approcci esistenti ai controfatuali nella Programmazione Logica Probabilistica (PLP) si basano spesso su Twin Networks, che duplicano la struttura del programma in copie fattuali e controfatuali condividendo le scelte esogene. Sebbene semanticamente comodo, questa duplicazione è computazionalmente costosa per i programmi relazionali e scomoda per i predicati neurali. Nello specifico, non è chiaro se i predicati neurali (ad esempio, reti convoluzionali) debbano essere valutati due volte (una per ogni mondo) o condivisi come incertezza esogena. Inoltre, la duplicazione oscura la semantica a mondo singolo delle intervezioni, creando assunzioni di indipendenza non necessarie.

2. Metodologia: DeepSWIP

Il documento introduce DeepSWIP (Deep Single World Intervention Programs), un framework che estende la metodologia SWIP (Habib et al., 2026) a DeepProbLog. L'idea centrale è quella di separare la percezione neurale dall'inferenza controfatuale simbolica trattando i predicati neurali come scelte probabilistiche fisse prima di applicare le trasformazioni causali.

2.1 Materializzazione Neurale

Per un insieme fissato di parametri neurali $\eta$ e contesti di input $c$, un predicato neurale $nn(m, x, y)$ viene valutato una sola volta. La sua distribuzione di output sugli valori simbolici viene "materializzata" in ordinari fatti probabilistici (disgiunzioni annotate) all'interno del programma logico.

• Trasformazione: La rete neurale è congelata e i suoi output di probabilità $p_{k,j}$ sostituiscono il predicato neurale con scelte categoriche: $p_{k,1} :: a_k(y_{k,1}); \dots; p_{k,r_k} :: a_k(y_{k,r_k})$.
• Risultato: Il programma DeepProbLog viene convertito in un programma ProbLog ordinario ($P_{mat}$) dove tutta l'incertezza è rappresentata da fatti probabilistici indipendenti.

2.2 Chirurgia a Mondo Singolo per l'Intervento (Single-World Intervention Surgery)

Una volta materializzato, il programma subisce la trasformazione SWIP (Single World Intervention Program) per gestire l'intervezione $do(X=x)$:

1. Eliminazione: Tutti i regole che definiscono l'atomo intervenuto $X$ vengono rimossi.
2. Reindirizzamento: Le regole a valle che precedentemente dipendevano da $X$ vengono riscritte affinché dipendano da un atomo fisso $X_{fix}(x)$.
3. Asserzione: Viene aggiunto un fatto deterministico $X_{fix}(x)$.
   Questo processo crea un singolo programma trasformato $\Delta_x$ che rappresenta il mondo controfatuale senza duplicare la struttura.

2.3 Semantica Quotient-WMC

Le probabilità controfatuali sono calcolate tramite Weighted Model Counting (WMC) su un singolo programma trasformato. Il condizionale controfatuale è definito come un quoziente di due polinomi WMC:
$$Q(p) = P(Y_x = y \mid E = e) = \frac{\Phi^x_{Y,E}(p)}{\Phi^x_E(p)}$$
Dove:

• $\Phi^x_{Y,E}(p) = \text{WMC}(\Delta_x \land Y=y \land E=e; p)$
• $\Phi^x_E(p) = \text{WMC}(\Delta_x \land E=e; p)$
• $p$ rappresenta le probabilità neurali materializzate.

Questa rappresentazione algebrica unifica il compito di inferenza, permettendo il calcolo esatto rispetto al modello funzionale causale (FCM) materializzato appreso.

3. Contributi Principali

Il documento presenta quattro contributi primari:

1. Materializzazione Neurale: Un metodo per convertire programmi DeepProbLog a contesto fisso in programmi ProbLog ordinari, abilitando le standard trasformazioni di programmi causali.
2. Teorema di Correttezza: Una prova che DeepSWIP è esatto rispetto al FCM materializzato appreso, a condizione che il programma abbia modelli supportati unici.
3. Analisi Quotient-WMC: Un'analisi teorica che rivela che:
   • Intervention Cleaning: Le probabilità neurali associate ai meccanismi intervenuti hanno derivata nulla nella query controfatuale (vengono rimosse chirurgicamente).
   • Sensibilità alla Calibrazione: L'errore nei controfatuali dipende dalla calibrazione delle probabilità neurali, non solo dall'accuratezza della classificazione.
   • Instabilità dell'Evidenza Rara: La sensibilità della stima controfatuale cresce inversamente con la probabilità dell'evidenza ($1/P(E=e)$), portando a potenziali instabilità con evidenze rare.
4. Validazione Empirica: Esperimenti su MPI3D e simulazioni del traffico SUMO che dimostrano correttezza, velocità e proprietà statistiche del framework.

4. Risultati Sperimentali

4.1 Controfattuali Visivi MPI3D

• Configurazione: Un compito di ragionamento visivo che coinvolge predicati neurali per forma, dimensione e colore, combinati con regole simboliche di stabilità fisica.
• Correttezza: DeepSWIP è concordato con una costruzione DeepTwin nel 100% dei 12.000 query, validando la trasformazione.
• Efficienza: DeepSWIP ha ottenuto un accelerazione di 2.14× (3.57 ms/query vs 7.65 ms/query) evitando la duplicazione endogena richiesta dalle Twin Networks.
• Propagazione dell'Errore: L'errore quadratico medio (RMSE) era zero per le query determinate esclusivamente dall'intervezione (dimostrando l'intervento di pulizia) e piccolo per le query dipendenti da predicati non intervenuti.
• Pruning: La trasformazione SWIP ha eliminato efficacementmente le clausole irrilevanti (ad esempio, riducendo il numero di istruzioni da 18 a 5 per specifiche query).

4.2 Esperimenti sul Traffico SUMO HOV

• Configurazione: Una simulazione del traffico che testa la sensibilità alla calibrazione e la correzione tramite Double Machine Learning (DML).
• Risultati:
  • All'aumentare del rumore dei sensori, la calibrazione neurale degradava, portando a un bias significativo nelle stime plug-in naive dei controfatuali.
  • AIPW/DML: Uno stimatore Augmented Inverse Propensity Weighted (AIPW), utilizzando una politica randomizzata nota, ha rimosso con successo la maggior parte del bias di primo ordine per gli estimandi della media della popolazione e dell'Average Treatment Effect (ATE), anche con calibrazione neurale degradata.
  • Ciò evidenzia che, sebbene l'inferenza simbolica sia esatta rispetto alle probabilità materializzate, la stima statistica di tali probabilità rimane una fonte di errore.

5. Significato e Rivendicazioni

Il documento posiziona DeepSWIP non come un metodo universale di scoperta causale, ma come uno strato di inferenza controfatuale preciso per programmi neurosimbolici con strutture causali esplicite e meccanismi probabilistici appresi.

• Intuizione Teorica: La visione Quotient-WMC fornisce una spiegazione unificata del perché l'intervento di pulizia funzioni, perché la calibrazione sia più critica dell'accuratezza per i controfatuali e perché l'evidenza rara causi instabilità.
• Impatto Pratico: Riducendo l'inferenza controfatuale a un problema WMC a mondo singolo, DeepSWIP offre un'alternativa computazionalmente efficiente alle Twin Networks, particolarmente per programmi con predicati neurali.
• Limitazioni: Gli autori notano esplicitamente che l'esattezza di DeepSWIP è relativa all'FCM materializzato appreso. Se i predicati neurali sono mal calibrati, il controfatuale simbolico sarà "esattamente sbagliato" rispetto al vero processo di generazione dei dati. Il framework separa l'inferenza simbolica esatta dall'errore statistico della stima delle probabilità neurali.

Il lavoro conclude che DeepSWIP riesce a colmare il divario tra percezione neurale e ragionamento causale a mondo singolo, offrendo una base robusta per l'analisi controfatuale nel campo dell'IA neurosimbolica.