Sintesi Tecnica: KG-SoftMAP

Definizione del Problema

Apprendere la struttura delle Reti Bayesiane (BN) dai dati è un problema fondamentale ma NP-hard. Questo compito diventa particolarmente intrattabile quando i dati sono sparsi e discreti, uno scenario comune in domini come le valutazioni educative, i registri clinici e le reti di sensori, dove ogni istanza registra solo un piccolo sottoinsieme di variabili (tassi di osservazione spesso inferiori al 5%). In tale condizione di scarsità, la maggior parte delle coppie di variabili manca di osservazioni congiunte sufficienti per una scoring affidabile o per test di indipendenza condizionale. Di conseguenza, i metodi classici e moderni basati solo sui dati (sia basati su vincoli che basati su punteggio) falliscono nel recuperare una struttura diretta significativa, restituendo spesso grafi quasi vuoti o scheletri errati.

Mentre gli approcci puramente guidati dai dati faticano, esiste spesso una conoscenza imperfetta delle relazioni tra le variabili al di fuori dei dati stessi. Questa conoscenza può essere espressa come un Grafo di Conoscenza (KG) pesato e diretto. Tuttavia, i metodi esistenti per iniettare tale conoscenza tendono a posizionarsi agli estremi: o utilizzano vincoli rigidi (fissando o proibendo gli archi), che sono fragili quando la conoscenza è incerta, o sollecitano i Large Language Models (LLM) per generare direttamente un grafo, scartando di fatto i dati. Manca un framework generale per trattare un KG pesato come un prior strutturale morbido (soft) e sovrascrivibile dai dati che possa guidare l'apprendimento in regimi di scarsità senza forzare archi errati.

Metodologia: KG-SoftMAP

Gli autori propongono KG-SoftMAP, un approccio in due fasi che apprende le strutture delle BN massimizzando un obiettivo di Massima A Posteriori (MAP). Il metodo è progettato per essere agnostico rispetto alla fonte del KG (estratto da esperti o da LLM).

1. Costruzione del Grafo di Conoscenza (Fase 1)

Se non è disponibile un KG curato, gli autori forniscono una pipeline opzionale che utilizza un LLM per estrarre un KG pesato da un testo di riferimento del dominio.

• Schema: L'LLM estrae nodi di tipo Concept e relazioni PRECEDES (che formano gli archi del KG) con pesi di confidenza $w_{uv} \in [0, 1]$.
• Deviazioni a livello di istanza: Se sono disponibili testi a livello di istanza (ad esempio, risposte degli studenti), l'LLM identifica anche errori specifici del concetto con pesi di severità. Questi vengono utilizzati solo durante il pre-processing dei dati per raffinare la matrice di osservazione, non come parte del prior strutturale.
• Output: Un grafo diretto pesato $K = \{(u, v, w_{uv})\}$.

2. Apprendimento della Struttura (Fase 2)

L'algoritmo centrale apprende un Grafo Aciclico Diretto (DAG) $G$ massimizzando il log-posterior:
$$G^* = \arg \max_G \left[ \log P(D | G) + \log P(G | K) \right]$$

• Verosimiglianza dei dati ($\log P(D | G)$): Gli autori utilizzano lo score BDeu (Bayesian Dirichlet equivalent uniform). Per gestire la scarsità, impiegano lo scoring a casi completi (complete-case scoring), dove solo le righe in cui un nodo e tutti i suoi genitori sono osservati contribuiscono ai conteggi. Ciò evita il bias di imputazione. Un'estensione EM opzionale è disponibile per scenari Missing At Random (MAR), ma è computazionalmente costosa e non è il default.
• Prior della struttura del KG ($\log P(G | K)$): Gli autori introducono un prior morbido fattorizzato per archi. Il log-odds dell'inclusione di un arco $(u \to v)$ è una funzione lineare del peso di confidenza del KG $w_{uv}$:
  $$\text{logit}(\theta_{uv}) = \beta_0 + \beta_1 \cdot w_{uv}$$
  Qui, $\theta_{uv}$ è la probabilità a priori di inclusione dell'arco.
  • Gli archi assenti dal KG ($w_{uv}=0$) hanno una bassa probabilità di inclusione di base $\theta_0$ (che funge da penalità di sparsità).
  • Gli archi presenti nel KG con alta confidenza ($w_{uv}=1$) hanno un'alta probabilità di inclusione $\theta_{max}$.
  • Sovrascrivibile dai dati: Il prior è "morbido". Se l'evidenza dei dati supporta fortemente un arco non presente nel KG, questo può essere aggiunto; viceversa, se i dati penalizzano fortemente un arco del KG, esso può essere rimosso.
• Procedura di ricerca: L'ottimizzazione è risolta tramite una ascesa coordinata greedy (hill-climbing) con tre operazioni: aggiunta di un arco, scambio di un arco (sostituendo un genitore) ed eliminazione di un arco. La ricerca impone l'aciclicità e un vincolo di in-degree massimo.

Contributi Chiave

1. Prior KG Morbido e Sovrascrivibile dai Dati: Il paper inquadra un KG pesato come un prior strutturale fattorizzato per archi dove i log-odds di inclusione sono lineari nella confidenza del KG. Ciò consente al metodo di sfruttare una conoscenza di dominio imperfetta pur rimanendo robusto agli errori, poiché i dati possono sovrascrivere il prior.
2. Recupero Controllato dell'Evidenza: Su benchmark sintetici con DAG di verità fondamentale (ground-truth), KG-SoftMAP dimostra la capacità di recuperare una struttura diretta parziale anche con estrema scarsità ($\rho=0.05$), dove i baseline basati solo sui dati (inclusi metodi differenziabili moderni come GOLEM, DAGMA e SDCD, e ricerche di permutazione discrete come GRaSP) recuperano una struttura diretta quasi nulla. Le prestazioni migliorano sostanzialmente all'aumentare dei tassi di osservazione ($\rho \ge 0.2$).
3. Robustezza alla Qualità del KG: Gli studi di ablazione mostrano che le prestazioni degradano gradualmente con la riduzione della qualità del KG (tramite corruzione o rumore). Fondamentalmente, quando viene fornito un KG casuale a "segnale zero" (che non contiene veri archi), il metodo non recupera alcuna struttura (Directed-F1 $\approx 0.00$), confermando che i guadagni sono guidati dal segnale strutturale nel KG e non dal solo algoritmo di ricerca.
4. Valutazione del Deployment su Dati Reali: Gli autori valutano il metodo su tre dataset educativi reali e sparsi (SAF, ASSISTments, Eedi). Poiché questi mancano di ground-truth per i DAG, la valutazione si concentra su metriche di deployment: predizione, calibrazione e coerenza con il KG.
   • SAF (KG estratto da LLM): Il BN appreso fornisce un modello diagnostico calibrato e interpretabile con archi coerenti con il KG. Resta leggermente dietro la regressione logistica (LR) in termini di predizione (0.03 F1), ma offre la capacità di inferire da arbitrarie sottoinsiemi osservati e fornisce un grafo concettuale riutilizzabile.
   • ASSISTments (Nessun KG significativo): Quando istanziato con prior euristici (somiglianza di nomi, casualità), il BN performa scarsamente rispetto a LR, confermando che il metodo richiede un segnale strutturale significativo.
   • Eedi (Ontologia di Esperti): L'uso di un'ontologia di esperti indipendente come prior aumenta la quota di archi all'interno dello stesso argomento (coerenza strutturale), ma non migliora la predizione, evidenziando il compromesso tra coerenza strutturale e potere discriminativo.

Risultati

• Benchmark Sintetici: Al valore $\rho=0.2$, KG-SoftMAP raggiunge punteggi Directed-F1 compresi tra 0.46 e 0.96 attraverso varie dimensioni di rete, superando significativamente tutti i baseline basati solo sui dati (che rimangono sotto lo 0.44). Al valore $\rho=0.05$, recupera una struttura parziale (DF1 0.14–0.29) mentre i baseline falliscono.
• Ablazioni:
  • Prior vs. Ricerca: Il guadagno è attribuito principalmente al prior morbido. Anche gli apprenditori standard (come MMHC o BNLEARN) dotati dello stesso prior KG recuperano una struttura sostanziale, sebbene lo scoring consapevole della scarsità di KG-SoftMAP fornisca un margine aggiuntivo.
  • Corruzione: Il recupero degrada fluidamente con i tassi di corruzione del KG.
  • Hard vs. Soft: Sotto KG di alta qualità e dati sufficienti, un prior quasi rigido (hard) performa in modo comparabile al prior morbido. Il vantaggio del prior morbido risiede nella sicurezza quando la fedeltà del KG è incerta.
• Dati Reali: Il metodo produce un "modello diagnostico" che è ben calibrato e coerente con il KG. Tuttavia, per la pura predizione a livello di cella, i modelli discriminativi (come la Regressione Logistica) rimangono il baseline più forte, specialmente quando non esiste un KG significativo.

Significato e Claim

Il paper posiziona KG-SoftMAP come una soluzione per la estrema scarsità dove i dati da soli sono insufficienti per l'apprendimento della struttura. Il suo significato risiede in:

• Colmare il Divario: Occupa una posizione intermedia tra i vincoli rigidi fragili e la generazione di LLM priva di dati, trattando la conoscenza del dominio come un prior probabilistico che può essere sovrascritto dai dati.
• Definire lo Scopo: Gli autori sono modesti nelle loro affermazioni. Dichiarano esplicitamente che le affermazioni sul recupero strutturale sono limitate ai dati sintetici con ground truth. Per i dati reali, il metodo è presentato come uno strumento diagnostico che fornisce probabilità congiunte interpretabili e calibrate e strutture coerenti con il KG, piuttosto che un predittore superiore per gli esiti a livello di cella.
• Utilità Pratica: Il metodo è più prezioso quando esiste un KG significativo (anche se imperfetto). Se tale conoscenza non è disponibile, il paper conclude che i baseline discriminativi sono preferibili.

Il lavoro non pretende di risolvere la scoperta causale generale o di sostituire la predizione discriminativa; piuttosto, offre un framework robusto per apprendere modelli probabilistici interpretabili in regimi di scarsità di dati sfruttando efficacemente la conoscenza di dominio esterna e imperfetta.