Sintesi Tecnica: Dal Modellazione Ibrida Meccanicistica–Data-Driven verso l'IA Neuro-Simbolica

1. Definizione del Problema

I modelli ibridi meccanicistici–data-driven (noti anche come modelli semi-parametrici o grey-box) sono sempre più utilizzati nella progettazione di processi e nel machine learning scientifico per affrontare sistemi che sono solo parzialmente compresi. Questi modelli integrano componenti fisse basate sui primi principi (ad es., bilanci di massa, stechiometria) mentre apprendono le componenti sconosciute (ad es., chiusure costitutive, tassi non osservati) dai dati.

Nonostante la loro utilità, le attuali pratiche di modellazione ibrida affrontano due limitazioni primarie:

1. Mancanza di un'Interfaccia Semantica Condivisa: I design sono tipicamente specificati tramite architetture e funzioni di perdita (loss) di addestramento. Questo focus architettonico ostacola il confronto e la verifica tra diversi domini perché non esiste un account semantico unificato di ciò che un modello ibrido rappresenta come oggetto di inferenza.
2. Rappresentazione Inadeguata dell'Incertezza: Spesso non esiste un metodo rigoroso per rappresentare o propagare l'incertezza epistemica specificamente all'interno della parte meccanicistica del modello. Le metriche standard come l'accuratezza di test rivelano solo i cambiamenti di performance post hoc, fallendo nel quantificare l'incertezza durante l'estrapolazione o i cambiamenti strutturali della distribuzione prima del deployment.

Il saggio sostiene che questi problemi derivino da una mancanza di separazione formale tra la "logica" (vincoli strutturali) e la "credenza" (plausibilità appresa) all'interno dei modelli ibridi.

2. Metodologia: Traduzione Hybrid-to-NeSy (H2N)

Gli autori propongono una procedura di traduzione sistematica, Hybrid-to-NeSy (H2N), che ricostruisce i modelli ibridi meccanicistici–data-driven come istanze di IA Neuro-Simbolica (NeSy), aderendo specificamente alla definizione generale di De Smet e De Raedt.

2.1 Il Framework NeSy

Un modello NeSy è definito da una tupla $(L, \mu, \Omega, b_\theta)$:

• $L$: Un linguaggio con semantica $\mu$ su uno spazio di interpretazione $\Omega$.
• $b_\theta$: Una funzione di peso della credenza (belief weight function).
• Funzionale di Inferenza: Definito come $F_{\theta,x}(\phi) = \int_{\Omega'} l(\phi, \omega) b_{\theta,x}(\omega) dm(\omega)$, che combina una funzione logica $l$ (valutazione delle query) con la credenza $b_\theta$.

2.2 I Principi di Traduzione

La procedura H2N mappa i design ibridi nella tupla NeSy basandosi su cinque principi:

1. Struttura Meccanicistica come Linguaggio ($L$): Le equazioni del nucleo strutturale (ad es., leggi di bilancio) e i pattern di composizione definiscono il linguaggio e la sua semantica.
2. Semantica Operativa ($\mu, l$): La funzione logica $l$ implementa l'ammissibilità o il punteggio (scoring), determinando cosa è strutturalmente valido.
3. Moduli Appresi come Credenza ($b_\theta$): Le componenti apprese inducono una funzione di credenza sulle quantità sconosciute (parametri, chiusure, stati latenti). I learner deterministici corrispondono a credenze Dirac; i learner stocastici corrispondono a distribuzioni non degenerate.
4. Domini di Validità come Logica: I vincoli rigidi e i domini di validità sono posti sul lato logico (limitando il dominio di integrazione $\Omega'$ o tramite $l$) piuttosto che sul lato della credenza. Ciò garantisce l'ammissibilità indipendente dai dati, poiché le leggi fisiche non dovrebbero dipendere dalla dimensione del campione.
5. Fattorizzazione Architetturale: I pattern seriali, paralleli e di mixture-of-experts sono specchiati dalle fattorizzazioni di $l$ e/o $b_{\theta,x}$.

Questa traduzione produce un funzionale di inferenza esplicito per ogni design ibrido, separando l'ammissibilità strutturale (lato logico) dalla plausibilità appresa (lato credenza).

3. Contributi Chiave

Il saggio presenta quattro contributi specifici:

1. Procedura di Traduzione Principata: Un metodo per mappare qualsiasi descrizione di un modello ibrido in una tupla NeSy $(L, \mu, \Omega, b_\theta)$ con un funzionale di inferenza esplicito.
2. Tabella di Mappatura: Un riferimento compatto (Tabella 1) che mappa i pattern canonici di design ibrido (ad es., chiusura seriale, residuo parallelo, mixture-of-experts) ai loro elementi NeSy e al loro impatto specifico sul funzionale di inferenza.
3. Protocollo di Valutazione con Due Metriche: La derivazione di due metriche basate sulla decomposizione logica-credenza:
   • Tasso di Violazione Strutturale (SVR): Misura la massa della credenza che ricade su interpretazioni che violano i vincoli strutturali. Risiede sul lato logico ed è dipendente dalla tolleranza.
   • Dispersione della Credenza (BD): Misura la concentrazione della credenza appresa (incertezza epistemica). Risiede sul lato della credenza, è indipendente dalla tolleranza e viene zero per le credenze Dirac.
4. Istanziazione Empirica: Applicazione di H2N a un modello ibrido strutturato per la classificazione binaria sotto rumore di etichetta (label noise), dimostrando come le metriche quantifichino l'incertezza che l'accuratezza di test da sola non può rivelare.

4. Risultati: Caso di Studio sulla Classificazione Binaria con Rumore

Gli autori hanno istanziato H2N su reti booleane strutturate dove la parte meccanicistica definisce i raggruppamenti di feature e la parte appresa identifica le tabelle di verità dei moduli (utilizzando la strategia NoiseCut).

4.1 Quantificare l'Incertezza nella Parte Meccanicistica

• Correlazione con l'Accuratezza: All'aumentare del rumore delle etichette, l'accuratezza di test è diminuita mentre la Dispersione della Credenza (BD) è aumentata. BD e l'accuratezza di test erano fortemente anti-correlati ($\rho = -0.94$).
• Variabilità Predittiva: Fondamentalmente, lo studio ha scoperto che la BD predice la variabilità dell'accuratezza di test. I modelli con BD più elevata esibivano una maggiore deviazione standard seed-to-seed nell'accuratezza di test.
• Stima A Priori: Poiché la BD è una funzione del conteggio delle etichette di addestramento e della struttura meccanicistica, essa fornisce una stima a priori dell'incertezza del modello al momento del deployment, mentre l'accuratezza di test può riportare questo dato solo dopo aver raccolto dati di test etichettati.

4.2 Quantificare l'Incertezza Durante l'Estrapolazione

• Decomposizione: Sotto spostamenti della distribuzione strutturale (trattenendo specifiche righe del secondo livello), la BD si decompone esattamente in $BD = BD_{visto} + BD_{non\_visto}$.
• Segnale di Allerta Precoce: $BD_{non\_visto}$ è computabile dalla copertura delle righe da sola, prima che venga osservato qualsiasi campione fuori distribuzione (OOD). Negli esperimenti, all'aumentare delle righe trattenute, la $BD_{non\_visto}$ aumentava monotonicamente, mentre l'accuratezza in-distribution rimaneva alta e l'accuratezza OOD crollava.
• Significatività: Ciò dimostra che H2N può quantificare lo stato epistemico di un modello riguardo alla copertura e al rischio di estrapolazione prima che si verifichi il fallimento, una capacità assente nelle descrizioni tradizionali di architettura e loss.

5. Significatività e Claim

Il saggio sostiene che la traduzione H2N fornisca un interfaccia semantica condivisa per la modellazione ibrida, permettendo il confronto e la verifica sistematica tra i domini.

• Decoupling di Logica e Credenza: Separando rigorosamente l'ammissibilità strutturale (logica) dalla plausibilità appresa (credenza), il framework chiarisce quali assunzioni siano vincoli rigidi e quali siano dipendenti dai dati. Ciò consente interventi mirati: modificare $l$ per i cambiamenti di regime rispetto alla modifica di $b_\theta$ per l'incertezza.
• Nuove Capacità Diagnostiche: Le metriche SVR e BD offrono strumenti diagnostici che non sono definiti sotto le descrizioni architettoniche tradizionali. Specificamente, la BD funge da proxy per l'incertezza epistemica nella componente meccanicistica, consentendo il rilevamento di spostamenti della distribuzione strutturale e rischi di estrapolazione prima del deployment.
• Beneficio Bidirezionale: Il lavoro unisce due campi. Fornisce ai modellatori ibridi un'interfaccia semantica rigorosa e fornisce ai ricercatori di NeSy un catalogo pre-elaborato di design di incertezza strutturata (ad es., inviluppi di validità, controlli residui) derivati dalle pratiche ingegneristiche.

Gli autori rimangono modesti riguardo ai limiti, notando che la traduzione non è unica (sebbene i principi P1–P5 fissino un posizionamento canonico) e che le diagnosi per spazi grandi o continui dipendono dall'inferenza approssimata, ereditandone gli errori di calibrazione.