Riepilogo Tecnico: Quando le Violazioni di Regola Sono Rade: Addestramento Chimera per il Rilevamento di Anomalie Logiche

Enunciato del Problema

Il documento affronta il Rilevamento di Anomalie Logiche, un contesto in cui le anomalie sono definite non semplicemente come outlier statistici o campioni fuori distribuzione (OOD), ma come input che violano vincoli semantici noti. Tali vincoli includono co-occorrenze strutturate di oggetti, prerequisiti di azioni e regolarità temporali o relazionali.

Una sfida critica in questo dominio è che le violazioni di regole nel mondo reale sono spesso rare o del tutto assenti durante l'addestramento. La classificazione binaria supervisionata standard richiede l'accesso a campioni anomali, che per definizione sono scarsi. Inoltre, i metodi esistenti affrontano un compromesso: le pipeline puramente simboliche si affidano a output di percezione fragili, mentre le pipeline puramente neurali spesso re-imparano implicitamente i vincoli, intrecciandoli con indizi visivi spurii e fallendo nel fornire attribuzioni interpretabili a livello di regola. Gli autori mirano a sviluppare un metodo in grado di imparare a rilevare violazioni di regole utilizzando solo dati di addestramento coerenti con le regole (cioè dati "normali"), senza richiedere esempi espliciti di anomalie.

Metodologia

Il framework proposto, denominato Valutatore Neurale, è un approccio neuro-simbolico che compila i vincoli logici in Grafi Aciclici Diretti (DAG) espliciti e impara operatori neurali riutilizzabili per valutarli.

1. Architettura e Pipeline di Addestramento

Il metodo opera in quattro fasi (illustrate nella Figura 1):

• Fase 1 (Banca dei Concetti Foglia): Un codificatore condiviso $E_\phi$ estrae caratteristiche $z$ dalle immagini di input. Un insieme di "teste" foglia prevede le probabilità per un insieme predefinito di concetti semantici (ad esempio, presenza di oggetti, relazioni).
• Fase 2 (Apprendimento del Gate di Sottobusto): Ogni regola logica è rappresentata come un DAG in cui le foglie sono ID di concetti e i nodi interni sono operatori logici (AND, OR, IMPLIES, IFF). Il sistema impara un gate di sottobusto $g_{\theta_v}$ per ogni nodo interno. Questi gate mappano le caratteristiche dei figli e i flag di negazione a livello di arco su una rappresentazione delle caratteristiche del genitore e una probabilità di soddisfazione della regola.
• Fase 3 (Addestramento per Livelli): L'addestramento procede dal basso verso l'alto per profondità. I gate a profondità inferiore vengono congelati, e i gate alla profondità corrente vengono addestrati utilizzando cross-entropia binaria nodo per nodo. Crucialmente, i target ground-truth per i nodi interni sono derivati tramite propagazione Booleana esatta dalle etichette di concetto rigide, fornendo supervisione intermedia per ogni nodo nel grafo, non solo per la radice.
• Fase 4 (Inferenza): Per una nuova immagine, i gate congelati propagano le caratteristiche lungo il DAG per calcolare la probabilità di soddisfazione della radice. Il punteggio di anomalia è definito come $1 - \hat{t}_{root}$.

2. Addestramento Negativo Chimera

L'innovazione centrale che affronta la scarsità di violazioni reali è l'Addestramento Chimera.

• Il Problema: L'addestramento su dati normali della stessa immagine spesso porta a "apprendimento tramite scorciatoie", dove un gate impara a riconoscere un modello visivo globale di una regola piuttosto che comporre l'operatore logico. Inoltre, controesempi informativi (ad esempio, $A=1, B=0$ per un'implicazione $A \Rightarrow B$) possono mancare dalla distribuzione di addestramento.
• La Soluzione: Invece di mescolare pixel grezzi (come Mixup), il metodo costruisce operandi controfattuali a livello di caratteristiche. Per un nodo binario con figli $\ell$ e $r$, l'input di addestramento per il campione $i$ è formato concatenando la caratteristica del figlio sinistro dal campione $i$ e la caratteristica del figlio destro da un campione diverso $\pi(i)$ (dove $\pi$ è una permutazione).
• Generazione del Target: L'etichetta target per questo input "chimera" è calcolata applicando l'operatore logico alle etichette di verità rigide dei rispettivi campioni ($t_\ell(y_i)$ e $t_r(y_{\pi(i)})$).
• Effetto: Questo costringe i gate a comportarsi come operatori composizionali, imparando la relazione logica tra le caratteristiche piuttosto che memorizzare correlazioni visive. Fornisce controesempi logici supervisionati anche quando specifici esiti di regole sono assenti nei dati naturali.

3. Caching Consapevole della Linea Genealogica

Per scalare su molte regole, il sistema impiega un meccanismo di caching. Una chiave di cache viene generata sulla base della struttura del sottobusto simbolico, delle negazioni degli archi, dell'architettura del gate, della dimensione delle caratteristiche e di un'impronta digitale del codificatore a monte. Ciò consente di riutilizzare in sicurezza i sottobusti appresi su regole ed esecuzioni diverse, a condizione che la rappresentazione delle caratteristiche e la struttura logica corrispondano.

Contributi Chiave

1. Gate di Sottobusto: Un meccanismo di apprendimento dal basso verso l'alto e locale al nodo che compone caratteristiche condizionate ai concetti in probabilità di verità sotto supervisione Booleana rigida, consentendo il riutilizzo di operatori logici appresi.
2. Addestramento Negativo Chimera: Una strategia di addestramento innovativa che impone la composizionalità a livello di operatore e previene l'apprendimento tramite scorciatoie mescolando operandi di sottobusto da campioni diversi. Ciò consente al modello di operare efficacemente in scenari in cui i controesempi reali (violazioni) sono completamente assenti dai dati di addestramento.
3. Validazione Empirica: Dimostrazione dell'efficacia del metodo su benchmark strutturati di immagini/video (CLEVRER, OpenImages, VidOR) e dati reali, mostrando miglioramenti significativi rispetto a baseline di eventi indipendenti e addestramento semantico sulla stessa immagine.

Risultati

Gli autori hanno valutato il Valutatore Neurale contro tre baseline:

• INDEPPROB: Un valutatore probabilistico di eventi indipendenti (baseline simbolica).
• SEM (Perdita Semantica): Una baseline di addestramento semantico sulla stessa immagine senza mescolanza chimera.
• Mono-N/Mono-C: Baseline monolitiche solo per la radice (addestrate solo su dati normali o con dati chimera).

Risultati Chiave:

• Miglioramenti delle Prestazioni: Il Valutatore Neurale ha costantemente superato la baseline di eventi indipendenti nell'AUROC di anomalia a livello di regola. Sono stati osservati guadagni notevoli su CLEVRER (+0.083), OpenImages (+0.078) e VidOR (+0.234).
• Necessità dell'Addestramento Chimera: La baseline SEM (solo addestramento sulla stessa immagine) è collassata su dataset complessi, producendo un AUROC $\approx 0.5$ (indovinare a caso). Ciò conferma che i dati normali ordinari mancano di una copertura sufficiente di configurazioni di verità violanti informative per imparare un segnale di anomalia non banale senza supervisione controfattuale esplicita.
• Regole Composizionali: Il metodo ha mostrato una forza particolare su regole composizionali e relazionali (ad esempio, catene di implicazioni in CLEVRER, regole oggetto-relazione in VidOR), dove le ipotesi probabilistiche fisse (come l'indipendenza degli eventi) falliscono.
• Insight dalle Ablazioni: Sebbene la baseline monolitica addestrata con chimera abbia prestazioni simili al modello modulare completo, l'approccio modulare fornisce una decomposizione più interpretabile e riutilizzabile della valutazione delle regole senza perdite significative di prestazioni.

Significato e Affermazioni

Il documento afferma che molte anomalie pratiche sono meglio caratterizzate come violazioni di vincoli di dominio piuttosto che come semplice rarità nello spazio dei pixel. Compilando i vincoli in DAG espliciti e addestrando con supervisione basata su chimera, il rilevatore fornisce non solo un punteggio di anomalia scalare ma anche attribuzioni strutturate a livello di regola che spiegano quali vincoli sono stati violati.

Gli autori sottolineano che questo approccio consente il rilevamento di violazioni di regole anche quando il dataset di addestramento contiene solo campioni coerenti con le regole. Questa è una caratteristica distintiva rispetto alla classificazione binaria completamente supervisionata, che richiede l'accesso a rari campioni anomali. Il metodo colma il divario tra ragionamento simbolico (vincoli espliciti) e percezione neurale (estrazione robusta di caratteristiche), offrendo una soluzione scalabile per il rilevamento di anomalie logiche in scenari in cui le anomalie ground-truth non sono disponibili.

Il documento rimane modesto riguardo ai suoi limiti, notando che il metodo eredita errori dalla banca dei concetti foglia, bias dalle annotazioni del dataset e potenziali correlazioni spurie nelle regole estratte. Afferma che alti punteggi di anomalia indicano incoerenza semantica rispetto all'insieme di regole selezionato, piuttosto che un giudizio di sicurezza di scopo generale.