🤖 machine learning

LAWFUL: Law-Aligned Witness for Faithful Use of Latents

Il documento introduce LAWFUL, un framework fondamentale che affronta le principali lacune di interpretabilità per verificare se le reti neurali non solo apprendano, ma utilizzino anche internamente leggi fisiche formali, dimostrato confermando l'uso da parte del transformer Mocap2Radar della legge della frequenza Doppler nonostante la sua assenza dai dati di addestramento.

Autori originali: Kevin Chen, Kenneth W. Parker, Anish Arora

Pubblicato 2026-08-03

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Kevin Chen, Kenneth W. Parker, Anish Arora

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di guardare un mago che tira fuori un coniglio da un cappello. Sai che il trucco funziona perché il coniglio appare, ma non sai come sia successo. Il mago ha davvero imparato un incantesimo segreto, o ha solo memorizzato un movimento specifico delle mani che per caso funziona con i conigli? Questa è la grande domanda che gli scienziati si pongono oggi riguardo all'intelligenza artificiale. Abbiamo costruito cervelli informatici (reti neurali) che sono incredibilmente bravi a prevedere come funziona il mondo fisico — come il modo in cui una palla rimbalza o come si propagano le onde sonore. Ma questi computer stanno davvero "imparando" le leggi della fisica, o stanno solo indovinando molto bene basandosi su schemi che hanno già visto prima?

Per capire questo, dobbiamo guardare due cose. Primo, c'è l'idea di una "legge", ovvero una regola ferrea che l'universo segue, come la gravità che tira sempre le cose verso il basso. Secondo, c'è l' "interpretabilità", ovvero l'arte di sbirciare dentro il cervello del computer per vedere cosa sta effettivamente pensando. Di solito, quando proviamo a sbirciare all'interno, vediamo solo se il computer fornisce la risposta corretta. Ma questo è come controllare se il coniglio è presente senza controllare se il mago abbia effettivamente usato la magia. La grande sfida è capire se il computer stia usando la regola reale o se stia solo facendo una scommessa fortunata, specialmente quando le regole riguardano cose che possono cambiare in modo fluido e infinito, come la velocità o il tempo, piuttosto che semplici interruttori "on/off".

È qui che entra in gioco un nuovo framework chiamato LAWFUL. Pensa a LAWFUL come a un detective super-severo per i cervelli informatici. Invece di chiedere semplicemente: "Hai dato la risposta giusta?", chiede: "Hai usato la logica giusta per ottenere quella risposta, anche quando ti prendiamo in giro con situazioni nuove?". I ricercatori hanno costruito un sistema per testare se un modello informatico comprenda davvero una specifica legge della fisica: l'effetto Doppler. Conoscete questa legge dal modo in cui un'ambulanza vi passa accanto; il suono della sirena diventa acuto mentre si avvicina a voi e grave mentre si allontana. La legge dice che questo cambiamento di tono dipende esattamente da quanto velocemente l'ambulanza si sta muovendo.

Il team ha testato un modello intelligente che è stato addestrato a prevedere questo cambiamento di tono utilizzando un video di una persona in movimento (come una ballerina con punti luminosi sulle articolazioni) e dati radar. Ecco la parte complicata: al computer non è mai stata comunicata la velocità della persona o l'altezza del suono. Doveva capirlo tutto da solo dai video grezzi e dai segnali radar. I ricercatori volevano sapere: il computer ha davvero imparato la formula matematica dell'effetto Doppler, o ha solo memorizzato le specifiche mosse di danza che ha visto durante l'addestramento?

Usando il loro kit da detective LAWFUL, hanno fatto qualcosa di astuto. Hanno creato scenari "e se...". Hanno preso il video della ballerina e hanno matematicamente accelerato o rallentato il movimento della ballerina verso il radar, senza cambiare il movimento laterale. Se il computer avesse compreso davvero la legge, la sua previsione del tono sarebbe cambiata perfettamente in sincronia con il cambiamento di velocità. Se stesse solo tirando a indovinare, la previsione sarebbe diventata confusa.

I risultati sono stati affascinanti. Il modello informatico sembrava davvero comprendere la legge. Quando lo hanno testato su velocità che non aveva mai visto prima, ha comunque previsto il tono correttamente. Ma la vera magia è avvenuta quando hanno iniziato a spegnere parti del cervello del computer per vedere quali parti stessero facendo il lavoro. Hanno scoperto che il computer non aveva bisogno di tutto il suo cervello per risolvere il problema. In effetti, hanno identificato un piccolo "circuito" all'interno del modello — solo alcune parti specifiche del suo sistema di attenzione — che era responsabile del 91% della correttezza fisica. Era come scoprire che solo tre ingranaggi specifici in un enorme orologio stavano effettivamente facendo muovere le lancette.

Ancora più incredibile, hanno scoperto come funzionavano quegli ingranaggi. Il computer non stava solo memorizzando numeri; stava usando un pattern specifico di "attenzione" per confrontare quanto la ballerina si fosse spostata da un fotogramma all'altro. Stava essenzialmente eseguendo un calcolo della velocità in tempo reale, proprio come farebbe un fisico umano, ma all'interno del proprio cervello digitale. Lo studio suggerisce che il computer avesse effettivamente imparato la legge formale della fisica, non solo un pattern. Tuttavia, i ricercatori sono cauti nel notare che questo è stato un test su una specifica legge e un tipo specifico di modello informatico. Sebbene sia un enorme passo avanti nel dimostrare che l'IA può davvero "comprendere" la fisica, è una prova di concetto per questo caso specifico, non una garanzia che ogni IA comprenda ogni legge dell'universo. Ma per ora, abbiamo un testimone che dice: sì, a volte il computer sta davvero facendo i calcoli.

Riepilogo Tecnico: LAWFUL – Law-Aligned Witness for Faithful Use of Latents

1. Problematica

Quando una rete neurale predice accuratamente un sistema fisico, non è chiaro se la rete abbia interiorizzato la legge fisica governante come conoscenza strutturata e formale o se abbia semplicemente imparato a imitare il comportamento input-output all'interno di una stretta distribuzione di addestramento. Nello specifico, sorgono tre domande distinte riguardanti i modelli che operano su variabili fisiche continue:

Rappresentazione: La rete ha appreso la legge come conoscenza strutturata?
Utilizzo Causale: Questa rappresentazione è utilizzata causalmente dal calcolo interno della rete, o è solo decodificabile da una sonda esterna?
Validità del Dominio: La rappresentazione è valida nell'intero dominio di validità della legge, o solo all'interno della distribuzione empirica di addestramento?

Gli attuali framework di interpretabilità meccanicistica affrontano quattro lacune specifiche nel rispondere a queste domande per le leggi su variabili continue:

Coerenza Consapevole della Copertura (Coverage-Aware Consistency): I metodi esistenti di astrazione causale quantificano la coerenza solo su coppie controfattuali discrete e limitatamente campionate, mancando di misure per famiglie di controfattuali continui.
Test del Dominio di Validità: Non esiste una procedura stabilita per verificare se un "circuito fisico" identificato operi coerentemente attraverso l'intero intervallo teorico della legge piuttosto che solo nella distribuzione di addestramento.
Verifica dell'Invarianza: Non esiste un metodo per verificare l'applicazione di invarianti fisici (comportamenti proibiti) all'interno del circuito, poiché gli strumenti esistenti mirano a correlazioni spurie piuttosto che a vincoli fisici mandatari.
Quantificazione del Flusso del Segnale: Sebbene i metodi di attribuzione identifichino quali archi sono rilevanti, essi non quantificano come i segnali continui di quantità fisiche derivate fluiscano attraverso il circuito (scrittura, trasformazione, trasmissione e lettura).

2. Metodologia: Il Framework LAWFUL

Gli autori propongono LAWFUL (Law-Aligned Witness for Faithful Use of Latents), un framework fondamentale che allinea un modello appreso con una legge fisica esplicita per testimoniare il loro accordo su stati controfattuali continui.

2.1. Componenti Core

Il framework accoppia un modello appreso $f: \mathcal{X} \to \mathcal{Y}_f$ con un modello fisico $g: \Omega \to \mathcal{Y}_g$ che rappresenta una legge nota. Utilizza tre meccanismi chiave:

Bridge (Ponti):
- Input Bridge ( $B$ ): Mappa gli input grezzi del modello $\mathcal{X}$ nello spazio fisico $\Omega$ (ad esempio, estraendo la velocità radiale dai dati di motion capture).
- Output Bridge ( $D_f, D_g$ ): Proietta gli output di entrambi i modelli in uno spazio osservabile condiviso $\mathcal{Z}$ (ad esempio, il centroide Doppler).
Famiglia di Perturbazione ( $\mathcal{P}$ ): Un insieme di operazioni fisicamente significative $p_\alpha$ che generano stati controfattuali in $\Omega$ . Ciò consente di testare la risposta del modello a variazioni continue (ad esempio, scalando la velocità radiale) piuttosto che a scambi discreti.
Punteggio di Coerenza ( $M_P(f, g)$ ): Un funzionale scalare $\Phi$ che misura l'accordo tra gli output "bridged" di $f$ e $g$ attraverso la famiglia di perturbazione. Un punteggio più alto indica un maggiore aderenza alla legge fisica.

2.2. Identificazione di Circuiti Fisicamente Coerenti

Il framework definisce un circuito fisicamente coerente come un sottografo $C$ del grafo computazionale del modello che recupera il punteggio di coerenza tramite activation patching.

Sufficienza: Instradare la perturbazione solo attraverso $C$ (mantenendo le restanti attivazioni del modello alla base) dovrebbe recuperare la coerenza fisica del modello.
Necessità: Instradare la perturbazione attraverso il complemento ( $V \setminus C$ ) mantenendo $C$ alle attivazioni di base dovrebbe fallire nel recuperare la coerenza.
Minimalità: Un circuito è $\tau$ -coerente se soddisfa le soglie di deviazione rispetto al baseline non patchato, ed è minimale se nessun suo sottoinsieme proprio è anch'esso $\tau$ -coerente.

3. Istanza Sperimentale: MoCap-to-Radar

Il framework viene istanziato sul transformer MoCap2Radar, un modello addestrato per predire spettrogrammi radar da dati di motion-capture (MoCap) 3D.

La Legge: La legge della frequenza Doppler $f(t) = \frac{2v(t)}{\lambda}$ , dove $f(t)$ è la frequenza, $v(t)$ è la velocità radiale e $\lambda$ è la lunghezza d'onda.
La Sfida: Né $f(t)$ né $v(t)$ compaiono nei dati di addestramento; il modello deve inferire la relazione dai dati grezzi delle traiettorie dei marker 3D.
Perturbazioni: L'input bridge estrae le velocità radiali. La famiglia di perturbazione scala queste velocità per un fattore $\alpha$ (scaling controfattuale), simulando efficacemente diverse velocità pur preservando il moto tangenziale.
Dominio di Validità: L'intervallo di perturbazione è vincolato dai limiti di risoluzione fisica del radar ( $\alpha \in [-1.16, 1.16]$ ).

4. Risultati Chiave

4.1. Scoperta del Circuito

Baseline: Il modello non patchato raggiunge un alto punteggio di coerenza ( $M_0 = 0.988$ ), confermando che apprende la legge.
Identificazione del Circuito: Una ricerca greedy bottom-up ha identificato un circuito minimale $\tau=0.9$ coerente ( $C^\dagger$ ) composto da soli 9 dei 18 componenti totali (50% del modello).
Composizione: Il circuito è dominato dal blocco Temporal Transformer (7 su 9 componenti), includendo specificamente l'MLP e le teste di attenzione $h_0, h_1, h_2, h_4, h_6, h_7$ . Lo Spatial Transformer contribuisce minimamente (MLP e testa $h_4$ ).
Performance: Questo circuito ridotto recupera il 91% della coerenza Doppler originale del modello.

4.2. Dominio di Validità e Invarianza

Scaling Radiale: All'interno del dominio risolvibile dal radar ( $|\alpha| \le 1.16$ ), il circuito identificato $C^\dagger$ segue da vicino il modello fisico $g$ , mostrando una risposta lineare allo scaling della velocità. Al di fuori di questo dominio, le prestazioni degradano, probabilmente a causa dei limiti di estrapolazione fisica.
Invarianza Tangenziale: Quando la velocità tangenziale (ortogonale alla linea di vista del radar) viene scalata, il modello e il circuito mostrano una risposta quasi nulla, confermando l'aderenza al principio fisico secondo cui il moto tangenziale non induce uno spostamento Doppler.

4.3. Analisi Meccanicistica

Emergenza della Velocità: Il linear probing rivela che la velocità radiale non è codificata esplicitamente in singole teste di attenzione o nel livello di proiezione inizialmente. Invece, emerge come una rappresentazione linearmente decodificabile solo nell'output combinato delle teste di attenzione temporali.
Meccanismo d'Azione: Tramite il patching dei pattern di attenzione (QK) rispetto alle trasformazioni dei valori (VAL), gli autori hanno scoperto che i pattern di attenzione (QK) sono i principali driver della coerenza. Sostituire solo QK recupera la coerenza, mentre sostituire VAL non lo fa.
Interpretazione: Ciò suggerisce che il modello esegua una differenziazione temporale adattiva. I pattern di attenzione selezionano dinamicamente coppie di frame da confrontare, calcolando effettivamente la velocità in base alla velocità del target (gap più brevi per movimenti veloci, più lunghi per movimenti lenti), analogamente all'elaborazione di segnali multi-scala.

5. Significato e Rivendicazioni

Il paper sostiene di fornire il primo framework principato per valutare se i modelli neurali incarnino leggi fisiche su variabili continue.

Colmare i Gap: LAWFUL colma le lacune riguardanti la coerenza causale consapevole della copertura e i test del dominio di validità per leggi continue.
Uso Fedele: Si sposta oltre il "il modello è accurato?" verso il "il modello usa la legge internamente?", identificando i sottografi specifici responsabili della coerenza fisica.
Fondamenta per il Lavoro Futuro: Sebbene l'attuale istanza si concentri su una legge lineare (Doppler) e su una specifica architettura transformer, il framework pone le basi per affrontare invarianti e quantificazione del flusso di segnale in sistemi di IA fisica più complessi.

Gli autori mantengono la modestia riguardo ai limiti, notando che il framework attualmente si basa su una legge di base pre-fornita, gestisce leggi lineari in questa specifica istanza e riduce spettrogrammi complessi a un singolo centroide, potenzialmente trascurando caratteristiche strutturali più fini.