Resumen Técnico: LAWFUL – Testigo Alineado con la Ley para el Uso Fiel de Latentes

1. Planteamiento del Problema

Cuando una red neuronal predice con precisión un sistema físico, no queda claro si la red ha internalizado la ley física gobernante como un conocimiento formal y estructurado o si simplemente ha aprendido a imitar el comportamiento de entrada-salida dentro de una distribución de entrenamiento estrecha. Específicamente, surgen tres preguntas distintas con respecto a los modelos que operan sobre variables físicas continuas:

1. Representación: ¿Ha aprendido la red la ley como conocimiento estructurado?
2. Uso Causal: ¿Es esta representación utilizada causalmente por el cómputo interno de la red, o es meramente decodificable por una sonda externa?
3. Validez del Dominio: ¿Se mantiene la representación a través de todo el dominio de validez de la ley, o solo dentro de la distribución de entrenamiento empírica?

Los marcos actuales de interpretabilidad mecánica enfrentan cuatro brechas específicas al abordar estas preguntas para leyes sobre variables continuas:

• Consistencia Consciente de la Cobertura: Los métodos de abstracción causal existentes cuantifican la consistencia solo en pares contrafácticos discretos y estrechamente muestreados, careciendo de medidas para familias de contrafácticos continuos.
• Prueba del Dominio de Validez: No existe un procedimiento establecido que verifique si un "circuito físico" identificado opera consistentemente a través de todo el rango teórico de la ley en lugar de solo dentro de la distribución de entrenamiento.
• Verificación de Invariantes: No hay un método para verificar la imposición de invariantes físicos (comportamientos prohibidos) dentro del circuito, ya que las herramientas existentes se dirigen a correlaciones espurias en lugar de restricciones físicas mandatorias.
• Cuantificación del Flujo de Señal: Aunque los métodos de atribución identifican qué bordes importan, no cuantifican cómo fluyen los signos continuos de las cantidades físicas derivadas a través del circuito (escritura, transformación, transmisión y lectura).

2. Metodología: El Marco LAWFUL

Los autores proponen LAWFUL (Law-Aligned Witness for Faithful Use of Latents), un marco fundacional que alinea un modelo aprendido con una ley física explícita para testificar su acuerdo sobre estados contrafácticos continuos.

2.1. Componentes Principales

El marco empareja un modelo aprendido $f: \mathcal{X} \to \mathcal{Y}_f$ con un modelo de física $g: \Omega \to \mathcal{Y}_g$ que representa una ley conocida. Utiliza tres mecanismos clave:

• Puentes (Bridges):
  • Puente de Entrada ($B$): Mapea las entradas brutas del modelo $\mathcal{X}$ al espacio físico $\Omega$ (por ejemplo, extraer la velocidad radial de los datos de captura de movimiento).
  • Puente de Salida ($D_f, D_g$): Proyecta las salidas de ambos modelos en un espacio observable compartido $\mathcal{Z}$ (por ejemplo, el centroide Doppler).
• Familia de Perturbaciones ($\mathcal{P}$): Un conjunto de operaciones físicamente significativas $p_\alpha$ que generan estados contrafácticos en $\Omega$. Esto permite probar la respuesta del modelo ante variaciones continuas (por ejemplo, escalar la velocidad radial) en lugar de intercambios discretos.
• Puntuación de Consistencia ($M_P(f, g)$): Un funcional escalar $\Phi$ que mide el acuerdo entre las salidas puenteadas de $f$ y $g$ a través de la familia de perturbaciones. Una puntuación más alta indica una mayor adherencia a la ley física.

2.2. Identificación de Circuitos Físicamente Consistentes

El marco define un circuito físicamente consistente como un subgrafo $C$ del grafo computacional del modelo que recupera la puntuación de consistencia bajo el parcheo de activaciones (activation patching).

• Suficiencia: Dirigir la perturbación únicamente a través de $C$ (manteniendo el resto de la red en sus activaciones base) debería recuperar la consistencia física del modelo.
• Necesidad: Dirigir la perturbación a través del complemento ($V \setminus C$) mientras se mantiene $C$ en sus activaciones base debería fallar en recuperar la consistencia.
• Minimalidad: Un circuito es $\tau$-consistente si satisface umbrales de desviación relativos a la línea base sin parchear, y es minimal si ningún subconjunto propio también es $\tau$-consistente.

3. Instanciación Experimental: MoCap-a-Radar

El marco se instancia en el transformador MoCap2Radar, un modelo entrenado para predecir espectrogramas de radar a partir de datos de captura de movimiento (MoCap) en 3D.

• La Ley: La ley de la frecuencia Doppler $f(t) = \frac{2v(t)}{\lambda}$, donde $f(t)$ es la frecuencia, $v(t)$ es la velocidad radial y $\lambda$ es la longitud de onda.
• El Desafío: Ni $f(t)$ ni $v(t)$ aparecen en los datos de entrenamiento; el modelo debe inferir la relación a partir de trayectorias de marcadores 3D brutos.
• Perturbaciones: El puente de entrada extrae velocidades radiales. La familia de perturbaciones escala estas velocidades por un factor $\alpha$ (escalado contrafáctico), simulando efectivamente diferentes velocidades mientras preserva el movimiento tangencial.
• Dominio de Validez: El rango de perturbación está restringido por los límites de resolución física del radar ($\alpha \in [-1.16, 1.16]$).

4. Resultados Clave

4.1. Descubrimiento de Circuitos

• Línea Base: El modelo sin parchear logra una alta puntuación de consistencia ($M_0 = 0.988$), confirmando que aprende la ley.
• Identificación del Circuito: Una búsqueda voraz (greedy) de abajo hacia arriba identificó un circuito minimal de $\tau=0.9$ consistente ($C^\dagger$) que comprende solo 9 de los 18 componentes totales (50% del modelo).
• Composición: El circuito está dominado por el bloque del Transformador Temporal (7 de 9 componentes), incluyendo específicamente el MLP y las cabezas de atención $h_0, h_1, h_2, h_4, h_6, h_7$. El Transformador Espacial contribuye mínimamente (MLP y cabeza $h_4$).
• Rendimiento: Este circuito reducido recupera el 91% de la consistencia Doppler original del modelo.

4.2. Dominio de Validez e Invariancia

• Escalado Radial: Dentro del dominio resoluble por radar ($|\alpha| \le 1.16$), el circuito identificado $C^\dagger$ sigue de cerca al modelo de física, exhibiendo una respuesta lineal al escalado de velocidad. Fuera de este dominio, el rendimiento se degrada, probablemente debido a los límites de extrapolación física.
• Invariancia Tangencial: Cuando se escala la velocidad tangencial (ortogonal a la línea de visión del radar), el modelo y el circuito exhiben una respuesta casi nula, confirmando la adherencia al principio físico de que el movimiento tangencial no induce un desplazamiento Doppler.

4.3. Análisis Mecanístico

• Emergencia de la Velocidad: El sondeo lineal (linear probing) revela que la velocidad radial no está codificada explícitamente en las cabezas de atención individuales o en la capa de proyección inicialmente. En su lugar, emerge como una representación linealmente decodificable solo en la combinación de las cabezas de atención temporal.
• Mecanismo de Acción: Al parchear los patrones de atención (QK) frente a las transformaciones de valor (VAL), los autores encontraron que los patrones de atención (QK) son los principales impulsores de la consistencia. Reemplazar solo QK recupera la consistencia, mientras que reemplazar VAL no lo hace.
• Interpretación: Esto sugiere que el modelo realiza una diferenciación temporal adaptativa. Los patrones de atención seleccionan dinámicamente pares de fotogramas para comparar, computando efectivamente la velocidad basándose en la velocidad del objetivo (brechas más cortas para movimientos rápidos, más largas para movimientos lentos), de forma análoga al procesamiento de señales multiescala.

5. Significado y Reivindicaciones

El artículo afirma proporcionar el primer marco con principios para evaluar si los modelos neuronales encarnan leyes físicas sobre variables continuas.

• Cierre de Brechas: LAWFUL cierra las brechas respecto a la consistencia causal consciente de la cobertura y las pruebas del dominio de validez para leyes continuas.
• Uso Fiel: Va más allá de "¿es el modelo preciso?" para preguntar "¿usa el modelo la ley internamente?", identificando subgrafos específicos responsables de la consistencia física.
• Base para Trabajos Futuros: Aunque la actual instanciación se centra en una ley lineal (Doppler) y una arquitectura de transformador específica, el marco sienta las bases para abordar invariantes y la cuantificación del flujo de señal en sistemas de IA física más complejos.

Los autores mantienen la modestia respecto a las limitaciones, señalando que el marco actualmente depende de una ley de fundamentación suministrada previamente, maneja leyes lineales en esta instanciación específica y reduce espectrogramas complejos a un único centroide, lo que podría omitir características estructurales más finas.