🤖 machine learning

LAWFUL: Law-Aligned Witness for Faithful Use of Latents

O artigo apresenta o LAWFUL, um framework fundamental que aborda lacunas de interpretabilidade cruciais para verificar se as redes neurais não apenas aprendem, mas também utilizam internamente leis físicas formais, demonstrado ao confirmar o uso da lei da frequência Doppler pelo transformer Mocap2Radar, apesar de sua ausência nos dados de treinamento.

Autores originais: Kevin Chen, Kenneth W. Parker, Anish Arora

Publicado 2026-08-03

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Kevin Chen, Kenneth W. Parker, Anish Arora

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está assistindo a um mágico tirar um coelho de dentro de um chapéu. Você sabe que o truque funciona porque o coelho aparece, mas você não sabe como isso aconteceu. O mágico realmente aprendeu um feitiço secreto ou apenas memorizou um movimento de mão específico que por acaso funciona para coelhos? Esta é a grande questão que os cientistas estão fazendo sobre a inteligência artificial hoje. Nós construímos cérebros de computador (redes neurais) que são incrivelmente bons em prever como o mundo físico funciona — como uma bola quicando ou como ondas sonoras viajam. Mas esses computadores estão realmente "aprendendo" as leis da física ou estão apenas adivinhando muito bem com base em padrões que já viram antes?

Para entender isso, precisamos olhar para duas coisas. Primeiro, há a ideia de uma "lei", que é uma regra estrita que o universo segue, como a gravidade sempre puxando as coisas para baixo. Segundo, há a "interpretabilidade", que é a arte de espiar dentro do cérebro do computador para ver o que ele está realmente pensando. Normalmente, quando tentamos espiar dentro, apenas vemos se o computador obtém a resposta certa. Mas isso é como verificar se o coelho está lá sem verificar se o mágico realmente usou magia. O grande desafio é descobrir se o computador está usando a regra real ou apenas um palpite de sorte, especialmente quando as regras envolvem coisas que podem mudar de forma suave e contínua, como velocidade ou tempo, em vez de apenas simples interruptores de "ligado/desligado".

É aqui que um novo framework chamado LAWFUL entra em cena. Pense no LAWFUL como um detetive super rigoroso para cérebros de computador. Em vez de apenas perguntar: "Você obteve a resposta certa?", ele pergunta: "Você usou a lógica correta para obter essa resposta, mesmo quando eu te engano com novas situações?". Os pesquisadores construíram um sistema para testar se um modelo de computador realmente entende uma lei específica da física: o efeito Doppler. Você conhece essa lei de quando uma ambulância passa por você; o som da sirene fica agudo conforme ela se aproxima de você e grave conforme ela se afasta. A lei diz que essa mudança de tom depende exatamente de quão rápido a ambulância está se movendo.

A equipe testou um modelo de computador inteligente que foi treinado para prever essa mudança de tom usando vídeo de uma pessoa se movendo (como um dançarino com pontos brilhantes em suas articulações) e dados de radar. Aqui está a parte complicada: o computador nunca foi informado sobre a velocidade da pessoa ou o tom do som. Ele teve que descobrir tudo sozinho a partir dos vídeos brutos e dos sinais de radar. Os pesquisadores queriam saber: O computador realmente aprendeu a fórmula matemática do efeito Doppler ou ele apenas memorizou os movimentos de dança específicos que viu durante o treinamento?

Usando seu kit de detetive LAWFUL, eles fizeram algo inteligente. Eles criaram cenários de "e se". Eles pegaram o vídeo do dançarino e, matematicamente, aceleraram ou desaceleraram o movimento do dançarino em direção ao radar, sem alterar o movimento lateral. Se o computador realmente entendesse a lei, sua previsão do tom deveria mudar perfeitamente em sincronia com a mudança de velocidade. Se ele estivesse apenas adivinhando, a previsão ficaria bagunçada.

Os resultados foram fascinantes. O modelo de computador parecia entender a lei. Quando testaram em velocidades que ele nunca tinha visto antes, ele ainda previa o tom corretamente. Mas a verdadeira mágica aconteceu quando começaram a desligar partes do cérebro do computador para ver quais partes estavam fazendo o trabalho. Eles descobriram que o computador não precisava de todo o seu cérebro para resolver isso. Na verdade, eles identificaram um pequeno "circuito" dentro do modelo — apenas algumas partes específicas de seu sistema de atenção — que era responsável por 91% da física correta. Era como descobrir que apenas três engrenagens específicas em um relógio enorme estavam realmente fazendo os ponteiros se moverem.

Ainda mais legal, eles descobriram como essas engrenagens funcionavam. O computador não estava apenas memorizando números; ele estava usando um padrão específico de "atenção" para comparar o quanto o dançarino se moveu de um quadro para o outro. Ele estava essencialmente fazendo um cálculo em tempo real de velocidade, exatamente como um físico humano faria, mas dentro de seu próprio cérebro digital. O estudo sugere que o computador de fato aprendeu a lei formal da física, não apenas um padrão. No entanto, os pesquisadores são cuidadosos ao notar que este foi um teste em uma lei específica e um tipo específico de modelo de computador. Embora seja um grande passo para provar que a IA pode realmente "entender" a física, é uma prova de conceito para este caso específico, não uma garantia de que toda IA entenda todas as leis do universo. Mas, por enquanto, temos uma testemunha que diz: sim, às vezes o computador está realmente fazendo a matemática.

Sumário Técnico: LAWFUL – Testemunha Alinhada à Lei para o Uso Fiel de Latentes

1. Declaração do Problema

Quando uma rede neural prevê com precisão um sistema físico, permanece incerto se a rede internalizou a lei física governante como conhecimento estruturado e formal ou se apenas aprendeu a mimetizar o comportamento de entrada-saída dentro de uma distribuição de treinamento estreita. Especificamente, três questões distintas surgem em relação a modelos que operam sobre variáveis físicas contínuas:

Representação: A rede aprendeu a lei como um conhecimento estruturado?
Uso Causal: Esta representação é causalmente utilizada pelo computação interna da rede, ou é meramente decodificável por uma sonda externa?
Validade de Domínio: A representação se mantém em todo o domínio de validade da lei, ou apenas dentro da distribuição empírica de treinamento?

Os frameworks atuais de interpretabilidade mecanística enfrentam quatro lacunas específicas ao abordar estas questões para leis sobre variáveis contínuas:

Consistência Consciente de Cobertura: Métos de abstração causal existentes quantificam a consistência apenas em pares contrafatuais discretos e amostrados de forma estreita, carecendo de medidas para famílias de contrafatuais contínuos.
Teste de Domínio de Validade: Não há um procedimento estabelecido que verifique se um "circuito de física" identificado opera consistentemente através de todo o intervalo teórico da lei, em vez de apenas dentro da distribuição de treinamento.
Verificação de Invariantes: Não há um método para verificar a aplicação de invariantes físicos (comportamentos proibidos) dentro do circuito, uma vez que as ferramentas existentes visam correlações espúrias em vez de restrições físicas mandatórias.
Quantificação de Fluxo de Sinal: Embora métodos de atribuição identifiquem quais arestas importam, eles não quantificam como sinais contínuos de quantidades físicas derivadas fluem através do circuito (escrevendo, transformando, transmitindo e lendo).

2. Metodologia: O Framework LAWFUL

Os autores propõem o LAWFUL (Law-Aligned Witness for Faithful Use of Latents), um framework fundamental que alinha um modelo aprendido com uma lei física explícita para testemunhar seu acordo sobre estados contrafatuais contínuos.

2.1. Componentes Principais

O framework pareia um modelo aprendido $f: \mathcal{X} \to \mathcal{Y}_f$ com um modelo de física $g: \Omega \to \mathcal{Y}_g$ que representa uma lei conhecida. Ele utiliza três mecanismos principais:

Pontes (Bridges):
- Ponte de Entrada (B): Mapeia as entradas brutas do modelo $\mathcal{X}$ para o espaço físico $\Omega$ (ex: extrair velocidade radial de dados de captura de movimento).
- Ponte de Saída ( $D_f, D_g$ ): Projeta as saídas de ambos os modelos em um espaço observável compartilhado $\mathcal{Z}$ (ex: centroide Doppler).
Família de Perturbação ( $\mathcal{P}$ ): Um conjunto de operações fisicamente significativas $p_\alpha$ que geram estados contrafatuais em $\Omega$ . Isso permite testar a resposta do modelo a variações contínuas (ex: escalonamento da velocidade radial) em vez de trocas discretas.
Pontuação de Consistência ( $M_P(f, g)$ ): Um funcional escalar $\Phi$ que mede o acordo entre as saídas pontuadas de $f$ e $g$ através da família de perturbação. Uma pontuação mais alta indica uma adesão mais próxima à lei física.

2.2. Identificação de Circuitos Fisicamente Consistentes

O framework define um circuito fisicamente consistente como um subgrafo $C$ do grafo computacional do modelo que recupera a pontuação de consistência sob activation patching.

Suficiência: Rotear a perturbação apenas através de $C$ (mantendo o restante da rede nas ativações base) deve recuperar a consistência física do modelo.
Necessidade: Rotear a perturbação através do complemento ( $V \setminus C$ ) enquanto mantém $C$ nas ativações base deve falhar em recuperar a consistência.
Minimalidade: Um circuito é $\tau$ -consistente se satisfizer limiares de desvio em relação à linha de base não patcheada, e é minimal se nenhum subconjunto próprio também for $\tau-consistente$ .

3. Instanciação Experimental: MoCap-to-Radar

O framework é instanciado no transformer MoCap2Radar, um modelo treinado para prever espectrogramas de radar a partir de dados de captura de movimento (MoCap) 3D.

A Lei: A lei da frequência Doppler $f(t) = \frac{2v(t)}{\lambda}$ , onde $f(t)$ é a frequência, $v(t)$ é a velocidade radial e $\lambda$ é o comprimento de onda.
O Desafio: Nem $f(t)$ nem $v(t)$ aparecem nos dados de treinamento; o modelo deve inferir a relação a partir de trajetórias de marcadores 3D brutos.
Perturbações: A ponte de entrada extrai velocidades radiais. A família de perturbação escala essas velocidades por um fator $\alpha$ (escalonamento contrafatual), simulando efetivamente diferentes velocidades enquanto preserva o movimento tangencial.
Domínio de Validade: O intervalo de perturbação é limitado pelos limites de resolução física do radar ( $\alpha \in [-1.16, 1.16]$ ).

4. Resultados Principais

4.1. Descoberta de Circuito

Linha de Base: O modelo sem patch alcança uma alta pontuação de consistência ( $M_0 = 0.988$ ), confirmando que ele aprende a lei.
Identificação de Circuito: Uma busca gulosa bottom-up identificou um circuito minimal $\tau=0.9$ consistente ( $C^\dagger$ ) composto por apenas 9 dos 18 componentes totais (50% do modelo).
Composição: O circuito é dominado pelo bloco Transformer Temporal (7 de 9 componentes), incluindo especificamente o MLP e as cabeças de atenção $h_0, h_1, h_2, h_4, h_6, h_7$ . O Transformer Espacial contribui minimamente (MLP e cabeça $h_4$ ).
Desempenho: Este circuito reduzido recupera 91% da consistência Doppler original do modelo.

4.2. Domínio de Validade e Invariância

Escalonamento Radial: Dentro do domínio resolvível pelo radar ( $|\alpha| \le 1.16$ ), o circuito identificado $C^\dagger$ acompanha o modelo de física $g$ de perto, exibindo uma resposta linear ao escalonamento de velocidade. Fora deste domínio, o desempenho degrada-se, provavelmente devido aos limites de extrapolação física.
Invariância Tangencial: Quando a velocidade tangencial (ortogonal à linha de visão do radar) é escalonada, o modelo e o circuito exibem uma resposta quase nula, confirmando a adesão ao princípio físico de que o movimento tangencial não induz um deslocamento Doppler.

4.3. Análise Mecanística

Emergência da Velocidade: O linear probing revela que a velocidade radial não é codificada explicitamente em cabeças de atenção individuais ou na camada de projeção inicialmente. Em vez disso, ela emerge como uma representação linearmente decodificável apenas no resultado combinado das cabeças de atenção temporal.
Mecanismo de Ação: Ao realizar o patching de padrões de atenção (QK) versus transformações de valor (VAL), os autores descobriram que os padrões de atenção (QK) são os principais impulsionadores da consistência. Substituir apenas o QK recupera a consistência, enquanto substituir o VAL não o faz.
Interpretação: Isso sugere que o modelo realiza uma diferenciação temporal adaptativa. Os padrões de atenção selecionam dinamicamente pares de frames para comparar, efetivamente computando a velocidade com base na velocidade do alvo (intervalos mais curtos para movimentos rápidos, mais longos para lentos), analogamente ao processamento de sinais multiescala.

5. Significância e Alegações

O artigo afirma fornecer o primeiro framework principado para avaliar se modelos neurais incorporam leis físicas sobre variáveis contínuas.

Preenchendo Lacunas: O LAWFUL fecha as lacunas relativas à consistência causal consciente de cobertura e testes de domínio de validade para leis contínuas.
Uso Fiel: Ele vai além de "o modelo é preciso?" para "o modelo usa a lei internamente?", identificando subgrafos específicos responsáveis pela consistência física.
Fundação para Trabalhos Futuros: Embora a atual instanciação foque em uma lei linear (Doppler) e em uma arquitetura transformer específica, o framework estabelece as bases para abordar invariantes e a quantificação de fluxo de sinal em sistemas de IA física mais complexos.

Os autores mantêm a modéstia quanto às limitações, observando que o framework atualmente depende de uma lei de fundamentação pré-fornecida, lida com leis lineares nesta instanciação específica e reduz espectrogramas complexos a um único centroide, o que pode perder características estruturais mais finas.