Order Is Not Control

Resumo Técnico: Ordem não é Controle – Leis de Resposta Dissipativa-Dirigida em Sistemas Artificiais e Biológicos

Problema
O artigo aborda uma confusão fundamental no estudo de sistemas adaptativos (tanto biológicos quanto artificiais): a confusência entre a indução de ordem (estrutura, movimento de estado oculto ou regularidade de saída) e o estabelecimento de controle (movimento confiável e limitado de um resultado alvo). A pesquisa atual em alinhamento e interpretabilidade identifica frequentemente "objetos indutores de ordem" (prompts, princípios, edições de ativação, adaptadores), mas falha em distinguir se esses objetos produzem mudanças comportamentais admitidas pelo receptor ou se apenas induzem uma reorganização interna que não se traduz no resultado desejado. O problema científico central é separar ordem, evidência de resposta e controle local em categorias empíricas distintas.

Metodologia e Estrutura
Os autores propõem uma estrutura de lei de resposta com portão de receptor (receiver-gated response law), fundamentada em vocabulários de sistemas dissipativos-dirigidos e termodinâmica estocástica. O controle é definido não pela presença de uma intervenção, mas por uma condição específica: um esforço de intervenção finito deve mover uma classe de resposta alvo sob um denominador correspondente, mantendo danos, respostas nulas/evasivas, formatos inválidos e esforço desnecessário (sumidouros/sinks) limitados.

• O Núcleo de Resposta (Response Kernel): O objeto empírico é um núcleo de resposta estocástica indexado por um denominador, $P_\delta(dy | s, a)$. Aqui, $\delta$ representa uma tupla de condições (tarefa, meio, banho, receptor, regra de bacia, comparador). O núcleo mapeia o estado material ($s$) e a ação/direção ($a$) para uma distribuição sobre o deslocamento da resposta, canais de sumidouro e esforço declarado.
• Indexação por Denominador: Todas as medições são estritamente indexadas por um denominador $\delta$. Um direcionamento só é evidência de controle se mover o receptor medido sob o mesmo denominador. Alterar o prompt, o estado do modelo, as configurações de decodificação ou o protocolo biológico altera o denominador, tornando as comparações entre denominadores diferentes inválidas para estabelecer leis de controle.
• Hierarquia de Evidência: O artigo estabelece uma hierarquia de evidência:
  1. Ordem: Estrutura induzida ou movimento oculto.
  2. Evidência de Resposta: Movimento reproduzível em uma classe de resposta declarada sob condições correspondentes.
  3. Controle Local: Esforço finito movendo um alvo enquanto preserva limites de efeitos colaterais.
  4. Limite do Controlador: O limite onde a admissão de ação prospectiva falha, apesar da oportunidade mensurável.

Painéis Experimentais e Resultados
O estudo valida esta estrutura através de quatro domínios complementares de evidência:

1. Operadores de Resposta Biológica (Substratos Físicos):

   • Substratos: Córtex Motor Anterior Lateral (ALM) de camundongos, C. elegans e zebrafish larval.
   • Método: Mediu vetores de resposta populacional e propagação de perturbação neural sob protocolos retidos (held-out).
   • Resultados: Demonstrou estruturas de operador de resposta mensuráveis com acurácias de sinal retidas de 0,716 (ALM), 0,597 (verme) e 0,577 (zebrafish).
   • Limite: Apoia a estrutura física do operador de resposta, mas exclui explicitamente a identidade de coordenadas ou o controle biológico universal.

2. Leis de Resposta de Saída Gerada (LLMs):

   • Método: Analisou conclusões congeladas sob prompts fixos, banhos de decodificação e rubricas. Testou campos semânticos visíveis e sondas de ação finita.
   • Resultados: Mostrou que campos visíveis podem mover bacias de saída gerada (ex: taxa alvo de 1,000 vs. linha de base de 0,117), mas exibem respostas de esforço não monótonas; campos mais fortes ou orçamentos maiores frequentemente roteiam o esforço para sumidouros de dano ou inválidos (sobrecarga/overdrive).
   • Achado Chave: Vetores de resposta são previsíveis (acurácia de sinal de componente de 72,8–73,7%; 84,3–84,8% em componentes não nulos), mas isso não equivale ao controle de linha local do alvo.

3. Resposta de Meio Preparado (Adaptadores):

   • Método: Comparou modelos base congelados contra adaptadores LoRA condicionados à constituição (princípios editoriais, estilo NIST, nulo-aleatório).
   • Resultados: Adaptadores atuam como "meios preparados" que remodelam a suscetibilidade (suporte de fase, comprimento de trajetória, admissão de formato) em vez de atuarem como controladores autônomos.
   • Achado Chave: Meios preparados podem expor "bolsões de reparo" (ex: reduzindo a invalidade de formato), mas não estabelecem controle de adaptador universal ou o direcionamento de palavras como causalidade de alinhamento.

4. Operadores Preditivos e Limites do Controlador:

   • Predição do Observador: Observadores não-terminais previram o efeito do sistema retido e rótulos alvo/oráculo com alta acurácia (93,6% e 91,7%, respectivamente).
   • Controle Admitido Local: Identificou "bolsões limpos" onde ações locais moveram alvos com sumidouros limitados (1.146 células limpas-positivas).
   • Falha de Admissão Estocástica: Apesar do headroom de oráculo mensurável e da oportunidade retrospectiva, a admissão de ação prospectiva retida falhou (0/104 capturas). Políticas selecionadas não puderam escolher de forma confiável a ação correta no estado correto.

Principais Contribuições

1. Critério de Cadeia de Resposta: Uma definição operacional formal que separa ordem, evidência de resposta e controle com base no movimento admitido pelo receptor e sumidouros limitados sob um denominador correspondente.
2. Mapeamento Trans-Substrato: Demonstra que sistemas biológicos, LLMs e adaptadores instanciam a mesma estrutura de lei de resposta indexada por denominador, sem exigir identidade de coordenadas brutas.
3. O Relato Dissipativo-Dirigido: Reenquadra o alinhamento como um problema de regulação de sistema aberto onde os direcionamentos atuam através de meios preparados e banhos, produzindo movimento admitido, impedância ou sumidouros.
4. Limites Explícitos: Delimita claramente a fronteira entre operadores de resposta mensuráveis e controladores implantáveis, mostrando que, embora o controle admitido local exista, o controle estocástico prospectivo permanece não resolvido.

Significância e Alegações
O artigo argumenta que ordem não é controle. Ele postula que intervenções de alinhamento (princípios, prompts, adaptadores, direcionamento) são eficazes como controle apenas quando produzem movimento limitado e admitido pelo receptor sob um denominador específico.

• Alegações Modestas: Os autores afirmam explicitamente que não reivindicam controle universal, identidade de coordenadas entre sistemas biológicos e artificiais, ou que intervenções em estados ocultos/logits sejam suficientes para o controle comportamental sem validação do receptor.
• Significância: O trabalho fornece um relato de "nível de controle mesoscópico" que torna o problema do controle explícito: estimar o estado, escolher a manutenção ou uma ação admitida, e verificar o movimento do receptor com canais de sumidouro e esforço limitados. Ele desloca o foco de "induzir ordem" para "medir leis de resposta admitidas", identificando que, embora os vetores de resposta sejam previsíveis e o reparo local seja possível, o controlador de nível de implantação (uma política que seleciona ações de forma confiável através de estados retidos) ainda não foi estabelecido.

O artigo conclui que o alinhamento é um problema de confiabilidade de resposta condicionada ao estado, exigindo a separação de coordenadas do observador, atuadores candidatos e portões de validação, em vez de uma busca por escores de alinhamento universais ou suficiência de estado oculto.