Resumo Técnico: Fechando o Ciclo: Controle de Feedback PID para Direcionamento de Ativação Interpretável em Geração de Música Simbólica

Declaração do Problema

O direcionamento de ativação (activation steering) permite o controle de modelos generativos durante a inferência sem necessidade de retreinamento, baseando-se na Hipótese da Representação Linear. Na geração de música simbólica utilizando modelos Transformer como o Multitrack Music Transformer (MMT), o Direcionamento de Ativação Esparsa (SAS) via Autoencoders Esparsos (SAEs) oferece um controle de atributo interpretável de camada única. No entanto, o SAS impõe uma restrição rigorosa de esparsidade Top-K, onde apenas os $K$ maiores recursos sobrevivem à re-esparsificação.

Esta restrição cria uma falha de limiar Top-K durante o suavizamento temporal. Ao tentar aumentar suavemente uma magnitude de direcionamento (por exemplo, via uma função cosseno) de zero para um valor alvo, as magnitudes de direcionamento fracionárias intermediárias ($\lambda$) frequentemente caem abaixo do limiar Top-K. Consequentemente, o sinal de direcionamento é totalmente zerado até que $\lambda$ se torne grande o suficiente para romper o limiar, forçando uma transição abrupta e binária em vez de uma transição suave. Além disso, métodos de direcionamento estáticos atuam como controladores proporcionais (P), que são teoricamente incapazes de eliminar erros de estado estacionário causados pelos priors do modelo.

Metodologia

Os autores propõem o Direcionamento PID (Proporcional-Integral-Derivativo) em duas formas distintas para abordar essas limitações:

1. PID Espacial

Esta abordagem adapta a formulação PID por camada (Nguyen et al., 2026) aos 12 sub-camadas do MMT. Ela trata a passagem direta (forward pass) como um sistema dinâmico de tempo discreto onde o vetor de direcionamento é computado dinamicamente em cada camada $k$:
$$u(k) = K_p e(k) + K_i \sum_{j=0}^{k-1} e(j) + K_d (e(k) - e(k-1))$$
Aqui, $e(k)$ é o sinal de erro entre as ativações da camada alvo e da camada de origem. O termo integral ($I$) acumula erros passados para remover o viés residual, enquanto o termo derivativo ($D$) amortece o overshoot. Isso valida que as previsões da teoria de controle se mantêm mesmo em arquiteturas mais rasas (12 camadas) comparadas aos modelos de linguagem mais profundos estudados anteriormente.

2. PID Temporal

Este é o núcleo da contribuição, projetado para resolver a falha de limiar Top-K do SAS. Em vez de variar o controlador através de camadas espaciais, a variável de controle é transposta para o domínio temporal (passos de geração autorregressiva $t$).

• Medição de Erro: Em cada passo $t$, o sistema mede a magnitude média dos top-$N$ recursos alvo (a "impressão digital do conceito") dentro da representação esparsa. O sinal de erro $e(t)$ é a diferença entre um setpoint de rampa de cosseno $m^*(t)$ e a magnitude real do recurso.
• Lei de Controle: O controlador ajusta dinamicamente a magnitude de direcionamento $\lambda(t)$ em cada passo:
  $$\lambda(t) = \text{clamp}(K_p e(t) + K_i I(t-1) + K_d(e(t) - e(t-1)))$$
• Mecanismo: Durante a rampa inicial, os recursos alvo são zerados pela restrição Top-K, criando um erro positivo persistente. O termo integral acumula este erro, amplificando progressivamente $\lambda(t)$ até que ele rompa o limiar Top-K. Uma vez ativo, o controlador estabiliza-se em um $\lambda$ apenas suficiente, com o termo derivativo amortecendo o overshoot.
• Controle de Conceito Duplo: Para direcionamento simultâneo (ex: altura do tom e duração), dois controladores independentes utilizam vetores SAS ortogonalizados via Gram-Schmidt e um orçamento expandido de $2\times K$ para evitar a competição de recursos.

Principais Contribuições

1. Validação do PID Espacial: Demonstrou que o controle PID por camada elimina efetivamente o erro de estado estacionário na arquitetura rasa do MMT, confirmando a transferibilidade do direcionamento baseado em teoria de controle de modelos de linguagem profundos.
2. Estrutura de PID Temporal: Introduziu um sistema de feedback de malha fechada que ajusta dinamicamente a força do direcionamento para superar a barreira de esparsidade Top-K, permitendo transições suaves e contínuas no direcionamento de ativação esparsa.
3. Eficiência e Qualidade: Mostrou que o direcionamento PID alcança um controle de atributo suave com significativamente menos intensidade de intervenção do que o SAS estático, mantendo ou melhorando a qualidade da geração.

Resultados Experimentais

Experimentos foram conduzidos no Symbolic Orchestral Database (SOD) usando o modelo MMT, visando atributos de altura do tom (pitch) e duração (duration).

• Superação da Falha de Limiar: O PID temporal superou com sucesso a falha de limiar Top-K. Diferente do SAS estático, que produz saltos binários, o PID mantém ativações não nulas desde o início da rampa.
• Redução de Intervenção: O PID alcançou o mesmo ou melhor resultado de direcionamento com 62–67% menos intensidade de intervenção (média de $\lambda \approx 1.15$ para altura vs. $\lambda=3.0$ estático).
• Métricas de Qualidade:
  • Distância Musical de Fréchet (FMD): O PID reduziu a degradação da FMD em 5% comparado ao SAS estático para o direcionamento de altura (461.9 vs. 487.7), indicando melhor fidelidade de distribuição.
  • Degradação de Qualidade ($\delta$): Para altura, o PID reduziu a degradação ($\delta \approx 0.45$) comparado ao SAS estático ($\delta \approx 0.64$). Para duração, os resultados variaram; enquanto o direcionamento de redução de duração igualou a qualidade do estático, o aumento de duração incorreu em maior degradação ($\delta=8.45$ vs. $2.84$), atribuído ao fato de a trajetória dinâmica amplificar problemas de consistência de escala intrínsecos ao atributo.
• Direcionamento de Ida e Volta (Round-Trip Steering): O PID permitiu o direcionamento reversível (direcionar para longe, manter, retornar), alcançando 46–74% de recuperação do estado original, superando significativamente as linhas de base de liberação passiva (36–62%).
• Robustez: O sistema permaneceu estável através de perturbações de $2\sigma$ nos parâmetros de ganho ($K_p, K_i$) e mostrou custo marginal de tempo de execução mínimo (+1.9% sobre o SAS estático).

Significância e Alegações

O artigo afirma avançar o controle de geração musical ao resolver um modo de falha específico do direcionamento de ativação esparsa: a incapacidade de realizar transições temporais suaves devido às restrições de esparsidade Top-K. Ao aplicar a teoria de controle (PID) ao eixo temporal, os autores demonstram que a acumulação de erro integral é essencial para superar limiares discretos em representações esparsas.

Os autores posicionam seu trabalho como uma validação do direcionamento baseado em teoria de controle em um novo domínio (música simbólica) e uma solução prática para intervenção interpretável de camada única. Eles explicitamente notam limitações, incluindo a avaliação em um único modelo/dataset, a ausência de validação perceptiva (ex: testes A/B) e a degradação específica observada no aumento de duração. O trabalho é enquadrado como um avanço metodológico, e não uma solução completa para todas as tarefas de geração musical, com trabalho futuro sugerido para escalonamento de ganho adaptativo e SAEs de esparsidade relaxada.