Attractive and Repulsive Pattern Control in Sequence Generation

Resumo Técnico: Controle de Padrões Atrativos e Repulsivos em Geração de Sequências

Enunciado do Problema
Modelos de Markov de ordem variável (VOM) são eficazes para a geração de sequências simbólicas porque preservam a sintaxe e o estilo locais enquanto adaptam o comprimento do contexto. No entanto, ao longo de continuações longas, esses modelos frequentemente entram em "túneis": corredores do tipo atrator caracterizados por contextos de ordem superior recorrentes, sufixos repetidos ou passagens localmente periódicas. Essa autorreutilização muitas vezes excede a ordem de Markov formal do modelo, levando a um colapso na diversidade. Embora reduzir a memória ou adicionar ruído possa quebrar essas repetições, isso simultaneamente degrada a coerência estrutural que torna o gerador útil. Trabalhos anteriores (BP-Regular) demonstraram que restrições regulares rígidas (por exemplo, proibir blocos com comprimento superior a um valor específico) poderiam ser compiladas em autômatos e amostradas exatamente usando Propagação de Crença (BP). No entanto, essa abordagem era binária (aceitar/rejeitar) e carecia da capacidade de modular suavemente a probabilidade de padrões específicos.

Metodologia
Este artigo introduz o controle de padrão assinado, um mecanismo que estende a interface BP-Regular para suportar controle suave, adaptativo e simétrico sobre a recorrência.

1. Campo de Recorrência Assinado: Em vez de um autômato binário que aceita ou rejeita uma continuação, o sistema emprega um reconhecedor de estados finitos ponderado que computa uma ativação de recorrência não negativa $R(x)$ para uma sequência candidata $x$.
2. Amostragem Reponderada: O amostrador extrai de uma distribuição reponderada definida como:
   $$P_\beta(x) \propto P_0(x) \exp(\beta R(x))$$
   onde $P_0(x)$ é a distribuição de Markov original e $\beta$ é um escalar de acoplamento.
   • Acoplamento Negativo ($\beta < 0$): Penaliza padrões reconhecidos, criando um regime "homeostático" que desencoraja repetições hiperativas sem proibi-las estritamente.
   • Acoplamento Positivo ($\beta > 0$): Recompensa padrões reconhecidos, transformando-os em atratores controlados.
   • Acoplamento Zero ($\beta = 0$): Recupera o gerador não modificado.
3. Homeostase Adaptativa: Nos experimentos principais, os padrões alvo não são fixos, mas sim minerados adaptativamente da história de geração. O sistema rastreia $k$-gramas projetados (por exemplo, classes de altura/pitch classes) através de múltiplas ordens ($k \in \{2, 3, 4, 6, 8\}$). Padrões que se tornam hiperativos em uma janela recente ou ao longo da vida da geração recebem forças de ativação baseadas em uma combinação de frequência recente e frequência vitalícia.
4. Amostragem Exata: O autômato ponderado é integrado ao grafo de fatores BP. Como a ponderação exponencial $\exp(\beta R)$ permanece positiva, o algoritmo BP sum-product ainda pode computar massas normalizadoras exatas e marginais condicionais, garantindo que a amostragem permaneça matematicamente exata, apesar das restrições suaves.

Principais Contribuições

• Controle Assinado Unificado: O artigo demonstra que a mesma interface de autômato/BP usada para restrições rígidas pode ser reaproveitada para controle suave e assinado. Isso permite que um único mecanismo funcione tanto como uma força repulsiva (anti-colapso) quanto como uma sonda de atrator (sonda de atrator).
• Anti-Colapso Homeostático: Ao identificar e penalizar dinamicamente padrões hiperativos, o sistema reduz a autorreutilização de longo horizonte, mantendo a estrutura subjacente do modelo de ordem variável.
• Sonda de Atrator: O ramo positivo fornece um método controlado para criar e medir bacias de atração, transições de fase e histerese em modelos de ordem variável.
• Separação de Preocupações: A abordagem separa a seleção de padrões (o que controlar) da mecânica de amostragem (como controlar), permitindo que os padrões alvo sejam minerados, criados manualmente ou fornecidos externamente.

Resultados Experimentais
O mecanismo foi avaliado em música simbólica monofônica, um domínio onde a recorrência é audível e estruturalmente significativa. Os experimentos cobriram seis fontes com duração (Bach e Telemann) e cinco solos de jazz baseados apenas em altura (Weimar Jazz Database).

• Ramo Negativo (Homeostático):
  • Redução de Autorreutilização: O ramo de penalidade reduziu significamente a taxa de reuso de 8-gramas gerados (por exemplo, caindo de 0,140 para 0,064 nos dados centrais de Bach em 4096 eventos).
  • Aumento de Diversidade: O número efetivo de 8-gramas gerados aumentou (por exemplo, de 3269 para 3728), e o maior sufixo repetido diminuiu.
  • Suporte Preservado: O suporte de ordem inferior (2- e 3-gramas) permaneceu alto, com apenas uma queda menor (1–3 pontos percentuais) na cobertura de contextos suportados pelo treinamento.
  • Custo: O mecanismo incorreu em um aumento mensurável na perda estática do modelo e no overhead computacional (aproximadamente 4x mais lento por evento devido à reconstrução do reconhecedor adaptativo), mas manteve a amostragem exata.
• Ramo Positivo (Sonda de Atrator):
  • Sondas de motivos fixos demonstraram que padrões específicos podem ser tornados atrativos ou repulsivos à vontade.
  • Varreduras de transição de fase mostraram que o aumento de $\beta$ positivo leva a um aumento agudo na ativação do alvo e uma queda correspondente na diversidade, permitindo a medição de pontos de acoplamento crítico.
  • Cenários de "vício e abstinência" confirmaram a existência de histerese, onde o contexto gerado retém propriedades de atrator mesmo após o sinal de recompensa ser removido.

Significância e Alegações
O artigo alega fornecer uma ferramenta geral para guiar e sondar o cenário de recorrência de geradores de sequências simbólicas.

• Para Estabilização: O ramo negativo oferece uma maneira de prevenir o "tunelamento" e o colapso em modelos de ordem alta sem sacrificar o estilo local ou exigir um retreinamento completo do modelo. Ele atua como um regulador homeostático.
• Para Exploração: O ramo positivo transforma o gerador em um instrumento experimental, permitindo que pesquisadores programaticamente criem atratores, estudem transições de fase e testem dinâmicas de recuperação.
• Escopo: Os autores limitam explicitamente suas alegações ao ambiente de ordem variável/BP testado com sequências monofônicas. Eles não alegam resolver o valor musical ou a qualidade da composição em geral, mas sim fornecer um mecanismo preciso e mensurável para controlar a pressão de recorrência. O trabalho conecta-se a critérios mais amplos de criatividade computacional ao equilibrar novidade versus tipicidade através do controle de energia assinado.