From Profiles to Steering Vectors: Global Sparse Priors and Local Semantic Calibration for Personalized Text Generation

Resumo Técnico: GLASS – Priores Esparsos Globais e Calibração Semântica Local para Geração de Texto Personalizada

Declaração do Problema
A geração de texto personalizada visa produzir saídas que reflitam os hábitos de escrita específicos de um usuário, preferências estilísticas e padrões comunicativos, enquanto aderem aos requisitos da tarefa. As abordagens existentes enfrentam compromissos significativos:

• Métodos baseados em recuperação (ex: Aprendizado em Contexto, RAG) frequentemente dependem de similaridade semântica, o que pode introduzir conteúdo semântico ruidoso em vez de sinais puramente estilísticos, além de incorrer em latência de inferência e sobrecarga de armazenamento.
• Ajuste Fino de Parâmetros Eficientes (PEFT) requer o treinamento e armazenamento de parâmetros específicos do usuário, dificultando a escalabilidade para grandes populações de usuários.
• Direcionamento por Ativação (Activation Steering) oferece uma alternativa sem necessidade de treinamento, mas tem dificuldade em desvincular sinais estilísticos de conteúdo semântico. Vetores de direcionamento padrão frequentemente retêm "resíduo semântico", fazendo com que os modelos imitem tópicos de dados históricos em vez do estilo subjacente do usuário.

Metodologia: GLASS
Os autores propõem o GLASS (Direcionamento de Ativação Global-Local com Priores Esparsos), um framework livre de treinamento que utiliza Autoencoders Esparsos (SAEs) para extrair representações de estilo robustas. O método opera em duas fases: construção de vetores offline e direcionamento em tempo de inferência.

1. Modelagem de Estilo Global via Priores Esparsos:

   • Para capturar traços invariantes do nível do usuário (ex: escolha lexical, tom, comprimento de frase), o GLASS processa todos os dados de interação histórica do usuário.
   • Estados ocultos de uma camada específica são projetados em um espaço de características esparsas de alta dimensão usando um codificador SAE pré-treinado.
   • As ativações esparsas são calculadas pela média de todos os tokens de resposta para formar um perfil esparso global, que é então decodificado de volta para o espaço do fluxo residual do modelo para criar um vetor de estilo global ($v_G$). Essa agregação por token suaviza as variações semânticas específicas de cada instância.

2. Modelagem de Estilo Local via Clusters Contrastivos:

   • Para abordar variações dependentes do contexto (ex: e-mails formais vs. postagens casuais), os históricos de usuários são agrupados com base na semântica do prompt (usando TF-IDF e K-means).
   • Para cada cluster, um vetor de estilo local ($v_C$) é derivado através de um processo contrastivo:
     • Priming (Preparação): Um modelo "preparado" injeta o vetor global $v_G$ durante o processo de extração para enviesar operações subsequentes em direção ao estilo.
     • Construção Positivo-Negativa: Para uma consulta âncora, contextos positivos são formados selecionando exemplos históricos do mesmo cluster que geram altos scores de utilidade, enquanto contextos negativos são amostrados de outros usuários.
     • Extração Contrastiva: O modelo gera respostas sob contextos positivos e negativos. O vetor local é computado como a diferença entre os estados ocultos médios dos tokens de resposta positivos e negativos. Esta subtração visa remover o conteúdo semântico compartilhado, isolando o resíduo estilístico específico para aquele cenário.

3. Direcionamento de Fluxo Duplo Adaptativo:

   • Durante a inferência, uma nova requisição é atribuída ao cluster mais próximo.
   • O sistema recupera o vetor local ($v_C$) correspondente e o vetor global ($v_G$).
   • Esses vetores são injetados em diferentes camadas do fluxo residual do modelo (global em camadas superiores, local em camadas intermediárias) com forças ajustáveis ($\alpha$ e $\beta$), permitindo personalização consciente do contexto sem atualizações de parâmetros ou sobrecarga de recuperação.

Principais Contribuições

• Identificação de Resíduo Semântico: O artigo identifica que a incapacidade de separar sinais estilísticos de conteúdo semântico é uma limitação primária dos métodos existentes de direcionamento de ativação.
• Desvinculação Baseada em SAE: Os autores demonstram que as representações baseadas em SAE são mais robustas a mudanças de distribuição (especificamente perturbações de comprimento e tópico) do que os métodos de ativação densa, sugerindo uma desvinculação superior de estilo de semântica.
• Framework GLASS: Um novo framework livre de treinamento que modela o estilo do usuário em múltiplas granularidades (global e local) dentro do espaço latente do SAE.
• Validação Empírica: Experimentos extensos nos benchmarks LaMP e LongLaMP mostram que o GLASS supera métodos de recuperação, ajuste fino e outras bases de direcionamento em métricas ROUGE e avaliações de LLM-como-juiz.

Resultados

• Desempenho: No LaMP-4 e LaMP-5, o GLASS alcança os melhores resultados em todas as métricas (ROUGE-1, ROUGE-L e scores de Juiz), superando as bases mais fortes (ex: OPPU, Fints). Nos datasets LongLaMP, ele ocupa consistentemente o primeiro ou segundo lugar em 11 de 12 métricas de avaliação.
• Robustez: Experimentos de perturbação (Figura 1) mostram que as características de direcionamento baseadas em SAE degradam significativamente menos do que os métodos baseados em contraste ou média quando o comprimento do histórico do usuário ou as distribuições de tópicos são alterados.
• Eficiência: O GLASS evita a expansão de prompt e a latência de recuperação dos métodos RAG/ICL e requer armazenamento mínimo por usuário (<0,01 MB) comparado aos métodos PEFT (ex: LoRA), com sobrecarga de inferência comparável aos modelos base.
• Ablação: Remover o priore global ou o componente de contraste local leva a quedas de desempenho, confirmando sua natureza complementar. A extração contrastiva mostrou-se essencial para suprimir sinais correlacionados ao conteúdo.

Significância e Alegações
O artigo afirma que o GLASS estabelece um paradigma escalável e eficaz para a geração de texto personalizada ao abordar o desafio central da contaminação semântica no direcionamento de ativação. Ao utilizar representações esparsas, o método consegue desvincular com sucesso a informação estilística do conteúdo semântico, permitindo uma personalização de alta fidelidade sem o custo computacional do ajuste fino ou a latência da recuperação. Os autores posicionam o GLASS como uma solução que equilibra eficiência, escalabilidade e desempenho, tornando-o adequado para implantação no mundo real onde o treinamento específico por usuário é impraticável. O trabalho sugere que o direcionamento no nível de representação esparsa é uma direção promissora para pesquisas futuras em interpretabilidade de modelos e personalização.