Beyond Multiple Choice: Evaluating Steering Vectors for Summarization

Resumo Técnico: Além da Múltipla Escolha: Avaliando Vetores de Direcionamento para Sumarização

Declaração do Problema
Embora os vetores de direcionamento tenham surgido como um método leve para controlar as saídas de modelos de linguagem (LM) ao adicionar vieses aprendidos às ativações no momento da inferência, sua eficácia foi validada predominantemente em configurações restritas de múltipla escolha ou tarefas simplificadas de brinquedo. A eficácia prática desses vetores na geração livre, especificamente para tarefas complexas como sumarização abstrativa, permanece amplamente inexplorada. Além disso, os compromissos entre a eficácia do controle e a preservação da qualidade do resumo, incluindo o potencial para efeitos colaterais como alucinações ou repetição degenerada, não são bem compreendidos neste contexto.

Metodologia
Os autores avaliam vetores de direcionamento "diferença de médias" (Rimsky et al., 2024a) em três conjuntos de dados diversos de sumarização abstrativa: SAMSum (conversas), NEWTS (notícias) e arXiv (artigos científicos). O estudo envolve:

• Construção do Vetor de Direcionamento: Os vetores são computados tomando a diferença média entre as ativações do fluxo residual de exemplos positivos e negativos para comportamentos-alvo específicos (foco temático, sentimento, toxicidade e legibilidade) em 13 modelos das famílias Llama 3, Qwen 3 e Gemma 3, variando de 0,6B a 70B parâmetros.
• Intervenção na Inferência: Durante a geração, o vetor de direcionamento $s_l$ é adicionado ao fluxo residual do modelo em camadas específicas com um parâmetro de intensidade $\lambda$.
• Baselines Comparativos: O estudo compara vetores de direcionamento contra engenharia de prompts (usando diretivas comportamentais) e uma abordagem híbrida combinando ambos os métodos.
• Métricas de Avaliação: A qualidade é avaliada por meio de métricas intrínsecas (Perplexidade, Distinct-2 para repetição) e métricas extrínsecas (ROUGE, BERTScore). A eficácia do controle é medida usando classificadores especializados para sentimento, toxicidade e legibilidade, e métodos baseados em LDA para foco temático.
• Técnicas Avançadas: Os autores investigam o direcionamento condicional (ajustando dinamicamente $\lambda$ com base nas ativações atuais) e o impacto da escala e arquitetura do modelo.

Principais Contribuições

1. Avaliação em Geração Livre: O artigo fornece uma avaliação abrangente de vetores de direcionamento para controlar foco temático, sentimento, toxicidade e legibilidade em resumos abstrativos, indo além de benchmarks de múltipla escolha.
2. Identificação de Efeitos Colaterais: O estudo identifica que, embora o direcionamento controle efetivamente propriedades-alvo, altas intensidades de direcionamento induzem consistentemente repetição degenerada e alucinações factuais.
3. Eficácia da Abordagem Híbrida: Os autores demonstram que combinar vetores de direcionamento com prompts instrutivos produz o controle mais forte e o compromisso mais favorável entre eficácia e qualidade, particularmente em intensidades de direcionamento moderadas.
4. Lançamento de Recursos: Os autores disponibilizam seu código e conjuntos de dados para apoiar a reprodutibilidade.

Resultados

• Eficácia do Controle: Os vetores de direcionamento controlam com sucesso o foco temático, o sentimento e a legibilidade em todos os conjuntos de dados e tamanhos de modelo. No entanto, controlar a toxicidade é significativamente mais difícil; modelos treinados para segurança resistem à geração de conteúdo tóxico a menos que as intensidades de direcionamento sejam extremamente altas ($\lambda > 2$), ponto no qual a qualidade do texto colapsa.
• Degradação da Qualidade: Existe um compromisso crítico entre controle e qualidade. Grandes magnitudes de direcionamento ($|\lambda| > 2$) levam a uma degradação significativa tanto na qualidade intrínseca (fluência, repetição) quanto na extrínseca (fidelidade). Os autores observam dois estágios de degradação: primeiro, alucinações congruentes com o atributo (fabricar fatos para satisfazer o objetivo de direcionamento) e, segundo, a geração de sequências repetitivas de palavras associadas à direção do direcionamento.
• Direcionamento vs. Prompting: O direcionamento oferece controle mais forte do que o prompting, especialmente para modelos menores. No entanto, o prompting preserva melhor a qualidade do resumo do que o direcionamento.
• Desempenho Híbrido: A combinação de direcionamento e prompting alcança controle mais forte do que qualquer método isolado, frequentemente permitindo mudanças significativas de propriedade com intensidades de direcionamento moderadas. Essa abordagem híbrida oferece o melhor equilíbrio, embora intensidades de direcionamento muito grandes ainda degradem a qualidade.
• Escala do Modelo: Modelos maiores são mais robustos à degradação induzida pelo direcionamento, mantendo maior coerência e fidelidade em intensidades que causam quedas fortes de qualidade em modelos menores.
• Direcionamento Condicional: Ajustar dinamicamente a intensidade do direcionamento com base nas ativações atuais reduz os efeitos colaterais, mas também enfraquece a eficácia geral do controle.

Significado e Alegações
O artigo afirma que os vetores de direcionamento são um método viável e leve para adaptar modelos fundamentais às preferências do usuário em sumarização livre, mas sua aplicação é governada por um compromisso crítico entre controle e qualidade. Os autores concluem que, embora os vetores de direcionamento possam induzir efetivamente propriedades específicas de texto, os praticantes não podem aumentar o controle indefinidamente sem incorrer em custos de qualidade. O estudo sugere que abordagens híbridas, aproveitando o controle preciso do direcionamento e a natureza preservadora de qualidade do prompting, oferecem o caminho mais promissor para alinhar robustamente o comportamento de LLMs às preferências do usuário em aplicações do mundo real. O trabalho destaca que os vetores de direcionamento enfrentam desafios significativos ao superar o treinamento de segurança (por exemplo, para toxicidade) sem causar saída incoerente, e que a confiabilidade do método é contingente à gestão da magnitude da intervenção.