Resumo Técnico: BILLY (BlendIng persona vectors for Large Language model creativY)

Declaração do Problema

Embora sistemas multi-LLM tenham demonstrado potencial para aumentar a criatividade ao simular a inteligência coletiva humana através de discussões iterativas, eles sofrem de limitações práticas significativas. Estas incluem altos custos computacionais, aumento da latência de inferência devido a múltiplas rodadas de troca de tokens e "perda de processo", onde ineficiências de coordenação impedem que o output coletivo supere a soma das contribuições individuais. Por outro lado, abordagens de modelo único que dependem de engenharia de prompt (por exemplo, pedir a um modelo para adotar múltiplos papéis simultaneamente) frequentemente têm dificuldade em integrar perspectivas diversas de forma coerente dentro de uma única resposta, levando a resultados inconsistentes ou superficiais. O desafio central abordado é como simular a colaboração de múltiplas perspectivas diversas dentro de um único LLM de forma eficiente, sem o overhead de comunicação multi-agente ou a necessidade de treinamento de modelos adicionais.

Metodologia

Os autores propõem o BILLY, um framework livre de treinamento que direciona um único Large Language Model (LLM) ao misturar vetores de persona distintos diretamente no espaço de ativação do modelo. A abordagem consiste em três estágios primários:

1. Extração de Vetores de Persona:
   Usando um método de ativação contrastiva, os autores extraem vetores direcionais que representam personas específicas (por exemplo, "Profissional Criativo", "Ambientalista"). Isso envolve a curadoria de dois conjuntos de dados para cada persona $P$: um conjunto de expressão positiva ($D^+_P$) onde o modelo exibe os traços da persona, e um conjunto de expressão negativa ($D^-_P$) contendo respostas neutras ou de base. O vetor de persona $\vec{v}^{(l)}_P$ na camada $l$ é calculado como a diferença entre a média das ativações do fluxo residual de tokens desses dois conjuntos:
   $$\vec{v}^{(l)}_P = \frac{1}{|D^+_P|} \sum_{x \in D^+_P} \vec{a}^{(l)}(x) - \frac{1}{|D^-_P|} \sum_{x \in D^-_P} \vec{a}^{(l)}(x)$$

2. Fusão Offline:
   Ao contrário dos sistemas multi-agente que exigem interação online, o BILLY funde múltiplos vetores de persona extraídos offline em um único vetor de direcionamento composto ($\vec{v}_{merged}$). Isso é alcançado simplesmente pela média dos vetores individuais:
   $$\vec{v}^{(l)}_{merged} = \frac{1}{N} \sum_{i=1}^{N} \vec{v}^{(l)}_i$$
   Este vetor composto encapsula uma perspectiva multifacetada no espaço latente.

3. Direcionamento em Tempo de Inferência:
   Durante a geração, o vetor composto é adicionado às ativações do modelo em uma camada específica $l$ (experimentalmente definida como camada 20) com um coeficiente de escala $\alpha$ (experimentalmente definido como 2.0):
   $$\vec{a}^{(l)}_{steered} = \vec{a}^{(l)}_{original} + \alpha \cdot \vec{v}^{(l)}_{merged}$$
   Esta operação impulsiona o estado interno do modelo em direção às perspectivas fundidas sem alterar os pesos do modelo ou exigir treinamento adicional.

Principais Contribuições

O artigo descreve três contribuições principais:

• Criatividade Aprimorada: O BILLY permite a geração de respostas diversas e de múltiplas perspectivas que superam tanto o prompting de modelo único quanto as abordagens tradicionais de multi-LLM em benchmarks orientados à criatividade.
• Eficiência e Simplicidade: O framework é inteiramente livre de treinamento e elimina a necessidade de comunicação multi-LLM. Ele alcança um desempenho criativo comparável ou superior com custos de computação e de tokens substancialmente menores.
• Interpretabilidade: Ao operar no espaço de ativação latente, o BILLY fornece um mecanismo transparente para direcionar a criatividade. Os autores demonstram que vetores de persona distintos podem ser misturados para controlar aspectos complementares da geração (por exemplo, estilo vs. conteúdo) com controle refinado.

Resultados Experimentais

Os autores avaliaram o BILLY em quatro benchmarks de criatividade derivados dos Testes de Criatividade de Wallach-Kogan: AUT (Usos Alternativos), INSTANCES, SIMILARITIES e SCIENTIFIC. A avaliação utilizou três modelos base (Qwen-2.5-7B, Llama-3.1-8B e Gemma-3-4B) e mediu o desempenho usando pontuações de Originalidade e Elaboração, avaliadas tanto por juízes baseados em LLM (GPT-4o-mini) quanto por avaliadores humanos.

• Desempenho: O BILLY alcançou consistentemente pontuações de Originalidade mais altas do que todos os baselines, incluindo Single Agent (SA), SA com decodificação de alta temperatura, SA com Multi-Role Prompting (SA-MRP) e o framework de "Discussão de LLM" multi-agente. Manteve pontuações de Elaboração competitivas ou superiores.
• Eficiência: O BILLY demonstrou uma redução drástica no tempo de inferência (aproximadamente 25x mais rápido que a Discussão de LLM) e reduziu os custos de tokens em mais de 95% em comparação com os baselines multi-agente.
• Análise:
  • Composição de Vetores: A fusão de vetores mostrou retornos decrescentes além de um certo número de personas (por exemplo, 3 a 4 vetores), sugerindo que o benefício não é puramente aditivo.
  • Alinhamento de Direcionamento: A análise de projeção revelou que, enquanto o multi-role prompting baseado em prompt (SA-MRP) falhou em ativar consistentemente todas as personas pretendidas no espaço latente, o BILLY conseguiu co-ativar múltiplas personas, validando seu controle superior.
  • Fusão Qualitativa: Estudos de caso indicaram que o vetor fundido sintetizou com sucesso o conteúdo substantivo de uma persona (ex: Ambientalista) com o estilo de outra (ex: Profissional Criativo), enquanto métodos baseados em prompt frequentemente resultaram em outputs analíticos ou desconexos.

Significância e Alegações

O artigo afirma que o BILLY oferece uma solução prática para a geração criativa em tempo real ao capturar os benefícios da colaboração multi-LLM dentro de um único modelo. Os autores argumentam que seu método demonstra que as vantagens criativas dos sistemas multi-agente podem ser efetivamente capturadas via direcionamento de ativação, reduzindo significativamente o tempo de inferência e os custos de tokens associados a tarefas de criatividade. Além disso, o trabalho sugere que o direcionamento de ativação com vetores de persona compostos oferece controle e interpretabilidade superiores em comparação com o prompting de role-play múltiplo, pois manipula diretamente o estado interno do modelo para alinhar-se com personas complexas e multifacetadas. Os autores reconhecem que, embora seu método atual utilize a média simples para a fusão de vetores, trabalhos futuros poderiam explorar técnicas de composição mais sofisticadas para gerenciar melhor as interações não lineares entre as personas.