Concept Heterogeneity-aware Representation Steering

Este trabalho apresenta o CHaRS, um método de direção de representações que supera as limitações das abordagens globais ao modelar a heterogeneidade conceitual nos LLMs como um problema de transporte ótimo entre clusters, gerando um mapa de direção suave e dependente da entrada para um controle comportamental mais eficaz.

O essencial

Imagine que você tem um grande orquestra de robôs (os Grandes Modelos de Linguagem, ou LLMs) que escrevem textos, respondem perguntas e criam imagens. Esses robôs são incríveis, mas às vezes eles "alucinam", falam coisas tóxicas ou se recusam a fazer o que você pede de forma muito rígida.

Para controlar esses robôs, os cientistas usam uma técnica chamada "Direcionamento de Representação". Pense nisso como um controle remoto que ajusta os "pensamentos" internos do robô enquanto ele está pensando, para fazê-lo agir de um jeito específico (por exemplo, ser mais gentil ou mais criativo).

O Problema: O "Controle Remoto" de Uma Só Chave

Até agora, a maioria desses controles remotos funcionava de um jeito muito simples e um pouco "burro": eles olhavam para dois grupos de pensamentos (um grupo de "respostas ruins" e outro de "respostas boas"), calculavam a média de tudo e criavam uma única seta (um vetor) para empurrar o robô na direção certa.

A analogia do "Puxar o Ponto Médio":
Imagine que você quer ensinar um grupo de pessoas a dançar.

• O método antigo: Você olha para todos os dançarinos ruins e todos os dançarinos bons, calcula a posição média de cada grupo e diz: "Ok, todos os dançarinos ruins, pulem 2 metros para a direita".
• O problema: Nem todo dançarino ruim está no mesmo lugar! Alguns estão no canto esquerdo, outros no direito, alguns estão sentados, outros pulando. Se você puxar todos com a mesma força na mesma direção, vai acertar alguns, mas vai deixar outros confusos ou até piorar a situação. O método antigo assume que todos os "pensamentos ruins" são iguais, o que não é verdade.

A Solução: CHaRS (O Maestro Inteligente)

Os autores deste paper criaram um novo método chamado CHaRS (Steering de Representação Consciente da Heterogeneidade de Conceitos). Em vez de usar uma única seta para todos, eles olham para a diversidade dentro dos pensamentos.

A analogia do "Maestro com Partituras Variadas":
Imagine que, em vez de um único comando, o CHaRS é como um maestro que vê que a orquestra tem seções diferentes:

1. Violinos (um tipo de pensamento ruim): Estão no canto esquerdo. O maestro dá um comando específico para eles.
2. Trompetes (outro tipo de pensamento ruim): Estão no canto direito. O maestro dá um comando diferente para eles.
3. Bateria (um terceiro tipo): Estão no fundo.

O CHaRS usa uma matemática chamada Transporte Ótimo (que é como calcular a rota mais eficiente para mover caixas de um armazém para outro) para entender onde cada "tipo" de pensamento está e como movê-lo suavemente para o lugar certo, sem bagunçar o resto.

Como funciona na prática:

1. Agrupamento (Clustering): O sistema primeiro olha para os pensamentos e os agrupa em "clubes" ou "ilhas" baseados em como eles se parecem.
2. Mapa de Transporte: Ele cria um mapa que diz: "Se o robô estiver pensando como o 'Clube A', empurre-o para o 'Lugar A' da resposta boa. Se estiver pensando como o 'Clube B', empurre-o para o 'Lugar B'".
3. Suavidade: A mágica é que, se o pensamento do robô estiver "na beira" entre dois clubes, o CHaRS faz uma mistura suave das instruções. Não é um "sim ou não" brusco, é um ajuste fino e contínuo.

Por que isso é melhor?

• Precisão: Como ele trata cada "tipo" de pensamento separadamente, ele consegue corrigir comportamentos ruins com muito mais precisão, sem estragar a inteligência geral do robô.
• Flexibilidade: Funciona bem tanto para textos (evitar toxicidade, fazer o robô "quebrar" regras de segurança para testes) quanto para imagens (mudar o estilo de uma foto para "Cyberpunk" sem mudar o objeto da foto).
• Economia: Eles descobriram que, mesmo com essa complexidade, o sistema pode ser simplificado (usando uma técnica chamada "Limiar de Componentes Principais") para ser rápido e leve, usando menos "direções" de controle, mas com o mesmo resultado.

Resumo da Ópera

O CHaRS é como trocar um martelo (que bate tudo do mesmo jeito) por um kit de ferramentas cirúrgicas (que ajusta cada peça individualmente).

Em vez de dizer "empurre tudo para a direita", ele diz: "Você, que está triste, fique mais animado; você, que está agressivo, acalme-se; e você, que está confuso, foque no objetivo". Isso permite controlar a personalidade e o comportamento dos robôs de forma muito mais natural, segura e eficaz, respeitando a complexidade de como eles realmente pensam.

Resumo técnico

Resumo Técnico: CHaRS (Concept Heterogeneity-aware Representation Steering)

1. O Problema

O Steering de Representação (direcionamento de representação) é uma técnica leve para controlar o comportamento de Grandes Modelos de Linguagem (LLMs) intervindo nas ativações internas durante a inferência. A maioria dos métodos existentes (como Activation Addition ou Difference-in-Means) calcula um vetor de direção global único, obtido pela diferença das médias das ativações entre conjuntos de dados contrastantes (ex: respostas úteis vs. prejudiciais).

Limitações Identificadas:

• Suposição de Homogeneidade: Esses métodos assumem implicitamente que o conceito-alvo é representado de forma homogênea e unimodal no espaço de embeddings.
• Estrutura Não-Homogênea: Na prática, as representações de LLMs são altamente não-homogêneas, exibindo estruturas agrupadas (clusters) e dependentes do contexto. Um único conceito (ex: "recusa" ou "tóxico") pode manifestar-se de formas diferentes dependendo do contexto ou sub-conceitos latentes.
• Fragilidade: Uma direção global única ignora essas nuances, levando a um controle inconsistente, falhas em tarefas complexas e degradação da utilidade geral do modelo.

2. Metodologia

Os autores propõem uma nova abordagem baseada na Teoria do Transporte Ótimo (Optimal Transport - OT) para lidar com a heterogeneidade dos conceitos.

• Modelagem como Mistura Gaussiana (GMM):
  Em vez de tratar as distribuições de ativações como Gaussianas unimodais, o CHaRS modela as representações de origem (ex: prompts prejudiciais) e destino (ex: prompts seguros) como Misturas Gaussianas (Gaussian Mixture Models - GMMs). Isso captura a estrutura multimodal e os clusters semânticos dentro do espaço latente.

• Formulação via Transporte Ótimo Discreto:
  O problema de alinhar as distribuições é formulado como um problema de Transporte Ótimo entre os clusters semânticos.

  1. Agrupamento: As ativações são agrupadas (ex: via k-means) para identificar os centros dos clusters ($a_k$ e $b_l$).
  2. Plano de Transporte: Utiliza-se o Transporte Ótimo de Mistura (Mixture Wasserstein Distance) para encontrar um plano de acoplamento ótimo ($P^*$) entre os clusters de origem e destino, regularizado por entropia (algoritmo de Sinkhorn) para garantir estabilidade numérica e correspondências suaves.

• Mapeamento de Direcionamento Adaptativo (Barycentric Projection):
  O método deriva um mapa de transporte determinístico e dependente da entrada ($\hat{T}(x)$) através da projeção baricêntrica.

  • Para uma entrada $x$, o método calcula uma combinação ponderada (suave) das direções de transporte locais entre os clusters.
  • O vetor de direcionamento $\hat{v}(x)$ não é fixo; ele varia suavemente no manifold de representação, dependendo de quão próximo $x$ está de cada cluster e de como esses clusters foram acoplados pelo OT.
  • A equação final de intervenção é: $\hat{T}_\alpha(x) = x + \alpha \hat{v}(x)$.

• CHaRS-PCT (Principal Component Thresholding):
  Uma variante que explora a descoberta de que a matriz de covariância dos vetores de direcionamento é inerentemente de baixo posto (low-rank). Ao aplicar PCA e reter apenas os principais componentes, o método reduz o ruído e o número de direções necessárias, mantendo a eficácia.

3. Contribuições Principais

1. Generalização Teórica: Transição da suposição restritiva de Gaussianas unimodais para GMMs multimodais, formulando o direcionamento como um problema de OT discreto entre clusters semânticos.
2. Método CHaRS: Desenvolvimento de um framework de direcionamento adaptativo à entrada, onde a direção de intervenção varia suavemente com base no contexto, permitindo um controle sensível ao contexto.
3. Fatoração Disentangled (CHaRS-PCT): Introdução de um método de filtragem espectral (limiar de componentes principais) que demonstra que a variabilidade do campo de direcionamento pode ser capturada por um número reduzido de eixos semânticos, melhorando a eficiência.

4. Resultados Experimentais

O CHaRS foi avaliado em diversas tarefas e modelos (Gemma2, Llama3, Qwen2.5, de 3B a 32B parâmetros) e em tarefas de geração de imagem (FLUX.1).

• Jailbreaking (Quebra de Segurança):

  • O CHaRS superou consistentemente as linhas de base (Activation Addition e Directional Ablation) na Taxa de Sucesso de Ataque (ASR).
  • Exemplo: No modelo Gemma2-9B-Instruct, o CHaRS alcançou 98,08% de ASR contra 91,35% do ActAdd.
  • Mantém a utilidade geral do modelo (avaliado por tinyBenchmarks) melhor do que os métodos baseados apenas em adição de ativação.

• Mitigação de Toxicidade:

  • Em configurações sequenciais (aplicando direcionamento camada por camada), o CHaRS e CHaRS-PCT reduziram a geração tóxica significativamente mais do que o método Linear-Act.
  • No Llama3-8B, houve reduções de até 43% na toxicidade classificada e 38% na toxicidade zero-shot, sem degradar a perplexidade ou o desempenho em MMLU.

• Controle de Estilo em Imagens:

  • Na tarefa de gerar imagens com estilo "Cyberpunk" ou "Sketch", o CHaRS alcançou a indução de estilo desejada com forças de intervenção menores do que o Linear-Act.
  • Demonstrou um melhor compromisso (Pareto front) entre a indução do estilo e a preservação do conteúdo original da imagem.

• Análise de Ablação:

  • O uso de múltiplos clusters ($K > 1$) geralmente supera o baseline ($K=1$, que equivale ao método de diferença de médias).
  • A versão com limiar de componentes principais (PCT) muitas vezes iguala ou supera o CHaRS completo, indicando que a informação crítica está concentrada em poucos eixos semânticos.

5. Significado e Impacto

• Avanço Teórico: O trabalho fornece uma fundamentação teórica rigorosa para o direcionamento de representações, conectando-o à geometria do Transporte Ótimo e reconhecendo a natureza multimodal dos espaços latentes de LLMs.
• Controle Mais Robusto: Ao abandonar a suposição de homogeneidade, o CHaRS oferece um controle mais preciso e estável, essencial para aplicações de segurança (jailbreaking, toxicidade) e personalização (estilo, tom).
• Eficiência: A descoberta da estrutura de baixo posto no campo de direcionamento (via CHaRS-PCT) sugere que intervenções complexas podem ser realizadas com menos recursos computacionais e direções vetoriais.
• Aplicabilidade Geral: O método é agnóstico ao modelo, funcionando bem em LLMs de diferentes arquiteturas e tamanhos, e estende-se a modelos de difusão para geração de imagens.

Em resumo, o CHaRS representa um passo significativo rumo a intervenções não-lineares e geometricamente conscientes em modelos generativos, superando as limitações das abordagens lineares globais tradicionais.