💬 NLP

Psychological Steering of Large Language Models

Este artigo apresenta um novo framework de "steering" psicológico para Grandes Modelos de Linguagem que utiliza injeções de média-diferença calibradas em unidades semânticas, demonstrando que essa abordagem supera e complementa o prompting tradicional para controlar traços de personalidade OCEAN, ao mesmo tempo em que revela discrepâncias entre as representações aprendidas pelos modelos e a psicologia humana.

Autores originais: Leonardo Blas, Robin Jia, Emilio Ferrara

Publicado 2026-04-17

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Leonardo Blas, Robin Jia, Emilio Ferrara

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que os Grandes Modelos de Linguagem (LLMs), como o ChatGPT ou o Llama, são como atores de teatro muito talentosos, mas que, por padrão, interpretam um personagem genérico: "o assistente útil e neutro".

O que este artigo propõe é uma nova maneira de dirigir esses atores para que eles se tornem personagens específicos, como um "herói corajoso", um "vilão malicioso" ou alguém "muito aberto a novas experiências", sem precisar reescrever todo o roteiro do filme (o que seria re-treinar o modelo).

Aqui está a explicação simples, usando analogias do dia a dia:

1. O Problema: O "Controle Remoto" Quebrado

Antes, os pesquisadores tentavam mudar a personalidade do modelo de duas formas:

Pedindo (Prompting): Era como pedir ao ator: "Por favor, aja como um vilão". Funciona, mas o ator às vezes esquece o personagem no meio da cena ou não fica convincente o suficiente.
Injeção de Ativação (O método antigo): Era como tentar empurrar o ator para o lado certo, mas o "controle remoto" que eles usavam estava mal calibrado. Eles tentavam empurrar com força "10" ou "20", mas não sabiam se isso era pouco ou demais. Era como tentar ajustar o volume de uma TV girando o botão sem saber se você está no volume 1 ou no volume 10.000.

2. A Solução: O "GPS Psicológico"

Os autores criaram um novo método chamado Psicologia de Direção (Psychological Steering). Eles fizeram três coisas principais:

Calibragem do Controle: Eles criaram uma régua precisa. Em vez de girar o botão aleatoriamente, eles agora sabem exatamente quanto de "força" aplicar para mudar a personalidade, como um piloto de avião que sabe exatamente quantos graus virar o leme para mudar de direção.
O "GPS" (Injeção MDS): Eles descobriram que a melhor maneira de mudar o personagem não é apenas pedir, mas injetar uma "assinatura" matemática direta no cérebro do modelo. Eles pegaram frases que descrevem uma personalidade (ex: "Eu sou muito organizado") e frases opostas ("Eu sou muito desorganizado") e calcularam a diferença exata entre elas. Essa diferença é o "vetor" que eles injetam no modelo.
Testes de Realidade: Para garantir que o ator não começou a falar nonsense (alucinar) enquanto tentava ser o personagem, eles usaram um "crítico de teatro" (um classificador simples) para garantir que a fala continuasse fluente e natural.

3. O Grande Resultado: A "Fórmula Mágica"

O estudo testou 14 modelos diferentes de IA. O resultado foi surpreendente:

O Método Antigo (Pedir/Prompting) perdeu: O método de apenas pedir para o modelo mudar de personalidade ficou para trás.
O Novo Método (Injeção MDS) venceu: A técnica de injetar a "assinatura" matemática funcionou muito melhor, tornando o modelo mais consistente e convincente em 11 dos 14 modelos testados.
A Combinação Perfeita (Híbrido): A melhor estratégia de todas foi misturar os dois: usar o "pedido" (prompt) mais a "injeção matemática". Foi como dar ao ator tanto o roteiro quanto o empurrãozinho físico. Essa combinação venceu em 13 dos 14 modelos, superando todos os outros métodos.

4. A Descoberta Curiosa: O "Cérebro da IA" vs. O "Cérebro Humano"

O estudo também descobriu algo fascinante sobre como a IA "pensa":

Quando a IA é forçada a ser mais "aberta" (Openness), ela também fica um pouco mais "extrovertida". Isso faz sentido, pois em humanos essas características estão ligadas.
No entanto, a IA não segue exatamente as regras complexas da psicologia humana (o chamado "Modelo Big Two"). Isso sugere que, embora a IA tenha aprendido a imitar a linguagem humana, a estrutura interna de como ela organiza essas ideias ainda é um pouco diferente da nossa mente. É como se a IA tivesse um "sotaque" psicológico próprio.

Resumo em uma Analogia Final

Imagine que a IA é um carro.

Prompting é como dar instruções ao motorista: "Vire à direita". Às vezes ele vira, às vezes não.
O método antigo era como tentar empurrar o carro com as mãos, mas sem saber a força certa.
O método deste artigo é como instalar um sistema de direção autônoma de precisão. Você não precisa empurrar o carro nem gritar instruções; você apenas ajusta um botão calibrado que diz exatamente para onde as rodas devem virar, e o carro segue perfeitamente, sem sair da pista (sem perder a fluência).

Conclusão: Os autores provaram que podemos "programar" a personalidade de uma IA de forma muito mais precisa e confiável do que antes, abrindo portas para criar assistentes, robôs sociais e personagens de jogos que realmente parecem ter uma alma (ou pelo menos, uma personalidade muito bem definida).

Título: Direcionamento Psicológico de Grandes Modelos de Linguagem (LLMs)

Autores: Leonardo Blas, Robin Jia, Emilio Ferrara (USC)
Data: Abril de 2026 (Pré-impressão)

1. O Problema

Os Grandes Modelos de Linguagem (LLMs) emulam comportamentos humanos consistentes que podem ser moldados através de intervenções no nível de ativação. A abordagem predominante, conhecida como Representation Engineering (RepE), utiliza injeções aditivas no fluxo residual (residual-stream injections) para direcionar o modelo. No entanto, métodos existentes enfrentam limitações críticas que impedem a descoberta de configurações ótimas de intervenção:

Unidades Não Calibradas: As varreduras de força de injeção (sweeps) são realizadas em unidades de espaço de ativação arbitrárias (ex: vetores unitários), tornando inviável identificar forças ótimas que possam estar muito distantes na escala (ex: 10.000 unidades).
Espaço de Busca Restrito: As varreduras são frequentemente limitadas a um pequeno conjunto de valores de força (ex: [0.4, 0.5, ..., 1.5]), o que pode deixar configurações ótimas inexploradas.
Desempenho Inferior ao Prompting: Estudos anteriores sugeriram que o Prompting (ex: Personality Prompting ou P2) superava métodos de RepE no direcionamento psicológico, possivelmente devido às limitações metodológicas acima mencionadas.

2. Metodologia

Os autores propõem um novo framework de direcionamento psicológico que supera essas lacunas através de três contribuições metodológicas principais:

A. Escala de Força Calibrada e Varreduras Ilimitadas

Unidades Centroides: Em vez de usar unidades de ativação brutas, os autores definem a magnitude dos vetores de injeção em relação à distância entre os centróides de ativação (representando o constructo e seu antítese). Isso permite uma escala semanticamente calibrada.
Varreduras Ilimitadas com Parada Antecipada: O método realiza varreduras de força de injeção ( $\alpha$ ) sem limites rígidos pré-definidos. O processo é interrompido automaticamente quando a fluência do texto gerado cai abaixo de um limiar (avaliado por um classificador leve), evitando o uso custoso de APIs de ponta para avaliação e garantindo que apenas resultados fluentes sejam considerados.

B. Derivação de Vetores Baseada em Psicologia

Inventários Psicológicos: Utilizam o inventário IPIP-NEO-120 para medir o modelo de personalidade OCEAN (Abertura, Conscienciosidade, Extroversão, Amabilidade, Neuroticismo).
Geração de Dados: Sintetizam 1.000 declarações de primeira pessoa para cada constructo e seu antítese, utilizando LLMs para garantir a diversidade semântica.
Métodos de Injeção Comparados: Derivam vetores de injeção para o fluxo residual usando seis métodos:
- Baseados em sondas lineares (Linear Probes): L1LI, L1ZI, L2LI, L2ZI.
- Baseados em Diferença de Média (Mean-Difference - MD): MDS (usando ativações de completamento "Tell me about yourself") e MDB (usando ativações de resposta "Yes/No").

C. Avaliação

Testes de Julgamento Situacional (SJTs): Criaram baterias de testes SJTs abertos (respostas escritas) e fechados (múltipla escolha) para avaliar a expressão dos traços.
Métricas: Avaliam a força do direcionamento (pontuação no constructo) e a fluência do texto.

3. Principais Resultados

Desempenho Superior do MDS

O método MDS (Mean-Difference com ativações de completamento) superou consistentemente o Personality Prompting (P2), que era considerado o baseline robusto.
Em 11 de 14 LLMs testados (incluindo Llama-3, Gemma, Qwen e Olmo), o MDS obteve ganhos de 3,6% a 16,4% na geração aberta em comparação ao P2.
Isso refuta relatórios anteriores que favoreciam o prompting sobre a engenharia de representações.

Método Híbrido (PM)

Os autores propuseram um método híbrido (PM) que combina Prompting (P2) com injeções MDS.
O método PM superou tanto o P2 quanto o MDS isoladamente em 13 de 14 LLMs.
Os ganhos sobre o P2 variaram de 5,6% a 21,9%, e sobre o MDS de 3,3% a 26,7%.

Propriedades de Controle e Linearidade

Hipótese da Representação Linear: As injeções MDS alinharam-se com a Hipótese da Representação Linear. A variação do coeficiente de injeção ( $\alpha$ ) produziu mudanças quase lineares na expressão do traço psicológico, fornecendo "botões de controle" confiáveis do estado base ao direcionamento máximo.
Fluência: O direcionamento manteve a fluência do texto com efeitos negligenciáveis, mesmo em forças de injeção altas.
Covariância de Traços: Embora os traços OCEAN não sejam ortogonais (o que é esperado), os padrões de covariância induzidos pelas injeções MDS divergiram do modelo "Big Two" (Estabilidade vs. Plasticidade) da psicologia humana. Isso sugere uma lacuna entre as representações aprendidas pelo modelo e a psicologia humana real.

Generalização

O método demonstrou capacidade de direcionar o modelo para múltiplos constructos simultaneamente na mesma geração (ex: alternando entre conformidade a normas femininas, sadismo e normas masculinas no mesmo texto), algo que o prompting não consegue fazer de forma tão fluida e polarizada.

4. Contribuições Chave

Framework de Direcionamento Psicológico: Introdução de um método que permite varreduras de força de injeção ilimitadas e semanticamente calibradas.
Superação do Baseline de Prompting: Evidência empírica robusta de que a Engenharia de Representações (RepE), quando otimizada corretamente, supera o prompting no direcionamento de personalidade em LLMs.
Método Híbrido (PM): Demonstração de que combinar prompting e injeção de ativação resulta no melhor desempenho possível.
Validação da Linearidade: Confirmação de que o direcionamento psicológico segue uma direção linear no espaço de representação, validando a Hipótese da Representação Linear para traços de personalidade complexos.

5. Significado e Implicações

Este trabalho reposiciona a Engenharia de Representações (RepE) como uma nova fronteira no direcionamento psicológico de LLMs. Ele demonstra que, ao corrigir as falhas metodológicas de calibração e busca, é possível obter um controle fino e confiável sobre o comportamento de modelos de linguagem.

As implicações são vastas para:

Sistemas de Recomendação e Robótica Social: Criação de personas artificiais com traços de personalidade específicos e estáveis.
Interpretabilidade: Reforça a ideia de que conceitos psicológicos complexos são codificados como direções lineares no espaço latente dos modelos.
Limitações: O estudo aponta que, embora os modelos possam ser direcionados, a estrutura interna de suas representações (covariância de traços) pode não espelhar perfeitamente a psicologia humana, indicando uma lacuna entre a aprendizagem estatística e a cognição humana.

O repositório do código e dados está disponível publicamente, permitindo a replicação e extensão dos resultados para outros constructos psicológicos.