💻 computer science

Mechanistic Personality Analysis of LLMs Steering Personality via Latent Feature Interventions

Este artigo propõe uma abordagem de interpretabilidade mecanística que utiliza autoencoders esparsos e análise de ativação contrastiva para identificar direções de características latentes correspondentes aos traços de personalidade OCEAN, permitindo o controle direcionado desses traços em Grandes Modelos de Linguagem por meio de deslocamentos de ativação aditivos, enquanto preserva o desempenho geral de modelagem de linguagem.

Autores originais: David Courtis, Ting Hu

Publicado 2026-06-30

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: David Courtis, Ting Hu

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine um Modelo de Linguagem Grande (LLM) como uma orquestra massiva e incrivelmente complexa. Normalmente, quando você pede para ele escrever algo, ele toca uma melodia padrão baseada em seu treinamento. Se você quiser que ele soe "feliz" ou "rabugento", geralmente precisa gritar instruções específicas para o maestro (engenharia de prompt) ou contratar uma banda inteira nova para aprender um estilo específico do zero (ajuste fino/fine-tuning). Ambos os métodos são desajeitados, inconsistentes ou demoram uma eternidade.

Este artigo apresenta uma nova maneira de reger a orquestra: Direcionamento Mecanístico de Personalidade (Mechanistic Personality Steering). Em vez de gritar instruções, os autores mergulham diretamente na fiação interna da orquestra e ajustam instrumentos específicos para mudar o humor.

Veja como eles fizeram isso, dividido em etapas simples:

1. Encontrando os "Interruptores de Personalidade" (O SAE)

Os pesquisadores usaram uma ferramenta chamada Autoencoder Esparso (Sparse Autoencoder - SAE). Pense no cérebro interno do LLM como uma sala gigante cheia de milhares de interruptores de luz. Na maior parte do tempo, esses interruptores estão desligados. O SAE é como um detetive que descobre exatamente quais interruptores específicos correspondem a ideias específicas.

A Descoberta: Eles descobriram que certos grupos de interruptores acendem quando o modelo está pensando em "ser organizado" (Conscienciosidade) ou "ser emocional" (Neuroticismo).
O Método: Eles pediram ao modelo para escrever postagens que fossem muito altas em um traço específico (como "Eu amo festas!") e postagens que fossem muito baixas nesse traço (como "Eu odeio multidões"). Ao comparar os "padrões de luz" desses dois grupos, eles identificaram os interruptores exatos que ligam e desligam o traço de personalidade.

2. Acionando os Interruptores (O Direcionamento)

Uma vez que sabiam quais interruptores controlavam um traço, eles não apenas pediram ao modelo para "ser gentil". Em vez disso, eles adicionaram fisicamente um pequeno impulso elétrico a esses interruptores específicos enquanto o modelo escrevia.

A Analogia: Imagine que você está dirigindo um carro. Em vez de dizer ao motorista, "Dirija mais rápido", você gentilmente empurra o pedal do acelerador alguns milímetros. O carro acelera, mas o motor continua funcionando da mesma forma.
O Resultado: Ao dar um toque nesses "interruptores de personalidade" internos, o modelo começou a escrever textos que soavam mais como um extrovertido, uma pessoa neurótica ou uma pessoa disciplinada, sem alterar o código real do modelo ou treiná-lo novamente.

3. Encontrando o "Ponto Ideal" (Busca em Grade)

A parte difícil é que, se você pisar demais no acelerador, o carro bate. Da mesma forma, se eles impulsionassem os interruptores de personalidade demais, o modelo começava a escrever textos sem sentido ou perdia a capacidade de responder perguntas corretamente.

O Experimento: Eles realizaram uma "busca em grade" (grid search) massiva, que é como um chef provando uma sopa e adicionando sal em incrementos minúsculos. Eles tentaram diferentes quantidades de "impulso" nos interruptores para encontrar o equilíbrio perfeito.
O Objetivo: Eles queriam que a personalidade fosse forte o suficiente para ser notada, mas não tão forte que o modelo esquecesse como falar inglês.

4. O Que Eles Descobriram

O experimento funcionou, mas não igualmente para todos:

As Vitórias Fáceis: Foi muito fácil fazer o modelo soar Consciencioso (organizado, detalhista) ou Neurótico (ansioso, emocional). Esses traços pareciam ter "interruptores" muito claros e distintos no cérebro do modelo.
O Modo Difícil: Fazer o modelo soar Aberto (curioso, criativo) foi surpreendentemente difícil. Os pesquisadores suspeitam que isso ocorre porque o modelo já é naturalmente muito "aberto" por design, então é difícil torná-lo mais aberto sem quebrar a lógica.
O Compromisso (Trade-off): Existe um limite claro. Se você empurrar a personalidade demais, o texto torna-se incoerente. O modelo pode começar a se repetir ou perder o fio da meada.

5. Por Que Isso Importa (Segundo o Artigo)

Os autores argumentam que este método é melhor que as formas antigas porque:

É Instantâneo: Você não precisa treinar o modelo novamente; basta acionar os interruptores em tempo real.
É Transparente: Você sabe exatamente quais características internas está alterando, ao contrário da engenharia de prompt, onde você apenas espera que as instruções funcionem.
É Controlável: Você pode aumentar ou diminuir a personalidade para um nível específico, em vez de ter apenas "ligado" ou "desligado".

Em Resumo:
O artigo mostra que podemos tratar a personalidade de uma IA não como um traço mágico e imutável, mas como um conjunto de seletores ajustáveis dentro de seu código. Ao encontrar os seletores certos e girá-los o suficiente, podemos fazer com que uma IA soe como um tipo específico de pessoa, desde que não giremos os seletores tanto a ponto de quebrar a máquina.

Resumo Técnico: Análise de Personalidade Mecanística de LLMs

Definição do Problema
Grandes Modelos de Linguagem (LLMs) simulam inerentemente traços de personalidade humanas (especificamente os traços Big Five/OCEAN) devido ao seu treinamento em vastos dados gerados por humanos. Embora métodos anteriores tenham tentado moldar essas personalidades via engenharia de prompt ou ajuste fino (fine-tuning), essas abordagens sofrem de desvantagens significativas: inconsistência na saída, alta intensidade de recursos e o risco de degradar o desempenho em tarefas centrais de linguagem. Além disso, moldar múltiplos traços intercorrelacionados simultaneamente continua sendo um desafio, muitas vezes exigindo capacidades de modelo que modelos menores ou menos otimizados não possuem. Há uma necessidade de um método que possa direcionar controlavelmente os traços de personalidade ao nível mecanístico sem comprometer as habilidades fundamentais de modelagem de linguagem do modelo.

Metodologia
Os autores propõem um framework de interpretabilidade mecanística que intervém diretamente nas características latentes do modelo para modular a personalidade. O pipeline consiste em quatro componentes principais:

Geração de Dados e Criação de Dataset:
Utilizando o framework PsyBORGS, os autores geram 12.000 atualizações de status no estilo Facebook com níveis variados de expressão de traços do Big Five. Diferente de trabalhos anteriores que utilizam baselines neutros, este método cria conjuntos distintos de "Positivos" (alta expressão, pontuação 7–9) e "Negativos" (baixa expressão, pontuação 1–3) para cada traço, a fim de identificar características tanto de reforço quanto de supressão de traços.
Extração de Características via Autoencoders Esparsos (SAEs):
Os autores utilizam um Autoencoder Esparso (SAE) pré-treinado acoplado à camada 19 do modelo DeepSeek-R1-Distill-Llama-8B. Esta camada foi selecionada por representar um "ponto ideal" (63% de profundidade) onde as características são semanticamente ricas, mas estão a montante dos logits finais.

Análise Contrastiva: Médias de ativação são computadas para os conjuntos positivos ( $\mu_P$ ) e negativos ( $\mu_N$ ). O vetor de diferença $\Delta h = \mu_P - \mu_N$ é decomposto usando o codificador SAE para obter diferenças latentes $\Delta z$ .
Ranking de Características: Componentes latentes são classificados pela diferença absoluta $|\Delta z_i|$ . As top- $k$ características que impulsionam o traço (direção positiva) e as que suprimem o traço (direção negativa) são identificadas. Estas são convertidas em vetores de característica unitários ( $u_{ij}$ ) via decodificador SAE.

Otimização via Busca em Grade (Grid Search):
Para determinar a intervenção ideal, os autores empregam uma abordagem de ponderação linear bidirecional. Um vetor de direção (steering vector) é construído adicionando uma combinação ponderada de vetores de característica positivos e negativos aos estados ocultos do modelo ( $h'$ ):
$h' = h + \sum \delta^{pos} u_{ij} + \sum \delta^{neg} u_{jl}$
Os coeficientes são ajustados via busca em grade sobre quatro parâmetros: a magnitude dos deslocamentos positivos ( $\alpha_{pos}$ ), a contagem de características positivas ( $k_{pos}$ ), a magnitude dos deslocamentos negativos ( $\alpha_{neg}$ ) e a contagem de características negativas ( $k_{neg}$ ).
A otimização maximiza uma função objetivo $O$ que equilibra a expressão do traço ( $S_{trait}$ ) contra uma penalidade para degradação de desempenho ( $C$ ), medida pela queda relativa na precisão do MMLU:
$O = S_{trait} - \lambda \cdot C$
onde $\lambda$ é fixo em 0.5.
Framework de Avaliação:
A eficácia do direcionamento é medida usando uma abordagem multifacetada:

Similaridade de Embedding: Similaridade de cosseno entre o texto gerado e exemplares de referência do traço.
Classificação Baseada em LLM: LLMs de última geração (Claude 3.7, GPT-4o) julgam qual de dois textos exibe melhor um traço alvo.
Avaliação Humana: Avaliação humana paralela dos mesmos pares.
Métricas de Desempenho: Precisão do MMLU e verificações de coerência para garantir que as capacidades de linguagem sejam preservadas.

Principais Contribuições

Metodologia para Extração de Características: Uma abordagem inovadora para extrair características relevantes à personalidade via análise contrastiva entre condições de prompts positivas e negativas, utilizando SAEs para isolar características latentes monossêmicas.
Avaliação Multifacetada: O estabelecimento de um framework de avaliação robusto combinando similaridade baseada em embeddings, classificação por LLM e avaliação humana para medir a expressão da personalidade.
Estratégias de Direcionamento Refinadas: O desenvolvimento de uma abordagem de ponderação linear bidirecional com otimização por busca em grade para computar deslocamentos aditivos ótimos no espaço latente, equilibrando a expressão do traço com o desempenho da tarefa.

Resultos

Taxas de Detecção: A intervenção foi detectada de forma confiável tanto por LLMs quanto por humanos para a maioria dos traços. Conscienciosidade e Neuroticismo mostraram as maiores taxas de detecção (>90% para avaliadores LLM e humanos). Extroversão e Amabilidade mostraram taxas moderadas, enquanto Abertura provou ser desafiadora (50% LLM, 30% humano), provavelmente porque os LLMs são inerentemente "abertos" por design ou porque o traço se manifesta em padrões sutis.
Otimização Específica de Traço: A busca em grade revelou que diferentes traços requerem perfis de intervenção distintos.
- Extroversão exigiu o menor número de características (9 positivas, 4 negativas), sugerindo uma representação latente concentrada.
- Abertura exigiu o maior número de características (25 positivas) e alta magnitude, indicando uma codificação distribuída.
- Conscienciosidade exigiu uma mistura equilibrada de características positivas e negativas.
Trade-offs de Desempenho: Todos os traços exibiram um "pico" na função objetivo seguido por um declínio acentuado no desempenho (coerência e precisão MMLU) conforme a magnitude da intervenção aumentava. Isso destaca um limiar crítico onde a manipulação excessiva de características degrada as capacidades de geração de linguagem do modelo.
Deslocamentos Negativos: Embora os deslocamentos positivos geralmente aumentassem a similaridade do traço, os deslocamentos negativos produziram resultados mistos; para Abertura, os deslocamentos negativos às vezes resultaram em maior similaridade com a referência do traço do que os deslocamentos positivos, sugerindo relações complexas entre a ativação de características e a expressão do traço.

Significância e Alegações
O artigo afirma fornecer um método interpretável e detalhado para o direcionamento de personalidade que faz a ponte entre observações psicométricas de alto nível e mecanismos neurais de baixo nível. A significância reside em:

Controle Mecanístico: Demonstrar que a personalidade pode ser modulada ao intervir diretamente em características latentes específicas sem retreinar o modelo, oferecendo modulação sob demanda.
Interpretabilidade: O uso de SAEs permite a identificação de direções específicas no fluxo residual correspondentes a traços psicológicos, desmistificando como esses conceitos abstratos emergem no modelo.
IA Responsável: A abordagem oferece uma ferramenta para controlar manifestações indesejáveis de personalidade em agentes de IA, potencialmente melhorando a segurança, a equidade e a eficácia na comunicação.
Perspectiva Computacional da Psicologia: Os achados sugerem que a complexidade dos traços de personalidade humana (ex: a natureza distribuída da Abertura vs. a natureza concentrada da Extroversão) pode ser espelhada na estrutura de características latentes dos LLMs.

Os autores mantêm-se modestos quanto às implicações, observando que, embora o modelo exiba comportamentos associados a traços específicos, isso não equivale ao modelo possuir estados psicológicos humanos. Eles também reconhecem limitações quanto ao overhead computacional, a dificuldade de manter a coerência em magnitudes de intervenção elevadas e o desafio de desvincular dependências entre traços devido à polissemia das características do SAE.