💬 NLP

Psychological Steering of Large Language Models

Este artículo presenta un marco de dirección psicológica que utiliza inyecciones de diferencias medias calibradas en unidades semánticas para controlar los rasgos de personalidad en modelos de lenguaje grandes, demostrando que superan a los métodos de prompting existentes y que una combinación híbrida logra el mejor rendimiento, aunque revela discrepancias entre las representaciones aprendidas por la IA y la psicología humana.

Autores originales: Leonardo Blas, Robin Jia, Emilio Ferrara

Publicado 2026-04-17

📖 4 min de lectura☕ Lectura para el café

CC BY 4.0

Autores originales: Leonardo Blas, Robin Jia, Emilio Ferrara

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

¡Hola! Imagina que los Grandes Modelos de Lenguaje (como el que estás leyendo ahora) son como actores muy talentosos que han leído casi todo lo escrito en internet. Tienen una "personalidad" natural, pero a veces queremos que actúen de una manera muy específica: que sean más amables, más creativos, o incluso un poco más malvados (para una historia de ficción, por supuesto).

Este paper, titulado "Psicología de la Dirección de Modelos de Lenguaje", es como un manual para convertir a estos actores en los personajes que tú quieras, sin tener que reescribir todo el guion.

Aquí te lo explico con analogías sencillas:

1. El Problema: El "Volumen" mal calibrado

Antes de este estudio, los científicos intentaban cambiar la personalidad de la IA usando dos métodos principales:

Pedirle amablemente (Prompting): Como decirle al actor: "Por favor, actúa como un villano triste". Funciona, pero a veces el actor no lo toma en serio o se olvida del personaje a mitad de la escena.
Inyectar "energía" (RepE): Imagina que el actor tiene un panel de control interno con miles de botones. Los científicos intentaban empujar esos botones para cambiar su estado de ánimo. Pero el problema era que no tenían una regla métrica. Era como intentar ajustar el volumen de una radio diciendo "sube un poquito" o "baja mucho", sin saber si "un poquito" es 1 unidad o 10.000 unidades. A veces, el volumen se iba al máximo y la radio se rompía (la IA dejaba de hablar con sentido).

2. La Solución: Un "Sintonizador de Radio" Psicológico

Los autores crearon un nuevo método llamado Inyección MDS (basado en la diferencia de medias). Imagina que en lugar de adivinar cuánta "energía" darle al actor, ellos crearon una regla de medida precisa.

La Analogía de la "Distancia Psicológica": En lugar de decir "empuja el botón", dicen: "Mueve el actor exactamente la distancia que hay entre un 'hombre feliz' y un 'hombre triste' en su cerebro".
El "Barrido" Infinito: Antes, solo probaban unos pocos niveles de intensidad. Ahora, pueden probar desde "casi nada" hasta "muchísimo", deteniéndose justo antes de que el actor empiece a hablar como un robot roto (perdiendo fluidez).

3. El Experimento: ¿Quién gana?

Probaron este nuevo método en 14 modelos de IA diferentes (como Llama, Qwen, Gemma) usando un test de personalidad famoso llamado OCEAN (que mide si alguien es Abierto, Consciente, Extravertido, Amable o Neurótico).

El Resultado: El nuevo método (MDS) ganó en 11 de cada 14 modelos contra el método de "pedir amablemente" (Prompting).
La Mejor Estrategia: Descubrieron que la combinación ganadora era usar ambos: pedirle al actor que actúe (Prompting) Y al mismo tiempo darle un pequeño empujón eléctrico en su cerebro (Inyección). ¡Es como tener un director de cine que grita "¡Más drama!" mientras también ajusta la luz del escenario!

4. La Magia: Control Lineal y Creativo

Lo más increíble es que este método es lineal.

Analogía del Dimmer: Imagina un interruptor de luz (dimmer). Si lo giras un poco, la luz sube un poco. Si lo giras más, sube más. Con este método, si quieres que la IA sea "un 20% más amable", puedes lograrlo. Si quieres que sea "un 80% más amable", también. No es un interruptor de encendido/apagado; es un control deslizante suave.

Además, mostraron que pueden hacer algo que el método antiguo no podía: cambiar de personalidad en medio de una historia.

Ejemplo del paper: En la historia de "Buscando a Nemo", la IA podía empezar hablando como un padre protector, luego cambiar a un villano sádico en medio de la misma frase, y luego volver a ser un amigo optimista, todo sin perder el hilo ni volverse loca. ¡Es como un actor que cambia de personaje en la mitad de una línea de diálogo sin tropezarse!

5. La Advertencia: No somos humanos (todavía)

Aunque el método funciona genial, los autores notaron algo curioso. Cuando ajustaban la personalidad de la IA, las características cambiaban de una manera que no coincide exactamente con la psicología humana real.

La Analogía: Es como si pudieras ajustar el "volumen" de la valentía en un robot, pero al hacerlo, también subes el volumen de la "tacañería" de una forma que los humanos no hacemos. Sugiere que, aunque la IA imita muy bien a los humanos, su "cerebro" (sus representaciones internas) es un poco diferente al nuestro.

En Resumen

Este paper nos dice que ya no necesitamos solo "pedirle" a la IA que cambie de personalidad. Ahora tenemos herramientas de ingeniería precisas para "sintonizar" su mente como si fuera una radio, logrando cambios más fuertes, más fluidos y más creativos que nunca antes. Es un gran paso para crear personajes de IA que realmente se sientan vivos y adaptables.

1. El Problema

Los Modelos de Lenguaje Grandes (LLMs) emulan comportamientos humanos consistentes que pueden ser moldeados mediante intervenciones a nivel de activación. La dirección psicológica (hacer que un modelo actúe con ciertos rasgos de personalidad, como los del modelo OCEAN) es un área de investigación activa.

Sin embargo, los métodos existentes de Ingeniería de Representaciones (RepE), que inyectan vectores en la corriente residual del modelo, han enfrentado limitaciones críticas que han llevado a que el Prompting (instrucción textual) se considere superior en tareas de dirección psicológica:

Espacio de búsqueda restringido: Los métodos actuales suelen realizar "barridos" (sweeps) de la fuerza de inyección en un rango muy limitado (ej. [0.4, 1.5]), lo que puede omitir configuraciones óptimas.
Unidades no calibradas: Las inyecciones se realizan en unidades de espacio de activación arbitrarias (como vectores unitarios). Esto hace que sea inviable identificar la fuerza óptima si esta se encuentra lejos en la escala (ej. 10,000 unidades), ya que no existe una métrica semántica para guiar la búsqueda.
Falta de fluidez: Las intervenciones agresivas a menudo degradan la fluidez del texto generado.

2. Metodología

Los autores proponen un marco de dirección psicológica que aborda estas limitaciones mediante tres contribuciones metodológicas principales:

A. Escala de Fuerza Calibrada (Unidades de Centroide)

En lugar de usar unidades de activación arbitrarias, el método deriva vectores de inyección basados en la distancia entre centroides de activaciones.

Se utilizan 1,000 declaraciones de primera persona (500 expresando un constructo psicológico y 500 su antítesis) para extraer activaciones de la corriente residual.
Se definen vectores de inyección basados en la diferencia de medias (Mean-Difference, MD) entre los centroides de las activaciones de "sí" y "no" (o del constructo y su opuesto).
La fuerza de inyección ( $\alpha$ ) se mide en unidades de distancia entre centroides, lo que permite realizar barridos ilimitados (unbounded) y semánticamente significativos.

B. Barridos Ilimitados con Restricción de Fluidez

Para encontrar la configuración óptima sin gastar recursos excesivos en APIs costosas:

Se implementa un mecanismo de parada temprana (early-stopping): si un paso en el barrido de fuerza de inyección produce respuestas no fluidas (evaluadas por un clasificador RoBERTa entrenado en aceptabilidad lingüística), la búsqueda se detiene.
Se utilizan clasificadores ligeros entrenados para evaluar la presencia del constructo psicológico en lugar de usar LLMs fronterizos costosos durante la fase de búsqueda.

C. Derivación de Vectores Psicológicos

Se utilizan inventarios psicológicos validados (como IPIP-NEO-120 para el modelo OCEAN) y Situations Judgment Tests (SJTs) sintéticos generados por LLMs para:

Crear los corpus de entrenamiento para los vectores.
Evaluar la expresión del constructo en la salida del modelo.
Comparar seis tipos de vectores de inyección: L1LI, L1ZI, L2LI, L2ZI, MDB y MDS.
- MDS (Mean-Difference with Suffix): Vectores derivados de la diferencia de centroides de las activaciones completas de las declaraciones ("Tell me about yourself..."), resultando ser los más efectivos.

3. Contribuciones Clave

Superación del Prompting: Demuestran que la ingeniería de representaciones (RepE) puede superar al Prompting (específicamente la técnica Personality Prompting o P2) en la dirección psicológica de LLMs, algo que estudios previos habían negado debido a sus limitaciones metodológicas.
Método Híbrido (PM): Introducen una estrategia híbrida que combina Prompting (P2) con inyecciones MDS, logrando el mejor rendimiento en la mayoría de los modelos.
Validación de la Hipótesis de Representación Lineal: Confirman que los vectores de inyección MDS proporcionan "perillas de control" casi lineales, donde aumentar la fuerza de inyección aumenta linealmente la probabilidad de expresar el concepto, manteniendo la fluidez.
Análisis de Covarianza: Revelan que, aunque los rasgos OCEAN no son ortogonales (correlacionan entre sí), los patrones de covarianza inducidos por los LLMs difieren del modelo de "Dos Grandes" (Big Two) de la psicología humana, sugiriendo una brecha entre las representaciones aprendidas por la IA y la psicología humana real.

4. Resultados Experimentales

El estudio se realizó en 14 LLMs de diferentes arquitecturas y tamaños (Llama-3, Gemma-3, Qwen3, Olmo), desde 1B hasta 32B de parámetros.

Rendimiento de MDS vs. P2: Las inyecciones MDS superaron a la línea base de Personality Prompting (P2) en la generación abierta (SJTs) en 11 de 14 modelos, con mejoras del 3.6% al 16.4%.
Rendimiento del Método Híbrido (PM): La combinación de P2 y MDS superó a ambos métodos individuales en 13 de 14 modelos.
- Mejora sobre P2: 5.6% a 21.9%.
- Mejora sobre MDS: 3.3% a 26.7%.
Control Lineal: Se observó que el comportamiento de los rasgos varía de manera casi lineal con el coeficiente de inyección ( $\alpha$ ), con un $R^2 \geq 0.95$ en casi la mitad de las tendencias manipuladas, validando la Hipótesis de Representación Lineal.
Fluidez: Las inyecciones óptimas mantuvieron la fluidez del texto (puntuaciones $\geq 0.95$ ) en la gran mayoría de los casos, con una tasa de respuestas no fluidas muy baja durante los barridos.
Generalización: El método funcionó no solo para el modelo OCEAN, sino también para otros modelos psicológicos como la Tríada Oscura, HEXACO, y normas de género (masculinas/femeninas).

5. Significado e Impacto

Este trabajo es fundamental porque:

Revierte el consenso anterior: Desmiente la idea de que el Prompting es superior a la ingeniería de representaciones para la dirección psicológica, mostrando que las limitaciones anteriores eran metodológicas (falta de calibración y búsqueda restringida) y no inherentes a la técnica.
Habilita el control fino: Proporciona un marco robusto para controlar comportamientos complejos en LLMs con un costo computacional bajo (inyección en tiempo de inferencia), lo cual es crucial para aplicaciones en robótica social, simulaciones de sociedades artificiales y sistemas de recomendación.
Nueva frontera en Interpretabilidad: Establece que los LLMs tienen direcciones vectoriales lineales y controlables para rasgos psicológicos, ofreciendo una herramienta poderosa para la transparencia y el control de la IA.
Insights sobre la Psicología de la IA: Sugiere que, aunque los LLMs aprenden representaciones de rasgos humanos, la estructura de correlación entre estos rasgos en el modelo no coincide perfectamente con la psicología humana (desviación del modelo Big Two), lo que abre nuevas preguntas sobre cómo los modelos internalizan la psicología.

En resumen, el paper presenta un marco de dirección psicológica que utiliza inyecciones de corriente residual calibradas y barridos ilimitados para lograr un control superior sobre la personalidad de los LLMs, superando a los métodos basados en prompts y estableciendo un nuevo estándar para la ingeniería de representaciones.