🤖 AI

Steerable Chatbots: Exploring Personalization Control Interfaces via LLM Activation Steering

Este artículo introduce los "chatbots direccionables" como un nuevo paradigma de personalización que permite a los usuarios controlar directamente la salida de los LLM mediante el direccionamiento de activaciones en lugar de mediante el uso de prompts, y evalúa tres diseños de interfaz a través de un estudio con usuarios para demostrar su potencial para una mejor alineación de preferencias, al tiempo que destaca los diversos valores de los usuarios respecto al control y la transparencia.

Autores originales: Jessica Y. Bo, Tianyu Xu, Ishan Chatterjee, Katrina Passarella-Ward, Achin Kulshrestha, D Shin

Publicado 2026-07-28

📖 4 min de lectura☕ Lectura para el café

CC BY 4.0

Autores originales: Jessica Y. Bo, Tianyu Xu, Ishan Chatterjee, Katrina Passarella-Ward, Achin Kulshrestha, D Shin

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás hablando con un robot superinteligente que lo sabe todo en el mundo. Normalmente, si quieres que actúe de cierta manera —como ser súper elegante o súper económico— tienes que explicárselo usando palabras. Podrías decir: "Quiero una cena elegante", o "Tengo un presupuesto ajustado". Pero a veces, es difícil encontrar las palabras adecuadas, o el robot simplemente no termina de "entender" lo que quieres decir, especialmente cuando empiezas a hablar con él por primera vez. Este artículo trata sobre una nueva forma de hablar con estos robots, no solo con palabras, sino con un "control de volumen" para su personalidad.

Los científicos detrás de este estudio trabajan en un campo llamado Interacción Humano-Computadora, que es básicamente el estudio de cómo se llevan los humanos y las máquinas. Están utilizando una técnica llamada "direccionamiento por activación" (activation steering). Piensa en un modelo de lenguaje grande (el cerebro del chatbot) como una radio gigante y compleja. Normalmente, cambias de estación escribiendo una petición. Pero el direccionamiento por activación es como tener un dial que gira directamente para subir o bajar "frecuencias" específicas dentro del cerebro del robot. Si subes el dial de "Lujo", el robot empieza a pensar en cosas caras. Si subes el dial de "Presupuesto", el robot piensa en ahorrar dinero. La gran pregunta que se hicieron los investigadores fue: si le damos a la gente común este dial especial, ¿cómo debería verse? ¿Deberían deslizarlo de un lado a otro? ¿Deberían configurarlo una vez y olvidarse de ello? ¿O debería el robot descubrirlo por su cuenta?

Este artículo presenta una nueva idea llamada "Chatbots Direccionables" (Steerable Chatbots). En lugar de pedirte que escribas un párrafo perfecto para decirle al robot lo que te gusta, los investigadores construyeron interfaces que te permiten controlar la personalidad del robot directamente usando un número simple o un deslizador. Probaron tres formas diferentes de hacer esto. La primera, llamada SELECT, es como el control de volumen de tu teléfono; puedes arrastrarlo hacia arriba o hacia abajo mientras chateas para cambiar instantáneamente la vibra del robot. La segunda, CALIBRATE, es como configurar un nuevo par de gafas; antes de que comiences a hablar, el robot te muestra dos respuestas diferentes y tú eliges la que más te gusta, ayudándolo a encontrar la configuración perfecta antes de que la conversación siquiera comience. La tercera, LEARN, es como un amigo que lee la mente; el robot escucha lo que dices y adivina tus preferencias, ajustando sus configuraciones automáticamente en segundo plano sin que tengas que tocar nada.

Los investigadores realizaron primero pruebas computacionales para asegurarse de que los "diales" realmente funcionaban. Descubrieron que girar el dial efectivamente cambiaba las respuestas del robot, haciendo que hablara de restaurantes económicos cuando se giraba hacia un lado y de elegantes cuando se giraba hacia el otro. Luego, invitaron a 14 personas reales a probar estos tres nuevos chatbots. Los resultados fueron interesantes: las tres formas de usar el dial ayudaron al robot a entender mejor a los usuarios que simplemente pedirle al robot que adivinara basándose solo en palabras. Sin embargo, no a todas las personas les gustó la misma forma de controlarlo. A algunos les encantó tener el deslizador (SELECT) porque sentían que tenían el control total. Otros prefirieron que el robot lo descubriera por sí mismo (LEARN) porque se sentía más natural y requería menos trabajo. Algunos prefirieron el paso de configuración (CALIBRATE) porque se sentía preciso, como un examen de la vista.

El estudio sugiere que darle a la gente un "control" directo para manejar la personalidad de un chatbot es una herramienta poderosa, especialmente cuando empiezas a usarlo y no tienes un historial largo de chats para enseñarle al robot. Pero no hay un diseño perfecto para todos. Algunos quieren ser el capitán del barco, mientras que otros quieren que el barco navegue solo. El artículo concluye que el futuro de hablar con la IA podría no tratarse solo de escribir mejor, sino de darnos diferentes tipos de controles —deslizadores, asistentes de configuración o pilotos automáticos— para que podamos elegir cuánto queremos dirigir la conversación nosotros mismos.

Resumen Técnico: Chatbots Direccionables mediante el Direccionamiento de la Activación de LLM

Planteamiento del Problema
Los paradigmas actuales para la personalización de las respuestas de los Modelos de Lenguaje Extensos (LLM) dependen en gran medida de que los usuarios articulen sus preferencias a través de la instrucción (prompting) en lenguaje natural. Este enfoque presenta dos barreras significativas: (1) el problema del "inicio en frío" (cold-start), donde los usuarios carecen de un historial conversacional para que el modelo recupere sus preferencias, y (2) la carga cognitiva de estructurar preferencias complejas en instrucciones efectivas, una habilidad que muchos usuarios no especializados no poseen. Las soluciones técnicas existentes, como la generación aumentada por recuperación (RAG) o el ajuste fino (fine-tuning) del modelo, son computacionalmente intensivas y requieren una cantidad sustancial de datos del usuario, lo que las hace inadecuadas para una personalización inmediata y granular. Los autores proponen un cambio desde la especificación basada en el prompting hacia la manipulación directa del comportamiento del modelo para alinear las salidas del LLM con las preferencias latentes del usuario.

Metodología
El artículo introduce los "Chatbots Direccionables" (Steerable Chatbots), un paradigma donde los usuarios manipulan un factor escalar lineal para controlar la fuerza y la dirección de dimensiones de preferencia específicas dentro de la salida de un LLM. Esto se logra mediante el direccionamiento de la activación (activation steering), una técnica que inyecta "vectores de direccionamiento" precomputados en el flujo residual del modelo durante la inferencia.

Implementación Técnica:
- Vectores de Direccionamiento: Los autores computan vectores contrastando representaciones deseables e indeseables de un comportamiento (por ejemplo, "lujo" frente a "económico") utilizando sondas lineales por capa entrenadas con muestras de datos positivas y negativas.
- Mecanismo de Direccionamiento: Durante la inferencia, el vector de direccionamiento ( $v$ ) se añade a las representaciones intermedias ( $h$ ) del LLM, escalado por un factor de fuerza definido por el usuario ( $d$ ): $h_{steered} \leftarrow h + d \cdot v$ .
- Métricas de Evaluación: La expresión de la preferencia se cuantifica mediante la similitud de coseno relativa entre los embeddings de la salida del LLM y los conjuntos de datos de referencia (reseñas de Yelp) que representan rasgos de preferencia específicos (Costo, Ambiente, Edad, Tiempo, Cocina).
Diseños de Interfaz:
Los autores exploran tres diseños de interfaz mapeados a través de dos ejes: Agencia (Liderada por el usuario vs. Dirigida por el sistema) y Fluidez (Estática vs. Adaptativa):
- SELECT (Alta Agencia, Fluidez Media): Los usuarios manipulan directamente un deslizador (-100 a 100) en tiempo real para ajustar el factor de direccionamiento. Esto permite un control inmediato y explícito sobre las dimensiones de preferencia.
- CALIBRATE (Agencia Media, Baja Fluidez): Antes de la conversación, los usuarios pasan por un proceso de calibración donde seleccionan iterativamente salidas preferidas de pares de respuestas generadas con diferentes fuerzas de direccionamiento. El sistema converge en un valor de preferencia estático para la sesión.
- LEARN (Baja Agencia, Alta Fluidez): El sistema infiere implícitamente las preferencias del usuario a partir del sentimiento de la conversación y actualiza el factor de direccionamiento en segundo plano sin entrada explícita del usuario, mostrando la fuerza inferida para mayor transparencia.
Configuración Experimental:
- Experimentos Computacionales: Validados a través de cinco LLM de código abierto (que oscilan entre 1.6B y 9B de parámetros) para asegurar la fiabilidad del direccionamiento (E1) y su capacidad de composición con el prompting del usuario (E2).
- Estudio de Usuario: Un estudio intra-sujeto ( $n=14$ ) que involucra tareas de planificación de estilo de vida de inicio en frío (compras de regalos, viajes, cenas, recetas). Los participantes interactuaron con las tres interfaces de direccionamiento y una línea base de solo prompting (PROMPT).

Resultos Clave

Viabilidad Computacional: El direccionamiento de la activación demostró una correlación fuerte y casi lineal entre la fuerza de direccionamiento y la preferencia expresada en todos los modelos probados. Crucialmente, se encontró que el método es compatible con el prompting del usuario; el prompting podía intensificar o reducir el efecto del direccionamiento, permitiendo variabilidad contextual dentro de un perfil de preferencia direccionado.
Alineación de Preferencias (U1):
- SELECT y CALIBRATE mostraron correlaciones moderadas y significativas ( $r=0.46$ y $r=0.59$ respectivamente) entre la salida del chatbot y las preferencias reales del usuario, superando significativamente a la línea base de solo prompting ( $r=0.11$ ).
- LEARN mostró una correlación más débil ( $r=0.26$ ), sugiriendo que el algoritmo de actualización basado en el sentimiento era menos robusto para capturar diversas intenciones del usuario en un corto periodo de tiempo.
- En general, los chatbots direccionables lograron una correlación moderada ( $r=0.44$ ) con las preferencias latentes, validando el enfoque para escenarios de inicio en frío.
Percepciones Subjetivas (U2):
- No hubo una diferencia significativa en "Probabilidad de Uso", "Satisfacción" o "Control Percibido" entre las interfaces cuando se compararon directamente.
- Sin embargo, todas las interfaces de direccionamiento fueron calificadas significativamente más alto que la línea base en Persistencia Percibida, indicando que los usuarios sintieron que sus preferencias eran mejor recordadas a través de las sesiones.
- Heterogeneidad de Valores: El análisis cualitativo reveló preferencias de usuario distintas. Algunos usuarios valoraban el control explícito de SELECT, mientras que otros preferían la experiencia fluida y de baja carga cognitiva de LEARN. CALIBRATE fue apreciado por su precisión y capacidad de ahorro de tiempo, pero criticado por su potencial desalineación si el paso de calibración fallaba al capturar preferencias matizadas.

Significancia y Reivindicaciones
El artículo afirma introducir un nuevo paradigma para la personalización de LLM que traslada la carga de la articulación de preferencias del prompting de lenguaje natural a la manipulación directa de los componentes internos del modelo. Los autores postulan que el direccionamiento de la activación ofrece una alternativa eficiente en recursos al ajuste fino, ya que no requiere el reentrenamiento de los pesos del modelo y opera con vectores ligeros.

El estudio redefine la personalización de LLM como un problema de diseño de interacción, demostrando que exponer un factor de direccionamiento lineal puede alinear efectivamente las salidas del modelo con las preferencias latentes del usuario en escenarios de inicio en frío. Los autores enfatizan que no existe una única interfaz "óptima"; más bien, los valores del usuario respecto a la agencia (control vs. automatización) y la fluidez (estática vs. adaptativa) dictan qué diseño es más adecuado. Concluyen que los chatbots direccionables ofrecen un mecanismo prometedor y computacionalmente eficiente para crear asistentes de IA personalizados y directamente manipulables, aunque reconocen limitaciones respecto a la fidelidad de los prototipos de baja fidelidad y la reducción de preferencias complejas a dimensiones únicas.

Más como este