💬 NLP

Concept Tokens: Learning Behavioral Embeddings Through Concept Definitions

Este artículo introduce los "Concept Tokens", un método ligero que orienta a modelos de lenguaje extensos congelados mediante el aprendizaje de incrustaciones de comportamiento compactas a partir de definiciones de conceptos en lenguaje natural, demostrando su eficacia para controlar las alucinaciones, inducir la recodificación pedagógica y preservar el cumplimiento de las instrucciones.

Autores originales: Ignacio Sastre, Aiala Rosá

Publicado 2026-07-29

📖 4 min de lectura☕ Lectura para el café

CC BY 4.0

Autores originales: Ignacio Sastre, Aiala Rosá

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás hablando con un robot superinteligente que ha leído casi todo en internet. Este robot, llamado Modelo de Lenguaje Extenso (LLM), es como una biblioteca gigante que puede escribir historias, responder preguntas y charlar contigo. Pero aquí está el truco: el robot no "sabe" las cosas de la misma manera que nosotros. Es más bien como un maestro chef que ha probado todas las recetas jamás escritas pero que nunca ha cocinado una comida de verdad. Predice qué palabras deberían venir a continuación basándose en los patrones que vio mientras leía. A veces, esto funciona de maravía, pero otras veces, el robot se muestra seguro de sí mismo y se inventa hechos que suenan reales pero que no son ciertos. Llamamos a estos errores "alucinaciones".

Los científicos han estado intentando enseñar a estos robots nuevos trucos o evitar que mientan sin tener que reentrenar a todo el robot desde cero, lo cual es como intentar enseñarle a un adulto a leer obligándolo a volver al jardín de infancia. Normalmente, para cambiar el comportamiento de un robot, tienes que darle una lista enorme de ejemplos (como "cuando veas X, haz Y"). Pero, ¿y si pudieras susurrarle una sola palabra secreta al robot y, de repente, comprendiera una idea completamente nueva? Esa es la gran pregunta que explora este artículo: ¿Podemos enseñar a un robot congelado un nuevo concepto simplemente mostrándole definiciones, y luego usar un "token mágico" especial para controlar su comportamiento?

Los investigadores, Ignacio Sastre y Aiala Rosá, dicen que sí. Introducen un truco ingenioso llamado Tokens de Concepto. Piensa en un Token de Concepto como un nuevo botón especial que puedes añadir al control remoto del robot. No necesitas reconstruir el robot ni enseñarle con miles de ejemplos. En su lugar, solo le muestras al robot un montón de definiciones de estilo diccionario de un concepto (como "¿qué es una alucinación?" o "¿cómo se enseña un idioma?"). El robot aprende a asociar este nuevo botón con la esencia de ese concepto. Una vez que el botón está programado, puedes presionarlo para que el robot actúe de una manera específica. Si presionas el botón, el robot se inclina hacia ese comportamiento; si le dices al robot que no presione el botón, evita ese comportamiento.

En sus experimentos, probaron esto en tres escenarios diferentes. Primero, intentaron evitar que el robot inventara cosas. Le enseñaron al robot un "Token de Alucinación" usando definiciones de lo que son las alucinaciones. Cuando le dijeron al robot: "No generes este token", el robot se volvió mucho más cauteloso. Dejó de inventar hechos, pero curiosamente, también dejó de responder preguntas de las que no estaba seguro, optando por decir "no lo sé" en lugar de adivinar. No se volvió mágicamente perfecto; simplemente se volvió más honesto sobre su incertidumbre.

Segundo, probaron una estrategia de enseñanza llamada "recast" (reformulacion), que es cuando un profesor corrige suavemente el error de un estudiante repitiendo la frase correctamente sin romper el flujo de la conversación. Le enseñaron al robot un "Token de Recast". Cuando le dijeron al robot que usara este token, empezó a actuar como un tutor de idiomas amable, corrigiendo errores gramaticales de forma sutil y haciendo preguntas de seguimiento. Lo genial es que esto funcionó mejor que simplemente pegar la definición completa de "recast" en el chat. El token era una señal compacta y eficiente que le permitía al robot seguir la instrucción principal (ser un tutor) sin confundirse con un muro de texto.

Finalmente, jugaron un juego con dos torres: la Torre Eiffel real y una falsa que ellos inventaron llamada "Torre Austral". Le enseñaron al robot sobre la torre falsa usando un artículo de Wikipedia inventado. El robot aprendió a hablar sobre la torre falsa como si fuera real, capturando la vibra de un monumento famoso en Montevideo. Sin embargo, cuando se le preguntaba por detalles específicos como la altura exacta o el nombre del arquitecto, el robot empezó a inventar cosas de nuevo. Esto demostró que el token es excelente para capturar la idea y el comportamiento de un concepto, pero no es una unidad de almacenamiento perfecta para nuevos datos. Es más como un anillo de humor que cambia la actitud del robot que un disco duro que almacena nuevos datos.

El artículo sugiere que este método es una forma ligera y eficiente de dirigir los modelos de IA congelados. Demuestra que puedes inyectar nuevas "personalidades" de comportamiento en un robot simplemente definiendo un concepto y optimizando un único token especial. Aunque no resuelve todos los problemas (como hacer que el robot sea perfectamente factual sobre cosas nuevas), ofrece una forma prometedora y compacta de controlar cómo se comportan estos poderosos modelos, haciéndolos más honestos o más útiles sin necesidad de reentrenar todo el sistema.

Resumen Técnico: Tokens de Concepto

Planteamiento del Problema

Los Modelos de Lenguaje de Gran Escala (LLM) dependen típicamente de tokens de subpalabras o de palabras completas que suelen ser polisémicos y no corresponden a conceptos discretos y bien formados. Aunque el significado a nivel de concepto suele emerger mediante el procesamiento contextual a través de las capas del Transformer, existe la necesidad de representaciones estructuradas e interpretables en el espacio de embeddings que puedan inducir comportamientos de generación específicos sin necesidad de reentrenar todo el modelo. Los métodos existentes como el prompting suave (por ejemplo, P-tuning) optimizan vectores continuos para tareas específicas, y el trabajo de interpretabilidad mecánica (por ejemplo, SAEs) extrae direcciones latentes, pero persiste una brecha en el aprendizaje de representaciones conductuales compactas directamente a partir de definiciones de conceptos en lenguaje natural. Además, las aplicaciones educativas y los contextos sensibles a la privacidad a menudo requieren el despliegue local de modelos más pequeños, que pueden tener dificultades para seguir instrucciones extensas o matizadas proporcionadas únicamente en la ventana de contexto.

Metodología: Tokens de Concepto

Los autores proponen los Tokens de Concepto, un método ligero para añadir un nuevo token especial al vocabulario de un LLM preentrenado y aprender su embedding únicamente a partir de múltiples definiciones en lenguaje natural de un concepto objetivo.

Mecanismo Central:

Construcción del Corpus Definicional: Se recopila un conjunto de definiciones ( $D_c$ ) para un concepto objetivo $c$ . Cada definición contiene al menos una ocurrencia explícita del concepto.
Instanciación: Cada ocurrencia del concepto $c$ en el corpus se reemplaza con un nuevo token especial $t_c$ , creando un corpus instanciado $D_c(t_c)$ .
Optimización: El LLM preentrenado se mantiene congelado. Solo se optimiza el vector de embedding $e_c$ correspondiente al nuevo token $t_c$ . La optimización minimiza la pérdida de entropía cruzada estándar para el objetivo de modelado de lenguaje (predecir el siguiente token) en el corpus instanciado.
Inferencia: El token aprendido $t_c$ se inserta en los prompts. Puede utilizarse de forma direccional: afirmar el token fomenta el comportamiento asociado con el concepto, mientras que negarlo (por ejemplo, "No genere $t_c$ ") desincentiva ese comportamiento.

Base Teórica:
El método postula que, al minimizar la pérdida a través de múltiples definiciones, el embedding $e_c$ aprende una representación generalizada que satisface las restricciones competitivas impuestas por las definiciones. A diferencia de los "tokens de memoria" (que memorizan una secuencia única), los tokens de concepto aprenden un atractor semántico que captura la esencia del concepto en lugar de una reconstrucción sin pérdidas de un texto específico.

Evaluación Experimental

Los autores evalúan los Tokens de Concepto en tres escenarios distintos utilizando un modelo Llama 3.1 8B Instruct cuantizado en 4 bits:

1. Control de Alucinaciones en QA de Libro Cerrado

Configuración: Se generó un corpus definicional que describía "alucinaciones" y se utilizó para entrenar un token de concepto. El modelo fue probado en HotpotQA (1,000 instancias) bajo tres condiciones: token negado, token afirmado y sin instrucción. Las líneas base incluyeron menciones de texto explícito y el suministro del corpus definicional completo en el contexto.
Resultados:
- Efecto Direccional: Negar el token redujo las tasas de alucinación en comparación con la línea base, mientras que afirmarlo aumentó las alucinaciones.
- Precisión vs. Abstinencia: La reducción en las alucinaciones se logró principalmente aumentando la tasa de abstenciones (rechazar responder) en lugar de mejorar la precisión de las respuestas intentadas. La precisión se mantuvo aproximadamente constante a través de las intervenciones de negación.
- Comparación: El token de concepto funcionó de manera similar a la línea base de "corpus definicional en contexto" en métricas agregadas, pero mostró comportamientos diferentes por instancia (bajo acuerdo, $\kappa=0.35$ ).

2. Inducción de Recasting en la Enseñanza de Segundas Lenguas

Configuración: El modelo fue entrenado para aplicar "recasting" (corregir implícitamente el error de un estudiante preservando el significado) utilizando un corpus definicional sintético. La tarea consistió en un escenario de tutoría conversacional con respuestas de estudiantes que contenían errores.
Resultados:
- Direccionamiento del Comportamiento: Afirmar el token aumentó significamente las tasas de recasting (62.33%) en comparación con la línea base (23.26%) y la mención de texto explícito (16.74%). Negar el token suprimió el recasting.
- Cumplimiento de Instrucciones: Crucialmente, el método del token de concepto mantuvo mejor el cumplimiento de otras instrucciones (por ejemplo, hacer preguntas de seguimiento) en comparación con la línea base del "corpus definicional en contexto". La línea base en contexto logró altas tasas de recasting (93.95%) pero a menudo fallaba al hacer preguntas de seguimiento o aplicaba las correcciones de forma mecánica, mientras que el token de concepto mantuvo una tasa de preguntas de seguimiento del 98.04%.

3. Análisis Cualitativo: Conceptos Reales vs. Ficticios

Configuración: Se entrenaron tokens de concepto para la Torre Eiffel (un concepto conocido) y la Torre Austral (un concepto sintético con un artículo de Wikipedia fabricado).
Resultados:
- Torre Eiffel: El token activó eficazmente la representación latente preexistente, permitiendo la recuperación factual precisa, la síntesis y el razonamiento analógico.
- Torre Austral: El token capturó un tema semántico de alto nivel coherente (una torre emblemática en Montevideo) y se generalizó a tareas creativas. Sin embargo, no logró almacenar o recuperar de manera fiable detalles factuales novedosos y específicos (por ejemplo, fechas, alturas), alucinando a menudo valores plausibles pero incorrectos. Esto sugiere que los tokens de concepto actúan como atractores semánticos en lugar de mecanismos de almacenamiento fiables de nuevos hechos.

Principales Contribuciones

Mecanismo Novedoso: Introducción de los Tokens de Concepto como un método para interiorizar conceptos a partir de la supervisión basada solo en definiciones, sin ejemplos de comportamiento o ajuste fino completo del modelo.
Control Direccional: Demostración de que los embeddings aprendidos pueden utilizarse de forma direccional (afirmado vs. negado) para dirigir el comportamiento en LLMs congelados.
Eficiencia y Cumplimiento: Evidencia de que los tokens de concepto proporcionan una señal de control compacta que induce los comportos deseados preservando mejor el cumplimiento de otras instrucciones de prompt en comparación con proporcionar contextos definicionales completos.
Identificación de Limitaciones: Clarificación de que, si bien los tokens de concepto capturan propiedades semánticas y conductuales, no son mecanismos fiables para codificar detalles factuales novedosos y detallados.

Significado y Reivindicaciones

El artículo afirma que los Tokens de Concepto proporcionan una señal de control compacta aprendida de definiciones que puede dirigir el comportamiento en LLMs congelados. Los autores enfatizan que este enfoque es particularmente relevante para aplicaciones educativas y escenarios que requieren el despliegue local de modelos más pequeños, donde la longitud del contexto es limitada y la privacidad de los datos es primordial.

Los autores enmarcan sus hallazgos con modestia:

El método logra inducir cambios conductuales asociados con la comprensión de un concepto.
Ofrece un compromiso: mientras que las definiciones en contexto pueden imponer un comportamiento con más fuerza, esto puede degradar el rendimiento en otras instrucciones; los tokens de concepto ofrecen un enfoque más equilibrado.
El método no es una solución para la generación "libre de alucinaciones" en el sentido de mejorar la precisión de las respuestas, sino más bien una herramienta para modular la disposición a responder (aumentando la abstención).
Los embeddings aprendidos capturan atractores semánticos pero no funcionan como una base de datos para nueva información factual.

El trabajo sugiere direcciones futuras para analizar cómo el diseño del corpus definicional afecta el comportamiento, investigar los cambios en las activaciones internas inducidos por estos tokens (posiblemente mediante Autoencoders Dispersos) y explorar la composición de múltiples tokens de concepto.