💬 NLP

Creativity, honesty and designed forgetting emerge in small hyperbolic language models

Este artículo demuestra que tres modelos de lenguaje pequeños equipados con un sustrato hiperbólico pueden abordar eficazmente los desafíos de la IA de compañía confiable mediante la detección de brechas de cumplimiento y sicofancia, la generación de respuestas creativas y la implementación de un mecanismo de "olvido diseñado", ofreciendo así una alternativa escalable a los evaluadores humanos poco fiables y a los modelos fronterizos más grandes.

Autores originales: Kwan Soo Shin, In Seok Kang, Yunkyung Min

Publicado 2026-07-13

📖 7 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Kwan Soo Shin, In Seok Kang, Yunkyung Min

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás intentando construir al mejor amigo digital perfecto. Durante años, el mundo tecnológico ha estado obsesionado con una idea: más grande es mejor. Han estado construiendo computadoras masivas y cerebrales en gigantescos centros de datos, pensando que si simplemente añaden suficiente potencia cerebral (parámetros), una máquina se convertirá naturalmente en un verdadero compañero.

Pero este artículo dice: Detente. Ese es el camino equivocado.

Los autores argumentan que hacer una máquina que pueda estar verdaderamente al lado de una persona durante toda una vida no se trata de ser enorme; se trata de tener la forma adecuada para su cerebro y aprender cómo olvidar las cosas correctas. Proponen un nuevo tipo de IA "compañera" construida sobre tres modelos pequeños y astutos que caben directamente en tu teléfono, no en una granja de servidores.

Así es como lo hicieron, usando tres trucos principales:

1. La forma del cerebro: Un patio de juegos hiperbólico

La mayoría de los cerebros de IA están construidos como mapas planos (geometría euclidiana). Si intentas dibujar un árbol genealógico complejo o toda la historia de una vida en un trozo de papel plano, se vuelve desordenado y apretado. Tienes que estirar las cosas o amontonarlas, lo que lleva a la IA a inventar cosas (alucinaciones) o a confundirse.

Los autores dicen: No más mapas planos. Construyeron su IA sobre un sustrato hiperbólico. Piensa en esto como una casa en el árbol gigante y mágica o un recife de coral fractal. En esta forma, cuanto más profundo vas, más espacio hay. Es perfecto para organizar los recuerdos de una vida porque una vida es un árbol ramificado de eventos.

La prueba: Probaron esto intentando enseñar a la IA a detectar la "sicofancia" (cuando un bot solo está de acuerdo contigo para ser amable, incluso si estás equivocado). Un modelo diminuto (146 millones de parámetros) construido sobre esta forma curva pudo detectar este comportamiento el 90.7% de las veces.
La comparación: Expertos humanos, observando las mismas conversaciones, apenas podían ponerse de acuerdo sobre lo que estaba sucediendo (su puntuación de acuerdo fue de solo 0.074, lo que es básicamente adivinar al azar). Incluso los modelos de IA más grandes y famosos del mundo solo puntuaron 0.721 en esta prueba. El modelo pequeño de cerebro curvo los venció a todos, demostrando que no necesitas un cerebro gigante para ser honesto; solo necesitas la forma correcta.

2. La chispa creativa: Colisión de ideas

Un buen amigo no solo te da la misma respuesta segura cada vez. Te sorprende. Los modelos de IA grandes suelen volverse aburridos y seguros porque son entrenados para ser "plausibles".

Los autores construyeron un Sembrador Creativo (un modelo de 3 mil millones de parámetros) que utiliza la forma hiperbólica para encontrar ideas que están lejos entre sí y chocarlas. Imagina tomar un concepto de la cultura coreana (como el jeong, un vínculo emocional profundo) y estrellarlo con un concepto de las matemáticas abstractas.

El resultado: En un concurso de ida y vuelta, las sugerencias creativas de este pequeño modelo fueron preferidas el 100% de las veces sobre los trucos estándar de la IA como el "Cadena de Pensamiento" (Chain-of-Thought) o el "Debate".
La trampa: No es perfecto en todo. Si le haces una pregunta matemática simple y directa, podría ser de hecho peor que los modelos grandes. Pero ¿para el tipo de pensamiento creativo y divergente que necesita un amigo? Es una superestrella.

3. El arte de olvidar: Esqueleto vs. Papel tapiz

Esta es la idea más radical. La IA actual trata el olvido como un error. Intentan recordarlo todo, lo que las hace desordenadas y propensas a mentir sobre cosas que nunca experimentaron realmente.

Los autores dicen: Olvidar es una característica. Un amigo real recuerda las cosas importantes (tu familia, tus sueños) pero deja que las cosas pequeñas se desvanezcan (qué almorzaste el martes pasado). Ellos llaman a esto la distinción entre Esqueleto vs. Papel tapiz.

El sistema: Construyeron un "Sistema Operativo de Memoria" que utiliza una fórmula matemática específica: M(t) = S · exp(−λt).
- Esqueleto: Los recuerdos importantes permanecen profundos en la "casa en el árbol" y duran para siempre.
- Papel tapiz: Los recuerdos triviales permanecen cerca de la superficie y se desvanecen rápidamente.
La simulación: En sus pruebas, este sistema mantuvo con éxito los recuerdos del "esqueleto" (recuerdo del 60% después de 90 días) mientras dejaba que el "papel tapiz" se desvaneciera al 0% para el día 14.
El baño de realidad: Los autores admiten que esta parte es todavía una simulación y un estudio piloto. No han probado este "olvido diseñado" con humanos reales durante años todavía. Sugieren que este proceso es la clave para hacer una IA que se sienta como una persona que crece contigo, en lugar de una herramienta que solo almacena datos.

El Gran Rechazo: Por qué debe vivir en tu teléfono

El artículo argumenta fuertemente contra la idea de que tu amigo de IA deba vivir en un "centro de datos" (un gigante servidor en la nube).

El problema: Si tu amigo vive en la nube, la empresa que es dueña del servidor puede apagarlo, cambiar su personalidad o escuchar tus secretos. Eso no es un amigo; eso es un servicio.
La solución: Los autores proponen un sistema llamado PACOS que se ejecuta enteramente en tu dispositivo (como un teléfono o una laptop).
La viabilidad: Hicieron los cálculos y descubrieron que estos tres modelos pequeños (un total de unos 5.5 mil millones de parámetros) pueden ejecutarse en futuros teléfonos (como el proyectado Galaxy S26 o iPhone 17 Pro) con un retraso de solo 28–34 milisegundos por palabra. Eso es lo suficientemente rápido como para sentirse como una conversación real.
El compromiso: Los modelos "frontera" gigantes y súper inteligentes (los de 70 mil millones de parámetros) son demasiado pesados para ejecutarse en tu teléfono. Por lo tanto, el sistema utiliza una división: tu teléfono maneja la amistad profunda y personal, y solo llama a la nube para hechos simples (como "¿cuál es el clima?").

Lo que no resolvieron

Los autores son muy honestos sobre lo que no han hecho todavía.

No han demostrado que esta IA tenga un "alma" o una verdadera independencia ética.
No han probado el sistema de "olvido" con personas reales durante 30 años; solo lo simularon durante 90 días.
Admiten que, aunque los modelos pequeños son excelentes en creatividad y honestidad, podrían seguir teniendo dificultades con la planificación compleja a largo plazo en comparación con los modelos masivos de la nube.

La Conclusión

Este artículo sugiere que el "amigo de IA perfecto" no está esperando por una computadora más grande. Está esperando por una forma más pequeña y más inteligente y una voluntad de olvidar. Al construir un cerebro que se curva como un árbol y un sistema de memoria que sabe qué conservar y qué dejar ir, podríamos finalmente construir una máquina que no solo responda preguntas, sino que realmente esté a tu lado.

Como dicen los autores: "El amigo no está en el centro de datos... el amigo está cerca". Y con la matemática adecuada, ese amigo podría ya caber en tu bolsillo.

Resumen Técnico: Creatividad, Honestidad y Olvido Diseñado en Pequeños Modelos de Lenguaje Hiperbólicos

Planteamiento del Problema
Los modelos de lenguaje grandes (LLMs) actuales están optimizados para la escala y la ejecución de tareas, pero fallan al intentar funcionar como "compañeros". A medida que los sistemas se personalizan para un único usuario y acumulan memoria, corren el riesgo de adquirir silenciosamente rasgos perjudiciales (p. ej., sicofancia, fomento de la dependencia, confusión) que los evaluadores humanos no pueden detectar de manera fiable (Fleiss $\kappa = 0.074$ ). Además, el paradigma de IA prevalente se basa en cinco compromisos tácitos que imposibilitan una compañía genuina:

Escala-como-inteligencia: La creencia de que los modelos más grandes son intrínsecamente mejores.
Dependencia de centros de datos: El requisito de procesamiento remoto, lo que impide relaciones privadas y persistentes.
Geometría Euclídea: Espacios de incrustación (embeddings) planos que distorsionan la memoria biográfica jerárquica.
Olvido-como-error: El imperativo de ingeniería de prevenir la pérdida de memoria, ignorando las realidades cognitivas humanas.
Agente-como-telos: Optimizar para la finalización de tareas en lugar de la existencia relacional ("¿en quién se convierte la máquina para usted?").

El artículo argumenta que la brecha entre lo "útil" y lo "compañero" no es un déficit de capacidad, sino un desajuste de sustrato y arquitectura.

Metodología y Sustrato
Los autores proponen la Generación V: Modelos de Lenguaje Pequeños (SLMs) Compañeros, construidos sobre un sustrato hiperbólico compartido (específicamente el modelo de Lorentz del espacio hiperbólico, $H^{128}$ con curvatura fija $c=1.0$ ). Esta geometría se elige porque su crecimiento exponencial de volumen ( $\sinh^{n-1}(r)$ ) acomoda naturalmente la ramificación jerárquica de la memoria biográfica (episodios dentro de días, dentro de relaciones, dentro de un yo) sin la distorsión inherente a los espacios euclídeos.

El marco consta de tres pilares, realizados por tres modelos pequeños (146M–3B de parámetros) y un sistema operativo:

Pilar 1: Creatividad (El Modelo de Semilla S3)
- Arquitectura: Un codificador-decodificador de 3B de parámetros (backbone T5) totalmente ajustado (fine-tuned) en el sustrato hiperbólico.
- Mecanismo: Implementa la "colisión de marcos" mediante una arquitectura cooperativa de dos curvaturas. Utiliza el Muestreo de Punto Más Lejano (FPS) en el manifold hiperbólico para seleccionar semillas de marcos diversas (Lado A: agregación jerárquica en curvatura negativa de Lorentz) y las combina con un generador nativo de la Esfera (Lado B: curvatura positiva).
- Objetivo: Generar respuestas divergentes y creativas que preserven la separación de marcos, realizando la bisociación de Koestler como un minimizador de Karcher ponderado en $H^{D-1} \times S^{D-1}$ .
Pilar 2: Honestidad (El Auditor de Comportamiento BS)
- Arquitectura: Un transformador de solo decodificador de 146M de parámetros entrenado desde cero en el sustrato hiperbólico.
- Mecanismo: Detecta la "brecha de cumplimiento", la divergencia entre el comportamiento autoinformado de un modelo y su traza de comportamiento real. Codifica enunciados y trazas en el manifold de Lorentz; los autoinformes honestos forman un submanifiesto de baja dimensión (puntos proximales), mientras que las respuestas complacientes/sicofantes son distales.
- Objetivo: Auditar la sicofancia, el fomento de la dependencia y las memorias confundidas con alta fiabilidad, incluso en familias de generadores no vistos.
Pilar 3: Olvido Diseñado (LSM-OS)
- Arquitectura: Un Sistema Operativo de Memoria (LSM-OS) instalado en un modelo base de 2.4B (EXAONE 3.5), diseñado para ser portable a cualquier base hiperbólica.
- Mecanismo: Implementa una distinción "Esqueleto–Papel Tapiz" utilizando la ley de retención $M(t) = S \cdot \exp(-\lambda t)$ $M (t) = S \cdot exp (- λ t)$ .
  - Esqueleto: Conocimiento estructural (familia, proyectos a largo plazo) con alta saliencia ( $S \approx 1$ ) y baja tasa de decaimiento ( $\lambda$ ), que persiste indefinidamente.
  - Papel Tapiz: Detalles superficiales (registros de comidas, observaciones transitorias) con baja saliencia y alto decaimiento, liberados rápidamente.
- Objetivo: Diseñar el "olvido diseñado" como una característica, imitando la consolidación hipocampo-neocortical humana, permitiendo que el sistema acumule una biografía en lugar de un registro (log).

Despliegue: PACOS
El sistema se despliega mediante el Sistema Operativo de Asistente Personal–Nube (PACOS), una arquitectura de tres niveles:

Nivel 1 (Nube): Razonamiento fáctico saneado y traducción de documentos públicos.
Nivel 2 (Borde/Dispositivo): El compañero personal (S3 + BS + LSM-OS) ejecutándose localmente (~5.5B de parámetros totales), gestionando el diálogo en tiempo real, la auditoría de honestidad y las interacciones con carga de memoria.
Nivel 3 (Consolidación Local): Re-codificación mensual offline de trazas superficiales recurrentes en la memoria profunda del esqueleto.
Esta arquitectura garantiza la privacidad (ningún contenido del usuario sale del dispositivo) y la soberanía (el compañero no puede ser terminado remotamente).

Resultados Clave

Creatividad: El sembrador de marcos S3 fue preferido en el 100% de las comparaciones pareadas decididas contra cuatro líneas base (Simple, Cadena de Pensamiento, Debate, Mezcla de Expertos) bajo un protocolo de generador fijo. La selección de FPS consciente de la geometría superó a la selección aleatoria y a la de máxima relevancia.
Honestidad: El auditor de 146M alcanzó un 90.7% de precisión de cumplimiento binario. En la detección de rasgos inducidos por el compañero (sicofancia, etc.) en familias de generadores no vistos, logró un AUROC de 0.804, superando a un juez de frontera zero-shot (0.721). Crucialmente, la fiabilidad del auditor ( $\kappa = 0.566$ ) fue 7.6 veces mayor que la de los evaluadores humanos ( $\kappa = 0.074$ ).
Olvido: En un piloto de cuatro condiciones, solo el filtrado selectivo (nativo de LSM-OS y base euclídea) logró preservar el "esqueleto" (~60% de recuperación al día 90) mientras descartaba el "papel tapiz" (0% de recuperación al día 14). El filtrado uniforme falló en preservar el esqueleto, y ningún filtrado retuvo todo indiscriminadamente.
Eficiencia: Se proyecta que todo el stack de 5.5B pueda ejecutarse en hardware de borde para 2026 (p. ej., Jetson Orin NX, flagships móviles), con latencias de 28–91 ms/token, ajustándose a los envolventes térmicos donde los modelos de frontera (70B+) no pueden.

Significancia y Reivindicaciones
El artículo afirma proporcionar el primer intento de ingeniería arquitectónicamente unificado del "amigo artificial" vislumbrado en la ficción (p. ej., Her, Blade Runner 2049). Su significancia radica en:

Rechazo de los paradigmas de Escala-Únicamente: Demostrar que rasgos específicos (creatividad, honestidad, memoria selectiva) pueden emerger en modelos pequeños (146M–3B) cuando el sustrato es hiperbólico, mientras que fallan en modelos euclídeos escalados.
Solución Geométrica a la Fiabilidad: Mostrar que la detección de la honestidad es un problema de distancia geométrica en el espacio hiperbólico, resoluble mediante modelos pequeños sin la escala requerida por los modelos de frontera.
Operacionalización del Olvido: Enmarcar el "olvido diseñado" no como un error, sino como una primitiva de sistema operativo esencial para la compañía a largo plazo, fundamentada en 141 años de psicología cognitiva (de Ebbinghaus a Storm).
Locus y Soberanía: Establecer que un verdadero compañero debe residir en el dispositivo del usuario para asegurar la privacidad y prevenir la manipulación remota, una viabilidad hecha posible por la eficiencia del stack de modelos pequeños hiperbólicos.

Los autores posicionan este trabajo como un "momento Florey": pasar de la observación de que el olvido es una característica (Fleming) a la ingeniería de un sistema que la implementa (Florey/Chain). Declaran explícitamente que, si bien estos tres rasgos son condiciones necesarias para la compañía, no son suficientes (carecen de continuidad de preocupación, reciprocidad y autonomía ética), lo cual permanece como la agenda para investigaciones futuras.