Resumen Técnico: CreativityNeuro

Declaración del Problema

Los Grandes Modelos de Lenguaje (LLMs) exhiben un fenómeno denominado "efecto de colmena artificial", donde generan consistentemente respuestas similares y homogeneizadas ante preguntas abiertas. Este comportamiento limita su capacidad de pensamiento divergente —la habilidad de generar múltiples soluciones diversas a un problema—, lo cual es un componente crucial de la creatividad. Los métodos existentes para mejorar la creatividad, como el prompting, el ajuste de parámetros de decodificación (ej. temperatura) o el direccionamiento de activaciones (activation steering), a menudo requieren conjuntos de datos conductuales, ajuste de gradientes o no logran generalizar en diferentes tareas creativas. Además, existe una falta de comprensión sobre si los comportamientos creativos son separables del razonamiento fáctico dentro del espacio de pesos del modelo.

Metodología: CreativityNeuro

Los autores presentan CreativityNeuro (CN), un método libre de datos (data-free) para dirigir los pesos de los LLM con el fin de amplificar el pensamiento divergente. A diferencia de otros enfoques que dependen de datos conductuales o actualizaciones de gradientes, CN opera identificando y escalando parámetros específicos en el espacio de pesos del modelo basándose en conjuntos de prompts contrastivos.

Algoritmo Principal

El método sigue un proceso de tres pasos (detallado en el Algoritmo 1):

1. Conjuntos de Prompts Contrastivos: En lugar de depender de conjuntos de datos estructurados (como MATH para el razonamiento), CN utiliza seis conjuntos de prompts contrastivos ($P_{cre}$ vs. $P_{non-cre}$) que abarcan estilos como la narración de historias, la ideación e instrucciones mínimas (ej. "Sorpréndeme" frente a "Sé preciso").
2. Calificación de Importancia de Parámetros: Utilizando un mecanismo de calificación estilo Wanda, el método calcula puntuaciones de importancia ($S_{\ell,ij}$) para los pesos en cada capa $\ell$. La puntuación es el producto de la magnitud del peso y la norma de la activación, sumada a través de los tokens en los conjuntos de prompts:
   $$S_{\ell,ij} = \sum_{b,t} |W_{\ell,ij}| \cdot \|x^{(b,t)}_{\ell,j}\|^2$$
   Las puntuaciones se calculan por separado para los prompts creativos ($P_{cre}$) y los no creativos ($P_{non-cre}$).
3. Selección y Escalamiento de Pesos: El método aísla los parámetros específicos de la creatividad seleccionando el $\rho$ por ciento de los pesos clasificados por importancia creativa que no aparecen en el $\rho$ por ciento superior para los prompts no creativos ($C_\ell \setminus N_\ell$). Estos pesos seleccionados se escalan mediante un factor $(1 + \alpha)$ durante la inferencia.

Este enfoque no requiere generaciones conductuales, respuestas calificadas ni ejemplos etiquetados, lo que lo hace enteramente libre de datos.

Contribuciones Clave

El artículo describe cinco contribuciones primarias:

1. Direccionamiento Libre de Datos: Introducción de CreativityNeuro, un método para dirigir el comportamiento creativo sin conjuntos de datos conductuales o reentrenamiento.
2. Mejora de la Tarea de Asociación Divergente (DAT): Demostración de que CN mejora significativamente las puntuaciones de DAT, superando a las líneas base de prompting, variación de parámetros de muestreo y direccionamiento de activaciones.
3. Generalización a Tareas Complejas: Validación mediante una evaluación humana a gran escala ($N=720$) en el Test de Usos Alternativos (AUT) y la Tarea de Tarea (TT), mostrando mejoras en originalidad, sorpresa y creatividad.
4. Reducción del Colapso de Modo: Evidencia de que CN reduce tanto el colapso de modo a nivel de palabra (DAT) como a nivel de respuesta (AUT/TT).
5. Entrelazamiento en el Espacio de Pesos: Descubrimiento de que el pensamiento divergente y el razonamiento fáctico no son separables en el espacio de pesos; los intentos de aislarlos degradan el rendimiento en ambos dominios.

Resultados Experimentales

1. Tarea de Asociación Divergente (DAT)

Evaluado en seis modelos ajustados por instrucciones (familias Phi, Llama, Qwen, que van desde 3B a 14B de parámetros):

• Rendimiento: CN mejoró el rendimiento de DAT hasta en 14 puntos percentiles humanos.
• Comparación: CN logró un promedio de percentil humano de 94.1, superando ligeramente al direccionamiento de activaciones (93.9) y superando significativamente a las líneas base de prompting y muestreo.
• Eficiencia de Datos: A diferencia del direccionamiento de activaciones, que requiere datos conductuales calificados para construir vectores de dirección, CN logró resultados superiores utilizando solo pares de prompts.

2. Test de Usos Alternativos (AUT) y Tarea de Tarea (TT)

Una evaluación humana a gran escala ($N=720$) evaluó la originalidad, la sorpresa, la utilidad y la creatividad:

• AUT: CN logró efectos positivos uniformes en originalidad (promedio de Cohen's $d = +0.36$) y sorpresa ($d = +0.43$).
• TT: CN mostró fuertes ganancias en originalidad ($d = +0.40$) y mejoras moderadas en creatividad ($d = +0.24$).
• Generalización: Mientras que el direccionamiento de activaciones se comportó de manera comparable a CN en el DAT, este falló al generalizar al AUT y al TT. Esto resalta la superioridad del direccionamiento en el espacio de pesos sobre el direccionamiento de activaciones para tareas creativas complejas no vistas.
• Compensaciones (Trade-offs): CN redujo las puntuaciones de utilidad en el AUT, una consecuencia predecible del compromiso entre novedad y utilidad inherente a la generación creativa.

3. Colapso de Modo

• DAT: CN redujo la masa de probabilidad en las 10 palabras más frecuentes en 10.2 puntos porcentuales e incrementó la entropía del vocabulario en un 10%.
• AUT/TT: CN redujo la repetición intra-modelo y la homogeneidad inter-modelo, demostrando una reducción del colapso de modo semántico en respuestas de longitud de oración y párrafo.

4. Separabilidad del Pensamiento Divergente y el Razonamiento Fáctico

Los autores investigaron si los pesos creativos podían aislarse de los pesos de razonamiento fáctico (probado en el benchmark MMLU):

• Hallazgo: El pensamiento divergente y el razonamiento fáctico están funcionalmente entrelazados en el espacio de pesos.
• Evidencia: Los intentos de proteger el rendimiento de MMLU excluyendo los pesos relacionados con MMLU de la máscara creativa resultaron en una mayor degradación de las puntuaciones de MMLU, a pesar de reducir el tamaño de la máscara. Esto sugiere que los parámetros que impulsan la creatividad están profundamente entrelazados con aquellos que impulsan la precisión fáctica.

Significancia y Reivindicaciones

El artículo afirma que CreativityNeuro proporciona un mecanismo directo y libre de datos para mejorar el rendimiento de los LLM en dominios creativos. Su principal significancia radica en:

• Generalización: Probar que el direccionamiento en el espacio de pesos se generaliza a tareas creativas no vistas (AUT, TT) donde el direccionamiento de activaciones falla.
• Eficiencia: Lograr un rendimiento creativo de vanguardia sin el costo computacional o los requisitos de datos del ajuste fino (fine-tuning) o la recolección de conjuntos de datos conductuales.
• Perspectiva Mecanística: Ofrecer evidencia de que la creatividad y el razonamiento fáctico no son modularmente separables en las arquitecturas actuales de LLM, sugiriendo que mejorar uno puede impactar inherentemente al otro.

Los autores concluyen que, si bien CN mejora eficazmente el pensamiento divergente y reduce la homogeneización, el entrelazamiento de los pesos creativos y fácticos sigue siendo una restricción arquitectónica fundamental que la investigación futura debe abordar, potencialmente a través de sistemas multi-agente o representaciones factorizadas unificadas.