From Profiles to Steering Vectors: Global Sparse Priors and Local Semantic Calibration for Personalized Text Generation

Resumen Técnico: GLASS – Priores Esparsos Globales y Calibración Semántica Local para la Generación de Texto Personalizada

Declaración del Problema
La generación de texto personalizada busca producir resultados que reflejen los hábitos de escritura específicos de un usuario, sus preferencias estilísticas y sus patrones comunicativos, cumpliendo al mismo tiempo con los requisitos de la tarea. Los enfoques existentes enfrentan compromisos significativos:

• Los métodos basados en recuperación (p. ej., Aprendizaje en Contexto, RAG) suelen depender de la similitud semántica, lo que puede introducir contenido semántico ruidoso en lugar de señales puramente estilísticas, además de incurrir en latencia de inferencia y sobrecarga de almacenamiento.
• El Ajuste Fino de Parámetros Eficientes (PEFT) requiere entrenar y almacenar parámetros específicos del usuario, lo que dificulta la escalabilidad para grandes poblaciones de usuarios.
• La Dirección de Activación (Activation Steering) ofrece una alternativa sin entrenamiento, pero tiene dificultades para desenredar las señales estilísticas del contenido semántico. Los vectores de dirección estándar suelen retener un "residuo semántico", lo que provoca que los modelos imiten temas de datos históricos en lugar del estilo subyacente del usuario.

Metodología: GLASS
Los autores proponen GLASS (Dirección de Activación Global-Local con Priores Esparsos), un marco de trabajo sin entrenamiento que aprovecha los Autoencoders Esparsos (SAE) para extraer representaciones de estilo robustas. El método opera en dos fases: construcción de vectores offline y dirección durante la inferencia.

1. Modelado de Estilo Global mediante Priores Esparsos:

   • Para capturar rasgos invariantes a nivel de usuario (p. ej., elección léxica, tono, longitud de la oración), GLASS procesa la totalidad de los datos de interacción histórica del usuario.
   • Los estados ocultos de una capa específica se proyectan en un espacio de características esparsas de alta dimensión utilizando un codificador SAE preentrenado.
   • Las activaciones esparsas se promedian a través de todos los tokens de respuesta para formar un perfil esparso global, el cual es luego decodificado de vuelta al espacio de la corriente residual del modelo para crear un vector de estilo global ($v_G$). Esta agregación a nivel de token suaviza las variaciones semánticas específicas de cada instancia.

2. Modelado de Estilo Local mediante Clústeres Contrastivos:

   • Para abordar las variaciones dependientes del contexto (p. ej., correos electrónicos formales frente a publicaciones casuales), los historiales de usuario se agrupan en clústeres basados en la semántica del prompt (usando TF-IDF y K-means).
   • Para cada clúster, se deriva un vector de estilo local ($v_C$) mediante un proceso contrastivo:
     • Primado (Priming): Un modelo "primado" inyecta el vector global $v_G$ durante el proceso de extracción para sesgar las operaciones subsiguientes hacia el estilo.
     • Construcción Positivo-Negativa: Para una consulta ancla dada, se forman contextos positivos seleccionando ejemplos históricos del mismo clúster que produzcan puntuaciones de utilidad altas, mientras que los contextos negativos se muestrean de otros usuarios.
     • Extracción Contrastiva: El modelo genera respuestas bajo contextos positivos y negativos. El vector local se calcula como la diferencia entre los estados ocultos medios de los tokens de respuesta positivos y negativos. Esta sustracción tiene como objetivo eliminar el contenido semántico compartido, aislando el residuo estilístico específico de ese escenario.

3. Dirección de Doble Flujo Adaptativo:

   • Durante la inferencia, una nueva solicitud se asigna al clúster más cercano.
   • El sistema recupera el vector local correspondiente ($v_C$) y el vector global ($v_G$).
   • Estos vectores se inyectan en diferentes capas de la corriente residual del modelo (el global en las capas superiores y el local en las capas intermedias) con fuerzas ajustables ($\alpha$ y $\beta$), permitiendo una personalización sensible al contexto sin actualizaciones de parámetros.

Contribuciones Clave

• Identificación del Residuo Semántico: El artículo identifica que la incapacidad de separar las señales estilísticas del contenido semántico es una limitación primaria de los métodos de dirección de activación existentes.
• Desentrelazamiento Basado en SAE: Los autores demuestran que las representaciones basadas en SAE son más robustas a los cambios de distribución (específicamente a las perturbaciones de longitud y tema) que los métodos de activación densa, lo que sugiere un desentrelazamiento superior del estilo respecto a la semántica.
• Marco de Trabajo GLASS: Un novedoso marco de trabajo sin entrenamiento que modela el estilo del usuario en múltiples granularidades (global y local) dentro del espacio latente del SAE.
• Validación Empírica: Experimentos extensos en los benchmarks LaMP y LongLaMP muestran que GLASS supera a la recuperación, el ajuste fino y otras líneas base de dirección en métricas ROUGE y evaluaciones de LLM-como-juez.

Resultados

• Desempeño: En LaMP-4 y LaMP-5, GLASS logra los mejores resultados en todas las métricas (ROUGE-1, ROUGE-L y puntuaciones de Juez), superando a las líneas base más fuertes (p. ej., OPPU, Fints). En los conjuntos de datos LongLaMP, ocupa consistentemente el primer o segundo lugar en 11 de las 12 métricas de evaluación.
• Robustez: Los experimentos de perturbación (Figura 1) muestran que las características de dirección basadas en SAE degradan significativamente menos que los métodos basados en contraste o promedio cuando se desplazan la longitud del historial del usuario o las distribuciones de temas.
• Eficiencia: GLASS evita la expansión de prompts y la latencia de recuperación de los métodos RAG/ICL, y requiere un almacenamiento mínimo por usuario (<0.01 MB) en comparación con los métodos PEFT (p. ej., LoRA), con una sobrecarga de inferencia comparable a la de los modelos base.
• Ablación: Eliminar ya sea el prior global o el componente de contraste local conduce a caídas en el desempeño, confirmando su naturaleza complementaria. Se demuestra que la extracción contrastiva es esencial para suprimir las señales correlacionadas con el contenido.

Significancia y Reivindicaciones
El artículo afirma que GLASS establece un paradigma escalable y efectivo para la generación de texto personalizada al abordar el desafío central de la contaminación semántica en la dirección de activación. Al utilizar representaciones esparsas, el método logra desentrelazar con éxito la información estilística del contenido semántico, permitiendo una personalización de alta fidelidad sin el costo computacional del ajuste fino o la latencia de la recuperación. Los autores posicionan a GLASS como una solución que equilibra eficiencia, escalabilidad y desempeño, haciéndolo adecuado para el despliegue en el mundo real donde el entrenamiento específico por usuario es impráctico. El trabajo sugiere que la dirección a nivel de representación esparsa es una dirección prometedora para la investigación futura en interpretabilidad de modelos y personalización.