Resumen Técnico: GEMS - Restricciones Geométricas Permiten la Superposición Multisemántica en LLMs

1. Declaración del Problema

El direccionamiento de activaciones (activation steering) permite la modificación del comportamiento de un Modelo de Lenguaje Grande (LLM) durante la inferencia mediante la inyección de vectores en los estados ocultos intermedios sin necesidad de reentrenamiento. Si bien los métodos existentes como la Adición de Activación (ActAdd) controlan con éxito atributos semánticos únicos (por ejemplo, veracidad o seguridad), fallan catastróficamente al intentar inyectar múltiples direcciones semánticas simultáneamente. Sin restricciones, la superposición de múltiples vectores conduce al "colapso multidireccional", donde el contenido del modelo se degrada en texto repetitivo, sin sentido o incoherente.

Investigaciones previas han intentado abordar esto mediante métodos dependientes del entrenamiento (por ejemplo, aprendizaje de proyecciones u optimización de objetivos de alineación) o gestionando la intensidad para direcciones únicas. Sin embargo, una solución libre de entrenamiento para el control paralelo de múltiples semánticas ha permanecido esquiva. Este artículo postula que el colapso no es un límite inherente del direccionamiento de activaciones, sino el resultado de dos modos de falla distintos que actúan de forma independiente y que pueden abordarse mediante restricciones geométricas.

2. Metodología: GEMS

Los autores proponen GEMS (Geometry-based Expert Multi-Steering), un método libre de entrenamiento que permite la inyección paralela de múltiples direcciones semánticas a través de más de 10 capas consecutivas. GEMS opera mapeando los modos de falla identificados hacia restricciones geométricas específicas aplicadas durante el paso hacia adelante (forward pass).

2.1 Diagnóstico de Modos de Falla

Mediante un análisis diagnóstico en Qwen3.5-4B-Base, los autores descomponen el colapso multidireccional en dos fuentes:

1. Desviación Distribucional: Las perturbaciones aditivas se acumulan en norma a través de las capas, empujando las activaciones fuera de la distribución de entrenamiento. Esto se manifiesta como un aumento en la norma del flujo residual y un aplanamiento de la distribución de probabilidad de los tokens (pérdida de control contextual).
2. Interferencia Direccional: Cuando se superponen múltiples vectores semánticos no ortogonales, sus componentes compartidos se acumulan mientras que los componentes únicos son suprimidos. Esto conduce a un amortiguamiento mutuo, donde la alineación del estado oculto final con cualquier dirección pretendida se degraga significativamente en comparación con las inyecciones de un solo vector.

2.2 Restricciones Geométricas

GEMS aborda estos problemas a través de tres mecanismos primarios:

• Superposición Ponderada de Preservación de Norma: Para prevenir la desviación distribucional, GEMS impone una estricta restricción de norma. La activación dirigida se construye como una combinación ponderada de la dirección de atención original y los vectores expertos ortogonalizados, de tal manera que la suma de los pesos al cuadrado sea igual a uno ($w_{base}^2 + \sum w_i^2 = 1$). Esto asegura que la norma de salida en cada capa sea idéntica a la de la línea base, evitando la acumulación de norma.
• Ortogonalización en Tiempo Real: Para prevenir la interferencia direccional, GEMS aplica un proceso de Gram-Schmidt en cada capa de gancho (hook layer). Los vectores expertos se proyectan sobre el complemento ortogonal de la dirección actual del flujo residual y de todos los vectores expertos procesados previamente. Esto asegura que cada dirección inyectada permanezca distinta y no se amortigüe mutuamente.
• Inyección Dirigida (oproj) y Envolvente Gaussiana:
  • Punto de Inyección: Las intervenciones se aplican específicamente en la proyección de salida de la atención ($\text{oproj}$), dejando intacta la vía MLP (que codifica el conocimiento fáctico). Inyectar en la salida completa de la capa corrompe la vía fáctica y causa un colapso inmediato.
  • Modulación de Intensidad: Una envolvente gaussiana modula la intensidad de la intervención a través de las capas, alcanzando su máximo en las capas medias (donde las representaciones semánticas son más maleables) y decayendo en los límites. Se aplica además un decaimiento de coseno en el extremo profundo de la ventana para reducir la perturbación donde el rol funcional del modelo cambia.

3. Contribuciones Clave

1. Descomposición del Colapso: El artículo identifica que el colapso del direccionamiento multidireccional surge de dos fuentes independientes: la desviación distribucional (inestabilidad de la norma) y la interferencia direccional (falta de separabilidad). Esta descomposición define las restricciones de diseño necesarias para cualquier intervención multidireccional libre de entrenamiento.
2. Marco GEMS: Los autores presentan un método que logra la inyección paralela de múltiples direcciones semánticas sin modificar los pesos del modelo ni introducir pasos de optimización. Se basa en la preservación de la norma y la ortogonalización como prerrequisitos para la estabilidad.
3. Validación Causal: A través de la ablación de componentes y sondas diagnósticas a nivel de capa, el artículo aísla el papel causal de cada restricción. Demuestra que violar la preservación de la norma o el punto de inyección conduce al colso inmediato, mientras que la ausencia de ortogonalización conduce a la deriva semántica y a la pérdida de distinguibilidad de los expertos.

4. Resultados Experimentales

Los experimentos se realizaron principalmente en Qwen3.5-4B (Base e Instruct), con validación de arquitectura cruzada en modelos que van desde 3B hasta 31B.

• GSM8K (Razonamiento Matemático): Inyectar tres direcciones no matemáticas concurrentes (Empatía, Responsabilidad, Minimalismo) en tareas de razonamiento matemático preservó la precisión al 98% (comparado con una línea base de 92%). En contraste, el ActAdd sin restricciones colapsó al 4%.
• Wikitext-2 (Modelado de Lenguaje): La misma inyección multidireccional incurrió en solo un 2.2% de aumento en la Perplejidad (PPL). El ActAdd sin restricciones resultó en un aumento de PPL de aproximadamente 1,700x.
• Direccionamiento Cualitativo: En escenarios de crisis de relaciones públicas y el Dilema del Tranvía, GEMS produjo con éxito salidas que fusionaban múltiples posturas semánticas (por ejemplo, empatía + responsabilidad + minimalismo) con coherencia gramatical. Los métodos sin restricciones produjeron contenido repetitivo y sin sentido.
• Transferencia de Arquitectura Cruzada: Pruebas cualitativas en Llama-3.2-3B, Qwen3.6-27B y Gemma-4-31B mostraron que las restricciones geométricas operan sobre propiedades agnósticas al modelo, permitiendo una transferencia exitosa con un mapeo de parámetros proporcional.

Hallazgos de Ablación:

• Preservación de Norma y Punto de Inyección: Violar estos factores (por ejemplo, inyectar en la capa completa o ignorar las restricciones de norma) causa un colapso semántico inmediato (4% de precisión).
• Ortogonalización: Eliminar esta restricción preserva la coherencia gramatical pero causa una "deriva semántica", donde la dirección del experto dominante domina a las demás y la salida pierde las firmas específicas de las direcciones más débiles.
• Envolvente Gaussiana: Eliminarla conduce a una deriva narrativa moderada hacia abstracciones grandilocuentes, confirmando su papel en el suavizado de las perturbaciones en los límites.

5. Significado y Reivindicaciones

El artículo afirma que la superposición semántica múltiple libre de entrenamiento es factible mediante puras restricciones geométricas en el paso hacia adelante, desafiando la suposición de que el direccionamiento de activaciones multidireccional colapsa fundamentalmente.

• Perspectiva Estructural: El trabajo redefine el problema de una falta de capacidad a una falta de restricciones geométricas. Demuestra que el espacio de representación de los LLM puede soportar la superposición si la intervención respeta la norma y la ortogonalidad del flujo residual.
• Utilidad Práctica: GEMS permite el control simultáneo de múltiples atributos de comportamiento (por ejemplo, precisión fáctica, seguridad y estilo) sin la sobrecarga del reentrenamiento o la modificación de la arquitectura.
• Limitaciones: Los autores señalan que GEMS reformatea la distribución de salida dentro del espacio de capacidad existente del modelo; no puede crear capacidades ausentes en la distribución de entrenamiento. La validación actual cubre un número limitado de direcciones (N=3) y modelos específicos, y las proporciones de fuerza óptimas dependen de la tarea.

El artículo concluye que, si bien la separabilidad de la norma y la dirección puede reflejar en parte la estructura específica del diseño de la intervención, los resultados establecen que las restricciones geométricas son un mecanismo suficiente para permitir un direccionamiento semántico múltiple robusto en los LLM.