Resumen Técnico: Extracción de Algoritmos en LLMs Preentrenados: Un Caso sobre Modelos Ocultos de Markov

Planteamiento del Problema

Los Grandes Modelos de Lenguaje (LLMs) demuestran una capacidad sorprendente para realizar el aprendizaje en contexto (ICL) en secuencias generadas por Modelos Ocultos de Markov (HMM), aproximándose a menudo al rendimiento de predicción Bayes-óptimo. Sin embargo, el mecanismo algorítmico específico que subyace a esta capacidad sigue sin determinarse. Trabajos previos han propuesto varios candidatos —incluyendo métodos espectrales, seguimiento del estado de creencia (belief-state tracking) y aprendizaje de características basado en gradientes— pero no existe un consenso sobre qué algoritmo se está implementando realmente. Crucialmente, las propuestas previas no han sido validadas contra las activaciones internas del modelo, dejando un vacío entre el comportamiento externo observado y la comprensión mecánica interna.

Metodología

Los autores proponen un flujo de trabajo de tres etapas para cerrar esta brecha, conectando el comportamiento de ICL con los mecanismos internos:

1. Benchmarking Empírico: El estudio evalúa sistemáticamente 12 LLMs preentrenados (de las familias Qwen, Llama, Gemma y OLMo) frente a un conjunto de predictores de HMM clásicos y basados en aprendizaje a través de 75 configuraciones distintas de HMM. Estas configuraciones varían en entropía de transición (tasa de mezcla), entropía de emisión (ruido) y tamaño del alfabeto. El objetivo es estrechar el espacio de algoritmos plausibles identificando qué baselines externos coinciden mejor con el comportamiento del LLM en diferentes regímenes.
2. Construcción Teórica: Los autores derivan conexiones teóricas que demuestran que los Transformers son capaces de implementar las tres clases principales de algoritmos candidatos (n-grama lineal, n-grama no lineal y espectral) mediante el aprendizaje en contexto. Proporcionan construcciones explícitas que expresan las probabilidades del siguiente token como funciones lineales de características no lineales construidas a partir de observaciones pasadas. Esto se valida entrenando un Transformer pequeño en un solo HMM y analizando su convergencia.
3. Sondeo Mecánico (PAP): Para determinar qué algoritmo utilizan realmente los LLMs preentrenados, los autores introducen la Sonda de Activaciones Principales (PAP). Este es un método de sondeo e intervención por capa que:
   • Proyecta las activaciones del flujo residual sobre sus componentes principales superiores para aislar señales algorítmicas de baja dimensión.
   • Ajusta sondas lineales para decodificar representaciones algorítmicas candidatas (por ejemplo, estados de creencia, operadores) de estas activaciones.
   • Realiza intervenciones causales (parcheo de activación) para probar si estas representaciones decodificadas impulsan causalmente las predicciones del modelo.

Contribuciones Clave

1. Estrechamiento Empírico de Mecanismos: El estudio demuestra que ningún algoritmo clásico único explica el comportamiento de los LLM en todos los regímenes de HMM. Sin embargo, el comportamiento es cubierto colectivamente por tres clases de algoritmos: n-grama Lineal, n-grama No Lineal y Espectral. El algoritmo de Baum-Welch queda descartado como candidato porque su perfil de rendimiento (fuerte en contextos cortos mediante la estimación explícita de parámetros) difiere fundamentalmente del proceso de generalización gradual en contexto de los LLMs.
2. Unificación Teórica: Los autores demuestran que los Transformers pueden implementar los tres ansatz candidatos. Muestran que las probabilidades del siguiente token pueden expresarse como funciones lineales de características no lineales (productos de Kronecker de vectores one-hot) y que los Transformers pueden aprender estas características y los mapas lineales asociados mediante procesos similares al descenso de gradiente. Se muestra que un Transformer pequeño entrenado naturalmente converge a un predictor de n-grama Lineal de ventana finita.
3. Identificación Causal vía PAP: La Sonda de Activaciones Principales revela que los LLM preentrenados no implementan un único algoritmo estático, sino que reclutan diferentes representaciones dependiendo del régimen del HMM:
   • n-grama Suave (n-grama Lineal/No Lineal): Esta representación es la más causalmente efectiva tanto en regímenes "dominados por la creencia" (mezcla lenta, ruido alto) como en regímenes "dominados por la observación" (mezcla rápida, ruido bajo).
   • Decodificabilidad vs. Uso Causal: El estudio destaca una disociación crítica: la información algorítmica (por ejemplo, estadísticas de bigramas) puede ser decodificable de las capas tempranas, pero es omitida por la computación de las capas posteriores. Se requiere intervención causal para confirmar que una representación realmente impulsa la salida.
   • Especialización de Capas: Etapas computacionales distintas se localizan en diferentes capas. Las capas tempranas suelen codificar información que no se usa causalmente, mientras que las capas tardías contienen las representaciones que determinan directamente las predicciones.

Resultados

• Convergencia hacia la Optimalidad: Las predicciones de los LLM se aproximan consistentemente al Oráculo Bayes-óptimo a medida que aumenta la longitud del contexto, independientemente del tamaño del modelo, aunque la velocidad de convergencia varía.
• Estrategias Dependientes del Régimen:
  • En regímenes dominados por la observación (mezcla rápida, baja entropía de emisión), bastan estadísticas simples tipo bigrama, y el modelo se comporta de forma similar a un predictor de cadena de Markov.
  • En regímenes dominados por la creencia (mezcla lenta, alta entropía de emisión), el modelo requiere integrar observaciones sobre contextos largos para mantener una creencia del estado latente. Aquí, la representación de n-grama Suave (una característica aprendida de ventana finita) emerge como el principal motor causal, superando a los bigramas simples y a los métodos espectrales en las pruebas de intervención causal.
• Validación con Transformer Pequeño: Un Transformer pequeño entrenado en un HMM fijo recupera casi exactamente el predictor de n-grama Lineal de ventana finita teórico, con mecanismos de atención que agregan tokens recientes en una representación de característica linealmente decodificable.
• Hallazgos de PAP: La sonda confirma que la "creencia" (posterior sobre los estados ocultos) es linealmente decodificable del flujo residual, particularmente en las capas posteriores. Sin embargo, el parcheo causal revela que en algunos regímenes (por ejemplo, capas tempranas de tareas dominadas por la creencia), una alta decodificabilidad no implica un uso causal.

Significado y Reivindicaciones

El artículo afirma avanzar en la comprensión de cómo los LLMs realizan ICL en HMMs al conectar el rendimiento externo con los mecanismos internos. La conclusión central es que los LLM no implementan una inferencia iterativa estadísticamente óptima (como ejecutar el algoritmo forward o Baum-Welch). En su lugar, parecen aprender aproximaciones de ventana finita, similares al descenso de gradiente, bien descritas por estadísticas de n-grama Suave.

Esto ocurre incluso en regímenes donde, teóricamente, la integración de largo alcance produciría una pérdida de entropía cruzada menor. El estudio enfatiza que el "algoritmo" que implementa un LLM no es un procedimiento fijo y monolítico, sino una estrategia flexible que cambia según la dificultad y la estructura de la distribución de datos subyacente. La introducción de PAP proporciona un marco riguroso para distinguir entre representaciones que están meramente presentes en las activaciones del modelo y aquellas que son causalmente necesarias para la predicción.

Los autores señalan limitaciones, restringiendo su análisis a HMMs sintéticos con alfabetos finitos pequeños y dependiendo de la sonda lineal, que puede no capturar representaciones totalmente no lineales o distribuidas. Sugieren extender PAP a tareas de lenguaje natural con estructura latente y realizar análisis de nivel de circuito como direcciones futuras.