Resumen Técnico: MetaOthello: Un Estudio Controlado de Múltiples Modelos de Mundo en Transformers

Declaración del Problema

Los modelos fundacionales son entrenados con datos diversos y deben aprender simultáneamente múltiples procesos generativos, cambiando entre ellos a menudo según el contexto. Mientras que la interpretabilidad mecanística ha identificado con éxito "modelos de mundo" (representaciones internas del estado latente) en entornos de una sola tarea como Othello-GPT, sigue sin estar claro cómo un solo transformer organiza múltiples modelos de mundo, potencialmente conflictivos, dentro de un espacio de representación compartido. Los estudios previos suelen aislar un único sistema de reglas, fallando al abordar cómo los modelos gestionan datos heterogéneos donde coexisten y pueden entrar en conflicto múltiples sistemas de reglas.

Metodología: El Marco MetaOthello

Para abordar esta brecha, los autores introducen MetaOthello, un marco sintético controlado para estudiar la organización de múltiples modelos de mundo.

• Variantes de Juego: El marco define un universo de juegos tipo Othello jugados en un tablero de $8 \times 8$ con un vocabulario compartido (64 posiciones + pasar). Los juegos difieren en su física subyacente:
  • Clásico (Classic): Reglas estándar de Othello.
  • NoMidFlip: Inicialización y validación idénticas a Clásico, pero la regla de actualización solo voltea las dos piezas exteriores flanqueadas.
  • DelFlank: Utiliza una regla de validación basada en vecinos (los movimientos deben ser adyacentes a una pieza) y una regla de actualización donde las piezas flanqueadas son eliminadas en lugar de volteadas.
  • Iago: Una variante con los tokens permutados mediante una biyección (Mapa de Sintaxis) relativa a los movimientos físicos del tablero, mientras que la lógica subyacente es idéntica a la de Clásico.
• Régimen de Entrenamiento: Pequeños Transformers de decodificador solo (8 capas, 8 cabezales, $d_{model}=512$) son entrenados en:
  • Datasets Puros: Secuencias de una única variante de juego.
  • Datasets Mixtos: Secuencias muestreadas de pares de variantes (por ejemplo, Clásico + NoMidFlip), creando prefijos "ambiguos" donde la secuencia es válida bajo ambos conjuntos de reglas pero conduce a diferentes estados de tablero.
• Métricas de Evaluación:
  • $\alpha$-Score: Una métrica de rendimiento normalizada que tiene en cuenta la entropía del conjunto de movimientos válidos, permitiendo la comparación entre juegos con diferentes factores de ramificación.
  • Sondas Lineales (Linear Probes): Entrenadas para decodificar estados de tablero (mío/tuyo/vacío) e identidad del juego desde el flujo residual (residual stream).
  • Intervención Causal: Uso de pesos de sonda para dirigir el estado interno del modelo (por ejemplo, voltear el estado de una casilla en la representación) para probar la eficacia causal.
  • Alineación de Procrustes: Utilizada para medir la similitud geométrica entre los pesos de las sondas a través de diferentes variantes de juego, identificando rotaciones ortogonales que alinean las representaciones.

Hallazgos Clave

1. Alineación entre Variantes y Representaciones Compartidas

Los transformers entrenados con datos mixtos no particionan la capacidad en submodelos aislados. En su lugar, aprenden una representación de estado de mundo compartida:

• Alineación Geométrica: Sondas lineales entrenadas en una variante (por ejemplo, Clásico) pueden intervenir eficazmente en el estado interno de otra variante (por ejemplo, NoMidFlip o DelFlank).
• Invarianza de Rotación: Para juegos isomórficos con tokenización alterada (Iago), las representaciones son equivalentes hasta una única rotación ortogonal que se generaliza a través de todas las capas. Esto indica que el modelo aprende una estructura abstracta independiente de los tokens superficiales.
• Eficacia Causal: Las intervenciones de sondas cruzadas son casi tan efectivas como las intervenciones de sondas coincidentes, lo que sugiere que la geometría causal del estado del tablero es compartida.

2. Economización y Resolución de Conflictos

El modelo no mantiene dos modelos de mundo completamente distintos simultáneamente. En su lugar, economiza compartiendo representaciones donde las reglas coinciden y localizando el conflicto:

• Substrato Compartido: La representación del estado del tablero es genuinamente compartida.
• Conflicto Localizado: Una "característica de conflicto" (conflict feature) calculada por separado y delgada determina qué sistema de reglas se aplica cuando las reglas divergen.
• Especialización de Capas: En la mezcla Clásico-NoMidFlip, el modelo mantiene ambos estados de tablero hasta que surge un conflicto. La probabilidad de la identidad del juego se codifica comenzando en la Capa 4 (vía el MLP) y se enruta a través de la Capa 5 (específicamente el Cabezal de Atención 5). Dirigir este circuito específico controla causalmente qué sistema de reglas aplica el modelo a un prefijo ambiguo.

3. Regímenes de Arbitraje Distintos

El mecanismo para manejar la ambigüedad depende del grado de divergencia entre los sistemas de reglas:

• Alta Superposición (Clásico-NoMidFlip): El modelo mantiene ambos estados de tablero y repondera un subespacio de capa media en el punto de conflicto.
• Baja Superposición (Clásico-DelFlank): Debido a que el árbol de juego de DelFlank diverge rápidamente de Clásico, las secuencias ambiguas se vuelven efectivamente fuera de la distribución (out-of-distribution) rápidamente. En este régimen, el modelo se compromete tempranamente con un único modelo de mundo (Clásico) y descarta la alternativa. Recuperar la interpretación suprimida requiere intervenir en capas tempranas (2–3), no en capas medias.

Significado y Reivindicaciones

El artículo posiciona a MetaOthello como una contribución metodológica a la interpretabilidad mecanística, ofreciendo un "banco de pruebas de verdad fundamental" (ground-truth testbed) para validar técnicas antes de aplicarlas a datos complejos y naturalistas.

• Resolución de la Paradoja: El estudio resuelve la aparente paradoja de cómo los modelos pueden tener representaciones intercambiables para diferentes juegos y, aun así, distinguir entre ellos. La respuesta reside en un sustrato compartido para el estado común y un circuito de enrutamiento localizado para la resolución de conflictos.
• Implicaciones para Modelos Grandes: Los hallazgos sugieren que los modelos fundacionales grandes pueden organizar el conocimiento heterogéneo no mediante la partición de la capacidad en subredes separadas, sino compartiendo estructuras alineadas y localizando el conflicto en circuitos identificables y dirigibles.
• Limitaciones: Los autores reconocen que estos hallazgos se establecen en un entorno sintético controlado. El estudio prueba únicamente mezclas de pares y una escala de arquitectura específica, dejando como preguntas abiertas los efectos de las mezclas desequilibradas, las escalas mayores y la arbitración de múltiples vías. El análisis depende de sondas lineales, y estructuras no lineales podrían revelar mecanismos adicionales.

En resumen, el artículo demuestra que los transformers reconcilian múltiples modelos de mundo compartiendo la estructura y localizando el conflicto, proporcionando una visión mecánica concreta de cómo opera el aprendizaje multitarea en modelos de secuencia.