Resumen Técnico: Las poblaciones de neuronas exhiben una selectividad divergente con la escala

Declaración del problema

Si bien las leyes de escalado neuronal han establecido relaciones predecibles entre el tamaño del modelo y los observables macroscópicos (p. ej., la pérdida), la organización interna de las representaciones a nivel de neurona sigue siendo poco comprendida. Una pregunta central en el aprendizaje profundo y la neurociencia es cómo las neuronas codifican la estructura: si las representaciones están localizadas en unidades individuales o distribuidas en poblaciones, y cómo estas estructuras evolucionan a medida que los modelos escalan. Específicamente, no está claro si las poblaciones de neuronas recurrentes entre modelos siguen leyes sistemáticas con respecto a su tamaño, selectividad (monosemanticidad frente a polisemanticidad) y especialización.

Metodología

Los autores investigan estas cuestiones utilizando Neuronas Rosetta, una clase de neuronas definidas por Dravid et al. (2023) como unidades cuyos patrones de activación recurren en modelos entrenados de forma independiente. El estudio emplea la siguiente metodología:

1. Identificación de las Neuronas Rosetta:

   • Los autores analizan modelos de lenguaje basados en Transformers (Pythia, GPT-2, OPT, Qwen2.5; 80M–30B de parámetros) y modelos de visión (OpenCLIP, DINOv2, Pixio, modelos de Difusión; 80M–5B de parámetros).
   • Alinean las activaciones por token entre modelos (usando límites de bytes compartidos para texto y rejillas espaciales remuestreadas para imágenes).
   • Computan las correlaciones de Pearson por pares entre neuronas a través de los modelos e identifican pares de vecinos más cercanos mutuos ($k=1$) como Neuronas Rosetta. Esto filtra coincidencias asimétricas o ruidosas.

2. Análisis de Escala:

   • Grafican el número de Neuronas Rosetta descubiertas frente al número total de neuronas en el modelo para derivar leyes de escalado.
   • Comparan estas tendencias contra líneas base nulas, incluyendo redes aleatorias no entrenadas y conjuntos de datos permutados por entrada, para asegurar que el escalado es una propiedad de las representaciones aprendidas y no un artefacto arquitectónico.

3. Modelado Analítico:

   • Los autores proponen un modelo de asignación de capacidad basado en la teoría de la superposición (Elhage et al., 2022).
   • El modelo asume un espectro de importancia de características de ley de potencia ($w_r \propto r^{-\beta}$) donde las características compiten por un número finito de coordenadas neuronales.
   • Postula que las características de alta importancia son asignadas a un aislamiento "limpio" (monosemanticidad) para reducir la pérdida, mientras que las características de menor importancia permanecen en superposición (polisemanticidad).
   • El modelo deriva que el número de características detectables y aisladas (Neuronas Rosetta) debería escalar como una ley de potencia sublineal ($N^{1/\beta}$) y predice un Efecto de Polarización Neuronal.

4. Evaluación de Propiedades:

   • Selectividad: Medida mediante la curtosis de la proyección en el espacio del vocabulario para modelos de lenguaje y evaluaciones de VLM-como-juez para modelos de visión.
   • Especialización: Analizada categorizando los contextos de máxima activación de las Neuronas Rosetta (p. ej., código, matemáticas, prosa general) a través de diferentes escalas de modelos.
   • Utilidad: Un estudio de caso filtra datos para el preentrenamiento continuo utilizando una única Neurona Rosetta para recuperar un dominio específico (JavaScript).

Resultados Clave

1. Escalado de Ley de Potencia Sublineal

A través de modelos de lenguaje y de visión, la población de Neuronas Rosetta crece de forma predecible con el tamaño del modelo, pero sigue una ley de potencia sublineal ($|R| \propto N^\alpha$ con $\alpha \approx 0.5\text{--}0.7$).

• Implicación: Aunque los modelos más grandes contienen más unidades compartidas en números absolutos, estas unidades ocupan una fracción decreciente de la población total de neuronas.
• Validación: Esta tendencia está ausente en redes aleatorias no entrenadas y en las líneas base de entrada permutada, confirmando que surge de las representaciones aprendidas.

2. El Efecto de Polarización Neuronal

El estudio observa una divergencia en las propiedades de las neuronas a medida que la escala aumenta:

• Neuronas Rosetta: Se vuelven cada vez más selectivas y monosemánticas. En los modelos de lenguaje, sus proyecciones en el espacio del vocabulario muestran una curtosis excesiva creciente; en los modelos de visión, los jueces VLM identifican que responden a características visuales coherentes con mayor frecuencia.
• Neuronas No-Rosetta: Permanecen menos selectivas y cada vez más polisemánticas, formando un trasfondo congestionado de características mixtas.
• Alineación Teórica: Esto coincide con la predicción del modelo analítico, donde la "frontera Rosetta" se desplaza hacia afuera, aislando las características de alta importancia de forma más limpia, mientras que la cola de las características de menor importancia permanece en superposición.

3. Especialización de Dominio

Las Neuronas Rosetta se desplazan hacia dominios especializados con la escala.

• En los modelos de lenguaje, el disparo de las Neuronas Rosetta se concentra cada vez más en categorías de texto especializadas (p. ej., código, matemáticas) en relación con su frecuencia en el corpus de entrenamiento.
• Este cambio no se observa en las neuronas no-Rosetta, que mantienen preferencias estables de tipo de documento a través de las escalas.

4. Utilidad Funcional en el Filtrado de Datos

Una única Neurona Rosetta selectiva para JavaScript (identificada en un modelo Pythia-6.9B) se utilizó para filtrar un corpus de código multilingüe.

• Recuperación: El filtro logró una puntuación F1 de 0.98 en la recuperación del subconjunto de JavaScript real, casi igualando a un oráculo.
• Rendimiento Posterior: El preentrenamiento continuo sobre los datos filtrados redujo la perplejidad a 3.02, casi igualando la línea base del oráculo (3.01) y superando significativamente al filtrado aleatorio (3.59) o al filtrado de neuronas no-Rosetta (3.23).

Significado y Reivindicaciones

El artículo afirma establecer una ley de escalado para la estructura compartida e interpretable a nivel de neurona. Sus principales contribuciones son:

1. Vincular la Escala con la Estructura Interna: Demuestra que el tamaño del modelo cambia sistemáticamente la universalidad, selectividad y especialización de las poblaciones de neuronas compartidas, extendiendo las leyes de escalado más allá de las métricas de pérdida macroscópicas.
2. Mecanismo de Polarización: Proporciona evidencia empírica y teórica de un "Efecto de Polarización Neuronal", donde el escalado impulsa una separación entre una población creciente de unidades compartidas altamente selectivas y un trasfondo polisemántico.
3. Interpretabilidad Práctica: Muestra que las Neuronas Rosetta no son solo curiosidades teóricas, sino unidades funcionales que pueden utilizarse para tareas dirigidas como el filtrado de datos y la especialización de dominios sin entrenamiento auxiliar o conceptos objetivo.
4. Generalizabilidad: Los hallazgos se mantienen a través de arquitecturas heterogéneas (Transformers, Diffusion Transformers) y modalidades (lenguaje, visión), lo que sugiere un principio fundamental en cómo las redes neuronales organizan las representaciones bajo restricciones de capacidad.

Los autores concluyen que las Neuronas Rosetta sirven como un observable tratable para estudiar la estructura compartida, ofreciendo un puente entre el comportamiento de escalado macroscópico y la organización microscópica de las representaciones aprendidas.