Resumen Técnico: NeuroCogMap Revela la Organización Cognitiva de los Grandes Modelos de Lenguaje

Planteamiento del Problema

Aunque los Grandes Modelos de Lenguaje (LLM) exhiben comportamientos de tipo cognitivo generalizados, su organización cognitiva interna permanece opaca. Los enfoques actuales de interpretabilidad están fragmentados: las evaluaciones conductuales revelan qué pueden hacer los modelos, pero no cómo se implementan las funciones; los estudios mecanicistas identifican neuronas o circuitos aislados, pero carecen de coherencia a nivel de sistema; y los análisis de representación revelan estructuras semánticas amplias sin vincularlas con unidades funcionales específicas u organización jerárquica. Existe una brecha crítica en la comprensión de cómo los componentes distribuidos en los LLM forman unidades funcionales coherentes, interactúan a través de niveles de abstracción y sustentan capacidades de orden superior, y cómo se desmoronan durante comportamientos patológicos (por ejemplo, alucinación, sesgo, fallo de rechazo). Además, no está claro si estas estructuras artificiales pueden proporcionar conocimientos contrastables sobre la cognición biológica o mejorar la predicción de las respuestas neurales humanas.

Metodología: El Marco NeuroCogMap

Los autores presentan NeuroCogMap, un marco inspirado en los principios de la neurociencia cognitiva (parcelación funcional, mapeo representacional, abstracción jerárquica) para mapear la estructura cognitiva interna de los LLM. El marco opera a través de cuatro etapas vinculadas:

1. Construcción del Atlas Funcional (Parcelas):

   • Extracción de Características: Se extraen las activaciones de los Autoencoders Dispersos (SAE) de los flujos residuales de los LLM (Gemma2-2B, Gemma2-9B-IT, Llama-3.1-8B) a través de diversos conjuntos de datos. Los SAE se utilizan para descomponer las activaciones de neuronas polisemánticas en direcciones de características separables e interpretables.
   • Agrupamiento (Clustering): Las características de los SAE se agrupan según sus perfiles de respuesta evocados por tareas y su distribución por capas. La granularidad óptima se determina mediante una puntuación conjunta que equilibra la calidad del agrupamiento, la calidad de la descripción funcional y la no redundancia, resultando en 270 parcelas funcionales.
   • Anotación: A cada parcela se le asigna una descripción funcional en lenguaje natural (por ejemplo, "Análisis de Contradicción", "Recuperación de Conocimiento Geográfico") basada en ejemplos de alta activación y extracción de palabras clave.

2. Atlas Cognitivo y Mapeo de Capacidades:

   • Inventario de Capacidades: Se establece un espacio curado de 45 capacidades cognitivas (por ejemplo, robustez, razonamiento, seguridad) extraídas de la literatura.
   • Vinculación: Las parcelas se vinculan a las capacidades mediante tres corrientes de evidencia: correlaciones de activación evocadas por tareas, efectos de intervención causal (direccionar la activación de la parcela) y consistencia semántica entre las descripciones de las parcelas y las definiciones de las capacidades.

3. Jerarquía Cognitiva:

   • Las capacidades se organizan en una jerarquía de cuatro capas inspirada en la taxonomía de Bloom: Percepción, Representación, Abstracción y Aplicación.
   • El marco valida esta jerarquía demostrando que las parcelas dentro de una capa son semánticamente más similares a la descripción de su capa que a otras, y que las capacidades de nivel inferior sirven como prerrequisitos para el razonamiento de orden superior.

4. Conectoma Estructural:

   • Se estiman las conexiones dirigidas entre las parcelas basándose en las relaciones trans-capa de sus características de SAE constituyentes, creando un conectoma estructural a nivel de modelo para analizar la coordinación y la disrupción.

Resultados Clave

1. Emergencia de Unidades Cognitivas Estables e Interpretables

NeuroCogMap identifica que la actividad interna de los LLM forma unidades funcionalmente significativas y estables, en lugar de grupos arbitrarios.

• Estabilidad: El atlas de 270 parcelas muestra una alta coherencia semántica interna (similitud dentro de la parcela > similitud entre parcelas) y una consistencia parcial trans-modelo a través de diferentes arquitecturas de LLM.
• Interpretabilidad: Las descripciones funcionales derivadas de los perfiles de activación predicen con éxito las clasificaciones de activación de las parcelas en datos no vistos, superando a las líneas base basadas únicamente en neuronas o palabras clave.
• Causalidad: Las intervenciones dirigidas (direccionamiento o steering) en parcelas específicas desplazan los resultados del modelo en direcciones consistentes con sus funciones asignadas, confirmando los vínculos causales entre las parcelas y el comportamiento.

2. Análisis de Sistemas de Patologías

NeuroCogMap revela que los fallos del modelo no son errores uniformes, sino disrupciones distintas en sistemas cognitivos específicos:

• Alucinación:
  • En TruthfulQA, las alucinaciones surgen de un fallo del control evaluativo de orden superior (por ejemplo, reducción de la activación de "Verificación de Veracidad" y "Verificación de Hechos Binarios") sobre la recuperación engañosa.
  • En NQ-Open, las alucinaciones surgen de una coordinación fragmentada entre los sistemas de recuperación de hechos (por ejemplo, debilitamiento del acoplamiento entre "Conocimiento Geográfico" y el "Núcleo de Recuperación de Hechos").
  • Detección y Mitigación: Las firmas derivadas de estas disrupciones permiten la detección de alucinaciones (AUROC hasta 0.840) y la intervención dirigida, mejorando significativamente la precisión factual al suprimir las parcelas de recuperación sobre-reclutadas y potenciar las parcelas evaluativas sub-reclutadas.
• Fallo de Rechazo:
  • Los fallos de rechazo (cumplimiento de instrucciones dañinas) reflejan un cambio de los sistemas de control/monitoreo (por ejemplo, "Evaluación Legal-Moral") hacia los sistemas de ejecución procedimental (por ejemplo, "Planificación de Acción").
  • El direccionamiento guiado por NeuroCogMap mejora sustancialmente la precisión del rechazo (por ejemplo, del 38.3% al 98.6% en AdvBench para Gemma2-2B).

3. Alineación con la Función Cortical Humana

El marco establece una correspondencia funcional entre la organización de los LLM y la actividad cerebral humana:

• Predicción Neural: Las activaciones de las parcelas de NeuroCogMap predicen las respuestas BOLD de la corteza humana durante la escucha de historias naturalistas (conjunto de datos LeBel) con mayor precisión ($r=0.407$) que los embeddings estándar (BERT, Word2Vec) o los estados ocultos genéricos de los LLM.
• Localización: La ventaja de predicción se localiza en las cortezas de asociación de orden superior (redes de Modo Predeterminado, Control Parietal Frontal y Saliencia), específicamente en regiones involucradas en la recuperación semántica e integración de contexto.
• Correspondencia Funcional: Las parcelas de los LLM que mejor predicen una parcela cortical humana comparten descripciones funcionales similares (por ejemplo, la "Recuperación de Memoria Episódica" en los LLM se alinea con las regiones de la memoria de la red de modo predeterminado humana). El Análisis de Similitud Representacional (RSA) confirma que la geometría interna de las parcelas alineadas de los LLM preserva la estructura de las redes corticales humanas.

4. Guía para el Descubrimiento de Modelos Cognitivos

NeuroCogMap expone estrategias latentes en los LLM que pueden refinar los modelos cognitivos clásicos:

• Ajuste Conductual: Las firmas de NeuroCogMap predicen qué tan bien un LLM simula el comportamiento humano a través de diversas tareas cognitivas (por ejemplo, toma de decisiones de dos pasos, elección intertemporal).
• Refinamiento de Modelos: Al analizar las firmas internas de los LLM que mejor se ajustan a los datos humanos, los autores identificaron mecanismos latentes (por ejemplo, arbitraje dinámico, perseveración sensible a la historia, cambio de política de tipo regla). La incorporación de estos mecanismos en un Modelo de Sistemas Duales clásico mejoró significativamente su ajuste a los datos conductuales humanos no vistos (menor AIC) en comparación con los modelos refinados utilizando únicamente trazas conductuales.

Significado y Reivindicaciones

El artículo afirma establecer NeuroCogMap como un marco de nivel de sistema que cierra la brecha entre la interpretabilidad mecánica local y el análisis conductual de alto nivel en los LLM. Sus principales contribuciones son:

1. Un Nuevo Nivel Explicativo: Define un nivel "mesoscópico" de organización funcional (parcelas y capacidades) que es lo suficientemente grueso como para revelar regularidades entre modelos, pero lo suficientemente específico como para permitir la intervención causal y la interpretación conductual.
2. Intervención Guiada por Mecanismos: Demuestra que las patologías de los modelos (alucinación, fallo de rechazo) pueden diagnosticarse y mitigarse mediante el abordaje de disrupciones específicas en la arquitectura cognitiva interna, yendo más allá del filtrado a nivel de salida.
3. Relevancia Biológica sin Equivalencia: Proporciona una base estructurada para relacionar los sistemas artificiales con la cognición humana. El marco muestra que los LLM pueden servir como sistemas experimentales para generar hipótesis sobre la organización cognitiva, validadas contra datos neurales y conductuales humanos, sin pretender que los LLM sean réplicas mecánicas del cerebro.
4. Avance de la Ciencia Cognitiva: Ofrece una vía para refinar los modelos cognitivos clásicos (por ejemplo, teorías de la toma de decisiones) aprovechando la "caja negra" de los LLM para descubrir estrategias latentes que expliquen el comportamiento humano de manera más precisa.

Los autores posicionan este trabajo como un paso hacia una "neurociencia cognitiva de la inteligencia artificial", donde la organización cognitiva se convierte en un objeto experimentalmente tratable tanto en sistemas artificiales como biológicos.