Domain-Filtered Knowledge Graphs from Sparse Autoencoder Features

1. Declaración del Problema

Los Autoencoders Dispersos (SAE) han permitido la extracción de millones de características interpretables a partir de Modelos de Lenguaje Grandes (LLM), avanzando más allá de neuronas opacas hacia características monosémicas. Sin embargo, los inventarios actuales de SAE presentan desafíos significativos para la interpretabilidad:

• Inventarios Planos: Las características a menudo se presentan como listas no estructuradas, lo que dificulta comprender las relaciones entre ellas.
• Ruido y Generalidad: Los inventarios contienen una mezcla de conceptos específicos de un dominio, características genéricas de formato/puntuación y patrones débilmente fundamentados.
• Conceptos Dispersos: Las ideas semánticamente relacionadas a menudo se distribuyen entre muchas características vecinas en lugar de estar localizadas.
• Falta de Estructura: No existe un mecanismo inherente para comprender cómo se agrupan, separan o puentean los conceptos temas a través de un corpus, ni cómo fluyen a través de las capas del modelo durante el cálculo local.

El problema central es transformar un inventario plano y ruidoso de SAE en un gráfico de conocimiento interno estructurado y específico de un dominio que revele tanto la estructura organizativa global como las vías mecánicas locales.

2. Metodología

Los autores proponen una tubería que pasa de un inventario crudo de SAE a un universo de conceptos estricto, el cual luego se organiza en dos vistas de gráfico alineadas: un Gráfico de Co-ocurrencia (nivel de corpus) y un Gráfico de Mecanismo de Transcodificador (nivel local).

A. Construcción de un Universo de Conceptos Estricto (Filtrado)

Antes de la construcción del gráfico, los autores aplican un proceso de filtrado multietapa para aislar una región relevante específica del dominio ($V^*$) del inventario crudo ($V$):

1. Listado Contrastivo: Las características se puntúan basándose en tres ejes comparando el corpus objetivo (por ejemplo, un libro de texto de biología) contra corpora de contraste (por ejemplo, historia/geología):
   • Soporte: ¿La característica está significativamente presente en el objetivo?
   • Riqueza: ¿Es más característica del objetivo que de los contrastes?
   • Localización: ¿Se concentra en capítulos/subcapítulos coherentes en lugar de difundirse por todas partes?
2. Adjudicación a Nivel de Paquete: Las características supervivientes se empaquetan en "paquetes de evidencia" que contienen descripciones, ventanas representativas y datos de contraste. Un adjudicador escalonado verifica si el concepto es visible, pertenece al dominio objetivo y es distintivo en comparación con los contrastes.
3. Resultado: Un universo estricto $V^*$ que contiene solo características de alta confianza y relevantes para el dominio.

B. Construcción del Gráfico

Se construyen dos vistas de gráfico complementarias sobre $V^*$:

1. Gráfico de Co-ocurrencia Multi-Granular (Estructura del Corpus):

   • Objetivo: Revelar cómo se agrupan los conceptos y puentean temas a través de todo el corpus.
   • Mecanismo: Las características se puntúan por su presencia en oraciones basándose en umbrales de activación. Esta presencia se eleva determinísticamente a párrafos, subcapítulos y capítulos.
   • Aristas: Se construyen utilizando conteos de co-ocurrencia normalizados por Jaccard ($J_{ab}$) entre características. Esto crea un gráfico de misma capa que muestra qué conceptos se repiten juntos a diferentes escalas.

2. Gráfico de Mecanismo de Transcodificador (Flujo Transversal de Capas Local):

   • Objetivo: Explicar cómo los conceptos de la capa de origen se transforman en conceptos de la capa de destino en entradas específicas.
   • Mecanismo: Utiliza un Transcodificador (un autoencoder disperso entrenado para mapear el flujo residual de la Capa $L$ a la Capa $L+1$) junto con diccionarios SAE para ambas capas.
   • Aristas: Las aristas dirigidas representan vías legibles donde una característica de origen activa un latente disperso, que a su vez escribe en una característica de destino.
   • Estático vs. Dinámico:
     • Estático: Una biblioteca de vías posibles basada en estadísticas resumidas.
     • Dinámico: Un gráfico condicionado a la oración que muestra qué vías están realmente activas para una entrada específica.

C. Compresión Consciente de la Jerarquía y Etiquetado de Aristas

• Jerarquía de Abstracción: Para manejar la densidad, las características se organizan en un árbol semántico (árbol de abstracción) utilizando agrupamiento mutual-kNN en las descripciones de las características.
• Compresión: Los gráficos de mecanismo local densos se comprimen colapsando subárboles coherentes en "supernodos" mientras se preservan las aristas activas críticas (aristas de bloqueo) para mantener la fidelidad.
• Etiquetado de Aristas (Auto-Relacionar): En lugar de aristas ponderadas sin etiqueta, el sistema genera frases de relación legibles.
  • Aristas de co-ocurrencia: Etiquetadas usando oraciones de evidencia conjunta y contrastiva (por ejemplo, distinguiendo "Yellowstone" de "amarillo" genérico).
  • Aristas de mecanismo: Etiquetadas usando la evidencia más fuerte a nivel de oración y pistas latentes para describir la transformación (por ejemplo, "El concepto de origen apoya el concepto de destino a través del Latente X").

3. Contribuciones Clave

1. Filtrado Contrastivo Multietapa: Un proceso novedoso para extraer un universo de conceptos estricto y específico de un dominio a partir de inventarios masivos de SAE, eliminando el ruido genérico.
2. Gráficos de Conocimiento de Doble Vista: La construcción de dos gráficos alineados:
   • Un Gráfico de Co-ocurrencia para la estructura global y multi-granular del corpus.
   • Un Gráfico de Mecanismo de Transcodificador para el flujo de conceptos dirigido y transversal de capas a nivel local.
3. Compresión Jerárquica: Un método para comprimir gráficos de mecanismo densos en "atlases de mecanismos" legibles utilizando una jerarquía semántica, equilibrando el detalle con la legibilidad.
4. Semántica de Aristas Respaldada por Evidencia: Un sistema de etiquetado automatizado que convierte aristas estadísticas en relaciones de gráfico de conocimiento legibles y respaldadas por evidencia.

4. Resultados

El marco se evaluó en un corpus de libro de texto de biología utilizando SAE de Gemma Scope (Capas 20-21).

• Recuperación de Estructura: Los gráficos recuperaron con éxito la organización creada por humanos del libro de texto.
  • Escala Global: Se observaron "cuencas" de activación distintas para diferentes capítulos (por ejemplo, Herencia vs. Biotecnología) en coordenadas compartidas.
  • Escala Local: Estructuras de subcapítulos más finas se preservaron dentro de las cuencas de los capítulos.
  • Métricas: El análisis cuantitativo mostró una alta alineación entre las particiones del gráfico y los capítulos/subcapítulos del libro de texto, con la agregación de oraciones y párrafos produciendo la recuperación estructural más fuerte.
• Legibilidad: La tubería transformó con éxito la actividad difusa a nivel de oración (miles de características) en atlases de mecanismos compactos y legibles.
• Conceptos Puente: Los gráficos revelaron conceptos que puentean temas vecinos, los cuales a menudo se pasan por alto en listas planas.
• Explicación de Mecanismos: Los gráficos de transcodificador proporcionaron vistas dirigidas e interpretables de cómo se procesan y transforman conceptos específicos (por ejemplo, "sistema respiratorio") a través de las capas, con aristas etiquetadas por relaciones en lenguaje natural.

5. Significado

Este trabajo representa un cambio de paradigma en la interpretabilidad mecánica:

• De Inventario a Mapa: Reencuadra las características de SAE no como una lista plana de "lo que el modelo sabe", sino como un gráfico de conocimiento interno que representa "cómo el modelo organiza y usa ese conocimiento".
• Auditoría de Fidelidad: Al crear un mapa interno estructurado y respaldado por evidencia, el método permite auditorías futuras sobre si el razonamiento generado por el modelo (Cadena de Pensamiento) refleja fielmente su estructura de activación interna.
• Escalabilidad: El enfoque demuestra que incluso con millones de características, es posible construir vistas coherentes y específicas de un dominio de los internos del modelo sin la curación manual de cada característica.
• Exploración Interactiva: Los autores proporcionan un artefacto de navegador interactivo, permitiendo a los investigadores navegar la estructura de gráfico aprendida, rastrear regiones puente e inspeccionar mecanismos a nivel de oración dinámicamente.

En resumen, el documento proporciona un marco robusto para convertir activaciones de SAE crudas y de alta dimensión en gráficos de conocimiento estructurados y legibles por humanos que capturan tanto la topología global del conocimiento del modelo como la mecánica local del razonamiento.