🤖 AI

Query Circuits: Explaining How Language Models Answer User Prompts

Este artículo introduce los "circuitos de consulta" (query circuits), un método para rastrear el flujo de información específico de la entrada dentro de los modelos de lenguaje para proporcionar explicaciones fieles, dispersas y computacionalmente accesibles para salidas individuales, validadas por una nueva métrica llamada Fidelidad de Desviación Normalizada (NDF) y demostradas a través de múltiples evaluaciones de referencia.

Autores originales: Tung-Yu Wu, Fazl Barez

Publicado 2026-06-02

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Tung-Yu Wu, Fazl Barez

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina un Modelo de Lenguaje Grande (LLM) como una ciudad masiva y bulliciosa con millones de carreteras, intersecciones y semáforos. Cuando le haces una pregunta al modelo (un "prompt"), es como enviar un camión de reparto a través de esta ciudad para entregar una respuesta.

Durante mucho tiempo, los investigadores han intentado entender cómo funciona esta ciudad trazando patrones de tráfico generales. Saben, por ejemplo, que la "Ruta A" siempre se usa cuando la ciudad necesita encontrar un objeto oculto, o que la "Ruta B" se usa para problemas matemáticos. Estos se llaman circuitos de capacidad.

Sin embargo, conocer la ruta general no explica por qué el camión tomó un camino específico para tu entrega específica hoy. Tal vez hubo una zona de obras, un desvío repentino o un semáforo único que solo importó para este viaje en particular.

Este artículo introduce una nueva forma de mirar la ciudad: Circuitos de Consulta (Query Circuits). En lugar de mirar el mapa general, los autores quieren rastrear el camino exacto y diminuto que tomó el camión para tu pregunta específica.

Aquí tienes un desgón de su descubrimiento utilizando analogías sencillas:

1. El Problema: El mapa "Sustituto" estaba equivocado

Previamente, para entender un viaje específico, los investigadores intentaban construir un modelo de la ciudad pequeño y simplificado (un "sustituto") y trazaban la ruta allí.

La Analogía: Imagina que intentas entender un atasco complejo en Nueva York construyendo un modelo de juguete de la ciudad con piezas de LEGO. Trazas la ruta en los LEGO, esperando que coincida con la ciudad real.
El Problema: El artículo argumenta que estos modelos de LEGO a menudo no coinciden perfectamente con la ciudad real. Omiten detalles y construirlos es lento y costoso. Los autores querían trazar el camino directamente en la ciudad real (el modelo real) sin necesidad de una versión de juguete.

2. La Solución: La lotería "Best-of-N"

Los autores descubrieron que encontrar el camino exacto para una pregunta específica es sorprendentemente difícil. Si solo observas los semáforos para una sola pregunta, los datos suelen ser "ruidosos" (como la estática en una radio), lo que dificulta ver el camino real.

La Analogía: Imagina que estás tratando de encontrar un boleto de lotería ganador, pero los números del boleto están ligeramente borrosos. Si intentas elegir al ganador basándote en un solo boleto, podrías elegir el incorrecto.
La Solución: Los autores proponen un método llamado Best-of-N (BoN).
1. Toma tu pregunta original.
2. Hazle al modelo la misma pregunta pero expresándola de 9 formas diferentes (paráfrasis). Es como preguntar: "¿De qué color es el cielo?" frente a "Describe el color del cielo en un día despejado".
3. Traza el camino para las 10 versiones.
4. Elige al ganador: Selecciona el camino que funcionó mejor.
El Resultado: Aunque la pregunta original era "borrosa", una de las versiones parafraseadas fue lo suficientemente clara como para revelar el verdadero camino oculto. Al verificar múltiples versiones, encontraron un "boleto ganador" que explica con precisión cómo respondió el modelo.

3. La Nueva Calificación: NDF

Para saber si encontraron el camino correcto, necesitaban una forma de medir el éxito. La calificación antigua (llamada NFS) estaba rota para preguntas complejas; daba puntuaciones como "200%" o "-50%", lo cual no tenía sentido.

La Analogía: Es como un velocímetro que a veces dice que vas conduciendo hacia atrás a 100 mph o hacia adelante a 500 mph cuando en realidad vas a 60.
La Solución: Inventaron una nueva puntuación llamada NDF (Fidelidad de Desviación Normalizada). Este es un velocímetro confiable que siempre se mantiene entre 0 y 1.
- 1.0 significa que el camino que encontraron es perfecto (explica la respuesta del modelo exactamente).
- 0.0 significa que el camino es inútil.
- Esta nueva calificación les permite confiar en sus hallazgos, incluso en temas difíciles como exámenes médicos o astronomía.

4. La Gran Sorpresa: La Ciudad está mayormente vacía

El hallazgo más emocionante es que, para cualquier pregunta individual, el modelo no utiliza toda la ciudad. Solo utiliza un vecindario pequeño y específico.

La Analogía: Podrías pensar que un camión de reparto necesita usar el 50% de las carreteras de la ciudad para ir del punto A al punto B. Pero los autores descubrieron que, para una pregunta específica, el camión solo utiliza aproximadamente el 1.3% de las carreteras.
La Prueba: Demostraron que si bloquean el 98.7% de la ciudad y solo permiten que el camión use ese pequeño camino del 1.3%, este aún puede responder la pregunta correctamente aproximadamente el 60% de las veces. Esto demuestra que el "cerebro" del modelo es increíblemente disperso y eficiente para tareas individuales.

Resumen

El artículo presenta una nueva herramienta para explicar exactamente cómo una IA responde a una pregunta específica.

Dejaron de usar "modelos de juguete" y miraron directamente dentro de la IA real.
Se dieron cuenta de que hacer la misma pregunta de diferentes maneras ayuda a revelar la "verdad" oculta de cómo piensa la IA.
Crearon una mejor forma de medir si su explicación es correcta.
Demostraron que, para cualquier pregunta individual, la IA solo utiliza una fracción diminuta y específica de su enorme cerebro para realizar el trabajo.

Esto nos lleva de saber "cómo hace matemáticas la IA en general" a entender "exactamente cómo resolvió la IA este problema matemático".

Resumen Técnico: Circuitos de Consulta: Explicando cómo los modelos de lenguaje responden a las instrucciones del usuario

1. Definición del Problema

La investigación actual en interpretabilidad mecánica se ha centrado principalmente en el descubrimiento de circuitos de capacidad, que identifica subredes globales responsables de habilidades algorítmicas específicas (por ejemplo, identificación de objeto indirecto o comparaciones de "mayor que") a través de un conjunto de datos. Aunque es valioso, estos métodos no explican por qué un Modelo de Lenguaje Grande (LLM) produce una salida específica para una consulta de usuario única y específica (explicación a nivel de instancia).

Los enfoques existentes para los circuitos a nivel de instancia dependen en gran medida de modelos sustitutos (surrogates), como los Autoencoders Dispersos (SAE) o los Transcodificadores entre Capas (CLT). Estos sustitutos se utilizan a menudo para aproximar el comportamiento del LLM porque ofrecen activaciones dispersas que facilitan el descubrimiento de circuitos. Sin embargo, el artículo argumenta que estos sustitutos frecuentemente fallan al reconstruir fielmente las activaciones del modelo original y pueden no capturar los verdaderos mecanismos computacionales del LLM. Además, entrenar estos sustitutos es computacionalmente costoso, lo que limita su accesibilidad.

El artículo introduce la tarea de Descubrimiento de Circuitos de Consulta: identificar una subred dispersa y fiel directamente dentro del LLM original (in situ) que impulse la respuesta del modelo a una única consulta de entrada. Este enfoque tiene como objetivo proporcionar explicaciones locales, a nivel de entrada, sin depender de modelos sustitutos potencialmente infieles.

2. Metodología

Los autores proponen un marco para abordar dos desafíos técnicos primarios en el descubrimiento de circuitos de consulta: la inestabilidad de las métricas de evaluación existentes y la ineficacia de los métodos de descubrimiento estándar en consultas únicas.

2.1. Métrica de Evaluación: Fidelidad de Desviación Normalizada (NDF)

Se demuestra que la métrica estándar para el descubrimiento de circuitos, la Puntuación de Fidelidad Normalizada (NFS), es inestable en conjuntos de datos generales (por ejemplo, MMLU). Los valores de NFS suelen fluctuar drásticamente, superando 1 o cayendo por debajo de 0, lo que imposibilita el seguimiento fiable del progreso del descubrimiento o la comparación de la calidad del circuito.

Para resolver esto, los autores introducen la Fidelidad de Desviación Normalizada (NDF):
$\text{NDF}(C_q) = 1 - \min\left( \left| \frac{L(M(q)) - L(C_q(q))}{L(M(q)) - L(M(q'))} \right|, 1 \right)$
Donde:

$M$ es el LLM objetivo.
$C_q$ es el circuito de consulta descubierto.
$q$ es la consulta original, y $q'$ es una consulta corrupta (por ejemplo, con las claves fácticas eliminadas).
$L(\cdot)$ es una métrica de rendimiento (por ejemplo, diferencia de logits).

Propiedades clave de NDF:

Acotada: Está estrictamente acotada en $[0, 1]$ .
Simétrica: Penaliza las desviaciones por encima y por debajo del rendimiento del modelo de igual manera.
Interpretabilidad: Una puntuación de 1 indica que el circuito recupera perfectamente el rendimiento del modelo; 0 indica que la desviación es tan grande como la brecha entre las consultas original y corrupta.

2.2. Método de Descubrimiento: Muestreo Best-of-N (BoN)

Los métodos estándar de puntuación de bordes (como el Parcheo de Atribución de Bordes o EAP) a menudo fallan al encontrar circuitos compactos y fieles para consultas únicas debido al ruido de gradiente y al descuido de los efectos combinatorios entre bordes. Los autores observan que, si bien un circuito descubierto en una consulta específica puede fallar, los circuitos descubiertos en paráfrasis de esa consulta suelen tener éxito.

Basándose en esto, proponen el Muestreo Best-of-N (BoN):

Parafraseo: Generar $p$ paráfrasis de la consulta original $q$ .
Puntuación: Calcular las puntuaciones de importancia de los bordes (usando EAP-IG) para la consulta original y todas las paráfrasis, resultando en $p+1$ matrices de puntuación de bordes.
Selección: Construir $p+1$ circuitos candidatos (uno para cada matriz de puntuación) y seleccionar aquel con la mayor puntuación NDF.

Para mejorar la eficiencia y evitar ejecutar el LLM $p+1$ veces por cada presupuesto de bordes, los autores proponen dos variantes:

BoN Interpolado (iBoN): Interpola entre dos circuitos fieles previamente descubiertos de diferentes tamaños para formar un nuevo circuito sin pasadas hacia adelante adicionales.
BoN con Matriz de Puntuación Adaptativa a Restricciones (BoN-CSM): Agrega matrices de puntuación de todos los circuitos descubiertos previamente en una matriz de puntuación y una matriz de niveles unificadas, lo que permite la construcción eficiente de nuevos circuitos de diversos tamaños.

3. Contribuciones Clave

Formulación de la Tarea: El artículo define formalmente el Descubrimiento de Circuitos de Consulta, distinguiéndolo del descubrimiento de circuitos de capacidad global y de los enfoques de nivel de instancia basados en sustitutos. Enfatiza el rastreo del flujo de información directamente dentro del modelo original.
Evaluación Robusta (NDF): Los autores identifican la inestabilidad de NFS en conjuntos de datos generales y proponen NDF como una métrica más fiable, acotada y simétrica para evaluar los circuitos de consulta.
Descubrimiento Eficiente (BoN): Introducen el muestreo Best-of-N y sus variantes (iBoN, BoN-CSM) para superar las limitaciones del ruido de gradiente y los efectos combinatorios, permitiendo el descubrimiento de circuitos compactos y fieles para consultas de lenguaje natural complejas.
Validación Empírica: El artículo demuestra que existen circuitos de consulta dispersos dentro de los LLM que recuperan una parte significativa del rendimiento del modelo en consultas individuales, incluso para tareas complejas como MMLU y el ARC Challenge.

4. Resultados Experimentales

Los autores evaluaron sus métodos a través de múltiples evaluaciones: Identificación de Objeto Indirecto (IOI), tareas aritméticas, ARC Challenge y nueve categorías de MMLU.

Rendimiento: El muestreo BoN superó consistentemente a los modelos de referencia (puntuación de consulta única y promedio de puntuaciones sobre paráfrasis).
Dispersión: En MMLU, un circuito de consulta que contiene solo el 1.3% de los bordes totales del modelo (aprox. 5,000 bordes en Llama-3.2-1B-Instruct) logró un NDF promedio de 0.6, recuperando aproximadamente el 60% del comportamiento del modelo en esa consulta. En contraste, el EAP-IG estándar requirió significativamente más bordes (hasta el 51.7% del modelo) para alcanzar niveles de rendimiento similares.
Subcircuitos Compartidos: El análisis reveló que, si bien los circuitos de consulta varían según el parafraseo, comparten un conjunto central de bordes (un "subcircuito compartido") que corresponde a la capacidad subyacente, lo que respalda la hipótesis de que estos circuitos no son "boletos de la lotería" aleatorios, sino variantes de un mecanismo común.
Accionabilidad: En experimentos que involucran sesgo de género, se encontró que los circuitos con puntuaciones NDF más altas eran más accionables. La anulación de las características identificadas por los circuitos de alto NDF resultó en una reducción del sesgo significativamente mayor en comparación con los circuitos de bajo NDF, lo que sugiere que NDF es un proxy fiable de la capacidad del circuito para capturar computaciones significativas.

5. Significado y Reivindicaciones

El artículo afirma que el Descubrimiento de Circuitos de Consulta representa un paso significativo hacia explicaciones fieles y escalables de cómo los modelos de lenguaje procesan entradas individuales.

Fidelidad: Al operar directamente dentro del modelo (in situ) en lugar de depender de sustitutos, las explicaciones son más fieles a los mecanismos computacionales reales del modelo.
Escalabilidad: Los métodos de muestreo BoN propuestos permiten el descubrimiento de estos circuitos sin el costo computacional prohibitivo de entrenar modelos sustitutos o realizar excesivas pasadas hacia adelante.
Practicidad: El descubrimiento de subredes dispersas (por ejemplo, el 1.3% de las conexiones) que explican la mayor parte del comportamiento del modelo en consultas específicas sugiere que los LLM procesan entradas individuales a través de vías altamente localizadas, lo que las hace susceptibles de un análisis mecánico detallado.

Los autores concluyen que, si bien quedan desafíos (como el manejo de la generación de múltiples tokens y la automatización completa del etiquetado legible para humanos), su trabajo establece un camino práctico para explicar las decisiones de los LLM a nivel de instrucción, lo cual es esencial para el despliegue en dominios de alto riesgo como la medicina y los sistemas autónomos.