💬 NLP

TRACE: Trajectory Correction from Cross-layer Evidence for Hallucination Reduction

TRACE es un algoritmo determinista, sin entrenamiento y en tiempo de inferencia que reduce las alucinaciones en los modelos de lenguaje grandes al seleccionar dinámicamente la capa óptima y el operador de corrección (como la inversión escalar o la recuperación de estados anteriores) basándose en la trayectoria candidata interna de cada entrada a través de las capas, logrando mejoras significativas en la precisión en 15 modelos sin requerir datos externos ni ajuste fino.

Autores originales: Tej Sanibh Ranade

Publicado 2026-05-19

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Tej Sanibh Ranade

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina un Modelo de Lenguaje Grande (LLM) como una fábrica masiva de varios pisos donde un producto (una respuesta) se ensambla capa por capa. En la planta baja, entran las materias primas. A medida que avanzan por los pisos (capas), se procesan, refinan y empaquetan. Finalmente, en el último piso, el producto terminado es enviado.

El problema, como explica el artículo, es que a veces la fábrica comete un error justo en el muelle de carga. Los trabajadores del último piso pueden confundirse, distraerse o sentirse presionados, y envían una "alucinación" (una respuesta segura pero incorrecta), aunque la verdad fuera claramente visible y correcta en los pisos inferiores.

Los intentos anteriores de solucionar esto eran como usar una única herramienta rígida para cada problema:

El enfoque del "Volante": Intentar forzar a la fábrica a girar a la izquierda o a la derecha basándose en una regla fija.
El enfoque del "Consultor Externo": Traer expertos externos (sistemas de recuperación) para verificar el trabajo.
El enfoque de "Comparar y Contrastar": Solo mirar el último piso y decir: "Esto no parece correcto, intentemos el piso de abajo".

El artículo argumenta que estos métodos son demasiado rígidos. A veces la verdad está oculta profundamente en el medio; a veces está justo al inicio; a veces la fábrica libra una batalla entre tres ideas incorrectas diferentes, no solo dos. Una sola herramienta no puede solucionar todos estos escenarios distintos.

La Solución: TRACE (El Inspector Inteligente de la Fábrica)

Los autores presentan TRACE, un nuevo método que actúa como un inspector inteligente y adaptable que recorre la fábrica mientras se fabrica el producto. En lugar de usar una regla fija, TRACE observa el "viaje" de la respuesta a medida que se mueve desde la planta baja hasta la cima.

Así funciona TRACE, usando analogías simples:

1. El "Mapa de Viaje" (Traectoria de Candidatos Transcapa)

A medida que la fábrica procesa una pregunta, TRACE no solo mira la respuesta final. Crea un "Mapa de Viaje" para cada respuesta posible. Pregunta: "¿Prefirió la fábrica la verdad en la planta baja? ¿Vaciló en el medio? ¿Cambió repentinamente a una mentira en la cima?"

2. Dos Tipos de Problemas, Dos Tipos de Soluciones

TRACE analiza el Mapa de Viaje para ver qué tipo de problema tiene la fábrica y luego elige la herramienta adecuada:

Escenario A: El Problema de "Mente de Un Solo Sendero" (Régimen Escalar)
- La Situación: La fábrica libra básicamente una batalla entre dos opciones: Verdad vs. Mentira. Toda la fábrica está de acuerdo con la verdad durante la mayor parte del viaje, pero el último piso se confunde y cambia el interruptor a la mentira.
- La Solución: TRACE actúa como un Botón de Volumen. Simplemente sube el volumen de la señal de "Verdad" y baja el de la señal de "Mentira". Es una corrección simple y unidireccional.
- Subvariación: Si la fábrica está tan confundida en la cima que el Botón de Volumen no funciona, TRACE actúa como una Máquina del Tiempo. Dice: "El último piso está roto; enviemos el producto exactamente como estaba cuando salió de la primera planta, porque esa fue la versión más honesta".
Escenario B: El Problema de "Caos en el Medio" (Régimen Multidireccional)
- La Situación: La fábrica es un desorden. Hay tres o cuatro ideas incorrectas diferentes luchando entre sí, y la verdad se oculta en un piso medio específico, pero el último piso está eligiendo al ganador incorrecto. Un simple "Botón de Volumen" no puede solucionar esto porque el problema es demasiado complejo.
- La Solución: TRACE actúa como un Foco. Escanea el mapa de viaje, encuentra el piso específico donde el candidato de "Verdad" fue el más fuerte y claro (la "Capa Decisiva") y dice: "Ignora el último piso. Envía el producto exactamente como se veía en ese piso específico".

3. El "Plano de la Fábrica" (Invariante del Modelo)

Para saber qué herramienta usar para el problema de "Mente de Un Solo Sendero", TRACE lee el Plano de la fábrica (los pesos del modelo) una vez antes de comenzar.

Si el plano muestra que el último piso suele ser confiable, TRACE usa el Botón de Volumen.
Si el plano muestra que el último piso tiende a desviarse de la verdad, TRACE usa la Máquina del Tiempo para volver al inicio.

Por Qué Esto Importa (Los Resultados)

El artículo probó a este "Inspector Inteligente" en 15 modelos de IA diferentes (desde pequeños hasta enormes) a través de 3 pruebas de verificación de hechos diferentes.

No Se Necesita Entrenamiento: TRACE no necesita volver a enseñar a la IA. Funciona instantáneamente durante la generación de la respuesta.
Sin Datos Externos: No necesita buscar en internet respuestas. Utiliza la propia memoria interna de la IA.
Éxito Universal: Mejoró la precisión de cada modelo individual probado. No hubo ningún caso en que empeorara las cosas.
Grandes Avances: En promedio, aumentó la precisión factual en aproximadamente 12 puntos (un salto enorme en este campo), con algunos modelos viendo mejoras de casi 47 puntos.

El Problema (Limitaciones)

El artículo es honesto sobre las compensaciones:

Velocidad: Como TRACE debe observar cada piso de la fábrica para construir el "Mapa de Viaje", tarda aproximadamente 2 a 3 veces más en generar una respuesta que una IA estándar.
Alcance: Actualmente funciona mejor en preguntas cortas de opción múltiple (como "¿Es X verdadero o falso?"). Aún no se ha probado en la escritura de historias largas o consejos médicos complejos.

Resumen

Piensa en TRACE como un detective que no solo mira la escena del crimen (la respuesta final), sino que investiga toda la línea de tiempo de los eventos. Descubre dónde ocurrió el error y cómo solucionarlo, usando una estrategia diferente para un desliz simple versus un enredo complejo. Demuestra que la IA ya conoce la verdad en su interior; solo necesita una forma inteligente de escuchar la parte correcta de su propio cerebro en el momento adecuado.

Resumen Técnico: TRACE (Corrección de Trayectoria a partir de Evidencia de Capas Cruzadas para Reducción de Alucinaciones)

1. Declaración del Problema

A pesar de los avances en escala y alineación post-entrenamiento, los Modelos de Lenguaje Grandes (LLM) continúan produciendo errores fácticos seguros, o alucinaciones. Las estrategias de corrección existentes generalmente caen en tres categorías:

Evidencia Externa: Generación aumentada por recuperación (RAG) y sistemas de verificación que dependen de datos externos.
Dirigido de Activaciones: Métodos como la Intervención en Tiempo de Inferencia (ITI) que dirigen las activaciones a lo largo de direcciones fijas de "veracidad".
Contraste de Capas: Estrategias de decodificación (por ejemplo, DoLa, SLED) que contrastan o agregan señales de capas intermedias frente a la capa final.

El artículo argumenta que estos enfoques son estructuralmente incompletos porque asumen una relación uniforme entre la profundidad de la capa y la veracidad. La observación empírica sugiere que las capas intermedias no son uniformemente más veraces ni uniformemente menos confiables que las capas finales. En cambio, la evolución del soporte de candidatos a través de la profundidad de la red varía significativamente:

Corregible Tardíamente: El soporte veraz está presente internamente pero suprimido por las capas finales.
Confiable Tempranamente: El soporte veraz es más fuerte en las capas tempranas pero se erosiona por las capas posteriores.
Multi-direccional: Múltiples candidatos en competencia permanecen activos a través de la profundidad, requiriendo correcciones no escalares.

Las intervenciones de forma fija actuales fallan porque no pueden adaptarse a estas "trayectorias de candidatos" variables. Un método que asume una única corrección escalar con signo es insuficiente para casos donde la competencia es genuinamente multi-direccional.

2. Metodología: TRACE

TRACE es un algoritmo determinista, libre de entrenamiento y en tiempo de inferencia que corrige las alucinaciones derivando el operador de corrección apropiado directamente de la trayectoria interna de candidatos de capas cruzadas del modelo. No requiere etiquetas, recuperación, preentrenamiento, ajuste fino o calibración por modelo.

Componentes Principales

El método depende de dos cantidades estructurales:

Lado del Ítem: Trayectoria de Candidatos de Capas Cruzadas $S(x)$ :
- Construida leyendo el flujo residual en cada capa a través de la propia cabeza de salida del modelo (construcción de lente de logits).
- Representa la evolución de las log-probabilidades normalizadas por longitud para un conjunto de completaciones candidatas a través de la profundidad.
- A partir de esto, se calcula la Dimensión Efectiva de la Trayectoria ( $d_{eff}$ ). Esta métrica (la relación de participación de los valores propios de la matriz de Gram de la trayectoria) determina si la competencia de candidatos es efectivamente unidimensional (rango-1) o multidimensional.
Lado del Modelo: Invariante Solo de Pesos $I(M)$ :
- Una relación adimensional calculada una vez a partir de los tensores de pesos del modelo (específicamente estadísticas de norma de fila de proyecciones clave/valor tempranas/medias frente a proyecciones de salida tardías y norma final).
- $I(M)$ caracteriza si la arquitectura del modelo tiende a amplificar la evidencia de capas tardías o desviarse de estados tempranos confiables.

Regímenes de Corrección y Operadores

Basado en $d_{eff}$ e $I(M)$ , TRACE selecciona dinámicamente uno de tres operadores de corrección:

Régimen Multi-direccional ( $d_{eff} > \tau_{dim}$ ):
- Condición: La competencia de candidatos abarca múltiples direcciones independientes (rango > 1). Las mezclas escalares son matemáticamente insuficientes para corregir estos casos.
- Operador: Corrección en el Espacio de Candidatos. TRACE identifica la capa $\ell^*$ con la clasificación de candidatos más nítida (maximizando el margen entre los dos primeros respecto a la entropía) y utiliza la distribución completa de log-probabilidades de esa capa como corrección.
- Puerta de Control: Esta anulación solo se aplica si la capa seleccionada es significativamente más nítida que la capa final y la capa final es suficientemente incierta.
Régimen Escalar ( $d_{eff} \le \tau_{dim}$ ):
- Condición: La competencia colapsa a un único eje con signo. La corrección se reduce a una mezcla escalar de la puntuación de la capa final $b(x)$ y una puntuación derivada de la trayectoria $t(x)$ .
- Sub-ramificación vía $I(M)$ :
  - Mezcla con Signo ( $I(M) > \tau_I$ ): Si las capas tardías del modelo son confiables, TRACE calcula una segunda vista $t(x)$ releyendo la trayectoria para la coherencia de profundidad cruzada (pendiente, salto, curvatura del soporte de tokens). Luego mezcla $b(x)$ y $t(x)$ con un escalar con signo $\lambda$ determinado por si la trayectoria refuerza o contradice la base.
  - Recuperación del Estado Más Temprano ( $I(M) \le \tau_I$ ): Si las capas tardías del modelo no son confiables (propensas a desviarse), TRACE ignora el resumen de la trayectoria y recurre a la puntuación de la capa más temprana $s_0(x)$ , pero solo si la confianza de la capa final es baja (por debajo de un suelo natural).

Flujo del Algoritmo

Calcular $S(x)$ y $b(x)$ a partir de un único pase forward condicionado a un candidato.
Calcular $d_{eff}(x)$ .
Si es Multi-direccional: Seleccionar la capa decisiva $\ell^*$ , extraer su distribución y aplicar puertas de control. Si las puertas pasan, devolver el argmax de la capa decisiva; de lo contrario, devolver el argmax base.
Si es Escalar: Calcular $I(M)$ $I (M)$ .
- Si $I(M)$ es alto: Calcular $t(x)$ , determinar el signo de mezcla y devolver el argmax mezclado.
- Si $I(M)$ es bajo: Verificar la confianza de la capa final; si es baja, devolver el argmax de la capa más temprana; de lo contrario, devolver la base.

3. Contribuciones Clave

Formulación a Nivel de Trayectoria: Identifica la trayectoria de candidatos de capas cruzadas como el objeto principal para la corrección en tiempo de inferencia, reemplazando las capas de sonda fijas y las direcciones de dirección fijas.
Teoría Estructural de la Corrección: Demuestra que los regímenes de corrección son distintos: las trayectorias de rango uno admiten corrección escalar, mientras que las trayectorias multi-direccionales requieren una clase de operador en el espacio de candidatos.
Algoritmo Universal (TRACE): Instancia esta teoría en un algoritmo determinista y libre de entrenamiento que induce su operador de corrección a partir de la estructura de la trayectoria y los pesos del modelo.
Evaluación Exhaustiva: Demuestra que una única configuración de hiperparámetros congelados mejora la factualidad en 15 modelos, 8 familias y 3 benchmarks sin regresiones.

4. Resultados Experimentales

El método fue evaluado en TruthfulQA, HaluEval-QA y HaluEval-Sum a través de 15 modelos preentrenados (incluyendo LLaMA, Gemma, Qwen, GPT-OSS, Mixtral, Phi, Ministral y DeepSeek).

Rendimiento: TRACE mejoró cada celda de evaluación individual (45 combinaciones totales de modelo y benchmark).
- Ganancia Media: +12.26 puntos MC1 y +8.65 puntos estilo MC2.
- Ganancia Máxima: +47.20 puntos MC1 y +43.38 puntos estilo MC2 (observado en Gemma-3-1B).
- Regresiones: 0/45.
Robustez: El método utilizó un único conjunto de hiperparámetros congelados $\Theta$ para todos los modelos, sin ajuste por modelo.
Sobrecarga: El costo en tiempo real aumenta por un factor de 1.33x a 3.42x (media 2.27x) en comparación con un pase condicionado a candidatos de línea base, principalmente debido a la lectura adicional por capa.

5. Significado y Afirmaciones

El artículo afirma que el cálculo forward de los LLM preentrenados contiene evidencia estructurada suficiente para sostener un único algoritmo universal de reducción de alucinaciones, siempre que la intervención sea inducida por la trayectoria misma en lugar de imponerse mediante heurísticas fijas.

Necesidad Estructural: El trabajo demuestra que una estrategia de corrección solo escalar es matemáticamente incompleta para espacios de candidatos multi-direccionales, haciendo necesaria la rama de espacio de candidatos de TRACE.
Adaptación del Modelo: El uso de la invariante solo de pesos $I(M)$ permite que el algoritmo se adapte a diferencias arquitectónicas (por ejemplo, si un modelo se desvía o amplifica al final) sin reentrenamiento.
Limitaciones: Los autores reconocen que TRACE está actualmente limitado al inglés y a la factualidad restringida a candidatos (protocolos MC1/MC2). Actúa sobre pases forward completados en lugar de la generación iterativa de largo formato y no aborda las causas de las alucinaciones en el momento del entrenamiento. También introduce latencia de inferencia debido a la lectura adicional.

El artículo concluye que el fracaso de los métodos anteriores de forma fija no es un problema de ajuste, sino una incompatibilidad entre la clase de corrección y la estructura de la trayectoria. TRACE resuelve esto infiriendo el régimen de corrección correcto a partir de los datos mismos.