Forecasting the Onset of Hallucination: Causal, Token-Level, Black-Box Survival Analysis During Generation

Resumen Técnico: Pronóstico del Inicio de la Alucinación

Formulación del Problema
Los detectores actuales de alucinaciones a nivel de token operan de forma reactiva, señalando afirmaciones falsas solo después de que han sido generadas. Un análisis complementario realizado por los autores estableció un límite de retraso teórico de aproximadamente 1.3 tokens para cualquier detector que reaccione a un punto de cambio, lo que significa que la detección ocurre inherentemente después de que la alucinación ha comenzado. Este artículo aborda la cuestión de si el inicio de una alucinación puede ser pronosticado antes de que ocurra. La tarea se formula como un análisis de supervivencia de tiempo discreto: tratando el comienzo de un intervalo alucinado como un "evento de falla" sobre el conjunto de riesgo de los tokens que son actualmente fieles. El objetivo es calcular un peligro (hazard) por token —la probabilidad de que ocurra un inicio dentro de los próximos $k$ tokens— utilizando únicamente características causales y seguras para el flujo (streaming-safe) disponibles hasta el token actual $t$.

Metodología
El marco propuesto se basa en un flujo de trabajo causal, de caja negra y a nivel de token, diseñado para su despliegue durante la generación:

• Auditoría de Características Causales: Los autores utilizan un flujo de 33 dimensiones derivado de trabajos previos, pero realizan una auditoría causal estricta para eliminar componentes con "filtración de futuro" (future-leaking). Se descartan las características normalizadas por la longitud total de la salida (por ejemplo, posición, conteo de oraciones) o computadas a partir de oraciones incompletas (por ejemplo, características de NLI). Esto deja 24 características seguras para el flujo: 18 características basadas en texto (ventanas de novedad, solapamiento de n-gramas, indicadores de entidades) y 6 características de modelos de lenguaje (log-probabilidad, entropía).
• Arquitectura del Modelo: El predictor emplea una red recurrente de solo hacia adelante (una GRU de dos capas con ancho de capa oculta de 64) para leer el historial de características causales. Una cabeza de peligro (hazard head) emite un logit para múltiples horizontes ($k \in \{1, 3, 5, 10\}$), que representa la probabilidad de un inicio dentro de los próximos $k$ tokens.
• Entrenamiento: El modelo se entrena con una pérdida de entropía cruzada binaria multihorizonte enmascarada sobre el conjunto de riesgo (solo tokens fieles), utilizando pesos ajustados para la rareza de los inicios en horizontes más largos.
• Evaluación: El rendimiento se mide mediante AUROC y PR-AUC. Crucialmente, los autores distinguen entre el AUROC agrupado (que confunde el riesgo a nivel de documento con el tiempo) y el AUROC dentro del documento (que aisla la señal de tiempo evaluando solo en documentos que se sabe que alucinan).

Resultados Clave

• Pronosticabilidad: El inicio es pronosticable en cada horizonte. En el corpus RAGTruth, el pronosticador recurrente logra un AUROC de 0.777 ± 0.002 en el horizonte $k=3$ (prediciendo un inicio dentro de los próximos tres tokens). Esto es 12 puntos superior a una línea base logística de peligro puntual, lo que indica el valor de leer la trayectoria de las características.
• Fuente de la Señal: La señal de alerta temprana se identifica como la deriva de novedad textual, no la extrañeza (surprisal) del modelo de lenguaje. Los modelos que utilizan solo las 18 características de texto igualan el rendimiento del conjunto causal completo, mientras que las características del modelo de lenguaje por sí solas quedan rezagadas. La señal refleja que el modelo se está alejando de su contexto de origen antes de que comience la alucinación, en lugar de un pico local de incertidumbre.
• Retraso Negativo: Al compararse con un detector de punto de cambio complementario con un presupuesto de falsas alarmas equivalente ($\alpha=10^{-3}$), el pronosticador logra un retraso negativo. El pronosticador advierte una mediana de 11 tokens antes del inicio, mientras que el detector se activa una mediana de 15 tokens después. Esto realiza un retraso negativo estructuralmente prohibido para los detectores.
• Modelos Nulos: La señal no es simplemente la autocorrelación de inicios pasados (un modelo nulo de capacidad igualada que utiliza solo el historial de inicios y relojes logró un AUROC de 0.65, significativamente inferior al pronosticador basado en contenido) ni autoexcitación (un proceso de Hawkes no añadió valor sobre un modelo de covariables).
• Especificidad de Dominio: La capacidad de pronóstico es específica del dominio. El modelo falla en transferencia cero (zero-shot) cuando se transfiere de RAGTruth (RAG de largo formato) a PsiloQA (QA de formato corto), invirtiendo a un rendimiento por debajo del azar. Sin embargo, al reentrenarlo en el dominio de PsiloQA, recupera un alto rendimiento (0.74–0.79 AUROC), mientras que las señales de detección se transfieren parcialmente.

Significancia y Reivindicaciones
El artículo sostiene que pronosticar el inicio de la alucinación es una tarea distinta y ortogonal a la detección. Mientras que los predictores a nivel de prompt pueden identificar cuáles generaciones son riesgosas, y los detectores pueden identificar que una alucinación ha comenzado, solo este pronosticador identifica cuándo y dónde dentro de una generación el riesgo se convierte en un inicio.

Los autores enfatizan que el mecanismo que impulsa el pronóstico es una deriva gradual en la novedad del texto respecto al origen, más que un cambio de estado abrupto. En consecuencia, el tiempo de adelanto proporcionado por el pronosticador es valioso específicamente para intervenciones que deben ocurrir antes de que se emita el token falso (por ejemplo, regenerar un intervalo, restringir la decodificación o dirigir la decodificación). Para políticas de aborto simples (detener la generación), los autores señalan que un detector post-inicio puede ser más eficiente en términos de tokens, ya que evita cortar tokens fieles antes de que ocurra el error. El artículo concluye que, si bien la alerta temprana existe y alcanza un retraso negativo, lograr una reducción en las tasas de alucinación requiere acceso en vivo al decodificador y estrategias de intervención específicas, las cuales están más allá del alcance de este estudio offline.