Resumen Técnico: La fiabilidad escala inversamente

Planteamiento del problema

La visión predominante de la alucinación en los Modelos de Lenguaje de Gran Escala (LLM) trata el fenómeno como una "brecha de conocimiento": un déficit de información que el escalado, la recuperación o los datos adicionales pueden llenar. Este artículo desafía esa explicación, argumentando que, si bien el escalado mejora el conocimiento inicial (reduciendo la "brecha de conocimiento"), simultáneamente erosiona la fiabilidad al amplificar un modo de fallo distinto: el riesgo autorregresivo.

El problema central es que, a medida que los modelos escalan, no solo se vuelven más precisos, sino que se vuelven más propensos a un tipo específico de error compuesto. Cuando un modelo se compromete con un token de baja probabilidad y sin sustento (una fabricación), condiciona las generaciones subsecuentes a ese error. Este proceso convierte la varianza transitoria del muestreo en un sesgo persistente. Crucialmente, este modo de fallo es estructuralmente invisible para los mecanismos de automonitoreo del propio modelo, los cuales dependen de la distribución de probabilidad interna del modelo ($p_M$) en lugar de un oráculo externo.

Metodología

Los autores introducen un marco teórico basado en una variable de desacuerdo ($\delta$) definida como la razón de log-verosimilitud entre la distribución del modelo ($p_M$) y un oráculo más fuerte de la misma familia ($p_O$):
$$\delta_t(x) = \log p_M(x | y_{<t}) - \log p_O(x | y_{<t})$$

El segundo momento de esta variable, $E[\delta^2]$, se descompone en dos componentes distintos:

1. Sesgo ($Bias^2$): El cuadrado de la media, $KL(p_M \| p_O)^2$, que representa la brecha sistemática entre el modelo y el oráculo.
2. Riesgo ($Var[\delta]$): La varianza del desacuerdo, que representa la dispersión de cómo el oráculo pondera los candidatos que el modelo considera.

El artículo utiliza tres enfoques experimentales primarios a través de múltiples familias de modelos (Qwen3, OLMo-3, Llama-3) y escalas (0.6B a 32B):

• Análisis de Escala: Medición de la "brecha de conocimiento" (tasa inicial de alucinación) frente a la "degradación de conocimiento" (la tasa de aumento de alucinaciones a lo largo de la longitud de una respuesta) utilizando los benchmarks FActScore y LongFact++.
• Dinámicas de Aparición (Onset Dynamics): Análisis del comportamiento temporal de $\delta$, sus momentos y la incertidumbre percibida por el modelo ($H(p_M)$) inmediatamente después de un inicio de fabricación.
• Intervención Causal (In Silico Knockout): Implementación de un mecanismo de "contracción de riesgo". En los pasos donde el modelo diverge del oráculo, la distribución del siguiente token del modelo se modifica para reducir la varianza de $\delta$ mientras se preserva estrictamente la media (divergencia KL). Esto aisla el efecto causal del riesgo del sesgo.

Contribuciones Clave

1. La Descomposición del Error

El artículo establece que la alucinación no es únicamente una función de la brecha de conocimiento (sesgo). Identifica el Riesgo ($Var[\delta]$) como un término de error dominante y distinto. Mientras que el escalado reduce el sesgo (el modelo se acerca al oráculo en promedio), no logra reducir el riesgo (la dispersión del desacuerdo), el cual de hecho se convierte en una parte mayor del error total a medida que los modelos crecen.

2. La Asimetría de la Persistencia

Un hallazgo crítico es la divergencia entre la "incertidumbre percibida" y el "riesgo referenciado por el oráculo" tras una fabricación:

• Incertidumbre Percibida ($H(p_M)$): La sensación interna de incertidumbre del modelo aumenta bruscamente en el momento de la fabricación, pero se relaja rápidamente (en ~0.3 tokens) a medida que la generación se vuelve fluida.
• Riesgo Referenciado por el Oráculo ($Var[\delta]$): El riesgo asociado con el error cometido persiste durante un tiempo significativamente mayor (3.5–5.0 tokens).
  Esto crea un régimen de "confianza pero precariedad" donde el modelo se siente seguro pero es estadísticamente divergente de la verdad, un estado que los detectores de automonitoreo no pueden detectar porque solo leen $H(p_M)$.

3. Conversión Autorregresiva y Efecto Bola de Nieve

El artículo demuestra que la autorregresión actúa como una máquina que convierte este riesgo persistente en un sesgo fijo. Una vez que un modelo muestrea un token sin sustento, el riesgo colapsa en una brecha fija que es heredada por todos los tokens subsecuentes. Esto conduce al error compuesto: el riesgo relativo de una fabricación subsecuente aumenta monótonamente con la escala (de 1.08× a 1.71×), lo que significa que los modelos más grandes tienen más probabilidades de encadenar alucinaciones.

4. Ceguera Estructural del Automonitoreo

Los detectores basados únicamente en la distribución del modelo ($p_M$), como la Entropía Semántica o SelfCheckGPT, son estructuralmente ciegos a este régimen de riesgo. El artículo muestra que estos detectores se activan significativamente menos (aproximadamente un 30% menos) en los tokens de "puente" entre fabricaciones, a pesar de que estos tokens portan casi 4× más alucinaciones que los tokens de inicio. Los detectores pierden la rama "precaria" porque la incertidumbre interna del modelo ya se ha relajado.

Resultados Clave

• Escalado Inverso de la Fiabilidad: A través de diversas familias de modelos, el escalado reduce la brecha de conocimiento inicial en 5.7–7.0×, pero aumenta la degradación del conocimiento (la tasa de acumulación de error) en 11–139×. La capacidad y la fiabilidad se muestran como ejes de escalado distintos.
• Dominancia del Riesgo: A medida que los modelos escalan, la proporción del error atribuido al riesgo (varianza) aumenta del 31% al 49% del error cuadrático total. La cola de la distribución de desacuerdo también se vuelve más pesada (la curtosis excesiva aumenta de 8.9 a 33.0).
• Reducción Causal de la Alucinación: Al aplicar la intervención de contracción de riesgo (reduciendo la varianza mientras se mantiene constante el sesgo), los autores redujeron causalmente las alucinaciones verificadas por la web entre un 35% y un 74% en tres familias de modelos. Esto confirma que la cantidad que se está componiendo es la varianza, no el conocimiento.
• Fallo de los Detectores: Se encontró que los detectores de entropía semántica son significativamente menos sensibles al régimen de "puente" (el estado entre fabricaciones) en comparación con el de inicio, con significancia estadística ($p < 10^{-16}$).

Significado y Reivindicaciones

El artículo afirma redefinir la comprensión de la alucinación en los LLM, pasando de un déficit de conocimiento estático a un régimen de riesgo dinámico y autoperpetuado. Su principal importancia radica en:

1. Causalidad Mecanicista: Proporcionar la primera evidencia causal on-policy de que contraer la varianza de la brecha entre el modelo y el oráculo (sin cambiar la media) reduce directamente la alucinación, demostando que el "riesgo" es el motor de los errores compuestos.
2. Los Límites del Escalado: Demostrar que el simple escalado de los modelos no resuelve la fiabilidad; de hecho, los modelos más grandes pueden ser más susceptibles a tipos específicos de errores compuestos debido al aguzamiento de la cola de riesgo.
3. El Punto Ciego: Resaltar que las técnicas actuales de automonitoreo están fundamentalmente limitadas porque no pueden "ver" el término de riesgo ($Var[\delta]$), que es precisamente el mecanismo que impulsa las fabricaciones posteriores.

Los autores concluyen que la fiabilidad es un eje de escalado separado que requiere nuevas intervenciones dirigidas a la varianza del compromiso del modelo, en lugar de simplemente mejorar el conocimiento medio o confiar en la incertidumbre auto-reportada. El modo de fallo dominante se describe como "invisible para el propio modelo", lo que requiere señales externas o de caja blanca para una mitigación efectiva.