📊 statistics

MMD-Flagger: Leveraging Maximum Mean Discrepancy to Detect Hallucinations

El artículo presenta MMD-Flagger, un método de detección de alucinaciones en tiempo de prueba para modelos de lenguaje extensos que aprovecha la Discrepancia de Media Máxima para analizar la estabilidad de las salidas a través de diversas temperaturas de decodificación, permitiendo la identificación fiable de errores fácticos sin etiquetas de verdad de referencia.

Autores originales: Kensuke Mitsuzawa, Damien Garreau

Publicado 2026-08-20

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Kensuke Mitsuzawa, Damien Garreau

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

En el mundo de la inteligencia artificial, que evoluciona rápidamente, los modelos de lenguaje extensos se han convertido en herramientas poderosas capaces de generar texto con apariencia humana, responder preguntas complejas e incluso asistir en la toma de decisiones autónomas. Sin embargo, estos sistemas poseen un fallo persistente: a veces producen afirmaciones que suenan fluidas y seguras, pero que son enteramente incorrectas desde el punto de vista de los hechos. Este fenómeno, conocido como alucinación, plantea un riesgo de seguridad significativo, especialmente cuando estos modelos se despliegan en áreas críticas como el derecho, la medicina o la conducción autónoma, donde un solo paso falso podría conducir a resultados desastrosos. El desafío central para los investigadores es cómo detectar estos errores en tiempo real sin tener acceso a una clave de respuestas "estándar de oro". Dado que estos modelos operan sin verificación externa durante el uso en vivo, los científicos deben encontrar una manera de juzgar la fiabilidad de una respuesta basándose únicamente en el propio comportamiento del modelo. La clave reside en comprender cómo reacciona el modelo ante cambios leves en sus configuraciones internas; si un modelo es verdaderamente seguro y está fundamentado en hechos, sus respuestas deberían permanecer consistentes incluso cuando las condiciones de su generación cambian ligeramente. Si, por el contrario, la respuesta es una fabricación, la salida del modelo tiende a volverse inestable y errática bajo esos mismos cambios.

Basándose en este principio, un equipo de investigadores de Francia y Alemania ha desarrollado un nuevo método llamado MMD-Flagger para detectar estas alucinaciones. Su enfoque no depende de contrastar hechos con una base de datos ni de entrenar un nuevo modelo para detectar errores. En su lugar, actúa como un monitor de estabilidad que observa cómo cambia la salida de un modelo de lenguaje cuando se ajusta la temperatura de su proceso de generación. En el contexto de estos modelos, la "temperatura" es un ajuste que controla cuánta aleatoriedad se introduce cuando el modelo elige su siguiente palabra. Una temperatura baja hace que el modelo sea muy predecible y repetitivo, mientras que una temperatura alta permite respuestas más creativas y variadas. Los investigadores plantearon la hipótesis de que una respuesta veraz se mantendría relativamente estable a través de estas diferentes configuraciones, mientras que una respuesta alucinada oscilaría y cambiaría de forma drásticamente a medida que la temperatura se desplazara.

Para probar esta idea, los investigadores crearon un sistema que genera múltiples versiones de una respuesta para la misma pregunta, utilizando en cada ocasión una configuración de temperatura diferente. Luego compararon la respuesta original con estas versiones variadas utilizando una herramienta estadística llamada Discrepancia de la Media Máxima (Maximum Mean Discrepancy). Esta herramienta mide qué tan diferentes son dos grupos de datos entre sí. Al graficar estas diferencias a través de un rango de temperaturas, el sistema crea una trayectoria visual o camino. Los investigadores descubrieron que, cuando el modelo dice la verdad, este camino es suave y predecible, ascendiendo a menudo de manera constante a medida que aumenta la aleatoriedad. Sin embargo, cuando el modelo está alucinando, el camino adquiere una forma de U distintiva y pronunciada. Este descenso en la parte media de la curva sirve como una señal clara de que el modelo tiene dificultades para mantener un significado consistente, señalando efectivamente la respuesta como poco fiable.

El equipo evaluó este método utilizando modelos de lenguaje modernos, incluyendo las familias Llama-3 y Gemma-3, en un conjunto de datos de referencia diseñado para probar la precisión factual en múltiples idiomas. Compararon su nuevo método con varias técnicas existentes que dependen de la similitud textual o de los estados internos del modelo. Los resultados mostraron que la efectividad de la detección de alucinaciones depende altamente de la arquitectura específica del modelo; mientras que MMD-Flagger (Ensemble) logró el mejor rendimiento en Llama-3.1-8B y Gemma-3-4B, otros estimadores funcionaron mejor en Llama-3.2-3B. El sistema demostró ser lo suficientemente flexible como para trabajar con diversos tipos de datos extraídos del modelo, tales como el significado bruto de las palabras o las capas ocultas de la red neuronal. En un caso de prueba específico relacionado con una pregunta sobre un gato en un programa de televisión, el sistema identificó con éxito una respuesta alucinada que otros métodos pasaron por alto, detectando el momento en que la salida del modelo comenzó a derivar hacia el sinsentido a medida que cambiaba la temperatura. Por el contrario, en un caso de estudio diferente sobre un grupo musical de Glasgow, el análisis reveló un escenario donde MMD-Flagger no logró detectar una alucinación que otro método (KLE) identificó correctamente, resaltando que la trayectoria de la salida del modelo puede, a veces, permanecer engañosamente suave incluso cuando el contenido es incorrecto.

A pesar de estos resultados prometedores, los investigadores reconocen que el método tiene limitaciones. Debido a que requiere generar muchas variaciones de una respuesta para construir un perfil de estabilidad fiable, puede ser computacionalmente costoso y más lento que simplemente pedirle al modelo una respuesta una sola vez. Esto lo hace menos ideal para aplicaciones que requieren respuestas instantáneas, aunque sigue siendo una herramienta poderosa para sistemas donde la seguridad es primordial. El estudio sugiere que, al monitorear la estabilidad de la salida de un modelo a través de diferentes condiciones, podemos construir una capa de supervisión más confiable para la inteligencia artificial. Este enfoque ofrece una forma de auditar la fiabilidad de los agentes autónomos sin necesidad de conocer la respuesta correcta de antemano, proporcionando un paso crucial hacia sistemas de IA más seguros y dependientes.

Resumen Técnico: MMD-Flagger

Planteamiento del Problema

Los Modelos de Lenguaje de Gran Escala (LLMs) se están desplegando cada vez más en sistemas de agentes con aplicaciones críticas para la seguridad, sin embargo, su propensión a generar alucinaciones —contenido fluido pero fácticamente incorrecto— sigue siendo una barrera significativa para la confianza. En los agentes autónomos, un solo paso alucinado en un proceso de toma de decisiones secuencial puede conducir a fallos catastróficos. Un desafío crítico para mitigar este riesgo es la detección de estos errores fácticos en el tiempo de prueba (test-time) sin acceso a etiquetas de verdad fundamental (ground-truth) o bases de conocimiento externas. Mientras que los métodos existentes de cuantificación de la incertidumbre (UQ) basados en la consistencia comparan múltiples secuencias de salida, a menudo se limitan a similitudes semánticas a nivel de token e ignoran las representaciones internas del modelo. Por el contrario, los métodos que utilizan estados internos frecuentemente requieren entrenamiento supervisado o dependen de arquitecturas de modelos específicas, lo que limita su generalizabilidad y flexibilidad de despliegue.

Metodología

Los autores proponen MMD-Flagger, un marco de trabajo no supervisado y libre de entrenamiento para la detección de alucinaciones que aprovecha la Discrepancia de la Media Máxima (MMD, por sus siglas en inglés) para monitorear la estabilidad de las salidas de los LLM a través de diversas temperaturas de decodificación.

Hipótesis Central

El método opera bajo la premisa de que las generaciones fieles de un LLM exhiben consistencia semántica a través de diferentes rutas de decodificación, mientras que las generaciones alucinadas son altamente sensibles a las configuraciones de decodificación, resultando en significados semánticos inestables e inconsistentes. Específicamente, los autores hipotetizan que la alta incertidumbre (alucinación) se manifiesta como una trayectoria de MMD en forma de U, caracterizada por un descenso agudo y no monotónico, mientras que las salidas fieles muestran un crecimiento estable y monotónico en los valores de MMD.

Marco Algorítmico

Muestreo Estocástico: Para un prompt dado $x$ y una generación de hipótesis objetivo $h_{hyp}$ (producida bajo una estrategia de decodificación específica $\theta_{hyp}$ ), el método genera un conjunto de muestras estocásticas $S_{sto}^{\tau}$ a través de un rango de temperaturas de decodificación $\tau \in \mathcal{T}$ .
Representación de Características: El método es agnóstico al espacio de características, capaz de utilizar diversas representaciones como embeddings de palabras, estados ocultos (último token o promedio), mapas de atención o características espectrales (autovalores de Laplacianos).
Construcción de la Trayectoria de MMD: Se calcula la distancia MMD al cuadrado entre el conjunto de hipótesis $S_{hyp}$ y los conjuntos de muestras estocásticas $S_{sto}^{\tau}$ para cada temperatura. Esto crea una trayectoria $D(\theta_{hyp})$ que representa la distancia de la distribución como una función de la temperatura.
Puntuación de Incertidumbre: La puntuación de incertidumbre $\delta$ se deriva de la no monotonicidad de esta trayectoria. El algoritmo identifica el valor mínimo de MMD y calcula la diferencia absoluta entre este mínimo y los máximos locales en las temperaturas precedente y sucesiva más cercanas ( $\delta_{prev}$ y $\delta_{post}$ ). La puntuación final es la suma: $\delta = \delta_{prev} + \delta_{post}$ . Una forma de U más profunda y aguda produce una puntuación de incertidumbre más alta.
Estrategia de Ensamblaje: Para explotar información complementaria a través de múltiples dominios de características, una versión de ensamblaje agrega puntuaciones de dominios activos (filtrados por la varianza de la trayectoria) utilizando una combinación ponderada del Coeficiente de Variación (CV) y heurísticas basadas en la entropía.

Contribuciones Clave

Detección No Supervisada y Libre de Entrenamiento: MMD-Flagger introduce un marco que no requiere entrenamiento supervisado ni etiquetas de verdad fundamental, lo que lo hace adecuado para escenarios de despliegue en vivo.
Agnosticismo de Características Flexible: A diferencia de los métodos restringidos a embeddings de texto o capas internas específicas, MMD-Flagger puede auditar la estabilidad a través de diversos espacios de características, incluyendo estados ocultos internos y mecanismos de atención.
Indicador Basado en Trayectorias: El artículo identifica la "forma de U" característica en las trayectorias de MMD como una firma específica de la alucinación, distinguiéndola del comportamiento monotónico de las generaciones fieles.
Benchmarking Exhaustivo: El método es evaluado en el benchmark multilingüe MUCH (Multilingual Claim Hallucination) utilizando familias de modelos modernos (Llama-3.1, Llama-3.2 y Gemma-3).

Resultados Empíricos

La evaluación en el conjunto de datos MUCH revela lo siguiente:

Dependencia del Modelo: El estimador óptimo de detección de alucinaciones es altamente dependiente de la arquitectura específica del LLM.
Desempeño: MMD-Flagger (Ensemble) logró los mejores puntajes de ROC-AUC en Llama-3.1-8B y Gemma-3-4B. En Llama-3.2-3B, una configuración de característica única superó al ensamblaje, lo que sugiere que diferentes arquitecturas pueden beneficiarse de distintas estrategias de selección de características o de ensamblaje.
Comparación: El método generalmente superó o se mantuvo competitivo con las líneas base de caja negra (KLE, LexSim, Ecc) y las de caja blanca (EigenScore, LapEigvals) a través de varios tipos de características.
Limitaciones: En una evaluación secundaria en el conjunto de datos TriviaQA, MMD-Flagger tuvo un desempeño inferior en comparación con Kernel Language Entropy (KLE), lo que indica que la efectividad del método puede variar según las características del conjunto de datos y la naturaleza de las alucinaciones (por ejemplo, divergencia monotónica frente a la dinámica de puntos de silla).

Significación y Reivindicaciones

Los autores afirman que MMD-Flagger proporciona un mecanismo robusto y flexible para auditar las salidas de los agentes en el tiempo de prueba sin depender de referencias externas. Al utilizar la Discrepancia de la Media Máxima para rastrear la estabilidad de las representaciones internas y externas a través de las temperaturas de decodificación, el método ofrece un enfoque no paramétrico para la cuantificación de la incertidumbre. El artículo posiciona este trabajo como un paso hacia la construcción de agentes autónomos confiables al permitir la detección de alucinaciones a través de la inestabilidad intrínseca del propio proceso de generación. Los autores reconocen que, aunque es prometedor, el método requiere múltiples generaciones estocásticas por prompt, lo que presenta una sobrecarga computacional para aplicaciones en tiempo real, y el trabajo futuro se centrará en reducir este costo de muestreo.