💬 NLP

Verbal Confidence Saturation in 3-9B Open-Weight Instruction-Tuned LLMs: A Pre-Registered Psychometric Validity Screen

Este estudio demuestra que los modelos de lenguaje de código abierto de entre 3 y 9 mil millones de parámetros no son capaces de expresar su confianza de manera válida mediante respuestas verbales, ya que sus estimaciones de incertidumbre carecen de validez psicométrica y no se correlacionan con sus probabilidades internas.

Autores originales: Jon-Paul Cacioli

Publicado 2026-04-27

📖 4 min de lectura☕ Lectura para el café

CC BY 4.0

Autores originales: Jon-Paul Cacioli

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

El problema de los "Expertos Mentirosos": ¿Por qué no deberías confiar en la seguridad de las IA pequeñas?

Imagina que estás en un concurso de trivia. Hay un concursante que parece muy inteligente, pero cada vez que responde una pregunta —ya sea que sepa la respuesta o que esté inventando una completa locura—, levanta la mano y grita con una seguridad absoluta: "¡Estoy 100% seguro de esto!".

Si ese concursante siempre dice que está "100% seguro", su nivel de confianza deja de ser útil. No puedes usar su entusiasmo para saber si realmente sabe algo o si está alucinando.

Eso es exactamente lo que descubrió este estudio sobre las Inteligencias Artificiales (IA) de tamaño pequeño y mediano.

1. La analogía del "Termómetro Roto" (El problema de la Saturación)

Imagina que tienes un termómetro para medir la fiebre de un paciente. Pero este termómetro tiene un fallo: en cuanto la temperatura sube un poquito, la aguja se queda pegada al máximo, en el número 40. No importa si el paciente tiene una fiebre leve o si se está quemando vivo; el termómetro siempre marca 40.

El estudio analizó modelos de IA (de entre 3 y 9 mil millones de parámetros) y descubrió que su "termómetro de confianza" está roto. Cuando les pides que te digan qué tan seguros están de su respuesta (del 0 al 100), la gran mayoría de las veces responden algo cercano al 95% o 100%.

El resultado: Como siempre dicen que están "superseguros", su respuesta no nos sirve para distinguir cuándo están acertando y cuándo están diciendo tonterías. La información se ha "saturado".

2. La analogía del "Manual de Instrucciones Confuso" (El problema del Formato)

Los investigadores intentaron un truco: en lugar de pedirles un número (0-100), les dieron opciones (como: "Nada seguro", "Poco seguro", "Muy seguro"). Pensaron que esto podría "arreglar" el termómetro.

Pero fue como si, al intentar arreglar el termómetro, le hubieras dado al paciente un manual de instrucciones escrito en un idioma que no entiende. En lugar de dar mejores respuestas, la IA se confundió tanto que empezó a fallar incluso en las preguntas fáciles. El intento de mejorar la comunicación terminó rompiendo la capacidad de la IA para razonar.

3. El "Efecto de la Duda que Cuesta Tiempo" (Razonamiento vs. Confianza)

El estudio también observó algo curioso en los modelos que "piensan antes de hablar" (como los modelos de razonamiento). Descubrieron que cuanto más tiempo y palabras usaba la IA para explicar su razonamiento, menos segura se sentía de su respuesta final.

Es como si un estudiante, al ver una pregunta difícil, empezara a escribir y escribir párrafos enormes, y al final, al llegar a la conclusión, dijera con voz temblorosa: "Bueno... creo que es la opción B". El exceso de pensamiento parece "contaminar" su confianza.

En resumen: ¿Qué significa esto para el mundo real?

Si alguna vez usas una aplicación de IA pequeña (como un asistente en tu móvil o un chatbot sencillo) y esta te dice: "Estoy totalmente seguro de que este dato es correcto", tómalo con pinzas.

El estudio no dice que la IA no "sepa" que se equivoca internamente. Lo que dice es que, cuando intentamos sacarle esa información para que nos ayude a tomar decisiones seguras, la IA no sabe cómo comunicarlo correctamente. Es como un experto que, por timidez o por un fallo en su lenguaje, siempre responde con un "sí" rotundo, aunque esté perdido.

La lección: Antes de confiar en la "seguridad" de una IA para cosas importantes (como medicina o leyes), primero debemos asegurarnos de que su "termómetro" de confianza realmente funcione y no esté simplemente pegado al máximo.

1. El Problema: El Problema de la "Lectura" (Readout Problem)

El uso de la "confianza verbal" (pedir al modelo que estime su propia certeza mediante números o categorías) es una técnica común para extraer medidas de incertidumbre en Grandes Modelos de Lenguaje (LLMs). La premisa es que el valor verbalizado refleja una señal interna que distingue respuestas correctas de incorrectas.

Sin embargo, este estudio aborda una falla crítica: la saturación. El problema no es necesariamente que el modelo esté mal calibrado, sino que la señal de confianza se "colapsa" en el extremo superior de la escala (el techo), perdiendo toda capacidad de discriminación entre ítems. Si el modelo responde "95% de confianza" tanto para una respuesta correcta como para una incorrecta, la señal es psicométricamente inválida para cualquier uso posterior.

2. Metodología

El estudio se realizó bajo un diseño pre-registrado (OSF) con un enfoque psicométrico riguroso:

Muestra de Modelos: 8 modelos de pesos abiertos (3–9B parámetros) de las familias Llama 3, Mistral, Qwen 2.5, Gemma 2 y DeepSeek R1 (destilado).
Tarea: 524 ítems de TriviaQA administrados mediante decodificación codiciosa (greedy decoding) para aislar el comportamiento por defecto de la interfaz.
Condiciones de Elicitación:
1. Numérica (NUM): Solicitar un porcentaje de 0 a 100.
2. Categórica (CAT): Clasificar la confianza en una escala ordinal de 10 clases.
Protocolo de Validación (Screening): En lugar de medir solo la calibración, se aplicó un protocolo de validez psicométrica basado en criterios clínicos (como el MMPI-3). Se evaluaron índices como la tasa de detección de errores ( $L$ ), la tasa de falsos positivos ( $F_p$ ) y la degeneración de la distribución para clasificar los modelos como Válidos, Indeterminados o Inválidos.

3. Resultados Clave

Saturación Extrema (H1 y H2 confirmadas): Todos los modelos instruidos (7/7) fueron clasificados como Inválidos en la condición numérica. La tasa media de "techo" (confianza $\geq 95\%$ ) fue del 91.7%. En algunos casos, los modelos mostraron una degeneración total (cero respuestas de baja confianza).
Fallo de la Elicitación Categórica (H4 no confirmada): Cambiar el formato a categorías no "rescató" la validez. Por el contrario, el formato categórico provocó un colapso en el rendimiento de la tarea (la precisión cayó por debajo del 5% en la mayoría de los modelos), sugiriendo que las instrucciones de clasificación interfieren con la capacidad de respuesta del modelo.
Independencia de la Log-probabilidad (H5 confirmada): La probabilidad del token (log-probability) no fue un predictor útil de la confianza verbalizada ( $R^2 < 0.01$ ), lo que indica que la confianza verbalizada opera de forma casi independiente de la certeza estadística del token.
Efecto de Contaminación del Razonamiento (E5): En el modelo de razonamiento (DeepSeek-R1), se encontró una correlación negativa significativa entre la longitud del rastro de razonamiento y la confianza verbalizada. A mayor razonamiento (mayor dificultad), menor confianza.

4. Contribuciones y Significancia

Cambio de Paradigma en la Evaluación: El autor argumenta que la saturación debe tratarse como un fallo de validez, no de calibración. Si la señal es constante (colapsada en el techo), no se puede aplicar ninguna técnica de reescalado matemático para recuperarla; la información se ha perdido en la interfaz de salida.
Advertencia para el Despliegue: El estudio advierte que cualquier sistema de IA que utilice la confianza verbal de modelos pequeños (3–9B) para la toma de decisiones críticas (como la abstención de respuestas o la seguridad) está operando sobre una señal degenerada e inútil.
Propuesta de Protocolo: El trabajo establece que cualquier uso de señales de incertidumbre debe ir precedido por un tamizaje psicométrico de validez para asegurar que el modelo realmente tiene la capacidad de discriminar entre aciertos y errores antes de intentar calibrar sus respuestas.

Conclusión principal: En el régimen de tamaño de modelos de 3–9B, la confianza verbalizada bajo instrucciones mínimas no es un reflejo fiable de la incertidumbre interna, sino un fenómeno de saturación que carece de valor discriminativo.