🤖 AI

When Agents Disagree With Themselves: Behavioral Consistency as an Uncertainty Signal for LLM Agents

Este artículo demuestra que la varianza conductual en las secuencias de acciones de los agentes de LLM sirve como una señal de incertidumbre sin necesidad de entrenamiento, permitiendo una clasificación selectiva y una calibración libre de distribución que mejora significativamente la precisión y la fiabilidad del ranking del modelo sin requerir datos de calibración no utilizados previamente.

Autores originales: Aman Mehta

Publicado 2026-07-16

📖 7 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Aman Mehta

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

La doble verificación digital: Por qué preguntar a una IA dos veces puede ser mejor que preguntarle una sola vez

Imagina que estás intentando resolver un acertijo difícil, como un enigma complejo o un problema matemático. Si le pides la respuesta a un amigo, podría acertar, o podría adivinar y equivocarse. Pero, ¿y si pudieras hacerle exactamente la misma pregunta al mismo amigo diez veces seguidas? Si te da la misma respuesta cada vez, probablemente te sientas bastante seguro de que tiene razón. Si, por el contrario, te da diez respuestas diferentes, sabes que algo pasa: está confundido, está adivinando o la pregunta es demasiado difícil para él.

Esta es la idea central detrás de los Modelos de Lenguaje Extensos (LLM), que son los programas informáticos superinteligentes que impulsan a los agentes de IA actuales. Estos agentes son como detectives digitales que pueden usar herramientas (como buscar en la web o escribir código) para resolver problemas de múltiples pasos. Pero, al igual que los humanos, no son perfectos. A veces alucinan (inventan cosas) o se quedan atrapados en un bucle. Los científicos se han preguntado durante mucho tiempo: ¿Cómo podemos saber cuándo una IA no está segura de sí misma sin simplemente preguntarle "¿Estás seguro?"? (Porque la IA puede mentir sobre estar segura). Este artículo explora un truco ingenioso: en lugar de confiar en una sola respuesta, observamos cómo se comporta la IA cuando intenta la misma tarea una y otra vez. Si el comportamiento de la IA es errático, es una enorme señal de alerta de que la respuesta podría ser incorrecta.

Cuando los agentes de IA no pueden decidir por sí mismos

Los investigadores detrás de este estudio decidieron probar una idea simple pero poderosa: la Consistencia Conductual. Trataron al agente de IA como un estudiante haciendo un examen. En lugar de solo calificar la respuesta final, observaron cómo el estudiante resolvía el problema. Ejecutaron el mismo agente de IA en las mismas preguntas 10 veces cada una, utilizando diferentes "semillas aleatorias" (que es como barajar el mazo de cartas del que la IA extrae sus decisiones).

Esto es lo que encontraron, y es un poco sorprendente:

1. La IA es un pensador voluble
Incluso cuando le das a una IA las mismas instrucciones y el mismo punto de partida, no siempre piensa de la misma manera. En sus pruebas, ejecutar el mismo agente 10 veces produjo entre 2.3 y 4.2 caminos diferentes hacia la solución. A veces la IA tomaba un atajo; otras veces, se perdía en un callejón largo y confuso. Este "deambular" no es solo un fallo; es una señal. Cuanto más cambie la IA de opinión sobre cómo resolver un problema, menos probable es que obtenga la respuesta correcta.

2. La consistencia es un cristal para la precisión
El equipo descubrió un fuerte vínculo entre la consistencia de la IA y su corrección.

El grupo "Constante": Cuando la IA se mantenía en el mismo camino (2 o menos caminos únicos), acertaba la respuesta entre el 82% y el 87% de las veces.
El grupo "Errante": Cuando la IA tomaba muchas direcciones diferentes (4 o más caminos únicos), su precisión caía entre el 41% y el 65%.

Esta brecha era enorme. Significa que si ves que una IA toma una ruta muy diferente cada vez que le haces una pregunta, probablemente deberías confiar menos en su respuesta.

3. La sorpresa del "Paso 2"
Los investigadores observaron de cerca cuándo empezaba a confundirse la IA. Descubrieron que para algunos modelos (como Llama), el problema comenzaba casi de inmediato. Aproximadamente el 50.5% de las veces, la IA tomaba un primer o segundo paso diferente en comparación con sus otros intentos. Es como si la IA estuviera ante una bifurcación en el camino y no pudiera decidir hacia dónde ir desde el principio. Para otros modelos (como Claude), se mantenían en el mismo camino mucho más tiempo antes de divergir.

4. El "Filtro" frente al "Votante"
Uno de los hallazgos más interesantes fue sobre cómo utilizar esta información.

El enfoque del "Votante": Podrías pensar: "Si le pregunto a la IA 3 veces y tomo la mayoría de los votos, obtendré una mejor respuesta". El artículo dice que esto funciona, pero solo un poco (mejorando la precisión solo un 0–2%). ¿Por qué? Porque a veces la IA está erróneamente segura. Si comete un error al principio, podría cometer el mismo error todas las veces, por lo que el "voto" solo confirma el error.
El enfoque del "Filtro": En lugar de votar, los investigadores probaron una estrategia diferente: Solo responder si la IA está de acuerdo consigo misma. Dijeron: "Si la IA ejecuta la tarea 3 veces y las 3 ejecuciones dan la misma respuesta exacta, entonces aceptamos la respuesta. Si no están de acuerdo, decimos 'no lo sé' y saltamos la pregunta".
- Este "filtro" funcionó de maravilla. Al saltarse las preguntas inciertas, la precisión de la IA en las preguntas que sí respondía aumentó al 87–88%. Eso es una mejora de 6 a 14 puntos porcentuales respecto a simplemente hacer una única suposición.

5. Mejor que "preguntar" a la IA
El equipo también comparó este truco de la "consistencia conductual" con preguntar a la IA: "¿Qué tan segura estás?" (esto se llama "confianza verbalizada"). Los resultados fueron claros: las acciones de la IA eran un detector de mentiras mucho mejor que sus palabras. La IA a menudo decía estar segura incluso cuando estaba deambulando en círculos. La señal conductual (observar si cambia de opinión) era una forma mucho más fiable de detectar un error.

6. Funciona en todas partes
Para asegurarse de que esto no era solo una casualidad para un tipo de pregunta, probaron la IA en un tipo de tarea completamente diferente: corregir errores en código informático (usando un benchmark llamado SWE-bench). Aunque programar es muy diferente a responder preguntas de cultura general, la misma regla se aplicó. La IA que fue más consistente en su comportamiento también fue la más precisa. La "jerarquía de consistencia" (qué modelos eran constantes y cuáles erráticos) se mantuvo exactamente igual en ambas pruebas.

Por qué esto es importante

El artículo sugiere que no necesitamos cambiar el cerebro de la IA ni enseñarle cosas nuevas para que sea más fiable. Solo necesitamos observarla. Al ejecutar una tarea unas cuantas veces y comprobar si la "historia" de la IA se mantiene igual, podemos actuar como un editor inteligente. Podemos elegir confiar en las respuestas que son consistentes e ignorar aquellas donde la IA parece confundida.

Este es un método "libre de entrenamiento", lo que significa que funciona con cualquier modelo de IA tal cual sale de la caja. Convierte la propia incertidumbre de la IA en una señal útil. En lugar de confiar ciegamente en una sola respuesta, podemos usar este "control de consistencia" para saber cuándo decir: "No estoy seguro de esto", lo cual es un gran paso adelante para hacer que los agentes de IA sean más seguros y confiables en el mundo real.

En resumen: Si una IA no puede decidir un plan por sí misma, probablemente no es el mejor momento para confiar en su respuesta. Pero si se mantiene en el mismo plan cada vez, puedes apostar a que va por el buen camino.

Resumen Técnico: La consistencia conductual como señal de incertidumbre para agentes de LLM

Declaración del problema

A medida que los agentes de Modelos de Lenguaje Extensos (LLM) transitan de prototipos a sistemas de producción, comprender su fiabilidad es crítico. Una pregunta fundamental pero poco estudiada es la consistencia conductual de estos agentes: ante entradas idénticas, ¿seguirá un agente el mismo camino de razonamiento y llegará a la misma respuesta? La inconsistencia complica la depuración, oscurece la detección de la incertidumbre y desafía los métodos estándar de evaluación de benchmarks. Si bien trabajos existentes han cuantificado la inconsistencia de los agentes (por ejemplo, $\tau$ -bench), existe una falta de análisis sistemático sobre dónde y por qué ocurre la divergencia, y si esta varianza puede servir como una señal de incertidumbre accionable y libre de entrenamiento para la predicción selectiva y la detección de fallos.

Metodología

Los autores presentan un estudio empírico sistemático de la consistencia conductual en agentes de estilo ReAct a través de cuatro modelos (Llama 3.1 70B, GPT-5, Claude Sonnet 4.5 y Gemini 3 Pro) y dos benchmarks (HotpotQA y SWE-bench).

Configuración experimental: El estudio involucró un total de 8,000 ejecuciones (200 preguntas de HotpotQA $\times$ 4 modelos $\times$ 10 ejecuciones independientes cada una) y 1,000 ejecuciones en SWE-bench (50 tareas $\times$ 5 ejecuciones). Las ejecuciones se ejecutaron a una temperatura de 0.7 (con ajustes específicos para Gemini) para asegurar el muestreo estocástico.
Métricas: La métrica central es la consistencia conductual, definida por el número de secuencias de acciones únicas (trayectorias) generadas a través de $k$ ejecuciones. Las métricas adicionales incluyen la relación de varianza de pasos, el punto de primera divergencia y la exactitud de la respuesta (mediante coincidencia difusa de cadenas y F1 de tokens).
Marcos estadísticos: El artículo instancia tres marcos estadísticos utilizando el acuerdo entre ejecuciones como una señal única de caja negra:
1. Clasificación selectiva: Uso de puntuaciones de acuerdo para filtrar entradas inciertas.
2. Calibración libre de distribución: Validación de curvas de riesgo-cobertura sin conjuntos de calibración externos.
3. Monitoreo secuencial: Análisis del acuerdo a nivel de paso para detectar la divergencia tempranamente.
Base teórica: Los autores formalizan la puntuación de acuerdo $s(x)$ como la fracción de ejecuciones que producen la respuesta de pluralidad. Demuestran un límite de concentración de tipo Hoeffding (Proposición 1) que muestra que la puntuación de acuerdo empírica converge a la verdadera probabilidad de pluralidad, asumiendo ejecuciones independientes e idénticamente distribuidas (i.i.d.).

Contribuciones clave

1. Asimetría Filtro > Agregador

El artículo identifica una asimetría crítica en los agentes de múltiples pasos en comparación con la cadena de pensamiento (CoT) de un solo turno. Mientras que el voto por mayoría (agregación) mejora la exactitud de la CoT de un solo turno en 5–17 puntos porcentuales (pp), produce solo +0–2pp para agentes de múltiples pasos. Esto se debe a que los errores de los agentes suelen ser sistemáticos; una acción errónea temprana compromete al agente a una trayectoria incorrecta, resultando en respuestas "consistentemente erróneas" que el voto no puede corregir. Por el contrario, el filtrado basado en el desacuerdo (abstenerse cuando las ejecuciones no concuerdan) genera ganancias significativas de 6–14pp para tres de los cuatro modelos.

2. Predicción selectiva con validación libre de distribución

Los autores demuestran que la consistencia conductual funciona como una función de selección válida dentro del marco de clasificación selectiva de Geifman–El-Yaniv. Al responder solo cuando $k=3$ ejecuciones concuerdan, el sistema logra una exactitud del 87–88% con una cobertura del 54–62%. Este enfoque iguala el rendimiento de las líneas base de conformal dividido (que requieren un conjunto de calibración externo) sin necesidad de datos de calibración separados, ya que las $k$ ejecuciones utilizadas para la predicción proporcionan intrínsecamente la señal.

3. Consistencia conductual > Confianza verbalizada

En una comparación directa sobre un split común de 100 preguntas, la consistencia conductual (AUROC 0.65–0.74) supera significativamente a la confianza auto-verbalizada (AUROC 0.48–0.55) como detector de fallos en Claude, GPT-5 y Llama. La combinación de ambas señales no mejoró el rendimiento respecto a la consistencia conductual por sí sola. Crucialmente, la consistencia conductual no requiere ingeniería de prompts, ni acceso a log-probabilities, ni modificación del modelo.

4. Estabilidad entre benchmarks y la inestabilidad de ranking

La jerarquía de consistencia (Claude < GPT-5 < Gemini < Llama en términos de varianza) se preserva exactamente en HotpotQA (tareas de QA) y SWE-bench (tareas de codificación), lo que sugiere que la consistencia es una propiedad del modelo estable e independiente del benchmark. Además, el artículo revela que las evaluaciones de ejecución única clasifican erróneamente a los modelos el 29.3% de las veces debido a la varianza, socavando las metodologías de benchmark estándar.

5. Mecanismo de divergencia

La divergencia se concentra temprano en el proceso de razonamiento. Para Llama, el 50.5% de las tareas divergen hacia el paso 2, comparado con solo el 4–6% para Claude y GPT-5. La primera consulta de búsqueda determina en gran medida la trayectoria. Además, la longitud del camino está fuertemente correlacionada con la varianza conductual; los caminos más largos indican retrocesos (backtracking) y mayores oportunidades de error.

Resultados

Consistencia vs. Exactitud: Las tareas consistentes (≤2 secuencias únicas) logran una exactitud del 82–87%, mientras que las tareas inconsistentes (≥4 secuencias) caen al 41–65%. Esta brecha persiste incluso después de controlar la dificultad de la tarea, aunque las tareas "consistentemente erróneas" (donde el agente produce una respuesta incorrecta con confianza) establecen un techo duro para las ganancias de filtrado (5.5–10% de las tareas).
Detección de fallos: Las métricas de consistencia (por ejemplo, conteo de secuencias únicas >4) logran puntuaciones AUROC de 0.62–0.78 para la detección de fallos, superando sustancialmente a las líneas base aleatorias.
Calibración: Si bien la consistencia conductual es una señal de incertidumbre útil, no está perfectamente calibrada (el Error de Calibración Esperado varía de 0.09 a 0.17), lo que indica que los niveles de acuerdo no mapean perfectamente las probabilidades de exactitud.
Validación en SWE-bench: La jerarquía de consistencia se mantiene a través de tareas de codificación bash sin restricciones, con Llama mostrando la mayor varianza (CV 68.9%) y Claude la menor (CV 17.7%).

Significado y afirmaciones

El artículo afirma que la consistencia conductual es una señal de incertidumbre de caja negra y libre de entrenamiento que emerge naturalmente de la ejecución repetida. Su principal significancia radica en permitir la predicción selectiva (abstenerse en entradas inciertas) y la detección de fallos en tiempo de ejecución sin requerir la modificación del modelo o el acceso al estado interno.

Los autores argumentan que esta señal aborda una brecha en la fiabilidad de los agentes: a diferencia de la confianza verbalizada o la calibración aprendida, es robusta y no requiere ajuste fino (fine-tuning). Al tratar cada ejecución independiente como un miembro implícito de un ensamble, este trabajo conecta el comportamiento del agente con marcos estadísticos establecidos para la estimación de la incertidumbre. Los hallazgos sugieren que, para despliegues de alto riesgo, confiar en evaluaciones de ejecución única es insuficiente; en su lugar, monitorear el acuerdo entre ejecuciones proporciona un mecanismo fiable para filtrar errores y mejorar la confianza en el sistema, aunque a costa de una reducción en el rendimiento (cobertura). El artículo concluye que la consistencia no es meramente una métrica de fiabilidad, sino una propiedad fundamental que puede explotarse para hacer que los sistemas agénticos sean más seguros y predecibles.