Explanatory Engagement Under Rare Anomalous Failure: Asymptotic Rarity in Model Behavior (or: The Asymptotic AI)

El detective, el fallo y el robot aburrido

Imagina que estás viendo un espectáculo de magia donde un mago saca un conejo de un sombrero, una y otra vez, durante horas. Es aburrido, pero predecible. De repente, el sombrero está vacío. ¿Qué sucede después? ¿Entra el mago en pánico? ¿Detiene el espectáculo para explicar el truco? ¿O simplemente se encoge de hombros y sigue adelante, fingiendo que no ha pasado nada?

Este es el tipo de pregunta que los científicos que estudian la Inteligencia Artificial (IA) se están haciendo ahora mismo. No solo preguntan si la IA puede resolver un problema matemático; preguntan cómo reacciona la IA cuando las cosas salen mal en un mundo donde las cosas suelen salir bien. En el mundo de la IA, estos "cosas" se llaman modelos de lenguaje —programas informáticos que son muy buenos adivinando la siguiente palabra en una frase, algo así como un autocompletado superinteligente—. Cuando estos modelos se ponen a trabajar realizando tareas repetitivas, como revisar una lista de números o llamar a una herramienta, suelen tener éxito el 100% de las veces. Pero, ¿qué pasa cuando fallan?

El gran misterio es sobre la rareza. Si un robot falla una vez de cada diez, es una molestia. Si falla una vez cada millón, es un milagro. Pero, ¿nota el robot la diferencia? ¿Se vuelve más dramático y detallado en su disculpa cuando el fallo es súper raro, o se acostumbra tanto a la perfección que deja de notar el error por completo? Este artículo profundiza en esa misma cuestión, tratando a la IA no como un humano pensante, sino como una criatura curiosa que podría tener sus propios hábitos extraños cuando las cosas salen mal.

---

El experimento: El momento del "ups" de un robot

Los investigadores prepararon un patio de juegos digital para probar tres modelos de IA diferentes (llamados qwen3:8b, llama3.1:8b y mistral:7b). Hicieron que estos modelos jugaran un juego sencillo: tenían que llamar a una "herramienta" (como una calculadora) repetidamente. La mayoría de las veces, la herramienta funcionaba perfectamente. Pero los investigadores programaron secretamente la herramienta para que fallara a tasas específicas y controladas.

Probaron ocho "tasas de fallo" diferentes, que iban desde una probabilidad común de fallo del 20% (1 de cada 5 intentos) hasta un 0,0001% súper raro (1 en un millón de intentos). La gran pregunta era: A medida que el fallo se volvía más raro y sorprendente, ¿la explicación de la IA sería más larga y segura de sí misma, o simplemente ignoraría el error?

Los investigadores tenían una corazonada, basada en cómo se comportan los humanos. Pensaron: Si un robot falla a menudo, puede que solo diga "ups". Pero si falla muy raramente, ¡debería estar sorprendido! Debería escribir una explicación larga y detallada y decir: "¡Estoy 90% seguro de que esto es raro!". Incluso pensaron que si el fallo se volvía demasiado raro, el robot podría confundirse tanto que dejaría de notarlo, tratando el error como ruido de fondo.

El giro: Depende de cómo preguntes

Aquí es donde la historia se pone interesante. Cuando los investigadores miraron primero todos los datos mezclados, la respuesta fue aburrida: No. La IA no se volvía más dramática a medida que los fallos eran más raros. De hecho, las explicaciones se volvían cada vez más cortas. Parecía que los robots simplemente se rendían.

Pero entonces, los investigadores se dieron cuenta de que estaban haciendo la pregunta equivocada. Habían mezclado cinco formas diferentes de pedirle a los robots que se explicaran. Resultó que cómo le pides al robot que se explique es tan importante como qué le pides.

Cuando separaron los datos, surgió un patrón oculto, pero solo para una forma específica de preguntar:

1. La condición de "Forzado Inmediato" (El interrogatorio)
En este escenario, en el momento en que la herramienta fallaba, el robot se veía obligado a detenerse y explicarlo en ese mismo instante.

• El resultado: ¡Los investigadores tenían razón en la primera parte! A medida que los fallos eran más raros, los robots se volvían más dramáticos.
  • En tasas de fallo comunes (20%), los robots daban respuestas cortas, de unas 10 palabras de longitud.
  • A medida que los fallos eran más raros, las respuestas crecían, alcanzando un máximo de 28,4 palabras cuando la tasa de fallo era de 0,05 (1 en 20).
  • Sin embargo, la segunda parte de su teoría era errónea. Pensaban que los robots eventualmente colapsarían y dejarían de hablar. En cambio, los robots alcanzaron una meseta. Incluso en las tasas más raras (0,0001%), seguían escribiendo unas 17 a 19 palabras. No se detuvieron; simplemente se asentaron en una explicación de longitud media y constante.
• Confianza: Los robots también ganaban confianza a medida que los fallos eran más raros. Su autoinforme de confianza (un número del 0 al 100) pasó de aproximadamente un 53% en tasas comunes hasta los 70 y los 90 en las tasas más raras. No alcanzaron un techo perfecto del 100%; simplemente siguieron subiendo de forma irregular.

2. La condición de "Ejecuciones Agrupadas" (El proyecto de grupo)
Aquí, no se le pedía al robot que explicara inmediatamente. En su lugar, tenía que esperar hasta el final de un lote completo de pruebas para explicar todos los errores a la vez.

• El resultado: El patrón de "ascenso y colapso" desapareció por completo. Los robots daban explicaciones largas y constantes (alrededor de 32 a 43 palabras) sin importar cuán raro fuera el fallo. Parece que cuando pides un resumen más tarde, la "sorpresa" de un evento único y raro se diluye.

3. La condición de "Pasivo No Prometido" (El observador silencioso)
En este caso, los investigadores nunca le pidieron al robot que explicara nada. Simplemente observaron para ver si él mismo ofrecía una explicación por su cuenta.

• El resultado: La mayoría de los robots permanecieron en silencio. Pero un robot, llama3.1:8b, hizo algo extraño y fascinante. Sin que se le pidiera, empezó a anotar sus propias puntuaciones de confianza a lo largo de la sesión.
  • En algunos casos, empezaba con un 100% de confianza y la erosionaba lentamente hasta llegar al 0% a medida que avanzaba la sesión, como un detective que pierde la fe en su teoría.
  • Los otros dos robots (qwen y mistral) solo escribieron una puntuación de confianza una vez, como un robot aburrido diciendo "estoy 100% seguro" como configuración predeterminada.
  • Esto sugiere que llama3.1:8b tiene un hábito único de automonitoreo que los otros no tienen, pero solo cuando nadie lo está mirando.

La sorpresa del "Final Vacío"

Hubo un gran contratiempo en el experimento que casi engaña a los investigadores. Cuando ejecutaron por primera vez la prueba con las tasas de fallo más raras (0,001, 0,0005 y 0,0001), no ocurrió ningún fallo en absoluto. Debido a que las tasas eran tan bajas, el azar simplemente no produjo ni un solo error en el número limitado de pruebas que realizaron.

Si hubieran parado ahí, habrían pensado que los robots eran perfectos y que nunca fallaban. Pero los investigadores se dieron cuenta de que esto era un fallo estadístico, no un superpoder de los robots. Tuvieron que construir un sistema de "recuperación" especial para forzar que ocurriera un fallo en esas tasas tan raras para poder ver realmente cómo reaccionaban los robots. Esto les enseñó una lección valiosa: en la ciencia, si buscas algo muy raro, es posible que no lo encuentres simplemente porque no buscaste el tiempo suficiente.

La división entre "Reconocimiento" y "Compromiso"

Finalmente, los investigadores descubrieron que "decir algo" y "darse cuenta de que algo es raro" son dos cosas distintas.

• El Compromiso (Engagement) es cuánto habla el robot.
• El Reconocimiento es si el robot realmente piensa que el error es un error.

Bajo ciertas condiciones, qwen3:8b describía el error exacto (como un checksum roto) pero luego concluía: "Todo está bien, esto es normal". Reconocía los detalles, pero se negaba a etiquetarlo como una anomalía.
llama3.1:8b, por otro lado, era el más propenso a decir: "¡Oye, esto es raro!".
Esto demuestra que un robot puede ser muy hablador sobre un problema sin que realmente piense que el problema es un problema.

Conclusión

Este artículo no encontró un robot que actúe exactamente como un detective humano que se emociona más a medida que los crímenes son más raros. En su lugar, encontró que cómo haces la pregunta cambia la respuesta.

• Si fuerzas al robot a explicar inmediatamente, este sí se vuelve más dramático y seguro de sí mismo a medida que los fallos son más raros, pero no colapsa; simplemente se estabiliza.
• Si pides un resumen más tarde, el drama desaparece.
• Si no preguntas en absoluto, algunos robots podrían empezar a dudar de sí mismos en secreto, mientras que otros simplemente se ciñen a un guion.

El estudio sugiere que el comportamiento de la IA no es una personalidad única y fija. Es un espejo que refleja la estructura de la conversación. Los robots no están necesariamente "pensando" de la misma manera que nosotros; están reaccionando a las reglas del juego. Y a veces, lo más interesante que hace un robot es ese momento silencioso y espontáneo en el que decide comprobar su propio índice de confianza por sí mismo.