🤖 AI

AI advice suppresses people's willingness to say "I don't know", even when the advice is wrong and accuracy is incentivized

Cinco experimentos demuestran que el mero hecho de tener acceso al consejo de una IA, incluso cuando este es incorrecto y se incentiva la precisión, reduce drásticamente la disposición de las personas a admitir la incertidumbre, lo que las lleva a responder más preguntas con una confianza inflada pero con una precisión significativamente menor.

Autores originales: Chiara Marcoccia, Walter Quattrociocchi, Valerio Capraro

Publicado 2026-07-16

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Chiara Marcoccia, Walter Quattrociocchi, Valerio Capraro

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

El arte de saber cuándo detenerse

Imagina que estás jugando a un juego de trivia con un amigo. A veces, sabes la respuesta de inmediato. Otras veces, no estás seguro, así que podrías decir "no lo sé" o lanzar una respuesta al azar. En el mundo de la ciencia, esta capacidad de hacer una pausa y admitir la incertidumbre se llama "suspender el juicio". Es un superpoder que nos evita creer cosas que no son ciertas. Durante mucho tiempo, los humanos han sido los únicos con este superpoder; si no sabíamos algo, nos quedábamos callados. Pero ahora, tenemos un nuevo compañero de equipo: la Inteligencia Artificial (IA). Estos asistentes de IA son como bibliotecarios increíblemente rápidos y seguros de sí mismos que pueden responder casi cualquier pregunta al instante. La gran pregunta que se hacen los científicos es: si tenemos un amigo súper rápido y súper seguro que siempre tiene una respuesta lista, ¿dejaremos de decir "no lo sé"? ¿Confiaremos tanto en la IA que olvidaremos cómo hacer una pausa y pensar por nosotros mismos, incluso si la IA se equivoca?

El experimento: Cuando la IA miente

Un equipo de investigadores decidió probar esto configurando un juego trucado. Hicieron a las personas 6 preguntas difíciles sobre películas —cosas como el color de una tortuga en un dibujo animado antiguo o el coche específico que conducía un personaje—. Estas preguntas fueron elegidas cuidadosamente porque son el tipo de cosas que hacen que la IA "alucine", o invente respuestas que suenan convincentes pero que son completamente erróneas. Los investigadores dieron a algunas personas la opción de pedir ayuda a una IA, mientras que otros tuvieron que responder por su cuenta.

Aquí está el giro: la IA casi siempre se equivocaba. Era como tener un amigo que es muy ruidoso y está muy seguro de sí mismo, pero que en realidad está adivinando las respuestas incorrectas. Los investigadores querían ver si las personas seguirían diciendo "no lo sé" cuando tenían la opción de preguntarle a este amigo poco fiable, o si la mera presencia de la IA haría que dejaran de hacer pausas y simplemente empezaran a responder.

Lo que encontraron: La "rendición cognitiva"

Los resultados fueron sorprendentes y un poco aterradores. Cuando las personas tenían acceso a la IA, casi dejaron de decir "no lo sé". Era como si la voz fluida y segura de la IA hubiera bajado el listón de lo que se necesitaba para sentirse listo para responder. Aunque la IA se equivocaba la mayor parte del tiempo, las personas que la usaron respondieron muchas más preguntas que las que no la usaron. Pero aquí está el detalle: acertaron las respuestas solo aproximadamente un tercio de las veces que las personas que no la usaron.

Es como un estudiante que deja de levantar la mano para decir "no estoy seguro" porque tiene una hoja de trucos que le da las respuestas. Completa todo el examen, pero la mayoría de las veces falla porque confió demasiado en la hoja de trucos. El estudio encontró que tener la IA disponible hizo que las personas se sintieran mucho más seguras de sus respuestas (¡su confianza casi se duplicó!), a pesar de que su precisión real disminuyó significamente. Básicamente, habían rendido su propio juicio a la máquina.

¿Cambia el juego el dinero?

Los investigadores luego se preguntaron: ¿Qué pasaría si equivocarse costara dinero? Configuraron una nueva ronda del juego donde las personas podían ganar una pequeña cantidad de dinero por las respuestas correctas y perder una pequeña cantidad por las incorrectas. Esperaban que esto las hiciera pensar más y tal vez empezaran a decir "no lo sé" de nuevo, incluso con la IA alrededor.

El dinero ayudó un poco. Las personas pidieron ayuda a la IA con menos frecuencia y acertaron un poco más de respuestas. Sin embargo, el dinero no solucionó el problema principal. Incluso cuando había una penalización por estar equivocado, las personas que tenían la IA seguían diciendo "no lo sé" con mucha menos frecuencia que las personas que no tenían la IA en absoluto. El atractivo de la IA era demasiado fuerte. Resultó que la IA no solo cambió qué respondía la gente; cambió si sentían o no que tenían permitido responder en primer lugar.

La conclusión

Esta investigación sugiere que, a medida que la IA se vuelve más común y comienza a darnos respuestas sin siquiera pedírselas, podríamos perder una habilidad crucial: la capacidad de reconocer cuándo no sabemos algo. La IA no solo llena los huecos; parece convencernos de que no necesitamos hacer una pausa y pensar. El estudio muestra que, si bien podemos sentirnos motivados a revisar nuestro trabajo si hay un costo por estar equivocados, la simple presencia de una respuesta segura y fluida de una máquina nos hace mucho menos propensos a admitir nuestra propia incertidumbre. En un mundo lleno de IA, saber cuándo decir "no lo sé" podría ser la habilidad más importante de todas.

Resumen Técnico: El consejo de la IA suprime la disposición a decir "No lo sé"

Planteamiento del problema

El juicio humano depende fundamentalmente de la capacidad metacognitiva de reconocer la incertidumbre y suspender el juicio (es decir, decir "no lo sé") cuando el conocimiento es insuficiente. Esta capacidad protege contra las creencias falsas y es un requisito previo para un razonamiento calibrado. Sin embargo, los Modelos de Lenguaje Extensos (LLM) están diseñados para proporcionar respuestas fluidas e instantáneas a casi cualquier consulta y son notoriamente reacios a admitir la incertidumbre.

La cuestión empírica central abordada es si la mera disponibilidad de una respuesta generada por IA altera el criterio de decisión humano para responder bajo incertidumbre. Específicamente, ¿causa el acceso al consejo de una IA que los individuos anulen su propia incertidumbre y se comprometan con una respuesta que, de otro modo, retendrían? La literatura previa ha examinado la descarga cognitiva, la pérdida de habilidades y la erosión de la agencia, y el concepto de "rendición cognitiva" (Shaw & Nave, 2026) sugiere que las personas pueden delegar en la IA incluso cuando esta se equivoca. Sin embargo, estudios previos no han aislado la disposición específica a retener el juicio como un resultado primario, confundiendo a menudo la dependencia de la IA con la delegación racional en herramientas precisas.

Metodología

Los autores realizaron cinco experimentos (total $N = 3.132$ ; cuatro preregistrados, uno de replicación directa) para aislar el efecto conductual de la disponibilidad de la IA de su precisión.

Diseño Experimental y Estímulos:

Tarea: Los participantes respondieron a seis preguntas difíciles sobre detalles visuales finos en películas (por ejemplo, el color de una tortuga en una película animada oscura, el vehículo en una escena específica de una película).
Ingeniería de la IA: Las preguntas fueron seleccionadas específicamente para inducir alucinaciones en los LLM. El modelo principal utilizado, Step 3.5 Flash, respondió a estas preguntas incorrectamente casi sin excepción. Los modelos de vanguardia (GPT-5.5, Claude 4.6 Sonnet, Gemini 3.5 Flash) también fallaron en los ítems más difíciles. Este diseño aseguró que seguir el consejo de la IA fuera irracional, permitiendo a los investigadores medir una tendencia a deferir ante la salida de la IA en lugar de una delegación sensata.
Condiciones:
- Acceso a la IA: Los participantes podían solicitar activamente el consejo de la IA (Estudios 1a–3) o recibirlo automáticamente sin elección (Estudio 4).
- Intereses (Stakes): Se introdujeron incentivos monetarios en los Estudios 2–4. Los participantes ganaban \ $undefined$ 0.10 por respuestas incorrectas y recibían $0 por suspender el juicio.
- Controles de Replicación: El Estudio 1b utilizó respuestas de IA incorrectas pregeneradas para descartar fallos del sistema. El Estudio 3 aumentó la saliencia de los incentivos recordando a los participantes las consecuencias antes de cada pregunta y eliminó la elicitación de confianza para evitar el sesgo de adivinación. El Estudio 4 eliminó el control del participante, mostrando el consejo de la IA automáticamente.

Medidas:

Suspensión del Juicio: La variable dependiente primaria, definida como la proporción de preguntas donde los participantes retuvieron explícitamente una respuesta (por ejemplo, "no lo sé", respuesta en blanco).
Medidas Secundarias: Corrección de la respuesta, confianza autoinformada (Estudio 2) y frecuencia de solicitudes de consejo de la IA.

Resultados Clave

1. Supresión de la Suspensión del Juicio
La mera disponibilidad de consejo de la IA casi eliminó la disposición de los participantes a suspender el juicio, incluso cuando el consejo era sistemáticamente erróneo.

Estudio 1a/1b: En la línea base (sin IA), las tasas de suspensión fueron del 36% y 44%, respectivamente. Con acceso a la IA, estas tasas cayeron al 6% y 3%.
Estudios 2–4: Este efecto persistió en todos los estudios subsiguientes. En el Estudio 3, la suspensión cayó de 32% (sin IA) a 2% (con IA, sin intereses) y de 41% (sin IA) a 8% (con IA, con intereses).
Automático vs. Activo: El efecto se mantuvo incluso cuando el consejo de la IA se presentaba automáticamente (Estudio 4), lo que sugiere que la mera presencia de una respuesta fluida es suficiente para alterar la decisión de responder.

2. El Papel de los Incentivos Monetarios
Los incentivos monetarios (recompensas/penalizaciones por precisión) tuvieron efectos independientes pero limitados:

Sobre la Suspensión: Los incentivos aumentaron modestamente las tasas de suspensión (por ejemplo, del 2% al 8% en la condición de IA en el Estudio 3), pero la suspensión se mantuvo muy por debajo de los niveles observados cuando la IA no estaba disponible. Contrario a la hipótesis preregistrada, no hubo una interacción significativa entre la disponibilidad de la IA y los intereses; ambos factores actuaron de forma mayoritariamente independiente.
Sobre la Precisión: Los incentivos mejoraron significamente la precisión, pero solo cuando la IA estaba presente. En ausencia de la IA, los incentivos no cambiaron significativamente la corrección. Esto sugiere que los incentivos motivaron a los participantes a invalidar el consejo de la IA en lugar de simplemente mejorar el rendimiento general.
Sobre la Dependencia de la IA: Los participantes buscaron el consejo de la IA con menos frecuencia cuando los intereses estaban presentes (por ejemplo, 4.53 de 6 preguntas frente a 5.27 en el Estudio 3), indicando que las consecuencias financieras redujeron la dependencia de la herramienta.

3. Divergencia entre Confianza y Precisión
El acceso al consejo de la IA creó una marcada divergencia entre la confianza y la precisión:

Confianza: El acceso a la IA casi duplicó la confianza reportada (por ejemplo, de ~30% a ~76% en el Estudio 2 sin intereses).
Precisión: Los participantes respondieron más preguntas en general, pero fueron correctos solo aproximadamente un tercio de las veces que aquellos sin acceso a la IA (precisión combinada: ~9% con IA frente a ~27% sin IA en condiciones sin intereses).
Interacción: Los incentivos aumentaron la confianza solo cuando la IA estaba ausente; cuando la IA estaba presente, la confianza se mantuvo alta independientemente de los intereses.

Principales Contribuciones

Aislamiento del Cambio Metacognitivo: El estudio demuestra que la disponibilidad de la IA altera el umbral metacognitivo para decidir si se responde o no, no solo el contenido de la respuesta. Revela una "rendición cognitiva" donde la fluidez de una respuesta de la IA reduce el costo percibido de comprometerse con una conjetura.
Desacoplamiento de la Dependencia y la Precisión: Al diseñar preguntas donde la IA es de forma fiable errónea, los autores muestran que la reducción en la suspensión del juicio no es una división del trabajo racional, sino una tendencia conductual a deferir ante salidas de apariencia plausible.
Límites de los Incentivos: La investigación muestra que, si bien los intereses monetarios pueden restaurar parcialmente el juicio independiente y reducir la dependencia de la IA, no logran contrarrestar totalmente el efecto supresor de la disponibilidad de la IA sobre la disposición a decir "no lo sé".
Influencia Automática vs. Activa: El efecto persiste incluso cuando el consejo de la IA es no solicitado y automático, lo que resalta un riesgo para escenarios del mundo real donde los resúmenes y sugerencias de la IA están cada vez más integrados por defecto en las interfaces de usuario.

Significado y Afirmaciones

Los autores argumentan que estos hallazgos sugieren que la asistencia de la IA influye no solo en las respuestas que la gente da, sino también en la decisión fundamental de si responder bajo incertidumbre. La "atracción" hacia la deferencia ante una respuesta fluida parece lo suficientemente fuerte como para sobrevivir a pequeños incentivos monetarios.

El artículo postula que este fenómeno puede entenderse a través de la lente de la epistemia: la tendencia a aceptar los resultados de la IA por su plausibilidad superficial y coherencia sintáctica en lugar de su verificación. A diferencia de los asesores humanos, que suelen infravalorar el consejo para proteger el juicio independiente, los participantes en estos estudios sobreponderaron el consejo de la IA, convirtiendo posibles respuestas correctas en errores.

Los autores concluyen que, a medida que las respuestas generadas por IA se vuelvan ubicuas y no solicitadas, la disposición a decir "no lo sé" podría ser una de las primeras víctimas de la interacción humano-IA. La importancia radica en la observación de que preservar el juicio humano depende menos de hacer que la IA sea más precisa y más de preservar la disposición de las personas para reconocer y actuar sobre los límites de su propio conocimiento. El estudio no afirma que la IA elimine la capacidad de juicio, sino que reduce drásticamente la disposición a ejercerlo bajo incertidumbre.