💻 computer science

Verification Without Distrust: Reframing User-Side Oversight as Routine Epistemic Governance in Everyday Human-Chatbot Interaction

Este estudio desafía la suposición de que la verificación de los resultados de la IA por parte del usuario es impulsada por la desconfianza, revelando mediante un análisis de métodos mixtos de 153 usuarios que la supervisión funciona como una forma rutinaria de gobernanza epistémica distinta de la confianza, y proponiendo direcciones de diseño para una supervisión andamiada que mejore la satisfacción y la agencia del usuario.

Autores originales: Aung Pyae

Publicado 2026-07-29

📖 7 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Aung Pyae

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

La trampa de la confianza: Por qué revisamos a nuestros amigos de IA incluso cuando nos agradan

Imagina que estás aprendiendo a montar en bicicleta con una ruedita de entrenamiento muy útil y súper inteligente que nunca se tambalea. En el mundo de la ciencia que estudia cómo los humanos interactúan con las computadoras (llamada Interacción Humano-Computadora), existe una creencia largamente sostenida sobre cómo funciona esta relación. Dice así: si confías completamente en tu ruedita de entrenamiento, no necesitarás mirarla ni comprobar si está tambaleándose. Simplemente montas. Esta idea se llama "calibración de la confianza". Sugiere que cuanto más confíes en una máquina, menos deberías preocuparte por ella y menos deberías verificar su trabajo.

Pero aquí está el giro: ¿qué pasa si esa regla es errónea? ¿Qué pasa si, incluso cuando amas a tu asistente inteligente, todavía sientes la necesidad de mirar bajo el capó? Este artículo profundiza en esa misma pregunta. Examina cómo las personas utilizan realmente los chatbots —las herramientas de IA que escriben nuestros correos electrónicos, resuelven nuestros problemas matemáticos y nos ayudan a estudiar—. Los investigadores querían saber: ¿Dejan las personas de revisar las respuestas de la IA cuando confían en ella? ¿O siguen revisando, sin importar qué? La respuesta cambia la forma en que debemos construir estas herramientas para el futuro.

El gran misterio de la doble verificación

Durante mucho tiempo, los expertos pensaron en la confianza y la verificación como dos extremos de un subibaja. Si presionas hacia abajo en "Confianza", el lado de "Verificación" debería subir, lo que significa que dejas de verificar. La lógica era simple: si crees que la IA es un buen compañero de equipo, no deberías necesitar actuar como un detective. Pero los autores de este artículo, Aung Pyae y su equipo, decidieron probar esta teoría con 153 usuarios frecuentes de chatbots. Les hicieron preguntas sencillas a estos usuarios: "¿Cuánta confianza le tienes al chatbot?" y "¿Con qué frecuencia verificas sus respuestas antes de usarlas?".

El resultado fue una sorpresa total. Los datos mostraron que no hay una conexión detectable entre la confianza y la verificación. Es como si el subibaja estuviera pegado en posición plana. Independientemente de si un usuario decía que confiaba un poco o mucho en el chatbot, verificaba las respuestas exactamente al mismo ritmo. Los investigadores encontraron una correlación de 0.01, que es básicamente cero. Esto significa que incluso las personas que decían: "Generalmente confío en las respuestas del chatbot", eran tan propensas a verificar hechos, números y contenido relacionado con el trabajo como las personas escépticas.

El artículo descarta explícitamente la idea de que "una mejor confianza significa menos verificación" en el uso cotidiano de los chatbots. Sugiere que, para los usuarios frecuentes, la verificación no es una señal de desconfianza; es simplemente un hábito. Piensa en ello como un chef que confía en su cuchillo favorito pero aun así prueba la sopa antes de servirla. El chef no está dudando del cuchillo; solo está haciendo su trabajo. Los autores llaman a esto "gobernanza epistémica rutinaria", que es una forma elegante de decir: "Es parte de la rutina diaria verificar lo que sabes".

Dos formas de jugar con la IA

El estudio no se limitó solo a la verificación. Analizó cuatro formas diferentes en las que las personas interactúan con los resultados de los chatbots:

Verificación: Leer la respuesta y decir: "Sí, eso parece correcto", sin cambiar nada.
Refinamiento: Pedirle al chatbot que "haga esto más corto" o "lo explique de otra manera".
Corrección: Decirle al chatbot: "Te equivocaste en esa matemática, corrígela".
Aprobación: Asegurarse de que el chatbot reciba el "visto bueno" antes de que haga algo automático.

Los investigadores descubrieron que estas se dividen en dos bandos muy diferentes. La Verificación (solo revisar) es como un observador silencioso. No parece hacer que las personas estén más felices o satisfechas con el chatbot, y no tiene vínculo con cuánta confianza le tienen al bot.

Sin embargo, los otros tres —Refinamiento, Corrección y Aprobación— son el equipo "intervencionista". Estas son acciones activas donde el usuario cambia el trabajo del chatbot. El estudio encontró que estas acciones están fuertemente vinculadas a la satisfacción. Cuando los usuarios sentían que podían ajustar, arreglar o aprobar el trabajo del chatbot, disfrutaban mucho más la experiencia. De hecho, los datos mostraron que las personas que realizaban estas acciones activas eran más felices, incluso si no necesariamente confiaban más en el bot. Es la diferencia entre ver una película (verificar) y dirigir la película (intervenir). Los directores (intervencionistas) la pasaron mucho mejor.

La brecha de "Feliz pero Impotente"

Esta es la parte más interesante de la historia. Los usuarios del estudio estaban muy contentos con sus chatbots. Sus puntuaciones de satisfacción eran altas, con un promedio de 4.22 de 5. Pero cuando se les preguntó cuánto control sentían que tenían sobre el chatbot, la puntuación cayó a 3.33.

Los investigadores llaman a esto la "Brecha de Satisfacción-Control". Es una brecha grande, con un tamaño estadístico de 0.72. Imagina que estás comiendo una deliciosa comida preparada por un chef robot. Te encanta el sabor (alta satisfacción), pero sientes que no tienes voz en la receta, ninguna forma de decirle al chef que la próxima vez añada menos sal, y no tienes idea de cómo se preparó la comida (bajo control). El estudio encontró que, incluso cuando el chatbot hacía un gran trabajo, los usuarios no sentían que ellos fueran los que dirigían el barco. Se sentían como pasajeros, no como conductores.

Lo que los usuarios realmente quieren

Cuando los investigadores preguntaron a los usuarios qué los haría sentir mejor al usar estos chatbots, las respuestas fueron claras. Los usuarios no querían que el chatbot fuera simplemente "más inteligente" para que no tuvieran que revisar. Querían herramientas que les ayudaran a revisar mejor.

Específicamente, pidieron:

Atribución de fuentes: "Muéstrame de dónde sacaste ese dato".
Transparencia de proceso: "Muéstrame tus pasos de pensamiento, no solo la respuesta".
Persistencia de la corrección: "Si te digo que arregles un error, recuérdalo para la próxima vez".
Memoria gobernable: "Déjame ver y cambiar lo que has aprendido sobre mis preferencias".

El artículo sugiere que, en lugar de intentar construir chatbots tan perfectos que dejemos de revisarlos, deberíamos construir chatbots que hagan que revisar sea fácil y útil. El objetivo no es eliminar la supervisión del usuario, sino apoyarla.

La conclusión

Este artículo cambia el guion de cómo pensamos sobre la IA. Sugiere que, para las personas que usan chatbots todos los días, revisar el trabajo no es una señal de que no confían en la IA. Es una parte normal del proceso, como corregir un ensayo. La verdadera clave para hacer felices a las personas no es solo construir confianza, sino darles el poder de arreglar, refinar y aprobar el trabajo de la IA.

Los autores concluyen que debemos dejar de preguntar: "¿Cómo construimos confianza para que los usuarios dejen de revisar?" y empezar a preguntar: "¿Cómo apoyamos la verificación que los usuarios ya están haciendo?". Al tratar la necesidad del usuario de verificar y corregir como una característica en lugar de un error, podemos construir chatbots que no sean solo inteligentes, sino verdaderamente útiles.

Resumen Técnico: Verificación sin Desconfianza

Planteamiento del Problema

La investigación sobre la interacción humano-IA ha operado tradicionalmente bajo un paradigma de "calibración de la confianza", postulando que la confianza y la verificación existen en un único continuo inverso: a medida que aumenta la confianza del usuario en un sistema, la necesidad de que el usuario verifique sus resultados debería disminuir. Esta suposición, heredada de la literatura sobre la confianza en la automatización, prescribe que los esfuerzos de diseño deben centrarse en construir una "confianza apropiada" para que la supervisión sea innecesaria. Sin embargo, este documento identifica una brecha empírica crítica: esta relación inversa no ha sido probada directamente en el contexto de las interacciones cotidianas, abiertas e iterativas entre humanos y chatbots. Además, la prevalencia, estructura y resultados de las prácticas de "humano en el bucle" (HITL, por sus siglas en inglés) por parte del usuario —específicamente el trabajo espontáneo y autodirigido que los usuarios realizan para gobernar los resultados del chatbot— permanecen insuficientemente especificadas. El estudio desafía el objetivo de diseño implícito de eliminar la comprobación del usuario, preguntándose en cambio si la verificación persiste como una práctica rutinaria desvinculada de los niveles de confianza.

Metodología

El estudio empleó un diseño de métodos mixtos transversales que involucró una encuesta a 153 usuarios frecuentes de chatbots. La muestra fue predominantemente joven (56.2% de entre 18 y 24 años), de entornos estudiantiles (69.9%) y orientada a las áreas STEM (75.9% en Computación/TI o Ingeniería), con una alta frecuencia de uso (67.3% diariamente).

Instrumentación:
La encuesta utilizó una escala Likert de 5 puntos a través de siete secciones, que incluyeron demografía, modelos mentales, confianza, comportamientos de supervisión, percepción de control, satisfacción y preferencias de diseño.

Confianza: Operacionalizada como una orientación disposicional generalizada ("Generalmente confío en las respuestas del chatbot").
Comportamientos de Supervisión: Se midieron cuatro prácticas distintas por parte del usuario:
1. Verificación: Doble comprobación de la información antes de actuar.
2. Refinamiento: Pedir al chatbot que reformule, acorte o mejore las respuestas.
3. Corrección: Decirle al chatbot cuando se equivoca.
4. Supervisión (Aprobación): Confirmar acciones antes de la ejecución automatizada.
Resultados: Medidos mediante la facilitación de tareas, el disfrute (compuesto de satisfacción) y la percepción de control (sentido de agencia).

Análisis:
El análisis cuantitativo incluyó estadísticas descriptivas, correlaciones de Pearson y Spearman con intervalos de confianza del 95% transformados por Fisher, y regresión moderada. Los datos cualitativos de las preguntas abiertas se analizaron mediante análisis temático (codificador único). Se realizaron análisis de sensibilidad para excluir participantes no elegibles (menores de 18 años o no usuarios) y encuestados con baja participación (respuestas Likert idénticas), confirmando la robustez de los hallazgos principales.

Resultados Clave

1. Sin Asociación Detectable entre Confianza y Verificación (RQ1)

Contrario a la predicción canónica, el estudio encontró que no existe una asociación detectable entre la confianza y la verificación ( $r = .01$ , IC del 95% $[-.15, +.17]$ , $p = .90$ ). El intervalo de confianza descarta relaciones lineales inversas moderadas. Este resultado nulo se mantuvo en los análisis de sensibilidad y en los subgrupos de competencia. La verificación no es un comportamiento dependiente de la confianza que disminuye a medida que la confianza crece; más bien, parece ser una práctica rutinaria mantenida independientemente de los niveles de confianza.

2. Distinción entre Supervisión Evaluativa e Intervencionista (RQ2)

El estudio identificó una heterogeneidad estructural en las prácticas de HITL por parte del usuario:

Supervisión Evaluativa (Verificación): No muestra una asociación detectable con la confianza y está solo débilmente vinculada a la satisfacción ( $r = .21$ ).
Supervisión Intervencionista (Refinamiento, Corrección, Aprobación): Estas prácticas muestran correlaciones positivas débiles con la confianza y están fuertemente vinculadas a la satisfacción (Refinamiento $r = .48$ , Supervisión $r = .39$ , Corrección $r = .38$ ).
Los usuarios respaldan ampliamente estas prácticas intervencionistas (67–75% de respaldo en los dos niveles superiores), lo que sugiere que la satisfacción en la interacción humano-chatbot es impulsada por la capacidad de dar forma activa a los resultados en lugar de recibirlos pasivamente.

3. La Brecha entre Satisfacción y Control (RQ2)

Existe una disociación significativa entre la satisfacción con la tarea y la percepción de control. Los usuarios reportaron una alta satisfacción ( $M = 4.22$ ) pero un control percibido sustancialmente menor ( $M = 3.33$ ), lo que resulta en una brecha de tamaño medio a grande ( $d = 0.72$ ). Los resultados efectivos de la tarea no conllevan un sentido de agencia. El análisis de regresión indicó que la confianza y los comportamientos de supervisión explican solo una pequeña parte de la varianza en la percepción de control, lo que sugiere que las interfaces actuales no logran que las intervenciones del usuario sean lo suficientemente "consecuentes" para generar un sentido de dirección.

4. Perspectivas Cualitativas

Los hallazgos cualitativos revelaron que los usuarios ven a los chatbots principalmente como herramientas instrumentales más que como colaboradores. La confianza es condicional y específica de cada modo de falla (por ejemplo, disparada por errores matemáticos o referencias fabricadas) en lugar de ser global. La verificación es descrita como "higiene epistémica de rutina" (análoga a la corrección de textos) en lugar de una respuesta a la desconfianza. Los usuarios expresaron una demanda de infraestructura epistémica, específicamente atribución de fuentes, transparencia en el razonamiento y la capacidad de realizar correcciones que persistan a través de las sesiones.

Contribuciones Clave

El documento realiza cinco contribuciones específicas:

Evidencia Empírica: Demuestra que, entre los usuarios frecuentes, la verificación no muestra una asociación detectable con la confianza, complicando el paradigma de la calibración de la confianza.
Distinción Teórica: Propone una división entre supervisión evaluativa (desvinculada de la confianza, débilmente ligada a la satisfacción) y supervisión intervencionista (débilmente correlacionada con la confianza, fuertemente ligada a la satisfacción).
Brecha Satisfacción–Control: Cuantifica una brecha ( $d = 0.72$ ) que muestra que los resultados efectivos no producen un sentido de agencia, desafiando la suposición de que la satisfacción implica control.
Síntesis Teórica: Reencuadra el HITL por parte del usuario como un complemento de "proceso rápido" al HITL por parte del sistema, organizado en torno a la gobernanza epistémica de rutina en lugar de la calibración de la confianza.
Direcciones de Diseño: Deriva cuatro direcciones de diseño específicas basadas en las necesidades del usuario:
- Indicios de procedencia: Atribución de fuentes integrada.
- Transparencia de proceso: Rastros de razonamiento e indicadores de incertidumbre.
- Persistencia de la corrección: Asegurar que las correcciones se propaguen a través de los turnos/sesiones.
- Memoria de preferencia gobernable: Personalización inspectable, configurable y reversible.

Significado y Reivindicaciones

El artículo argumenta que la suposición de que "una mejor calibración de la confianza reduce la comprobación" carece de apoyo empírico en entornos conversacionales. En su lugar, postula que la verificación es una forma de gobernanza epistémica de rutina compatible con la confianza. Los autores reencuadran la pregunta de diseño de "¿Cómo construimos confianza para que los usuarios dejen de comprobar?" a "¿Cómo apoyamos la comprobación que los usuarios ya realizan?".

El estudio concluye que la supervisión por parte del usuario debe tratarse como un modo de interacción de primer nivel. En lugar de intentar eliminar la necesidad de intervención del usuario mediante la transparencia o la construcción de confianza por sí solas, el diseño debe centrarse en estructurar (scaffolding) las prácticas existentes de verificación, refinamiento y corrección. Este enfoque reconoce que los resultados efectivos de las tareas son distintos del sentido de agencia, y que el control humano significativo requiere que las intervenciones del usuario sean legibles y consecuentes. Los hallazgos sugieren que las interfaces actuales de los chatbots, aunque satisfactorias, a menudo fallan en proporcionar la "consecuencia" necesaria para que los usuarios sientan que están dirigiendo la interacción.