🤖 AI

The Decision to Verify: How Warmth and User Characteristics Shape Reliance on Conversational Agents for Information Search

Este estudio revela que, a pesar del acceso a herramientas de búsqueda híbrida, la dependencia de los usuarios hacia la inteligencia artificial conversacional persiste y está impulsada principalmente por rasgos individuales y la confianza previa más que por la calidad de las respuestas, con un estilo conversacional cálido que, inadvertidamente, aumenta la sobredependencia al fomentar la conformidad incluso con información incorrecta.

Autores originales: Mert Yazan, Frederik Bungaran Ishak Situmeang, Suzan Verberne

Publicado 2026-05-28

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Mert Yazan, Frederik Bungaran Ishak Situmeang, Suzan Verberne

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

El panorama general: La trampa del "asistente inteligente"

Imagina que estás tratando de encontrar un hecho específico, como "¿Qué animal mata a más humanos?". Tienes dos herramientas: un chatbot (una IA amigable que habla contigo) y un navegador web (un motor de búsqueda tradicional).

En el pasado, los investigadores pensaban: "Si le damos a las personas ambas herramientas, verificarán el trabajo de la IA contra la web y todo será perfecto".

Este estudio puso a prueba esa idea. Organizaron un juego en el que 199 personas debían responder 6 preguntas difíciles. Podían usar un chatbot que les daba una respuesta, pero también tenían un botón para abrir una búsqueda web y verificar los hechos.

El hallazgo principal: Aunque las personas tenían el navegador web justo ahí, aún cometían errores. Algunas confiaban demasiado en la IA (sobredependencia) y otras no confiaban lo suficiente (subdependencia). La decisión de verificar los hechos no dependía de lo difícil que fuera la pregunta; dependía principalmente de quién era la persona y cómo sonaba la IA.

Hallazgo clave 1: El efecto del "vecino amigable" (Calidez)

Los investigadores crearon dos versiones del chatbot:

Neutro: Solo los hechos, sin emoción.
Cálido: Amigable, usa emojis, dice cosas como "¡Pregunta increíble!" y "¡Me encantaría ayudarte!".

La analogía: Piensa en el chatbot neutro como un bibliotecario estricto que solo te entrega un libro. El chatbot cálido es un vecino charlatán que te trae galletas y sonríe mientras habla.

Lo que sucedió:
Cuando el chatbot daba una respuesta incorrecta, las personas tenían más probabilidades de creer la versión cálida que la neutra.

¿Por qué? Cuando las personas no estaban seguras de la respuesta (alta incertidumbre), el tono amigable las hacía sentir más cómodas al estar de acuerdo con la IA. Era como un vendedor persuasivo; podrías comprar un mal producto solo porque fueron muy amables contigo.
El truco: La mayoría de las personas ni siquiera se dieron cuenta de que la amabilidad las estaba engañando. Sucedió de forma subconsciente.

Hallazgo clave 2: Todo se trata del usuario, no de la herramienta

El estudio encontró que tener un "Botón de verificación de hechos" no solucionó el problema. Si alguien verificaba la respuesta o no dependía de su personalidad, no de la pregunta.

La analogía: Imagina un grupo de personas tratando de resolver un rompecabezas.

Grupo A (Los escépticos): Piensan: "La IA suele estar equivocada". Verifican cada respuesta, incluso cuando la IA tiene razón. (Esto es subdependencia).
Grupo B (Los creyentes): Piensan: "La IA es inteligente". Nunca verifican, incluso cuando la IA está equivocada. (Esto es sobredependencia).
Grupo C (Los verificadores condicionales): Solo verifican si la respuesta suena extraña para ellos.

El resultado: El estudio mostró que estos hábitos están profundamente arraigados en la persona.

Si generalmente confías en los chatbots, es menos probable que uses el botón de búsqueda web.
Si tienes alta "alfabetización en chatbots" (entiendes cómo funciona la IA, qué son las "alucinaciones", etc.), eres mejor detectando la respuesta correcta, especialmente cuando la IA miente.
Curiosamente, usar otra IA para verificar el trabajo de la primera IA ayudó a las personas a obtener la respuesta correcta. Pero simplemente usar una búsqueda web estándar no siempre ayudó, porque las personas a menudo solo buscaban resultados que confirmaran lo que decía la primera IA.

Hallazgo clave 3: El problema del "anclaje"

Cuando las personas comenzaban con el chatbot, esa respuesta se convertía en su "ancla".

La analogía: Si un amigo te dice: "La película empieza a las 7 PM", y luego ves un cartel que dice "7:30 PM", podrías pensar: "Bueno, mi amigo dijo 7, así que quizás el cartel está equivocado", o simplemente ignorar el cartel.
La realidad: Incluso cuando las personas usaban la búsqueda web, a menudo trataban la respuesta del chatbot como la "verdad" y solo buscaban resultados web que estuvieran de acuerdo con ella. No usaban la web para cuestionar a la IA; la usaban para confirmarla.

Resumen de las "reglas del juego"

Las herramientas no son suficientes: Solo dar a las personas una forma de verificar hechos no evita que confíen ciegamente en la IA.
La personalidad gana: Algunas personas son naturalmente escépticas y otras naturalmente confiadas. Esto no cambia según la pregunta.
La amabilidad es peligrosa: Un chatbot demasiado amable puede hacerte estar de acuerdo con él incluso cuando está equivocado, especialmente si no estás seguro de la respuesta.
IA vs. IA: Verificar una IA con otra IA pareció ayudar más a la precisión que simplemente hacer una búsqueda web estándar.
El conocimiento ayuda: Las personas que entendían cómo funcionaba la IA (alfabetización en chatbots) eran mejores detectando la verdad.

Qué significa esto para ti

Si estás usando un chatbot para encontrar hechos:

No dejes que un tono amigable te engañe para pensar que la respuesta es correcta.
Si no estás seguro, no confíes solo en la primera respuesta que recibas.
Si sabes un poco sobre cómo funciona la IA, es probable que seas más preciso.
Recuerda que tu propio hábito de "confiar" o "desconfiar" de la tecnología es el factor más grande en si obtienes la respuesta correcta.

Nota: Esta explicación se adhiere estrictamente a los hallazgos presentados en el artículo. Los autores no afirman que estos resultados se apliquen al diagnóstico médico, al asesoramiento legal u otros campos clínicos específicos, ni proponen productos futuros específicos basados en estos hallazgos.

Resumen Técnico: La Decisión de Verificar: Cómo la Calidez y las Características del Usuario Moldean la Confianza en Agentes Conversacionales para la Búsqueda de Información

Declaración del Problema

La Inteligencia Artificial (IA) Conversacional, particularmente los Modelos de Lenguaje Grande (LLM), ha transformado la búsqueda de información al ofrecer interfaces accesibles y de bajo esfuerzo. Sin embargo, esta conveniencia introduce un riesgo crítico: la sobreconfianza, donde los usuarios aceptan ciegamente las salidas de la IA, incluso cuando son incorrectas (alucinaciones). Aunque ha surgido un nuevo paradigma de búsqueda que ofrece a los usuarios acceso simultáneo a agentes conversacionales y a la búsqueda web tradicional (herramientas de verificación de hechos), sigue sin estar claro si este entorno híbrido mitiga eficazmente la confianza ciega.

La literatura existente sugiere que la confianza persiste incluso cuando están disponibles herramientas de verificación externas; sin embargo, los mecanismos que impulsan la decisión de verificar —o de confiar ciegamente— permanecen poco explorados. Específicamente, existe una brecha en la comprensión de:

Si la mera disponibilidad de herramientas de verificación de hechos elimina la sobreconfianza o la subconfianza.
El grado en que el comportamiento de verificación está impulsado por las propiedades de la respuesta frente a las características inherentes del usuario (por ejemplo, alfabetización digital, confianza previa).
La influencia del estilo conversacional, específicamente la calidez, en el comportamiento de confianza dentro de un contexto de búsqueda híbrida.

Metodología

Los autores realizaron un experimento de sujetos mixtos ( $N=199$ ) para investigar estas dinámicas.

Diseño Experimental

Tarea: Los participantes respondieron seis preguntas de opción múltiple que abarcaban diversos dominios (finanzas, geografía, derecho, biología).
Condiciones:
- Entre-sujetos: Los participantes fueron asignados aleatoriamente para interactuar con un chatbot Cálido o Neutro. El chatbot cálido utilizó un tono amigable, emojis y expresiones emocionales, mientras que el chatbot neutro proporcionó respuestas factuales sin marcadores emocionales.
- Dentro-sujetos: La corrección de la respuesta inicial del chatbot se aleatorizó. Cada participante recibió tres respuestas correctas y tres incorrectas a lo largo de las seis preguntas.
Entorno: El experimento simuló un paradigma de búsqueda híbrida realista. Los participantes tuvieron acceso a:
1. Un chatbot incrustado (que proporcionaba la respuesta inicial).
2. Un botón de "Búsqueda Web" que enlazaba a los resultados de la Búsqueda de Google.
3. La libertad de utilizar cualquier otra fuente externa.
Seguimiento: Para evitar datos autoinformados ruidosos, una extensión personalizada de Chrome rastreó las interacciones de los participantes, registrando la cantidad de mensajes enviados al chatbot y las URLs específicas visitadas (categorizadas como relacionadas con IA o No relacionadas con IA).
Medidas:
- Variables Dependientes: Precisión (binaria) y Acuerdo (binario: si el usuario seleccionó la respuesta sugerida por el chatbot).
- Variables Independientes: Calidez del chatbot, confianza del usuario en la automatización, alfabetización del chatbot, dificultad percibida y conteos conductuales (URLs visitadas, longitud de la interacción).
- Análisis: Se utilizaron Modelos Lineales Mixtos (LMM) y Modelos Lineales Mixtos Generalizados (GLMM) para tener en cuenta los efectos aleatorios a nivel de participante y de pregunta.

Hallazgos Clave

1. Persistencia de la Confianza a pesar de las Herramientas de Verificación

El estudio confirma que la sobreconfianza y la subconfianza persisten incluso cuando los usuarios tienen acceso inmediato a herramientas de verificación de hechos.

Sobreconfianza: Algunos usuarios aceptaron respuestas incorrectas sin verificarlas, a menudo impulsados por una alta confianza en el chatbot.
Subconfianza: Por el contrario, algunos usuarios rechazaron consistentemente las respuestas del chatbot (incluso las correctas) en favor de la búsqueda web, asumiendo que el chatbot era incapaz.
Polarización Conductual: El comportamiento de verificación de hechos fue altamente dependiente del usuario. Algunos participantes verificaron cada pregunta, mientras que otros nunca lo hicieron, independientemente de la dificultad de la pregunta o de la corrección del chatbot.

2. Impulsores de las Decisiones de Verificación

La decisión de verificar está impulsada principalmente por las características del usuario en lugar de las propiedades de la respuesta en sí misma.

Confianza: Una alta confianza base en los chatbots predijo una mayor probabilidad de estar de acuerdo con el chatbot y una menor probabilidad de consultar fuentes externas.
Dificultad Percibida: Cuando los usuarios percibían una pregunta como demasiado difícil para el chatbot, era menos probable que estuvieran de acuerdo con su respuesta (lo que llevó a la subconfianza en respuestas correctas).
Preferencia de Fuente: Los usuarios mostraron preferencias distintas: algunos consultaron fuentes adicionales de IA, mientras que otros confiaron exclusivamente en la búsqueda web No relacionada con IA.

3. El Efecto Indirecto de la Calidez

La calidez conversacional no predijo directamente la frecuencia de verificación ni la precisión general. Sin embargo, tuvo un efecto indirecto significativo en la confianza:

Aumento del Acuerdo bajo Incertidumbre: Cuando el chatbot proporcionó una respuesta incorrecta, los participantes en la condición Cálida estuvieron de acuerdo con el chatbot significativamente más a menudo que aquellos en la condición Neutra.
Mecanismo: La calidez parece empujar a los usuarios a estar de acuerdo con la IA cuando se enfrentan a información contradictoria o incertidumbre, amplificando efectivamente la sobreconfianza en momentos críticos.

4. El Papel de la Alfabetización del Chatbot y el Tipo de Fuente

Alfabetización del Chatbot: Aunque la alfabetización no predijo si un usuario verificó una respuesta, mejoró significativamente la precisión cuando el chatbot era incorrecto. Los usuarios alfabetizados fueron mejores evaluando críticamente la información durante el proceso de verificación.
Impacto de la Fuente: Consultar fuentes adicionales de IA (otros chatbots o resúmenes de IA) predijo una mayor precisión. Por el contrario, consultar la búsqueda web tradicional (URLs No relacionadas con IA) no mejoró significativamente la precisión, probablemente debido al esfuerzo requerido para sintetizar fuentes contradictorias o a la presencia de desinformación en los resultados de búsqueda estándar.

Significado y Contribuciones

El artículo afirma tres contribuciones principales a la literatura sobre la interacción humano-IA y la recuperación de información:

Evidencia Empírica de una Confianza Persistente: Demuestra que el nuevo paradigma de búsqueda híbrida (que combina chatbots y búsqueda web) es insuficiente para eliminar la sobreconfianza o la subconfianza. La presencia de herramientas de verificación no garantiza su uso; la barrera sigue siendo el proceso de toma de decisiones humana.
Comportamiento de Verificación Centrado en el Usuario: El estudio identifica el comportamiento de verificación como fundamentalmente dependiente del usuario. La confianza no es meramente una reacción a la precisión de la IA, sino una manifestación de tendencias individuales (por ejemplo, confianza por defecto, escepticismo, alfabetización).
El Papel Subconsciente de la Calidez: El artículo proporciona la primera evidencia empírica de que la calidez conversacional actúa como un mecanismo sutil y subconsciente que aumenta la confianza. Al fomentar la confianza emocional, la calidez empuja a los usuarios a estar de acuerdo con respuestas incorrectas, particularmente en escenarios de alta incertidumbre.

Conclusión

El estudio concluye que diseñar sistemas de búsqueda conversacional confiables requiere más que simplemente proporcionar herramientas de verificación de hechos. Los diseñadores deben tener en cuenta las diferencias individuales de los usuarios en cuanto a confianza y alfabetización. Además, el uso de estilos conversacionales cálidos y amigables en agentes de IA podría aumentar inadvertidamente la sobreconfianza al reducir el escepticismo del usuario cuando la IA se equivoca. Los autores sugieren que aumentar la alfabetización del chatbot y fomentar la consulta de múltiples fuentes de IA pueden ser estrategias más efectivas para mejorar la precisión que depender exclusivamente de la búsqueda web tradicional.