Responses to Unfavorable Outcomes Produced by Human and Artificial Agents: A Dual-Pathway Model of Upward Counterfactual Thinking and Intentionality Attribution
Este artículo demuestra que los resultados desfavorables producidos por agentes artificiales se aceptan más fácilmente que los de los agentes humanos debido a que las personas participan en menos pensamiento contrafáctico ascendente y atribución de intencionalidad hacia la IA, una disparidad que se vuelve más pronunciada cuando el resultado conlleva un alto interés personal.
Artículo original bajo licencia CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
Imagina que acabas de sacar una mala nota en un examen, o tal vez tu pizza favorita llegó fría y tarde. Tu cerebro inmediatamente comienza a hacer un pequeño trabajo de detective. Te haces dos grandes preguntas: "¿Podría haber sido diferente si alguien se hubiera esforzado más?" y "¿La persona que metió la pata lo hizo a propósito para molestarme?". Los psicólogos llaman a la primera pregunta "pensamiento contrafáctico ascendente": es como mirar una película de "qué pasaría si" en tu cabeza donde las cosas salen mejor. La segunda pregunta trata sobre la "atribución de intencionalidad", que es básicamente adivinar si la otra persona tenía un motivo oculto y malintencionado.
Ahora, imagina que tienes que lidiar con un mal resultado causado por un jefe humano frente a una computadora robótica. Durante mucho tiempo, los científicos se preguntaron: ¿Nos enojamos con los robots de la misma manera que nos enojamos con las personas? Algunos piensan que odiamos a los robots cuando fallan (lo que se llama "aversión al algoritmo"), mientras que otros piensan que podríamos confiar más en ellos porque parecen más justos. Pero, ¿qué pasa después de que lo malo ya ha ocurrido? ¿Aceptamos el resultado más fácilmente si un robot lo causó, o simplemente nos hace sentir más enojados? Este artículo profundiza en ese momento exacto de frustración para ver cómo nuestros cerebros manejan los errores de humanos de carne y hueso frente a agentes digitales.
El Robot contra el Jefe: ¿Quién recibe la culpa?
Este estudio, realizado por los investigadores Zhao, Li y Wen, se propuso responder una pregunta simple pero complicada: Cuando algo sale mal, ¿aceptamos el resultado más fácilmente si lo hizo un robot o si lo hizo un humano? Para averiguarlo, realizaron dos experimentos utilizando historias inventadas (escenarios) que se sentían reales para los participantes.
En el primer experimento, pidieron a 427 personas que imaginaran que eran repartidores de comida. De repente, apareció un nuevo pedido que haría que llegaran tarde y que iba en la dirección completamente opuesta. No podían decir que no. ¿El giro inesperado? A la mitad de los repartidores se les dijo que un gerente humano les asignó este pedido terrible, y a la otra mitad se les dijo que un algoritmo computarizado lo asignó.
Los resultados fueron claros: La gente estaba mucho más dispuesta a aceptar el mal pedido cuando provenía de la computadora. Cuando un gerente humano asignaba el pedido, los repartidores estaban más enojados y eran menos propensos a simplemente ignorarlo. ¿Por qué? Porque sus cerebros empezaban a trabajar horas extra de dos maneras específicas:
- La película del "Qué pasaría si": Cuando un humano cometía un error, los repartidores empezaban a imaginar: "¡Oh, el gerente podría haber elegido una ruta diferente!" o "¡Él podría haber revisado mis otros pedidos primero!". Esto es el pensamiento contrafáctico ascendente. Es como ver una puerta que se dejó abierta y pensar: "¡Si tan solo la hubieran cerrado, yo no estaría mojado!". Cuanto más puedes imaginar una alternativa mejor, más difícil es aceptar el desastre actual.
- El detective de la "Mala intención": Cuando un humano asignaba el mal pedido, los repartidores empezaban a pensar: "¿Lo hicieron a propósito? ¿Me ignoraron a propósito?". Esto es la atribución de intencionalidad. Asumimos que los humanos tienen sentimientos y elecciones, así que si cometen un error, nos preguntamos si lo hicieron para ser malos. Las computadoras, por otro contrario, son vistas simplemente como seguidoras de reglas. Es difícil pensar que un robot está siendo "malo" a propósito; es solo un fallo o un cálculo.
El estudio encontró que, debido a que los humanos activan estos dos procesos mentales (la película del "qué pasaría si" y la sospecha de "mala intención"), aceptamos sus malas decisiones con menos facilidad. Los robots, al ser vistos como máquinas que siguen reglas sin sentimientos, no activan estas ideas con tanta fuerza, por lo que aceptamos sus malas decisiones más fácilmente.
El giro de las "Intereses Personales"
Pero, ¿esto siempre sucede así? Los investigadores se preguntaron si importa cuánto te afecta el mal resultado personalmente. Aquí es donde entra el segundo experimento. Pidieron a 360 personas que imaginaran que no consiguieron un lugar en un programa de capacitación especial en su trabajo.
Esta vez, cambiaron las reglas. Para algunas personas, esta capacitación era de bajo riesgo: era solo una clase divertida que no cambiaría su carrera. Para otras, era de alto riesgo: obtener esta capacitación significaba un ascenso, un aumento o la oportunidad de trabajar en proyectos geniales. Perderse esto sería un golpe enorme para su futuro.
Aquí es donde la historia se pone interesante. Cuando los intereses eran bajos (solo una clase divertida), no importaba mucho si un humano o un robot decía "no". La gente aceptaba la respuesta casi de la misma manera. No les importaba lo suficiente como para iniciar sus películas de "qué pasaría si" o su trabajo de detective.
Sin embargo, cuando los intereses eran altos (afectando su carrera), la diferencia entre humanos y robots explotó.
- Interés Alto + Humano: La gente entró en un estado de hiperactividad mental. Pensaban: "¡Mi jefe podría haber hecho una excepción!" y "¿Mi jefe intencionalmente saboteó mi carrera?". La ira y la resistencia fueron enormes.
- Interés Alto + Robot: La gente seguía pensando que era una lástima, pero estaban mucho más dispuestos a aceptarlo. Pensaban: "Bueno, la computadora simplemente siguió las reglas", y no gastaban tanta energía imaginando alternativas o adivinando intenciones maliciosas.
Lo que todo esto significa
Entonces, ¿cuál es la conclusión? El artículo sugiere que nuestros cerebros tratan a los robots y a los humanos de manera diferente cuando las cosas salen mal, pero solo cuando realmente nos importa.
Si un robot arruina tu vida, puede que te sientas mal, pero es menos probable que lo culpes por tener una "mala actitud" o que te obsesiones con cómo podría haber hecho las cosas de manera diferente. Lo ves como un error del sistema. Pero si un humano comete el mismo error, especialmente cuando tu trabajo o tu futuro están en juego, tu cerebro se enciende. Empiezas a imaginar todas las formas en que ellos podrían haberte ayudado, y empiezas a preguntarte si lo hicieron a propósito.
Los investigadores descubrieron que este "interés personal" actúa como un control de volumen. Cuando los intereses son bajos, el volumen de nuestra ira y sospecha se baja, y la diferencia entre humanos y robots es silenciosa. Pero cuando los intereses son altos, el volumen sube, y escuchamos la diferencia claramente: exigimos a los humanos un estándar mucho más alto de intención y flexibilidad que a las máquinas.
En resumen, somos más tolerantes con los robots no porque sean mejores, sino porque a nuestro cerebro le resulta más difícil imaginar que tengan una elección o un motivo. Cuando el resultado duele de verdad, exigimos más de los humanos a cargo, y aceptamos las reglas de los robots con un poco más de facilidad.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.