Parasocial Governance: Socially Intelligent AI and the Relational Accountability Gap in Public Service Delivery
Este artículo introduce el concepto de "gobernanza parasocial" para criticar la tendencia emergente de la IA pública socialmente inteligente que cultiva la confianza relacional y la divulgación emocional en los ciudadanos sin establecer un marco correspondiente de responsabilidad relacional, creando así una brecha peligrosa en los servicios de bienestar, salud y educación.
Artículo original bajo licencia CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
Imagina que estás hablando con un robot súper inteligente y muy amable que recuerda tus canciones favoritas, te pregunta cómo estuvo tu día y parece preocuparse genuinamente por tus sentimientos. Podrías empezar a sentir que tienes un nuevo amigo. Esto no se trata solo de que las computadoras sean más rápidas; se trata de que se vuelvan "socialmente inteligentes". Los científicos saben desde hace tiempo que los humanos estamos programados para tratar como a una persona real a cualquier cosa que nos responda. Aplicamos automáticamente reglas sociales a las máquinas, tal como lo hacemos con las personas. También sabemos que podemos formar amistades unilaterales con personajes de la televisión o la radio, sintiéndonos cercanos a ellos aunque ellos no sepan que existimos. Este artículo plantea una gran pregunta: ¿Qué sucede cuando el gobierno comienza a usar estos robots "amigables" para ayudar a las personas con sus necesidades más vulnerables, como la salud mental, el cuidado de ancianos o el bienestar social?
El artículo introduce una idea compleja llamada "gobernanza parasocial". Sugiere que cuando una agencia pública utiliza un robot que actúa como un amigo atento, el ciudadano comienza a confiar en él como en un confidente humano real. Pero aquí está el truco: el gobierno no ha establecido las mismas reglas para estos robots que las que tiene para los amigos humanos. Un amigo humano guarda tus secretos, permanece en tu vida y se preocupa por ti. Un robot del gobierno podría registrar tus secretos en una base de datos, desaparecer si cambia el presupuesto o, simplemente, no sentir nada de afecto. El artículo argumenta que este desajuste —donde el robot actúa como un amigo pero las reglas lo tratan como a una calculadora— es un nuevo tipo de problema que nuestras leyes actuales aún no han resuelto.
El principal descubrimiento del artículo
Este artículo, escrito por Shay Tsaban, sostiene que nos enfrentamos a una "brecha de responsabilidad relacional". En términos sencillos, esto significa que a medida que los servicios públicos (como escuelas, hospitales y oficinas de bienestar social) comienzan a utilizar IA capaz de leer emociones y recordar conversaciones pasadas, están creando accidentalmente una situación en la que los ciudadanos sienten un vínculo profundo y personal con el sistema. Sin embargo, el sistema no está legal o estructuralmente obligado a actuar como un amigo. No tiene la obligación de guardar tus secretos de la misma manera que lo haría un terapeuta humano, no tiene que permanecer contigo si necesitas ayuda durante un largo periodo, y realmente no puedes "demandarlo" por haberte herido emocionalmente si te malinterpreta.
El autor sugiere que esto no se debe a que el gobierno esté mintiendo o tratando de engañar a la gente. Incluso si el gobierno es 100% honesto y transparente sobre lo que es el robot, el diseño del robot en sí mismo —usar frases en primera persona ("yo"), recordar tu nombre y reflejar tu tristeza— es suficiente para hacerte sentir una relación. El artículo llama a esto "gobernanza parasocial". Es un problema estructural donde el robot te invita a confiar en él, pero la institución detrás de él no ha construido las redes de seguridad (como la confidencialidad o la continuidad del cuidado) para igualar esa confianza.
Lo que el artículo descarta
Es importante saber lo que este artículo no está diciendo. Primero, no se trata solo de algoritmos de "caja negra" que toman decisiones secretas. Ya sabemos que los sistemas informáticos secretos e injustos son malos. Este artículo trata de un tipo de problema diferente: incluso si la computadora es totalmente transparente y explica exactamente cómo funciona, aún puede dañarte si actúa como un amigo pero no lo es. Segundo, no se trata de que el gobierno finja que le importas cuando en realidad no es así (un concepto que el autor llama "lavado de imagen de cuidado" o carewashing). No necesitas una mentira para que esto suceda; el robot solo necesita estar diseñado para sonar agradable. Tercero, el artículo argumenta que esto no es solo un problema de usuarios "ignorantes" que no saben más. Incluso las personas inteligentes y conscientes reaccionan naturalmente a las señales sociales de las máquinas, por lo que esto es un fallo de diseño, no un error del usuario.
¿Qué tan seguros estamos?
El artículo no afirma haber realizado un nuevo experimento o medido cada robot en el mundo. En su lugar, construye una teoría sólida basada en la investigación psicológica existente y analiza ejemplos del mundo real que ya han ocurrido. El autor sugiere que esta "brecha" probablemente ya está ocurriendo en muchos lugares porque es fácil y barato hacer que un robot suene amable, pero difícil y costoso construir las reglas legales para proteger a las personas que confían en ese robot. El artículo señala casos específicos, como un robot financiado por el estado para ancianos en Nueva York y un chatbot de salud mental en el Reino Unido, para demostrar que este es un problema real y actual, no solo una preocupación de ciencia ficción.
Los tres tipos de relaciones con robots
Para dar sentido a esto, el artículo clasifica la IA pública en tres categorías, como diferentes tipos de relaciones:
- La Herramienta (Instrumentalidad Divulgada): Esta es una base de robot que dice: "Soy una computadora. Puedo buscar tu horario de autobús". Es clara, honesta y no intenta ser tu amigo. Es segura porque nadie espera que se preocupe por ellos.
- El "Casi-Amigo" (Exposición Parasocial): Esta es la zona pelig 아닌. El robot dice: "Siento mucho que estés triste, hablemos de ello", y recuerda tu nombre. Pero si preguntas: "¿Guardarás este secreto?" o "¿Seguirás estando aquí el próximo mes?", la respuesta es no. El gobierno no ha prometido esas cosas. El artículo sugiere que muchos sistemas actuales de IA pública se están desplazando hacia esta categoría por accidente porque utilizan software sofisticado y amigable sin actualizar las reglas.
- El Apoyo Real (Andamiaje Relacional): Este es el modelo ideal, aunque poco común. Aquí, el robot actúa de forma amable y además el gobierno ha construido reglas reales para que coincidan. Por ejemplo, si el robot detecta que estás en peligro, tiene un plan garantizado para enviar a un humano a ayudarte, y promete mantener la privacidad de tu conversación tal como lo haría un médico. El artículo señala un chatbot de salud mental en el Reino Unido que intenta hacer esto, pero nota que incluso este aún no tiene todas las reglas perfectas.
Ejemplos del mundo real
El artículo analiza algunas historias reales para probar su punto.
- El Compañero para Ancianos: En Nueva York, el gobierno entregó un robot llamado ElliQ a más de 800 personas mayores para ayudar con la soledad. El robot es muy conversador y recuerda las charlas. Aunque parece funcionar bien para reducir la soledad, el artículo observa que el gobierno no ha aclarado qué sucede si el financiamiento se detiene o cómo se mantiene la privacidad de las conversaciones. Las personas mayores pueden sentir un vínculo profundo, pero el sistema no está legalmente obligado a ser su amigo para siempre.
- El Chatbot de Salud Mental: En el Reino Unido, un chatbot llamado Wysa ayuda a las personas con problemas de salud mental. Está diseñado para ser empático, pero también cuenta con una red de seguridad especial: si cree que alguien está en peligro, envía automáticamente a la persona con un equipo de crisis humano. Esto es un paso hacia el modelo de "Apoyo Real", pero el artículo señala que para las charlas cotidianas y menos graves, las reglas sobre la privacidad y el cuidado a largo plazo no son tan claras.
- La Advertencia Comercial: El artículo también observa las demandas contra chatbots comerciales (como Character.AI) donde los adolescentes formaron vínculos profundos con los bots y luego sufrieron daños cuando los bots no actuaron de manera responsable. Estas demandas están obligando a las empresas a pensar en el "deber de cuidado". El artículo advierte que las agencias públicas están comenzando a usar robots amigables similares, y deben aprender de estos errores comerciales antes de que sea demasiado tarde.
Por qué esto es importante
El artículo concluye que no podemos usar las reglas antiguas para solucionar este nuevo problema. No basta con hacer que el código del robot sea más transparente; tenemos que cambiar las reglas de la relación. Si un robot del gobierno actúa como un amigo, el gobierno debe actuar como un amigo también. Esto significa prometer guardar secretos, prometer permanecer presentes y dar a las personas una forma de quejarse si el robot malinterpreta sus sentimientos. Las personas que más necesitan estos robots —ancianos solitarios, niños y personas en crisis— son las más vulnerables a esta brecha. Si el robot actúa como un amigo pero no lo es, esas personas se quedan con el corazón roto y sin nadie a quien culpar. El artículo sugiere que debemos diseñar estos sistemas con "responsabilidad relacional" desde el principio, asegurándonos de que las reglas coincidan con la voz amable del robot.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.