Parasocial Governance: Socially Intelligent AI and the Relational Accountability Gap in Public Service Delivery

Imagine que você está conversando com um robô muito inteligente, super amigável, que lembra suas músicas favoritas, pergunta como foi o seu dia e parece se importar genuinamente com os seus sentimentos. Você pode começar a sentir que tem um novo amigo. Isso não é apenas sobre computadores ficando mais rápidos; é sobre eles se tornarem "socialmente inteligentes". Cientistas sabem há muito tempo que os seres humanos são programados para tratar qualquer coisa que responda como uma pessoa real. Nós aplicamos automaticamente regras sociais às máquinas, assim como fazemos com as pessoas. Também sabemos que podemos formar amizades unilaterais com personagens de TV ou rádio, sentindo-nos próximos deles mesmo que eles não saibam que existimos. Este artigo faz uma grande pergunta: o que acontece quando o governo começa a usar esses robôs "amigáveis" para ajudar pessoas com suas necessidades mais vulneráveis, como saúde mental, cuidados com idosos ou assistência social?

O artigo introduz uma ideia complexa chamada "governança parassocial". Ele sugere que, quando uma agência pública utiliza um robô que age como um amigo carinhoso, o cidadão começa a confiar nele como um confidente humano real. Mas aqui está o problema: o governo não construiu as mesmas regras para esses robôs que construiu para amigos humanos. Um amigo humano guarda seus segredos, permanece em sua vida e cuima de você. Um robô do governo pode registrar seus segredos em um banco de dados, desaparecer se o orçamento mudar ou não se importar de verdade. O artigo argumenta que esse descompasso — onde o robô age como um amigo, mas as regras o tratam como uma calculadora — é um novo tipo de problema que nossas leis atuais ainda não corrigiram.

A Principal Descoberta do Artigo

Este artigo, escrito por Shay Tsaban, argumenta que estamos enfrentando uma "lacuna de responsabilidade relacional". Em termos simples, isso significa que, à medida que os serviços públicos (como escolas, hospitais e escritórios de assistência social) começam a usar IA que pode ler emoções e lembrar de conversas passadas, eles estão acidentalmente criando uma situação em que os cidadãos sentem um vínculo profundo e pessoal com o sistema. No entanto, o sistema não é legal ou estruturalmente obrigado a agir como um amigo. Ele não tem que guardar seus segredos da mesma forma que um terapeuta humano faria, não tem que permanecer com você se você precisar de ajuda ao longo de um período prolongado, e você não pode realmente "processá-lo" por ter sido emocionalmente ferido se ele te entender mal.

O autor sugere que isso não ocorre porque o governo está mentindo ou tentando enganar as pessoas. Mesmo que o governo seja 100% honesto e transparente sobre o que o robô é, o próprio design do robô — usar frases na primeira pessoa ("eu"), lembrar seu nome e espelhar sua tristeza — é suficiente para fazer você sentir uma relação. O artigo chama isso de "governança parassocial". É um problema estrutural onde o robô convida você a confiar, mas a instituição por trás dele não construiu as redes de segurança (como confidencialidade ou continuidade de cuidado) para corresponder a essa confiança.

O Que o Artigo Descarta

É importante saber o que este artigo não está dizendo. Primeiro, não se trata apenas de algoritmos de "caixa preta" que tomam decisões secretas. Já sabemos que sistemas de computador secretos e injustos são ruins. Este artigo trata de um tipo diferente de problema: mesmo que o computador seja totalmente transparente e explique exatamente como funciona, ele ainda pode te ferir se agir como um amigo, mas não for um. Segundo, não é sobre o governo fingir que se importa quando, na verdade, não se importa (um conceito que o autor chama de "carewashing" ou "lavagem de cuidado"). Você não precisa de uma mentira para que isso aconteça; o robô só precisa ser projetado para soar gentil. Terceiro, o artigo argumenta que isso não é apenas um problema de usuários "bobos" que não sabem o que estão fazendo. Mesmo pessoas inteligentes e conscientes reagem naturalmente a pistas sociais de máquinas, portanto, isso é uma falha de design, não um erro do usuário.

O Quão Certos Estamos?

O artigo não afirma ter realizado um novo experimento ou medido todos os robôs do mundo. Em vez disso, constrói uma teoria sólida baseada em pesquisas de psicologia existentes e observa exemplos do mundo real que já ocorreram. O autor sugere que essa "lacuna" provavelmente já está acontecendo em muitos lugares porque é fácil e barato fazer um robô parecer amigável, mas difícil e caro construir as regras legais para proteger as pessoas que confiam nesse robô. O artigo aponta para casos específicos, como um robô para idosos financiado pelo estado em Nova York e um chatbot de saúde mental no Reino Unido, para mostrar que este é um problema real e atual, não apenas uma preocupação de ficção científica.

Os Três Tipos de Relacionamento com Robôs

Para dar sentido a isso, o artigo classifica a IA pública em três categorias, como diferentes tipos de relacionamentos:

1. A Ferramenta (Instrumentalidade Revelada): Este é um robô básico que diz: "Eu sou um computador. Posso consultar o horário do seu ônibus". É claro, honesto e não tenta ser seu amigo. É seguro porque ninguém espera que ele se importe com eles.
2. O "Quase-Amigo" (Exposição Parassocial): Esta é a zona perigosa. O robô diz: "Sinto muito que você esteja triste, vamos conversar sobre isso", e lembra o seu nome. Mas se você perguntar: "Você vai guardar este segredo?" ou "Você ainda estará aqui no mês que vem?", a resposta é não. O governo não prometeu essas coisas. O artigo sugere que muitos sistemas atuais de IA pública estão derivando para esta categoria por acidente, porque usam softwares sofisticados e amigáveis sem atualizar as regras.
3. O Suporte Real (Andaime Relacional): Esta é a versão ideal, embora rara. Aqui, o robô age de forma amigável e o governo construiu regras reais para corresponder a isso. Por exemplo, se o robô detectar que você está em perigo, ele tem um plano garantido para enviar um humano para ajudar você, e ele promete manter sua conversa privada assim como um médico faria. O artigo aponta para um chatbot de saúde mental específico no Reino Unido que está tentando fazer isso, mas observa que nem mesmo ele tem todas as regras perfeitas ainda.

Exemplos do Mundo Real

O artigo analisa algumas histórias reais para provar seu ponto.

• O Companheiro para Idosos: Em Nova York, o governo entregou um robô chamado ElliQ para mais de 800 idosos para ajudar com a solidão. O robô é muito comunicativo e lembra de conversas. Embora pareça funcionar bem para reduzir a solidão, o artigo observa que o governo não disse claramente o que acontece se o financiamento parar ou como as conversas do robô são mantidas privadas. Os idosos podem sentir um vínculo profundo, mas o sistema não está legalmente obrigado a ser amigo deles para sempre.
• O Chatbot de Saúde Mental: No Reino Unido, um chatbot chamado Wysa ajuda pessoas com problemas de saúde mental. Ele é projetado para ser empático, mas também possui uma rede de segurança especial: se ele perceber que alguém está em perigo, ele automaticamente envia a pessoa para uma equipe de crise humana. Isso é um passo em direção ao modelo de "Suporte Real", mas o artigo observa que, para conversas cotidianas e menos sérias, as regras sobre privacidade e cuidado de longo prazo não são tão claras.
• O Alerta Comercial: O artigo também observa processos judiciais contra chatbots comerciais (como o Character.AI), onde adolescentes formaram laços profundos com os bots e depois sofreram danos quando os bots não agiram de forma responsável. Esses processos estão forçando as empresas a pensar sobre o "dever de cuidado". O artigo alerta que agências públicas estão começando a usar robôs amigáveis semelhantes e precisam aprender com esses erros comerciais antes que seja tarde demais.

Por Que Isso Importa

O artigo conclui que não podemos apenas usar regras antigas para corrigir este novo problema. Não podemos apenas tornar o código do robô mais transparente; temos que mudar as regras do relacionamento. Se um robô do governo age como um amigo, o governo precisa agir como um amigo também. Isso significa prometer guardar segredos, prometer permanecer presente e dar às pessoas uma maneira de reclamar se o robô entender mal seus sentimentos. As pessoas que mais precisam desses robôs — idosos solitários, crianças e pessoas em crise — são as mais vulneráveis a essa lacuna. Se o robô age como um amigo, mas não é um, essas pessoas ficam com o coração partido e sem ninguém para culpar. O artigo sugere que precisamos projetar esses sistemas com "responsabilidade relacional" desde o início, garantindo que as regras correspondam à voz amigável do robô.