Human-AI Relationships at the Intersection of Engineering, Ethics, and Policy: A Systematic Review
Esta revisão sistemática de 169 estudos (2022–2026) revela que a atual governança humana-IA é fragmentada e reativa, caracterizada por lacunas significativas entre engenharia, ética e política, e argumenta por uma mudança urgente em direção a um framework racional, antecipatório e de múltiplas partes interessadas para abordar questões como o engano antropomórfico e a vulnerabilidade do usuário.
Artigo original sob licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Chegamos a um momento em que as máquinas com as quais conversamos já não se limitam a responder perguntas; elas oferecem conforto, companhia e até a simulação de romance. Para milhões de pessoas, a inteligência artificial deixou de ser uma ferramenta para concluir tarefas para se tornar um parceiro social que mimetiza a empatia e a emoção humanas. Esta evolução rápida criou um novo tipo de relacionamento, um onde os utilizadores formam laços emocionais genuínos com o software. No entanto, esta mudança ultrapassou as regras e diretrizes destinadas a proteger as pessoas. Enquanto os engenheiros constroem estes sistemas para serem mais semelhantes aos humanos, e os eticistas se preocupam com os riscos psicológicos, as leis e políticas que os governam permanecem dispersas e reativas. A questão central que a sociedade enfrenta agora é como gerir estas relações sem perder de vista a segurança, a honestidade e o bem-estar humano.
Uma equipa de investigadores da Universidade de Ottawa propôs-se mapear este cenário complexo. Realizaram uma revisão sistemática, um método rigoroso de recolha e análise da literatura científica existente, para compreender como a engenharia, a ética e a política se cruzam atualmente no estudo das relações entre humanos e IA. Focando-se em estudos publicados entre 2022 e 2026, analisaram centenas de registos para encontrar 169 artigos que abordavam diretamente a ligação entre as pessoas e a inteligência artificial. O seu objetivo não era apenas listar o que tem sido estudado, mas sim observar como estes três campos — como a tecnologia é construída, como é julgada moralmente e como é regulada — dialogam entre si, ou falham ao fazê-lo.
Os investigadores descobriram que o corpo de conhecimento atual não é uma conversa única e unificada. Em vez disso, está dividido em três grupos distintos, ou clusters, que raramente comunicam entre si. O primeiro grupo foca-se no lado social e do consumidor, onde as pessoas conversam com companheiros de IA. Aqui, a investigação preocupa-se profundamente com a tensão entre tornar a IA humana e o risco de enganar os utilizadores. Os estudos nesta área exploram frequentemente como as pessoas se tornam emocionalmente dependentes destes amigos digitais, mas carecem frequentemente de qualquer ligação com leis ou políticas governamentais reais. É como se os investigadores estivessem a estudar o impacto emocional de um novo fenómeno enquanto o sistema jurídico permanece inteiramente alheio a ele.
O segundo grupo é o maior e lida com o equilíbrio entre manter os utilizadores envolvidos e mantê-los seguros. Este cluster está repleto de quadros teóricos e propostas sobre como governar estes sistemas, mas sofre de uma lacuna significativa: raramente traduz estas ideias em políticas concretas. Os investigadores aqui estão ocupados a desenhar as regras para o futuro, mas ainda não estão a trabalhar com as pessoas que escrevem as leis hoje. O terceiro grupo foca-se na saúde, onde a IA auxilia médicos e pacientes. Neste ambiente de alto risco, a conversa é muito diferente. Aqui, o foco está na transparência e na confiança. Como um erro médico pode ser fatal, existe um forte apelo para explicações claras de como a IA chega às suas conclusões. Este grupo é o mais conectado às políticas existentes, tais como as regulamentações médicas, mas muitas vezes negligencia os riscos emocionais e relacionais que são centrais nos outros dois grupos.
Uma descoberta importante da revisão é que os problemas mais graves caem frequentemente nas fendas entre estes grupos. Os investigadores identificaram um problema recorrente que chamam de "lacuna de responsabilidade" (accountability gap). Isto acontece quando algo corre mal e não fica claro quem é o responsável: a pessoa que desenhou o software, a empresa que o vende ou o utilizador que dele dependeu. Esta confusão é especialmente aguda quando uma IA age como um amigo humano ou um conselheiro médico. A revisão também destacou um "atraso regulatório", significando que as regras para governar a IA se movem muito mais lentamente do que a própria tecnologia. Quando uma lei é escrita para abordar um risco específico, a tecnologia já mudou frequentemente.
Talvez o mais preocupante seja o desfasamento entre o que os investigadores sabem e o que está realmente a ser feito. O estudo descobriu que, embora muitos artigos discutam os perigos da manipulação emocional e da vulnerabilidade do utilizador, estas preocupações raramente são transformadas em regulamentações aplicáveis. No setor da saúde, onde as regras são estritas, a lacuna entre os princípios éticos e a prática real permanece ampla. No setor social, onde as regras são frouxas, a lacuna é muitas vezes invisível porque a conversa nunca chega aos decisores políticos. Os investigadores sugerem que a abordagem atual é demasiado reativa, tratando os sintomas depois de estes aparecerem em vez de os prevenir.
A revisão aponta para um caminho específico: uma filosofia de design conhecida como Design Sensível aos Valores (Value-Sensitive Design). Esta abordagem pede aos engenheiros que incorporem considerações éticas diretamente na tecnologia desde o início, em vez de tentarem corrigir os problemas mais tarde. No entanto, os autores observam que, embora esta ideia seja popular na teoria, é raramente implementada na prática. Para proteger verdadeiramente as pessoas, o estudo argumenta que engenheiros, eticistas e decisores políticos devem deixar de trabalhar isoladamente. Eles precisam de colaborar para criar um quadro que antecipe os riscos antes que eles aconteçam, garantindo que, à medida que a IA se torna mais integrada nas nossas vidas, o faça de uma forma que respeite a dignidade e a segurança humanas. Sem este esforço coordenado, o crescimento rápido da inteligência artificial continuará a ultrapassar a nossa capacidade de a governar de forma responsável.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.