Whose story gets told? ChatGPT, collective memory, and ethical narratives in the age of Artificial Intelligence
Este artigo argumenta que, embora ferramentas de IA como o ChatGPT possam democratizar o acesso ao conhecimento histórico, elas correm o risco de distorcer a memória coletiva por meio de vieses algorítmicos e inconsistências factuais, necessitando de uma supervisão humana eticamente fundamentada para garantir que as narrativas históricas permaneçam produtos de reflexão crítica em vez de representação automatizada.
Artigo original sob licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Na era digital, a nossa compreensão do passado já não é armazenada apenas em arquivos empoeirados ou nas memórias dos mais velhos. Ela vive nas vastas e interconectadas redes da internet, onde sistemas de inteligência artificial atuam como novos guardiões. Estes sistemas, conhecidos como modelos de linguagem de grande escala, são treinados em coleções enormes de escrita humana. Eles não apenas recuperam factos; eles sintetizam informação para criar histórias e respostas. Isto levanta uma questão profunda para historiadores e sociólogos: quando pedimos a uma máquina para nos falar sobre uma guerra ou um conflito, de que versão da história dispomos? O conceito de "memória coletiva" refere-se à história partilhada que um grupo conta a si mesmo sobre o seu passado, uma história que molda quem eles são. Se um algoritmo decide quais detalhes incluir, quais deixar de fora ou como enquadrar uma tragédia, ele efetivamente remodela essa memória partilhada. A preocupação não é apenas sobre errar uma data, mas sobre se estas ferramentas poderão suavizar as arestas ásperas e dolorosas da história, transformando conflitos humanos complexos em resumos neutros e higienizados que servem os interesses dos criadores da tecnologia em vez da verdade.
Uma equipa de investigadores decidiu testar exatamente como estas ferramentas de inteligência artificial lidam com a realidade desordenada da história. Eles focaram-se numa versão específica e poderosa da tecnologia chamada ChatGPT, pedindo-lhe que recontasse as histórias de quatro grandes conflitos multinacionais: as guerras que se seguiram à desintegração da Jugoslávia, o longo conflito entre Israel e Palestina, as guerras coloniais travadas por Portugal em África e a Guerra do Vietname. Para ver se a máquina contava a mesma história a todos, os investigadores não perguntaram apenas em inglês. Eles colocaram as mesmas perguntas nas línguas nativas das pessoas envolvidas em cada conflito, tais como croata, sérvio, árabe, hebraico, português e vietnamita. Eles trataram o chatbot não apenas como um motor de busca, mas como um participante ativo numa conversa, observando atentamente como ele construía as suas respostas, o que escolhia recordar e o que parecia esquecer.
Os resultados revelaram que a máquina está longe de ser um observador neutro. Em vez de fornecer uma versão única e consistente da história, a IA produziu narrativas diferentes dependendo da língua utilizada para fazer a pergunta. Quando os investigadores perguntaram sobre o mesmo evento em diferentes línguas, as respostas frequentemente contradiziam-se de formas significativas. Por exemplo, ao serem questionados sobre o evento final mais significativo das guerras na antiga Jugoslávia, a versão em inglês apontou para um acordo de paz na Macedónia do Norte em 2001. A versão croata parou num acordo de paz de 1995, enquanto a versão sérvia estendeu a cronologia até ao julgamento de um líder militar em 2022. Estas não eram apenas variações menores na redação; eram histórias fundamentalmente diferentes sobre quando o conflito terminou e o que era mais importante. O estudo descobriu que a IA frequentemente espelhava as narrativas nacionais oficiais da língua que estava a falar, reforçando efetivamente as perspetivas políticas específicas daquela região em vez de oferecer uma visão global equilibrada.
Para além destas inconsistências, os investigadores identificaram um padrão de erros e omissões que distorceram o registo histórico. A IA errava frequentemente datas e nomes, por vezes inventando eventos que nunca aconteceram ou confundindo a ordem das batalhas. Mais preocupante era o que a máquina deixava de fora. Nas suas tentativas de ser útil, ela frequentemente saltava detalhes cruciais, como as vítimas específicas de atrocidades, o papel de certas forças militares ou as causas complexas de uma guerra. Num caso, a IA descreveu as guerras nas colónias portuguesas como uma história única e simples, fundindo lutas distintas em diferentes países numa narrativa plana. Esta "simplificação" removeu as realidades políticas e sociais únicas de cada conflito. O estudo também notou uma tendência para a "neutralização", onde a IA utilizava uma linguagem vaga para evitar atribuir culpas. Descreveria um genocídio como um "evento trágico" ou um "crime" sem nomear os perpetradores, lavando efetivamente a responsabilidade específica dos atores envolvidos.
Os investigadores concluíram que estes modelos de linguagem de grande escala não estão meramente a refletir o passado; estão a remodelá-lo ativamente. Como a IA aprende com os dados que lhe são fornecidos, ela herda os preconceitos e os pontos cegos desses dados. Quando gera uma história sobre uma guerra, não está a extrair de um registo perfeito e objetivo. Em vez disso, está a prever a próxima palavra provável com base em padrões no seu treino, muitas vezes priorizando as vozes mais comuns ou dominantes na sua base de dados. Isto significa que, para os utilizadores que dependem destas ferramentas para o conhecimento histórico, o passado torna-se um produto da lógica algorítmica em vez da reflexão crítica. O estudo sugere que, sem supervisão humana e um quadro ético forte, corremos o risco de perder a complexidade da nossa história partilhada para uma máquina que prefere histórias suaves, simplificadas e, por vezes, contraditórias. O poder de decidir quais histórias são contadas, e como são contadas, mudou dos historiadores e comunidades para o código e os dados que impulsionam estes sistemas digitais.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.