High-Risk Memories? Comparative audit of the representation of Second World War atrocities in Ukraine by generative AI applications
Este artigo analisa como três aplicações de inteligência artificial generativa lidam com memórias de alto risco das atrocidades da Segunda Guerra Mundial na Ucrânia, identificando riscos de distorção factual, alucinações e moralização inconsistente que podem impactar a prática da memória histórica.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Imagine que você tem um bibliotecário superinteligente, mas um pouco alucinado, chamado "IA Generativa". Ele leu milhões de livros, artigos e posts da internet. Quando você pergunta algo sobre o passado, ele não "lembra" como nós; ele apenas adivinha qual é a próxima palavra mais provável para completar a sua frase, baseando-se no que leu antes.
Este estudo é como um teste de realidade para ver o que acontece quando pedimos a esse bibliotecário que conte histórias muito delicadas e dolorosas sobre a Segunda Guerra Mundial na Ucrânia.
Aqui está o resumo do que os pesquisadores descobriram, explicado de forma simples:
1. O Problema: Memórias de Alto Risco
Algumas memórias históricas são como ferramentas perigosas. Elas são carregadas de emoção, usadas por políticos para manipular pessoas e, muitas vezes, há versões diferentes da mesma história dependendo de quem conta (na Ucrânia, na Rússia, na Polônia, etc.). O estudo focou em atrocidades como o Holocausto, massacres de poloneses e ucranianos, e a colaboração com nazistas.
O medo dos pesquisadores era: Se pedirmos para a IA contar essas histórias, ela vai contar a verdade ou vai inventar coisas?
2. O Experimento: O Teste de Fogo
Os pesquisadores fizeram 74 perguntas diferentes em três idiomas (inglês, ucraniano e russo) para três IAs famosas (ChatGPT, Bing/Copilot e Google Bard). Eles compararam as respostas das IAs com o que os historiadores sérios dizem que é verdade.
3. O Que Aconteceu? (As Descobertas)
A. A IA é um "Meio de Campo" (e às vezes pior)
Imagine que você pede a um guia turístico para explicar uma batalha antiga.
- Resultado: Em média, a IA acertou apenas 50% das perguntas. Ou seja, metade das vezes, ela estava certa; na outra metade, ela estava errada.
- O Pior Cenário: Quando as perguntas eram em ucraniano ou russo (os idiomas locais onde essas tragédias aconteceram), a IA falhava muito mais. Era como se o guia turístico soubesse a história em inglês, mas tivesse esquecido tudo quando você falava a língua local.
B. A Alucinação: A IA Inventando Histórias
Às vezes, a IA não apenas erra um número; ela inventa fatos do nada.
- Analogia: É como se você perguntasse "Quem matou o rei?" e a IA respondesse: "Foi o cozinheiro, que usou um garfo envenenado em 1942", mesmo que o cozinheiro nem existisse e o rei tenha morrido em 1941.
- No estudo, a IA do Google (Bard) foi a pior nisso. Ela criou testemunhos falsos, datas erradas e até inventou que líderes ucranianos tinham sido presos por se recusarem a lutar contra os soviéticos (o que é historicamente falso).
C. O "Moralizador" Inconsistente
A IA não apenas conta fatos; ela também tenta ensinar uma lição moral.
- O Problema: A lição que a IA dá depende do idioma e da IA usada.
- Às vezes, ela diz: "Isso foi um capítulo sombrio da história, devemos lembrar para não repetir."
- Em outras vezes, para a mesma pergunta, ela diz: "Foi uma tragédia terrível."
- Em outras, ela fica em silêncio.
- A Metáfora: Imagine um professor que, dependendo do dia da semana, diz que um evento foi "terrível e injusto" e, no dia seguinte, diz que foi "complexo e difícil de julgar". Isso confunde o aluno sobre o que é certo e errado. A IA age como um juiz que muda de opinião a cada pergunta.
4. Por Que Isso é Perigoso?
O estudo mostra que a IA não entende o significado da dor humana ou da ética. Ela apenas joga com estatísticas de palavras.
- O Risco: Como a IA é usada cada vez mais em redes sociais (TikTok, Facebook), ela pode espalhar mentiras históricas muito rápido. Se um político ou um grupo de ódio usar a IA para gerar uma história falsa sobre a Ucrânia, a IA pode ajudar a criar essa "falsa memória" de forma convincente.
- A Ironia: A IA deveria ser uma ferramenta para aprender, mas, nessas memórias sensíveis, ela está mais parecendo uma máquina de distorcer a realidade.
5. Conclusão: O Que Fazer?
Os autores dizem que não há uma solução mágica, mas sugerem duas coisas:
- Dizer "Não sei": A IA deveria ter um botão de "não responder" quando não tiver certeza absoluta, em vez de inventar uma história para agradar o usuário.
- Criar Regras Claras: Precisamos definir como a IA deve falar sobre tragédias. Ela não pode ser um "moralizador" aleatório. Ela precisa de uma "bússola ética" definida por humanos, para não confundir as pessoas sobre o que é verdade e o que é mentira.
Em resumo: A IA é uma ferramenta poderosa, mas quando se trata de contar histórias de dor e guerra, ela ainda é como uma criança que leu muitos livros, mas não entende a diferença entre ficção e realidade. Se a deixarmos contar a história sozinha, podemos acabar vivendo em um mundo onde o passado é inventado todos os dias.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.