Hallucinations in AI Chatbots: A Comparative Analysis

Nos últimos anos, um novo tipo de programa de computador tornou-se uma ferramenta comum para escrever, programar e encontrar informações. Esses programas, conhecidos como modelos de linguagem de grande escala, são treinados em vastas quantidades de texto da internet. Eles são projetados para prever qual palavra deve vir a seguir em uma frase, permitindo que gerem respostas de aparência humana para perguntas. Embora sejam incrivelmente úteis, possuem uma falha peculiar: às vezes afirmam coisas que são completamente falsas com total confiança. Pesquisadores chamam esses erros de "alucinações". Uma alucinação pode parecer um fato real, uma citação genuína de um livro ou uma linha de código funcional, mas é, na verdade, uma fabricação. Isso não é apenas um pequeno erro técnico; quando esses programas são usados para trabalhos escolares, aconselhamento médico ou pesquisa profissional, um fato inventado pode levar a confusão ou perigo no mundo real. A questão que enfrenta cientistas e usuários é não se esses erros acontecem, mas com que frequência ocorrem, quais programas são mais propensos a eles e como as pessoas podem detectá-los antes que causem problemas.

Uma equipe de pesquisadores do Instituto de Tecnologia de Usman estabeleceu-se para entender este problema analisando os quatro chatbots de IA mais populares disponíveis hoje: GPT-4, Gemini, Claude e Microsoft Copilot. Em vez de apenas testar as máquinas em um laboratório, os pesquisadores perguntaram a 80 usuários reais sobre suas experiências no mundo real. Eles queriam saber com que frequência esses usuários encontravam informações falsas, como percebiam os erros e o que faziam para corrigi-los. O estudo focou em tarefas que exigem alta precisão, como escrever artigos acadêmicos, escrever código de computador e realizar pesquisas. O objetivo era ir além dos marcos técnicos e ver como essas ferramentas se comportam nas mãos de pessoas comuns que dependem delas para trabalhos importantes.

Os resultados da pesquisa revelaram que as alucinações são um problema persistente, mesmo nos sistemas mais avançados. A maioria das pessoas que participou da pesquisa disse que usa essas ferramentas de IA todos os dias ou várias vezes ao dia. Elas dependem delas para programação, pesquisa e escrita. No entanto, a maioria também relatou que encontra frequentemente informações inventadas ou referências falsas. Os pesquisadores descobriram que esses erros não acontecem aleatoriamente; eles tendem a aparecer com mais frequência à medida que uma conversa se torna mais longa. Depois que um usuário troca de cinco a vinte mensagens com o bot, a probabilidade de o programa falhar e fornecer detalhes inconsistentes ou falsos aumenta. Isso sugere que, quanto mais você fala com a máquina, mais provável é que ela perca o controle sobre a verdade.

Quando os usuários percebiam que algo estava errado, eles não dependiam do computador para avisá-los. Em vez disso, usavam seu próprio conhecimento. A maneira mais comum de as pessoas detectarem uma alucinação era quando a resposta da IA contradizia algo que elas já sabiam ser verdadeiro. Outro grande sinal de alerta era a presença de citações falsas. Se o programa listasse um livro, um estudo ou um site que não podia ser encontrado ou que não existia, os usuários sabiam imediatamente que a informação era fabricada. O estudo mostrou que detectar esses erros ainda é, em grande parte, um trabalho humano. Depende da capacidade do usuário de verificar fatos e de sua disposição para questionar a máquina, em vez de depender de qualquer interruptor de segurança automático integrado ao software.

Os pesquisadores também compararam os quatro diferentes chatbots para ver se um era mais seguro ou mais confiável que os outros. Eles descobriram que cada sistema possui seus próprios pontos fortes e fracos. O GPT-4 foi elogiado por sua capacidade de raciocinar através de problemas complexos, enquanto o Gemini foi notado por sua forte capacidade de extrair informações de resultados de busca, o que ajuda a manter suas respostas fundamentadas na realidade. O Claude se destacou pelo seu foco em segurança e honestidade, particularmente em áreas sensíveis como a saúde, onde demonstrou alta precisão. O Microsoft Copilot foi reconhecido por sua integração estreita com outras ferramentas de software, tornando-o útil para produtividade. No entanto, nenhum dos quatro modelos era perfeito. Todos eles ainda produziam citações falsas e código não confiável às vezes. O estudo concluiu que, embora essas ferramentas sejam poderosas, ainda não são confiáveis o suficiente para serem usadas sem supervisão humana, especialmente em campos de alto risco como medicina ou pesquisa acadêmica.

Então, o que pode ser feito para consertar isso? Os participantes da pesquisa ofereceram uma resposta clara. Eles não acreditavam que a solução residisse unicamente em tornar a IA mais inteligente. Em vez disso, disseram que a maneira mais eficaz de reduzir erros é exigir que a IA mostre seu trabalho. Os usuários preferiam amplamente respostas que incluíssem citações verificadas, o que significa que o programa deve apontar para uma fonte real e existente para cada fato que afirma. A revisão humana foi a segunda solução mais popular, seguida por sistemas automáticos de verificação de fatos. As pessoas que utilizam essas ferramentas querem transparência; elas querem ver de onde vem a informação para que possam verificá-la por conta própria. Os pesquisadores sugerem que as melhorias futuras devem focar em fazer com que a IA explique suas fontes e admita quando não tem certeza, em vez de apenas tentar gerar mais texto.

Em última análise, este estudo destaca uma realidade crucial sobre o estado atual da inteligência artificial. Essas ferramentas estão se tornando mais sofisticadas e estão sendo usadas para tarefas mais complexas, mas o problema de inventar coisas não desapareceu. Os pesquisadores descobriram que os usuários estão cientes do risco e estão trabalhando ativamente para contorná-lo, verificando fatos duplamente e exigindo evidências. Para que esses sistemas se tornem verdadeiramente confiáveis, especialmente em áreas críticas como saúde e educação, eles devem evoluir para fornecer fontes claras e verificáveis para suas respostas. Até lá, a responsabilidade pela precisão permanece firmemente nas mãos humanas, com a IA servindo como um assistente útil, em vez de uma autoridade final.