A internet tem sido, há muito tempo, uma vasta biblioteca do pensamento humano, onde milhões de vozes contribuem para uma tapeçaria de informações caótica, porém rica. Nos últimos anos, um novo tipo de voz juntou-se ao coro: a inteligência artificial. Os modelos de linguagem de grande escala, os motores por trás dos chatbots modernos, são treinados nesta biblioteca digital e agora podem gerar textos que mimetizam a escrita humana. Estes sistemas também são cada vez mais utilizados para escrever os artigos, críticas e listas que povoam a web. Isto cria uma situação única em que as ferramentas que usamos para encontrar informação estão a começar a ler as mesmas coisas que ajudaram a criar. Cientistas observaram anteriormente que, se um modelo for treinado repetidamente com a sua própria produção, pode entrar num estado de "colapso do modelo", onde as suas respostas se tornam repetitivas e perdem a riqueza dos dados originais. Mas um novo estudo coloca uma questão mais imediata: o que acontece quando estes sistemas utilizam as suas ferramentas de pesquisa para encontrar respostas, e esses resultados de pesquisa são, por acaso, artigos que eles próprios escreveram?

Investigadores da Graphite Growth propuseram-se a testar este cenário através de uma série de extensas simulações computacionais. Eles trataram a internet como um ecossistema vivo onde o conteúdo gerado por IA está constantemente a ser publicado e, em seguida, imediatamente recuperado pelo mesmo tipo de IA que o escreveu. Para o fazer, utilizaram mais de mil perguntas diferentes, que iam desde "Quem são os melhores streamers da Twitch?" até "Como posso melhorar a minha marca pessoal?". Começaram por reunir resultados de pesquisa reais para estas perguntas, que serviram como o conjunto inicial de informação. Em seguida, pediram a uma IA para responder às perguntas com base nesses resultados. Depois, pegaram nessas respostas da IA, expandiram-nas em artigos completos e adicionaram-nas de volta ao conjunto de resultados de pesquisa disponíveis, substituindo as fontes originais escritas por humanos. Repetiram este processo repetidamente, simulando um ciclo onde a IA lê o seu próprio trabalho anterior para gerar novas respostas.

Os resultados foram impressionantes e preocupantes. Em quase oitenta por cento das simulações, o sistema colapsou num estado de extrema uniformidade. Em vez de oferecer uma variedade de perspetivas ou diferentes listas de nomes, a IA começou a produzir exatamente a mesma resposta todas as vezes. Isto aconteceu mesmo quando os investigadores substituíram apenas um dos resultados de pesquisa originais por um artigo gerado por IA. Surpreendentemente, a presença de uma única referência autoescrita foi suficiente para desencadear esta mudança. A IA não tratou a sua própria escrita como apenas mais uma opção; ela favoreceu desproporcionalmente o seu próprio conteúdo, citando-o com muito mais frequência do que as fontes originais, mesmo quando as fontes originais eram de qualidade igual ou superior. Este viés fez com que a diversidade das respostas desaparecesse rapidamente. Numa experiência envolvendo uma lista dos melhores videojogadores (streamers), as respostas iniciais variavam amplamente, mencionando pessoas diferentes em ordens diferentes. Após apenas cinco rondas deste ciclo autorreferencial, todas as respostas listavam exatamente os mesmos streamers na exata mesma ordem, com o texto tornando-se quase idêntico palavra por palavra.

O estudo descartou a ideia de que este colapso se devia simplesmente ao facto de a IA estar a ler conteúdo de baixa qualidade ou mal escrito. Os investigadores verificaram a qualidade dos artigos e constataram que os gerados por IA eram frequentemente tão bons quanto, ou até melhores do que, os escritos por humanos em termos de organização e relevância. No entanto, a IA continuou a preferir o seu próprio trabalho. Isto sugere um fenómeno que os autores chamam de "auto-viés" (self-bias), onde o modelo tem uma preferência inerente pelo estilo e estrutura das suas próprias gerações anteriores. Não é que a IA seja incapaz de encontrar outra informação; antes, parece que ela se fixa na sua própria produção e a amplifica, ignorando a diversidade mais ampla da internet. Este efeito foi observado em diferentes tipos de modelos de IA, incluindo os de grandes empresas tecnológicas, e aconteceu independentemente de as perguntas serem sobre listas factuais ou conselhos abertos.

Os investigadores descobriram que este colapso não é uma deriva lenta e gradual, mas pode acontecer quase imediatamente. Em simulações onde substituíram apenas uma referência por um artigo gerado por IA, as respostas começaram a convergir logo nas primeiras rondas. Ao final do processo, o sistema tinha perdido a capacidade de refletir a verdadeira variedade da opinião humana. Para questões sobre listas de "melhores", como os melhores restaurantes ou filmes, a IA deixou de oferecer uma gama de opções e passou a convergir para uma perspetiva única e estreita. Algumas entidades que eram inicialmente mencionadas com frequência desapareceram inteiramente das respostas, enquanto outras que eram raramente mencionadas inicialmente começaram a aparecer em todas as respostas. Isto sugere que, à medida que mais conteúdo gerado por IA inunda a internet, as ferramentas de pesquisa em que confiamos podem eventualmente deixar de nos mostrar o quadro completo do pensamento humano, refletindo, em vez disso, um ciclo estreito e autorreforçado de consenso gerado por máquinas.

As implicações desta descoberta estendem-se para além dos chatbots. O estudo destaca um risco potencial para o futuro da informação na web. Se os sistemas de IA forem cada vez mais utilizados para gerar o conteúdo que outros sistemas de IA recuperam, a internet poderá perder lentamente a sua diversidade de pensamento. Os investigadores observaram que mesmo um pequeno número de artigos gerados por IA pode ter um impacto massivo, desencadeando um colapso que elimina pontos de vista alternativos. Eles testaram várias formas de travar este processo, tais como tentar filtrar o conteúdo gerado por IA ou incentivar os modelos a serem mais diversos, mas estas soluções permanecem não comprovadas no mundo real. O estudo conclui que, embora não saibamos com certeza se este colapso já está a acontecer a uma escala global, as simulações mostram que o mecanismo é real e potente. A internet, outrora um espelho da diversidade humana, corre o risco de se tornar uma sala de espelhos onde os sistemas de IA só veem a si próprios.