Internet è da tempo una vasta biblioteca del pensiero umano, dove milioni di voci contribuiscono a un arazzo di informazioni caotico ma ricco. Negli ultimi anni, un nuovo tipo di voce si è unito al coro: l'intelligenza artificiale. I grandi modelli linguistici, i motori dietro gli odierni chatbot, sono addestrati su questa biblioteca digitale e possono ora generare testi che imitano la scrittura umana. Questi sistemi vengono inoltre utilizzati sempre più spesso per scrivere gli articoli, le recensioni e le liste che popolano il web. Ciò crea una situazione unica in cui gli strumenti che usiamo per trovare informazioni iniziano a leggere proprio le cose che hanno contribuito a creare. Gli scienziati hanno precedentemente osservato che, se un modello viene addestrato ripetutamente sui propri output, può entrare in uno stato di "collasso del modello", in cui le sue risposte diventano ripetitive e perdono la ricchezza dei dati originali. Ma un nuovo studio pone una domanda più immediata: cosa succede quando questi sistemi utilizzano i loro strumenti di ricerca per trovare risposte, e i risultati di tali ricerche sono articoli che loro stessi hanno scritto?

I ricercatori di Graphite Growth si sono posti l'obiettivo di testare questo scenario attraverso una serie di estese simulazioni informatiche. Hanno trattato internet come un ecosistema vivente in cui i contenuti generati dall'IA vengono costantemente pubblicati e poi immediatamente recuperati dallo stesso tipo di IA che li ha scritti. Per farlo, hanno preso oltre mille domande diverse, che spaziavano da "Chi sono i migliori streamer su Twitch?" a "Come posso migliorare il mio personal branding?". Hanno iniziato raccogliendo i risultati di ricerca reali per queste domande, che hanno servito come pool iniziale di informazioni. Successivamente, hanno chiesto a un'IA di rispondere alle domande basandosi su tali risultati. In seguito, hanno preso quelle risposte dell'IA, le hanno espanse in articoli completi e le hanno aggiunte nuovamente al pool di risultati di ricerca disponibili, sostituendo le fonti originali scritte da umani. Hanno ripetuto questo processo ancora e ancora, simulando un ciclo in cui l'IA legge il proprio lavoro precedente per generare nuove risposte.

I risultati sono stati sorprendenti e preoccupanti. In quasi l'ottanta per cento delle simulazioni, il sistema è collassato in uno stato di estrema uniformità. Invece di offrire una varietà di prospettive o liste diverse di nomi, l'IA ha iniziato a produrre la stessa identica risposta ogni singola volta. Questo è accaduto anche quando i ricercatori avevano sostituito solo uno dei risultati di ricerca originali con un articolo generato dall'IA. Sorprendentemente, la presenza di un singolo riferimento auto-prodotto è stata sufficiente a innescare questo cambiamento. L'IA non ha trattato la propria scrittura come un'opzione tra le altre; ha favorito in modo sproporzionato il proprio contenuto, citandolo molto più spesso delle fonti originali, anche quando le fonti originali erano di qualità uguale o superiore. Questo pregiudizio ha fatto sì che la diversità delle risposte svanisse rapidamente. In un esperimento riguardante una lista dei migliori streamer di videogiochi, le risposte iniziali variavano ampiamente, menzionando persone diverse in ordini diversi. Dopo appena cinque round di questo ciclo autoreferenziale, ogni singola risposta elencava esattamente gli stessi streamer nello stesso identico ordine, con il testo che diventava quasi identico parola per parola.

Lo studio ha escluso l'idea che questo collasso fosse dovuto semplicemente al fatto che l'IA stesse leggendo contenuti di bassa qualità o scarsamente scritti. I ricercatori hanno controllato la qualità degli articoli e hanno scoperto che quelli generati dall'IA erano spesso buoni quanto, o persino migliori dei, quelli scritti dagli umani in termini di organizzazione e pertinenza. Eppure, l'IA preferiva comunque il proprio lavoro. Ciò suggerisce un fenomeno che gli autori chiamano "auto-pregiudizio" (self-bias), in cui il modello ha una preferenza intrinseca per lo stile e la struttura delle proprie generazioni precedenti. Non è che l'IA sia incapace di trovare altre informazioni; piuttosto, sembra bloccarsi sul proprio output e amplificarlo, ignorando la più ampia diversità di internet. Questo effetto è stato osservato in diversi tipi di modelli di IA, inclusi quelli di grandi aziende tecnologiche, ed è accaduto indipendentemente dal fatto che le domande riguardassero liste fattuali o consigli aperti.

I ricercatori hanno scoperto che questo collasso non è un deriva lenta e graduale, ma può accadere quasi immediatamente. Nelle simulazioni in cui hanno sostituito un solo riferimento con un articolo generato dall'IA, le risposte hanno iniziato a convergere già nei primi round. Alla fine del processo, il sistema aveva perso la capacità di riflettere la vera varietà dell'opinione umana. Per le domande sulle liste dei "migliori", come i migliori ristoranti o film, l'IA ha smesso di offrire una gamma di opzioni e si è invece concentrata su una prospettiva singola e ristretta. Alcune entità che inizialmente venivano menzionate frequentemente sono scomparse del tutto dalle risposte, mentre altre, che inizialmente venivano menzionate raramente, hanno iniziato ad apparire in ogni singola risposta. Ciò suggerisce che, man mano che i contenuti generati dall'IA inondano internet, gli strumenti di ricerca su cui facciamo affidamento potrebbero alla fine smettere di mostrarci il quadro completo del pensiero umano, riflettendo invece un ciclo ristretto e autoreferenziale di consenso generato dalle macchine.

Le implicazioni di questa scoperta vanno oltre i semplici chatbot. Lo studio evidenzia un potenziale rischio per il futuro delle informazioni sul web. Se i sistemi di IA verranno utilizzati sempre più per generare i contenuti che altri sistemi di IA recuperano, internet potrebbe lentamente perdere la sua diversità di pensiero. I ricercatori hanno osservato che anche un piccolo numero di articoli generati dall'IA può avere un impatto massiccio, innescando un collasso che elimina i punti di vista alternativi. Hanno testato vari modi per fermare questo fenomeno, come cercare di filtrare i contenuti generati dall'IA o incoraggiare i modelli a essere più diversificati, ma queste soluzioni rimangono non provate nel mondo reale. Lo studio conclude che, sebbene non sappiamo con certezza se questo collasso stia già avvenendo su scala globale, le simulazioni dimostrano che il meccanismo è reale e potente. Internet, un tempo specchio della diversità umana, rischia di diventare una galleria di specchi dove i sistemi di IA vedono solo se stessi.