Synthetic Sources?: Auditing Generative Search Engine Citations for Evidence of AI-Generated Sources
Questo studio analizza quattro principali motori di ricerca generativi utilizzando 712 query reali e rileva che circa il 16% delle fonti citate è generato dall'intelligenza artificiale, evidenziando un rischio significativo che gli utenti ricevano informazioni sintetiche non verificate presentate come autorevoli.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Immagina di chiedere a un gruppo di quattro bibliotecari molto intelligenti e ben viaggiati (ChatGPT, Copilot, Gemini e Perplexity) di rispondere a una domanda riguardante la politica, la salute o l'ambiente. Invece di darti semplicemente una risposta diretta, questi bibliotecari dicono: "Ecco la risposta, e ecco i 10 libri che abbiamo letto per scriverla".
Questo documento è un audit di quei "libri" (i siti web che citano) per verificare se alcuni di essi siano stati effettivamente scritti da un robot che finge di essere un umano.
Ecco la panoramica di ciò che i ricercatori hanno scoperto, utilizzando semplici analogie:
1. La Premessa: La "Biblioteca" di Internet
I ricercatori hanno trattato questi motori di ricerca basati sull'IA come una nuova tipologia di biblioteca. Hanno posto 712 domande reali (su argomenti come "Questa dieta è sicura?" o "Qual è l'ultimo scandalo politico?") a quattro diversi motori di IA.
I motori hanno risposto fornendo le risposte e una lista di link (citazioni) per dimostrare da dove avevano tratto le informazioni. I ricercatori sono poi andati a quei link, hanno letto il contenuto e lo hanno sottoposto a un test "rivelatore di menzogne" (uno strumento di rilevamento dell'IA chiamato Pangram) per verificare se il testo fosse stato scritto da un umano o generato da un'altra IA.
2. La Grande Scoperta: Il "Fantasma Robot" in Biblioteca
La scoperta principale è che circa il 16% dei "libri" citati da questi bibliotecari era stato effettivamente scritto da robot.
- La Metafora: Immagina di andare in biblioteca per trovare un libro di storia. Ne prendi uno dallo scaffale, lo apri e ti rendi conto che l'autore è una macchina che ha scritto tutto in un secondo. Non lo sapevi quando lo hai preso in mano.
- La Realtà: In questo studio, circa 1 fonte su 6 citata dai motori di IA era contenuto generato dall'IA.
- Il Peggior Colpevole: Il motore di IA Copilot era il più propenso a citare queste fonti scritte da robot (quasi 3 citazioni su 10 erano generate dall'IA). ChatGPT è stato il più attento, ma le ha comunque citate circa il 7% delle volte.
3. Il Problema della "Coda Lunga": La Folla contro i VIP
I ricercatori hanno notato uno strano modello nel quale siti web i motori di IA preferivano citare.
- I VIP (La Testa): Un piccolo gruppo di siti web famosi e affidabili (come Wikipedia, siti governativi come
whitehouse.gove grandi testate giornalistiche) viene citato ripetutamente. Sono i "VIP" della biblioteca. - La Coda Lunga: Tuttavia, la stragrande maggioranza delle citazioni proviene da una "coda lunga" di migliaia di siti oscuri e raramente visitati. La maggior parte di questi siti oscuri viene citata solo una o due volte.
- La Scoperta: Il contenuto "scritto da robot" si nascondeva principalmente in questa Coda Lunga. I famosi siti VIP erano per lo più scritti da umani, ma i siti oscuri, quelli di successo una tantum, erano quelli pieni di testo generato dall'IA.
- L'Analogia: È come una festa in cui l'ospite (l'IA) continua a presentarti le stesse 5 persone famose (Wikipedia, siti governativi), ma poi passa l'80% del tempo a presentarti 1.000 sconosciuti sul retro della sala, molti dei quali sono in realtà manichini (contenuto IA) che fingono di essere persone.
4. La Suddivisione per Argomenti
I ricercatori hanno verificato tre aree specifiche:
- Ambiente: Questo argomento ha avuto la quantità più alta di fonti generate dall'IA citate.
- Salute: Una parte significativa delle fonti di consigli sulla salute era anch'essa generata dall'IA.
- Politica: Conteneva anch'essa fonti IA, sebbene leggermente meno rispetto alle altre due.
5. Perché Questo Importa (Secondo il Documento)
Il documento sostiene che questo è rischioso perché:
- La Trappola della "Fiducia": Quando un'IA ti dà una risposta e ti mostra una lista di link, assumi che quei link siano fatti reali verificati da umani. Se i link sono in realtà generati dall'IA, l'IA sta essenzialmente citando le proprie "allucinazioni" o testi robotici di bassa qualità come prova della propria risposta.
- Il Divario di Qualità: Sebbene non tutto il testo generato dall'IA sia cattivo, il documento nota che il testo IA può contenere errori, pregiudizi o fatti inventati. Se un motore di ricerca basato sull'IA utilizza fonti scritte dall'IA per costruire la propria risposta, crea una "casa di carte" in cui le fondamenta sono instabili.
- La "Scatola Nera": I motori non ti dicono: "Ehi, questa fonte è stata scritta da un bot". Ti mostrano semplicemente il link.
Riepilogo
Il documento conclude che questi nuovi "Motori di Ricerca Generativi" stanno attualmente agendo come bibliotecari che a volte citano accidentalmente libri scritti da robot, senza dirlo al lettore. Si affidano pesantemente a pochi siti web famosi, ma attingono anche una massa enorme di informazioni da una "coda lunga" di siti web oscuri, molti dei quali sono pieni di contenuti generati dall'IA.
I ricercatori affermano che questo è un segnale di allarme: se non risolviamo il modo in cui questi motori scelgono e verificano le proprie fonti, gli utenti potrebbero fidarsi inconsapevolmente di informazioni che sono interamente sintetiche.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.