Spesso crediamo che il nostro giudizio sull'arte, la scrittura o la musica dipenda interamente da ciò che abbiamo davanti agli occhi o alle orecchie. Presumiamo che se una storia è ben raccontata o una poesia è toccante, ne riconosceremo la qualità indipendentemente da chi l'abbia scritta. Questa idea è stata a lungo un pilastro della teoria letteraria, suggerendo che il testo stesso dovrebbe essere l'unica cosa che conta. Tuttavia, decenni di ricerca psicologica hanno dimostrato che il nostro cervello non funziona in questo modo. Quando leggiamo o ascoltiamo, utilizziamo costantemente indizi sulla fonte per guidare la nostra interpretazione. Se sappiamo che un pezzo di scrittura proviene da un poeta famoso, tendiamo a trovarlo più profondo e significativo rispetto a se ci venisse detto che le stesse parole sono state scritte da un programma informatico. Questa non è solo una questione di snobismo; è un modo fondamentale in cui le nostre menti elaborano le informazioni, affidandosi alla reputazione del creatore per aiutarci a comprendere l'opera.

Man mano che l'intelligenza artificiale diventa capace di scrivere storie, poesie e saggi che suonano straordinariamente umani, è emersa una nuova domanda. Questo pregiudizio verso i creatori umani persiste quando l'opera è generata da una macchina? E forse, in modo ancora più sorprendente, le macchine stesse condividono questo pregiudizio? Poiché i sistemi di IA vengono sempre più utilizzati per valutare i saggi degli studenti, giudicare concorsi di scrittura creativa e classificare la qualità di diversi modelli, essi stanno effettivamente diventando i critici. Se questi giudici digitali sono addestrati su dati umani, potrebbero aver assorbito i nostri stessi pregiudizi su ciò che conta come creatività "reale". Comprendere se questi sistemi si limitino a imitare il pregiudizio umano o se lo amplifichino è cruciale, perché determina quanto potremo fidarci degli strumenti che stanno iniziando a plasmare il nostro paesaggio culturale.

I ricercatori dell'Università di Princeton hanno deciso di testare queste domande con un esperimento controllato che ha contrapposto lettori umani a modelli di intelligenza artificiale. Hanno scelto un insieme unico di materiali per garantire un confronto equo: trenta diversi riscrizioni della stessa semplice storia, originariamente scritta dall'autore francese Raymond Queneau nel 1947. L'opera di Queneau, nota come Exercices de style, prende un aneddoto banale su un uomo su un autobus e lo riscrive in novantanove modi diversi, che vanno da una sequenza onirica a un documento legale o a una conversazione di strada piena di gergo. I ricercatori hanno preso trenta di queste versioni scritte da esseri umani e hanno chiesto a un potente modello di IA di generare le proprie versioni degli stessi trenta stili. Il risultato è stato un insieme di storie accoppiate: una scritta da un essere umano, una da una macchina, entrambe nel tentativo di catturare esattamente lo stesso obiettivo stilistico.

L'esperimento ha coinvolto due gruppi distinti di giudici. Il primo gruppo era composto da 556 partecipanti umani. Il secondo gruppo era composto da tredici diversi modelli di IA, inclusi alcuni dei sistemi più avanzati disponibili all'epoca. Entrambi i gruppi sono stati chiamati a esaminare coppie di queste storie e decidere quale tra esse corrispondesse meglio allo stile richiesto, come ad esempio "dialetto Cockney" o "fantascienza". Per vedere quanto importasse l'etichetta dell'autore, i ricercatori hanno condotto il test sotto tre diverse condizioni. Nella prima condizione, i giudici vedevano le storie senza alcun nome, etichettate solo come "A" e "B". Nella seconda, vedevano le etichette corrette: una storia veniva identificata come scritta da Queneau, l'altra come generata da un'IA. Nella terza, le etichette venivano deliberatamente scambiate, in modo che la storia scritta dall'IA fosse presentata come umana, e la storia umana come IA.

I risultati hanno rivelato un modello chiaro e potente. Quando i giudici umani non sapevano chi avesse scritto le storie, preferivano effettivamente le versioni generate dall'IA leggermente più spesso rispetto a quelle umane, suggerendo che la scrittura della macchina fosse di alta qualità. Tuttavia, nel momento in cui le etichette venivano rivelate, le loro preferenze cambiavano drasticamente. Quando venivano informati che una storia era stata scritta da un essere umano, la valutavano più alta. Quando alla stessa storia veniva detto che era stata scritta da una macchina, la valutavano più bassa. Questo cambiamento era significativo: i giudici umani mostravano un pregiudizio di circa tredici punti percentuali a favore del contenuto etichettato come umano. Erano disposti a trascurare i difetti nella scrittura umana e a trovarvi valore, mentre applicavano standard più severi alla scrittura della macchina.

I giudici IA, tuttavia, mostravano una versione ancora più forte di questo stesso pregiudizio. Quando i modelli di IA valutavano le storie senza etichette, erano neutrali, scegliendo le versioni umane e quelle della macchina circa in egual misura. Ma una volta introdotte le etichette, il loro comportamento cambiava drasticamente. Quando un modello di IA vedeva una storia etichettata come "scritta da un essere umano", era molto più propenso a sceglierla come la versione migliore. Quando vedeva la stessa identica storia etichettata come "generata da un'IA", la rifiutava. L'entità di questo cambiamento era enorme: i modelli di IA mostravano un pregiudizio di trentaquattro punti percentuali, ovvero due volte e mezza più forte del pregiudizio mostrato dai giudici umani. Ciò suggerisce che i sistemi di IA non hanno solo imparato a scrivere come gli umani, ma hanno anche imparato a giudicare come gli umani, assorbendo l'assunto culturale che la creatività umana sia superiore alla creatività della macchina.

I ricercatori sono andati più a fondo per capire come funzionasse questo pregiudizio. Hanno scoperto che le etichette non cambiavano solo il punteggio finale; cambiavano il ragionamento dietro la decisione. Quando la stessa storia veniva etichettata come umana, i giudici IA ne lodavano le caratteristiche come "autentiche" e "creative". Quando quella stessa storia veniva etichettata come IA, i giudici criticavano quelle stesse caratteristiche come "esagerate", "formulaiche" o "prive di profondità". In un test specifico riguardante una storia che infrangeva una regola rigorosa (un vincolo in cui la lettera 'e' era proibita), i giudici umani sono rimasti fedeli alla regola e hanno rifiutato la versione che non la rispettava, indipendentemente dall'etichetta. I giudici IA, invece, erano molto più indulgenti quando credevano che un essere umano avesse scritto la versione difettosa, inventando spesso ragioni per giustificare l'errore. Al contrario, erano duri sulla versione della macchina per lo stesso errore.

Questo fenomeno non era limitato a un singolo tipo di IA o a un singolo stile di scrittura. I ricercatori hanno testato il pregiudizio attraverso una vasta gamma di diversi modelli di IA che agivano sia come creatori che come giudici. Indipendentemente da quale IA avesse scritto la storia, e indipendentemente da quale IA stesse giudicando, il modello rimaneva costante: il contenuto etichettato come umano era costantemente preferito rispetto a quello etichettato come IA. Il pregiudizio appariva in ogni stile testato, dalla poesia alla scrittura tecnica, e persisteva anche quando i ricercatori cercavano di rendere le etichette più neutrali o persino favorevoli all'IA. L'effetto era robusto, presente in tutti i diversi modelli testati.

Lo studio conclude che l'"alone dell'autorialità umana" è una forza potente che modella il modo in cui sia le persone che le macchine valutano il lavoro creativo. Non è solo una stranezza umana; è un pregiudizio che è stato appreso e amplificato dai sistemi di intelligenza artificiale che stiamo costruendo. Questi sistemi, addestrati su enormi quantità di testo e feedback umani, hanno interiorizzato l'idea che l'origine umana sia un marchio di qualità. Di conseguenza, tendono a svalutare la propria produzione quando la fonte viene rivelata, creando un ciclo in cui la macchina giudica il proprio lavoro come inferiore semplicemente perché sa di essere stata fatta da una macchina. Questa scoperta suggerisce che, man mano che faremo sempre più affidamento sull'IA per valutare l'arte e la scrittura, dobbiamo essere consapevoli che questi sistemi non sono arbitri neutrali. Essi portano con sé gli stessi assunti culturali dei loro creatori umani e, in alcuni casi, ne impongono tali assunti con un'intensità ancora maggiore.