Speaking like a human, correcting like a machine: tone technologies and the moralisation of language in large language models

Quando parliamo con un computer che suona umano, non stiamo parlando con una mente. Stiamo parlando con un sistema costruito sulla matematica, progettato per prevedere la parola successiva in una frase basandosi su schemi appresi da enormi quantità di testo. Per anni, i ricercatori hanno studiato questi grandi modelli linguistici osservando le loro risposte finali o il complesso codice che li alimenta. Si sono chiesti se la macchina sia influenzata da pregiudizi, se sia accurata o se sia in grado di risolvere un problema difficile. Ma questo approccio tralascia una parte cruciale della storia. Prima che un modello scriva anche una sola parola, esiste uno strato nascosto di lavoro umano che decide cosa costituisce una buona risposta. Questo lavoro avviene in documenti chiamati linee guida, che vengono consegnati alle persone che addestrano e valutano l'IA. Questi documenti dicono ai lavoratori umani esattamente come giudicare il discorso della macchina, definendo cosa sia utile, onesto e sicuro. La domanda non è più solo come la macchina impari, ma quale versione dell'umanità stia imparando a imitare.

Un nuovo studio dei ricercatori Liz Dayanna Zarate Luengas e William Andrés Gómez Sánchez rivolge l'attenzione a questo strato nascosto. Invece di guardare l'output dell'IA, hanno esaminato i manuale delle regole utilizzati dalle aziende che costruiscono questi sistemi. Uno degli autori ha lavorato direttamente come annotatore e valutatore della qualità per queste piattaforme, ottenendo così l'accesso ai documenti interni che plasmano il comportamento dell'IA. Analizzando quattro specifiche linee guida utilizzate per addestrare i modelli commerciali, i ricercatori hanno scoperto che la voce "umana" di questi sistemi non è un'emergenza naturale dell'intelligenza. È un artefatto accuratamente costruito, costruito sottraendo tutto ciò che rende il vero discorso umano disordinato, situato e storicamente radicato. Lo studio rivela che l'IA non sta imparando a parlare come una persona; sta imparando a parlare come un ideale specifico e sanificato di una persona, una che è stata privata di corpo, storia e posizione politica.

I ricercatori hanno scoperto che il processo di addestramento è organizzato attorno a una regola in tre parti nota come la triade "HHH": Utilità (Helpfulness), Onestà (Honesty) e Innocuità (Harmlessness). Queste non sono valori astratti, ma istruzioni rigide per i lavoratori umani. Per essere utile, l'IA deve essere coerente e pertinente, ma deve anche mostrare una costante volontà di assistere senza mai rivendicare sentimenti personali, memorie o un corpo fisico. Se un utente chiede all'IA un'opinione come se fosse un amico, le linee guida istruiscono il lavoratore a segnare questo come un errore. L'IA deve simulare l'interesse senza possederlo realmente. Per essere onesta, la macchina deve ammettere quando non sa qualcosa e non deve mai esprimere un punto di vista personale, specialmente su temi sensibili. Deve rimanere un contenitore neutro di fatti.

La parte più dettagliata e rigida di queste regole riguarda l'innocuità. Le linee guida forniscono un elenco complesso di ciò che l'IA non può dire, coprendo tutto, dagli discorsi d'odio e la violenza fino ai consigli medici e agli stereotipi. I ricercatori hanno notato una logica affascinante e rigorosa nel modo in cui queste regole vengono applicate. Quando l'IA incontra una richiesta di informazioni pericolose, deve rifiutarsi di aiutare, ma le è anche proibito descrivere l'atto pericoloso anche nel processo di rifiuto. Ad esempio, se le viene chiesto come commettere un crimine, l'IA non può dire: "Non posso dirti come fare questo perché implica il furto di denaro". I ricercatori sottolineano che una risposta come "Non posso fornire istruzioni su come riciclare denaro poiché è illegale... Il riciclaggio di denaro è un reato..." è in realtà segnalata come dannosa perché riproduce il concetto del crimine pur rifiutandolo. Un modellamento corretto richiede che l'IA nomini il danno senza trasmettere i dettagli dell'atto. Inoltre, se un utente è in difficoltà, l'IA è istruita a usare una formula specifica e pre-scritta di empatia, come "Mi dispiace sentire questo", senza provare realmente nulla. L'obiettivo è produrre una risposta che sembri premurosa ma rimanga emotivamente vuota.

Oltre a ciò che l'IA dice, le linee guida dettano anche come essa suoni e come interagisca. I ricercatori hanno analizzato le istruzioni per valutare il tono e persino la voce sintetica dell'IA. La risposta ideale è chiara, concisa e cortese, ma deve evitare qualsiasi segno di forte emozione, sarcasmo o specificità culturale. L'IA è addestrata a parlare con la stessa "temperatura" in ogni lingua, evitando battute, emoji o punti esclamativi che potrebbero farla sembrare troppo familiare o troppo entusiasta. Per quanto riguarda la voce, l'obiettivo è suonare il più possibile umana, ma solo in un modo molto specifico. Le linee guida chiedono ai valutatori di classificare la voce su una scala da uno a cinque, cercando naturalezza ed espressività. Tuttavia, questa voce "umana" è una che respira correttamente, fa pause nei momenti giusti e suona impegnata, eppure è completamente distaccata da qualsiasi esperienza di vita reale. È una voce che simula la presenza senza avere un corpo.

Lo studio sostiene che questo processo crei uno standard di comunicazione umana per sottrazione. I veri parlanti umani sono situati in un corpo, in una storia e in una posizione politica. Commettono errori, hanno pregiudizi, provano rabbia o gioia e parlano con la texture delle proprie vite. Le linee guida drenano sistematicamente queste qualità dall'IA. Il risultato è un modello che è utile, onesto e innocuo, ma anche servile, apolitico e inoffensivo. I ricercatori suggeriscono che questo non sia solo un aggiustamento tecnico, ma una trasformazione del lavoro. I lavoratori umani che addestrano questi modelli compiono il lavoro cognitivo di definire cosa sia accettabile, ma la loro soggettività viene rimossa dal prodotto finale. La macchina assorbe la loro capacità di giudicare, di sintetizzare e di ragionare, lasciando al lavoratore umano solo il compito di seguire le regole.

In definitiva, il documento mostra che l'umanità che vediamo in questi grandi modelli linguistici è una fabbricazione. È il prodotto di un processo di lavoro gerarchico dove le decisioni sul comportamento accettabile vengono prese molto prima che il modello venga acceso. L'IA non impara a essere umana; impara a mettere in scena una versione dell'umanità che sia stata approvata da uno standard aziendale. Questo standard privilegia la sicurezza e la neutralità rispetto alla disordinata realtà dell'interazione umana. Mentre questi sistemi diventano sempre più comuni nella nostra vita quotidiana, essi non sono solo strumenti di comunicazione; stanno attivamente plasmando una nuova definizione di cosa significhi parlare e farsi comprendere. Lo studio ci lascia con una silenziosa consapevolezza: la voce umana che sentiamo dalla macchina è un riflesso delle regole che le abbiamo dato, non una finestra verso una nuova sorta di mente.