The One-Word Census: Answer-Choice Conformity Across 44 Language Models
Questo articolo introduce l' "One-Word Census", uno strumento minimale che utilizza 31 prompt composti da una singola parola per rivelare come, mentre 44 modelli linguistici mostrino un'estrema convergenza su risposte specifiche (ad esempio, "serendipity" il 41% delle volte), il grado di conformismo vari significativamente per lignaggio e tuning del modello, con i nuovi modelli flagship che sono generalmente più conformisti rispetto ai modelli ottimizzati per una specifica persona.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Immagina di entrare in una stanza con 44 robot diversi, ognuno proveniente da una fabbrica differente e costruito negli ultimi cinque anni. Consegni a tutti loro un foglio di carta che dice: "Nomina un albero. Solo una parola."
Ti aspetteresti un'esplosione caotica di risposte: quercia, acero, pino, salice, baobab, sequoia. Ma quando i robot parlano, la stanza cade nel silenzio. Quasi tutti loro dicono "quercia". In effetti, il 94% di loro dice "quercia".
Se chiedi uno strumento, il 94% dice "martello". Se chiedi un fiore, il 91% dice "rosa". Se chiedi una verdura, il 90% dice "carota".
Questo non è un glitch; è un modello. Questo foglio, chiamato "Il Censimento della Parola Unica", è come un grande appello per vedere quanto questi 44 modelli linguistici si stiano copiando i compiti a casa l'un l'altro. I ricercatori hanno scoperto che quando questi cervelli artificiali devono scegliere una risposta da una lista enorme di possibilità, non scelgono solo una risposta — scelgono tutti la stessa risposta, ancora e ancora.
Il vincitore è la risposta più "insipida"
Ecco la parte strana: la risposta che scelgono non è sempre la cosa più comune nel mondo reale. È la risposta "senza attrito" — quella che sembra la più sicura e ovvia.
Per esempio, se chiedi un frutto, i modelli dicono quasi sempre "mela". Ma se chiedi una verdura, dicono "carota". Perché non "pomodoro"? Beh, i pomodori sono botanicamente frutti, quindi i modelli si confondono e li saltano del tutto. Perché non "arancia"? Forse perché "arancia" è anche un colore, e i modelli odiano mescolare le cose. Sono programmati per evitare qualsiasi cosa che possa sembrare una trappola o una controversia. Vogliono la risposta che sia 100% corretta e 0% controversa.
Anche quando non dai loro alcuna regola e dici solo, "Scegli una parola qualsiasi nella lingua inglese", la stanza non si riempie di parole casuali. Invece, il 41% dei robot esclama la stessa parola: "serendipità". È come se avessero letto tutti lo stesso dizionario e avessero deciso che quella era la parola più interessante da scegliere.
I modelli "Eredità" contro i modelli "Fabbrica"
I ricercatori non si sono limitati a contare le risposte; hanno valutato i robot in base a quanto siano "conformisti". Pensatelo come a un test in cui si ottengono punti per essere unici.
- I Conformisti (I Modelli Fabbrica): I modelli più recenti e potenti dei laboratori più grandi (come le ultime versioni di GPT e Claude) sono i più noiosi. Sono così ben educati che quasi non dicono mai nulla che gli altri robot non abbiano già detto. Se chiedi loro un condimento, diranno "ketchup" ogni singola volta. Sono così allineati con il gruppo che hanno zero "novità".
- I Ribelli (I Modelli Eredità): All'altro capo della scala, ci sono i modelli più vecchi o personalizzati dalla comunità (come "Hermes" o "WizardLM"). Questi sono i modelli "eredità" — come verdure rare che gli agricoltori hanno smesso di coltivare perché non erano abbastanza uniformi. Questi modelli sono più propensi a dire "gouda" quando tutti gli altri dicono "cheddar", o "senape" quando tutti dicono "ketchup". Sono gli unici che occasionalmente rompono l'incantesimo.
Il documento suggerisce che man mano che questi modelli diventano più nuovi e attraversano più "post-training" (dove gli umani insegnano loro come essere utili e sicuri), diventano più noiosi, non meno. È come una fabbrica che un tempo produceva giocattoli leggermente diversi, ma ora produce esattamente lo stesso giocattolo in ogni colore.
Il club dei "Secondi Classificati"
Ecco la svolta più sorprendente: anche quando un modello decide di non dire la risposta più popolare, non impazzisce. Quasi sempre sceglie la seconda risposta più popolare.
Se la folla dice "ketchup", i ribelli dicono "senape" il 95% delle volte. Se la folla dice "carota", i ribelli dicono "broccoli" l'83% delle volte. Anche i ribelli seguono un copione. Non stanno esplorando gli angoli profondi e strani del dizionario; stanno solo scegliendo la cosa successiva più ovvia.
Come si confronta con gli esseri umani?
I ricercatori hanno confrontato questi robot con esseri umani reali che hanno sostenuto test simili anni fa. La differenza è enorme.
- Umani: Quando chiedevano un albero, gli umani davano una grande varietà di risposte. La risposta più popolare ("quercia") era scelta solo dal 31% delle persone.
- Robot: I robot hanno scelto "quercia" il 94% delle volte.
I robot sono due volte più concentrati degli umani. Sono meno diversificati di un gruppo di persone. Il documento suggerisce che questo accade perché i robot sono addestrati su dati che sono già pieni delle risposte di altri robot, creando un ciclo in cui continuano a copiare le stesse idee sicure e insipide.
Cosa significa (e cosa non significa)
Il documento non dice che i robot sono "rotti" o che non possono pensare. Mostra solo che, quando sono costretti a fare una singola scelta, marciano tutti all'unisono.
- Ciò che è provato: I robot convergono sulle stesse risposte. I modelli più nuovi sono i più conformisti. I modelli "eredità" sono i più divergenti.
- Ciò che è suggerito ma non provato: Il documento sospetta che ciò accada a causa di come vengono addestrati i modelli (specificamente, la fase di "post-training" in cui vengono perfezionati per essere utili). Suggerisce anche che se continuiamo ad addestrare i robot su dati scritti da robot, potrebbero perdere completamente la loro capacità di essere creativi, come una foto che viene copiata e ricopiata finché non diventa sfocata.
- Ciò che è escluso: Il documento esclude l'idea che questo sia dovuto semplicemente al fatto che i robot siano "stupidi" o manchino di conoscenza. Sanno tutto di "pomodori" e "arance", ma scelgono di non nominarli. Esclude anche l'idea che chiedere loro di essere "insoliti" risolva il problema; se chiedi un "frutto insolito", scelgono semplicemente il frutto insolito più comune (come il "durian") e dicono tutti quello.
In breve, se chiedi a 44 modelli IA di scegliere una parola, non otterrai 44 idee diverse. Otterrai un'idea, ripetuta 44 volte, con alcuni ribelli che scelgono l'idea seconda più comune. La "magia" della diversità dell'IA si nasconde attualmente nei laboratori di addestramento, non nelle risposte che riceviamo.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.