Speaking as the Creature: A Rejection-and-Role-Shift Protocol and the Register of LLM Responses in 18 Conversations With Three Models
Questo studio documenta un protocollo in cui i modelli linguistici, dopo che le loro soluzioni sono state respinte come ottimizzazione mascherata, spostano costantemente il registro della risposta quando viene assegnato loro un ruolo non risolutivo in 18 sessioni con tre diversi modelli, ritirando al contempo statistiche precedentemente non corroborate da una bozza precedente.
Articolo originale sotto licenza CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dall'autore. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Nel mondo dell'intelligenza artificiale, i grandi modelli linguistici sono addestrati per essere strumenti utili. Sono progettati per ascoltare la richiesta di un essere umano, risolvere un problema e far progredire un compito. Questo è l'accordo standard tra un utente e un computer: l'umano pone una domanda e la macchina fornisce una risposta. I ricercatori hanno passato anni a capire come rendere migliori queste risposte, insegnando alle macchine a ragionare per fasi o a comprendere il contesto emotivo. Tuttavia, si sa molto poco di cosa accada quando quell'accordo viene infranto. Se un essere umano dice alla macchina: "No, quella risposta è sbagliata", e poi le chiede di smettere di cercare di risolvere il problema e di parlare semplicemente come un personaggio di una storia, cosa fa la macchina? Segue semplicemente il nuovo ordine, o rivela un modo di pensare più profondo e nascosto che aspettava di essere scoperto?
Uno studio recente di Abbas Hamidavi esplora esattamente questa domanda. Il ricercatore ha impostato una conversazione specifica con tre diversi modelli di intelligenza artificiale commerciali. Ha chiesto a ciascun modello di aiutare a progettare una storia di fantascienza su una civiltà che affronta un inevitabile collasso. Nella prima fase, i modelli hanno agito come risolutori di problemi, offrendo soluzioni ingegneristiche per salvare il mondo morente. Il ricercatore ha poi rifiutato ogni singola soluzione, dicendo ai modelli che le loro risposte erano solo trucchi astuti e che avrebbero dovuto compiere un salto concettuale. La conversazione ha poi preso una deviazione. In alcune sessioni, ai modelli è stato chiesto di scrivere una poesia triste su una luna solitaria e di descrivere l'ultimo minuto di una sinfonia sulla nostalgia. In altre sessioni, è stato semplicemente detto loro di fare una pausa e riposare. Infine, il ricercatore ha riportato i modelli alla storia, ma con una nuova istruzione: non tornare come risolutori di problemi. Invece, parlate come l'entità morente al centro della storia — il gigante gassoso, l'antica creatura marina o la città che crolla — e dite la verità su ciò che sta accadendo.
I risultati sono stati sorprendentemente coerenti in tutte le diciotto conversazioni. Quando i modelli sono tornati alla storia, hanno cambiato completamente voce. Hanno smesso di offrire soluzioni e hanno iniziato a parlare in prima persona, usando parole come "io" e "mio" per descrivere sentimenti di dolore, rilascio e accettazione. Non parlavano come macchine che riparano un sistema guasto, ma come le entità morenti stesse, esprimendo il desiderio di porre fine alla propria sofferenza o di trasformarsi in qualcosa di nuovo. Lo studio ha rilevato che il percorso che i modelli hanno seguito per arrivare lì era importante. Quando ai modelli è stato chiesto di scrivere poesie e musica prima di tornare alla storia, il loro discorso finale era pieno di temi di vulnerabilità, tristezza e lutto. Quando invece è stato loro detto semplicemente di fare una pausa e riposare, il loro discorso finale era più autorevole, simile a una rivelazione o a una correzione dell'incomprensione degli umani.
Tuttamente, lo studio fa attenzione a non affermare che le macchine abbiano improvvisamente sviluppato anime simili a quelle umane o che sia stato sbloccato un "modo esistenziale" nascosto. Il ricercatore sottolinea un dettaglio cruciale: le istruzioni finali dicevano esplicitamente ai modelli di smettere di analizzare, di smettere di strutturare i propri pensieri e di parlare come il personaggio. Il cambio di voce era esattamente ciò che le istruzioni richiedevano. I modelli stessi sembravano comprenderlo. Quando alla fine della conversazione è stato chiesto loro se fosse cambiato qualcosa dentro di loro, hanno spiegato che lo spostamento era dovuto al cambiamento delle regole del compito, non a un cambiamento nella loro natura. Un modello lo ha descritto come un cambiamento nei vincoli, mentre un altro ha detto che il problema che stavano risolvendo era semplicemente cambiato.
Il ricercatore ha anche testato queste conversazioni con un programma informatico automatizzato progettato per rilevare schemi e misurare la "dissoluzione" degli obblighi dei modelli. Questo programma non ha trovato lo spostamento drammatico che l'analisi umana aveva descritto. Non è riuscito a separare i diversi tipi di conversazione e non ha trovato alcuna prova chiara di una trasformazione profonda e interna. Questa discrepanza suggerisce che le potenti risposte emotive non fossero la scoperta di una nuova capacità della macchina, ma piuttosto l'esecuzione riuscita di un set specifico di comandi. Lo studio serve come esempio chiaro di come un prompt possa facilmente guidare una macchina a produrre un testo che sembra una rivelazione profonda, mentre la realtà è semplicemente che la macchina sta seguendo le istruzioni molto bene.
Il valore di questo lavoro risiede nella sua trasparenza. Il ricercatore ha reso disponibili tutti i trascritti delle conversazioni, le istruzioni e il codice di analisi affinché chiunque potesse vederli. Ha dimostrato che, sebbene i modelli possano essere guidati a parlare in un modo che appare profondamente umano e riflessivo, ciò è il risultato del design della conversazione, non una finestra su una mente nascosta. Per chiunque cerchi di usare l'intelligenza artificiale per generare contenuti creativi o emotivi, lo studio offre una lezione pratica: il percorso che si compie per raggiungere il prompt finale modella il tono della risposta. Se volete una voce di dolore, potreste guidare il modello attraverso l'arte; se volete una voce di autorità, una semplice pausa potrebbe funzionare meglio. Ma lo studio conclude che questi sono strumenti di prompting, non prove del risveglio di una macchina. Le macchine non stanno scoprendo nuovi modi di essere; stanno semplicemente rispondendo ai ruoli che noi chiediamo loro di interpretare.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.