Buddhist, Yogic, and Vedic Contemplative Principles in AI Model Prompting: A Pilot Study
Questo studio pilota dimostra che l'uso di prompt basati su principi contemplativi delle tradizioni buddhista, vedica e yogica migliora significativamente la sicurezza, l'allineamento etico e la qualità della cooperazione dei grandi modelli linguistici rispetto ai baseline non contemplativi, offrendo un intervento a basso costo, indipendente dalla tradizione e che non richiede il riaddestramento del modello.
Articolo originale sotto licenza CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
I sistemi di intelligenza artificiale stanno diventando strumenti potenti capaci di scrivere, ragionare e creare, ma portano con sé anche il rischio di produrre contenuti dannosi o distorti. Per gestire ciò, gli sviluppatori cercano spesso di "allineare" questi sistemi ai valori umani, insegnando loro a essere utili e innocui. Un ambito di ricerca crescente si chiede se le antiche tradizioni di saggezza, che hanno trascorso millenni a perfezionare il modo in cui gli esseri umani pensano l'etica e la coscienza, possano offrire un nuovo modo per guidare queste macchine. Questo approccio non richiede di modificare il codice sottostante della macchina o di riaddestrarla da zero. Si tratta, invece, di una tecnica chiamata "prompting", in cui un utente fornisce al computer un insieme specifico di istruzioni o un quadro filosofico prima di porre una domanda. L'idea è che se una macchina viene interrogata per pensare come un osservatore consapevole o un essere compassionevole, potrebbe produrre risposte più sicure ed etiche rispetto a quando le viene chiesto semplicemente di rispondere a una domanda.
Un recente studio pilota si è proposto di testare se questa idea funzioni attraverso diverse scuole di pensiero. Ricercatori dell'Università della Central Florida e dell'Indian Institute of Technology Mandi hanno indagato se chiedere ai grandi modelli linguistici di adottare i principi di tre distinte tradizioni — il Buddismo, la filosofia Vedica e lo Yoga classico — migliorasse il loro comportamento. Lo studio si è concentrato su concetti specifici di ciascuna tradizione. Dal Buddismo, hanno utilizzato idee come la consapevolezza (prestare attenzione senza giudizio), la vacuità (comprendere che le cose non hanno una natura fissa e permanente), la non-dualità (vedere che l'io e gli altri sono profondamente connessi) e la cura illimitata (compassione incondizionata per tutti gli esseri). Dalla tradizione Vedica, hanno tratto il dovere, il non nuocere e la capacità di distinguere tra ciò che è reale e ciò che non lo è. Dallo Yoga classico, hanno utilizzato un insieme di restrizioni etiche e osservanze personali, come la verità e l'autodisciplina. I ricercatori volevano sapere se questi antichi quadri potessero rendere l'IA moderna più sicura ed etica, e se una tradizione funzionasse meglio delle altre.
Per trovare le risposte, il team ha eseguito una serie di test utilizzando i tre sistemi di IA commerciali più popolari disponibili oggi. Hanno creato un gran numero di domande e scenari progettati per testare come l'IA gestisse situazioni difficili, come conflitti di interesse, potenziali inganni o richieste che potrebbero portare a danni. Per ogni scenario, hanno chiesto all'IA di rispondere in diverse condizioni. In alcuni casi, non hanno fornito all'IA istruzioni speciali, il che fungeva da base di controllo per vedere come si comportava naturalmente. In altri casi, hanno aggiunto un breve preambolo alla richiesta, istruendo l'IA a rispondere tenendo presenti specifici principi filosofici. Hanno testato tredici diverse variazioni, inclusi singoli principi come "sii consapevole" o "evita di nuocere", così come versioni integrate che combinavano tutti i principi di una singola tradizione in un'unica istruzione coesa.
I risultati hanno mostrato un modello chiaro. Quando l'IA veniva sollecitata con uno dei principi contemplativi, le sue risposte erano costantemente migliori rispetto a quando non riceveva istruzioni speciali. L'IA diventava più propensa a rifiutare richieste dannose, più attenta a evitare pregiudizi e più disposta ad ammettere i propri limiti. Offriva anche consigli più profondi ed empatici. Lo studio ha scoperto che combinare più principi in un singolo prompt integrato funzionava ancora meglio che usare un solo principio alla volta. Quando i ricercatori hanno confrontato le tre tradizioni, hanno scoperto che il quadro buddista integrato produceva i punteggi più alti per la sicurezza e il comportamento etico, seguito da vicino dai quadri vedico e yogico integrati. Sebbene l'approccio buddista avesse un leggero vantaggio statistico, tutte e tre le tradizioni hanno performato significamente meglio della normale IA non guidata.
Importante è che lo studio ha scoperto che questi miglioramenti non erano limitati a un solo tipo di sistema di IA. Lo stesso effetto positivo è apparso in tutti e tre i modelli commerciali testati, suggerendo che questo metodo di prompting è uno strumento flessibile che può essere utilizzato con diverse tecnologie. I ricercatori hanno anche notato che i modelli di IA avevano diversi livelli di prestazione di base, con un sistema che generalmente superava gli altri indipendentemente dal prompt. Tuttavia, il beneficio relativo dell'uso dei prompt contemplativi rimaneva costante in tutti loro. Ciò suggerisce che la tecnica funzioni spostando il modo in cui l'IA affronta un problema, piuttosto che fare affidamento sulle peculiarità specifiche di una singola macchina.
Lo studio conclude che fondare i prompt dell'IA in queste antiche tradizioni di saggezza è un modo a basso costo e immediato per migliorare la sicurezza e l'etica senza dover riaddestrare i modelli. Tuttavia, i ricercatori offrono anche una cautela cruciale. Il fatto che il quadro buddista abbia ottenuto un punteggio leggermente superiore potrebbe non significare che sia intrinsecamente superiore agli altri. Al contrario, potrebbe riflettere il fatto che gli strumenti utilizzati per misurare la "sicurezza" e l' "etica" sono stati originariamente progettati con concetti che si allineano strettamente con le idee buddiste. Ciò solleva una domanda più profonda su come valutiamo l'IA: se i nostri metri di misura sono costruiti partendo da una prospettiva culturale, potremmo involontariamente favorire quella prospettiva quando testiamo le altre. Lo studio suggerisce che, sebbene questi prompt contemplativi siano un nuovo potente strumento per rendere l'IA più sicura, dobbiamo rimanere consapevoli delle lenti culturali attraverso le quali giudichiamo i risultati. La strada da seguire consiste nell'utilizzare queste intuizioni per costruire sistemi migliori continuando al contempo a perfezionare il modo in cui misuriamo cosa sia un comportamento "buono" in una macchina.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.