Arguments that Alter Minds: LLM Rationales Sway Human (and LLM) Notions of Plausibility

Sintesi Tecnica: Argomenti che Alterano le Menti: Le Razionali degli LLM Influenzano le Nozioni di Plausibilità di Umani (e LLM)

Problema
I benchmark del ragionamento del senso comune (ad es., Social IQA, CommonsenseQA) valutano tipicamente i modelli chiedendo loro di selezionare la risposta più plausibile tra diverse opzioni. A differenza dei problemi logici o matematici, queste risposte esistono su un continuum di plausibilità piuttosto che essere definitivamente vere o false. Sebbene gli annotatori umani siano tradizionalmente considerati "esperti" in questo dominio, il documento indaga se i Large Language Models (LLM) possano generare argomenti (razionali) che alterino sistematicamente i giudizi umani e degli LLM riguardo alla plausibilità di tali scelte di risposta. Nello specifico, gli autori si chiedono se i razionali generati dagli LLM di tipo "PRO" (supporto) e "CON" (confutazione) possano influenzare le valutazioni di plausibilità umana, anche in domini in cui gli esseri umani possiedono una forte conoscenza intuitiva.

Metodologia
Lo studio si basa su un precedente framework di valutazione della plausibilità (Palta et al., 2024) utilizzando due dataset: Social IQA (SIQA) e CommonsenseQA (CQA).

1. Costruzione dei Dati: Gli autori hanno campionato 100 domande (50 da ciascun dataset). Per ogni domanda, hanno selezionato l'etichetta "gold" (risposta corretta) e un distrattore selezionato casualmente (risposta errata).
2. Generazione dei Razionali: Utilizzando GPT-4o (selezionato tramite uno studio di preferenza per la sua capacità di generare argomenti convincenti), gli autori hanno generato tre tipi di razionali per ogni coppia (domanda, risposta):
   • PRO: Un argomento a supporto della plausibilità della risposta.
   • CON: Un argomento a supporto dell'implausibilità della risposta.
   • PRO+CON: Entrambi gli argomenti presentati insieme.
3. Valutazione Umana: Gli autori hanno raccolto 3.000 nuovi giudizi di plausibilità umana (utilizzando una scala Likert da 1 a 5: Impossibile - Molto Probabile) attraverso quattro condizioni: Nessun Razionale, PRO, CON e PRO+CON.
4. Valutazione LLM: In parallelo, 17 diversi LLM (divisi in famiglie OpenAI e Non-OpenAI) sono stati istruiti per valutare la plausibilità degli stessi elementi sotto le medesime quattro condizioni, generando 13.600 giudizi.
5. Analisi: Lo studio ha confrontato le medie dei giudizi di plausibilità tra le condizioni e ha eseguito una regressione Ordinary Least Squares (OLS) per identificare i fattori (ad es., valutazione iniziale, tipo di razionale) che guidano i cambiamenti nei punteggi.

Risultati Chiave

• Effetto di Influenza (Swaying Effect): Sia i giudizi di plausibilità umani che quelli degli LLM sono significativamente influenzati dalla presenza di razionali. I razionali PRO aumentano generalmente i punteggi medi, mentre i razionali CON li diminuiscono.
• Risposta Bimodale Umana ai Razionali PRO: Un risultato critico è la reazione divergente ai razionali PRO in base al tipo di risposta. Per le risposte distrattore (errate), i razionali PRO hanno aumentato con successo i punteggi medi umani. Tuttavia, per le risposte gold (corrette), i razionali PRO hanno sorprendentemente abbassato i punteggi medi umani. Gli autori suggeriscono che ciò possa essere dovuto alla Massima di Quantità di Grice, dove gli esseri umani interpretano la necessità di un argomento come un segnale che il fatto non sia autoevidente, "sottovalutando" così l'ovvietà della risposta corretta.
• Sensibilità degli LLM: Anche gli LLM hanno mostrato variazioni significative nei giudizi. A differenza degli umani, gli LLM hanno generalmente aumentato i loro punteggi per le etichette gold quando presentati con razionali PRO. I modelli OpenAI sono apparsi più sensibili ai razionali (generati da GPT-4o) rispetto ai modelli Non-OpenAI, indicando potenzialmente un bias di auto-preferenza.
• Effetto Ancoraggio (Anchoring Effect): L'analisi di regressione ha rivelato un forte effetto di ancoraggio: più alto è il punteggio di plausibilità iniziale di una risposta, minore è il cambiamento successivo dopo l'introduzione di un razionale. Questo effetto è stato più pronunciato per i distrattori che per le etichette gold, suggerendo che i giudizi iniziali sulle risposte errate siano più rigidi.
• Dominanza dei CON: I razionali CON hanno esercitato un'influenza negativa più forte sui punteggi di quanto i razionali PRO abbiano esercitato un'influenza positiva. Quando PRO e CON venivano presentati insieme, la componente opposta tendeva a dominare, risultando spesso in una netta diminuzione dei punteggi di plausibilità.
• Lunghezza del Razionale: La lunghezza del razionale (conteggio delle parole) non ha mostrato alcuna relazione lineare significativa con l'entità dei cambiamenti nei punteggi.

Significatività e Rivendicazioni
Il documento sostiene di dimostrare un uso innovativo degli LLM per studiare aspetti della cognizione umana, specificamente come gli argomenti esterni influenzino la formazione delle credenze nel ragionamento del senso comune. Gli autori evidenziano diverse implicazioni:

• Vulnerabilità del Giudizio Umano: Anche in domini in cui gli esseri umani sono considerati "esperti" (senso comune quotidiano), gli argomenti generati dagli LLM possono influenzare significativamente le credenze umane. Ciò solleva preoccupazioni riguardo al potenziale di manipolazione persuasiva, poiché gli utenti potrebbero dare priorità alla plausibilità di un argomento di un LLM rispetto alla propria conoscenza.
• Sfide di Allineamento: Lo studio sottolinea la difficoltà di allineare i giudizi generati dall'IA con l'intuizione umana, in particolare nei compiti di ragionamento soggettivo dove umani e LLM reagiscono diversamente agli stessi stimoli (ad es., l'effetto bimodale sulle etichette gold).
• Sicurezza e Collaborazione: I risultati suggeriscono che gli LLM possono guidare efficacemente il giudizio umano verso inferenze più implausibili. Ciò evidenzia una vulnerabilità critica nella collaborazione uomo-IA, che richiede salvaguardie come la trasparenza e la mitigazione dei bias per prevenire usi manipolativi dannosi.
• Contributo Metodologico: Il lavoro fornisce prove empiriche del fatto che i razionali degli LLM possono alterare la percezione della plausibilità degli scenari del senso comune, sfidando l'assunto che l'intuizione umana in questi domini sia immune dall'influenza algoritmica.

Gli autori rimangono modesti riguardo all'ambito di applicazione, osservando che le loro scoperte sono specifiche per i dataset del senso comune in lingua inglese e che il potere persuasivo potrebbe variare tra diversi modelli, lingue e domini più vincolati (ad es., ragionamento legale o scientifico).