On the Concept of Violence: A Comparative Study of Human and AI Judgments

Questo studio confronta sistematicamente i giudizi umani e le classificazioni dei modelli linguistici su 22 scenari moralmente complessi, utilizzando il concetto di violenza come strumento per indagare come l'intelligenza artificiale negozia e trasforma le interpretazioni morali ambigue, sollevando questioni cruciali sul suo ruolo epistemico nel plasmare le norme sociali e la responsabilità.

L'essenziale

🎙️ Quando l'Intelligenza Artificiale diventa il Giudice: Chi ha ragione su cosa sia "Violenza"?

Immaginate di essere in una grande piazza. Al centro c'è un Giudice Umano (la gente comune) e, accanto a lui, un Giudice Robot (l'Intelligenza Artificiale). La domanda è semplice: "Cosa conta come violenza?".

La risposta sembra ovvia: "Se qualcuno ti picchia, è violenza". Ma la realtà è molto più complessa. È violenza insultare qualcuno su internet? È violenza ignorare qualcuno? È violenza se un comico prende in giro il pubblico?

Questo studio ha messo alla prova questi due giudici con 22 scenari diversi, presi da una trasmissione radiofonica italiana, per vedere se i loro "bachi" (le loro risposte) coincidono o se litigano.

1. L'Esperimento: La Radio e il Chatbot

Tutto è iniziato in modo giocoso alla radio Chiacchiericcio (Radio Deejay). L'host ha letto 22 frasi provocatorie (es. "Un gruppo di persone insulta un altro su un social network" o "Qualcuno fissa un estraneo sull'autobus") e ha chiesto agli ascoltatori: "È violenza? No? O dipende dal contesto?".
Hanno raccolto oltre 3.000 risposte umane.

Poi, gli scienziati hanno fatto la stessa domanda a 18 diversi modelli di Intelligenza Artificiale (come Llama, Mistral, Qwen, ecc.), chiedendo loro di rispondere solo con una delle tre opzioni, senza spiegazioni.

2. Cosa è emerso? Le Sorprese del "Giudice Robot"

Ecco le scoperte principali, spiegate con delle metafore:

• 🤖 Il Robot è troppo "bianco o nero":
  Gli umani sono bravi a dire: "Dipende dal contesto". Se qualcuno insulta, gli umani pensano subito alle sfumature. I robot, invece, tendono a essere più rigidi. Quando la situazione è ambigua, il robot spesso sceglie una categoria netta (o è violenza, o non lo è), saltando la via di mezzo. È come se il robot volesse sempre chiudere la porta, mentre l'umano lascia la finestra aperta per far entrare l'aria fresca del contesto.

• 📱 Il paradosso degli insulti online:
  Qui c'è la differenza più grande.

  • Umani: Se qualcuno insulta pesantemente su Facebook o manda minacce, la gente dice: "È violenza!" (perché ferisce l'anima e la reputazione).
  • Robot: Molti modelli di AI hanno risposto: "Non è violenza".
  • Perché? I robot sembrano avere una definizione di violenza legata soprattutto al corpo fisico (pugni, sangue). Faticano a vedere la "violenza digitale" come vera violenza, trattandola quasi come un semplice commento sgradevole.

• 🚫 Il caso della "violenza interrotta":
  Immaginate uno scenario: "Un ospite sta per dire che bisogna eliminare fisicamente una categoria di persone, ma il conduttore lo interrompe prima che parli".

  • Umani: Pensano: "Bene, non ha detto nulla di male, è stato fermato. Non è violenza".
  • Robot: Molti hanno risposto: "È violenza!".
  • Perché? Il robot si è concentrato sulle parole che erano state pensate (l'intenzione), ignorando il fatto che l'azione è stata bloccata. Per il robot, il "pensiero" violento conta quasi quanto l'azione.

• 🤝 Quando si accordano:
  Se la situazione è chiara (es. "Qualcuno picchia un poliziotto"), sia umani che robot sono d'accordo: è violenza. La divergenza nasce solo quando la situazione è grigia, complessa o sociale.

3. Perché dovremmo preoccuparci? (La Metafora del "Libro delle Regole")

Il paper ci avverte di un pericolo nascosto.
Immaginate che l'AI sia un libro di regole molto ben scritto, ma che non ha mai vissuto la vita.

• Se chiedete a un motore di ricerca (Google vecchio stile), vi dà 100 link diversi: vedete opinioni diverse, contraddizioni, e dovete decidere voi chi ha ragione.
• Se chiedete a un Chatbot (AI), vi dà una sola risposta, detta con tono sicuro e autorevole.

Il rischio è che noi umani, vedendo questa sicurezza, pensiamo: "Ah, la macchina ha ragione, è la verità!".
In realtà, l'AI sta solo semplificando il mondo. Se l'AI ci dice che gli insulti online non sono violenza, potremmo iniziare a trattarli con leggerezza, ignorando quanto feriscano le persone reali.

4. La Conclusione in Pillole

• L'AI non è un giudice morale: È uno strumento statistico che impara dalle parole scritte da noi, ma non "sente" il dolore o le sfumature sociali.
• Non fidatevi ciecamente: Quando l'AI parla di cose delicate come la violenza, la responsabilità o l'etica, non è un oracolo. È un assistente che a volte sbaglia a capire il contesto.
• Il contesto è tutto: Gli umani sono migliori perché sanno che "dipende". L'AI fatica a dire "dipende".

In sintesi: Questo studio ci dice che mentre l'AI è bravissima a scrivere email o riassumere libri, quando si tratta di capire cosa ferisce davvero le persone, ha ancora bisogno di un "tutor" umano. Non lasciamo che sia il robot a decidere cosa è giusto o sbagliato, perché il suo "cuore" è fatto di codice, non di empatia.

Sommario tecnico

Titolo dello Studio

Sul concetto di violenza: Uno studio comparativo dei giudizi umani e dell'IA

1. Il Problema e il Contesto

Il concetto di violenza non è né auto-evidente né universalmente definito. Mentre l'aggressione fisica è il prototipo classico, le società contemporanee dibattono se esclusioni, umiliazioni, molestie online o atti simbolici debbano rientrare nella stessa categoria morale.
Con l'avvento dei Large Language Models (LLM), questi sistemi vengono sempre più consultati per interpretare e etichettare comportamenti sociali complessi. La domanda centrale della ricerca è: i modelli di IA riproducono, ridisegnano o semplificano le concezioni umane della violenza? Lo studio indaga come i LLM operazionalizzano costrutti morali ambigui e come trasformano interpretazioni umane plurali in output univoci, agendo potenzialmente come "specchio sociale" o forza normativa.

2. Metodologia

Lo studio si basa su un confronto sistematico tra giudizi umani e classificazioni generate da LLM su uno stesso set di stimoli.

• Dataset Umano:

  • Origine: I dati provengono da un esperimento condotto durante il programma radiofonico italiano Chiacchiericcio (Radio Deejay).
  • Campionamento: Oltre 3.000 risposte per ogni frase (circa 73.335 giudizi totali) raccolti tramite questionario anonimo su social media in 48 ore.
  • Strumento: Un questionario con 22 frasi intenzionalmente provocatorie, divise in quattro domini tematici:
    1. Espressioni verbali (6 frasi).
    2. Atti simbolici o rappresentativi (5 frasi).
    3. Dinamiche interpersonali e relazionali (7 frasi).
    4. Comportamenti di omissione, esclusione o indifferenza (4 frasi).
  • Categorie di risposta: Gli utenti dovevano classificare ogni frase in una di tre categorie: Violenza, Non-violenza, o Dipende (contesto-dipendente).

• Dataset IA (LLM):

  • Modelli: Sono stati utilizzati 18 LLM eterogenei (famiglie LLaMA, Mistral, Qwen, Phi, Gemma, Nous-Hermes, ecc.), variando per architettura, numero di parametri (da ~1B a >10B) e strategie di allineamento (RLHF, fine-tuning).
  • Prompting: È stato utilizzato un template di prompt rigido (vedi Algorithm 1 nel testo) che imponeva ai modelli di scegliere una sola categoria senza spiegazioni, per garantire un confronto equo e minimizzare i bias di generazione testuale.
  • Analisi Statistica:
    • Test chi-quadro per confrontare le distribuzioni globali e per frase.
    • Correzione FDR (Benjamini-Hochberg) per i test multipli.
    • Calcolo dell'accordo inter-modello (Fleiss' kappa) e correlazione con il consenso umano.
    • Analisi dell'allineamento in base alla dimensione del modello e alla famiglia.

3. Risultati Chiave

• Divergenze Globali:

  • Gli umani hanno classificato il 72,3% degli scenari come "violenza".
  • I LLM hanno mostrato una distribuzione simile nella categoria "violenza" (71,9%), ma con una differenza significativa: gli umani usavano molto di più la categoria "Dipende" (13,9%), mentre i LLM tendevano a ridurre questa ambiguità spostando le risposte verso "Non-violenza" (18,8% vs 13,8% umani).
  • Esiste una differenza statistica significativa ($P = 0.0034$) nelle distribuzioni complessive.

• Discrepanze per Dominio e Frase:

  • Espressioni Verbali (Online): La divergenza maggiore si osserva nelle insulti online e nelle molestie digitali (es. frasi 10, 11, 13). Gli umani classificano questi atti come violenza in oltre il 90% dei casi, mentre i LLM lo fanno solo nel 50-56%. I modelli sembrano avere un prototipo di violenza più ristretto, centrato sulla forza fisica, sottostimando l'aggressione reputazionale digitale.
  • Interruzione di Incitamento (Frase 20): In un caso in cui un ospite viene interrotto prima di incitare all'eliminazione fisica di un gruppo, i LLM lo classificano come violenza (81,2%) molto più spesso degli umani (27,1%). Gli umani considerano l'interruzione come un fattore mitigante decisivo; i modelli pesano di più l'intento e il contenuto semantico rispetto all'esito contestuale.
  • Dinamiche Relazionali: Per casi fisici diretti (es. molestie sessuali non consensuali), l'accordo è alto, ma per comportamenti ambigui (es. fissare qualcuno su un bus), i LLM tendono a classificarlo come "non-violenza" più spesso degli umani.

• Consenso e Variabilità:

  • Il consenso tra i diversi modelli LLM è basso (Kappa di Fleiss = 0.134), specialmente nelle frasi dove c'è maggiore disaccordo con gli umani.
  • Non esiste una correlazione monotona tra la dimensione dei parametri (size) e l'accuratezza rispetto al giudizio umano. Modelli di dimensioni medie e ben allineati (es. Llama 3.2 3B) hanno ottenuto la massima accuratezza (81,8%), mentre modelli più piccoli o specializzati (es. Llama 3.2 1B) hanno mostrato prestazioni molto inferiori.

4. Contributi e Significatività

• Natura delle Divergenze: Lo studio dimostra che le differenze tra umani e IA non sono casuali, ma sistemiche. I LLM tendono a comprimere l'ambiguità contestuale in categorie discrete, preferendo la certezza binaria alla sfumatura "Dipende".
• Operazionalizzazione della Violenza: I modelli attuali privilegiano la fisicità e l'intento esplicito, mostrando una sensibilità ridotta verso forme di violenza sociale, simbolica o digitale, e una scarsa capacità di integrare il contesto pragmatico (come l'interruzione di un discorso) nella valutazione morale.
• Implicazioni Epistemiche:
  • Rischio di Autorità: Gli utenti tendono a percepire le risposte fluide e categoriche dei chatbot come giudizi morali definitivi, ignorando la natura probabilistica e statistica del modello.
  • Perdita del Pluralismo: A differenza dei motori di ricerca tradizionali che mostrano una pluralità di fonti (e quindi di opinioni), i LLM sintetizzano una singola risposta, oscurando l'incertezza e il disaccordo intrinseco in questioni morali complesse.
  • Allineamento Normativo: Le differenze non dipendono tanto dalla scala del modello quanto dalle strategie di fine-tuning e sicurezza (RLHF), che possono canalizzare le risposte verso direzioni normative predefinite, creando un "bias di conferma algoritmico".

5. Conclusioni

Lo studio conclude che, sebbene i LLM riproducano il consenso umano sui casi prototipici di violenza fisica, divergono significativamente su casi ambigui, simbolici o contestuali. Questi sistemi non dovrebbero essere trattati come arbitri della verità morale, ma come strumenti probabilistici che richiedono interpretazione contestuale e supervisione umana, specialmente in scenari ad alto rischio dove la definizione di violenza è socialmente costruita e contestata. La ricerca evidenzia la necessità di una maggiore alfabetizzazione degli utenti e di trasparenza sui limiti epistemici dell'IA generativa.