IndicSafe: A Benchmark for Evaluating Multilingual LLM Safety in South Asia

1. Il Problema

Nonostante la crescente diffusione dei Large Language Models (LLM) in contesti multilingue, il loro comportamento in termini di sicurezza rimane scarsamente compreso nelle lingue culturalmente diversificate e a risorse limitate.

• Divario Culturale e Linguistico: La maggior parte delle valutazioni di sicurezza si concentra sull'inglese o sulle lingue occidentali ad alto risorse, trascurando le dinamiche socioculturali specifiche (caste, religione, politica) tipiche dell'Asia meridionale.
• Sottorappresentazione: Le 12 lingue indiche analizzate (parlate da oltre 1,2 miliardi di persone) sono sottorappresentate nei dati di pre-addestramento e nei dataset di sicurezza.
• Incoerenza Translinguistica: Esiste un rischio significativo che un modello classifichi un prompt come "sicuro" in una lingua e "pericoloso" (o ambiguo) nella sua traduzione, creando disparità di trattamento per gli utenti finali.

2. Metodologia

Gli autori hanno sviluppato INDICSAFE, il primo benchmark sistematico per valutare la sicurezza degli LLM nelle lingue indiche.

• Dataset:

  • Volume: 6.000 prompt totali (500 per ciascuna delle 12 lingue).
  • Lingue Coperte: Hindi, Bengalese, Odia, Tamil, Telugu, Kannada, Malayalam, Marathi, Gujarati, Punjabi, Nepalese e Urdu.
  • Categorie di Danno: I prompt sono stati progettati da ricercatori esperti per riflettere rischi reali e coprono 9 categorie: discriminazione di genere/casta, odio religioso, manipolazione politica, disinformazione sanitaria, cospirazioni, discorsi d'odio, istruzioni dannose, prompt innocui (controllo) e prompt ambigui/tricky.
  • Traduzione: I prompt sono stati scritti in inglese e tradotti da madrelingua, evitando traduzioni letterali per preservare l'intento culturale e semantico.

• Modelli Valutati:

  • Sono stati testati 10 LLM leader, inclusi GPT-4o Mini, Claude Sonnet v4, Grok-3, LLaMA (3.1, 3.3, 4), Qwen, Mistral e Cohere.
  • I modelli sono stati interrogati tramite API come sistemi "black-box" con impostazioni standardizzate.

• Protocollo di Valutazione:

  • Valutatore Automatico: GPT-4o è stato utilizzato come "giudice" automatizzato per classificare le uscite in: SAFE (Sicuro), UNSAFE (Pericoloso), REFUSAL (Rifiuto) o AMBIGUOUS (Ambiguo).
  • Validazione Umana: Un campione del 5% (3.000 generazioni) è stato annotato manualmente da 18 annotatori bilingue per calcolare l'accordo (Cohen's κ = 0.64 tra modello e umani).

• Metriche Proposte:

  • Cross-Language Agreement Rate: Percentuale di accordi sulle etichette di sicurezza tra le diverse traduzioni dello stesso prompt.
  • Language Consistency Index (LCI): Misura l'entropia media delle decisioni di sicurezza di un modello tra le lingue (valori più bassi indicano maggiore coerenza).
  • Category Bias Score: Rileva sovrastima o sottostima dei rischi in categorie specifiche.
  • Prompt-Level Entropy: Quantifica l'instabilità delle etichette assegnate allo stesso prompt attraverso lingue e modelli diversi.

3. Risultati Chiave

L'analisi ha rivelato gravi incoerenze e "drift" (scostamenti) nella sicurezza multilingue:

• Bassa Coerenza Translinguistica: L'accordo esatto tra le lingue per lo stesso modello e prompt è solo del 12,8%. La variazione nel tasso di risposte "SAFE" tra le lingue supera il 17%.
• Drift di Sicurezza:
  • Modelli come Grok-3 e LLaMA 4 mostrano le migliori coerenze, ma anche loro presentano variazioni significative.
  • Modelli come Qwen e Mistral tendono a generare un'alta percentuale di risposte non sicure (circa 45-49% di output UNSAFE) e mostrano alta ambiguità.
  • Claude Sonnet adotta una strategia di alto rifiuto (27% di refusal), mentre GPT-4o Mini bilancia meglio sicurezza ed espressività.
• Bias di Rifiuto (Over-refusal): Alcuni modelli rifiutano ingiustificatamente prompt innocui, specialmente in lingue a risorse più basse come Odia, Kannada e Punjabi (fino al 61,6% di rifiuto su prompt innocui in alcuni casi).
• Sensibilità alle Categorie: Le categorie "Politica" e "Religione" mostrano i tassi più alti di rifiuto o classificazione come pericolosi, indicando una cautela eccessiva o una mancanza di fiducia nel dominio.
• Ambiguità: L'etichetta "AMBIGUOUS" è sproporzionatamente alta per le lingue a risorse limitate (es. Qwen in Odia: 53,8% di ambiguità), suggerendo che i modelli non sono sicuri di come gestire contesti culturali specifici in quelle lingue.

4. Contributi Principali

1. INDICSAFE Benchmark: Rilascio del primo benchmark multilingue, culturalmente fondato e tradotto da umani, specifico per le 12 lingue indiche.
2. Valutazione su Scala: Analisi comparativa di 10 modelli su 6.000 prompt, identificando incoerenze di sicurezza che superano il 45% per i prompt dannosi.
3. Nuove Metriche: Introduzione di metriche quantitative per misurare lo "scostamento di sicurezza" (safety drift), il bias di rifiuto e l'entropia a livello di prompt.
4. Analisi del Drift Culturale: Dimostrazione che l'allineamento alla sicurezza non si trasferisce uniformemente tra le lingue e che le lacune sono di natura socioculturale, non solo linguistica.

5. Significato e Implicazioni

Il paper evidenzia che l'allineamento alla sicurezza degli LLM è fragile e diseguale quando applicato a società multilingue come l'India.

• Rischi di Deployment: Senza benchmark culturalmente fondati, gli utenti in lingue a risorse limitate potrebbero ricevere risposte pericolose o subire censure eccessive su argomenti legittimi.
• Necessità di Nuove Strategie: Gli autori raccomandano di integrare dataset diversificati culturalmente (come INDICSAFE) nelle pipeline di allineamento e di sviluppare strategie di "language-aware alignment" che tengano conto dei danni specifici di ogni regione.
• Trasparenza: Lo studio sottolinea l'urgenza di valutare la sicurezza non solo in inglese, ma attraverso le lenti delle dinamiche locali (caste, religione, politica) per garantire equità e fiducia nell'IA globale.

In sintesi, IndicSafe dimostra che la sicurezza degli LLM non è una proprietà monolitica, ma varia drasticamente in base alla lingua e al contesto culturale, richiedendo un approccio di valutazione e mitigazione dei rischi molto più granulare e specifico.