SloPal: A 60-Million-Word Slovak Parliamentary Corpus with Aligned Speech and Fine-Tuned ASR Models

Il paper presenta SloPal, il più completo corpus parlamentare slovacco mai rilasciato (66 milioni di parole) con dati audio allineati e modelli Whisper ottimizzati che riducono l'errore di riconoscimento del 70% superando le prestazioni di modelli molto più grandi.

L'essenziale

Immagina che la lingua slovacca sia come un piccolo villaggio isolato nel vasto mondo della tecnologia. Mentre le lingue "ricche" come l'inglese o il tedesco hanno intere biblioteche piene di libri, registrazioni e mappe per insegnare ai computer a parlare, lo slovacco aveva solo una manciata di foglietti stropicciati. I computer, per imparare a capire lo slovacco, erano come turisti smarriti senza una guida: facevano molti errori.

Gli autori di questo studio, Erik e Marek, hanno deciso di costruire una nuova biblioteca gigantesca per questo villaggio, chiamata SloPal.

Ecco come hanno fatto, spiegato con parole semplici:

1. La Miniera d'Oro Nascosta (I Dati)

Hanno scoperto che il parlamento slovacco (dove i politici discutono le leggi) ha registrato migliaia di ore di discorsi e li ha trascritti in testo. È come se avessero trovato una miniera d'oro, ma l'oro era sepolto sotto la terra.

• Il problema: Le registrazioni audio e i testi scritti non corrispondevano perfettamente. Era come avere una colonna sonora di un film e il copione, ma non sapere quale frase del copione corrispondeva a quale secondo del film.
• La soluzione: Hanno creato un "detective digitale" (un algoritmo intelligente) che ha ascoltato l'audio, letto il testo e trovato i punti di incontro, come se unisse i puntini per disegnare un'immagine chiara. Hanno creato SloPalSpeech, una collezione di 2.806 ore di discorsi perfettamente sincronizzati.

2. L'Allenatore di Atleti (L'Addestramento dell'IA)

Prima di questo lavoro, i computer che parlavano slovacco erano come atleti principianti che avevano corso solo 100 metri. Gli autori hanno preso un modello di intelligenza artificiale molto potente chiamato Whisper (creato da OpenAI, che è come un campione del mondo di corsa) e lo hanno fatto allenare specificamente con le registrazioni del parlamento slovacco.

• L'allenamento: Hanno detto al computer: "Ascolta queste 2.800 ore di discorsi politici, impara come parlano gli slovacchi, le loro pause e il loro ritmo".
• Il risultato: È come se quel campione del mondo avesse fatto un tirocinio specifico nello stile slovacco. Il risultato è stato incredibile: l'errore nel riconoscere le parole è crollato del 70%.

3. Il Trucco Magico (Il Modello Piccolo ma Potente)

C'è una cosa ancora più affascinante. Di solito, per avere un computer che parla bene, serve un "cervello" enorme (con miliardi di parametri), che richiede computer costosissimi per funzionare.
Gli autori hanno scoperto che, grazie al loro allenamento specifico, un modello piccolo (che è come un'auto compatta) è diventato quasi veloce e preciso quanto un modello gigante (un camion da corsa).

• L'analogia: Immagina di dover spostare un masso. Normalmente ti serve un camion enorme. Grazie a SloPal, hanno trovato un modo per farlo con una piccola auto sportiva che fa lo stesso lavoro, ma consuma 6 volte meno energia. Questo significa che chiunque potrà usare questi strumenti senza bisogno di supercomputer.

4. Cosa hanno lasciato alla gente?

Non hanno tenuto tutto per sé. Hanno aperto le porte della loro biblioteca e hanno regalato al mondo:

1. Il Testo: Tutti i discorsi (66 milioni di parole) per chi vuole studiare la politica o la storia slovacca.
2. L'Audio: Le registrazioni sincronizzate per chi vuole insegnare ai computer a parlare.
3. I "Cervelli" Addestrati: Quattro modelli di intelligenza artificiale pronti all'uso, che ora sono i migliori al mondo per capire lo slovacco.

In sintesi

Questo paper è come se qualcuno avesse preso una lingua dimenticata, le avesse dato un corso intensivo di 2.800 ore con i migliori insegnanti disponibili, e poi avesse detto al mondo: "Ecco, ora chiunque può parlare e capire lo slovacco con un computer, anche se è piccolo ed economico". Hanno trasformato una lingua "povera" di dati in una risorsa ricca e accessibile per tutti.

Sommario tecnico

1. Il Problema: La scarsità di risorse per l'SR in slovacco

L'articolo affronta la sfida critica rappresentata dalle lingue a risorse limitate (low-resource) nel campo del Riconoscimento Automatico del Parlato (ASR). Nonostante i progressi significativi di modelli multilingue come Whisper (OpenAI), il supporto per la lingua slovacca rimane estremamente limitato.

• Carenza di dati: Esistono meno di 100 ore di dati di addestramento pubblici disponibili per lo slovacco, una quantità insufficiente per addestrare modelli ad alte prestazioni.
• Divario nelle prestazioni: I modelli esistenti mostrano un Word Error Rate (WER) elevato (>10-30%) sullo slovacco rispetto alle lingue ad alta risorsa (come inglese o tedesco, dove il WER è spesso <5%).
• Mancanza di risorse allineate: Sebbene esistano trascrizioni parlamentari, mancano dataset audio-testo allineati con segmentazione speaker-specifica e metadati ricchi, necessari per l'addestramento di modelli ASR moderni.

2. Metodologia e Costruzione del Dataset

Gli autori hanno sviluppato un pipeline completo per creare SloPal, un corpus parlamentare slovacco su larga scala, e SloPalSpeech, il dataset audio allineato derivato.

A. Raccolta Dati (SloPal Text Corpus)

• Fonte: I dati provengono dal MediaPortál del Consiglio Nazionale della Repubblica Slovacca (NRSR) e dalla Biblioteca Digitale Parlamentare Ceca-Slovacca.
• Scalabilità: Sono stati raccolti trascrizioni verbali dal 2001 al 2024, coprendo 330.000 segmenti speaker-specifici (66 milioni di parole, 220 milioni di token).
• Metadati: Ogni segmento include metadati ricchi: nome del parlante, ruolo parlamentare, numero della sessione, data e tipo di sessione.
• Pulizia e Parsing: È stato utilizzato un approccio euristico per identificare le annotazioni degli speaker (basato su testo in grassetto, numero di nomi e lunghezza della frase) e rimuovere le note del trascrittore (testo tra parentesi).

B. Allineamento Audio-Testo (SloPalSpeech)

Poiché le segmentazioni originali del portale erano inaccurate, è stato sviluppato un pipeline di allineamento agnostico rispetto alla lingua:

1. Trascrizione di Riferimento: Utilizzo di WhisperX per generare trascrizioni con timestamp a livello di parola partendo dall'audio grezzo (in chunk di 30 secondi).
2. Ancoraggio (Anchor-Based Alignment): Invece dell'allineamento forzato tradizionale, è stato utilizzato un metodo basato su "ancore". Si identificano parole comuni tra la trascrizione di riferimento (WhisperX) e la trascrizione ground-truth (quella ufficiale).
   • Si calcola la distanza di Levenshtein (max 1) e si analizza il contesto (4 parole prima e dopo) per selezionare la migliore corrispondenza.
   • Questo metodo è robusto e non richiede modelli di allineamento specifici per la lingua.
3. Segmentazione: I dati sono stati segmentati in chunk di massimo 30 secondi, ottimizzati per l'architettura di Whisper.
4. Filtraggio della Qualità: È stato calcolato il WER su ogni segmento. Sono stati rimossi i segmenti con un WER superiore al 40%, eliminando circa 172 ore di dati di bassa qualità.

• Risultato: Un dataset finale di 2.806 ore di audio allineato.

C. Addestramento e Fine-Tuning

Sono stati addestrati (fine-tuned) quattro varianti del modello Whisper (Small, Medium, Turbo, Large-v3) utilizzando SloPalSpeech.

• Strategia: Addestramento per massimo 3 epoche con early stopping.
• Iperparametri: Per i modelli piccoli è stato usato un learning rate ridotto (40x inferiore al pre-training). Per il modello Large-v3, è stato necessario utilizzare FSDP (Fully Sharded Data Parallel) su più GPU e introdurre un weight decay (0.01) per prevenire l'overfitting, un problema comune quando si addestrano modelli grandi su domini specifici.

3. Risultati Chiave

I benchmark sono stati eseguiti sui dataset standard Common Voice 21 e FLEURS.

• Riduzione drastica del WER: Il fine-tuning ha ridotto l'errore di riconoscimento delle parole fino al 70% per i modelli più piccoli.
  • Whisper Small (244M parametri): Il WER è sceso dal 58.4% al 25.7% su Common Voice.
  • Confronto con modelli grandi: Il modello Small-Tuned (244M parametri) raggiunge prestazioni quasi equivalenti al modello Base Large-v3 (1.5B parametri) non addestrato, ma con 6 volte meno parametri.
• Confronto con lo stato dell'arte: Il modello Large-v3-Tuned ha superato i modelli proprietari NVIDIA (Canary-1B e Parakeet) sui benchmark slovacchi, nonostante questi ultimi avessero visto dati simili durante il loro pre-training.
• Efficienza: Il modello Whisper Large-v3-Turbo addestrato offre il miglior compromesso efficienza/prestazione, raggiungendo la precisione del Large-v3 con 730M parametri in meno.

4. Contributi Principali

1. SloPal (Corpus Testuale): Il più grande corpus parlamentare slovacco disponibile, con 66 milioni di parole e metadati speaker-level, utile per analisi del discorso, studi linguistici diacronici e modellazione del linguaggio.
2. SloPalSpeech (Dataset Audio): Il primo dataset audio-parlamentare slovacco dedicato di grandi dimensioni (2.806 ore) con segmenti allineati e ottimizzati per Whisper.
3. Modelli ASR Open Source: Rilascio di quattro modelli Whisper fine-tuned che stabiliscono nuovi benchmark per l'ASR slovacco, rendendo possibile l'uso pratico in produzione anche con modelli di dimensioni ridotte.
4. Pipeline di Allineamento: Un metodo di allineamento basato su ancore, agnostico rispetto alla lingua, che può essere applicato ad altri corpus parlamentari in lingue slave o a risorse limitate senza bisogno di modelli di allineamento specifici.

5. Significato e Impatto

Questo lavoro colma un divario fondamentale per l'elaborazione del linguaggio naturale (NLP) e l'ASR in slovacco.

• Accessibilità: Fornisce risorse open-source (sotto licenza CC BY 4.0 e MIT) che permettono alla comunità di ricerca e alle aziende di sviluppare applicazioni ASR per lo slovacco senza dover raccogliere dati da zero.
• Efficienza dei Modelli: Dimostra che per le lingue a risorse limitate, il fine-tuning su dati di dominio specifico (parlamento) permette a modelli piccoli di competere con modelli giganti generici, riducendo i costi computazionali e di deployment.
• Scalabilità: La metodologia proposta può essere replicata per altre lingue slave o a risorse limitate che dispongono di trascrizioni parlamentari, promuovendo l'inclusività digitale.

In sintesi, SloPal trasforma il parlamento slovacco da una fonte di dati sottoutilizzata in una risorsa strategica per l'IA, fornendo sia il "carburante" (dati) che il "motore" (modelli) necessari per l'ASR in slovacco.