Ossetic-COT: Designing a morphologically annotated corpus and morphological analyzer for Ossetic

Sintesi Tecnica: Ossetic-COT

Problematica
L'osseto, una lingua iranica parlata principalmente nel Caucaso settentrionale, manca di un corpus morfologicamente disambiguato che aderisca allo schema Universal Dependencies (UD). Sebbene esistano due corpora preesistenti — l'Ossetic National Corpus (ONC) e il Corpus of Oral Texts (COT) — nessuno dei due soddisfa i requisiti per un'analisi morfologica di alta qualità. L'ONC si affida a un'annotazione automatica context-free (Uniparser-Morph), che produce tag ambigui con molteplici possibilità per parola. Il COT, composto da testi orali, contiene una glossa interlineare manuale ma offre solo un'annotazione incompleta e a grana grossa, difficile da convertire nei formati standard UD. Questa assenza di una risorsa standardizzata e disambiguata ostacola lo sviluppo di strumenti NLP e limita l'utilità del corpus per la ricerca linguistica ed educativa.

Metodologia
Gli autori affrontano questo vuoto costruendo un corpus morfologicamente annotato per il dialetto Iron dell'osseto e addestrando un analizzatore morfologico basato su BERT.

1. Costruzione e Annotazione del Corpus:

   • Fonte: Lo studio utilizza il COT (60.000 token), filtrando i contenuti in russo e mantenendo 5454 frasi (73.042 token).
   • Flusso di Conversione: Il processo ha previsto cinque fasi: filtraggio dei contenuti in lingua non target; segmentazione e tokenizzazione manuale delle frasi; mappatura dei tag originali sull'inventario UD v2 (arricchendo le voci pronominali sottospecificate e aggiungendo i valori delle feature mancanti); raffinamento manuale da parte di esperti in morfologia osseta; e conversione automatizzata nel formato CoNLL-U.
   • Linee Guida per l'Annotazione: Per far fronte alle specifiche idiosincrasie linguistiche dell'osseto, gli autori hanno esteso le linee guida standard UD:
     • Disambiguazione POS: Implementazione di regole dipendenti dal contesto per distinguere tra NOUN, ADJ, ADV e ADP per i sostantivi che mancano di confini morfologici chiari (ad esempio, distinguere aggettivi da avverbi in base alle strutture dipendenti).
     • Ausiliari: Introduzione di un tag AUX distinto per i verbi leggeri nelle proposizioni complesse, copule e costruzioni analitiche, distinguendoli dai verbi lessicali.
     • Pronomi: Adozione di un approccio basato sul contesto in cui i determinativi che fungono da argomenti verbali sono etichettati come PRON.
     • Sistema dei Casi: Aggiunta dei casi Dir (direttivo) e Rcs (recessivo). Fondamentalmente, gli autori hanno introdotto Num (numerativo) come valore della feature Case per distinguerlo dal genitivo, in particolare per oggetti inanimati contati, applicando i principi del Differential Object Marking (DOM).
     • Forme Non Finite: Estensione della feature VerbForm per includere Inf2, Part2, Dest e Red (riduplicato) per coprire l'ampio repertorio di forme non finite dell'osseto.
     • Prefissi: Introduzione delle feature Preverb=Yes e Prenoun=Yes per gestire i prefissi aspettoali e i prefissi nominali (ӕнӕ, ӕд) rispettivamente.

2. Addestramento del Modello:

   • Pre-training: Due modelli basati su BERT sono stati pre-addestrati sull'ONC non etichettato (circa 1 milione di frasi): un mBERT (multilingual BERT) standard e un "Ossetic BERT" con uno strato di embedding personalizzato e un tokenizer WordPiece addestrato sui dati osseti.
   • Fine-tuning: Entrambi i modelli sono stati sottoposti a fine-tuning sul nuovo dataset COT annotato per il compito di etichettatura morfologica. I modelli sono stati valutati utilizzando una divisione train/validation/test (8:1:1).

Contributi Chiave

• Corpus Ossetic-COT: La creazione del primo corpus morfologicamente annotato per l'osseto Iron conforme allo schema UD v2, contenente 5454 frasi disambiguate manualmente.
• Framework di Annotazione: Un insieme di linee guida di annotazione specifiche per la lingua che risolvono le ambiguità inerenti alla morfologia osseta (ad esempio, il confine fluido tra le parti del discorso, il caso numerativo e le forme verbali non finite).
• Analizzatore Morfologico di Base: Un analizzatore morfologico basato su BERT addestrato che funge da benchmark per la lingua.

Risultati

• Performance: L'analizzatore basato su mBERT ha raggiunto un'accuratezza dei tag a livello di parola del 95,60% e un'accuratezza della frase del 61,54%. Il modello personalizzato "Ossetic BERT" ha ottenuto una performance leggermente inferiore (95,47% di accuratezza), portando gli autori a selezionare il modello mBERT come baseline finale.
• Analisi degli Errori: Il modello ha performato bene sulla maggior parte delle categorie di parti del discorso, ma ha incontrato difficoltà con specifiche omonimie, in particolare tra Noun/Adp, GEN/NUM e varie combinazioni di persona/numero. Gli autori attribuiscono questi errori alla scarsità di dati, ai limiti lessicali del corpus orale e alle ambiguità intrinseche dove il contesto è insufficiente per una disambiguazione definitiva.
• Estrazione delle Feature: Il modello ha risolto con successo la maggior parte delle feature morfologiche, sebbene persistano errori nell'identificare specifiche forme verbali non finite e nel distinguere l'uso di ausiliari rispetto a quello di verbi lessicali.

Significatività e Rivendicazioni
L'articolo sostiene che il corpus Ossetic-COT e il relativo analizzatore rappresentino un passo fondamentale per l'NLP osseto. Il corpus è presentato come una risorsa adatta per l'addestramento di tagger morfologici neurali, per condurre ricerche linguistiche e per applicazioni educative, poiché la sua annotazione cattura la maggior parte delle caratteristiche morfologiche della lingua. Gli autori posizionano modestamente il modello fornito come un "iniziale tagger morfologico neurale" e un benchmark per valutare la complessità del dataset. Essi notano esplicitamente che le prestazioni del modello potrebbero degradare su dati fuori dominio o registri letterari complessi a causa della natura orale e della limitata diversità lessicale dei dati di addestramento (COT), identificando l'integrazione dei dati letterari dall'ONC come la direzione primaria per il lavoro futuro.