Plurification in/of language technology -- The integration of culture in next-generation AI

Sintesi Tecnica: La Plurificazione nella Tecnologia del Linguaggio

Problematica
Il saggio affronta la sfida critica di operazionalizzare la "cultura" all'interno del Natural Language Processing (NLP) e della Tecnologia del Linguaggio (LT). Gli approcci attuali spesso trattano la cultura come una variabile statica e misurabile o tentano di affrontarla semplicemente aggiungendo più esempi di "altre culture" ai dati di addestramento. Gli autori sostengono che ciò sia insufficiente perché la cultura è dinamica, internamente diversificata e profondamente intrecciata con potere, identità e contesto. I sistemi di NLP esistenti falliscono frequentemente nel modellare le norme sociali e le conoscenze pregresse che ne determinano l'interpretazione, finendo spesso per riprodurre i discorsi dominanti e sottorappresentare le voci minoritarie, le conoscenze locali e i significati culturalmente specifici. Il problema centrale è che l'allineamento culturale non può essere raggiunto attraverso un adattamento tecnico superficiale (ad esempio, il prompt design o la moderazione post-hoc), ma richiede un cambiamento fondamentale verso epistemologie plurali: permettere la coesistenza di molteplici modi di conoscere, radicati localmente, all'interno del design tecnologico.

Metodologia
Il satto adotta un approccio qualitativo basato su casi studio, fondato sull'antropologia della tecnologia. Utilizza un modello socio-tecnico di progettazione della tecnologia del linguaggio noto come le "cinque dimensioni dell'attività tecnologica" (Koch et al., 2024) per analizzare e sistematizzare metodicamente gli approcci esistenti alla cultura nell'NLP. Questo modello organizza l'analisi attraverso cinque livelli distinti:

1. Core Tecnologico: Software, architetture dei modelli, procedure di addestramento e strategie di decodifica.
2. Dominio della Conoscenza: Corpora, risorse linguistiche e categorie simboliche utilizzate per l'addestramento.
3. Ecologie della Conoscenza: Ambienti sociali, normativi e pragmatici più ampi (ad esempio, sistemi di conoscenza locale, quadri giuridici).
4. Economie Politiche: Pratiche di estrazione dei dati, lavoro di annotazione, finanziamenti e asimmetrie di potere.
5. Contesti d'Uso: Gli ambienti e le comunità reali in cui le tecnologie vengono implementate e interpretate.

Gli autori selezionano esempi specifici dalla ricerca NLP che dimostrano tentativi di integrare le dimensioni culturali attraverso questi livelli. I criteri di selezione si concentrano sulla capacità dell'intervento di ampliare il conteggio di lingue/conoscenze, di sfidare le assunzioni universalizzanti, di coinvolgere l'esperienza locale e di determinare se si tratti di una caratteristica incorporata o di un adattamento superficiale dell'output.

Contributi Chiave e Analisi
Il saggio sintetizza la ricerca per dimostrare come la "plurificazione" (l'integrazione di molteplici epistemologie) possa avvenire attraverso i cinque livelli, andando oltre il superficiale adattamento culturale:

• Livello 1 (Core Tecnologico): Il saggio evidenzia il lavoro sul Universal Knowledge Core (UKC) (Giunchiglia et al.), che propone uno strato semantico linguisticamente neutro. Inveve di porre l'inglese al centro come lingua pivot, l'UKC rappresenta il significato a livello di concetto, permettendo a molteplici lingue di mappare le proprie forme lessicali su una struttura condivisa. Ciò supporta relazioni multilingue many-to-many senza l'omogeneizzazione linguistica.
• Livello 2 (Dominio della Conoscenza): L'analisi si avvale del lavoro di Steven Bird che collega l'NLP alla documentazione linguistica, sottolineando che i dataset sono artefatti costruiti con storie sociali. Essa sostiene l'uso di "data statements" e di framework di annotazione formale per migliorare la disponibilità e l'interoperabilità delle risorse per le lingue a basse risorse. Viene citato anche il lavoro di Giunchiglia sugli ontologie per mostrare come le rappresentazioni concettuali strutturate possano allineare sistemi di conoscenza eterogenei senza forzarli in un unico schema normativo.
• Livello 3 (Ecologie della Conoscenza): Il saggio esamina i quadri normativi (ad esempio, i framework dell'Unione Africana per l'IA, le linee guida UNESCO) che promuovono un'IA consapevole della diversità. Tuttavia, nota criticamente che gli attuali framework guidati dalle grandi aziende rimangono spesso superficiali e orientati al profitto, creando una "crisi della governance dell'IA" in cui la conoscenza locale e regionale non viene adeguatamente integrata.
• Livello 4 (Economie Politiche): Gli autori analizzano la natura estrattiva dell'attuale LT, dove le comunità sono trattate come fonti di dati piuttosto che come co-progettisti. Citando Nekoto et al. e Bird, il saggio sostiene la necessità di una traduzione automatica partecipativa e di uno sviluppo linguistico sostenibile. Enfatizza la necessità di una compensazione equa, proprietà e condivisione dei benefici per il lavoro svolto nella raccolta e nell'annotazione dei dati, suggerendo un passaggio dall'ottimizzazione dei benchmark al beneficio della comunità.
• Livello 5 (Contesti d'Uso): Il saggio sostiene che l'appropriatezza culturale è situata e non può essere validata esclusivamente tramite metriche tecniche. Propone di trattare le comunità di parola come autorità epistemiche. La "plurificazione" a questo livello consiste nel creare "terzi spazi" in cui i framework locali strutturino gli obiettivi e la valutazione dei modelli, garantendo che i sistemi siano socialmente intelligibili e non estrattivi.

Risultati
L'analisi rivela che, sebbene la ricerca sull'NLP abbia fatto progressi verso sistemi culturalmente sensibili (ad esempio, modellazione dei dialetti, dati multilingue), la maggior parte degli interventi rimane parziale e focalizzata sui livelli di output o di rappresentazione. Questioni più profonde riguardanti il potere, la governance e il contesto sociale rimangono irrisolte. Il saggio rileva che:

• La cultura non è una variabile stabile, ma un fenomeno socio-tecnico dinamico.
• L'adattamento tecnico da solo (ad esempio, aggiungere più dati) non riesce ad affrontare le cause profonde del disallineamento culturale.
• La vera operazionalizzazione della cultura richiede un approccio riflessivo che navighi i limiti della formalizzazione computazionale.
• Gli approcci attuali spesso non riescono a tracciare il cambiamento culturale nel tempo o a tener conto degli elevati costi derivanti da tale processo.

Significatività e Rivendicazioni
Il saggio sostiene che operazionalizzare la cultura nell'NLP richieda un "approccio socio-tecnico plurale" piuttosto che una soluzione puramente tecnica. La sua significatività risiede nel riformulare la diversità culturale non come un problema di dati da risolvere con più esempi, ma come un orientamento di design che deve permeare tutti i livelli dell'attività tecnologica. Gli autori postulano che:

• La plurificazione è un processo continuo: Non è uno stato finale, ma un orientamento di design continuo che ridistribuisce l'autorità epistemica verso le comunità di parola.
• L'integrazione socio-tecnica è essenziale: L'NLP consapevole della cultura deve tenere conto dell'interazione tra algoritmi, dati, economie politiche e contesti locali.
• Limiti della Formalizzazione: La natura dinamica e sfaccettata dei contesti socio-culturali significa che la cultura può essere solo parzialmente formalizzata; il sistema deve rimanere rispondente al disaccordo e alla validità specifica del contesto.

In definitiva, il saggio sostiene che affinché la tecnologia del linguaggio sia veramente inclusiva, deve andare oltre l'"immaginario di una super-intelligenza" e abbracciare un design pluriversale che riconosca molteplici modi di conoscere, radicati localmente.