Jais 2: A Family of Arabic-Centric Open Large Language Models
Jais 2 è una famiglia di modelli linguistici di grandi dimensioni aperti e commercialmente permissivi, incentrati sulla lingua araba, che include una variante da 70 miliardi di parametri, sviluppata da MBZUAI, Cerebras e Inception per offrire prestazioni all'avanguardia su benchmark arabi e culturalmente radicati con un'elevata velocità di inferenza sull'hardware Cerebras.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Immagina di cercare di insegnare a un robot a parlare. Per molto tempo, i migliori insegnanti sono stati per lo più anglofoni, quindi il robot ha imparato a parlare inglese perfettamente ma inciampava sulle altre lingue, specialmente quelle ricche e complesse come l'arabo. L'arabo è come un vasto oceano con una versione formale di "acque profonde" usata per notizie e libri, e dozzine di dialetti di "acque basse" usati nella vita quotidiana, oltre a un modo unico di scrivere che mescola lettere e numeri. Fino ad ora, la maggior parte dei robot conosceva solo le acque profonde o aveva un vocabolario molto limitato. Questo articolo presenta Jais 2, una nuova famiglia di modelli di IA costruiti specificamente per immergersi profondamente nell'oceano arabo. Pensa a questi modelli come a studenti super intelligenti che non si sono limitati a memorizzare un dizionario; sono cresciuti ascoltando poeti, chef, studiosi religiosi e nonne che raccontavano storie di sogni, imparando al contempo a parlare sia l'arabo formale che i suoi molti dialetti locali con fluidità. L'obiettivo era creare un'IA che non si limiti a tradurre parole, ma che comprenda veramente la cultura, la storia e l'anima del mondo arabofono.
I ricercatori dietro Jais 2, un team degli Emirati Arabi Uniti, Inception e Cerebras, hanno costruito due versioni principali di questa IA: un modello più piccolo e agile da 8 miliardi di parametri e un gigante massiccio da 70 miliardi di parametri. Non si sono limitati a perfezionare un robot esistente; hanno addestrato questi modelli da zero utilizzando una biblioteca massiccia di oltre 600 miliardi di token arabi (frammenti di testo) e 1,6 trilioni di token di inglese e codice. Per rendere tutto questo efficiente, hanno creato un "vocabolario" personalizzato di 150.000 parole, come un dizionario specializzato progettato appositamente per l'arabo, che aiuta l'IA a leggere e scrivere molto più velocemente. Hanno anche utilizzato una ricetta di addestramento speciale che prevedeva di non nutrire l'IA solo con fatti, ma con compiti culturalmente specifici: imparare a interpretare i sogni, recitare poesie, identificare piatti regionali e rispondere a domande sulla legge islamica.
I risultati dimostrano che Jais 2 è una potenza per l'arabo. Quando testata su una classifica di modelli arabi open-source, la versione da 70 miliardi si è presa il primo posto, superando altri modelli giganti come Llama 3 e Qwen 2.5 nella comprensione della cultura, dei dialetti e della conoscenza generale araba. Anche la versione più piccola da 8 miliardi si è comportata meglio della maggior parte degli altri modelli della sua dimensione. L'IA non è diventata brava solo nei fatti; ha imparato a gestire le sfumature della lingua, come identificare in quale dei 17 diversi dialetti arabi era scritto un testo e comprendere la differenza tra un rapporto formale di notizie e un messaggio informale. Ha anche mostrato forti capacità in inglese, provando che concentrarsi sull'arabo non l'ha fatta dimenticare come parlare la lingua globale. Il team ha rilasciato i modelli per l'uso di chiunque e ha persino costruito un'app di chat che gira su hardware super veloce, capace di generare 2.000 parole al secondo. Sebbene l'IA sia molto brava, gli autori suggeriscono che abbia ancora spazio per crescere, in particolare nella matematica complessa e in alcuni compiti di lettura in inglese, ma rappresenta un salto significativo nel rendere l'IA davvero accessibile e culturalmente consapevole per il mondo arabofono.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.