Jais 2: A Family of Arabic-Centric Open Large Language Models
Jais 2 é uma família de modelos de linguagem de grande escala abertos e comercialmente permissivos e centrados no árabe, incluindo uma variante de 70 bilhões de parâmetros, desenvolvida pela MBZUAI, Cerebras e Inception para entregar desempenho de ponta em benchmarks árabes e culturalmente fundamentados com alta velocidade de inferência em hardware Cerebras.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Imagine que você esteja tentando ensinar um robô a falar. Por muito tempo, os melhores professores foram majoritariamente falantes de inglês, então o robô aprendeu a falar inglês perfeitamente, mas tropeçou em outras línguas, especialmente em uma tão rica e complexa quanto o árabe. O árabe é como um oceano vasto, com uma versão de "águas profundas" formal usada para notícias e livros, e dezenas de dialetos de "águas rasas" usados na vida cotidiana, além de uma forma única de escrever que mistura letras e números. Até agora, a maioria dos robôs conhecia apenas as águas profundas ou tinha um vocabulário muito limitado. Este artigo apresenta o Jais 2, uma nova família de modelos de IA construída especificamente para mergulhar fundo no oceano árabe. Pense nestes modelos como estudantes superinteligentes que não apenas memorizaram um dicionário; eles cresceram ouvindo poetas, chefs, estudiosos religiosos e avós contando histórias de sonhos, enquanto aprendiam a falar tanto o árabe formal quanto seus muitos dialetos locais com fluência. O objetivo era criar uma IA que não apenas traduzisse palavras, mas que compreendesse verdadeiramente a cultura, a história e a alma do mundo de língua árabe.
Os pesquisadores por trás do Jais 2, uma equipe dos Emirados Árabes Unidos, da Inception e da Cerebras, construíram duas versões principais desta IA: um modelo menor e ágil de 8 bilhões de parâmetros e um gigante massivo de 70 bilhões de parâmetros. Eles não apenas ajustaram um robô existente; eles treinaram esses modelos do zero usando uma biblioteca massiva de mais de 600 bilhões de tokens árabes (pedaços de texto) e 1,6 trilhão de tokens de inglês e código. Para tornar isso eficiente, eles criaram um "vocabulário" personalizado de 150.000 palavras, como um dicionário especializado projetado apenas para o árabe, o que ajuda a IA a ler e escrever muito mais rápido. Eles também usaram uma receita de treinamento especial que envolveu alimentar a IA não apenas com fatos, mas com tarefas culturalmente específicas: aprender a interpretar sonhos, recitar poesia, identificar pratos regionais e responder perguntas sobre a lei islâmica.
Os resultados mostram que o Jais 2 é uma potência para o árabe. Quando testado em um ranking de modelos árabes de código aberto, a versão de 70 bilhões ocupou o primeiro lugar, superando outros modelos gigantes como o Llama 3 e o Qwen 2.5 na compreensão da cultura, dos dialetos e do conhecimento geral árabe. Mesmo a versão menor de 8 bilhões apresentou um desempenho superior à maioria dos outros modelos de seu tamanho. A IA não apenas se tornou boa em fatos; ela aprendeu a lidar com as nuances da língua, como identificar em qual dos 17 diferentes dialetos árabes uma frase foi escrita e entender a diferença entre um relatório de notícias formal e uma mensagem de texto casual. Ela também demonstrou fortes habilidades em inglês, provando que focar no árabe não a fez esquecer como falar a língua global. A equipe lançou os modelos para qualquer pessoa usar e até construiu um aplicativo de chat que roda em hardware superveloz, capaz de gerar 2.000 palavras por segundo. Embora a IA seja muito boa, os autores sugerem que ela ainda tem espaço para crescer, particularmente em matemática complexa e algumas tarefas específicas de leitura em inglês, mas representa um salto significativo para tornar a IA verdadeiramente acessível e culturalmente consciente para o mundo de língua árabe.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.