Native Multilingual Chain-of-Thought Reasoning in Low-Resource Southeast Asian Languages
Este artigo introduz o Onramp-Sequence Cross-Distillation (OSCD), um algoritmo de pós-treinamento que combina um loop de agente tradutor integrado com alinhamento semântico de incorporação conjunta para superar o colapso translinguístico e o esquecimento catastrófico, aumentando significativamente as capacidades de raciocínio matemático nativo em línguas do Sudeste Asiático de baixos recursos.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Imagine um mundo onde o seu personagem favorito de videogame só pudesse falar inglês, não importa em qual língua você falasse com ele. Se você fizesse uma pergunta em espanhol, ele entenderia as palavras, mas quando começasse a explicar a resposta, subitamente voltaria para o inglês para as partes de raciocínio complexo. Isso não é apenas um erro técnico; é um grande obstáculo no mundo da Inteligência Artificial, especificamente para os "Grandes Modelos de Linguagem" (LLMs). Estes são cérebros de computador superinteligentes que podem escrever histórias, resolver problemas matemáticos e conversar conosco. Para se tornarem realmente bons em resolver quebra-cabeças difíceis, eles usam um truque chamado "Cadeia de Pensamento" (Chain-of-Thought), que é como sussurrar seu processo de pensamento passo a passo para si mesmos antes de dar a resposta final. O problema é que, para muitas línguas ao redor do mundo — especialmente aquelas com menos recursos digitais, como as do Sudeste Asiático — esses cérebros de IA tendem a "colapsar" e sussurrar seus pensamentos em inglês, mesmo quando você pede para eles pensarem em tailandês, vietnamita ou indonésio. Isso faz com que a IA pareça menos um amigo local prestativo e mais um tutor distante que só fala inglês, o que é um grande problema para a educação e para a equidade.
Apresentamos um novo estudo realizado pelos pesquisadores Sean Gip Lim, William Chandra Tjhi e Hai Leong Chieu, que decidiram construir uma ponte para esses cérebros de IA. Eles criaram um método de treinamento inteligente chamado OSCD (Onramp-Sequence Cross-Distillation). Pense nisso como um treinador bilíngue que não apenas traduz a resposta final, mas que na verdade reescreve as "notas de pensamento" internas da IA na língua local, mantendo a solução correta intacta. Normalmente, quando você tenta ensinar uma nova língua a uma IA, ela fica confusa e esquece como ser inteligente em sua língua original (um problema chamado "esquecimento catastrófico"). Mas este novo método utiliza um "agente tradutor" especial para trocar as etapas de pensamento e uma "cola semântica" para garantir que o cérebro da IA ainda entenda a lógica, apenas em uma língua diferente.
Os pesquisadores testaram isso em alguns dos quebra-cabeças matemáticos mais difíceis disponíveis, como as competições AIME25 e HMMT25, que são como os Jogos Olímpicos para problemas de matemática. Eles pegaram modelos de IA poderosos que eram ótimos em matemática em inglês, mas terríveis em pensar em línguas do Sudeste Asiático, e deram a eles uma sessão de treinamento curta e intensa usando apenas 70.000 exemplos (o que é minúsculo comparado aos milhões geralmente necessários). Os resultados foram impressionantes: os modelos não apenas ficaram melhores em responder às perguntas; eles realmente começaram a pensar nas línguas locais. De fato, os modelos melhoraram sua capacidade de resolver esses problemas matemáticos enquanto permaneciam no idioma alvo em até 3,2 vezes. O mais emocionante é que eles conseguiram fazer isso sem perder sua inteligência original em inglês. O estudo sugere que, ao usar este "agente tradutor" e a "cola semântica", podemos finalmente dar à IA a habilidade de raciocinar naturalmente em línguas que foram deixadas para trás, tornando a tecnologia avançada acessível a todos, não apenas aos falantes de inglês.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.