Maia 200: A Software Defined Dataflow System for Large-scale AI Acceleration
O artigo apresenta o Maia 200, um acelerador de IA de alto desempenho e eficiência energética que utiliza uma inovadora Arquitetura de Fluxo de Dados de Acesso Local Definida por Software (SDLA) para mudar de uma computação centrada em threads para uma computação centrada em movimentação de dados, entregando assim um paralelismo massivo e economias de custo significativas para cargas de trabalho de inferência de IA em larga escala.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
O mundo da computação está passando por uma mudança massiva, impulsionada por um novo tipo de software que pode escrever poesia, resolver problemas matemáticos complexos e gerar imagens a partir de descrições simples. Esses sistemas, conhecidos como modelos de linguagem de grande escala (LLMs), exigem uma quantidade enorme de poder computacional para funcionar. Durante anos, a indústria dependeu de uma forma específica de organizar chips de computador, uma que trata os dados como um fluxo de instruções esperando para serem processadas por um cérebro central. No entanto, à medida que esses modelos se tornam maiores e mais complexos, esse método tradicional está atingindo um limite. Os chips passam tempo demais esperando os dados chegarem em vez de realmente fazer a matemática, levando a sistemas que são incrivelmente caros para construir e operar, e que consomem quantidades vastas de eletricidade. O desafio central não é mais apenas sobre tornar a matemática mais rápida; é sobre mover os próprios dados de forma mais eficiente.
Uma equipe de pesquisadores da Microsoft introduziu uma nova abordagem para resolver este problema com um chip que chamam de Maia 200. Em vez de tentar forçar a antiga maneira de pensar a trabalhar mais arduamente, eles projetaram um sistema que muda as regras fundamentais de como um chip de computador lida com a informação. Eles chamam este novo design de arquitetura de "Fluxo de Dados de Acesso Local Definido por Software" (Software Defined Locally Accessed Dataflow). Em termos simples, isso significa que o chip é construído para mover os dados exatamente para onde eles precisam ir, exatamente quando precisam estar lá, sem esperar por um comando central para dizer o que fazer a seguir. Os pesquisadores provaram que este método permite que o chip realize cálculos com velocidade e eficiência energética muito maiores do que os designs anteriores, oferecendo uma solução que poderia alimentar a próxima geração de inteligência artificial sem os enormes custos e penalidades de energia que atualmente limitam a indústria.
Para entender por que isso importa, deve-se observar como os computadores modernos geralmente funcionam. Por décadas, o design padrão tem sido ter um processador central que busca dados de um grande banco de memória compartilhado, realiza algum trabalho sobre eles e depois os envia de volta. Isso funciona bem para muitas tarefas, mas para os cálculos massivos e repetitivos exigidos pela inteligência artificial, cria um gargalo. O processador frequentemente fica ocioso, esperando que os dados viajem pelo chip. A equipe da Microsoft percebeu que, para esses tipos específicos de cargas de trabalho, o caminho mais eficiente não é ter um único comandante central, mas sim dar aos dados suas próprias instruções. Eles criaram um sistema onde o movimento dos dados é programado explicitamente, permitindo que diferentes partes do chip trabalhem de forma independente e em paralelo. Isso desloca o foco do gerenciamento de fluxos de execução para o gerenciamento do próprio fluxo de informações.
O chip Maia 200 é a personificação física desta ideia. É uma peça massiva de silício, contendo mais de 140 bilhões de transistores, projetada especificamente para lidar com o trabalho pesado da inferência de inteligência artificial, que é o processo de usar um modelo treinado para gerar respostas. O chip é construído com uma estrutura interna única que divide sua memória em muitos pequenos bolsões especializados localizados logo ao lado das partes do chip que realizam a matemática. Isso é um afastamento deliberado do design tradicional de ter um único grande reservatório de memória. Ao manter os dados próximos de onde estão sendo usados, o chip evita o desperdício de energia e os atrasos de tempo associados ao longo deslocamento através do silício. Os pesquisadores descobriram que este design permite que o chip atinja níveis de desempenho que eram anteriormente considerados impossíveis dentro de seus limites de potência, entregando uma quantidade massiva de poder computacional enquanto permanece dentro de um orçamento de energia de 750 watts.
O que torna o Maia 200 verdadeiramente distinto é como ele lida com o movimento de dados. Em sistemas antigos, o computador frequentemente depende de um "cache", uma memória pequena e rápida que armazena automaticamente dados que ele pensa que o processador poderá precisar a seguir. Embora isso funcione bem para computação de propósito geral, a equipe da Microsoft descobriu que, para os padrões previsíveis e repetitivos da inteligência artificial, o cache automático é, na verdade, ineficiente. Ele adiciona complexidade e sobrecarga que tornam as coisas mais lentas. Em vez disso, o Maia 200 usa um sistema onde o programador diz explicitamente ao chip exatamente para onde mover os dados e quando. Isso pode parecer que tornaria a programação mais difícil, mas os pesquisadores projetaram uma nova camada de software que permite aos especialistas assumir o controle total do movimento de dados quando precisam de velocidade máxima, enquanto ainda oferece ferramentas mais simples para tarefas gerais. Esta abordagem dá ao chip um nível de precisência que os sistemas automáticos não conseguem igualar, permitindo que mantenha cada parte do processador ocupada e trabalhando em sua capacidade total.
O chip também é projetado para trabalhar perfeitamente com outros chips em um grande cluster. Os modelos de inteligência artificial são frequentemente tão grandes que não cabem em um único chip, exigindo milhares de chips trabalhando juntos. O Maia 200 inclui uma rede sofisticada construída diretamente no chip, permitindo que ele envie e receba dados de outros chips tão facilmente quanto move dados dentro de si mesmo. Os pesquisadores demonstraram que este sistema pode conectar milhares de chips, criando um supercomputador capaz de realizar quintilhões de cálculos por segundo. Eles testaram este sistema com modelos de inteligência artificial do mundo real, incluindo um modelo de linguagem de grande escala com bilhões de parâmetros, e descobriram que ele podia gerar texto a velocidades que são mais de 70 por cento do máximo teórico do hardware. Este é um feito significativo, pois mostra que a nova arquitetura não funciona apenas na teoria, mas desempenha de forma eficaz em cenários práticos e complexos.
Uma das descobertas mais importantes da pesquisa é o impacto no custo e na energia. A equipe calculou que, ao usar este novo design, eles podem reduzir o custo total de propriedade de um sistema de inteligia artificial de grande escala em 30 por cento e cortar o consumo de energia em 15 por cento em comparação com outros aceleradores disponíveis. Em uma indústria onde as contas de energia estão se tornando uma preocupação primária e a demanda por poder computacional cresce exponencialmente, essas economias são substanciais. Os pesquisadores alcançaram isso não tornando o chip menor ou mais barato de fabricar, mas tornando todo o sistema mais eficiente em seu trabalho. Ao eliminar o tempo e a energia desperdiçados movendo dados desnecessariamente, o chip faz mais trabalho com menos energia.
O Maia 200 representa um passo significativo à frente em como construímos computadores para o futuro. Ele se afasta da antiga ideia de um único cérebro central gerenciando tudo e abraça um modelo onde os dados fluem livremente e eficientemente através de uma rede de trabalhadores especializados. Os pesquisadores mostraram que, ao assumir o controle do movimento de dados e colocar a memória exatamente onde ela é necessária, é possível construir sistemas que são mais rápidos, mais baratos e mais eficientes energeticamente. À medida que a inteligência artificial continua a evoluir e a exigir mais potência, designs como o Maia 200 oferecem um caminho que é sustentável e escalável. O trabalho demonstra que o futuro da computação de alto desempenho reside não apenas em tornar a matemática mais rápida, mas em repensar como os próprios dados são gerenciados e movidos.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.