Beyond Scaling: Self-Evolving LLM Agents for Hardware Kernel Optimization via an Experience-Driven Workflow and Experience Graph Memory
O artigo apresenta o KOPE, um framework orientado por experiência que utiliza Memória de Grafo de Experiência e Gerenciamento de Contexto Ativo para permitir que agentes de LLM aprendam com trajetórias passadas de otimização de kernels de hardware, alcançando melhorias significativas de desempenho e eficiência de tokens sobre os baselines existentes sem exigir atualizações no modelo de fundação subjacente.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Fazer um chip de computador rodar mais rápido muitas vezes parece uma tentativa de ajustar o motor de um carro de corrida enquanto ele ainda está em movimento. O processo envolve escrever um pequeno pedaço de código, conhecido como kernel, que diz ao hardware exatamente como lidar com os dados. Este código deve ser compilado, testado para garantir que esteja correto e, então, medido para ver o quão rápido ele roda. Se o resultado não for perfeito, o código deve ser reescrito e o ciclo recomeça. Por décadas, este tem sido um trabalho para especialistas humanos altamente qualificados que entendem as peculiaridades específicas de cada novo design de chip. Recentemente, sistemas de inteligência artificial começaram a ajudar neste trabalho, usando poderosos modelos de linguagem para sugerir mudanças no código. No entanto, esses sistemas geralmente tratam cada tentativa como um novo começo. Eles não se lembram do que funcionou ou do que falhou em tentativas anteriores e não conseguem aprender facilmente com o hardware específico que estão tentando otimizar, especialmente quando esse hardware é novo e carece de uma grande biblioteca de exemplos existentes.
Uma equipe de pesquisadores desenvolveu uma nova abordagem que permite a um agente de inteligência artificial aprender com sua própria exploração, transformando cada tentativa e erro em uma lição permanente. Eles criaram um sistema chamado KOPE, que é um framework projetado para otimizar esses kernels de hardware ao construir uma memória de suas próprias experiências. Em vez de depender apenas do conhecimento já armazenado dentro do modelo de IA, o KOPE registra cada decisão que toma, o resultado dessa decisão e o caminho que percorreu para chegar lá. Ele armazena essa informação em um mapa estruturado que conecta uma escolha específica ao seu resultado, de forma muito semelhante a um viajante mantendo um diário detalhado de uma jornada, anotando quais caminhos levaram a becos sem saída e quais abriram novas portas. Quando o sistema enfrenta um novo problema, ele não começa do zero. Em vez disso, ele consulta este mapa para encontrar experiências passadas relevantes que correspondam à situação atual, injetando esse conhecimento específico em seu processo de pensamento antes de fazer uma nova sugestão.
Os pesquisadores testaram este sistema em um conjunto de cinquenta e três diferentes operações matemáticas usadas na computação moderna, executando-as em um tipo específico de chip de hardware da Huawei. Eles compararam este novo método com duas outras abordagens: uma que utilizava um agente de IA padrão sem este sistema especial de memória, e outra que utilizava uma IA poderosa projetada para um tipo diferente de chip de computador. Os resultados mostraram que o sistema com memória de experiência foi significamente mais bem-sucedido. Ele conseguiu produzir código funcional para quase todas as operações, enquanto o agente padrão falhou em resolver muitas delas. Mais importante ainda, o sistema que aprendeu com seu próprio histórico produziu um código que era, em média, 1,54 vezes mais rápido que o código produzido pelo melhor método concorrente. Esse aprimoramento aconteceu mesmo que o modelo de IA subjacente não tenha mudado; o sistema simplesmente tornou-se melhor ao lembrar o que havia aprendido.
Uma parte fundamental deste sucesso foi como o sistema geriu sua memória. Os pesquisadores descobriram que simplesmente despejar todas as experiências passadas na mente da IA de uma só vez era contraproducente, pois sobrecarregava o sistema com informação excessiva. Em vez disso, eles construíram um mecanismo que seleciona ativamente apenas as lições passadas mais relevantes para a tarefa específica em questão. Esta abordagem seletiva permitiu que o sistema resolvesse problemas com mais frequência, elevando sua taxa de sucesso de sessenta por cento para quase oitenta e cinco por cento, enquanto utilizava muito menos recursos computacionais para fazê-lo. O estudo também explorou se o conhecimento adquirido em um tipo de hardware poderia ajudar a otimizar um tipo completamente diferente de hardware. Eles descobriram que, embora a experiência do hardware original tenha ajudado o sistema a encontrar mais soluções funcionais no novo hardware, ela não tornou o código automaticamente mais rápido. O sistema ainda precisava aprender os detalhes específicos do novo hardware através de seus próprios testes para alcançar o melhor desempenho.
As descobertas sugerem que, para hardware que é novo ou carece de uma grande coleção de exemplos existentes, a capacidade de reter e reutilizar experiências específicas é mais valiosa do que simplesmente ter um modelo de IA maior ou mais inteligente. Ao manter um registro fixo do que funcionou e do que não funcionou, e ao escolher cuidadosamente quais lições aplicar a novos problemas, o sistema pode melhorar continuamente suas habilidades de otimização. Esta abordagem não exige que a IA seja retreinada ou que seu cérebro interno seja alterado; ela simplesmente precisa de uma maneira melhor de lembrar e aplicar o que aprendeu. Os pesquisadores demonstraram que este método pode ser aplicado em diferentes tipos de chips de computador e linguagens de programação, mostrando que o fluxo de trabalho é adaptável. Embora o sistema não tenha resolvido todos os problemas perfeitamente, ele provou que um agente de IA pode evoluir sua própria expertise através de um ciclo de ação, observação e memória, transformando o processo desordenado de tentativa e erro em um caminho confiável rumo a uma computação mais rápida e eficiente.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.