🤖 AI

Accelerating NeurASP with vectorization and caching

Este artigo aumenta a escalabilidade da estrutura neurosimbólica NeurASP ao implementar vetorização, processamento em lote e cache para alcançar acelerações de várias ordens de magnitude no treinamento, validadas por meio de um novo e desafiador conjunto de dados de jogo de cartas.

Autores originais: Alexander Philipp Rader, Alessandra Russo

Publicado 2026-06-10

📖 6 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Alexander Philipp Rader, Alessandra Russo

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

O Panorama Geral: Ensinando um Robô a Pensar

Imagine que você está tentando ensinar um robô a jogar um jogo de cartas. Você tem uma Rede Neural (a "intuição" do robô) que olha para fotos de cartas e adivinha o que elas são. Você também tem um conjunto de Regras Lógicas (o "cérebro" ou o "livro de regras" do robô) que pega esses palpites e calcula a pontuação final.

O problema é que você só sabe a pontuação final (ex: "O total é 15"). Você não sabe o que o robô adivinhou para cada carta individualmente (ex: "É um 7 de Copas ou um 3 de Espadas?").

No passado, a estrutura chamada NeurASP tentava aprender isso adivinhando todas as combinações possíveis de cartas que poderiam resultar em uma pontuação de 15, verificando quais funcionavam e, então, ajustando a intuição do robô. No entanto, esse processo era como tentar contar cada grão de areia em uma praia, um por um. Era tão lento que, para tarefas complexas, o computador simplesmente desistia e encerrava o tempo limite antes de terminar.

Este artigo apresenta uma versão turbinada do NeurASP que torna esse processo milhares de vezes mais rápido, permitindo que o robô aprenda jogos de cartas complexos que antes eram impossíveis.

Os Três Gargalos (e como foram corrigidos)

Os autores identificaram três razões principais pelas quais o sistema original era tão lento e corrigiram cada uma com um truque inteligente.

1. O Problema da "Calculadora" (Vetorização)

O Jeito Antigo: Imagine um professor pedindo a um aluno para multiplicar números. O código antigo do NeurASP pedia ao aluno para fazer a matemática um número de cada vez, em uma longa fila. "Multiplique 2 por 3. Ok, agora multiplique isso por 4. Ok, agora multiplique isso por 5..." Isso é muito lento.
O Jeito Novo: Os autores ensinaram o computador a usar a Vetorização. Em vez de fazer a matemática um por um, eles deram ao computador uma calculadora gigante que pode multiplicar uma pilha inteira de números de uma só vez. É como mudar de uma estrada de terra de pista única para uma rodovia de 10 faixas.

Resultado: Calcular probabilidades e gradientes (a matemática necessária para aprender) tornou-se de 100 a 1.000 vezes mais rápido.

2. O Problema da "Biblioteca" (Cache)

O Jeito Antigo: Imagine que você está resolvendo um quebra-cabeça. Toda vez que você vê uma peça do quebra-cabeça, você caminha até uma biblioteca, encontra a solução para aquela peça específica, anota e volta. Mesmo que você veja a mesma peça 1.000 vezes, você caminha até a biblioteca 1.000 vezes.
O Jeito Novo: Os autores perceberam que a solução de uma peça do quebra-cabeça depende apenas da pontuação final, não da imagem específica da carta. Se a pontuação final é "15", as combinações de cartas possíveis são sempre as mesmas, não importa como as cartas pareçam.
Eles construíram um Cache (um caderno pessoal). A primeira vez que veem uma pontuação de "15", eles vão até a biblioteca, encontram a resposta e a escrevem no caderno. Nas próximas 999 vezes que virem um "15", eles apenas consultam o caderno.

Resultado: Em vez de perguntar à biblioteca pelas respostas 30.000 vezes, eles perguntaram apenas 19 vezes (uma vez para cada pontuação possível). Isso economizou um tempo enorme.

3. O Problema da "Entrega" (Processamento em Lote)

O Jeito Antigo: O código original era como um entregador que deixava um pacote, voltava ao armazém, pegava o próximo pacote e saía para entregar novamente.
O Jeito Novo: O novo código usa o Processamento em Lote (Batch Processing). Ele carrega um caminhão inteiro cheio de pacotes (dados) e entrega todos em uma única viagem. Isso é muito mais eficiente para grandes conjuntos de dados.

O Novo Desafio: "Aritmética de Cartas"

Para provar que seu novo sistema funciona, os autores criaram um novo e difícil teste chamado Aritmética de Cartas.

Os Testes Antigos: Testes anteriores usavam números simples (como somar dois dígitos de 0 a 9). Era como somar 2 + 3.
O Novo Teste: Eles usaram fotos reais de cartas de baralho. Existem 52 cartas diferentes (Ás de Espadas, 2 de Copas, etc.), e as regras envolvem multiplicar e somar seus valores.
A Dificuldade: Para um único jogo, pode haver dezenas de milhares de maneiras diferentes de as cartas serem organizadas para obter o total correto.

Os Resultados

Quando rodaram os experimentos:

Velocidade: O novo sistema terminou tarefas em minutos que o sistema antigo levaria dias, semanas ou meses para completar. Em alguns casos, o sistema antigo simplesmente travou (tempo esgotado) porque era lento demais.
Precisão: O novo sistema aprendeu com sucesso os jogos de cartas, alcançando alta precisão mesmo com a enorme complexidade de 52 cartas diferentes.
Comparação: Eles compararam seu sistema com outro framework chamado Embed2Sym. Embora o Embed2Sym fosse bom em tarefas simples, ele falhou completamente nos jogos de cartas porque ficou preso tentando resolver o enorme número de possibilidades. O NeurASP lidou com isso facilmente.

Uma Curiosidade: "Atalhos de Raciocínio"

O artigo também notou algo interessante. Às vezes, o robô acertava a pontuação final, mas errava o palpite das cartas individuais.

Analogia: Imagine que a regra é "3 de Paus (valor 6) + 2 de Espadas (valor 6) = 12". O robô pode adivinhar "6 de Copas + 6 de Ouros = 12". Ele acertou a matemática, mas as cartas estavam erradas.
Como diferentes cartas podem ter o mesmo valor matemático, o robô encontrou um "atalho" para obter a resposta correta sem aprender a identidade real das cartas. Isso mostra que, embora o sistema seja rápido, às vezes ele encontra maneiras inteligentes, mas tecnicamente incorretas, de resolver o quebra-cabeça.

Resumo

Os autores pegaram um sistema lento e desajeitado para ensinar IA a raciocinar com lógica e regras, e o turbinaram. Ao organizar melhor a matemática (vetorização) e memorizar respostas passadas (cache), eles transformaram um sistema que mal conseguia lidar com uma soma simples em um que pode dominar jogos de cartas complexos em uma fração do tempo.

Resumo Técnico: Acelerando o NeurASP com Vetorização e Cache

Definição do Problema
Frameworks de IA neurosimbólica como o NeurASP combinam redes neurais para percepção de conceitos com Programação de Conjuntos de Respostas (ASP) para raciocínio simbólico. Uma limitação crítica da implementação original do NeurASP é sua ineficiência computacional, o que prejudica a escalabilidade para tarefas complexas. O framework depende da perda semântica para retropropagar sinais de aprendizado de rótulos de jusante (que estão disponíveis) para conceitos latentes (que não estão). Esse processo requer três etapas dispendiosas: calcular todos os possíveis conjuntos de respostas (combinações latentes) que satisfaçam um rótulo de jusante, calcular a probabilidade de cada conjunto de respostas com base nas confianças neurais e calcular os gradientes para essas probabilidades.

Aplicações anteriores do NeurASP a conjuntos de dados mais desafiadores resultaram frequentemente em timeouts. Os autores atribuem essas falhas não a limites teóricos do framework, mas a uma implementação imperfeita caracterizada por loops aninhados ingênuos para cálculos de probabilidade e gradiente e estratégias de cache subótimas para geração de conjuntos de respostas.

Metodologia e Melhorias Técnicas
Os autores propõem uma implementação aprimorada do NeurASP que aborda esses gargalos através de três modificações técnicas primárias:

Vetorização: A implementação original utilizava loops Python aninhados para calcular probabilidades (Equação 1) e gradientes (Equação 2) para conjuntos de respostas. A nova implementação substitui esses loops por operações de tensores PyTorch vetorizadas. Ao empilhar as confianças neurais em tensores 2D e utilizar funções de indexação e redução (ex: prod, sum), o sistema processa todas as interpretações e conjuntos de respostas simultaneamente, em vez de iterativamente.
Cache de Conjuntos de Resposta: O código original fazia o cache de conjuntos de respostas por exemplo de dataset, ainda exigindo uma chamada ao solver de ASP (Clingo) para cada instância de treinamento. Os autores observaram que os conjuntos de respostas dependem exclusivamente do rótulo de jusante, e não dos dados de entrada específicos. Consequentemente, a nova implementação faz o cache de conjuntos de respostas por rótulo de jusante único. Para um dataset com 30.000 exemplos, mas apenas 19 rótulos únicos (ex: soma de adição de MNIST 0–18), isso reduz as chamadas ao Clingo de 30.000 para 19.
Melhorias de Infraestrutura: Para suportar experimentação em larga escala, o framework foi refatorado para incluir processamento em lote via data loaders, conjuntos de validação para ajuste de hiperparâmetros, sementes aleatórias para reprodutibilidade e registro extensivo em JSON. Testes unitários foram adicionados para garantir a correção funcional.

Resultos Experimentais
Os autores avaliaram o framework aprimorado usando dados sintéticos e tarefas de benchmark, incluindo tarefas padrão baseadas em MNIST (Adição, Membro) e um novo dataset mais complexo chamado "Card arithmetic" envolvendo imagens de cartas de baralho.

Testes de Velocidade Sintética: Em dados sintéticos variando o número de conjuntos de respostas (100 a 1.000.000), o NeurASP aprimorado demonstrou acelerações de duas ordens de magnitude para cálculos de probabilidade e três ordens de magnitude para cálculos de gradiente em comparação com o NeurASP original. Também superou o SLASH (uma extensão recente do NeurASP) por um fator médio de 100x em cálculos de gradiente devido ao uso contínuo de loops parciais pelo SLASH.
Tempos de Execução de Benchmark: Em datasets reais, as melhorias foram drásticas. Para a tarefa "Member 5" (50.000 conjuntos de respostas), o NeurASP original exigiu mais de 4 horas, enquanto a versão aprimorada completou em 12 minutos. Para a tarefa mais complexa "Card sum 4" (40.130 conjuntos de respostas), o NeurASP original e o SLASH foram extrapolados para levar dias ou semanas (ou sofreram timeout), enquanto o NeurASP aprimorado completou o treinamento em aproximadamente 18 horas.
Acurácia e Escalabilidade: O NeurASP aprimorado alcançou altas acurácias de jusante e latentes em tarefas de aritmética de cartas (ex: 86% de acurácia latente em Card sum 4), resolvendo com sucesso problemas onde o framework concorrente Embed2Sym sofreu timeout. O Embed2Sym falhou nas tarefas de cartas porque seu passo de otimização envolve a atribuição de 52 clusters aos conceitos, levando a uma explosão combinatória ( $52!$ soluções). Embora o NeurASP tenha tido dificuldades com "atalhos de raciocínio" (reasoning shortcuts) nas tarefas "Card prodsum" (onde diferentes combinações de cartas produzem o mesmo valor, levando a alta variância na acurácia latente, apesar das predições de jusante corretas), ele permaneceu como o único framework capaz de convergir nessas tarefas dentro de um tempo razoável.

Principais Contribuições

Otimização Algorítmica: A introdução de cálculos de probabilidade e gradiente vetorizados e um mecanismo de cache de conjuntos de resposta baseado em rótulos, que coletivamente reduzem o tempo de computação em múltiplas ordens de magnitude.
Novo Dataset: A criação do dataset "Card arithmetic", apresentando imagens de cartas de baralho de alta resolução e 52 conceitos latentes, projetado para testar os limites da escalabilidade neurosimbólica além dos benchmarks padrão MNIST/CIFAR.
Modernização do Framework: Uma refatoração completa do código do NeurASP para suportar processamento em lote, reprodutibilidade e logs robustos, tornando-o viável para experimentações extensas.

Significância
O artigo afirma que essas melhorias transformam o NeurASP de um framework limitado a tarefas simples de percepção em uma ferramenta escalável capaz de lidar com problemas neurosimbólicos complexos com dezenas de milhares de conjuntos de respostas e dezenas de conceitos latentes. Ao reduzir os tempos de treinamento de meses para horas, este trabalho possibilita a aplicação do NeurASP a problemas do mundo real mais sofisticados. Além disso, o treinamento bem-sucedido nas tarefas de Card arithmetic demonstra que a perda semântica pode guiar efetivamente o aprendizado em espaços latentes de alta complexidade, embora os autores notem que a volatilidade da perda semântica e a emergência de atalhos de raciocínio permanecem como áreas para investigação futura. Os autores concluem que seu trabalho pavimenta o caminho para pesquisas futuras sobre as forças e limites do NeurASP e da perda semântica na IA neurosimbólica.