Multi-Scale Structural Features for Continual, Comprehensible Visual Recognition in a Developmental Learning Framework

Resumo Técnico: Características Estruturais Multiescala para Reconhecimento Visual Contínuo e Compreensível

Declaração do Problema
O aprendizado de máquina contemporâneo enfrenta uma tríade fundamental de limitações: a incapacidade de aprender continuamente sem sobrescrever o conhecimento passado (esquecimento catastrófico), a dificuldade em reutilizar o conhecimento prévio de forma eficaz e a falta de estruturas internas compreensíveis. As redes neurais baseadas em gradiente lutam contra isso por construção; seu espaço de pesos compartilhado significa que as atualizações para dados atuais inevitavelmente degradam a competência em dados passados ("adaptação destrutiva"). Remédios padrão, como buffers de replay, regularização ou fronteiras de tarefas, mitigam os sintomas, mas dependem de suposições (dados retidos, fronteiras conhecidas, sinais de roteamento) que não existem em um fluxo genuíno e não estacionário de experiência.

Embora um framework de desenvolvimento anterior, livre de gradiente (o "Modeller"), tenha abordado esses problemas através do crescimento de modelos topológicos discretos via variação local e seleção, sua extensão para entradas visuais era limitada. A instanciação visual anterior dependia de uma representação de características mínima que limitava a precisão do reconhecimento a aproximadamente 0,50 no MNIST de dez classes, falhando em capturar a complexidade estrutural necessária para um reconhecimento de alto desempenho.

Metodologia
O artigo apresenta um framework de aprendizado de desenvolvimento, livre de gradiente, que processa entradas visuais como redes relacionais. O sistema aprende refinando essas redes através de variação local e seleção, integrando cada observação exatamente uma vez, sem armazenar dados passados ou exigir fronteiras de tarefas.

1. Representação de Características Estruturais Multiescala:
   A principal contribuição é uma nova representação de características visuais que codifica a estrutura de forma através de múltiplas escalas simultaneamente.

   • Princípio: Regiões de constância são representadas por seus pontos de mudança. Para formas 2D, o sistema extrai contornos de imagens binarizadas e identifica extremos direcionais (pontos onde a direção de trajetória muda de sinal ao longo dos eixos da imagem).
   • Construção da Rede: Esses pontos de mudança tornam-se nós tipados (definidos por eixo, direção e convexidade local). Eles são conectados por arestas direcionadas que representam a continuidade do contorno e relações espaciais (horizontal/vertical).
   • Coefamento (Coarsening): A rede é iterativamente coformada pela remoção dos pares de máximo/mínimo adjacentes de menor escala do mesmo tipo. Crucialmente, as arestas de todos os níveis de coefamento são acumuladas em uma única rede aumentada. Os nós são compartilhados entre os níveis, o que significa que relações de longo alcance (que abrangem partes distantes da forma) e relações locais coexistem sobre o mesmo conjunto de nós. Isso permite que o aprendiz retenha relações confiáveis em qualquer granularidade enquanto reduz detalhes não recorrentes.

2. Processo de Aprendizado (Refinamento e Seleção):

   • Observação como Rede: Uma imagem de entrada é convertida em uma rede de estado (um grafo direcionado de instâncias de características e relações).
   • Variação: Se um alvo (classe ou estado interno) está ativo, mas não é contabilizado, uma nova variável de estado de condicionamento positivo (csv) é criada, utilizando a rede observada como sua fonte.
   • Seleção (Refinamento): O aprendizado reduz a fonte de um csv em direção ao que é recorrente. Quando uma fonte corresponde a uma nova observação onde o alvo recorre, elementos da fonte ausentes na nova observação são removidos. Como o refinamento apenas remove requisitos e nunca os adiciona, o sistema garante que qualquer observação que satisfaça um csv antes de uma modificação ainda satisfará este após a modificação.
   • Diferenciação: Se um csv corresponde, mas seu alvo contradiz a observação, ou se uma correspondência parcial deixa um resíduo, novos csvs "upstream" são gerados para esculpir o resíduo específico, formando cadeias de estruturas progressivamente mais específicas.
   • Manutenção: Csvs não confiáveis são removidos, e os altamente confiáveis são reintegrados aos seus alvos downstream para evitar o inchaço estrutural.

3. Correspondência e Leitura (Matching and Read-Out):

   • Correspondência Sensível à Cadeia: O sistema localiza onde um padrão aprendido se situa dentro de uma observação. Diferente de métodos anteriores que dependiam de proximidade posicional, este matcher utiliza as relações multiescala. Ele desenvolve correspondências incrementalmente, sendo limitado tanto pela geometria local quanto pelas relações espaciais de longo alcance que abrangem a forma. Isso torna o problema da correspondência bem determinado.
   • Leitura Sensível à Ausência: A classificação é realizada por um procedimento local, livre de gradiente, que consome as estatísticas espaciais (posições e orientações) computadas durante a correspondência. Ele trata a ausência de um csv esperado como evidência contra uma classe. O escore para uma classe é a soma das log-verossimilhanças derivadas da presença de csvs correspondentes e da ausência dos esperados, ponderados pelo seu ajuste geométrico em relação a âncoras específicas da classe versus um pool de fundo.

Principais Contribuições

• Representação Multiescala: Uma rede relacional unificada que captura a estrutura da forma em todos os níveis de uma hierarquia de coefamento simultaneamente, permitindo que o aprendiz retenha relações de longo alcance mesmo quando detalhes locais são refinados.
• Melhoria na Dinâmica de Aprendizado: Uma conta explícita do passo de correspondência e um mecanismo de leitura local, sensível à ausência, que aproveita estatísticas espaciais aprendidas sem classificadores globais ou gradientes.
• Aprendizado Contínuo Demonstrado: O sistema aprende todas as dez classes do MNIST a partir de um fluxo sem replay e sem fronteiras, estritamente amostra por amostra, alcançando 0,874 de precisão.
• Compreensibilidade: Os modelos aprendidos são configurações explícitas de pontos de mudança e relações que podem ser desenhadas e interpretadas como caricaturas das classes.

Resultados
Avaliado no MNIST incremental de classe (59.595 imagens topologicamente consistentes), o sistema alcançou o seguinte:

• Precisão: 0,874 (±0,018) de precisão em dados não utilizados (held-out), um aumento substancial em relação ao 0,50 relatado anteriormente para o mesmo framework.
• Retenção: O sistema retém 95% da precisão de uma classe ao final do ciclo em que foi treinada (WCR_end) e 90% em seu ponto mais baixo (WCR_wst). Em contraste, baselines baseados em gradiente (mesmo com replay) caem para quase zero ou exigem o reaprendizado da classe dentro do mesmo ciclo.
• Comparação: O sistema iguala ou supera o desempenho de baselines baseados em replay (ex: DER++, Naive Replay) e de regularização (ex: SI, MAS) em comparação com o mesmo armazenamento, apesar de não armazenar nenhum dado passado.
• Crescimento do Modelo: O tamanho do modelo satura em aproximadamente 187 variáveis de estado de condicionamento (csvs) após a fase inicial de aprendizado, demonstrando que o sistema não cresce indefinidamente. A estrutura negativa (supressores) eventualmente domina a estrutura positiva, indicando que as fronteiras são onde a discriminação é mantida.

Significância e Alegações
O artigo afirma que esta abordagem demonstra uma capacidade qualitativa fora do alcance do aprendizado estatístico baseado em gradiente: a habilidade de integrar informações uma amostra por vez enquanto preserva, de forma provável, as respostas a observações passadas.

• Sem Adaptação Destrutiva: Ao contrário das redes neurais que sobrescrevem a competência passada, este sistema refina a estrutura existente localmente, garantindo que classes aprendidas anteriormente sejam retidas conforme novas são introduzidas.
• Compreensibilidade Inerente: As representações aprendidas são descrições estruturais interpretáveis por humanos, em vez de vetores de pesos opacos.
• Princípio Fundamental: Este trabalho valida o princípio de que uma entidade contínua pode ser representada por seus pontos de mudança, e que relações estruturais multiescala podem ser expressas como uma única rede relacional para um aprendiz estrutural contínuo.
• Limitações: Os autores reconhecem que o sistema é atualmente restrito a formas 2D (MNIST) e depende de um vocabulário de características projetado manualmente (primeiros pontos de mudança em contornos binarizados). A confusão 4/9 permanece como um resíduo representacional. A abordagem pressupõe uma representação em vez de aprendê-la, embora o princípio seja argumentado como universal.

A significância reside não meramente na precisão, mas no modo de aprendizado: um sistema que aprende de um fluxo sem replay, gradientes ou fronteiras de tarefa, mas que retém o que aprende e permanece compreensível.