In Two Minds about Lifelong Learning: Exploring Hemispheric Redundancy and Specialisation in Neural Models

O cérebro humano é um mestre no aprendizado. Ele pode adquirir uma nova habilidade, como tocar um acorde de violão, sem esquecer instantaneamente como andar de bicicleta. Essa capacidade de acumular conhecimento ao longo de uma vida é chamada de aprendizado contínuo. Em contraste, os sistemas de inteligência artificial, que são construídos a partir de camadas de conexões matemáticas chamadas redes neurais, lutam profundamente com essa mesma tarefa. Quando essas máquinas aprendem um novo conjunto de informações, elas frequentemente sobrescrevem o antigo, apagando o que sabiam anteriormente. Esse fenômeno, conhecido como esquecimento catastrófico, acontece porque as configurações internas da máquina são ajustadas para se adequar aos novos dados, destruindo acidentalmente os padrões necessários para os dados antigos. Para que robôs ou softwares se tornem verdadeiramente persistentes e adaptáveis, eles devem resolver esse problema, aprendendo continuamente sem perder o seu passado.

Para entender como consertar isso, os pesquisadores frequentemente recorrem à biologia. No cérebro de mamíferos, uma estrutura chamada hipocampo atua como uma área de retenção temporária para novas memórias, enquanto o neocórtex armazena o conhecimento de longo prazo. Todas as noites, durante o sono, o cérebro reproduz experiências recentes, transferindo-as da área de retenção temporária para o armazenamento de longo prazo. Além disso, o céreano é dividido em dois hemisférios que muitas vezes trabalham de forma diferente: um lado tende a lidar com informações novas e inéditas com flexibilidade, enquanto o outro gerencia rotinas estabelecidas com estabilidade. Uma equipe de pesquisadores da Universidade Monash e da CSIRO Robotics utilizou esses princípios biológicos e construiu uma nova arquitetura de computador para ver se podiam impedir a inteligência artificial de esquecer.

Os pesquisadores criaram um sistema que chamam de 4MAS, que significa 4 Module Awake/Sleep (4 Módulos Acordado/Sono). Em vez de um cérebro único e monolítico, este sistema é construído com duas metades distintas, ou hemisférios, imitando os lados esquerdo e direito de um cérebro biológico. Cada metade contém seus próprios sistemas de memória: um buffer de curto prazo que retém alguns exemplos recentes do que viu, e um gerador de longo prazo que aprende a forma geral dos dados. O sistema opera em um ciclo que alterna entre estar acordado e estar dormindo. Durante a fase de vigília, o sistema aprende uma nova tarefa usando dados reais, enquanto também revisa exemplos de sua memória de curto prazo. Durante a fase de sono, nenhum dado novo é introduzido. Em vez disso, os dois hemisférios conversam entre si. Eles geram exemplos sintéticos do que aprenderam e os utilizam para ajustar um ao outro, reforçando o conhecimento antigo enquanto integram o novo.

Uma inovação fundamental neste design é que os dois hemisférios não são idênticos. Os pesquisadores os programaram para terem personalidades diferentes. Um hemisfério é ajustado para ser estável e conservador, focando em preservar o que já sabe. O outro é ajustado para ser plástico e exploratório, ansioso para se adaptar a novos padrões. Essa divisão de trabalho permite que o sistema equilibre a necessidade de aprender coisas novas com a necessidade de lembrar coisas antigas. Os pesquisadores testaram esta arquitetura em vários desafios padrão de reconhecimento de imagem, onde a máquina tinha que aprender novas categorias de imagens uma após a outra, sem nunca mais ver as anteriores.

Os resultados foram impressionantes. Em um conjunto de dados simples de dígitos manuscritos, o sistema alcançou uma precisão de 98,3%, aproximando-se do desempenho de um modelo que viu todos os dados de uma só vez. Em um conjunto de dados mais complexo de imagens de roupas, atingiu 84,9% de precisão, superando significativamente outros métodos que tentam evitar o esquecimento. Mesmo em um conjunto de dados muito difícil com 100 categorias diferentes de objetos, o sistema conseguiu aprender continuamente, alcançando 29,29% de precisão, o que foi melhor do que os melhores métodos anteriores. O estudo mostrou que o sistema não apenas memorizou os novos dados; ele reteve os dados antigos com pouquíssima perda, uma métrica que os pesquisadores chamam de "deriva representacional". A capacidade do sistema de manter o passado enquanto aprende o futuro estava diretamente ligada à fase de sono. Quando os pesquisadores removeram o ciclo de sono, o desempenho do sistema caiu e os dois hemisférios falharam em trabalhar juntos de forma eficaz.

Os experimentos também revelaram que as diferenças específicas entre os dois hemisférios eram cruciais. Quando ambos os lados foram tornados idênticos, o sistema teve um desempenho pior. Foi apenas quando um lado foi permitido ser flexível e o outro estável que o sistema prosperou. Isso sugere que ter partes especializadas que realizam trabalhos diferentes é mais eficaz do que ter uma parte única e uniforme tentando fazer tudo. Os pesquisadores descobriram que o sistema funcionava melhor quando a taxa de aprendizado do "sono" era mantida muito baixa, permitindo ajustes suaves em vez de mudanças drásticas. Eles também descobriram que o sistema precisava de uma pequena quantidade de memória para armazenar exemplos recentes, mas uma vez que essa memória atingia um certo tamanho, torná-la maior não ajudava muito.

Este trabalho não afirma ter resolvido o problema da inteligência artificial para sempre, nem sugere que as máquinas irão logo sonhar como os humanos. Os modelos utilizados foram relativamente simples e funcionaram em conjuntos de dados específicos e controlados. No entanto, as descobertas oferecem um caminho claro a seguir. Ao copiar a estratégia biológica de dividir as tarefas de memória entre dois lados especializados e usar um período de descanso para consolidar o conhecimento, os engenheiros podem construir máquinas que aprendem mais como seres vivos. O estudo demonstra que o dilema da estabilidade-plasticidade, que há muito tempo assombra a inteligência artificial, pode ser gerenciado não forçando um único sistema a fazer tudo, mas criando uma equipe de agentes especializados que se apoiam através de ciclos de trabalho e descanso.