An Empirical Analysis of Continual Learning for Heterogeneous Medical Visual Question Answering

Imagine que você tem um assistente robô médico super inteligente que consegue olhar para raios-X, ultrassons e lâminas de microscópio, e então responder perguntas sobre eles como um médico experiente. Este robô foi construído para aprender novos truques ao longo do tempo. Mas aqui está o detalhe: no mundo real, os médicos não conseguem ver todos os seus dados de treinamento de uma só vez. Eles recebem um novo tipo de caso hoje, um tipo totalmente diferente amanhã e um desafio completamente novo na próxima semana. Se o robô aprender o novo truque com muita força, ele pode esquecer completamente como fazer os antigos. Isso é chamado de "esquecimento catastrófico" e é como um estudante que estuda tanto para uma prova de matemática que, de repente, esquece como falar sua língua nativa.

Os pesquisadores deste artigo decidiram colocar este robô em um treinamento intensivo de "aprendizado contínuo" extenuante. Eles não deram apenas tarefas semelhantes; eles jogaram uma mistura caótica de cinco trabalhos muito diferentes para ele:

1. Classificação: Escolher uma resposta de uma lista (ex: "Esta lesão é benigna ou maligna?").
2. Classificação Multirrótulo: Escolher múltiplas respostas ao mesmo tempo (ex: "Selecione todas as anormalidades observadas").
3. Detecção: Desenhar uma caixa ao redor de um ponto específico (ex: "Onde está a cabeça fetal?").
4. Contagem de Células: Dar um número exato (ex: "Quantas células há aqui?").
5. Geração de Relatórios: Escrever um parágrafo longo e de formato livre descrevendo a imagem.

A Grande Descoberta: O Robô Ficou Confuso
A principal descoberta deste estudo é que os "feitiços mágicos" (algoritmos) que os cientistas usam atualmente para ajudar os robôs a lembrar de tarefas antigas enquanto aprendem novas têm dificuldade quando as tarefas são tão diferentes assim. Os autores sugerem que os métodos existentes não conseguem equilibrar perfeitamente a necessidade do robô de permanecer flexível (plasticidade) com a sua necessidade de permanecer estável (estabilidade).

Pense nisso como um chef que é ótimo em fazer pizza. De repente, pedem a ele para assar um bolo, depois filetar um peixe, depois contar grãos de arroz e, finalmente, escrever uma crítica gastronômica. Se o chef tentar aprender a receita do peixe usando os mesmos truques de "preservação de memória" que usou para o bolo, ele pode começar a colocar molho de peixe na pizza ou esquecer como contar os grãos de arroz. O artigo mostra que, quando essas diferentes "receitas" (tarefas) são misturadas, a memória do robô fica bagunçada.

O Que o Artigo Descarta
Os autores argumentam explicitamente contra a ideia de que podemos simplesmente usar os velhos truques que funcionam para tarefas semelhantes. Eles mostram que os métodos que funcionam bem quando o robô aprende tarefas de "fácil para difícil" (como começar com classificação simples e passar para relatórios complexos) enfrentam dificuldades quando a ordem é misturada ou quando as tarefas são muito diferentes.

Eles também descartam a ideia de que simplesmente "repassar" dados antigos (mostrar fotos antigas ao robô enquanto ensina novas) seja uma solução milagrosa. Embora ajude um pouco, não impede o rob em esquecer todo o resto. Na verdade, eles descobriram que um método chamado O-LoRA (que tenta dar a cada tarefa seu próprio "caderno" separado) exibiu picos de esquecimento maiores, causando quedas significativas de desempenho em certos cenários.

A Analogia da Mochila "LoRA"
Para entender por que isso acontece, imagine que o cérebro do robô tem uma mochila gigante e pesada (o modelo principal) que ele nunca altera. Para aprender coisas novas, ele apenas adiciona pequenos "bolsos" leves ou adaptadores chamados LoRA ao lado de fora da mochila.

• O Experimento: Os pesquisadores observaram como esses bolsos se deslocavam e se esticavam conforme o robô aprendia novas tarefas.
• A Observação: Quando o robô aprendia a tarefa de "Geração de Relatórios" (escrever histórias longas), ele esticava seus bolsos em uma direção selvagem. Se isso acontecesse no início do treinamento, atrapalhava a capacidade do robô de realizar as tarefas curtas e precisas mais tarde.
• O Resultado: O método chamado EWC (Consolidação de Peso Elástico) foi o mais consistente. Ele agia como uma faixa elástica e flexível que mantinha os bolsos unidos, impedindo que eles se afastassem demais. No entanto, mesmo o EWC não era perfeito; ele ainda sugeria que o robô esquecia algumas coisas, apenas menos do que as outras.

Os Números Não Mentem
O artigo mediu exatamente o quanto o robô esqueceu usando uma "Razão de Esquecimento" (FR), onde 0 significa nenhum esquecimento e 1 significa amnésia total.

• Quando o robô aprendia as tarefas em uma ordem simples (Fácil → Difícil), o método "naïve" (apenas aprender sem truques especiais de memória) teve uma Razão de Esquecimento de 0,94 para classificação. Isso é quase um esquecimento total!
• Mesmo os melhores métodos não conseguiram levar a Razão de Esquecimento a zero. Por exemplo, o método EWC reduziu o esquecimento para classificação para 0,40 em uma ordem, mas ainda não era perfeito.
• A tarefa de "Detecção" (desenhar caixas) foi uma luta total para todos. Não importava qual método usassem, o desempenho do robô em detecção permanecia consistentamente baixo, com Razões de Esquecimento atingindo 1,00 (esquecimento completo) em vários casos.

A Ordem Importa (Muito)
Os pesquisadores testaram três "currículos" (ordens de aprendizagem):

1. Ordem A (Fácil → Difícil): Classificação → Multirrótulo → Detecção → Contagem → Relatórios.
2. Ordem B (Difícil → Fácil): Relatórios → Contagem → Detecção → Multirrótulo → Classificação.
3. Ordem C (Mista): Um embaralhamento aleatório.

Eles descobriram que o desempenho do robô dependia fortemente da ordem. Se o robô aprendesse a escrever relatórios longos primeiro (Ordem B), ele ficava confuso e começava a escrever parágrafos longos mesmo quando lhe pediam perguntas de sim ou não. Este "desvio" era menos problemático para o método KD (Destilação de Conhecimento), que agia como um professor rigoroso forçando o aluno a manter suas respostas curtas, mas ainda assim não conseguia consertar tudo.

A Conclusão Final
Os autores concluem que ainda não resolvemos este problema. As atuais técnicas de "preservação de memória" não são fortes o suficiente para lidar com a realidade caótica de um hospital, onde as tarefas mudam constantemente e são muito diferentes umas das outras. Eles sugerem que, para corrigir isso, precisamos de mais do que apenas ajustar os bolsos do robô; precisamos alinhar o comportamento do robô para que ele saiba exatamente quando trocar de chapéu.

Por enquanto, o artigo sugere que, embora estejamos progredindo, o sonho de um robô médico que aprenda continuamente sem esquecer ainda é um trabalho em progresso, especialmente quando as tarefas variam desde contar células até escrever ensaios. Os autores planejam tornar seu código público para que outros tentem superar esses números, mas, por enquanto, o robô ainda é um pouco esquecido quando o cardápio muda rápido demais.