UniPrompt-CL: Sustainable Continual Learning in Medical AI with Unified Prompt Pools

Each language version is independently generated for its own context, not a direct translation.

Imagine que você é um médico especialista em diagnóstico por imagem. No mundo real, a medicina muda rápido: novos equipamentos surgem, hospitais diferentes têm protocolos levemente distintos e as doenças podem se apresentar de formas sutis e novas.

O problema é que a Inteligência Artificial (IA) atual funciona como um estudante que só estuda para uma prova específica. Depois que a prova acaba, ele esquece tudo o que aprendeu antes para focar no novo conteúdo. Isso é chamado de "esquecimento catastrófico".

Aqui está a explicação do UniPrompt-CL, a solução proposta pelos pesquisadores da Universidade Sungkyunkwan, usando analogias do dia a dia:

1. O Problema: O "Mochileiro" Desajeitado

As IAs médicas atuais tentam aprender continuamente, mas muitas vezes usam métodos feitos para fotos de gatos e cachorros (imagens naturais).

A Analogia: Imagine tentar ensinar alguém a reconhecer frutas. Se você mostrar uma maçã, uma laranja e uma banana, a pessoa precisa de dicas gerais. Mas na medicina, a diferença entre um tumor benigno e um maligno é tão sutil quanto a diferença entre o tom de pele de duas pessoas.
O Erro: Os métodos antigos tentam aprender "dicas" (chamadas de prompts) muito grandes e genéricas para cada nova tarefa. É como se, para aprender a identificar uma nova doença, o médico tivesse que reescrever todo o seu livro de anatomia do zero. Isso é lento, gasta muita energia (computação) e faz com que ele esqueça as doenças antigas. Além disso, muitos desses métodos exigem que o computador "leia" a imagem duas vezes para entender, o que é como ler um livro duas vezes para entender uma frase só.

2. A Solução: O "Bloco de Notas" Unificado

Os autores criaram o UniPrompt-CL. Pense nele como um sistema de anotações inteligente para o médico.

A. O Bloco de Notas Unificado (Prompt Pool Unificado)

Como era antes: Imagine que o médico tinha uma gaveta de anotações separada para cada nível de detalhe da imagem. Ele escrevia a mesma coisa em três gavetas diferentes, desperdiçando espaço.
Como é agora: Eles criaram uma única gaveta central (o Unified Prompt Pool). Em vez de ter várias gavetas cheias de repetições, todas as camadas da IA compartilham o mesmo espaço de anotações. Isso evita que a IA "repita a mesma coisa" em lugares diferentes, economizando espaço e tornando o aprendizado mais eficiente.

B. O "Adendo" Mínimo (Few Prompt Expansion)

A Estratégia: Quando chega uma nova doença ou um novo hospital para aprender, o sistema não reescreve tudo. Ele apenas adiciona um pequeno post-it novo na gaveta.
A Regra: Eles adicionam apenas 20% de novas anotações. O resto do conhecimento antigo fica congelado e seguro. É como se o médico dissesse: "Eu já sei tudo sobre diabetes e hipertensão. Para aprender sobre essa nova doença de pele, vou apenas adicionar 3 novas regras ao meu caderno, sem apagar o que já sei."

C. O "Filtro de Atenção" (Regularização)

Para garantir que as novas anotações não atrapalhem as antigas, eles criaram uma regra matemática (um termo de regularização).
A Analogia: É como um professor que diz ao aluno: "Você pode adicionar novas ideias, mas certifique-se de que elas sejam diferentes das que você já sabe e não se misturem de forma confusa." Isso garante que a IA aprenda o novo sem esquecer o velho.

3. Por que isso é revolucionário? (Os Resultados)

Velocidade e Eficiência: Enquanto os métodos antigos precisavam "ler a imagem duas vezes" (dois passos de inferência) para funcionar bem, o UniPrompt-CL faz tudo em uma única leitura. É como ler um livro uma vez e entender perfeitamente, em vez de ler duas vezes. Isso economiza muita energia e tempo.
Precisão: Nos testes com doenças oculares (retinopatia diabética) e câncer de pele, o novo método foi 1% a 3% mais preciso que os melhores métodos existentes. Em termos médicos, isso significa diagnosticar mais pacientes corretamente.
Memória: Ele esquece muito menos o que aprendeu antes. Enquanto outros métodos "esqueciam" o que sabiam sobre o primeiro hospital ao aprender sobre o segundo, o UniPrompt-CL mantém o conhecimento de todos os hospitais intacto.

Resumo Final

O UniPrompt-CL é como transformar um estudante que estuda de forma desorganizada e esquece tudo em um médico especialista sábio.

Ele usa um único caderno de anotações compartilhado, adiciona apenas o necessário quando aprende algo novo e nunca precisa reler os livros. O resultado é um sistema de IA que é mais rápido, gasta menos energia e, o mais importante, é mais preciso e seguro para diagnosticar doenças em um mundo que está sempre mudando.

Each language version is independently generated for its own context, not a direct translation.

Título: UniPrompt-CL: Aprendizado Contínuo Sustentável em IA Médica com Pools de Prompt Unificados

1. O Problema

Os modelos de IA modernos são tipicamente treinados em conjuntos de dados estáticos, o que limita sua capacidade de se adaptar continuamente a ambientes reais em rápida evolução. Embora o Aprendizado Contínuo (Continual Learning - CL) aborde essa limitação, a maioria dos métodos existentes foi desenvolvida e validada em benchmarks de imagens naturais (como ImageNet e CIFAR), falhando ao ser transferida para dados médicos devido a:

Viés de Domínio e Restrições Institucionais: Dados médicos possuem características distintas, como protocolos de aquisição padronizados e variações sutis entre equipamentos e hospitais.
Limites Subtis: As fronteiras entre estágios de doenças (ex: retinopatia diabética) são frequentemente mais sutis do que em imagens naturais.
Ineficiência de Métodos Atuais: Métodos baseados em Prompt (PCL) para imagens naturais tendem a aprender regiões de prompt amplas e dispersas para acomodar grande variabilidade intra-classe. No entanto, em dados médicos, onde estruturas anatômicas são consistentes, essa abordagem gera redundância entre camadas e uso ineficiente da capacidade de prompt.
Custo Computacional: Muitas soluções de PCL de ponta exigem múltiplas inferências de Vision Transformers (ViT) ou múltiplos backbones, o que é proibitivo em cenários médicos com restrições de recursos e privacidade.

2. Metodologia Proposta: UniPrompt-CL

Os autores propõem o UniPrompt-CL, um método de Aprendizado Contínuo baseado em Prompt orientado para a medicina. A abordagem baseia-se em três componentes principais:

Pool de Prompt Unificado (Unified Prompt Pool):
- Diferente de métodos anteriores que utilizam pools de prompt independentes por camada (gerando redundância), o UniPrompt-CL consolida todos os prompts em um único pool unificado compartilhado entre todas as camadas do backbone.
- Isso permite um uso mais eficiente da capacidade limitada de prompts, focando em capturar variações finas (como mudanças de cor sutis e detalhes de lesões) em vez de re-codificar informações de baixo nível repetidamente.
- O sistema utiliza o token [CLS] de cada camada como uma consulta (query) para selecionar os prompts apropriados do pool unificado.
Estratégia de Expansão Mínima de Prompts (Few Prompt Expansion):
- Ao transicionar para um novo estágio de aprendizado (novo conjunto de dados), o método não re-treina tudo. Em vez disso, ele congela os prompts aprendidos anteriormente e expande o pool adicionando apenas uma pequena fração de novos prompts (20% do tamanho original, determinado empiricamente).
- Isso mitiga o "esquecimento catastrófico" mantendo o conhecimento antigo intacto enquanto adiciona capacidade para novas tarefas.
Termo de Regularização de Consistência:
- Foi introduzida uma nova função de perda ( $\mathcal{L}_s$ ) para garantir que os novos prompts adicionados capturem informações distintas e complementares, evitando sobreposição com os prompts já treinados.
- A perda total é definida como: $\mathcal{L}_{total} = \mathcal{L}_{CE} + \lambda \mathcal{L}_s$ , onde $\lambda$ controla a força da regularização.
Arquitetura de Inference Única:
- O modelo utiliza um único backbone (DINOv2-base) e realiza apenas uma única inferência (forward pass) do ViT. Isso elimina a necessidade de múltiplas passagens ou backbones adicionais, reduzindo drasticamente o custo computacional (GFLOPs) em comparação com métodos como OS-Prompt++ que exigem duas inferências.

3. Principais Contribuições

Design de Pool Unificado: Consolidação de pools de prompt por camada em um único pool unificado, treinado com um novo termo de regularização para promover aprendizado estável e adaptativo.
Eficiência Computacional: Projeto de backbone único e inferência única que supera métodos de ponta (SOTA) que dependem de múltiplos backbones ou inferências repetidas, oferecendo maior precisão com menor custo.
Estratégia Específica para Medicina: Uma estratégia de expansão de prompts que adiciona apenas um subconjunto pequeno de novos prompts para mitigar redundância e o esquecimento catastrófico, adaptada às características de dados médicos (protocolos padronizados e lesões finas).

4. Resultados Experimentais

Os experimentos foram realizados em cenários de Aprendizado Incremental de Domínio (DIL) sem rehearsal (sem reutilização de dados antigos), utilizando datasets de Retinopatia Diabética (APTOS, DDR, DRD) e Câncer de Pele (ISIC, HAM, DERM7).

Desempenho de Precisão: O UniPrompt-CL superou consistentemente os métodos SOTA (incluindo OS-Prompt, Coda-Prompt, Dual-Prompt e métodos baseados em Rehearsal/Regularização).
- Aumentou a AvgACC (Precisão Média) em 1 a 3 pontos percentuais em comparação com os melhores baselines.
- Em alguns casos, alcançou ganhos de até +10 pontos em precisão e +9 pontos no F1-score.
Eficiência e Custo:
- Reduziu o custo de inferência (GFLOPs) significativamente. Enquanto métodos como OS-Prompt++ exigiam 66 GFLOPs (duas inferências), o UniPrompt-CL operou com **44 GFLOPs** (uma única inferência).
- A métrica CARA (Cost-Adjusted Retained Accuracy), que equilibra precisão, esquecimento e eficiência computacional, foi superior a todos os métodos comparados.
Mitigação de Esquecimento: A análise de matrizes de similaridade de prompts mostrou que os novos prompts adicionados capturam informações novas e distintas, mantendo uma estrutura diagonal forte (baixa redundância entre estágios).
Validação Externa: O método demonstrou robustez ao ser transferido para o domínio de câncer de pele, mantendo a melhor precisão média (0.732) com o menor custo computacional.

5. Significado e Conclusão

O trabalho UniPrompt-CL demonstra que estratégias de Aprendizado Contínuo projetadas para imagens naturais não se transferem diretamente para a medicina devido às diferenças fundamentais na natureza dos dados (variabilidade vs. consistência anatômica).

A principal contribuição do artigo é a validação de que, para dados médicos:

Pools unificados são mais eficientes do que pools por camada.
Expansão mínima de prompts é suficiente para aprender novas tarefas sem esquecer as antigas.
Backbones fortes (como DINOv2) combinados com uma arquitetura de inferência única podem superar métodos complexos e pesados, tornando o Aprendizado Contínuo viável e sustentável em ambientes médicos reais, onde recursos computacionais e privacidade de dados são críticos.

O estudo abre caminho para a aplicação de IA contínua em hospitais, permitindo que modelos se adaptem a novos equipamentos, protocolos e doenças sem a necessidade de re-treinamento massivo ou armazenamento de dados sensíveis do passado.