What changes after deployment? A survey on On-device Learning in TinyML

Resumo Técnico: O que muda após a implantação? Um levantamento sobre Aprendizado no Dispositivo em TinyML

1. Declaração do Problema

Modelos de aprendizado de máquina implantados em dispositivos de classe microcontrolador (TinyML) enfrentam um desafio fundamental: a mudança de distribuição pós-implantação. Modelos treinados offline em conjuntos de dados curados frequentemente apresentam desempenho inferior quando expostos a condições do mundo real, onde as distribuições de dados sofrem deslocamentos após a implantação. O Aprendizado no Dispositivo (ODL - On-Device Learning) aborda isso executando o processo de aprendizado diretamente no dispositivo, mas a literatura existente carece de uma caracterização unificada de como ocorrem as mudanças de distribuição. Levantamentos anteriores não distinguiram explicitamente diferentes tipos de regimes de mudança de distribuição, levando a uma confluência de soluções que operam sob restrições e suposições fundamentalmente distintas. Além disso, existe uma lacuna persistente entre benchmarks metodológicos (frequentemente centrados em imagens) e cenários de implantação do mundo real (frequentemente centrados em sensores), dificultando a transferência de avanços algorítmicos para aplicações práticas.

2. Metodologia

Este artigo apresenta um levantamento abrangente de aproximadamente 70 trabalhos de ODL no domínio do TinyML. O levantamento é estruturado em torno de um princípio organizador primário: o regime de mudança de distribuição. Os autores categorizam a literatura em três regimes distintos com base na natureza do processo gerador de dados ($P$) após o tempo de implantação $T$:

1. Regime de Mudança Única (Single-Change Regime): A distribuição muda exatamente uma vez na implantação ($p_{T-1} \neq p_T$) e permanece estável a partir de então. O desafio é a adaptação rápida e eficiente às novas condições para o restante da vida útil do dispositivo.
2. Regime de Deriva de Conceito (Concept Drift Regime): A distribuição muda múltiplas vezes de forma contínua e imprevisível ($p_{t-1} \neq p_t$). O foco é adaptar-se rapidamente a novas condições enquanto se descarta ou reduz o peso de conhecimentos passados irrelevantes.
3. Regime de Aprendizado Contínuo (Continual Learning Regime): Novos conceitos são introduzidos incrementalmente ao longo do tempo. A solução deve acumular novo conhecimento sem esquecer informações previamente aprendidas (abordando o esquecimento catastrófico). Embora formalmente semelhante à deriva de conceito em termos de mudança de distribuição, a suposição em relação à relevância do conhecimento passado e os critérios de avaliação diferem significamente.

Para cada regime, o levantamento analisa a literatura através de três lentes complementares:

• Lente de Aplicação: Os contextos e tarefas do mundo real abordados (ex: detecção de palavra-chave, calibração de sensores, interfaces cérebro-máquina).
• Lente de Hardware: Os dispositivos alvo, variando de processadores ultra-restritos (ex: Cortex-M0, ISPU) a MCUs padrão (Cortex-M4/M7) e plataformas de ultra-baixo poder (PULP) paralelas.
• Lente de Solução: A composição técnica das soluções de ODL, decomposta em quatro componentes:
  • $R(\cdot)$: Redução de dimensionalidade (ex: CNNs congeladas, extratores estatísticos de características).
  • $B$: Gestão de dados (estratégias de buffering, condições de admissão/gatilho).
  • $f_t(\cdot)$: O algoritmo de ML (ex: DNNs, SVMs, KNN).
  • $L$: O mecanismo de aprendizado (ex: backpropagation, atualizações apenas de forward, geração de protótipos).

O levantamento também formaliza o problema de ODL, definindo restrições de memória ($M_D$), frequência de clock ($F_D$), potência e tempo de execução ($E$), e estabelece protocolos de avaliação específicos para cada regime (ex: avaliação prequencial para deriva de conceito, avaliação longitudinal para aprendizado contínuo).

3. Principais Contribuições

• Taxonomia Centrada em Regimes: Este é o primeiro levantamento que organiza toda a literatura de ODL em torno do regime de mudança de distribuição (Mudança Única, Deriva de Conceito, Aprendizado Contínuo), argumentando que soluções projetadas para um regime não são diretamente comparáveis às de outro devido às diferentes suposições sobre conhecimento passado e objetivos de adaptação.
• Escopo Abrangente: O levantamento cobre ~70 trabalhos, expandindo significativamente esforços anteriores (que levantaram ~10 trabalhos) e capturando o substancial corpo de pesquisa publicado pós-2023.
• Análise Multi-Lente: Ao analisar os trabalhos através das lentes de aplicação, hardware e solução simultaneamente, o levantamento revela padrões transversais, como a correlação entre capacidade de hardware e complexidade de regime, e o desalinhamento entre pesquisas orientadas a métodos e orientadas a aplicações.
• Identificação de Lacunas Estruturais: O artigo identifica um descompasso entre contribuições metodológicas (frequentamente focadas em otimização de backpropagation em benchmarks padrão) e trabalhos orientados à aplicação (que priorizam eficiência de rótulos e restrições do mundo real). Ele destaca que trabalhos metodológicos raramente abordam a escassez de dados rotulados e as restrições totais do pipeline (memória, latência, potência) simultaneamente.

4. Principais Resultados e Descobertas

Descobertas de Aplicação

• Desalinhamento de Tarefas: Trabalhos orientados a métodos utilizam predominantamente benchmarks de classificação de imagem (CIFAR, MNIST), que são frequentemente excessivamente exigentes computacionalmente para o TinyML real. Por outro lado, trabalhos orientados à aplicação focam em tarefas como Detecção de Palavra-Chave (KWS), Reconhecimento de Atividade Humana (HAR) e calibração de sensores, que carecem de benchmarks padronizados.
• Estratégias de Aquisição de Rótulos: Trabalhos bem-sucedidos orientados à aplicação tratam a aquisição de rótulos como um requisito de design de primeira classe. As estratégias incluem aprendizado de poucos disparos (few-shot learning), aprendizado autossupervisionado (usando sensores auxiliares), aprendizado não supervisionado (para detecção de anomalias) e rotulagem implícita via estímulos estruturados.
• Distribuição de Regimes: Trabalhos orientados à aplicação estão fortemente concentrados no regime de Mudança Única (ex: personalização de KWS, calibração de sensores). Os regimes de Deriva de Conceito e Aprendizado Contínuo são dominados por trabalhos orientados a métodos, com pouquíssimas implementações de aplicações reais relatadas.

Descobertas de Hardware

• Correlação Hardware-Regime: Existe uma relação monotônica entre a capacidade de hardware e a complexidade do regime.
  • Processadores ultra-restritos (Cortex-M0, ISPU) aparecem quase exclusivamente no regime de Mudança Única devido aos limites rigorosos de memória/computação.
  • MCUs padrão (Cortex-M4/M7) abrangem os três regimes, mas estão sub-representadas em Aprendizado Contínuo devido às restrições de memória para buffers de replay.
  • Plataformas PULP (multi-core, ex: GAP9) dominam o regime de Aprendizado Contínuo, sendo a única classe atualmente capaz de suportar as altas demandas de memória e computação de algoritmos de aprendizado contínuo.
• Lacunas de Relato: O relato de hardware é inconsistente. Métricas como RAM de pico e energia são frequentemente reportadas por instância, por lote ou por época sem padronização, dificultando a comparação entre os trabalhos.

Descobertas de Solução

• Padrões de Componentes:
  • Redução de Dimensionalidade ($R$): CNNs pré-treinadas congeladas são a escolha dominante para entradas de imagem/áudio, enquanto funções identidade ou extratores estatísticos são usados para dados de sensores de baixa dimensão.
  • Gestão de Dados ($B$): A operação totalmente online ($|\Delta|=1$) domina os regimes de Mudança Única e Deriva de Conceito. O buffering explícito é estruturalmente necessário no Aprendizado Contínuo para evitar o esquecimento catastrófico.
  • Mecanismo de Aprendizado ($L$): O backpropagation total é o padrão para Aprendizado Contínuo (suportado por buffers de replay). Em Mudança Única e Deriva de Conceito, alternativas mais leves (atualizações apenas de forward, classificadores baseados em protótipos, KNN) são prevalentes.
• Lacuna de Otimização: Trabalhos metodológicos otimizam pesadamente o backpropagation (esparsificação, quantização), mas essas otimizações raramente são adotadas em implementações orientadas à aplicação. Isso sugere um descompasso onde melhorias algorítmicas não são validadas contra as restrições totais do pipeline (ex: estratégia de rotulagem, custos de buffering de dados).

5. Significância e Alegações

O artigo alega que o regime de mudança de distribuição é o fator crítico, embora anteriormente negligenciado, que determina a viabilidade e o design de soluções de ODL. Ao distinguir explicitamente entre Mudança Única, Deriva de Conceito e Aprendizado Contínuo, o levantamento fornece um framework para comparação significativa que a literatura anterior carecia.

Os autores alegam modestamente que seu trabalho destaca um descompasso estrutural no campo: o progresso algorítmico e o desenvolvimento de aplicações estão avançando em paralelo com limitada fertilização cruzada. Eles argumentam que o campo requer:

1. Frameworks de Avaliação Padronizados: Benchmarks que fixem orçamentos de hardware, componentes de solução e restrições de implantação (incluindo escassez de rótulos) para permitir comparações justas.
2. Ferramentas de Design de Ponta a Ponta: Frameworks de software que tratem todo o pipeline de ODL ($R, B, f, L$) como objetos conjuntamente otimizáveis, em vez de otimizar componentes isoladamente.
3. Hardware para ODL: Uma mudança de adaptar arquiteturas de treinamento em nuvem para projetar hardware especificamente para as restrições de ODL (escassez de rótulos, ausência de validação no dispositivo, orçamentos de energia rigorosos).

O levantamento conclui que, embora o ODL amplie o escopo das aplicações de TinyML, realizar essa visão exige abordar o desalinhamento entre os benchmarks metodológicos e os cenários de implantação do mundo real, particularmente no que diz respeito à eficiência de rótulos e às demandas específicas de regimes de aprendizado não estacionários.