🤖 machine learning

Coverage You Can Steer: Online Conformal Calibration for RL-Driven Hardware-Aware NAS

Este artigo propõe um framework de calibração conformal online usando controle de feedback adaptativo para restaurar garantias de cobertura independentes de distribuição em busca de arquitetura neural consciente de hardware impulsionada por aprendizado por reforço, permitindo a poda eficiente de 25–50% das arquiteturas candidatas sem sacrificar a precisão ou violar a taxa de erro alvo, apesar da natureza não intercambiável do processo de busca.

Autores originais: Pedro Brandimarte, Nerea Aranjuelo, Marcos Nieto, Oihana Otaegui

Publicado 2026-10-05✓ Author reviewed ⓘ

📖 6 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Pedro Brandimarte, Nerea Aranjuelo, Marcos Nieto, Oihana Otaegui

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine um mundo onde os minúsculos computadores dentro do seu smartwatch, do sistema de frenagem do seu carro ou de um sensor médico pudessem executar a mesma inteligência artificial poderosa que atualmente vive apenas em enormes centros de dados. Este é o objetivo da IA de borda (edge AI): sistemas inteligentes que funcionam localmente, instantaneamente e sem a necessidade de enviar dados privados de volta para a nuvem. Mas há um problema. Estes dispositivos de borda têm limites severos quanto à quantidade de memória que possuem e à rapidez com que podem processar informações. Projetar uma rede neural — um tipo de programa de computador que aprende com dados — para caber nestas restrições apertadas é como tentar construir um arranha-céu que também deve caber dentro de uma caixa de sapatos. O número de designs possíveis é tão vasto, envolvendo milhões de combinações de camadas, conexões e configurações, que um designer humano não conseguiria testar todos eles.

Para resolver isso, pesquisadores utilizam um método chamado busca de arquitetura neural (neural architecture search), onde um programa de computador testa automaticamente diferentes designs para encontrar o melhor. No entanto, testar um único design é incrivelmente caro e lento; é necessário treinar o modelo com dados para ver quão bem ele funciona. Se um computador tiver que treinar milhares de designs apenas para encontrar um bom, o processo torna-se demasiado dispendioso para ser prático. O desafio, então, é descobrir quais designs valem o tempo e o dinheiro para serem treinados, e quais devem ser descartados imediatamente, sem sequer realizar o teste completo.

Uma equipe de pesquisadores da Vicomtech, na Espanha, desenvolveu uma nova maneira de tornar este processo de filtragem confiável. Eles enfrentaram um problema que vinha silenciosamente minando tentativas anteriores: o próprio processo de aprendizado do computador estava mudando as regras do jogo enquanto ele jogava. Nestes sistemas de busca, um "controlador" sugere novos designs com base no que aprendeu até agora. À medida que o controlador se torna mais inteligente, os designs que ele sugere mudam. Métodos antigos para filtrar designs ruins assumiam que os designs sugeridos no início da busca eram estatisticamente semelhantes aos sugeridos no final. Mas, como o controlador está aprendendo e melhorando, essa suposição é falsa. Os designs continuam a mudar, e os filtros antigos, que foram calibrados para os primeiros designs, começaram a falhar. Eles acabavam gastando tempo treinando designs terríveis ou, pior, descartavam acidentalmente o melhor design antes que ele pudesse ser devidamente testado.

Os pesquisadores substituíram este filtro estático e de uma única vez por um sistema que aprende e se ajusta em tempo real. Em vez de definir uma regra uma vez e esperar que ela se mantenha, o novo método utiliza um ciclo de feedback para verificar constantemente o seu próprio desempenho. Após cada design ser testado, o sistema pergunta: "Eu previ corretamente que este design seria bom ou ruim?". Se o sistema cometeu um erro, ele ajusta ligeiramente o seu limiar interno para o que conta como um design "bom". Este ajuste acontece continuamente, permitindo que o sistema acompanhe a natureza mutável da busca. O resultado é um filtro que pode ser ajustado para um nível específico de segurança. Se um pesquisador pedir uma garantia de 90% de que nenhum bom design será perdido, o sistema entrega exatamente isso, não importa como a busca evolua. Se pedirem 95%, ele entrega isso em vez disso. Este controle é preciso, reproduzível e funciona mesmo quando os designs sugeridos estão mudando rapidamente.

A equipe testou esta abordagem em três tipos diferentes de arquiteturas de rede e em vários conjuntos de dados, simulando a busca por modelos que pudessem rodar em microcontroladores com memória muito limitada. Eles descobriram que o seu sistema adaptativo conseguia descartar com segurança entre 25% e 50% dos designs propostos sem sequer treiná-los, economizando uma enorme quantidade de tempo de computação. Crucialmente, esta poda não prejudicou a qualidade final da solução. De fato, num caso de teste específico onde o melhor design era um pico raro e isolado num vasto cenário de opções medíocres, os métodos antigos falharam repetidamente, descartando o melhor design. O novo método adaptativo o encontrou todas as vezes.

Os pesquisadores também descobriram que o controlador "inteligente" frequentemente usado para gerar estes designs não era, na verdade, a forma mais eficiente de encontrar a melhor arquitetura. Quando compararam um sofisticado controlador de aprendizagem contra uma busca aleatória simples, a busca aleatória teve um desempenho tão bom quanto, ou até melhor, em muitos casos. O controlador era bom em encontrar designs médios, mas tendia a ficar preso em áreas locais e perder os raros e perfeitos. O verdadeiro valor do novo método, descobriram eles, não residia no controlador em si, mas no filtro calibrado que gerenciava o orçamento. Ao usar o filtro adaptativo como um guia para saber onde procurar a seguir, em vez de apenas um porteiro, os pesquisadores puderam direcionar a busca diretamente para as melhores soluções. Este "otimismo calibrado" permitiu que o sistema explorasse designs promissores, mas não comprovados, com um nível conhecido de risco, superando a busca aleatória e até algoritmos de planejamento mais complexos em ambientes restritos.

O estudo também analisou como estes filtros se comportam quando a busca constrói um design camada por camada, em vez de tudo de uma vez. Eles descobriram que uma única regra global para filtragem muitas vezes falhava ao não considerar as dificuldades específicas de diferentes estágios da construção. Por exemplo, uma regra que funcionava bem para as partes iniciais e rasas de uma rede poderia ser demasiado frouxa ou demasiado estrita para as partes profundas e complexas. Ao aplicar o método adaptativo separadamente a cada estágio da construção, eles conseguiram garantir que a garantia de segurança se mantivesse verdadeira em cada etapa, independentemente de quão profunda a rede tivesse crescido. Este controle granular impediu que o sistema cometesse erros sistemáticos que passariam despercebidos com uma abordagem de tamanho único.

Em última análise, este trabalho demonstra que, no jogo de alto risco de projetar inteligência artificial para dispositivos limitados, a ferramenta mais importante não é necessariamente um preditor mais inteligente, mas sim um mais honesto. Os métodos antigos baseavam-se em suposições sobre como os dados se comportariam, suposições que eram quebradas pelo próprio ato de aprender. O novo método abandona essas suposições. Em vez disso, baseia-se numa verificação contínua e livre de distribuição contra a realidade, ajustando o seu nível de confiança momento a momento. Prova que é possível ter um processo de busca que seja simultaneamente eficiente e seguro, um que saiba exatamente quanto risco está a correr e que pode ser ajustado para assumir mais ou menos, simplesmente girando um botão. Esta mudança de regras estáticas para um controle dinâmico e autocorretivo oferece um caminho robusto para a construção da próxima geração de dispositivos inteligentes e com recursos limitados.

Resumo Técnico: Cobertura que Você Pode Dirigir: Calibração Conformal Online para NAS Orientado por RL com Consciência de Hardware

Definição do Problema
A Busca de Arquitetura Neural com Consciência de Hardware (HW-NAS) é limitada pelo alto custo da avaliação de candidatos, onde cada arquitetura proposta exige treinamento para determinar sua recompensa. Para mitigar isso, trabalhos anteriores (ex: MARCO) utilizam filtros de predição conformal para podar candidatos pouco promissores antes do treinamento. Esses filtros dependem de um preditor substituto (surrogate) e de um deslocamento (offset) conformal para estabelecer um limite superior na recompensa real, garantindo que candidatos com limites abaixo de um limiar sejam descartados com uma probabilidade controlada de erro ( $\delta$ ).

No entanto, a predição conformal padrão assume permutabilidade (exchangeability) entre o conjunto de calibração e os candidatos de teste. Em NAS orientado por Aprendizado por Reforço (RL), essa suposição é violada por construção:

Deriva de Política (Policy Drift): À medida que o controlador de RL aprende, a distribuição das arquiteturas propostas desvia-se da distribuição inicial de aquecimento (warm-up) usada para calibração.
Desvio Intra-Episódio (Within-Episode Shift): Na busca sequencial, camada por camada, a distribuição das redes parciais muda rapidamente dentro de um único episódio conforme a profundidade aumenta.

Consequentemente, filtros conformais estáticos sofrem de "degradação silenciosa": sua cobertura realizada descola-se do alvo solicitado ( $1-\delta$ ), levando ou ao desperdício de avaliações (sobrecobertura) ou ao descarte falso de arquiteturas ótimas (subcobertura). A recalibração periódica mitiga a variância, mas falha em restaurar o controle ou corrigir vieses dependentes da profundidade.

Metodologia
O artigo propõe substituir a estimativa de quantil estática por Inferência Conformal Adaptativa (ACI) e estendê-la com várias variantes para lidar com a natureza não estacionária da busca por RL.

Inferência Conformal Adaptativa (ACI): Em vez de um deslocamento fixo, o método emprega controle de feedback online. Após cada avaliação real, o deslocamento conformal ( $\alpha_t$ ) é atualizado via um passo de subgradiente baseado no indicador de erro de cobertura:
$\alpha_{t+1} = \alpha_t + \gamma (\mathbb{I}\{r_t > g(x_t) + \alpha_t\} - \delta)$
Isso garante que a cobertura de longo prazo convirja para o alvo $1-\delta$ para sequências arbitrárias de candidatos, independentemente de mudanças de distribuição ou falta de permutabilidade.
AgACI (Sem Ajuste de Parâmetros): Para eliminar a necessidade de ajuste manual do tamanho do passo ( $\gamma$ ), os autores agregam múltiplos especialistas ACI (cada um com um $\gamma$ diferente) usando ponderação exponencial (algoritmo Hedge), criando um filtro robusto e livre de parâmetros.
Conformal Normalizado (Localmente Adaptável): Para permitir a exploração (acquisition), o método normaliza os escores de não conformidade por uma estimativa de dificuldade por candidato ( $u(x)$ ) derivada de um substituto secundário. Isso resulta em larguras de intervalo $U(x) = g(x) + q \cdot u(x)$ , permitindo que o limite classifique os candidatos por incerteza, não apenas pela recompensa prevista.
Conformal Mondrian (Condicional por Grupo): Para lidar com desvios de profundidade intra-episódio, o método mantém deslocamentos ACI separados para diferentes grupos (ex: profundidade da camada). Isso fornece garantias de cobertura condicionais à profundidade de construção específica, corrigindo desequilíbrios sistemáticos onde os deslocamentos globais falham.
Aquisição Conformal: O limite otimista calibrado é reaproveitado como uma função de aquisição. Os autores implementam:
- Aquisição Gananciosa (Greedy Acquisition): Selecionando o candidato com o maior limite otimista a partir de um pool amostrado.
- MCTS Conformal-Otimista: Usando o limite calibrado para valorar nós folha em uma Busca em Árvore Monte Carlo (MCTS), permitindo planejamento extensivo sem custos reais de treinamento.

Principais Contribuições

Filtragem Adaptativa sob Deriva de Política: O artigo demonstra que o ACI restaura a "cobertura direcionável" em NAS orientado por RL. Ao contrário das linhas de base estáticas, o filtro adaptativo rastreia os níveis de cobertura solicitados ( $1-\delta$ ) com precisão de $\sim 10^{-3}$ em três famílias de arquiteturas (LeNet, ResNet, MobileNet) e em ambas as formulações de busca de passo único e sequencial. Ele poda 25–50% das avaliações sem perda mensurável na qualidade da solução.
Extensões Condicionais para Busca Estruturada: Os autores mostram que a calibração marginal pode ocultar erros sistemáticos (ex: subcobertura em camadas profundas). A construção Mondrian corrige isso, alcançando cobertura condicional por grupo onde quer que a busca visite uma profundidade com frequência suficiente para calibrá-la.
Da Poda para a Busca: O limite otimista calibrado é usado com sucesso como um mecanismo de busca direta. A aquisição otimista gananciosa supera a busca aleatória e o próprio controlador de RL em um ambiente de teste restrito, com a calibração online proporcionando uma redução significativa na variância em comparação com o otimismo fixo.
Análise Independente de Controlador: O estudo revela que o controlador de RL (reproduzido fielmente do MARCO) não supera a busca aleatória nesses espaços porque otimiza a recompensa esperada em vez do argmax. O valor do método proposto reside no próprio limite calibrado, que gerencia o orçamento de avaliação de forma eficaz, independentemente do mecanismo de proposta.

Resultados Experimentais

Calibração e Direcionabilidade: Através de três conjuntos de dados (MNIST, CIFAR-10, CIFAR-100), os filtros adaptativos e AgACI alcançam uma cobertura monotônica e reproduzível. Em contraste, as linhas de base de split-conformal estáticas são não direcionáveis (a cobertura não se move com $\delta$ ) e exibem alta variância entre sementes (seeds). Uma linha de base de Processo Gaussiano (GP) é confiantemente mal calibrada, com cobertura realizada fixada próxima a 0.99, independentemente do nível solicitado.
Qualidade da Solução: Em paisagens com ótimos isolados (tipo ResNet), filtros estáticos descartam falsamente a melhor arquitetura em cada semente devido à má calibração. Filtros adaptativos preservam a melhor solução enquanto podam 25–50% dos candidatos.
Cobertura Condicional por Profundidade: Na busca sequencial, o ACI global apresenta subcobertura em profundidades extremas (rasas ou profundas, dependendo da família). A adaptação Mondrian restaura a cobertura no alvo para todas as profundidades bem amostradas.
Eficiência de Busca: Em um ambiente de teste restrito (orçamento de memória de 256 kB), a aquisição conformal gananciosa vence a busca aleatória e o controlador de RL em todos os orçamentos de avaliação até 1.000. O ganho é impulsionado principalmente pelo otimismo do limite, com a calibração online adicionando uma vantagem final e reduzindo a variância em $\sim 6\times$ .

Significância e Alegações
O artigo argumenta que, dentro de loops de aprendizado, a incerteza deve ser verificada contra resultados em vez de assumida a partir de um modelo. A principal contribuição é uma maquinaria de calibração livre de distribuição e controlada por feedback que sobrevive à não estacionariedade da busca por RL.

Os autores alegam que:

A direcionabilidade é restaurada: Profissionais podem ajustar um nível de risco alvo ( $\delta$ ) e receber o mesmo de forma monotônica e reproduzível, uma capacidade perdida em filtros estáticos.
O controlador não é o gargalo: O valor dos métodos de HW-NAS nesses espaços não reside na política aprendida (que frequentemente falha em superar a busca aleatória), mas na gestão eficiente e segura do orçamento de avaliação via limites calibrados.
A aquisição é viável: A mesma maquinaria calibrada que filtra as avaliações pode direcioná-las, oferecendo um análogo livre de distribuição ao GP-UCB que não sofre de má calibração baseada em modelo sob deriva.

O artigo permanece modesto quanto às limitações, observando que o custo de hardware é analítico (não calibrado para o dispositivo), os resultados dependem de proxies de treinamento parcial, e as garantias condicionais por profundidade degradam-se quando grupos específicos (ex: camadas muito profundas) carecem de dados. A evidência para busca direcionada é atualmente limitada a um único ambiente de teste restrito.

Mais como este