Resumo Técnico: Aprendizado Ativo Incorporado sob Orçamento Limitado de Anotação e Navegação para Detecção de Objetos

Declaração do Problema

Sistemas robóticos de detecção de objetos (OD) frequentemente enfrentam dificuldades quando implantados em ambientes novos e não vistos devido a mudanças de domínio, variações de iluminação e classes de objetos sub-representadas. Embora modelos de fundação ofereçam priors poderosos, eles são computacionalmente caros para implantação robótica em tempo real e imperfeitos para objetos específicos, raros ou de domínio específico. Além disso, o ajuste fino (fine-tuning) de detectores é proibitivamente caro devido à dependência de anotação humana.

Este artigo aborda o desafio de adaptar um detector de objetos de visão computacional a um ambiente desconhecido sob duas restrições simultâneas:

1. Orçamento de Navegação Limitado: O robô possui um número restrito de passos para explorar o ambiente e coletar imagens candidatas.
2. Orçamento de Anotação Limitado: O robô pode solicitar apenas um pequeno subconjunto de rótulos de humanos (ou de um oráculo) para as imagens coletadas.

As questões centrais de pesquisa são: Como um robô pode adaptar seu modelo de visão sob essas restrições? Qual método de pontuação identifica as imagens mais informativas sem supervisão externa? E qual estratégia de navegação localiza os objetos mais difíceis de detectar?

Metodologia

Os autores propõem um framework de Aprendizado Ativo Incorporado (Embodied Active Learning) formulado como uma variante de aprendizado ativo em lote (batch active learning). O processo opera em rodadas iterativas, cada uma compreendendo quatro fases: coleta, seleção, retreinamento e avaliação opcional.

1. Discrepância de Predição ($\Delta$)

A inovação central é uma métrica de pontuação heurística chamada Discrepância de Predição. Em vez de depender de entropia ou disponibilidade de verdade fundamental (ground-truth), esta métrica estima a incerteza do modelo medindo o desacordo entre predições consecutivas.

• Mecanismo: Quando um agente se move de um estado $s$ para $s'$, o método calcula a diferença simétrica entre os conjuntos de classes preditas na região de sobreposição dos dois quadros.
• Cálculo: $\Delta = |C_s \cup C_{s'}| - |C_s \cap C_{s'}|$, onde $C$ representa a lista de classes restrita à região de sobreposição.
• Significância: Um $\Delta$ alto indica que a predição do modelo muda significamente entre pontos de vista (por exemplo, detectando um objeto em um quadro, mas perdendo-o no próximo), sinalizando um potencial caso de falha sem a necessidade de rótulos de verdade fundamental.

2. Agente de Navegação Adaptativo

Para maximizar a coleta de amostras informativas sob um orçamento de navegação limitado, os autores empregam um algoritmo de otimização online usando Otimização Bayesiana (BO) sensível ao caminho.

• Modelo de Substituição (Surrogate Model): Um regressor de Floresta Aleatória (Random Forest) estima a Discrepância de Predição para estados não visitados com base no buffer de coleta.
• Função de Aquisição: O agente utiliza uma estratégia de Limite Superior de Confiança (UCB) para equilibrar exploração e explotação. Ele seleciona um destino que maximiza a estimativa otimista média de $\Delta$ ao longo do caminho mais curto (computado via A* ponderado).
• Pesos de Caminho: Os pesos das arestas no grafo de planejamento são projetados para incentivar o movimento em direção a áreas de alta incerteza, enquanto penalizam a revisitação de locais já explorados.

3. Estratégia de Seleção de Dados

O processo de seleção segue uma abordagem de dois estágios adaptada do PPAL [36]:

1. Amostragem de Dificuldade: Do buffer coletado, são selecionadas as $3 \times A$ amostras com as maiores Discrepâncias de Predição.
2. Amostragem de Diversidade: Esses candidatos são agrupados usando Similaridade de Correspondência Condicionada por Classe (CCMS). Os centroides de $A$ clusters são selecionados para anotação.

• Tratamento de Restrições: A seleção garante diversidade e evita explicitamente a resseleção de amostras muito similares aos dados anteriormente anotados.

4. Oráculo e Retreinamento

As imagens selecionadas são anotadas por um "oráculo". Em simulações, este é a verdade fundamental; em experimentos do mundo real, é um pipeline semiautomático usando um modelo de fundação de visão-linguagem (OWLv2) seguido de correção humana. O detector é retreinado no buffer anotado acumulado, e as predições no buffer de coleta são atualizadas para refletir o novo estado do modelo.

Principais Contribuições

1. Formulação do Problema: Os autores definem a adaptação de modelos de visão como um problema de aprendizado ativo incorporado em lote, com limites estritos tanto em recursos de navegação quanto de anotação.
2. Pontuação de Discrepância de Predição: Eles introduzem um novo método de pontuação não supervisionado que aproveita a consistência espacial (ou a falta dela) para identificar casos de falha do modelo e guiar tanto a navegação quanto a amostragem de imagens.
3. Política de Navegação Adaptativa: Eles desenvolvem uma estratégia de otimização bayesiana sensível ao caminho que direciona o robô para regiões de alta discrepância de predição, atuando efetivamente como um sinal de curiosidade intrínseca.
4. Validação Empírica: A abordagem é avaliada em dois cenários:
   • Simulação: Usando o conjunto de dados AI2-THOR/ProcTHOR com modelos YOLOv5 de vários tamanhos.
   • Mundo Real: Usando um robô Boston Dynamics Spot em um ambiente interno com um pipeline de rotulagem semiautomático.

Resultados Experimentais

Simulação (AI2-THOR)

• Métodos de Pontuação: O método de Discrepância de Predição superou consistentemente os baselines (Entropia, Contagem, Aleatório) em termos de mAP50 médio em todos os tamanhos de modelo (S, M, L). Aproximou-se do desempenho de um baseline "Oráculo" (que usa a verdade fundamental para selecionar classes difíceis), mas sem exigir a verdade fundamental durante a fase de seleção.
• Características dos Dados: As amostras selecionadas pela Discrepância de Predição eram mais desafiadoras para o modelo (menor F1 nas amostras anotadas) e exibiam maior entropia de distribuição de classes, indicando melhor cobertura de classes de objetos diversas em comparação com outros métodos.
• Navegação: O agente de navegação adaptativo guiado pela Discrepância de Predição alcançou um progresso de aprendizado significativamente melhor ao longo do tempo comparado aos baselines de Exploração Baseada em Fronteira (FBE), Varredura (Sweep) e Caminhada Aleatória (Random walk).

Mundo Real (Boston Dynamics Spot)

• Desempenho: Em um ambiente interno real, a Discrepância de Predição também superou os baselines de Entropia, Contagem e Aleatório.
• Eficiência: O método priorizou amostras difíceis enquanto exigiu menos anotações totais de objetos em comparação com os métodos baseados em Contagem e Entropia.
• Análise de Lacuna: A lacuna de desempenho entre o método proposto e a seleção Aleatória foi menor no cenário do mundo real do que na simulação, atribuído ao setup de sala única mais simples e ao orçamento menor, embora a vantagem tenha permanecido consistente.

Significância e Alegações

O artigo afirma que a inconsistência espacial serve como um sinal robusto e não supervisionado para guiar agentes incorporados. Ao aproveitar a Discrepância de Predição, o sistema pode identificar e visar autonomamente seus próprios casos de falha, alcançando a maior precisão de detecção sob as mesmas restrições de recursos que outros métodos.

Os autores enfatizam que esta abordagem preenche a lacçuna entre o aprendizado ativo não interativo e o aprendizado ativo incorporado. Demonstra que robôs podem se adaptar autonomamente aos seus modelos de visão para novos ambientes através da interação, reduzindo a dependência de conjuntos de dados pré-coletados caros ou de anotação manual extensa. O trabalho sugere que a supervisão explícita não é estritamente necessária para identificar amostras informativas se o agente puder explorar a consistência temporal e espacial de suas próprias predições.

Os autores mantêm a modéstia quanto ao trabalho futuro, observando que a estimativa explícita da dificuldade da classe e do progresso de aprendizado poderia melhorar ainda mais a priorização, e que futuras iterações podem explorar o pré-treinamento agnóstico de domínio e a adaptação autossupervisionada para reduzir ainda mais a dependência de anotadores oráculos.