Resumo Técnico: Unificação e Otimização de Aprendizado Supervisionado Robusto

Declaração do Problema

No aprendizado supervisionado, os praticantes enfrentam uma sequência de decisões sob incerteza, que vão desde a coleta e rotulagem de dados até a implantação do modelo. Em cada etapa, modos de falha podem ocorrer, incluindo degenerescências de amostras finitas (dados não representativos), ruído de rótulo (anotações subjetivas ou inconsistentes) e deslocamentos de distribuição (diferenças entre os ambientes de treinamento e implantação). Embora exista uma vasta literatura propondo alternativas robustas à Minimização de Risco Empírico (ERM) — como Otimização Robusta Distribucionalmente (DRO), Suavização de Rótulos, Minimização de Risco Vicinal (VRM) e Mixup —, esses métodos são tipicamente desenvolvidos de forma isolada.

Essa fragmentação força os praticantes a comprometerem-se a priori com um único modo de falha e um mecanismo de robustez correspondente, mesmo quando a fonte dominante de incerteza para uma tarefa específica não é clara. Além disso, as escolhas de modelagem implícitas subjacentes a esses métodos (como as distribuições de dados são representadas, quais desvios são considerados plausíveis e como a incerteza é resolvida) estão entrelaçadas dentro de objetivos específicos, tornando difícil a comparação e combinação sistemáticas. O artigo argumenta que mecanismos que visam diferentes modos de falha podem se compor para superar qualquer método único quando múltiplos modos coexistem, mas os frameworks atuais carecem de uma maneira unificada de descobrir essas combinações ótimas.

Metodologia: Um Framework Unificado

Os autores propõem um framework unificado que decompõe o aprendizado supervisionado robusto em três eixos de design ortogonais, tratando-os como dimensões independentes em vez de componentes fixos de algoritmos específicos.

1. Os Três Eixos de Design

O framework define um problema geral de aprendizado robusto baseado em:

• Distribuição de Referência ($P_{ref}$): A distribuição em torno da qual as perturbações são definidas. Esta pode ser a distribuição empírica ($P_n$) ou uma variante suavizada/aumentada (por exemplo, via VRM ou Mixup).
• Conjunto de Ambiguidade ($U(P_{ref})$): Um conjunto de distribuições plausíveis que captura incerteza em entradas, rótulos ou ambos. Isso é definido por meio de uma distância de distribuição $\Delta$ (por exemplo, distância de Wasserstein ou divergência KL) e um raio de perturbação $\varrho$. O conjunto é formalmente definido como $U(P_{ref}) = \{Q \in \mathcal{P}(\mathcal{X} \times \mathcal{Y}) : \Delta(Q, P_{ref}) \leq \varrho\}$.
• Princípio de Desambiguação ($\Phi$): Uma regra que codifica a postura do praticante em relação à incerteza dentro do conjunto de ambiguidade.
  • Pessimista: Assume que os desvios representam ameaças pós-implantação (por exemplo, ataques adversariais, deslocamento de covariáveis) e busca o risco de pior caso ($\sup$).
  • Otimista: Assume que os desvios representam contaminação pré-implantação (por exemplo, ruído de rótulo) que pode ser parcialmente corrigível e busca o risco de melhor caso ($\inf$).
  • Neutro: Corresponde à agregação padrão (por exemplo, expectativa).

O objetivo geral é formulado como:
$$\hat{h}_{robust} = \arg \min_{h \in \mathcal{H}} \Phi_{Q \in U(P_{ref})} \mathbb{E}_{(x,y) \sim Q} [\ell(h(x), y)]$$

2. Conexões Teóricas

O artigo demonstra que muitos métodos existentes são casos especiais deste framework ao fixar escolhas específicas ao longo dos três eixos. Para modelos lineares com perda quadrática, os autores derivam reduções de forma fechada mostrando como esses métodos se comportam como regularizadores:

• VRM (ruído Gaussiano): Reduz-se a ERM com um termo de regularização $\ell_2$ ($\sigma^2 \|w\|^2$).
• Mixup: Para mínimos quadrados lineares, o Mixup deixa o minimizador inalterado em comparação com o ERM, pois penaliza a variância residual, que já é zero no ótimo do ERM.
• W-DRO: Reduz-se a ERM com um regularizador linear em $\|w\|$, mas escalado pela média empírica do resíduo absoluto.
• Suavização de Rótulos: Reescala a magnitude da solução do ERM sem alterar sua direção.

3. Procedimento de Treinamento Tratável

Para tornar este framework prático, os autores derivam um único pipeline de treinamento que expõe todas as escolhas de design como hiperparâmetros contínuos. O procedimento processa um mini-lote através de quatro etapas sequenciais antes de uma atualização de gradiente:

1. Enriquecimento da Distribuição de Referência: Aplica perturbações no espaço de entrada (por exemplo, ruído Gaussiano para VRM ou interpolação para Mixup) ou deixa os dados intocados.
2. Perturbação no Espaço de Entrada ($\Phi_X$): Aplica perturbações por instância dentro de uma bola de Wasserstein (via Descida de Gradiente Projetada) com uma escolha de postura pessimista, neutra ou otimista.
3. Perturbação no Espaço de Rótulos ($\Phi_Y$): Aplica perturbações de rótulos dentro de um conjunto credal (por exemplo, suavização de rótulos, relaxamento ou deslocamento adversarial) com uma escolha de postura.
4. Agregação ao Nível de Amostra ($\Phi_S$): Agrega as perdas através do lote usando uma formulação dual restrita por KL (por exemplo, ERM inclinado para agregação pessimista/otimista).

Esta função de perda unificada permite a Otimização Conjunta de Hiperparâmetros (HPO). Em vez de selecionar um método manualmente, os praticantes podem ajustar o espaço de busca completo $(\sigma, \varrho, \alpha, \tau)$ conjuntamente usando otimizadores de caixa-preta padrão (por exemplo, otimização Bayesiana). Isso reformula o papel do praticante de selecionar um mecanismo de robustez para especificar um orçamento de busca.

Contribuições Principais

1. Framework Unificado: Uma formulação geral que abrange três eixos de modelagem explícitos (Distribuição de Referência, Conjunto de Ambiguidade, Princípio de Desambiguação) que recupera uma ampla classe de métodos existentes como casos especiais.
2. Esclarecimento Teórico: Reduções de forma fechada para VRM, Mixup e W-DRO em modelos lineares, esclarecendo suas relações qualitativas e efeitos de regularização distintos.
3. Procedimento Tratável: Um único pipeline de treinamento onde todas as escolhas de design são hiperparâmetros contínuos, permitindo treinamento ponta a ponta via retropropagação e HPO conjunta.
4. Aplicabilidade Prática: Evidência empírica de que a otimização conjunta é competitiva com os melhores baselines de método único em diversas tarefas, oferecendo um padrão confiável quando o modo de falha dominante é desconhecido.

Resultados Experimentais

Os autores avaliaram o framework em três modalidades: dados tabulares (benchmarks TableShift), dados de imagem (Waterbirds, CelebA) e modelagem de recompensa (HH-RLHF). Eles compararam a configuração "Joint" contra oito baselines representando diferentes modos de falha (W-DRO, KL-DRO, W-DFO, KL-DFO, Suavização de Rótulos, Relaxamento de Rótulos, VRM e ERM), usando um orçamento de HPO correspondente de 50 tentativas.

• Dados Tabulares: A configuração Joint foi competitiva com os melhores baselines em precisão. Notavelmente, melhorou significativamente o risco de cauda (medido por CVaR), reduzindo-o para aproximadamente a metade do ERM em vários conjuntos de dados.
• Dados de Imagem: Em Waterbirds, onde o desequilíbrio de grupos causa um deslocamento de distribuição significativo, a configuração Joint alcançou valores de CVaR uma ordem de magnitude menores que o ERM sem custo mensurável de precisão. Intervenções no lado dos rótulos (LS, LR) e métodos de conjunto de ambiguidade (KL-DRO, Joint) foram particularmente eficazes.
• Modelagem de Recompensa: A configuração Joint alcançou a maior precisão OOD (0,713 vs. 0,687 para o baseline mais forte, W-DFO) e reduziu o CVaR OOD.
• Análise de Shapley: Uma análise da tarefa de modelagem de recompensa revelou que as contribuições de componentes únicos não preveem o comportamento em combinação. Por exemplo, a Suavização de Rótulos (LS) foi fraca isoladamente, mas dominante ao interagir com DRO para precisão, enquanto o DRO sozinho foi mais forte para risco de cauda. Isso confirma a necessidade de otimização conjunta para descobrir a configuração correta.
• Orçamento de HPO: As curvas de desempenho do melhor em execução mostraram que a configuração Joint atingiu o platô na mesma escala de tempo que baselines mais simples, indicando que seu desempenho superior não foi um artefato de um espaço de busca maior ou mais tentativas.

Significado e Alegações

O artigo afirma que o significado primário deste trabalho reside em aliviar os praticantes do fardo de comprometer-se com um único mecanismo de robustez a priori. Ao unificar o aprendizado robusto em um único espaço de busca, o framework permite a descoberta orientada por dados da combinação ótima de mecanismos para uma tarefa dada.

Os autores afirmam que, embora baselines de eixo único bem ajustados possam igualar a configuração Joint em modalidades específicas, selecionar o método correto exige conhecer o modo de falha dominante com antecedência. A configuração Joint evita esse problema de seleção, permanecendo consistentemente competitiva em todas as modalidades e fornecendo um padrão robusto quando os modos de falha são desconhecidos ou interagem. O trabalho avança o campo ao mover de um paradigma de métodos concorrentes e isolados para um de escolhas de design configuráveis e composáveis.