Neyman-Pearson multiclass classification under label noise via empirical likelihood

Resumo Técnico: Classificação Multiclasse de Neyman-Pearson sob Ruído de Rótulo via Verossimilhança Empírica

1. O Problema

Em aplicações de aprendizado de máquina de alto risco (como diagnóstico médico e detecção de fraude), as consequências de diferentes erros de classificação são assimétricas. O quadro de Classificação Multiclasse de Neyman-Pearson (NPMC) aborda isso minimizando o risco de erro ponderado, sujeito a limites superiores estritos nas probabilidades de erro para classes específicas (ex: limitar falsos negativos em um tipo de tumor).

No entanto, os métodos NPMC existentes assumem que os rótulos de treinamento são corretos. Na prática, os dados frequentemente contêm ruído de rótulo (erros de anotação, medição ou ambiguidade), o que pode levar a violações graves das restrições de segurança e a um desempenho degradado. O desafio central é:

• Como controlar os erros de tipo I (falsos positivos) para classes específicas quando os rótulos de treinamento estão corrompidos?
• Como fazer isso sem conhecimento prévio da matriz de transição de ruído (a probabilidade de um rótulo verdadeiro ser rotulado como outro)?

2. Metodologia Proposta

Os autores propõem um novo framework baseado em Verossimilhança Empírica (EL) que integra modelagem de razão de densidades com um algoritmo de Expectation-Maximization (EM).

A. Modelagem de Razão de Densidades (DRM) e Tilting Exponencial

• O método assume que o ruído é independente das instâncias (dado o rótulo verdadeiro).
• Eles modelam a relação entre as distribuições condicionais verdadeiras ($P^*_k$) e as distribuições observadas com ruído ($\tilde{P}^*_l$) através de um modelo de razão de densidades paramétrico.
• Especificamente, a densidade de uma classe é expressa como um "tilting exponencial" de uma medida de base:
  $$\frac{dP^*_k}{dP^*_0}(x) = \exp(\gamma^*_k + \langle \beta^*_k, g(x) \rangle)$$
  onde $g(x)$ é uma função de base (ex: vetores de características).
• Isso permite relacionar as proporções de classes verdadeiras ($w^*$), a matriz de transição de ruído ($T^*$) e as probabilidades posteriores verdadeiras ($\pi^*$) com os dados observados.

B. Estimação via Verossimilhança Empírica (EL)

• Em vez de assumir uma distribuição paramétrica para a base $P^*_0$, o método usa a Verossimilhança Empírica para estimar os parâmetros de forma não paramétrica.
• O objetivo é maximizar a verossimilhança empírica perfilada para estimar simultaneamente:
  1. As proporções das classes verdadeiras ($w^*$).
  2. A matriz de transição de ruído ($T^*$).
  3. Os parâmetros da regressão logística multinomial ($\gamma, \beta$) que definem as probabilidades posteriores.

C. Algoritmo Expectation-Maximization (EM)

• Como os rótulos verdadeiros são latentes (não observados), os autores desenvolvem um algoritmo EM eficiente para maximizar a verossimilhança empírica perfilada.
  • Passo E: Calcula as probabilidades posteriores dos rótulos verdadeiros dados os rótulos corrompidos e os parâmetros atuais.
  • Passo M: Atualiza os parâmetros ($w, T, \gamma, \beta$) maximizando a função Q esperada. A atualização de $(\gamma, \beta)$ é realizada resolvendo uma regressão logística multinomial ponderada.

D. Classificação NPMC

• Uma vez estimados $\hat{w}$ e $\hat{\pi}(x)$, o método aplica o solver NPMC existente (proposto por Tian & Feng, 2025) para encontrar o classificador ótimo que satisfaz as restrições de erro.
• O classificador final é construído substituindo os parâmetros verdadeiros desconhecidos pelas estimativas consistentes obtidas via EL.

3. Contribuições Principais

1. Eliminação de Conhecimento Prévio: Diferente de abordagens anteriores que exigem a matriz de transição de ruído ou limites superiores conhecidos, este método estima todos os parâmetros de ruído e distribuição diretamente dos dados corrompidos.
2. Garantias Teóricas Robustas:
   • Estabelecem identificabilidade estrita dos parâmetros sob condições de regularidade (coeficientes distintos, espaço de características rico, matriz de confusão de posto completo).
   • Provam consistência e normalidade assintótica dos estimadores de máxima verossimilhança empírica (MELE) com taxas de convergência ótimas ($O_p(n^{-1/2})$).
   • Demonstram que o classificador final satisfaz desigualdades oráculo de Neyman-Pearson assintoticamente, garantindo que os erros de tipo I nas classes alvo sejam controlados no nível desejado.
3. Generalidade: O framework é aplicável tanto à classificação binária quanto multiclasse, preenchendo uma lacuna na literatura que focava majoritariamente em cenários binários ou limpos.
4. Algoritmo Eficiente: A proposta de um algoritmo EM computacionalmente viável para maximizar a verossimilhança empírica em cenários com ruído.

4. Resultados Experimentais

Os autores avaliaram o método em dados simulados e reais:

• Dados Simulados (Binário e Multiclasse):
  • O método foi comparado com abordagens "Vanilla" (ignora o ruído) e "NPC" (ajusta o ruído com conhecimento parcial ou total da matriz de transição).
  • Desempenho: O método proposto alcançou desempenho comparável ao classificador "Oráculo" (treinado com rótulos limpos), controlando os erros de tipo I nos níveis alvo e minimizando o erro de tipo II.
  • Robustez: Mesmo quando a suposição do modelo de razão de densidades estava mal especificada (ex: distribuições uniformes ou t-Student), o método superou significativamente as abordagens que ignoram o ruído, que tendiam a ser excessivamente conservadoras (erros de tipo II inflados) ou a violar as restrições de segurança.
• Dados Reais:
  • Testado em conjuntos de dados do UCI (Satélite Landsat e Grãos Secos).
  • O método manteve o controle de erro próximo ao oráculo, enquanto a abordagem "Vanilla" falhou em atender às restrições de erro ou foi excessivamente conservadora, resultando em valores objetivos (risco total) subótimos.

5. Significado e Impacto

Este trabalho é significativo porque:

• Viabilidade Prática: Torna o quadro NPMC aplicável em cenários do mundo real onde a limpeza perfeita dos dados é impossível ou proibitivamente cara.
• Segurança Crítica: Garante que sistemas de IA em áreas críticas (saúde, finanças) não comprometam a segurança (controle de falsos negativos) devido a erros de anotação nos dados de treinamento.
• Fundamento Teórico: Fornece uma base teórica sólida para a inferência estatística sob ruído de rótulo sem depender de suposições fortes sobre a natureza do ruído, utilizando a flexibilidade da verossimilhança empírica.

Em resumo, o artigo apresenta uma solução elegante e matematicamente fundamentada para um problema prático urgente: como aprender classificadores seguros e confiáveis quando os dados de treinamento são imperfeitos.