Resumo Técnico: Aprendizado de Ordem Contrastiva (ConOrd)

Definição do Problema

A regressão ordinal visa estimar o ranking discreto ou contínuo de uma instância de objeto, uma tarefa fundamental para aplicações como estimativa de idade facial, avaliação de qualidade de imagem/vídeo cega e pontuação de estado de saúde. Diferente da classificação padrão, a regressão ordinal requer a modelagem da ordem inerente e das distâncias relativas entre os rótulos. No entanto, os métodos existentes enfrentam limitações significativas:

• Aprendizado de Ordem: Técnicas como o Aprendizado de Ordem Geométrica (GOL) modelam explicitamente a ordinalidade dos rótulos, mas frequentemente dependem de comparações pareadas locais baseadas em margem. Essas abordagens tipicamente não geram gradiente uma vez que uma margem é satisfeita, falhando em explorar o contexto ordinal global mais rico disponível no nível do lote (batch).
• Aprendizado Contrastivo: Embora o aprendizado contrastivo supervisionado aproveite efetivamente todas as amostras em um lote, ele tipicamente trata os rótulos como categóricos, ignorando a ordenação inerente. Extensões como o Rank-N-Contrast (RnC) introduzem pares conscientes de ranking, mas dependem de limiares rígidos (hard thresholds), colapsando distâncias ordinais em decisões binárias (positivo/negativo) e tratando amostras com lacunas de ranking moderadas e substanciais como negativas igualmente.

Consequentemente, há a necessidade de um framework que capture relações ordinais refinadas entre todos os pares de amostras, mantendo a consistência global no espaço de incorporação (embedding).

Metodologia: Aprendizado de Ordem Contrastiva (ConOrd)

Os autores propõem o ConOrd, um framework que integra os pontos fortes do aprendizado de ordem e do aprendizado contrastivo. A inovação central é uma perda de ordem contrastiva ($L_{ConOrd}$) que atribui pesos suaves e conscientes de ranking a todos os pares de amostras dentro de um lote, em vez de depender de atribuições rígidas de positivos/negativos.

Componentes Principais:

1. Espaço de Incorporação com Pontos de Referência: O framework emprega um codificador $h$ que mapeia instâncias para vetores de características em uma esfera unitária. Ele introduz $M$ pontos de referência aprendíveis $\{\mu_m\}$, onde cada $\mu_m$ representa um protótipo para o ranking $m$.
2. Pesos de Afinidade e Disparidade Suaves: Ao contrário do RnC, que utiliza limiares rígidos, o ConOrd define pesos contínuos baseados na diferença de ranking $|r_i - r_j|$:
   • Peso de Afinidade ($a_{ij}$): Diminui conforme a lacuna de ranking aumenta, promovendo a atração entre amostras com rankings semelhantes. É instanciado como $a_{ij} = \frac{1}{(r_i - r_j)^2 + \epsilon}$.
   • Peso de Disparidade ($b_{ij}$): Aumenta conforme a lacuna de ranking aumenta, promovendo a repulsão entre amostras com rankings distantes. É instanciado como $b_{ij} = (r_i - r_j)^2$.
3. A Função de Perda: A perda é formulada como:
   $$L_{ConOrd} = -\frac{1}{2N} \sum_{i=1}^{2N} \frac{1}{|A(i)|} \log \frac{\sum_{j \in A(i)} a_{ij} e^{\kappa_{ij}/\tau}}{\sum_{j \in A(i)} b_{ij} e^{\kappa_{ij}/\tau}}$$
   onde $\kappa_{ij}$ é a similaridade (distância euclidiana negativa ao quadrado) e $\tau$ é um parâmetro de temperatura. Esta formulação garante que:
   • Amostras com pequenas lacunas de ranking sejam atraídas.
   • Amostras com grandes lacunas de ranking sejam repelidas.
   • A magnitude da lacuna de ranking modula a força da atração ou repulsão, permitindo supervisão ordinal refinada.
4. Regularização: Uma perda de centro (center loss, $L_{center}$) é adicionada para incentivar clusters compactos ao redor dos pontos de referência $\mu_m$ para cada ranking.
5. Inferência: A estimativa de ranking é realizada usando uma regra de $k$-vizinhos mais próximos ($k$-NN) no espaço de incorporação, calculando a média dos rankings dos $k$ vizinhos mais próximos de treinamento.

Principais Contribuições

1. Integração de Framework: Introdução do ConOrd, um framework geral que unifica o aprendizado de ordem e o aprendizado contrastivo dentro de uma única formulação por lote.
2. Design de Perda Inovador: Proposta de uma perda de ordem contrastiva que utiliza pesos de afinidade e disparidade suaves baseados em diferenças de ranking. Isso permite que todos os pares de amostras em um lote contribuam para o aprendizado, modulados por seus relacionamentos ordinais, evitando a perda de informação inerente ao limiar rígido.
3. Desempenho de Estado da Arte: Demonstração de que o ConOrd alcança resultados de estado da arte em diversos benchmarks de regressão ordinal, incluindo estimativa de idade facial, avaliação de qualidade de imagem cega (BIQA) e avaliação de qualidade de vídeo cega (BVQA).

Resultados Experimentais

Os autores avaliaram o ConOrd em múltiplos conjuntos de dados e tarefas:

• Estimativa de Idade Facial: Testado em seis conjuntos de dados (MORPH II, CLAP2015, AgeDB-DIR, UTK, CACD, Adience). O ConOrd alcançou o melhor Erro Médio Absoluto (MAE) em todos os conjuntos de dados, exceto no CACD, superando bases fortes como OrdinalCLIP e NumCLIP (que usam orientação textual) e SLACE (que usa informações de distribuição de classe).
• Avaliação de Qualidade de Imagem Cega (BIQA): Avaliado em cinco conjuntos de dados (BID, CLIVE, KonIQ10k, SPAQ, FLIVE). O ConOrd superou métodos existentes tanto no Coeficiente de Correlação de Ordem de Ranking de Spearman (SRCC) quanto no Coeficiente de Correlação Linear de Pearson (PCC) em todos os conjuntos de dados, superando arquiteturas complexas baseadas em Transformer e Mamba.
• Avaliação de Qualidade de Vídeo Cega (BVQA): Avaliado em cinco benchmarks (LSVQ, KoNViD-1k, LIVE-VQC, CVD2014, YouTube-UGC). O ConOrd consistentemente alcançou os melhores escores de SRCC e PCC, superando métodos que utilizam múltiplas redes de base (ex: ModularBVQA) enquanto utiliza menos redes de base.
• Estudos de Ablação:
  • Comparações com $L_{SupCon}$, $L_{RnC}$ e outras perdas contrastivas confirmaram que a comparação de todos os pares com pesos suaves é superior.
  • A combinação de $L_{ConOrd}$ e $L_{center}$ produziu os melhores resultados, com $L_{center}$ fornecendo compacidade intraclasse.
  • As funções de peso quadrático propostas mostraram-se robustas e eficazes em comparação com formas funcionais alternativas.
  • O método demonstrou resiliência à redução de dados de treinamento e corrupção de dados.

Significância e Alegações

O artigo alega que o ConOrd fornece uma base flexível para o aprendizado de representação ordinal ao preencher a lacuna entre a consistência global do aprendizado contrastivo e a modelagem de ordem explícita do aprendizado de ordem.

• Generalização: O framework é apresentado como uma solução geral aplicável a vários cenários de regressão ordinal, não limitado a um domínio específico.
• Eficiência: O método é computacionalmente eficiente, evitando a necessidade de aumento de dados (data augmentation) e amostragem negativa dinâmica exigidos por algumas bases, levando a tempos de treinamento mais rápidos.
• Estabilidade: O mecanismo de peso suave é alegado para fornecer uma otimização estável, evitando a instabilidade de gradiente associada a perdas logarítmicas ingênuas ou a perda de informação de limiares rígidos.

Os autores concluem que, ao incorporar atração e repulsão conscientes de ranking através de pesos suaves, o ConOrd permite que todos os pares de amostras contribuam para o aprendizado de maneira principista, resultando em modelos de regressão ordinal robustos e de alto desempenho.