Rethinking Incompleteness: Formalizing Protocol Divergence and Train-Once Learning for Robust IMVC

Resumo Técnico: Repensando a Incompletude em IMVC

Definição do Problema
O Agrupamento Multiview Incompleto (IMVC - Incomplete Multi-View Clustering) aborda o desafio de agrupar dados onde as visões (modalidades) estão ausentes para subconjuntos de amostras. O paradigma dominante na pesquisa atual de IMVC baseia-se na reconstrução entre visões (cross-view reconstruction), onde as visões ausentes são recuperadas utilizando amostras completas como supervisão. No entanto, o artigo identifica duas falhas críticas na avaliação e na compreensão teórica desses métodos:

1. A Armadilha do Retreinamento por Configuração: Os métodos existentes são tipicamente avaliados retreinando um modelo separado para cada combinação específica de protocolo de dados ausentes e taxa de ausência. Essa abordagem é computacionalmente proibitiva para implantação no mundo real, onde as distribuições de dados ausentes são frequentemente não estacionárias ou desconhecidas.
2. Divergência de Incompletude: O artigo argumenta que a "taxa de ausência nominal" ($r$) é uma métrica insuficiente para caracterizar a incompletude dos dados. Diferentes protocolos de avaliação com o mesmo $r$ nominal podem resultar em proporções drasticamente diferentes de amostras totalmente observadas ($p_c$). Os autores formalizam isso como divergência de incompletude, mostrando que os protocolos podem diferir em até 50$\times$ em $p_c$ para uma mesma taxa nominal.

Insights Teóricos: O Limite de Treinabilidade
Os autores provam que, para a ampla classe de métodos baseados em reconstrução (Classe 1, denotada como $\mathcal{F}_{rec}$), o aprendizado torna-se estruturalmente mal posto quando a proporção de amostras completas ($p_c$) cai abaixo de um limiar crítico (especificamente, quando $p_c \to 0$).

• Mecanismo: As perdas de reconstrução derivam supervisão principalmente da coocorrência entre visões dentro da mesma amostra. Se uma amostra possui menos de duas visões, ela não contribui com nenhum sinal de gradiente para o objetivo de reconstrução.
• Consequência: À medida que $p_c$ diminui, o sinal de gradiente esperado desaparece. O artigo prova que, para protocolos onde $p_c \to 0$, o deslocamento esperado de parâmetros é limitado por termos proporcionais a $p_c$, levando a uma precisão de agrupamento próxima ao acaso, independentemente do ajuste de hiperparâmetros. Este colapso é uma propriedade estrutural da família de funções de perda, não um artefato de ajuste (tuning).
• Distinção: O artigo distingue entre falha de treinabilidade (o sinal de gradiente desaparece devido ao baixo $p_c$, afetando $\mathcal{F}_{rec}$) e falha de capacidade (limites de teoria da informação onde as visões observadas simplesmente carecem de informação suficiente sobre os rótulos de agrupamento, afetando todos os métodos).

Metodologia: CRAFT
Para contornar o limite de treinabilidade, os autores propõem o CRAFT (Complete-data Robust Attention-masked Fusion Transformer). O CRAFT é projetado para satisfazer duas condições estruturais que permitem que um único modelo treinado em dados completos generalize para qualquer padrão de ausência na inferência:

1. Independência por Amostra (C1): A representação para a amostra $i$ é computada unicamente a partir de suas próprias visões observadas e parâmetros compartilhados. Ela não depende dos padrões de observação de outras amostras ou da coocorrência entre amostras.
2. Fusão de Comprimento Variável Consciente de Máscara (C2): As visões ausentes são excluídas da computação interna via máscara de atenção (attention masking), em vez de serem preenchidas com zeros ou alucinadas. Isso garante que as visões ausentes contribuam com exatamente zero para a representação fundida, evitando a injeção de ruído ou sinais inválidos.

Detalhes da Arquitetura:

• Codificação por Visão: MLPs específicos por visão mapeiam cada visão para um espaço de incorporação (embedding) compartilhado.
• Fusão por Transformer: Um codificador Transformer processa a sequência de incorporações de visão (mais um token [CLS] treinável). Na inferência, uma máscara de preenchimento de chave (key-padding mask) define os logitos de atenção como $-\infty$ para as visões ausentes, removendo-as efetivamente do mecanismo de atenção.
• Treinamento em Duas Etapas em Dados Completos:
  • Etapa 1: Aprende representações usando uma perda de reconstrução por visão e uma perda de consistência entre visões (estilo SimSiam) em amostras completas.
  • Etapa 2: Ajusta (fine-tunes) a cabeça de agrupamento usando entropia cruzada auto-rotulada, regularização de entropia e, opcionalmente, Ajuste Fino com Máscara (MFT) para alinhar a distribuição de treinamento com os padrões de ausência em tempo de inferência.

Principais Contribuições

1. Formalização da Divergência de Incompletude: Introdução da taxa de ausência efetiva ($\hat{r}$) e da proporção de amostras completas ($p_c$) como variáveis causais distintas, revelando que os protocolos padrão ocultam os riscos de treinabilidade dos métodos baseados em reconstrução.
2. Prova Teórica de Colapso: Prova rigorosa de que o aprendizado baseado em reconstrução é estruturalmente limitado por $p_c$, explicando por que os métodos existentes falham em regimes de dados esparsos (onde $p_c < 1\%$).
3. Arquitetura CRAFT: Um framework baseado em Transformer que alcança IMVC robusto através de design arquitetônico (C1 e C2) em vez de engenharia de função de perda, permitindo um paradigma "Treine uma Vez, Implante Sempre" (Train-Once, Deploy-Many).
4. Validação Empírica: Experimentos extensivos em sete benchmarks (incluindo CUB, HandWritten, MultiFashion e YTF-31) através de quatro protocolos de avaliação distintos.

Resultos

• Colapso das Linhas de Base (Baselines): As linhas de base padrão $\mathcal{F}_{rec}$ (ex: COMPLETER, DCP, DCG, HSACC) colapsam uniformemente para uma precisão próxima ao acaso (frequentemente $<40\%$) quando avaliadas sob protocolos rigorosos onde $p_c \to 0$, mesmo que a taxa de ausência nominal seja moderada.
• Desempenho do CRAFT: Um único checkpoint do CRAFT, treinado uma única vez em dados completos, iguala ou supera as linhas de base retreinadas por configuração em todas as 16 configurações (protocolo, taxa) testadas.
• Eficiência: O CRAFT reduz o custo de treinamento em 8,8$\times$ em comparação com a abordagem de linha de base de retreinar modelos separados para cada configuração.
• Robustez: O CRAFT mantém alta precisão mesmo quando $p_c = 0$, demonstrando que a robustez à ausência de dados pode ser uma propriedade arquitetônica inerente.

Significância e Alegações
O artigo afirma que o paradigma atual de "retreinamento por configuração" em IMVC é frágil e oculta uma vulnerabilidade fundamental nos métodos baseados em reconstrução. Ao deslocar o ônus da robustez da função de perda para a arquitetura, o CRAFT demonstra que é possível alcançar um IMVC robusto sem retreinar para distribuições específicas de dados ausentes. Os autores sugerem que pesquisas futuras de IMVC devem relatar $p_c$ como uma métrica padrão e priorizar refinamentos arquiteturais (como independência por amostra e fusão consciente de máscara) em vez de mecanismos de recuperação algorítmica. O trabalho limita-se ao IMVC não supervisionado com perdas de reconstrução entre visões; os autores observam que estender esses princípios para classificação multivisual supervisionada ou outros cenários multimodais permanece como uma direção para trabalhos futuros.