MoCHA: Denoising Caption Supervision for Motion-Text Retrieval

Título: MoCHA: Remoção de Ruído na Supervisão de Legendas para Recuperação de Texto-Movimento

1. O Problema: Ruído Estrutural na Supervisão

O problema central abordado pelo artigo é a supervisão ruidosa em sistemas de recuperação de texto-movimento (motion-text retrieval).

• Natureza do Ruído: As legendas (captions) associadas a sequências de movimento 3D não são rótulos determinísticos. Elas são amostras de uma distribuição de descrições válidas. Diferentes anotadores descrevem o mesmo movimento com variações de estilo, contexto inferido (ex: "nervoso", "assustado") e intenções alucinadas que não podem ser deduzidas apenas das coordenadas das juntas 3D.
• Decomposição (s, a): Os autores formalizam a legenda $t$ como uma combinação de:
  • $s$ (Semântica Recuperável do Movimento): Conteúdo cinemático real (tipo de ação, partes do corpo, direção, contagem de repetições) que pode ser extraído dos dados 3D.
  • $a$ (Fatores de Nuisance): Variação dependente do anotador (estilo linguístico, verbosidade, contexto inferido, emoções).
• Falha dos Métodos Atuais: Os métodos de aprendizado contrastivo padrão tratam cada legenda como o alvo positivo único e determinístico. Isso ignora a estrutura distribucional, introduzindo variância dentro do mesmo movimento (within-motion variance) no espaço de embeddings. Isso enfraquece o alinhamento e prejudica a transferência entre conjuntos de dados (cross-dataset transfer), pois o modelo aprende o "ruído" específico de um dataset (ex: HumanML3D) em vez da semântica do movimento.

2. Metodologia: MoCHA

O MoCHA (Motion Canonicalization for Human Action retrieval) é um framework de desnoising (remoção de ruído) que opera exclusivamente no canal de texto, sem alterar os codificadores de movimento ou texto existentes.

• Operador de Canonização $C(\cdot)$:
  • O objetivo é projetar a legenda original $t$ sobre sua semântica recuperável $s$, removendo os fatores de nuisance $a$.
  • Implementação:
    1. Baseado em LLM: Utiliza um modelo de linguagem grande (GPT-5.2 no papel) para extrair a semântica cinemática e remover estilo/contexto inferido.
    2. Destilado (LLM-free): Um modelo leve (FlanT5-base) é treinado para imitar a canonização do LLM, permitindo inferência eficiente sem depender de APIs de LLM.
• Treinamento Blend (Blend Training):
  • Para evitar a perda de informações úteis que poderiam ser erroneamente removidas pela canonização e para manter a diversidade linguística, o MoCHA utiliza um esquema de treinamento dual:
    • Visão Desnoised: Usa a legenda canonizada $C(t_i)$ para ancorar o alinhamento na semântica pura do movimento ($s$), reduzindo a variância do gradiente.
    • Visão Original: Usa a legenda original $t_i$ como regularizador, expondo o modelo à distribuição natural de consultas.
  • A função de perda combina ambas as visões: $L_{mix} = \lambda L_{canon} + (1-\lambda) L_{orig}$.

3. Contribuições Principais

1. Definição Teórica: Formalização do problema de recuperação de movimento como um problema de "muitos-para-um" com ruído estrutural, decompondo legendas em semântica cinemática ($s$) e ruído de anotador ($a$).
2. Framework de Canonização: Introdução do MoCHA, que projeta legendas em um espaço canônico estável. Demonstram que mesmo métodos baseados em regras simples (remoção de stopwords) melhoram a transferência, mas modelos aprendidos oferecem ganhos substanciais.
3. Arquitetura Agnóstica: O MoCHA atua como um pré-processamento de texto, sendo compatível com qualquer arquitetura de recuperação (demonstrado no MoPa/MotionPatches).
4. Evidência Empírica: Prova que a canonização reduz a variância dos embeddings de texto dentro do mesmo movimento em 11–19% e melhora a geometria do espaço de embeddings (clusters positivos mais apertados e melhor separação de negativos).

4. Resultados Experimentais

Os experimentos foram realizados nos benchmarks HumanML3D (H) e KIT-ML (K).

• Recuperação In-Distribution (Mesmo Dataset):

  • O MoCHA estabeleceu um novo estado da arte (SOTA) em ambos os datasets.
  • HumanML3D: O variante com LLM alcançou 13.91% de R@1 (Text-to-Motion), uma melhoria de +3.1 pontos percentuais sobre o anterior (MoPa).
  • KIT-ML: O variante com LLM alcançou 24.30% de R@1, uma melhoria massiva de +10.3 pontos percentuais.
  • A variante sem LLM (FlanT5) também superou o estado da arte, com ganhos de +2.5pp e +8.1pp respectivamente.

• Transferência entre Datasets (Cross-Dataset):

  • Este é o ponto onde o MoCHA brilha mais, provando que removeu o viés de estilo do dataset.
  • H3D $\to$ KIT: Melhoria relativa de +94% no R@1.
  • KIT $\to$ H3D: Melhoria relativa de +52% no R@1.
  • Isso demonstra que ao remover o ruído específico do dataset de treinamento, o modelo aprende representações de movimento-linguagem verdadeiramente transferíveis.

• Análise de Geometria:

  • A canonização aumentou a similaridade intra-classe (legendas do mesmo movimento ficam mais próximas) e a alinhamento texto-movimento, sem colapsar a separação entre classes diferentes.

5. Significado e Conclusão

O trabalho demonstra que a qualidade da supervisão em tarefas de recuperação multimodal é frequentemente limitada pelo ruído introduzido pela anotação humana, e não apenas pela capacidade do modelo.

• Paradigma de Desnoising vs. Augmentation: O artigo contrapõe a ideia comum de "aumentar" dados com paráfrases (que pode aumentar a variância do ruído). Em vez disso, o MoCHA propõe "desnoising" (canonização), colapsando a variância para um alvo estável.
• Generalidade: O princípio de canonização é geral; não depende de um LLM específico, mas sim da projeção na semântica recuperável do movimento.
• Impacto Prático: A versão destilada (FlanT5) permite a implantação em produção sem a necessidade de infraestrutura pesada de LLMs, mantendo ganhos de desempenho significativos.

Em resumo, o MoCHA resolve o problema de alinhamento fraco em recuperação de movimento ao tratar as legendas não como verdades absolutas, mas como amostras ruidosas de uma semântica subjacente, limpando esse ruído antes do treinamento do modelo.