Resumo Técnico: Recuperar, Corresponder, Escalar

Definição do Problema

O artigo aborda o vínculo de produtos (resolução de entidades) na escala de um grande marketplace sob demanda (DoorDash). A tarefa envolve o mapeamento de bilhões de registros de produtos de comerciantes (SKUs) ruidosos, multilíngues e de múltiplas categorias para um catálogo canônico de dezenas de milhões de produtos.

O desafio central é um equilíbrio entre custo e capacidade.

• Escala: Resolver cada par de candidatos com um único modelo de alta capacidade é computacionalmente proibitivo.
• Variância de Dificuldade: Muitos pares são diretos (ex: correspondências exatas de código de barras), enquanto outros são ambíguos devido a dados ausentes, atributos conflitantes ou a necessidade de distinguir variantes sutis (ex: tamanho, sabor).
• Qualidade dos Dados: Os registros dos comerciantes frequentemente contêm imagens ausentes, códigos de barras não normalizados e atributos de texto livre, tornando a correspondência de texto simples insuficiente para a "cauda difícil" de casos ambíguos.
• Gargalo de Rotulagem: Obter rótulos humanos confiáveis é difícil porque a identidade do produto é conjuntiva (consistente em marca, tamanho, etc.), e a anotação requer a resolução conjunta de evidências incompletas.

Metodologia

Os autores propõem uma cascata de três estágios roteada por confiança que aloca computação proporcional à dificuldade da decisão.

1. Estágio 1: Recuperação (Retrieval)

Antes da correspondência, o sistema estreita o catálogo global para um pequeno conjunto de candidatos ($K=20$) por registro de comerciante.

• Mecanismo: Um índice vetorial funde três canais: texto (nomes de itens/campos estruturados), imagens (fotos de produtos) e códigos de barras (GTIN/UPC).
• Técnica: A busca de Vizinho Mais Próximo Aproximado (ANN) é usada para texto e imagens, combinada com correspondência exata/parcial de códigos de barras. Os resultados são mesclados usando Fusão de Classificação Recíproca (RRF).
• Objetivo: Garantir alta revocação (recall); se o produto canônico correto não for recuperado, ele não poderá ser correspondido nas etapas seguintes.

2. Estágio 2: Matcher de Cross-Encoder Leve

Este estágio pontua pares de candidatos e os roteia com base na confiança.

• Arquitetura: Um cross-encoder ModernBERT-base (150M de parâmetros) apenas de texto com uma cabeça sigmoide. Ele concatena campos serializados (categoria, nome, listas de GTIN/UPC, tamanho, unidade) de ambos os registros em uma única sequência de 256 tokens.
• Estratégia de Entrada: Dígitos de código de barras brutos são inseridos diretamente na sequência, em vez de flags de igualdade pré-computadas, permitindo que o modelo aprenda padrões de concordância parciais e ruidosos.
• Treinamento e Destilação: O modelo é treinado em 5,3 milhões de pares gerados via consenso de dual-VLM. Dois VLMs independentes pontuam cada par; apenas os pares onde eles concordam são usados como rótulos de treinamento. Isso substitui 40 mil rótulos humanos por 130x mais rótulos sintéticos consistentes.
• Política de Roteamento: O modelo gera um escore calibrado ($s \in [0, 1]$).
  • ALTA ($s \geq \theta_{high}$): Aceitação automática (precisão $\geq 98\%$).
  • BAIXA ($s \leq \theta_{low}$): Rejeição automática.
  • MÉDIA: Escala para o Estágio 3.

3. Agente VLM Multimodal

Este estágio adjudica a faixa ambígua de "confiança média" que o Estágio 2 não consegue resolver.

• Arquitetura: Um VLM de Mistura de Especialistas (MoE) de pesos abertos e auto-hospedado (Qwen 3.6 35B-A3B).
• Capacidades: O agente é agêntico. Ele recebe registros de produtos, imagens e tem acesso a uma ferramenta de busca na web via interface MCP. Ele segue um padrão ReAct, decidindo quando buscar evidências externas (ex: verificar um código de barras ou marca contra um site de varejo) para resolver conflitos ausentes nos registros.
• Otimização:
  • Engenharia de Prompt: Adendos específicos guiam o modelo para tratar resultados de busca vazios como inconclusivos (não como prova de fabricação) e restringir a prova de identidade a evidências do mesmo varejista.
  • Controle de Loop: O agente é limitado a quatro rodadas de ferramentas para evitar excesso de busca e aumento de latência.
• Redução de Custo: O sistema migrou de um VLM de fronteira fechado (GPT-5.4) para o modelo de pesos abertos, removendo custos de fornecedor por token e permitindo o controle sobre o backend de busca.

Principais Contribuições

1. Inferência Multimodal com Uso de Ferramentas: Formular o vínculo de produtos ambíguo como uma tarefa que exige coleta ativa de evidências (busca na web) e raciocínio multimodal, implementada via um VLM pré-treinado com prompting específico.
2. Cascata Escalável Roteada por Confiança: Demonstrar como parear um cross-encoder destilado leve com um VLM agêntico. O cross-encoder resolve a maioria de alto sinal de forma eficiente, enquanto o agente lida com a cauda difícil, otimizando o equilíbrio entre custo e precisão.
3. Validação de Produção e Insights de Destilação:
   • Validou o pipeline em um ponto operacional de produção (98% de precisão).
   • Mostrou que um agente de pesos abertos alcança paridade de precisão com um modelo de fronteira fechado a ~1/7 do custo (com um trade-off de 4 pontos de recall) sem ajuste fino (fine-tuning).
   • Identificou um modo de falha específico no cross-encoder (indexação excessiva de códigos de barras em identificadores corrompidos) e o resolveu via uma segunda passagem de destilação usando um professor regularizado, em vez de correção manual.

Resultados

• Recuperação (Retrieval): O estágio de recuperação atinge 93,06% de recall em um corte de deduplicação (ground truth independente) e 99,12% em pares vinculados.
• Matcher (Estágio 2): O cross-encoder destilado atinge 77,05% de recall com 98% de precisão (R@P98) em um conjunto de teste. Ele aceita automaticamente 43,7% dos vínculos em produção sob este patamar de precisão.
• Agente (Estágio 3):
  • vs. Humanos: Em tarefas difíceis de confiança média, o agente superou operadores humanos treinados em +13,7% de acurácia, +18,5% de recall e +4,7% de precisão ($p < 0,0001$).
  • vs. Modelo Fechado: O agente de pesos abertos iguala a precisão do modelo de fronteira fechado (98,0%), mas possui um recall ligeiramente menor (88% vs. 92%) a um custo ~7x menor por par.
• Impacto End-to-End: A cascata aumenta a cobertura de vínculo end-to-end de 68,1% (apenas o estágio barato) para 77,1%, um ganho de 9,0 pontos percentuais, ao resolver os registros mais ambíguos.

Significância e Alegações

O artigo alega que os rótulos são o gargalo, não a arquitetura. Os resultados demonstram que escalar o volume de rótulos sintéticos de alta consistência (via consenso de dual-VLM) gera maiores ganhos de desempenho do que aumentar a capacidade do modelo ou o ajuste de hiperparâmetros.

O sistema estabelece um ponto operacional de produção onde:

• Eficiência de Custo: A computação é gasta apenas onde necessário. O custo por par varia cinco ordens de magnitude, mas a cascata garante que o agente caro seja invocado apenas para a "cauda difícil".
• Robustez: O pipeline lida com dados ruidosos e heterogêneos (imagens ausentes, códigos de barras não normalizados) combinando o aprendizado de tokens brutos (para códigos de barras) com a busca agêntica (para contexto ausente).
• Portabilidade: O design (recuperar-então-corresponder, roteamento de confiança, destilação) é independente de domínio. O sucesso específico depende da capacidade de trocar modelos (ex: de pesos fechados para abertos) sem retreinar toda a pipeline, desde que o prompt e os contratos de ferramentas permaneçam estáveis.

Os autores enfatizam que o sistema não é uma "solução mágica" para 100% de cobertura (limitada pela recuperação e completude do catálogo), mas representa um passo significativo em direção ao vínculo de entidades escalável, preciso e econômico em grandes marketplaces.