Scaling Multilingual Semantic Search in Uber Eats Delivery

Este artigo apresenta um sistema de recuperação semântica unificado e multilíngue para o Uber Eats, que utiliza um modelo Qwen2 de duas torres com aprendizado de representação Matryoshka e treinamento em centenas de milhões de interações para melhorar significativamente a precisão na busca por restaurantes, pratos e itens de varejo em múltiplos mercados.

O essencial

Imagine que o Uber Eats é uma cidade gigante, cheia de milhões de restaurantes, pratos deliciosos e itens de supermercado. Antigamente, quando você digitava "pizza" na busca, o sistema funcionava como um bibliotecário um pouco desatualizado: ele só olhava para as palavras exatas que você escreveu. Se você digitasse "pizza de pepperoni" e o restaurante estivesse cadastrado como "pizza com pepperoni", o sistema podia não te encontrar. Era como tentar achar uma agulha num palheiro usando apenas uma lupa de palavras-chave.

Os autores deste artigo (da equipe do Uber Eats) decidiram construir um bibliotecário superinteligente que entende o que você realmente quer, não apenas o que você escreveu. Eles chamam isso de "Busca Semântica".

Aqui está a história de como eles fizeram isso, explicada de forma simples:

1. O Grande "Cérebro" Único (O Modelo Unificado)

Antes, o Uber Eats tinha "cérebros" separados: um para restaurantes, outro para pratos e outro para mercado. Era como ter três bibliotecários diferentes que não conversavam entre si.

• A Solução: Eles criaram um único "cérebro" (um modelo de Inteligência Artificial baseado no Qwen2, um tipo de LLM muito poderoso) que entende tudo ao mesmo tempo.
• A Analogia: Imagine um tradutor universal que, ao ouvir "quero algo rápido para o jantar", sabe que pode sugerir um restaurante de fast-food, um prato específico de macarrão ou até uma pizza pronta do mercado, dependendo do que você costuma fazer. Ele unificou tudo em um só lugar.

2. A Técnica do "Boneco Russa" (MRL)

Um dos maiores desafios é que a internet é rápida, mas o cérebro da IA é grande. Se a IA for muito detalhada, ela demora para responder. Se for muito simples, ela erra.

• A Solução: Eles usaram uma técnica chamada MRL (Matryoshka Representation Learning).
• A Analogia: Pense em um boneco russa (Matryoshka). Você pode ter o boneco inteiro (1536 dimensões de detalhes), que é perfeito para encontrar a resposta exata, mas é pesado. Mas, se você estiver com pressa, pode usar apenas o "cabeça" do boneco (128 dimensões), que é leve e rápido, mas ainda guarda a ideia principal.
• O Resultado: O mesmo modelo serve para situações onde você precisa de velocidade (como em celulares antigos) e para situações onde você quer a máxima precisão, sem precisar carregar vários modelos diferentes.

3. O Treinamento: De "Leitura de Livro" a "Estágio na Cozinha"

Como ensinar essa IA a entender o Uber Eats?

• Fase 1 (A Base): Eles pegaram o modelo Qwen2, que já lia milhões de livros e sabia de tudo (conhecimento geral), e o colocaram para "ler" milhões de buscas reais de usuários do Uber Eats. Eles viram o que as pessoas clicavam e o que colocavam no carrinho.
• Fase 2 (O Refinamento): Depois, usaram uma IA ainda mais inteligente (um "professor") para criar um teste de "casos difíceis". Por exemplo: "Se o usuário digita 'chocolate', ele quer chocolate em pó ou um bolo de chocolate?". O modelo foi treinado especificamente para não errar nessas pegadinhas.
• A Analogia: É como pegar um estudante universitário brilhante (o modelo base) e dar a ele um estágio de 6 meses na cozinha do Uber Eats, onde ele aprende os segredos do negócio, e depois faz um exame final com as perguntas mais difíceis que os clientes já fizeram.

4. A Entrada de Dados: O "Formulário" vs. O "Bloco de Texto"

Para a IA entender melhor, eles não jogaram o texto de forma bagunçada.

• A Solução: Eles organizaram os dados como um formulário estruturado (JSON). Em vez de apenas "Pizza, pepperoni, saborosa", a IA vê: Nome: Pizza, Ingrediente: Pepperoni, Categoria: Italiana.
• A Analogia: É a diferença entre ler uma carta escrita à mão, rabiscada, e ler um formulário preenchido com campos claros. A IA entende muito melhor quando as informações estão organizadas em caixinhas separadas.

5. O Resultado na Vida Real

O que aconteceu quando eles ligaram isso no app?

• Mais Acertos: O sistema encontrou muito mais coisas que os usuários queriam (a taxa de "recall" aumentou drasticamente).
• Menos "Nada Encontrado": A quantidade de vezes que o usuário buscava algo e o sistema dizia "não temos nada" caiu quase 70%.
• Mais Vendas: Como as pessoas encontraram o que queriam mais rápido, elas compraram mais.
• Custo: Graças à técnica do "Boneco Russa" e à compressão dos dados (quantização), eles conseguiram fazer tudo isso sem gastar uma fortuna em servidores.

Resumo Final

Os autores criaram um sistema de busca inteligente que:

1. Entende o contexto (não só palavras-chave).
2. Funciona em vários idiomas e para vários tipos de produtos (comida, mercado) ao mesmo tempo.
3. É flexível: pode ser rápido ou detalhado dependendo da necessidade.
4. Foi treinado com dados reais de milhões de usuários para aprender o que as pessoas realmente querem.

É como substituir um bibliotecário que só sabe ler etiquetas por um concierge pessoal que conhece seus gostos, entende o que você diz (mesmo que você erre a palavra) e te leva direto para o que você precisa, seja um hambúrguer ou um pacote de arroz.

Resumo técnico

Aqui está um resumo técnico detalhado do artigo "Scaling Multilingual Semantic Search in Uber Eats Delivery", traduzido e adaptado para o português:

Resumo Técnico: Escalonamento da Busca Semântica Multilíngue no Uber Eats

1. O Problema

A busca é o principal ponto de entrada para os usuários do Uber Eats. O desafio central reside na necessidade de recuperar entidades relevantes (lojas de restaurantes, pratos e itens de supermercado/varejo) compreendendo a intenção do usuário além do simples correspondência de palavras-chave.

• Limitações Anteriores: Os sistemas históricos dependiam de soluções fragmentadas, utilizando modelos BERT separados para cada vertical ou busca lexical baseada em palavras-chave. Isso aumentava a complexidade operacional, limitava a generalização e deixava espaço de desempenho inexplorado.
• Objetivo: Criar um sistema unificado, multilíngue e multi-vertical que possa lidar com bilhões de documentos com baixa latência e alta precisão.

2. Metodologia

O sistema proposto é uma arquitetura de dois torres (two-tower) baseada em um modelo de linguagem de grande escala (LLM) de código aberto.

• Arquitetura do Modelo:

  • Base: Utiliza o backbone gte-Qwen2-1.5B (um LLM decoder-only).
  • Estrutura: Torres de consulta (query) e documento separadas com pesos não compartilhados. Isso permite o pré-cálculo offline dos embeddings dos documentos e a busca em tempo real via Approximate Nearest Neighbor (ANN).
  • Entrada: Os dados são formatados como JSON estruturado (em vez de texto plano concatenado). Isso permite que o modelo entenda implicitamente o tipo de documento (loja, prato, item) e o contexto (idioma, localização) através dos nomes dos campos.
  • Pooling: Utiliza o token End-of-Sentence (EOS) para agregar as representações, superando métodos de média ou último token.

• Estratégia de Treinamento (Duas Etapas):

  1. Adaptação de Domínio (InfoNCE): Treinamento em larga escala com centenas de milhões de pares (consulta, documento) derivados de logs implícitos (cliques e "adicionar ao carrinho"). Utiliza a função de perda InfoNCE com negativas dentro do batch (in-batch negatives).
  2. Afinamento (Triplet NCE): Uma segunda etapa de fine-tuning utilizando exemplos difíceis (hard negatives) e positivos difíceis, minerados de logs e validados/rotulados por um LLM oracle. Isso afina as fronteiras de decisão para casos complexos.

• Tecnologias Chave:

  • Matryoshka Representation Learning (MRL): Permite que um único modelo gere embeddings de tamanhos variados (de 128 a 1536 dimensões) truncando o vetor final. Isso oferece flexibilidade para trocar custo/latência por precisão sem re-treinar modelos separados.
  • Função de Pontuação Não-Linear: Exploração de uma cabeça de rede neural (FFN) para re-classificação (micro-re-ranking), superando as limitações da similaridade cosseno fixa.

3. Principais Contribuições

1. Sistema Unificado de Duas Torres: Um único modelo escalável e multilíngue que unifica a recuperação em três verticais distintas (Restaurantes, Varejo e Supermercado).
2. Receita de Treinamento Escalável: Um pipeline robusto que combina InfoNCE para adaptação de domínio massiva e Triplet NCE com exemplos minerados por LLM para refinamento.
3. Embeddings Flexíveis com MRL: Implementação de MRL para suportar múltiplos tamanhos de embedding em tempo de inferência, permitindo otimizações de custo e latência dinâmicas.
4. Validação Abrangente: Avaliação extensiva em seis mercados e três verticais, demonstrando ganhos significativos sobre baselines fortes.
5. Insights de Produção: Lições práticas sobre indexação ANN, serviço online, quantização (INT8) e estratégias de implantação segura (blue/green).

4. Resultados

Os resultados foram validados através de avaliações offline (k-NN) e testes A/B online.

• Desempenho Offline (Recall):
  • O modelo final (Qwen2-1.5B com treinamento de duas etapas) superou o baseline legado (Mini-LM) em 88% na métrica de alta precisão (Store R@20) e em 31% na métrica de alto recall (Store R@200).
  • Ganhos consistentes foram observados em todos os mercados, com melhorias percentuais mais altas em mercados com desempenho de baseline historicamente mais baixo (ex: Japão e Taiwan).
• Eficiência Operacional (MRL e Quantização):
  • O uso de MRL para reduzir o embedding de 1536D para 256D resultou em uma queda de recall insignificante (0,002 pontos), mas reduziu a pegada de armazenamento para 16% e o custo do índice para 23%.
  • A quantização INT8 no corte de 256D reduziu o tamanho do índice para 4% e o custo para 15%, mantendo o desempenho online estável.
• Impacto Online (Negócios):
  • O modelo trouxe um aumento estatisticamente significativo na Taxa de Conversão (CVR) de buscas intencionais (+0,44%) e no CoPSU (Pedidos/Clique por Unidade de Busca, +0,54%).
  • Redução drástica na taxa de "Zero Resultados" (-69,10%), melhorando a cobertura em cenários multilíngues e multi-verticais.
  • A latência de busca permaneceu estável, com o aumento de latência total localizado apenas na etapa de ranking subsequente devido à maior qualidade do conjunto de candidatos.

5. Significado e Conclusão

Este trabalho demonstra que é possível substituir sistemas de busca fragmentados e baseados em palavras-chave por uma solução unificada baseada em LLMs, mesmo em ambientes de produção de grande escala e baixa latência.

• Inovação: A combinação de LLMs modernos (Qwen), treinamento com dados implícitos massivos, validação por LLM e a técnica de MRL cria um sistema que equilibra desempenho de ponta com eficiência de custos.
• Escalabilidade: A abordagem provou ser viável para bilhões de documentos, oferecendo uma rota clara para futuras expansões (modelos maiores de 7B/14B, sinais multimodais e otimização de índices independentes).
• Impacto: O sistema não apenas melhorou a experiência do usuário ao encontrar o que eles procuram, mas também gerou valor de negócio direto através do aumento de conversões e redução de buscas sem resultados.

Em suma, o artigo estabelece um novo padrão para sistemas de busca semântica em e-commerce e delivery, demonstrando como a engenharia de dados, arquitetura de modelos e otimização de infraestrutura podem ser integradas para resolver problemas complexos de recuperação de informação.