Synthetic Customer 360 Benchmark for Customer Data Quality, Identity Resolution, and Survivorship in Omnichannel Retail

Resumo Técnico: Benchmark de Cliente 360 Sintético para Varejo Omnichannel

1. Definição do Problema

No varejo omnichannel, a construção de uma visão unificada de "Cliente 360" requer a integração de observações fragmentadas de diversas fontes (ex: e-commerce, fidelidade, lojas físicas, atendimento/fulfillment) em perfis unificados e confiáveis. No entanto, a avaliação rigorosa da resolução de identidade (vincular registros à mesma entidade) e da sobrevivência (resolver valores de atributos conflitantes para criar um "registro de ouro") é dificultada pela falta de dados compartilháveis com verdade fundamental (ground truth) conhecida. Os dados reais de clientes são sensíveis, e a verdadeira estrutura de identidade, o linhagem dos dados e os motivos específicos para conflitos raramente são totalmente observáveis ou documentados de uma forma que permita o benchmarking controlado e reprodutível. Os geradores de dados sintéticos existentes frequentemente focam em similaridade estatística ou corrupção geral sem modelar o contexto de decisão específico da unificação de clientes, como autoridade da fonte, estados de verificação ou linhagem de transformação ao nível do atributo.

2. Metodologia

O artigo apresenta um benchmark de Cliente 360 sintético e um método de geração determinístico projetado para criar uma verdade fundamental auditável para avaliar a qualidade dos dados, a resolução de identidade e as regras de sobrevivência.

• Modelo de Dados: O gerador cria um modelo latente composto por pessoas, domicílios, contas, pontos de contato, endereços e observações de origem. Ele simula quatro perfis de origem omnichannel distintos com diferentes níveis de autoridade e taxas de verificação:
  1. Fidelidade/Mobile: Maior autoridade, rico em nome/e-mail/telefone.
  2. E-commerce: Identidade de conta digital.
  3. Atendimento/Fulfillment: Contato/entrega mantidos operacionalmente.
  4. Transação em Loja Física: Menor sinal, identificação esparsa.
• Transformações Controladas: O sistema aplica oito mecanismos auditáveis para gerar defeitos, ambiguidades e conflitos, preservando a linhagem exata:
  • Defeitos: Valores ausentes, formatos inválidos, variantes tipográficas e valores obsoletos.
  • Ambiguidade: Identificadores compartilhados (ex: e-mails de domicílio) e atribuições de pessoa/domicílio concorrentes.
  • Conflitos: Valores concorrentes entre registros e conflitos de autoridade versus recência.
• Verdade Fundamental (Ground Truth): O benchmark separa as entradas de quatro camadas distintas de verdade:
  1. Verdade de Identidade: Mapeamento de registros de origem para pessoas canônicas e clusters de duplicatas.
  2. Linhagem de Transformação: Registro do mecanismo, valores antes/depois e tempo do evento para cada mudança.
  3. Verdade de Sobrevivência: Geração de resultados esperados de "registros de ouro" sob quatro regimes declarados:
     • Prioridade de Verificação: Prioriza validade e verificação.
     • Prioridade de Autoridade da Fonte: Prioriza o ranking da fonte.
     • Prioridade de Recência: Prioriza o tempo do evento.
     • Misto Condicional: Regras específicas por atributo (ex: verificação + recência para e-mail; autoridade + verificação para nome).
• Design Experimental: O estudo executou 335 execuções predeclaradas através de quatro famílias de experimentos:
  • Dificuldade de Identidade: Comparação de condições "fácil", "base" e "difícil" com topologia fixa, mas aumentando defeitos/ambiguidade.
  • Conflito de Sobrevivência: Comparação de níveis de conflito "baixo", "médio" e "alto" com candidatos disponíveis fixos.
  • Sensibilidade de Fator Único: Isolamento de tipos específicos de defeitos.
  • Escala: Teste de desempenho em 100, 200 e 400 pessoas.
• Baselines e Métricas: Três baselines de identidade transparentes foram testados (Exato Normalizado, Regras Determinísticas, Similaridade Ponderada). A avaliação utilizou métricas Pareadas (nível de link) e B-cubed (nível de cluster) de F1. A sobrevivência foi avaliada via aplicabilidade, avaliabilidade, discordância de união e taxas de discordância condicional.

3. Principais Resultados

• Integridade de Execução: Todas as 335 execuções passaram na validação. Uma tentativa inicial de 94 execuções foi interrompida devido a uma inconsistência de linhagem em um caminho específico de sobreposição de conflito; isso foi corrigido, testado para regressão e a matriz completa foi reexecutada do zero para garantir a integridade das evidências.
• Resolução de Identidade (H1): O benchmark distinguiu com sucesso os níveis de dificuldade de identidade.
  • Em 40 sementes pareadas, a condição fácil superou consistentemente a condição difícil para o baseline de similaridade ponderada no limiar primário de 0,85.
  • A diferença mediana de F1 pareada foi de 0,5846 (p-valor de um lado ajustado por Holm: $1,82 \times 10^{-12}$).
  • Essa direção mante-se nos limiares secundários (0,80 e 0,90).
  • Métricas B-cubed mostraram um declínio menor do que as métricas pareadas, ilustrando como clusters de falsas junções inflam erros pareados enquanto a sobreposição centrada no registro permanece maior.
• Sobrevivência (H2): O benchmark distinguiu com sucesso os níveis de conflito sem alterar o denominador de candidatos.
  • Em 40 sementes pareadas, as condições de alto conflito produziram taxas de discordância condicional significativamente maiores do que as condições de baixo conflito.
  • O aumento mediano foi de 0,0577 (5,77 pontos percentuais; p-valor de um lado ajustado por Holm: $1,82 \times 10^{-12}$).
  • O estudo demonstrou que as taxas de discordância aumentam conforme os valores concorrentes aumentam, mesmo quando o conjunto de candidatos avaliáveis permanece constante.
• Sensibilidade e Escala: Experimentos de fator único confirmaram que o aumento de taxas de defeitos específicos (ex: ausência, erros de digitação) aumentou proporcionalmente as contagens de defeitos realizados. Testes de escala mostraram escalonamento de tempo de execução consistente com comparações de todos os pares não indexados (crescimento quadrático).

4. Principais Contribuições

O artigo contribui com um design de benchmark específico para a tarefa e um pacote de evidências executado, em vez de um novo algoritmo de correspondência ou uma população de varejo representativa.

1. Design Integrativo: Unifica um modelo de origem omnichannel, defeitos de qualidade de dados controlados, verdade de cluster de identidade, linhagem ao nível de atributo e quatro regimes de sobrevivência em um único framework.
2. Avaliação Consciente do Denominador: Introduz um método de avaliação de sobrevivência que distingue entre aplicabilidade da verdade (existe um candidato?), avaliabilidade (o candidato é válido?) e discordância de regra (as regras diferem?). Isso evita que baixas contagens de discordância sejam interpretadas erroneamente como concordância de regra quando, na verdade, não existem candidatos válidos.
3. Reprodutibilidade e Transparência: O estudo fornece um registro de "execução interrompida", preservando a evidência de falha em vez de corrigi-la silenciosamente. Libera sementes fixas, configurações e manifestos para garantir que o mundo sintético exato possa ser reconstruído.
4. Comparações de Baseline: Estabelece que mudanças controladas de parâmetros produzem condições de avaliação distinguíveis usando baselines simples e transparentes, provando a utilidade do benchmark para testar a separação de condições.

5. Significância e Alegações

O artigo afirma explicitamente que suas descobertas não estabelecem a prevalência no varejo real, eficácia operacional, escalabilidade de produção ou a superioridade universal de qualquer regra específica de resolução ou sobrevivência.

Em vez disso, a significância reside em fornecer um ambiente sintético reprodutível e auditável onde:

• Pesquisadores podem avaliar regras de resolução de identidade e sobrevivência sem acessar dados proprietários.
• O "porquê" por trás das mudanças de desempenho pode ser rastreado através de linhagem explícita e verdade fundamental.
• A separação de condições é verificada estatisticamente sob parâmetros controlados.

O trabalho serve como uma contribuição metodológica para o campo da engenharia de dados e gestão de dados mestres, oferecendo uma maneira padronizada de testar como defeitos de qualidade de dados e cenários de conflito impactam a construção de uma visão de Cliente 360. O autor enfatiza que o benchmark é um recurso para avaliação controlada, não uma simulação da realidade operacional de um varejista específico.