Resumo Técnico: LADMF para Predição Explicável de Conversão em E-Commerce

1. Definição do Problema

O artigo aborda o desafio da predição de conversão em e-commerce, que envolve estimar se um usuário comprará um item dados sinais heterogêneos (fluxos de cliques, imagens, descrições textuais, atributos e comportamento histórico). Os autores identificam três limitações interligadas nos métodos atuais de estado da arte:

1. Representações Multimodais Entrançadas: Métodos de fusão atuais frequentemente misturam sinais causais compartilhados entre modalidades com ruídos espúrios específicos de cada modalidade, levando a predições e interpretações instáveis.
2. Explicações Baseadas em Atenção Não Fidedignas: Pesos de atenção em modelos de Grafos de Conhecimento (KG) (ex: KGAT) são otimizados para acurácia, e não para suficiência causal, tornando-os não confiáveis como explicações.
3. Lacuna Semântica: Existe um descompasso entre os caminhos de raciocínio extraídos de KGs e as justificativas compreensíveis por humanos. O uso de prompts ingênuos em Grandes Modelos de Linguagem (LLMs) para gerar explicações frequentemente resulta em alucinações.

O objetivo é desenvolver um framework unificado que seja preciso, eficiente em dados sob esparsidade, interpretável via justificativas compreensíveis por humanos e robusto a correlações espúrias.

2. Metodologia: O Framework LADMF

Os autores propõem o LADMF (LLM-Augmented Disentangled Multimodal Framework), um modelo unificado composto por quatro componentes estreitamente acoplados:

2.1 Codificadores de Modalidade

Os sinais brutos são codificados em embeddings:

• Visual: Backbone CLIP-ViT congelado.
• Textual: BERT-base para títulos, descrições e avaliações.
• Comportamental: Codificador de autoatenção temporal sobre sequências de interação do usuário (item, timestamp, tipo de ação).

2.2 Fusão Multimodal Desentrançada (DMF)

Este módulo decompõe a representação conjunta de usuários e itens em:

• Subespaço Compartilhado entre Modalidades ($z_{sh}$): Captura sinais causais e invariantes de modalidade.
• Subespaços Específicos de Modalidade ($z_m$): Captura nuances idiossincráticas para cada modalidade (visual, texto, atributo, comportamento).
• Restrições:
  • Desentranhamento por Correlação de Distância: Impõe ortogonalidade entre fatores compartilhados e específicos, e entre os próprios fatores específicos, utilizando correlação de distância ($dCor$) para garantir verdadeira independência estatística.
  • Gargalo de Informação Multimodal (MIB): Minimiza a informação mútua entre os fatores específicos e o rótulo alvo condicionado ao fator compartilhado, garantindo que os fatores específicos contribuam apenas com informações únicas.

2.3 Raciocínio em Grafo de Conhecimento Aumentado por LLM (LKGR)

Este módulo aborda a esparsidade de KG e as lacunas semânticas:

• Completude de KG: Um LLM congelado (LLaMA-3-8B) é estimulado com vizinhanças locais de itens para gerar triplas semânticas candidatas, que são validadas por um pontuador aprendível antes de serem adicionadas ao grafo.
• Re-pontuação de Caminhos: Os caminhos de raciocínio são enumerados e pontuados pelo LLM congelado quanto à plausibilidade semântica. O peso final do caminho combina pontuações estruturais (de Redes de Atenção de Grafo Relacional, R-GAT) e pontuações semânticas ($\rho(\pi)$) para filtrar caminhos estruturalmente plausíveis, mas semanticamente implausíveis.

2.4 Atenção Causal Cross-Modal (CMCA)

Para substituir a atenção padrão por um mecanismo causalmente fundamentado:

• Intervenção Contrafactual: O módulo calcula pesos de atenção contrastando o escore factual com um escore contrafactual derivado de um operador-do. Isso envolve substituir as não-modalidades alvo por suas expectativas marginais (média empírica por pooling).
• Mecanismo: O peso de atenção $\tilde{\alpha}_{ij}$ é calculado como o softmax do escore factual menos um escore contrafactual escalonado. Isso estima o Efeito de Tratamento Médio (ATE) de uma modalidade específica na predição.
• Garantia Teórica: Os autores provam que os pesos CMCA fornecem um limite superior para o efeito de tratamento médio ao nível do caminho, garantindo que o mecanismo de atenção seja fiel à influência causal das características.

2.5 Função Objetivo

O modelo é treinado com uma função de perda composta:

• Entropia Cruzada Binária ($L_{BCE}$): Para predição de conversão.
• Perda de Desentranhamento ($L_{dCor}$): Impõe a separação de fatores.
• Perda de Gargalo de Informação ($L_{MIB}$): Evita a dominância de uma modalidade.
• Perda de Fidelidade de Caminho ($L_{path}$): Alinha a distribuição dos caminhos de raciocínio com o rótulo da predição, incentivando caminhos que suportam causalmente a predição.
• Perda Contrastiva Consciente de Compra ($L_{ctr}$): Garante que pares com conversão positiva estejam mais próximos no espaço de embedding do que pares de apenas clique (negativos difíceis).

3. Principais Contribuições

1. Framework Unificado: O primeiro framework a realizar simultaneamente o desentranhamento causal de fatores multimodais e o raciocínio de KG aumentado por LLM para predição de conversão, acoplados via um espaço latente compartilhado.
2. Atenção Causal Cross-Modal (CMCA): Introduz um operador de atenção ciente de intervenção que subtrai escores contrafactuais dos escores factuais. Os autores provam que isso implementa um limite superior no efeito de tratamento médio ao nível do caminho.
3. Pontuação de Caminho Integrada ao LLM: Desenvolve um pontuador de caminho com LLM congelado combinado com uma perda de fidelidade de caminho para gerar explicações em linguagem natural que são explicitamente alinhadas com as predições, mitigando alucinações.
4. Validação Empírica: Experimentos extensos em três benchmarks públicos (Amazon-Electronics, Taobao-CTR, JD-Conversion) demonstrando desempenho de estado da arte e qualidade de explicação superior.

4. Resultados Experimentais

O modelo foi avaliado em três conjuntos de dados usando métricas padrão (AUC, Log-loss, HR@10, NDCG@10) e avaliação humana para qualidade de explicação (Fidelidade, Plausibilidade, Diversidade, Utilidade).

• Desempenho Quantitativo: O LADMF alcançou os melhores resultados em todos os conjuntos de dados.
  • Melhoria de AUC: Melhorou entre 2,5%–3,4% sobre o baseline mais forte (G-Refer). Especificamente, +2,95% em Amazon-Electronics, +3,00% em Taobao-CTR e +2,89% em JD-Conversion.
  • Log-Loss: Reduziu o log-loss relativo em até 7,3%.
  • Métricas de Ranking: Ganhos significativos em HR@10 (até +7,16%) e NDCG@10 (até +8,37%).
• Robustez: O modelo demonstrou desempenho superior em cenários de cold-start e alta esparsidade (usuários com <5 interações), superando os baselines em cada faixa de esparsidade.
• Avaliação Humana: As explicações do LADMF foram significativamente preferidas pelos avaliadores humanos (30 anotadores) em relação aos baselines:
  • Fidelidade (Faithfulness): +0,50 (4,42 vs 3,92 para G-Refer).
  • Plausibilidade (Plausibility): +0,46 (4,51 vs 4,05).
  • Utilidade (Usefulness): +0,50 (4,58 vs 4,08).
• Estudo de Ablação: Remover o módulo CMCA causou a queda mais acentuada de desempenho (−1,82% AUC no Amazon), confirmando a necessidade da atenção causal. Remover o pontuador de caminho do LLM também resultou em uma queda significativa (−1,93% AUC), destacando o valor do embasamento semântico.
• Eficiência: Embora o treinamento seja 1,4× mais lento que o KGAT devido ao aumento por LLM, a latência de inferência é apenas 1,08× maior porque as saídas do LLM são armazenadas em cache.

5. Significância e Alegações

O artigo afirma que o LADMF avança o estado da arte ao resolver o compromisso entre acurácia preditiva e explicabilidade no e-commerce. Ao acoplar desentranhamento por correlação de distância, gargalos de informação multimodal, aumento de KG validado por LLM e atenção contrafactual, o framework entrega:

• Acurácia de Estado da Arte: Melhorias consistentes sobre baselines fortes em diversos conjuntos de dados.
• Explicações Fidedignas: Produz justificativas que avaliadores humanos consideram mais fiéis, plausíveis e úteis do que aquelas provenientes de modelos baseados em atenção ou puramente generativos.
• Robustez: Mantém o desempenho sob severa esparsidade de dados e condições de cold-start ao separar efetivamente sinais causais de ruído.

Os autores observam limitações, especificamente o custo computacional da completude de KG baseada em LLM (mitigado pelo cache) e o escalonamento quadrático da perda de correlação de distância com o tamanho do lote. Eles sugerem trabalhos futuros em treinamento end-to-end com o LLM no loop usando adaptadores de parâmetros eficientes e auditorias de justiça usando o sinal de atenção contrafactual.