CoRCi: Cross-Reconstruction of Coherent Interests Modeling in Cross-Domain Sequential Recommendation

Resumo Técnico: CoRCi

Problema
A Recomendação Sequencial Cross-Domain (CDSR - Cross-Domain Sequential Recommendation) visa mitigar a esparsidade de dados transferindo interesses dinâmicos de usuários entre domínios relacionados. Uma premissa central é que certos interesses de usuários são invariantes ao domínio e evoluem de forma coerente através de múltiplos domínios. No entanto, os métodos atuais de CDSR enfrentam dois desafios principais:

1. Perda de Coerência de Interesse: As abordagens atuais frequentemente fundem sequências específicas de domínios em uma sequência de domínio misto, mas empregam codificadores separados treinados com agregação de perda por domínio (estratégia de Alvo Duplo/Dual-Target). Este fluxo de trabalho fragmenta os interesses do usuário, falhando em preservar a coerência inerente dos padrões invariantes ao domínio, particularmente quando os pares de consulta-alvo em modelos Seq2Seq originam-se de domínios diferentes.
2. Discrepâncias de Domínio: A maioria dos modelos aprende representações de domínio misto do zero usando codificadores separados. Isso introduz lacunas significativas de domínio, pois as consultas e os alvos de verdade fundamental (ground-truth) frequentemente pertencem a domínios diferentes, degradando o desempenho. Além disso, as perdas contrastivas padrão em configurações de domínio misto podem introduzir viés intra-domínio, onde amostras negativas do mesmo domínio da consulta são muito similares, distorcendo o espaço de representação.

Metodologia: CoRCi
Os autores propõem o CoRCi (Cross-Reconstruction for Coherent Interests), um framework de CDSR de alvo duplo projetado para unir esses domínios preservando a coerência de interesse. A arquitetura consiste em três componentes principais:

1. Codificadores de Autoatenção de Domínio Específico (SAE - Specific-Domain Self-Attention Encoders): Em vez de treinar um único codificador do zero em dados mistos, o CoRCi primeiro codifica sequências de domínios específicos ($T_A$ e $T_B$) de forma independente usando codificadores de autoatenção dedicados. Isso preserva os padrões iniciais específicos de cada domínio.
2. Módulo de Reconstrução Cruzada (CR - Cross-Reconstruction Module): Para reconectar interesses invariantes ao domínio dispersos, o CoRCi emprega uma abordagem de Reconstrução Cruzada. Ele gera representações de domínio misto ($H_M$) diretamente das representações de domínio específico pré-codificadas ($H_A, H_B$) usando um mecanismo de atenção cruzada.
   • A consulta ($Q$) é o embedding de domínio misto ($E_M$), introduzindo informações posicionais de domínio misto.
   • A chave ($K$) e o valor ($V$) são a soma das representações de domínio específico pré-codificadas ($H_A + H_B$).
   • Isso permite que o modelo reconstrua uma visão de domínio misto coerente sem aprendê-la do zero.
3. Transferidores de Atenção Cruzada (CAT - Cross-Attention Transferors): O conhecimento de domínio misto reconstruído é transferido de volta para as representações de domínio específico via Transferidores de Atenção Cruzada. Uma operação de parada de gradiente (stop-gradient) é aplicada à representação de domínio misto ($\hat{H}_M$) durante esta transferência. Isso garante que a modelagem de domínio misto atue como um backbone agnóstico à tarefa, evitando que a supervisão de domínio específico distorça a coerência dos interesses invariantes ao domínio.
4. FocalNCE Loss: Para mitigar o viés intra-domínio no objetivo de domínio misto, os autores introduzem a FocalNCE. Esta integra a Focal Loss ao objetivo InfoNCE padrão.
   • Na configuração de domínio misto, as amostras negativas são extraídas de ambos os domínios específicos.
   • A FocalNCE atribui penalidades mais altas às amostras negativas extraídas do mesmo domínio da consulta (item positivo).
   • Isso força o modelo a focar em negativos cross-domain mais difíceis, fortalecendo assim o alinhamento invariante ao domínio e suprimindo o ruído específico do domínio.

A função objetivo final é uma combinação linear das perdas de domínio específico ($L_A, L_B$) e da perda de domínio misto ($L_M$), ponderada por um hiperparâmetro $\beta$.

Principais Contribuições

1. Abordagem de Reconstrução Cruzada: Um método inovador que gera representações de domínio misto a partir de sequências de codificação específica via atenção cruzada, reconectando efetivamente interesses invariantes ao domínio que, de outra forma, estariam dispersos.
2. FocalNCE: Uma nova função de perda que incorpora a Focal Loss ao objetivo InfoNCE de domínio misto para mitigar o viés intra-domínio e evitar a fragmentação de interesses coerentes.
3. Avaliação Abrangente: Experimentos extensos em quatro conjuntos de dados do mundo real (Amazon Food-Kitchen, Beauty-Electronics, Movie-Book e um conjunto de dados de três domínios da Douban) demonstrando superação consistente sobre os equivalentes de estado da arte em CDSR.

Resultados Experimentais

• Desempenho: O CoRCi supera consistentemente todos os baselines (incluindo modelos ST-SR, DT-SR, MT-SR e modelos de DT-CDSR como ABXI, DREAM e C2DSR) em todas as métricas (HR@5, HR@10, NDCG@10, MRR) em todos os datasets.
• Significância Estatística: As melhorias são estatisticamente significativas ($p < 0.01$) em ambos os domínios de todos os datasets.
• Estudos de Ablação:
  • Substituir o híbrido SAE-CR por um único codificador compartilhado ou codificadores totalmente desacoplados resulta em degradação de desempenho, validando a arquitetura proposta.
  • Remover os Transferidores de Atenção Cruzada (CAT) ou a operação de parada de gradiente reduz significativamente o desempenho, confirmando sua necessidade para fusão de sequência e manutenção de coerência.
  • Usar InfoNCE padrão em vez de FocalNCE degrada o desempenho, particularmente em domínios difíceis, destacando a importância de suprimir o viés intra-domínio.
• Generalização: O CoRCi mantém desempenho superior em um cenário de usuário de três domínios e não sobrepostos (Douban Movie-Book-Music), demonstrando robustez em cenários complexos do mundo real.

Significância e Alegações
O artigo afirma que o CoRCi aborda a falha fundamental nos métodos de CDSR existentes, onde a agregação de perda por domínio e codificadores separados interrompem a coerência natural dos interesses dos usuários entre domínios. Ao reconstruir representações de domínio misto a partir de codificações de domínios específicos e utilizar uma perda agnóstica ao domínio com penalidades focais, o CoRCi captura e preserva efetivamente os interesses invariantes ao domínio. Os autores afirmam que esta abordagem leva a perfis de usuário e desempenho de recomendação mais precisos, particularmente em cenários onde os interesses dos usuários evoluem coerentemente através de diferentes categorias de produtos. O trabalho sugere que preservar a "coerência" dos interesses é mais crítico do que simplesmente agregar dados, oferecendo uma nova direção para a modelagem de preferências dinâmicas de usuários em configurações cross-domain.