Meta-Level Based Recommender System Using Knowledge Graph-based Neural Collaborative Filtering

Sintesi Tecnica: Sistema di Raccomandazione a Livello Meta Basato su Knowledge Graph e Neural Collaborative Filtering

Problema
I sistemi di raccomandazione, in particolare nel dominio dei libri digitali, affrontano sfide significative riguardanti la scarsità dei dati (data sparsity) e il problema del "cold-start", in cui nuovi utenti o oggetti mancano di una storia di interazioni sufficiente. Il Collaborative Filtering (CF) tradizionale fatica con il cold-start a causa della dipendenza dai dati di interazione, mentre il Content-Based Filtering è limitato dalla disponibilità di variabili del profilo utente e attributi dell'oggetto. Approcci ibridi esistenti e metodi di meta-learning (ad esempio, TaNP, PAML, MPML, MetaEDL e FO-MSAN) hanno tentato di affrontare questi problemi, ma spesso soffrono di un'elevata complessità computazionale, una bassa accuratezza in condizioni di scarsità o una mancanza di efficienza nel gestire gli scenari di cold-start. Nello specifico, il metodo baseline FO-MSAN, pur essendo efficace per i dati sparsi, presenta un'elevata complessità di calcolo e un'accuratezza subottimale.

Metodologia: Meta KG-NCF
Gli autori propongono Meta KG-NCF, un sistema di raccomandazione ibrido che integra un Knowledge Graph (KG) con il Neural Collaborative Filtering (NCF) all'interno di un framework di First-Order Model-Agnostic Meta-Learning (FOMAML). L'architettura opera attraverso tre fasi sequenziali:

1. Embedding Semantico del Knowledge Graph (Fase 1):

   • Un knowledge graph viene costruito utilizzando attributi lato-oggetto (libri, autori, editori) con due relazioni tipizzate: written_by (scritto da) e published_by (pubblicato da).
   • TransE (Translating Embeddings) viene utilizzato per apprendere gli embedding delle entità. Il modello tratta le relazioni come vettori di traslazione nello spazio di embedding ($h + r \approx t$), ottimizzati tramite una perdita di ranking basata su margine con campionamento negativo.
   • Fondamentalmente, questi embedding TransE vengono congelati dopo l'addestramento per servire come un prior semantico fisso. Ciò garantisce che le rappresentazioni degli oggetti rimangano informative anche in assenza di una storia di interazione.

2. Fusione Meta-Livello con NCF (Fase 2):

   • Il sistema impiega una strategia a livello meta in cui la rappresentazione semantica dal KG viene concatenata con gli embedding collaborativi addestrabili (utente e oggetto) per formare un vettore di caratteristiche unificato.
   • Questo vettore fuso viene inserito in una componente di Neural Collaborative Filtering (NCF), che utilizza un Multi-Layer Perceptron (MLP) con funzioni di attivazione ReLU e Layer Normalization.
   • La componente NCF funge da secondo metodo base, raffinando la rappresentazione arricchita semanticamente per catturare complesse interazioni non lineari utente-oggetto.

3. Adattamento FOMAML (Fase 3):

   • Il modello combinato viene addestrato utilizzando FOMAML per gestire il cold-start come un problema di few-shot learning.
   • Ogni utente è trattato come un compito (task) con un set di supporto (poche interazioni) e un set di query.
   • Inner Loop: I parametri collaborativi addestrabili (pesi NCF ed embedding) vengono adattati sul set di supporto. Il prior semantico congelato del KG è escluso da questo adattamento per mantenere efficienza e stabilità.
   • Outer Loop: L'inizializzazione condivisa dei parametri collaborativi viene aggiornata utilizzando gradienti di primo ordine calcolati sulla perdita del set di query, evitando le costose derivate del secondo ordine del MAML completo.

Contributi Chiave
Il documento delinea cinque contributi specifici:

1. Architettura Disaccoppiata: Un'architettura a livello meta che separa i segnali semantici (KG) dai segnali collaborativi (NCF). Il prior semantico rimane fisso durante il meta-training, isolando la personalizzazione alla componente collaborativa.
2. Costruzione Formale del KG: La costruzione di un knowledge graph su libri, autori ed editori utilizzando prior basati su TransE, fornendo rappresentazioni degli oggetti robuste per gli scenari di cold-start.
3. Integrazione FOMAML: L'applicazione di una procedura di meta-learning di primo ordine in cui vengono adattati solo i parametri collaborativi, definendo esplicitamente l'ambito del meta-learning all'interno del design ibrido.
4. Valutazione Controllata: Un protocollo di valutazione riproducibile in cui cinque baseline (TaNP, PAML, MPML, MetaEDL, FO-MSAN) sono state reimplementate da zero e testate su partizioni di dati e hardware identici per garantire un confronto equo.
5. Caratterizzazione Onesta: Una segnalazione trasparente dei risultati, riconoscendo che, sebbene il metodo migliori l'accuratezza e l'efficienza, non domina uniformemente tutte le metriche di ranking rispetto alle baseline.

Risultati Sperimentali
Il metodo è stato valutato su tre dataset su larga scala: Goodreads 100K, AmazonBook e Book-Crossing, sotto partizioni di addestramento/test 80:20 e 90:10, inclusi specifici scenari di cold-start (nuovi utenti e nuovi oggetti).

• Accuratezza: Meta KG-NCF ha ottenuto i tassi di errore più bassi, riducendo il Mean Absolute Error (MAE) e il Root Mean Square Error (RMSE) di circa il 10–11% rispetto alla baseline più forte, FO-MSAN. Test di significatività statistica (t-test accoppiato e test di Wilcoxon signed-rank con correzione Holm–Bonferroni) hanno confermato che questi miglioramenti sono significativi ($p < 0.05$).
• Qualità del Ranking: Nelle metriche di ranking (Precision@5, MRR@5, NDCG@5), Meta KG-NCF è stato statisticamente comparabile a FO-MSAN. Non ha mostrato una superiorità uniforme; in alcuni setting specifici (ad esempio, Precision@5 nella partizione 80:20), FO-MSAN ha leggermente superato il metodo proposto.
• Efficienza: Meta KG-NCF ha dimostrato una superiore efficienza computazionale, addestrandosi dall'11 al 17% più velocemente di FO-MSAN su hardware identico basato solo su CPU. Ciò è attribuito all'evitare il calcolo dei gradienti del secondo ordine e all'assenza di una rete di associazione ausiliaria.
• Studio di Ablazione: Lo studio ha rivelato che, mentre la fusione di KG e NCF ha migliorato significativamente l'accuratezza della previsione del rating (MAE/RMSE), il canale NCF standalone ha in realtà ottenuto una Precision e una NDCG più elevate, mentre il KG standalone ha ottenuto un MRR più elevato. La fusione ha leggermente diffuso la nitidezza del ranking ma ha ottimizzato l'accuratezza della stima puntuale.

Significatività e Rivendicazioni
Il documento sostiene che la principale significatività di Meta KG-NCF risiede nella sua capacità di migliorare l'accuratezza della previsione del rating e l'efficienza computazionale in condizioni di cold-start senza sacrificare la qualità del ranking rispetto alle baseline più forti.

Gli autori sono modesti nelle loro rivendicazioni, dichiarando esplicitamente che:

• Il metodo non è uniformemente superiore in tutte le metriche; il suo vantaggio è più pronunciato nella riduzione dell'errore (MAE/RMSE) e nella velocità.
• Lo scenario di cold-start per i nuovi oggetti rimane il setting più difficile per tutti i metodi, dove le prestazioni degradano drasticamente per tutti.
• I miglioramenti del ranking non sono statisticamente significativi rispetto a FO-MSAN in tutti i casi.
• L'implementazione attuale utilizza un prior TransE congelato e tipi di relazione limitati (autore/editore), suggerendo che il lavoro futuro potrebbe beneficiare di relazioni di grafo più ricche e modelli di embedding più espressivi.

In conclusione, il documento posiziona Meta KG-NCF come una soluzione robusta ed efficiente per la raccomandazione cold-start nel dominio dei libri, offrendo un compromesso pratico tra alta accuratezza, basso costo computazionale e prestazioni di ranking competitive.