Unbiased Rectification for Sequential Recommender Systems Under Fake Orders

Il paper propone DITaR, un metodo che identifica e rettifica selettivamente gli ordini falsi dannosi nei sistemi di raccomandazione sequenziali preservando le informazioni utili e evitando il riaddestramento del modello.

L'essenziale

Immagina di essere un capo cuoco (il sistema di raccomandazione) che prepara un menu personalizzato per i suoi clienti. Il tuo compito è guardare cosa hanno mangiato i clienti in passato per indovinare cosa vorranno mangiare domani. Se un cliente ha amato la pasta, probabilmente gli piacerà anche il risotto.

Ora, immagina che un concorrente disonesto invii dei finti clienti (i "fake orders") nel tuo ristorante. Questi non sono veri clienti affamati, ma dei "bot" o degli agenti pagati che:

1. Ordina la stessa pizza 50 volte di fila (click farming).
2. Ordina un piatto di pesce ma poi chiede subito un dessert a base di carne (substituzioni senza senso).
3. Cambia l'ordine delle portate in modo assurdo (perturbazioni sequenziali).

Il tuo capo cuoco, vedendo queste "ordinazioni", inizia a confondersi: "Forse a tutti piace la pizza dopo il pesce? O forse l'ordine delle portate non conta?". Il risultato? Il menu che proponi ai veri clienti diventa strano e sgradevole.

Il problema è che, per sistemare tutto, il proprietario del ristorante vorrebbe chiudere, buttare via tutti i quaderni delle ordinazioni e ricominciare da zero. Ma questo costerebbe una fortuna e ci vorrebbe mesi.

La Soluzione: DITaR (Il "Detective del Gusto")

Gli autori di questo articolo, Qiyu Qin e il suo team, hanno creato un metodo chiamato DITaR. Non serve buttare via tutto. Invece, agiscono come un detective super-intelligente che entra in cucina con due occhiali speciali per capire cosa è vero e cosa è falso, senza dover ricominciare da capo.

Ecco come funziona, passo dopo passo:

1. Gli Occhiali Magici (Identificazione a Doppia Vista)

Il detective indossa due tipi di occhiali:

• Occhiali Sociali (Vista Collaborativa): Guardano chi ha ordinato cosa. "Tutti i clienti che amano il sushi amano anche il sashimi".
• Occhiali del Gusto (Vista Semantica): Guardano cosa significa il cibo. "Il sushi è pesce, il sashimi è pesce, quindi sono simili".

Il trucco: I veri clienti hanno un comportamento coerente. Se amano il sushi (gusto), lo ordinano spesso (social). I finti clienti (fake orders) fanno fatica a mentire su entrambi i fronti contemporaneamente.

• Esempio: Un bot potrebbe ordinare "Pizza" (gusto) 100 volte (social), ma se guardi il contesto, non ha senso. O potrebbe ordinare "Pizza" seguita da "Gelato al formaggio" (gusto e social in conflitto).
• Il detective usa questi due occhiali insieme per trovare le "incoerenze". Se qualcosa non quadra tra ciò che dice il "gusto" e ciò che dice la "statistica", il detective lo segna come sospetto.

2. Il Filtro Intelligente (Non tutto il "finto" è cattivo)

Qui arriva la parte geniale. Il detective si rende conto che non tutte le ordinazioni strane sono dannose.

• A volte, un'ordinazione "strana" (come cambiare l'ordine di due piatti) potrebbe in realtà aiutare il cuoco a imparare nuove combinazioni, rendendo il menu più robusto. È come se un cliente facesse un esperimento culinario: sembra strano, ma potrebbe essere utile!
• Il detective usa una bilancia magica (chiamata Influence Function) per pesare ogni ordinazione sospetta.
  • Se l'ordinazione danneggia il menu: È dannosa.
  • Se l'ordinazione aiuta o è neutra: È utile o innocua.

3. La Correzione Mirata (Rectification)

Invece di buttare via tutto il quaderno delle ordinazioni (che sarebbe come cancellare la memoria del cuoco), il detective fa una piccola correzione chirurgica:

• Prende solo le ordinazioni dannose identificate dalla bilancia.
• Usa una tecnica matematica (ascesa del gradiente) per "dimenticare" specificamente quelle cattive, come se il cuoco dicesse: "Ok, ho visto che ordinare la pizza dopo il pesce non funziona, dimentichiamolo".
• Non tocca le ordinazioni utili o innocue.

Il Risultato

Grazie a questo metodo:

1. Risparmio: Non serve ricominciare da zero (risparmio di tempo e denaro).
2. Precisione: Il menu torna a essere perfetto per i veri clienti.
3. Fiducia: Il sistema non perde le informazioni utili che potrebbero essersi nascoste anche dentro le ordinazioni "strane".

In sintesi:
Immagina di avere un libro di ricette pieno di errori scritti da qualcuno che vuole sabotarti. Invece di bruciare il libro e scriverne uno nuovo (costoso e lento), DITaR è come un editor esperto che usa due lenti per trovare esattamente le righe sbagliate, le cancella con un pennarello magico, ma lascia intatte le ricette che, anche se strane, erano comunque buone. Il risultato? Un libro di ricette perfetto, pronto per servire i clienti felici.

Sommario tecnico

1. Il Problema: Gli Ordini Falsi (Fake Orders)

I sistemi di raccomandazione sequenziali (SRS) modellano le preferenze dinamiche degli utenti basandosi sulle loro interazioni storiche. Tuttavia, questi sistemi sono vulnerabili a un nuovo tipo di attacco chiamato "Fake Orders" (ordini falsi).

• Natura dell'attacco: A differenza dei tradizionali attacchi di "shilling" che iniettano utenti falsi completi, gli ordini falsi sono interazioni manipolate inserite all'interno di sequenze di utenti genuini.
• Tipologie di manipolazione:
  1. Click farming: Ripetizione artificiale di un elemento per distorcere i pattern di filtraggio collaborativo.
  2. Sostituzioni semantiche: Inserimento di elementi irrilevanti dal punto di vista del contesto per rompere la coerenza semantica.
  3. Perturbazioni sequenziali: Alterazione dell'ordine di interazione tra elementi non adiacenti per corrompere le dipendenze temporali.
• Impatto: Queste manipolazioni distorcono le preferenze reali degli utenti, portano a raccomandazioni errate e minano la fiducia nel sistema.
• Sfida principale: Rimuovere semplicemente tutti i dati sospetti è controproducente perché alcuni "ordini falsi" possono avere un effetto di data augmentation (migliorando la robustezza del modello). Inoltre, il riaddestramento completo del modello è troppo costoso in termini computazionali e temporali. L'obiettivo è una rettifica imparziale (unbiased): eliminare solo il danno, preservando le informazioni utili.

2. Metodologia: DITaR (Dual-view Identification and Targeted Rectification)

Gli autori propongono DITaR, un framework che opera in due fasi principali per identificare e correggere selettivamente i dati compromessi senza riaddestrare il modello da zero.

A. Modulo di Identificazione a Doppia Vista (Dual-view Identification)

Il cuore dell'identificazione risiede nel fatto che gli ordini falsi, essendo artificiali, faticano a mantenere coerenza simultanea in due dimensioni diverse:

1. Vista Collaborativa: Basata sui pattern statistici di interazione utente-item.
2. Vista Semantica: Basata sulle associazioni intrinseche tra gli attributi degli elementi (testi, categorie).

• Architettura:
  • Viene utilizzato un modello pre-addestrato (LLaMA2-7B) per estrarre embedding semantici ($E_s$).
  • Un adattatore trasforma questi embedding per allinearli allo spazio di raccomandazione.
  • Viene applicata l'Analisi delle Componenti Principali (PCA) e un meccanismo di gating adattivo per fondere gli embedding ID con quelli semantici, generando rappresentazioni collaborative ($R_c$) e semantiche ($R_s$) disaccoppiate.
  • Due encoder sequenziali separati processano le due viste.
• Rilevamento delle Anomalie:
  • Il sistema calcola l'incoerenza tra le due viste (es. similarità coseno tra rappresentazioni, divergenza di Jensen-Shannon tra distribuzioni di previsione).
  • Vengono analizzati anche pattern intrinseci come l'anomalia di popolarità (z-score) e la coerenza del pattern sequenziale locale.
  • Un punteggio unificato ($U(k)$) viene calcolato fondendo questi segnali per identificare gli ordini sospetti.

B. Rettifica Mirata con Ascesa del Gradiente (Targeted Rectification)

Una volta identificati gli ordini sospetti, non tutti vengono rimossi. Il sistema utilizza le Funzioni di Influenza (Influence Functions) per quantificare l'impatto reale di ogni campione sul modello.

• Filtraggio: Si calcola l'influenza di ogni ordine sospetto su un set di validazione pulito.
  • Se l'influenza è positiva (rimuovere il campione migliora le prestazioni), l'ordine è considerato dannoso.
  • Se l'influenza è negativa o neutra, l'ordine può essere benefico (augmentation) e viene preservato.
• Correzione: Per gli ordini dannosi ($I_h$), viene eseguita una ascesa del gradiente (gradient ascent) mirata sui parametri del modello. Questo processo "dimentica" selettivamente l'impatto negativo di quei campioni specifici.
• Regolarizzazione: Per evitare che il modello perda la capacità di raccomandazione generale, ogni passo di ascesa del gradiente è seguito da un passo di discesa del gradiente su un dataset pulito ($D_c$), agendo come vincolo di regolarizzazione.

3. Contributi Chiave

1. Nuovo Scenario di Attacco: Il paper è il primo a focalizzarsi specificamente sugli "ordini falsi" embedded in sequenze genuine, distinguendoli dagli attacchi di utenti falsi tradizionali.
2. Framework Ibrido: Propone un approccio a due stadi che combina l'identificazione basata su discrepanze cross-view (collaborative vs. semantiche) con un filtraggio guidato dalle funzioni di influenza.
3. Rettifica Imparziale ed Efficiente: Dimostra che è possibile correggere i sistemi senza riaddestramento completo, preservando le informazioni utili (augmentation) e rimuovendo solo il bias dannoso, mantenendo l'integrità strutturale dei dati.

4. Risultati Sperimentali

Gli esperimenti sono stati condotti su tre dataset reali (MovieLens-1M, Amazon-Beauty, Yelp2018) e su diversi modelli di base (SASRec, GRU4Rec, BERT4Rec).

• Qualità della Raccomandazione: DITaR supera significativamente gli stati dell'arte (baselines come SISA, RecEraser, UltraRE) e si avvicina o supera le prestazioni del riaddestramento completo ("Retrain"), mantenendo metriche come HR@k e NDCG@k molto elevate.
• Efficienza Computazionale:
  • Mentre i metodi basati su sharding richiedono molte epoche di convergenza (spesso 40-100+ epoche), DITaR converge in 5 epoche (essendo un fine-tuning mirato).
  • Elimina la necessità di dividere i dati e aggregare modelli, riducendo drasticamente i costi computazionali.
• Robustezza e Analisi degli Ordini Falsi:
  • L'analisi ha confermato l'ipotesi centrale: non tutti gli ordini falsi sono dannosi. Ad esempio, le perturbazioni sequenziali (swapping) hanno talvolta migliorato le prestazioni agendo come augmentation dei dati.
  • La rimozione indiscriminata di tutti i dati sospetti (come fanno i metodi baselines) peggiora le prestazioni, mentre DITaR, filtrando solo i dannosi, preserva la qualità.
• Studio Ablativo: La rimozione di una delle due viste (semantica o collaborativa) o del filtro delle funzioni di influenza porta a un calo significativo delle prestazioni, confermando la necessità di entrambi i componenti.

5. Significato e Impatto

Il lavoro di Qin et al. rappresenta un passo avanti cruciale per la sicurezza dei sistemi di raccomandazione moderni.

• Paradigma Shift: Sposta l'attenzione dalla semplice "rimozione dei dati rumorosi" a una "rettifica intelligente e selettiva".
• Praticità: Offrendo una soluzione che non richiede il riaddestramento completo, DITaR è immediatamente applicabile in ambienti di produzione dove il tempo e le risorse computazionali sono limitati.
• Fiducia: Protegge l'integrità delle preferenze degli utenti reali contro manipolazioni commerciali subdole, garantendo che le raccomandazioni riflettano genuinamente gli interessi degli utenti piuttosto che strategie di marketing manipolatorie.

In sintesi, DITaR offre un meccanismo robusto, efficiente e teoricamente fondato per "sanare" i sistemi di raccomandazione sequenziali compromessi, distinguendo con precisione tra dati dannosi e dati potenzialmente utili.