Unbiased Rectification for Sequential Recommender Systems Under Fake Orders

Dit paper introduceert DITaR, een efficiënt methode voor het identificeren en gerichte corrigeren van schadelijke nepbestellingen in sequentiële aanbevelingssystemen via een dual-view-aanpak, waardoor de systemen onbevooroordeeld worden gemaakt zonder volledige herberekening.

De kern

Stel je voor dat je een zeer slimme, persoonlijke assistent hebt die je altijd precies de juiste films, boeken of producten aanbeveelt. Deze assistent leert van alles wat je in het verleden hebt geklikt of gekocht. Maar wat gebeurt er als iemand deze assistent probeert te manipuleren?

Dit is precies het probleem dat dit wetenschappelijke artikel aanpakt. Hier is een uitleg in simpele taal, met behulp van een paar creatieve vergelijkingen.

Het Probleem: De "Valse Bestellingen"

In de online wereld proberen sommige bedrijven hun producten populair te maken door nepbestellingen te plaatsen. Ze doen alsof duizenden mensen op een bepaald product klikken, zelfs als dat niet waar is.

• De Vergelijking: Stel je voor dat je in een drukke supermarkt loopt. Normaal gesproken kijken mensen naar producten die ze echt nodig hebben. Maar nu komen er groepen mensen (nepklanten) die allemaal plotseling naar dezelfde rare, onbelangrijke producten wijzen en zeggen: "Dit is het beste!"
• Het Gevolg: Je slimme assistent (het aanbevelingssysteem) denkt: "Oh, iedereen wil dit product, dus ik moet het ook aan jou aanbevelen." Hierdoor krijgt de assistent een verkeerd beeld van wat jij echt leuk vindt. Hij raakt in de war en begint jou verkeerde dingen te laten zien.

De Oude Oplossing: De "Sloop en Herbouw"

Vroeger was de enige manier om dit op te lossen: "Weet je wat? We gooien de hele assistent weg en bouwen hem opnieuw op, maar dan zonder die nepmensen."

• Het Nadeel: Dit is extreem duur, kost veel tijd en energie. Alsof je je hele huis moet slopen en herbouwen omdat er één muur een beetje scheef is. Bovendien vergeet je misschien wel de goede informatie die je had.

De Nieuwe Oplossing: DITaR (De Slimme "Reiniger")

De auteurs van dit papier hebben een slimme nieuwe methode bedacht, genaamd DITaR. In plaats van alles te slopen, repareren ze alleen de schade. Ze doen dit in twee stappen:

Stap 1: De Twee-Oogjes Detectie (Identificatie)

De methode kijkt naar de nepbestellingen met twee verschillende brillen tegelijk:

1. De "Statistische Brillen" (Collaborative View): Kijkt naar wie er samen dingen koopt. (Bijv. "Mensen die luiers kopen, kopen ook bier").
2. De "Betekenis-Brillen" (Semantic View): Kijkt naar wat de producten betekenen. (Bijv. "Een auto en een fiets zijn beide vervoermiddelen, maar een auto en een banaan zijn het niet").

• De Vergelijking: Een nepbestelling is als een acteur die probeert een rol te spelen. Hij doet misschien alsof hij een klant is (statistiek klopt), maar zijn verhaal klopt niet (betekenis klopt niet).
  • Voorbeeld: Iemand koopt plotseling 100 keer een "ijzeren hamer" terwijl hij normaal alleen "koffie" koopt. De statistiek zegt: "Hij koopt veel!" Maar de betekenis zegt: "Waarom zou een koffieliefhebber ineens 100 hammers kopen? Dit is verdacht!"
  • Omdat nepbestellingen moeilijk zijn om in beide werelden (statistiek én betekenis) tegelijk geloofwaardig te laten lijken, kan DITaR ze snel opsporen.

Stap 2: De "Chirurgische" Correctie (Rectificatie)

Nadat ze de verdachte bestellingen hebben gevonden, doen ze niet meteen alsof ze allemaal slecht zijn.

• De Inzicht: Soms kan een nepbestelling zelfs nuttig zijn! Het kan helpen om het systeem te trainen om beter te worden (net als gewichtheffen: een beetje weerstand maakt je sterker).
• De Actie: Ze gebruiken een wiskundige techniek (invloedfunctie) om te testen: "Als we deze specifieke bestelling verwijderen, wordt de assistent dan beter of slechter?"
  • Als het slecht is: Ze "wissen" de invloed van deze bestelling uit het hoofd van de assistent. Ze doen dit heel precies, alsof je een vlek uit een tapijt haalt zonder het hele tapijt te vervangen.
  • Als het goed of neutraal is: Ze laten het zitten.

Waarom is dit zo goed?

1. Snelheid: Ze hoeven de assistent niet opnieuw te leren (geen sloop en herbouw). Ze maken alleen kleine aanpassingen.
2. Precisie: Ze gooien niet zomaar alles weg. Ze houden de nuttige informatie en verwijderen alleen de giftige "nepklanten".
3. Betrouwbaarheid: De assistent blijft zijn oorspronkelijke persoonlijkheid behouden en geeft je weer de juiste aanbevelingen, zonder dat je merkt dat er ooit geknoeid is.

Samenvatting

Dit artikel introduceert een slimme manier om online aanbevelingssystemen te beschermen tegen manipulatie. In plaats van het hele systeem te vernietigen en opnieuw te bouwen, gebruiken ze een dubbel-checksysteem om nepbestellingen te vinden en alleen die specifieke, schadelijke stukjes informatie eruit te halen. Het is alsof je een arts bent die een tumor verwijdert zonder de rest van het lichaam aan te raken: de patiënt (het systeem) blijft gezond en sterk.

Technische samenvatting

Probleemstelling

Sequentiële aanbevelingssystemen (Sequential Recommender Systems) zijn essentieel voor het voorspellen van gebruikersvoorkeuren op basis van hun interactiegeschiedenis. Echter, deze systemen worden steeds vaker bedreigd door nepbestellingen (fake orders). In tegenstelling tot eerdere aanpakken waarbij nepgebruikers worden ingebracht om het systeem te verstoren, infiltreren nepbestellingen zich binnen de echte interactiegeschiedenis van bestaande gebruikers.

Deze nepbestellingen omvatten:

1. Kliklandbouw (Click farming): Herhaaldelijk klikken op specifieke items.
2. Context-irrelevante substitutie: Het vervangen van items door semantisch ongerelateerde items.
3. Sequentiële verstoring: Het manipuleren van de volgorde van interacties.

Het doel van deze manipulatie is om de blootstellingskans van specifieke items kunstmatig te verhogen en zo de voorkeuren van de gebruiker te vervormen. Bestaande methoden voor data-reiniging (rectification) hebben echter drie grote beperkingen:

• Ze zijn vaak ontworpen voor traditionele collaboratieve filtering en werken slecht bij complexe sequentiële afhankelijkheden.
• Ze verwijderen vaak simpelweg alle verdachte data, wat de integriteit van de dataset en de sequentiestructuur beschadigt.
• Ze behandelen alle nepbestellingen uniform, zonder onderscheid te maken tussen schadelijke items en items die mogelijk zelfs een positief effect hebben (bijvoorbeeld als data-augmentatie).

Methodologie: DITaR

De auteurs stellen DITaR (Dual-view Identification and Targeted Rectification) voor, een raamwerk dat gericht is op het nauwkeurig en efficiënt corrigeren van aanbevelingssystemen zonder volledige hertraining. De methode bestaat uit twee hoofdcomponenten:

1. Dual-view Identificatie (DI) Module

De kernidee is dat nepbestellingen moeite hebben om consistentie te behouden in zowel de collaboratieve als de semantische dimensie, terwijl echte interacties dit wel doen.

• Semantische Weergave: Itemattributen en beschrijvende tekst worden verwerkt via een voorgeïnstalleerd taalmodel (LLaMA2-7B) om semantische embeddings te extraheren.
• Collaboratieve Weergave: Deze wordt afgeleid uit de interactiepatronen, waarbij PCA en learnable ID-embeddings worden gebruikt.
• Ontkoppeling: Een contrastief leerdoel (InfoNCE loss) zorgt ervoor dat deze twee weergaven onafhankelijk blijven maar samenwerken.
• Detectie: Het systeem analyseert de inconsistentie tussen deze twee weergaven (cross-view asymmetrie) en intrinsieke anomalieën (zoals populariteitsafwijkingen en contextuele verstoringen). Een adaptieve weging combineert deze signalen tot een unificatie score om verdachte nepbestellingen te identificeren.

2. Gerichte Rectificatie met Gradient Ascent (TaR)

Niet alle geïdentificeerde nepbestellingen zijn schadelijk; sommige kunnen zelfs als data-augmentatie fungeren.

• Invloedfunctie (Influence Function): De methode gebruikt invloedfuncties om de werkelijke impact van elke verdachte interactie op het model te kwantificeren. Dit bepaalt of het verwijderen van een item de prestaties op een schone validatiestandaard verbetert (schadelijk) of verslechtert (nuttig).
• Selectieve Correctie: Alleen items met een hoge negatieve invloed (harmful fake orders) worden geselecteerd voor rectificatie.
• Gradient Ascent: In plaats van de data te verwijderen en het model opnieuw te trainen, wordt er een gerichte gradient ascent stap uitgevoerd op de parameters van het model. Dit "ontleert" specifiek de negatieve invloed van de schadelijke items.
• Regularisatie: Om te voorkomen dat het model zijn algemene capaciteit verliest, wordt na elke update een stap gradient descent uitgevoerd op een schone dataset (regularisatie).

Belangrijkste Bijdragen

1. Nieuw Scenario: Dit is het eerste werk dat zich richt op de subtiele en covert manipulatie van "nepbestellingen" binnen echte gebruikerssequenties, in plaats van nepgebruikers.
2. Dual-View Framework: Een innovatieve aanpak die semantische en collaboratieve representaties combineert om nepbestellingen te detecteren op basis van hun inherente inconsistente aard.
3. Onbevooroordeelde Rectificatie: De methode onderscheidt zich door niet alle ruis te verwijderen, maar alleen de schadelijke componenten te neutraliseren via gradient ascent, waardoor nuttige informatie behouden blijft en de data-integriteit intact blijft.
4. Efficiëntie: Het vermijdt de enorme rekentijd van volledige hertraining door gebruik te maken van fine-tuning technieken.

Resultaten

De auteurs hebben DITaR getest op drie datasets: MovieLens-1M, Amazon-Beauty en Yelp2018, met verschillende soorten nepbestellingen.

• Prestatie: DITaR overtreft state-of-the-art baselines (zoals Retrain, SISA, RecEraser, UltraRE) aanzienlijk op metrics zoals Hit Rate (HR) en NDCG. In veel gevallen bereikt DITaR prestaties die vergelijkbaar zijn met of zelfs beter zijn dan het trainen op de originele schone data.
• Efficiëntie: DITaR vereist aanzienlijk minder convergentie-epoches dan bestaande methoden. Waar andere methoden vaak opnieuw moeten trainen of shards moeten aggregeren, volstaat DITaR met een paar stappen gradient ascent (bijv. 5 epoches versus 100+ voor baselines).
• Robuustheid: De methode behoudt de stabiliteit van het systeem en de kwaliteit van de aanbevelingen, zelfs bij hoge intensiteit van nepbestellingen.
• Ablatiestudies: Experimenten tonen aan dat zowel de dual-view detectie als de filtering via invloedfuncties essentieel zijn. Zonder filtering zouden nuttige items onterecht worden verwijderd, wat de prestaties zou verlagen.

Betekenis en Impact

DITaR biedt een cruciale oplossing voor de integriteit van moderne aanbevelingssystemen. Door te erkennen dat niet alle afwijkingen in data schadelijk zijn, en door gerichte correcties toe te passen zonder de datastructuur te wijzigen, biedt deze methode een nieuwe standaard voor het beveiligen van AI-systemen tegen manipulatie. Het stelt ontwikkelaars in staat om systemen te herstellen die zijn besmet met nepbestellingen, met minimale kosten en zonder het risico van "over-correctie" dat bij traditionele verwijderingsmethoden vaak optreedt. Dit is van groot belang voor e-commerce en sociale media-platformen waar vertrouwen en eerlijke blootstelling van producten centraal staan.