Stel je voor dat je een enorme, chaotische bibliotheek binnenloopt waar miljoenen mensen staan te schreeuwen over welke boeken ze leuk vonden, maar de kamer is zo luidruchtig dat je hen nauwelijks kunt verstaan. Sommige mensen fluisteren, anderen schreeuwen, en een paar maken gewoon willekeurige geluiden die klinken alsof ze een boek leuk vinden, maar dat eigenlijk niet zijn. Dit is de wereld van recommender systems (aanbevelingssystemen), de digitale motoren achter Netflix, Spotify en Amazon die proberen te raden wat je er vervolgens wilt hebben. Om deze gissingen te doen, gebruiken computers iets dat Graph Neural Networks (GNN's) wordt genoemd. Denk aan een GNN als een super-slimme bibliothecaris die niet alleen naar de lijst van één persoon kijkt, maar naar het hele web van verbindingen tussen elke lezer en elk boek. De bibliothecaris heeft echter een probleem: wanneer de bibliotheek te stil is (sparse data) of te luidruchtig (slechte feedback), raakt de bibliothecaris in de war en begint boeken aan te bevelen die je eigenlijk verschrikkelijk vindt.

De grote vraag die wetenschappers stellen is: Hoe leren we deze bibliothecaris om de ruis te negeren en de echte patronen te vinden, zelfs als de data rommelig is? Het antwoord houdt meestal contrastive learning in, wat zoiets is als de bibliothecaris vragen om twee licht verschillende versies van hetzelfde verhaal te vergelijken om te zien wat hetzelfde blijft (de waarheid) en wat verandert (de ruis). Maar de meeste huidige methoden proberen de ruis te herstellen door willekeurig de bibliotheekplanken te schudden of nepboeken toe te voegen, wat er per ongels voor kan zorgen dat de goede dingen samen met de slechte worden weggegooid.

Dit artikel introduceert een nieuwe, slimme bibliothecaris genaamd COMPASS (Contrastive Multi-Decomposition Approach with Social-Guided Signals). In plaats van willekeurig de planken te schudden, gebruikt COMPASS een speciale bril waarmee de bibliothecaris de bibliotheek in lagen kan zien. Het kijkt naar het "grote plaatje" van wat iedereen leuk vindt (globale patronen) en zoomt vervolgens in om de kleine, specifieke details te zien van wat slechts een paar mensen leuk vinden (lokale details). Het luistert ook naar wat je vrienden zeggen over boeken, maar dan slechts als een milde suggestie, niet als een strikte regel. De onderzoekers hebben dit getest op echte gegevens van muziek, films en boeken, en ontdekten dat COMPASS veel beter is in het negeren van de ruis en het geven van geweldige aanbevelingen, zelfs wanneer de data erg rommelig is of wanneer gebruikers nog niet veel boeken hebben gelezen.

Het Probleem: Een Luidruchtige Bibliotheek

Stel je voor dat je probeert uit te zoeken wat je vriend een lekker vindt eten. Je vraagt hem: "Vind je pizza lekker?" en hij zegt "Ja." Maar wat als hij gewoon beleefd was, of misschien wel honger had en overal "ja" op zei? In de wereld van online aanbevelingen gebeurt dit de hele tijd. Gebruikers klikken op dingen die ze eigenlijk niet leuk vinden, of ze browsen alleen maar zonder iets te kopen. Dit wordt noisy implicit feedback genoemd.

Huidige computerprogramma's die proberen te raden wat jij leuk vindt (recommender systems), behandelen elke klik vaak als een absolute waarheid. Ze bouwen een enorme kaart (een graaf) die gebruikers verbindt met items. Maar als de kaart te veel foutieve verbindingen heeft, raakt de computer de weg kwijt. Het is also kind dat probeert te navigeren door een stad waar de helft van de verkeersborden naar de verkeerde plek wijst. De meeste bestaande methoden proberen dit te herstellen door willekeurig enkele verbindingen te verwijderen of nepverbindingen toe te voegen om te zien wat er gebeurt. Maar dit is een beetje alsof je probeert een kapotte kaart te repareren door er pijltjes in te gooien en te hopen dat je de juiste plek raakt. Vaak worden de goede aanwijzingen samen met de slechte verwijderd.

De Oplossing: COMPASS en de Speciale Bril

De auteurs van dit artikel, Mohammad Aliabadi, Alireza Abdollahpouri en Parham Moradi, hebben een nieuw systeem gecreëerd genaamd COMPASS. In plaats van willekeurig te gokken welke verbindingen echt zijn, gebruikt COMPASS een wiskundige truc genaamd Singular Value Decomposition (SVD).

Zie SVD als een manier om een enorme, rommelige foto van de bibliotheek te nemen en deze op te splitsen in lagen van helderheid.

1. De Low-Rank Laag (Het Grote Plaatje): Deze laag toont de meest voor de hand liggende patronen. Het is alsof je de bibliotheek vanuit een drone bekijkt: je ziet duidelijk de hoofdgangen en de populairste secties. Dit is geweldig voor gebruikers die nog niet veel boeken hebben gelezen (sparse users), omdat het hen een veilige, algemene aanbeveling geeft op basis van wat iedereen leuk vindt.
2. De High-Rank Laag (De Fijne Details): Deze laag zoomt in om de kleine, specifieke details te tonen. Het is alsof je door een gang loopt en opmerkt dat een specifiek persoon dol is op een heel obscuur genre. Dit is geweldig voor gebruikers die veel boeken hebben gelezen (actieve gebruikers), omdat het hun unieke, specifieke smaak vastlegt.

De meeste systemen kijken slechts naar één van deze lagen. COMPASS zet echter een Gumbel-Softmax bril op. Deze bril beslist automatisch hoeveel er naar het "grote plaatje" versus de "fijne details" gekeken moet worden voor elke persoon. Als je een nieuwe gebruiker bent, focust de bril op het grote plaatje. Als je een superfan bent, zoomt de bril in op de details. Dit gebeurt automatisch, zonder dat de computer verteld hoeft te worden wat hij moet doen.

De Sociale Fluistering

COMPASS luistert ook naar je vrienden, maar doet dat voorzichtig. In veel systemen, als je vriend iets leuk vindt, dwingt de computer jou om dat ook leuk te vinden. Maar wat als je vriend gewoon vreemd doet? COMPASS behandelt sociale verbindingen als een zachte fluistering. Het zegt: "Hé, je vriend vindt dit leuk, dus misschien vind jij dat ook," maar het dwingt niets af. Als de computer ziet dat de smaak van je vriend niet overeenkomt met je eigen gedrag, negeert het de fluistering. Dit helpt het systeem robuust te blijven, zelfs als sommige sociale verbindingen nep of zwak zijn.

De Balansact

Het trainen van een computer om al deze dingen tegelijk te doen is lastig. De computer moet leren om items aan te bevelen (de hoofdtaken) terwijl hij ook leert om ruis te negeren (de extra taak). Als de focus te veel ligt op het negeren van ruis, kan de computer vergeten hoe hij moet aanbevelen. Als de focus te veel ligt op het aanbevelen, kan de computer in de war raken door de ruis.

De auteurs gebruikten een gradient-balanced weighting strategie. Stel je een wipwap voor waarbij de gewichten zichzelf constant aanpassen. De computer houdt in de gaten hoe moeilijk het is om elk deel te leren en past automatisch het gewicht aan om de wipwap in balans te houden. Dit zorgt ervoor dat de computer beide vaardigheden perfect leert zonder dat de een de ander overheerst.

Wat Ze Hebben Ontdekt

Het team heeft COMPASS getest op drie echte datasets: Yelp (bedrijven), LastFM (muziek) en Douban (boeken). Ze vergeleken het met tien andere top-tier systemen.

• Betere Nauwkeurigheid: COMPASS was consequent beter dan de andere systemen. Op de Douban-dataset verbeterde het de nauwkeurigheid van aanbevelingen met wel 5,76% (gemeten als NDCG@20) vergeleken met het op één na beste systeem. Dat klinkt misschien klein, maar in de wereld van aanbevelingsmotoren is dat een enorme overwinning.
• Omgaan met Ruis: De onderzoekers voegden doelbewust "ruis" toe aan de data, waarbij ze 20% van de interacties nep maakten. Zelfs met deze mate van corruptie bleef COMPASS goed presteren, terwijl andere systemen instortten. Dit suggereert dat COMPASS erg goed is in het negeren van de valse signalen.
• Helpen van Nieuwe Gebruikers: Het systeem was vooral goed in het helpen van gebruikers met zeer weinig interacties (sparse users). Door zich voor deze gebruikers op het "grote plaatje" te richten, kon het nog steeds goede gissingen doen wanneer er weinig data beschikbaar was.
• Snelheid: Ondanks alle extra wiskunde werd het systeem niet veel langzamer. De extra berekeningen (de SVD-lagen) werden eenmalig uitgevoerd voordat de training begon, waardoor het tijdens het eigenlijke leren net zo snel was als de andere systemen.

De Conclusie

Het artikel suggereert dat het geheim van een goede aanbeveler niet alleen het hebben van meer data of het toevoegen van meer ruis is. Het gaat erom de data vanuit verschillende hoeken te bekijken. Door de verbindingen tussen gebruiker en item op te splitsen in lagen van het "grote plaatje" en "fijne details", en het systeem te laten beslissen vanuit welke hoek het voor elke persoon moet focussen, kunnen we systemen bouwen die slimmer, robuuster en beter zijn in het omgaan met de rommelige realiteit van menselijk gedrag.

De auteurs merken op dat hoewel dit goed werkt, er nog steeds ruimte is voor groei. Toekomstig werk zou kunnen bestaan uit het nog slimmer maken van de "sociale fluisteringen" door te bepalen welke vrienden betrouwbaar zijn, of het gebruik van hetzelfde multi-laag concept voor sociale netwerken zelf. Maar voor nu laat COMPASS zien dat een beetje structurele decompositie een heel eind komt om onze digitale aanbevelingen wat menselijker te laten aanvoelen.