Continuous Temporal Line Graphs for News Recommendation: A Novel Approach to Modeling User Interest Drift

In de uitgestrekte, kolkende oceaan van online nieuws wordt het steeds moeilijker om een verhaal te vinden dat er echt toe doet voor jou. De enorme hoeveelheid artikelen die elke minuut worden gepubliceerd, betekent dat een lezer zonder hulp kan verdrinken in inhoud die irrelevant of verouderd is. Dit is het probleem van gepersonaliseerde aanbeveling: een systeem moet raden wat een persoon vervolgens wil lezen op basis van wat hij eerder heeft gelezen. Een lange tijd hebben informaticus geprobeerd dit op te lossen door de geschiedenis van een gebruiker te behandelen als een statische lijst, uitgaande van het idee dat als iemand gisteren een politiek artikel leuk vond, hij vandaag waarschijnlijk ook weer een wil. Menselijke aandacht is echter veel vloeibaarder dan een statische lijst suggereert. Onze interesses dwalen af; iemand die urenlang over internationale politiek leest, kan plotseling overstappen op sport of entertainment vanwege een actuele gebeurtenis, een verandering in stemming, of simpelweg omdat hij genoeg heeft gezien van één onderwerp. De uitdaging voor aanbevelingssystemen is niet alleen om te onthouden waar een gebruiker van houdt, maar om het moment te merken waarop de geest van de gebruiker verschuift en zich direct aan te passen.

Een team onderzoekers aan de Northwestern Polytechnical University heeft een nieuwe manier ontwikkeld om deze snelle veranderingen in interesse te volgen. Ze creëerden een systeem genaamd CTLGNN, wat staat voor Continuous Temporal Line Graph Neural Network. In plaats van de geschiedenis van een gebruiker te bekijken als een eenvoudige sequentie van klikken of een vast profiel, behandelt deze nieuwe aanpak elke enkele interactie tussen een persoon en een nieuwsartikel als een unieke gebeurtenis die de volgende beïnvloedt. De onderzoekers realiseerden zich dat traditionele methoden vaak de subtiele, onmiddellijke verbindingen missen tussen twee klikken die kort na elkaar plaatsvinden. Om dit op te lossen, bouwden ze een model dat zich richt op de relaties tussen deze interacties in plaats van alleen op de gebruikers of de artikelen zelf.

De kern van hun innovatie is een verschuiving in perspectief. Stel je een grafiek voor waarbij de punten gebruikers en nieuwsverhalen vertegenwoordigen, en de lijnen die hen verbinden een klik vertegenwoordigen. De meeste systemen analyseren de punten om de gebruiker te begrijpen. Dit nieuwe systeem maakt echter van die verbindende lijnen de punten zelf. In hun model wordt elke keer dat een gebruiker op een nieuwsartikel klikt, die specifieke klik een knooppunt (node) in een nieuwe, gespecialiseerde grafiek. Als een gebruiker in korte opeenvolging op twee verschillende verhalen klikt, of als twee verschillende gebruikers op hetzelfde verhaal klikken, worden deze "klik-knooppunten" met elkaar verbonden. Dit stelt de computer in staat om de stroom van gedrag direct te observeren. Het kan zien hoe een recente klik op een sportartikel de context voor de volgende klik onmiddellijk verandert, waardoor de drift in interesse wordt vastgelegd terwijl het gebeurt, in plaats van te wachten tot er een patroon verschijnt over weken.

Om het volledige beeld van de voorkeuren van een gebruiker te behandelen, gebruikt het systeem twee verschillende motoren die samenwerken. De eerste motor kijkt naar de langetermijngeschiedenis. Deze gebruikt een methode die de tijd verdeelt in snapshots, waarbij wordt geanalyseerd hoe de interesses van een gebruiker zich over maanden of jaren hebben ontwikkend om een stabiel begrip te vormen van wie zij zijn. De tweede motor is de nieuwe, op gebeurtenissen gerichte component. Deze kijkt alleen naar de meest recente interacties en behandelt deze als een continue stroom van gebeurtenissen. Door deze twee visies te combineren, kan het systeem een evenwicht vinden tussen waar een gebruiker over het algemeen van houdt en waar hij op dit exacte moment in geïnteresseerd is. Als een gebruiker die normaal gesproken over financiën leest, plotseling begint te klikken op kookrecepten, onthoudt de langetermormotor de interesse in financiën, maar markeert de kortetermormotor de interesse in koken onmiddellijk als de huidige prioriteit.

De onderzoekers testten deze aanpak met behulp van echte gegevens van nieuwswebsites, inclusclusief een dataset met meer dan 100.000 gebruikers en miljoenen nieuwsimpressies. Ze vergeleken hun nieuwe systeem met veertien andere toonaangevende methoden, variërend van eenvoudige sequentie-trackers tot complexe grafiekmodellen. De resultaten waren duidelijk: het nieuwe systeem presteerde consequent beter dan de rest. In tests die maten hoe goed het systeem het volgende artikel kon voorspellen waar een gebruiker op zou klikken, behaalde het hogere scores in nauwkeurigheid en relevantie dan alle voorgaande modellen. Specifiek bereikte het op één dataset een nauwkeurigheidsscore van 84,15%, waarmee het het op één na beste model aanzienlijk versloeg. Op een andere dataset behaalde het een rangschikkingsscore van 99,18%, wat aangeeft dat het uitzonderlijk goed was in het bovenaan de lijst plaatsen van het juiste artikel.

De studie onderzocht ook waarom het systeem zo goed werkte door delen ervan te verwijderen om te zien wat er zou gebeuren. Wanneer de onderzoekers de korte-termijn gebeurtenisregistratie weghaalden, daalde de prestatie van het systeem scherp, wat bewees dat het vastleggen van onmiddellijke interesseverschuivingen cruciaal is. Wanneer ze de langetermijngeschiedenis verwijderden, had het systeem moeite om een consistent begrip van de gebruiker te behouden. Dit bevestigde dat de combinatie van beide visies noodzakelijk is voor de beste resultaten. De onderzoekers ontdekten ook dat het systeem het beste werkte wanneer het de vijf meest recente interacties in overweging nam. Het kijken naar minder dan vijf klikken bood onvoldoende context, terwijl het kijken naar meer dan vijf klikken verouderde informatie bevatte die het model in verwarring bracht. Dit suggereert dat verschuivingen in menselijke interesse vaak worden gedreven door een zeer kleine, recente venster van activiteit.

Door middel van gedetailleerde casestudy's lieten de onderzoekers zien hoe hun model specifieke scenario's afhandelt waar andere systemen falen. In één voorbeeld, waarbij een gebruiker die lange tijd politiek nieuws had gelezen plotseling op een sportartikel klikte, bleven oudere systemen politiek nieuws aanbevelen en merkten de verandering niet op. Het nieuwe systeem herkende echter onmiddellijk de verschuiving in het recente interactiepatroon en plaatste het sportartikel als de topaanbeveling. Het identificeerde succesvol dat de onmiddellijke interesse van de gebruiker de langetermijngewoonte had overgenomen. Dit vermogen om plotselinge veranderingen in gedrag te detecteren en erop te reageren, is wat het systeem bijzonder effectief maakt voor de snelle wereld van online nieuws, waar de aandacht van een gebruiker in de tijdspanne van een enkele minuut kan veranderen.

De onderzoekers erkennen dat hoewel hun systeem een belangrijke stap voorwaarts is, er nog werk te doen is. Ze merken op dat het model in staat is om redelijk goed te generaliseren naar gebruikers met een beperkte interactiegeschiedenis, hoewel het niet specifiek is ontworpen om het cold-start-probleem aan te pakken. Ze wijzen er ook op dat de computationele kosten voor het constant bouwen van deze complexe grafieken hoog zijn, wat een uitdaging kan zijn voor real-time toepassingen. Toekomstig werk zal zich richten op het sneller en efficiënter maken van het systeem, evenals op het integreren van andere soorten informatie zoals afbeeldingen en video's om beter te begrijpen wat gebruikers willen. Ondanks deze beperkingen laat de studie zien dat door de nadruk te leggen op de verbindingen tussen gebeurtenissen in plaats van alleen op de gebeurtenissen zelf, het mogelijk is om aanbevelingssystemen te bouwen die veel beter afgestemd zijn op de dynamische aard van menselijke interesse.