🤖 machine learning

POI Recommendation with LLM-Augmented Multi-Graph Learning and Contrastive Alignment

Dit artikel stelt LLM-MGCL voor, een multi-graph neuraal netwerk dat door LLM afgeleide semantische informatie en geografische gegevens integreert met collaboratieve signalen via contrastieve uitlijning om het item cold-start probleem bij POI-aanbevelingen effectief aan te pakken, waarbij het bestaande baselines op de Yelp-dataset aanzienlijk overtreft.

Oorspronkelijke auteurs: Burak Tamer, Wolfram Höpken, Zehui Wang

Gepubliceerd 2026-08-18

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Burak Tamer, Wolfram Höpken, Zehui Wang

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

In het digitale tijdperk is het vinden van een nieuw restaurant, een verborgen park of een lokale winkel vaak afhankelijk van algoritmen die leren van onze eerdere keuzes. Deze systemen, bekend als aanbevelingsmotoren, werken door patronen te herkennen in hoe mensen met bedrijven interageren. Als veel mensen die van een specifieke koffiebar hielden ook een nabijgelegen bakkerij leuk vonden, gaat het systeem ervan uit dat jij dat misschien ook zult doen. Deze methode, genaamd collaborative filtering, is de standaard geworden om gebruikers te helpen navigeren door de wereld van diensten. Dit benaderingswijze heeft echter een aanzienlijke blinde vlek: het heeft moeite met nieuwe of obscure plaatsen die nog weinig of geen beoordelingen hebben. Zonder een geschiedenis van interacties blijven deze bedrijven onzichtbaar voor het algoritme, wat een "cold start"-probleem creëert waarbij het systeem hen simpelweg niet kan aanbevelen. Hoewel we toegang hebben tot rijke details over deze plaatsen—hoe ze eruitzien op foto's, welke diensten ze aanbieden en precies waar ze zich op een kaart bevinden—gebruiken traditionele modellen deze informatie zelden om het gat te dichten.

Een team onderzoekers van de Hogeschool toegepaste wetenschappen Ravensburg-Weingarten in Duitsland heeft een nieuwe manier voorgesteld om dit puzzelstukje op te lossen door de kracht van moderne kunstmatige intelligentie te combineren met de logica van kaarten. Ze ontwikkelden een systeem genaamd LLM-MGCL, wat staat voor Large Language Model-augmented Multi-Graph Contrastive Learning. In plaats van uitsluitend te vertrouwen op gebruikersbeoordelingen, bouwt dit systeem een completer beeld van elk bedrijf door drie verschillende soorten verbindingen te creëren. Ten eerste gebruikt het de standaardkaart van gebruikersinteracties. Ten tweede gebruikt het een groot taalmodel—een geavanceerde AI die in staat is tekst te begrijpen en samen te vatten—om foto's en beschrijvingen van bedrijven te lezen, en deze om te zetten in beknopte samenvattingen en trefwoorden. Deze samenvattingen worden vervolgens gebruikt om bedrijven met elkaar te verbinden die qua geest of stijl vergelijkbaar zijn, zelfs als nog nooit een gebruiker beide heeft bezocht. Ten derde tekent het systeem een kaart van fysieke nabijheid, waarbij bedrijven met elkaar worden verbonden die geografisch dicht bij elkaar liggen, gebaseerd op de werkelijke afstand tussen hun locaties.

De onderzoekers testten deze aanpak op een enorme dataset van bedrijfsbeoordelingen en afbeeldingen van Yelp, een populair platform voor lokale bedrijfsbeoordelingen. Ze ontdekten dat door deze drie draden samen te weven—de geschiedenis van gebruikersbezoeken, de semantische gelijkenis van bedrijfsbeschrijvingen en hun fysieke nabijheid—het systeem veel betere aanbevelingen kon doen dan eerdere methoden. Specifiek, vergeleken met een leidend model dat alleen naar gebruikersinteracties kijkt, verbeterde hun nieuwe systeem zijn vermogen om items correct aan te bevelen met 52 procent in één belangrijke maatstaf en met bijna 65 procent in een andere. Dit betekent dat voor elke twintig suggesties die het systeem doet, het aanzienlijk vaker de juiste heeft dan voorheen. Cruciaal is dat het systeem net zo goed presteerde als de meest geavanceerde bestaande methoden die gebruikmaken van self-supervised learning, maar met een duidelijk voordeel: het kon succesvol bedrijven aanbevelen die zeer weinig of zelfs geen gebruikersbeoordelingen hadden.

Het geheim van dit succes ligt in de manier waarop het systeem leert om deze verschillende visies op de wereld op elkaar af te stemmen. De onderzoekers voegden de nieuwe informatie niet simpelweg toe aan de oude data; ze trainden het model om ervoor te zorgen dat de beschrijving van een bedrijf, de locatie en de gebruikersbeoordelingen allemaal naar dezelfde identiteit wijzen. Ze gebruikten een techniek die het systeem dwingt te erkennen dat een bedrijf dat wordt beschreven als een "gezellige Italiaanse bistro" op twee blokken afstand van een gebruiker, dezelfde entiteit is die een gebruiker in het verleden hoog heeft gewaardeerd. Dit afstemmingsproces was de belangrijkste factor in de verbetering. Wanneer de onderzoekers deze afstemmingsstap verwijderden, daalde de prestatie van het systeem aanzienlijk, wat bewees dat het hebben van de extra data alleen niet genoeg is; het systeem moet leren de verbanden te leggen tussen wat een plek is, waar het is en hoe mensen erover voelen.

Interessant genoeg toonde de studie aan dat de semantische informatie afgeleid uit de AI-samenvattingen en de geografische informatie van de kaarten vaak overlappen. Bedrijven in dezelfde buurt hebben de neiging om soortgelijke kenmerken te delen, waardoor de twee soorten extra data elkaar versterken. De meest nauwkeurige resultaten werden echter pas bereikt wanneer beide samen met het afstemmingsproces werden gebruikt. Dit suggereert dat hoewel locatie en beschrijving vergelijkbare aanwijzingen bieden, het gebruik van beide een robuuster vangnet voor het algoritme creëert. De bevindingen wijzen erop dat door kennis mee te brengen die buiten het gebruikersgedrag bestaat—zoals hoe een plek eruitziet en waar het op een kaart ligt—aanbevelingssystemen effectief het ontbrekende deel van de data kunnen compenseren. Dit biedt een veelbelovend pad voor het helpen van gebruikers bij het ontdekken van nieuwe bedrijven die anders verborgen zouden blijven in de "cold start" van het digitale landschap.

Technische Samenvatting: LLM-versterkt Multi-Graph Learning en Contrastieve Alignment voor POI-aanbevelingen

Probleemstelling
Point-of-interest (POI) aanbevelingssystemen gebaseerd op Graph Neural Networks (GNN's), met name LightGCN, bereiken state-of-the-art prestaties door collaboratieve signalen te propageren via gebruikers-item interacties. Echter, deze puur collaboratieve benaderingen lijden aanzienlijk onder het cold-start probleem. Bedrijven met weinig of geen gebruikersinteracties ontvangen weinig tot geen trainingssignaal, waardoor ze niet aanbevenbaar worden. Hoewel semantische informatie (bijv. bedrijfsbeschrijvingen, diensten) en ruimtelijke informatie (bijv. geografische locatie) beschikbaar zijn, worden deze zelden benut door standaard interactiegebaseerde modellen. Dit artikel pakt de uitdaging aan om deze externe, item-centrische signalen te benutten om het ontbrekende collaboratieve data te compenseren.

Methodologie: LLM-MGCL
De auteurs stellen LLM-MGCL voor (LLM-augmented Multi-Graph Contrastive Learning), een multi-graph neuraal netwerkarchitectuur die de LightGCN-backbone uitbreidt. Het model integreert drie verschillende graafstructuren om informatie parallel te propageren:

Gebruiker-Item Graaf ( $G_{UI}$ ): Een bipartiete graaf die geobserveerd collaboratief gedrag codeert. Edges zijn gewogen op basis van sterrenratings (gemapt van 1–5 sterren naar gewichten 0.1–1.0) om de interactiekracht te reflecteren.
Semantische Item-Item Graaf ( $G_{SEM}$ ): Een graaf die de semantische gelijkenis tussen bedrijven vastlegt. Deze wordt geconstrueerd met behulp van door LLM gegenereerde foto-samenvattingen en trefwoorden uit multimodale data. Deze teksten worden gecodeerd in embeddings met behulp van een Sentence-Transformer model. Edges verbinden de top-10 meest semantisch gelijkaardige bedrijven, wat ervoor zorgt dat zelfs cold-start items een semantisch signaal ontvangen.
Geografische Item-Item Graaf ( $G_{GEO}$ ): Een graaf die ruimtelijke nabijheid vastlegt. Afstanden tussen bedrijfslocaties worden berekend met de Haversine-formule. Edges verbinden de 10 dichtstbijzijnde buren binnen een drempelwaarde van 50 km, met gewichten die omgekeerd evenredig zijn aan de afstand.

Architectuur en Training

Multi-Graph Propagatie: Het model onderhoudt een gedeelde item-embedding matrix. Het voert drie parallelle propagatiepaden uit:
- Het collaboratieve pad propageert over $G_{UI}$ voor 3 lagen.
- De semantische en geografische paden propageren respectievelijk over $G_{SEM}$ en $G_{GEO}$ voor elk 2 lagen (gekozen om signaalverwatering te voorkomen gezien de vaste $k$ -nearest neighbor structuur).
Fusie: De resulterende item-representaties uit de drie views (Collaboratief, Semantisch, Geografisch) worden gecombineerd via additieve fusie om een definitieve item-embedding te creëren.
Contrastieve Alignment: Een cruciaal onderdeel is de bidirectionele InfoNCE contrastieve objectief. In tegenstelling tot zelf-gesuperviseerde methoden die een enkele graaf verstoren (bijv. SGL), aligneert LLM-MGCL de collaboratieve view met de twee hulp-views (semantisch en geografisch). Dit dwingt het model om consistente representaties te leren voor hetzelfde item over de contexten van gedrag, semantiek en ruimte heen.
Verliesfunctie: De totale loss combineert de Bayesian Personalized Ranking (BPR) loss voor ranking, de contrastieve loss voor view alignment, en een L2-regularisatieterm.

Belangrijkste Bijdragen

Constructie van LLM-afgeleide Semantische Grafen: Het artikel introduceert een methode om item-item grafen te bouwen met behulp van door LLM gegenereerde samenvattingen en trefwoorden, die semantische gelijkenis vastleggen onafhankelijk van gebruikersinteracties.
Integratie van Geografische Nabijheid: De constructie van een geografische item-item graaf gebaseerd op Haversine-afstanden, die expliciet de relevante ruimtelijke beperkingen voor POI-aanbevelingen modelleert.
Multi-Graph Contrastief Framework: Het ontwerp van een model dat deze hulp-grafen integreert met collaborative filtering en ze aligneert via contrastief leren, specifiek gericht op het cold-start probleem.

Experimentele Resultaten
Experimenten werden uitgevoerd op de Yelp Multimodal Recommendation Dataset. Het model werd vergeleken met klassieke collaboratieve filtering (ItemKNN, UserKNN), matrix factorisatie (MF-BPR, NeuMF) en diverse GNN-baselines (LightGCN, NGCF, GC-MC, SGL).

Prestatiewinst: LLM-MGCL presteerde aanzienlijk beter dan de LightGCN-backbone, met een verbetering van Recall@20 met 52,0% en NDCG@20 met 64,8%.
Vergelijking met SGL: Het model presteerde op gelijke voet met SGL (Self-supervised Graph Learning), de sterkste contrastieve baseline. Hoewel SGL een iets hogere Recall@10 en NDCG@10 behaalde, behaalde LLM-MGCL een hogere NDCG@20. Cruciaal is dat, in tegen tegenstelling tot SGL, LLM-MGCL externe signalen gebruikt om items met geen interacties aan te pakken.
Ablatieonderzoek:
- Contrastief Leren (CL): Het verwijderen van de contrastieve alignment veroorzaakte een substantiële daling in prestaties (Recall@20 daalde met ~22,9%), wat identificeert dat dit de primaire drijfveer van de winst is.
- Hulp-grafen: Het individueel verwijderen van ofwel de semantische of de geografische graaf resulteerde in slechts een minimale prestatiedaling, wat suggereert dat deze views deels overlappende informatie coderen (bijv. bedrijven in hetzelfde gebied delen vaak semantische kenmerken). Echter, de beste prestaties werden alleen bereikt wanneer beide grafen werden gecombineerd met contrastief leren, wat hun complementaire aard bevestigt.

Betekenis en Claims
Het artikel claimt dat extern gegronde, door LLM afgeleide itemkennis effectief kan compenseren voor ontbrekende collaboratieve signalen. Door gedragsdata te aligneren met semantische en ruimtelijke representaties, verzacht het model het item cold-start probleem dat inherent is aan puur interactiegebaseerde methoden. De auteurs suggereren dat deze aanpak een levensvatbaar pad biedt voor het verbeteren van POI-aanbevelingen waar interactiedata schaars is, zonder uitsluitend te vertrouwen op de zelf-gesuperviseerde verstoringen van bestaande interactiegrafen. Toekomstige onderzoeksrichtingen die door de auteurs zijn geïdentificeerd, omvatten het verkennen van geleerde weegmechanismen voor view-fusie, diepere analyse van informatieoverlap tussen grafen, en specifieke evaluaties voor cold-start scenario's.

Meer zoals dit