Semantic-Retrieval-Reasoning Pipeline: A Hybrid Large Language Model Framework for Intent-Aware and Explainable Bundle Recommendation

Technische Samenvatting: Semantic-Retrieval-Reasoning Pipeline (SRRP)

Probleemstelling
Huidige Bundle Recommender Systems (BRS) kampen met een triade van uitdagingen: een gebrek aan verklaarbaarheid, rigide bundelafmetingen en de "mono-intentie"-aanname. Traditionele methoden, variërend van op restricties gebaseerde algoritmen (Apriori, FP-Growth) tot Graph Neural Networks (GNNs zoals BGCN en BundleNet), functioneren vaak als "black boxes", waarbij ze geen logische rechtvaardigingen bieden voor de groepering van items. Bovs de is, deze modellen gaan vaak uit van een enkele gebruikersintentie per winkelmandje, wat leidt tot monotone aanbevelingen. Hoewel recente generatieve benaderingen met behulp van Large Language Models (LLMs) de verklaarbaarheid hebben geïntroduceerd, lijden ze aan computationele inefficiëntie, combinatorische explosie en een neiging tot hallucinaties. Om deze problemen te mitigeren, hanteren bestaande generatieve modellen vaak statische, kleine bundelgroottes (bijv. 2–3 items), wat niet voldoet aan de dynamische en diverse aard van echte consumentenbehoeften, met name voor bulkinkopen of aankopen met meerdere intenties.

Methodologie: De Semantic-Retrieval-Reasoning Pipeline (SRRP)
De auteurs stellen SRRP voor, een hybride framework dat LLM-prompting en embedding-technieken integreert in een driestaps-pipeline om intentiebewuste, dynamische en verklaarbare bundels te genereren.

1. Semantic Segmentation Unit (SSU):

   • Functie: Fungeert als een cognitief filter om ruisgevoelige, multi-intentie winkelmandjes te deconstrueren in afzonderlijke intentieclusters.
   • Mechanisme: Maakt gebruik van een LLM met In-Context Learning (ICL) en few-shot prompting om semantische clustering uit te voeren. In plaats van het mandje als een enkel vector te behandelen, labelt de SSU items op basis van gebruiksgelegenheden (bijv. "Ontbijt", "Kantoorbenodigdheden").
   • Theoretische basis: Het "Semantic Variance Reduction Theorem" stelt dat het clusteren van items op basis van functionele nabijheid de intra-cluster semantische variantie vermindert, waardoor de foutmarges bij retrieval worden geminimaliseerd in vergelijking met het verwerken van het volledige mandje als één entiteit.

2. Contextual Retrieval Unit (CRU):

   • Functie: Haalt feitelijke kandidaat-bundels op uit een historische database op basis van de door de SSU gegenereerde intentieclusters.
   • Mechanisme: Transformeert intentieclusters naar hoogdimensionale dichte vectoren met behulp van een Sentence-Transformer (bijv. all-MiniLM-L6-v2). Deze vectoren bevragen een vectordatabase (ChromaDB) via Cosine Similarity om semantisch relevante historische bundels te vinden.
   • Theoretische basis: Het "Semantic Relevance Bound Theorem" demonstreert dat dense vector retrieval semantisch relevante items kan identificeren zonder overlap in trefwoorden, waarbij het traditionele exact-match of associatieregel-methoden overtreft in termen van recall.

3. Reasoning Validation Unit (RVU):

   • Functie: Valideert kandidaat-bundels, past de bundelgrootte dynamisch aan en genereert overtuigende natuurlijke taalverklaringen en namen.
   • Mechanisme: Gebruikt Chain-of-Thought (CoT) prompting om de logische complementariteit van kandidaat-items tegenover de oorspronkelijke winkelmand van de gebruiker te evalueren. Het filtert hallucinaties eruit, verwijdert irrelevante items en construeert verklarende narratieven.
   • Human-in-the-Loop (HITL) Alignment: Om cognitieve afstemming te waarborgen en hallucinaties te voorkomen, wordt de redenering van de RVU gevalideerd tegen de grondwaarheid die is vastgesteld door negen onafhankelijke menselijke annotatoren. Het systeem gebruikt een "Dynamic CoT"-aanpak, waarbij gecureerde voorbeelden uit deze menselijke consensus worden geïnjecteerd om de machine-redenering af te stemmen op de menselijke perceptie.
   • Theoretische basis: Het "Dynamic Bundle Size Optimality Theorem" stelt dat conditionele pruning op basis van logische relevantie inclusiefheidsfouten minimaliseert vergeleken met statische groottesystemen.

Belangrijkste Bijdragen

• Hybride Framework: De introductie van SRRP, die technische nauwkeurigheid (via embedding-gebaseerde retrieval) en cognitieve transparantie (via LLM-redenering) verenigt in een enkele pipeline.
• Multi-Intent Decompositie: Het gebruik van LLMs als een cognitief filter om gebruikersmandjes dynamisch te deconstrueren in multi-intentieclusters, waardoor de afhankelijkheid van rigide handmatige feature-tuning wordt geëlimineerd.
• Dynamische Bundelgrootte: Een reasoning validation module die de statische beperkingen van eerdere generatieve modellen doorbreekt, waardoor bundelgroottes dynamisch kunnen worden aangepast (variërend van 3 tot 45 items) op basis van de gebruikerscontext.
• Verklaarbaarheid en Validatie: De integratie van een Human-in-the-Loop-methodologie om de naamgeving en verklaringen van bundels rigoureus te valideren, wat zorgt voor afstemming met de menselijke cognitieve consensus en het verminderen van hallucinaties.

Experimentele Resultaten
Geëvalueerd op de Instacart 2017 dataset met een Leave-One-Out protocol, werd SRRP vergeleken met vijf baseline-modellen (Apriori, FP-Growth, BundleNet, BGCN, CrossCBR).

• Relevantie en Ranking: SRRP vertoonde superieure prestaties in Top-20 aanbevelingen. De Random Masking (RM) strategie bereikte een Hit Rate van 0,1100 en een Recall van 0,1298, terwijl de Sequential Splitting (SS) strategie een Recall van 0,1502 en een MRR van 0,0683 bereikte. Deze metrieken presteerden significant beter dan state-of-the-art graph-modellen (bijv. CrossCBR Recall: 0,0942).
• Diversiteit: SRRP behield een hoge Intra-List Diversity (ILD > 0,53) en bereikte een optimaal evenwicht tussen nauwkeurigheid en diversiteit, terwijl graph-modellen een hoge diversiteit toonden maar een significant lagere nauwkeurigheid hadden.
• Dynamische Grootte: Het systeem genereerde succesvol bundels met groottes tussen 3 en 5 items voor ongeveer 79% van de gebruikers, terwijl het robuust omging met long-tail distributies tot 45 items voor bulkkopers. Het onderdrukte effectief de bias naar 2-item paren die gebruikelijk is bij deep learning baselines.
• Verklaarbaarheid en Afstemming: De gegenereerde verklarende teksten behaalden een G-Eval Fluency score van 4,79/5,0. Semantische afstemming met menselijke annotatoren (gemeten via Cosine Similarity) bereikte een algemene score van 0,5907 (LLaMA-3), wat wijst op een sterke afstemming met menselijke cognitieve redenering met betrekking tot de geldigheid en naamgeving van bundels.

Significantie en Claims
Het artikel beweert dat SRRP een significante vooruitgang vertegenwoordigt in Bundle Recommender Systems door de "black box"-aard van eerdere modellen en de rigiditeit van statische groottes aan te pakken. Door LLMs niet alleen voor generatie maar ook als cognitief filter voor intentiedetectie en validatie in te zetten, levert het framework aanbevelingen die niet alleen accuraat, maar ook transparant en betrouwbaar zijn. De auteurs stellen dat het systeem erin slaagt de kloof tussen wiskundige retrieval en menselijke logische begrip te overbruggen, en daarmee een rationele en geloofwaardige winkelassistent biedt. De auteurs erkennen echter bescheiden de beperkingen, waarbij zij opmerken dat het systeem af en toe last heeft van "forced rationalization" (het overmatig rechtvaardigen van willekeurige itemcombinaties) en dat toekomstig werk nodig is om de inferentie-latentie te verminderen en rejectie-drempels verder te kalibreren om fout-positieven te minimaliseren.