IntPro: A Proxy Agent for Context-Aware Intent Understanding via Retrieval-conditioned Inference

Dit paper introduceert IntPro, een proxy-agent die contextbewuste gebruiksintenties verbetert door middel van een zoekopdracht-gestuurde inferentie die individuele intentiepatronen uit een geschiedenisbibliotheek benut via toezichtsfine-tuning en GRPO-training.

De kern

Stel je voor dat je met een zeer slimme, maar soms wat stijve robot praat. Deze robot is een Grote Taalmodel (LLM). Hij kent heel veel feiten en kan prachtige verhalen schrijven, maar hij heeft één groot probleem: hij begrijpt niet echt wie jij bent of wat je precies bedoelt in een specifieke situatie.

Als je tegen hem zegt: "Hé, dat is raar," denkt de robot: "Oh, iemand vindt iets vreemd." Maar hij mist de nuance: bedoel je dat het raar is omdat je boos bent? Omdat je geamuseerd bent? Of omdat je je zorgen maakt?

Dit artikel introduceert IntPro, een slimme tussenpersoon (een "proxy agent") die tussen jou en die grote robot komt te staan. Je kunt IntPro zien als een super-ervaren tolk of een persoonlijke assistent die de grote robot helpt om je écht te begrijpen.

Hier is hoe het werkt, uitgelegd met een paar creatieve vergelijkingen:

1. Het Probleem: De Robot met Korte geheugen

Stel je voor dat de grote robot een chef-kok is die in een gigantische keuken werkt. Hij kan geweldige gerechten maken, maar hij heeft geen idee wat jij de afgelopen jaren hebt gegeten of wat je favoriete smaken zijn. Als je zegt: "Ik wil iets lekkers," maakt hij misschien iets dat jij haat, omdat hij niet weet dat je allergisch bent voor pinda's of dat je dol bent op pittig eten.

Huidige systemen kijken alleen naar wat je nu zegt. Ze vergeten je geschiedenis. Ze behandelen elke vraag alsof het de eerste keer is dat ze je zien.

2. De Oplossing: IntPro, de "Geheugen-Tolk"

IntPro is die tussenpersoon. Voordat je boodschap de grote chef-kok (de robot) bereikt, gaat hij eerst naar IntPro.

IntPro doet twee dingen:

1. Hij luistert naar de context: Hij kijkt naar wat je zegt, maar ook naar waar je bent, wat je eerder deed en hoe je je voelt.
2. Hij raadpleegt je "Persoonlijke Notitieboek": Dit is het belangrijkste. IntPro heeft een bibliotheek vol met jouw eerdere gesprekken en intenties.

3. Hoe IntPro Beslist: De "Snelweg vs. De Bibliotheek"

IntPro is niet dom; hij weet precies wanneer hij wat moet doen. Hij gebruikt een slimme strategie die we kunnen vergelijken met het navigeren in een stad:

• Situatie A: De Snelweg (Directe Afleiding)
  Als je een simpele vraag stelt, bijvoorbeeld "Wat is de hoofdstad van Frankrijk?", hoeft IntPro niet te zoeken. Hij weet het direct. Hij zegt tegen de robot: "Geef gewoon het antwoord." Dit is snel en efficiënt.

  • Vergelijking: Je loopt de deur uit en ziet direct het bordje. Geen kaart nodig.

• Situatie B: De Bibliotheek (Zoekopdracht)
  Als je een complexe of dubbelzinnige vraag stelt, bijvoorbeeld "Ik vind dit raar..." (zonder te zeggen waarom), dan twijfelt IntPro. Hij denkt: "Wacht, dit lijkt op een situatie van vorige week toen je boos was op je buurman."
  Dan pakt hij zijn Persoonlijke Notitieboek (de bibliotheek) en zoekt naar eerdere momenten waarop je iets soortgelijks zei. Hij vindt een oude notitie: "Aha, toen je dit zei, was je eigenlijk teleurgesteld, niet boos."
  Nu weet IntPro precies wat je bedoelt. Hij zegt tegen de robot: "Nee, wacht! Deze persoon is teleurgesteld, niet boos. Pas daar je antwoord op aan."

4. Hoe IntPro Leert: De "Trainingskamp"

De auteurs hebben IntPro niet zomaar bedacht; ze hebben hem getraind met een slimme methode:

• Fase 1: Het Leren van de Regels (Supervised Fine-Tuning)
  Ze hebben IntPro laten oefenen met duizenden voorbeelden. Ze leerden hem: "Als je twijfelt, zoek dan in het notitieboek. Als je zeker weet, geef dan direct antwoord."
• Fase 2: De Meestertrainer (Reinforcement Learning / GRPO)
  Daarna kregen ze een trainer die IntPro beloonde of strafte.
  • Als IntPro een moeilijke vraag goed oploste door in het notitieboek te zoeken, kreeg hij een gouden ster.
  • Als hij een simpele vraag probeerde op te lossen door in het notitieboek te zoeken (wat tijdverspilling was), kreeg hij een traagheidspunt.
  • Als hij een moeilijke vraag probeerde op te lossen zonder te zoeken en het fout had, kreeg hij ook een traagheidspunt.

Zo leerde IntPro precies het juiste moment om te zoeken en het juiste moment om direct te antwoorden.

5. Waarom is dit zo geweldig?

• Het is Persoonlijk: IntPro bouwt een profiel van jou. Hoe meer je met hem praat, hoe beter hij je begrijpt. Het is alsof je een vriend hebt die je beter kent dan jezelf.
• Het is Slim en Snel: Hij gebruikt de grote robot alleen wanneer het echt nodig is. Voor simpele dingen doet hij het zelf, wat sneller is en minder energie kost.
• Het Legt Uit: IntPro schrijft niet alleen het antwoord op, maar legt ook uit waarom hij denkt dat je dat bedoelt. Hij zegt: "Ik denk dat je boos bent, omdat je vorige week ook zo reageerde op een vergelijkbare situatie." Dit maakt het proces transparant.

Samenvatting in één zin

IntPro is een slimme, persoonlijke tolk die tussen jou en de AI zit, die je eerdere gesprekken als een geheugenboek gebruikt om te begrijpen wat je echt bedoelt, zodat de AI niet meer als een robot klinkt, maar als een echt begripvolle vriend.

Technische samenvatting

Titel: IntPro: Een Proxy-agent voor Contextbewuste Intentbegrip via Op Terugvinding Gebaseerde Inferentie

1. Het Probleem

In moderne workflows voor mens-AI-samenwerking is het nauwkeurig begrijpen van de intentie van de gebruiker cruciaal voor het genereren van bevredigende antwoorden. Bestaande benaderingen kampen met drie belangrijke beperkingen:

• Staticiteit: Intentiebegrip wordt vaak behandeld als een statische herkenningsopdracht, waarbij modellen negeren dat gebruikers intenties hebben die voortvloeien uit hun onderliggende motivaties en historische patronen.
• Gebrek aan Context: Bestaande methoden gebruiken vaak alleen de directe query of een simpele prompt, zonder rekening te houden met de volledige situatie (interactiegeschiedenis en omgevingscontext) die de intentie vormgeeft.
• Kosten en Kwetsbaarheid: Het direct toepassen van grote taalmodellen (LLMs) voor contextbewust redeneren is duur en afhankelijk van fragiele prompt-workflows. Daarnaast missen deze modellen vaak de capaciteit om persoonlijke intentiepatronen actief te benutten.

Het doel is een systeem te creëren dat niet alleen de intentie voorspelt, maar ook waarom die intentie wordt aangenomen, en dit doet door te leren van de specifieke geschiedenis van de gebruiker.

2. Methodologie: IntPro

De auteurs stellen IntPro voor, een proxy-agent die tussen de gebruiker en de cloud-LLM schakelt. De agent leert zich aan te passen aan individuele gebruikers via op terugvinding (retrieval) gebaseerde inferentie.

Kerncomponenten:

• Intentie-Verklaringen (Intent Explanations): In plaats van alleen een label te voorspellen, genereert de agent een natuurlijke taalverklaring die abstracte connecties legt tussen contextsignalen en de uitgedrukte intentie. Deze verklaringen dienen als zoekrepresentaties.
• Persoonlijke Intentiegeschiedenisbibliotheek: Deze verklaringen worden opgeslagen in een bibliotheek per gebruiker. Bij twijfel kan de agent relevante historische patronen uit deze bibliotheek terugvinden.
• Twee Inferentiepaden:
  1. Directe Inferentie: Voor duidelijke gevallen voorspelt de agent direct de intentie.
  2. Retrieval-geconditioneerde Inferentie: Voor ambiguïteit of moeilijke gevallen zoekt de agent eerst in de geschiedenisbibliotheek naar vergelijkbare patronen om de beslissing te sturen.

Trainingsparadigma:
Het trainen van IntPro gebeurt in twee fasen:

1. Supervised Fine-Tuning (SFT): Er wordt een dataset gegenereerd met "trajecten" die zowel directe inferentie als terugvinding-geconditioneerde inferentie demonstreren. De agent leert hierbij intentie-verklaringen te genereren en wanneer een zoektool te gebruiken.
2. Versterkingsleer (Reinforcement Learning - RL): Er wordt gebruikgemaakt van Multi-turn Group Relative Policy Optimization (GRPO).
   • Tool-aware Reward Functies: De beloningssysteem is dynamisch en afhankelijk van de moeilijkheidsgraad van de context (bepaald door de groepsaccuraatheid).
     • Bij gemakkelijke contexten wordt een correct direct antwoord beloond en onnodig terugvinden gestraft.
     • Bij moeilijke contexten wordt succesvol terugvinden en het gebruik van historische patronen zwaar beloond, terwijl fouten bij directe inferentie worden gestraft.
   • Dit dwingt de agent om adaptief te beslissen wanneer hij moet vertrouwen op zijn eigen kennis en wanneer hij moet terugvallen op de persoonlijke geschiedenis.

3. Belangrijkste Bijdragen

• Ontwerp van Intentie-Verklaringen: Het introduceren van natuurlijke taalverklaringen als zoekrepresentaties voor het matchen van persoonlijke intentiepatronen, in plaats van alleen statische labels.
• Retrieval-geconditioneerd Trainingsframework: Een nieuw framework voor het genereren van trainingsdata dat de agent leert om zowel direct te redeneren als contextueel terug te vinden.
• GRPO met Tool-aware Rewards: Een trainingsparadigma dat de agent leert om strategisch te wisselen tussen directe inferentie en het gebruik van een historische bibliotheek, gebaseerd op de complexiteit van de situatie.
• Uitgebreide Validatie: Experimenten in drie diverse scenario's (lezen, dialoog, sociale media) tonen aan dat het systeem generaliseert over verschillende modeltypes en domeinen.

4. Resultaten

De experimenten zijn uitgevoerd op drie datasets: Highlight-Intent (lezen), MIntRec2.0 (meerdere dialoogpartijen) en Weibo Post-Sync (sociale media).

• Prestatie: IntPro presteert significant beter dan bestaande methoden, waaronder discriminatieve modellen (BERT, RoBERTa) en grote LLMs (GPT-4o, Qwen3) in zero-shot en retrieval-augmented settings.
• Generalisatie: Het model toont sterke generalisatie over verschillende modelgroottes (van 3B tot 4B parameters) en domeinen. Zelfs getraind op één domein (MIntRec2.0), presteert het goed op andere domeinen (zero-shot transfer).
• Retrieval-gedrag: De analyse toont aan dat IntPro leert om niet altijd te zoeken (wat ruis introduceert) en niet nooit te zoeken (wat fouten bij ambiguïteit veroorzaakt). Het kiest dynamisch de juiste strategie.
• Progressieve Verbetering: Een experiment met toenemende geschiedenis toont aan dat de nauwkeurigheid van IntPro stijgt naarmate de persoonlijke bibliotheek groeit (+5,5% verbetering), terwijl modellen zonder terugvinding statisch blijven.
• Efficiëntie: IntPro (gebaseerd op 3B-4B modellen) is veel efficiënter dan cloud-LLMs (zoals GPT-4o) wat betreft geheugengebruik en latentie, waardoor het geschikt is voor lokale (on-device) implementatie met behoud van privacy.

5. Betekenis en Impact

IntPro markeert een verschuiving in de Human-LLM interactie:

• Van Statiek naar Adaptief: Het lost het probleem op van statische intentieherkenning door een systeem te bieden dat continu leert van de gebruiker.
• Uitlegbaarheid: Door intentie-voorspellingen te koppelen aan natuurlijke taalverklaringen, wordt het proces transparanter voor menselijke toezicht.
• Privacy en Kosten: Het stelt een architectuur voor waarbij een lichte proxy-agent op het apparaat draait, persoonlijke data lokaal verwerkt en alleen de geaggregeerde intentie naar de cloud stuurt. Dit verlaagt kosten en verhoogt privacy.
• Toekomstperspectief: De methode biedt een blauwdruk voor het bouwen van persoonlijke AI-assistenten die niet alleen reageren, maar de onderliggende motivaties van gebruikers begrijpen en daarop inspelen.

Kortom, IntPro bewijst dat het combineren van generatieve intentie-explainers, persoonlijke terugvinding en versterkingsleer leidt tot robuustere, persoonlijkere en efficiëntere AI-systemen.