LLM-Augmented Semantic Steering of Text Embedding Projection Spaces

Technische Samenvatting: LLM-gestuurde Semantische Sturing van Projectieruimten voor Tekstembeddings

Probleemstelling
Laagdimensionale projecties van tekstembeddings zijn standaardtools in visuele tekstanalyse, die de verkenning van documentcollecties mogelijk maken via ruimtelijke overzichten. Deze projecties weerspiegelen echter vaak niet de specifieke semantische relaties die een analist wil onderzoeken. Documenten die ruimtelijk dicht bij elkaar lijken, kunnen voor een bepaalde taak conceptueel ongerelateerd zijn, terwijl semantisch samenhangende documenten verspreid kunnen liggen. Bijgevolg worden analisten vaak gedwongen hun redenering aan te passen aan de output van het model, in plaats van de projectie te herschikken om hun specifieke analytische doelen te reflecteren.

Bestaande benaderingen voor semantische interactie coderen intentie doorgaans indirect via geometrische beperkingen (bijvoorbeeld punten slepen, groeperen) of door modelparameters bij te werken. Deze methoden hebben aanzienlijke beperkingen: ze vereisen vaak computergestuurde, kostbare hertraining of modificatie van embedding-modellen, zijn moeilijk te interpreteren (vooral bij black-box embeddings), en vertrouwen op vooraf gedefinieerde schema's of exhaustieve annotatie van de hele dataset. Er is behoefte aan een mechanisme dat analisten in staat stelt semantische intentie direct uit te drukken, in een interpreteerbare vorm, zonder de onderliggende embedding- of dimensiereductie (DR)-modellen te wijzigen.

Methodologie: LLM-gestuurde Semantische Sturing
De auteurs stellen een raamwerk voor dat projectieruimten behandelt als "intentie-afhankelijke semantische werkruimten". De aanpak bestaat uit vier fasen:

1. Uitdrukken van Semantische Intentie: Analisten interageren met de projectie door een kleine set gerelateerde documenten te groeperen. Deze groepering dient als een expliciete uitdrukking van semantische intentie (bijvoorbeeld gedeeld onderwerp, sentiment of functionele rol), zonder vaste labels toe te wijzen of globale categorieën te definiëren.
2. Externaliseren van Intentie via LLM: Een Large Language Model (LLM) verwerkt de gegroepeerde voorbeelden om de impliciete intentie te externaliseren naar gestructureerde natuurlijke taalrepresentaties:
   • Cluster-niveau beschrijvingen: Een "clusterkaart" die de gedeelde betekenis samenvat, inclusief een naam, beschrijving en opname-/uitsluitingscriteria.
   • Document-niveau augmentaties: Specifieke rechtvaardigingen voor hoe elk gegroepeerd document de intentie illustreert, inclusief contrasten met andere groepen en trefwoorden.
3. Selectieve Uitbreiding: Het raamwerk breidt deze intentie uit naar de rest van de documentcollectie. Het LLM vergelijkt niet-geïnterageerde documenten met de gegenereerde clustersemantiek. Als een document voldoende overeenkomt met een groep, ontvangt het een bijbehorende document-niveau augmentatie. Als het bewijs zwak of dubbelzinnig is, blijft het document ongewijzigd. Dit zorgt voor een conservatieve, selectieve uitbreiding in plaats van een exhaustieve toewijzing.
4. Integratie in Representaties: De semantische informatie wordt geïntegreerd in documentrepresentaties om de projectie bij te werken zonder het embedding-model opnieuw te trainen. Twee integratiestrategieën worden toegepast:
   • Tekst-gebaseerde augmentatie: De natuurlijke taal-augmentatie wordt aangehecht of voorafgeplaatst aan de originele documenttekst voordat deze opnieuw wordt geëmbet.
   • Embedding-niveau menging: De originele embedding ($E_{base}$) wordt gemengd met de embedding van de semantische augmentatie ($E_{aug}$) met behulp van een gewogen formule: $E' = (1 - \alpha)E_{base} + \alpha E_{aug}$. De parameter $\alpha$ regelt de sterkte van de sturing, waardoor een continue en controleerbare aanpassing van de projectielayout mogelijk is.

Belangrijkste Bijdragen

• Taalgemedieerde Interactie: Een nieuwe aanpak voor het sturen van projecties van tekstembeddings waarbij semantische intentie wordt uitgedrukt via lichtgewicht groepering en via LLM's wordt externaliseerd naar interpreteerbare natuurlijke taal, in plaats van via geometrische beperkingen.
• Model-onafhankelijk Mechanisme: Een methode die projecties bijwerkt door representaties te augmenteren of embeddings te mengen, waardoor de noodzaak om onderliggende embedding- of DR-modellen opnieuw te trainen of te wijzigen, wordt vermeden.
• Kwalitatieve Casestudie: Een demonstratie die laat zien hoe een enkel corpus (Amazon-productbeoordelingen) kan worden herschikt onder verschillende semantische perspectieven (bijvoorbeeld productcategorie versus sentiment) op basis van analistenintentie.
• Simulatie-gebaseerde Evaluatie: Een systematische evaluatie van uitlijning, interactie-efficiëntie en uitbreidingsgedrag met behulp van data van IEEE VIS-proceedings.

Resultaten
De evaluatie, uitgevoerd via simulatie met gecontroleerde interactiegroottes, leverde de volgende bevindingen op:

• Verbeterde Uitlijning: Semantische sturing verbeterde zowel de globale uitlijning (gemeten via de geschaalde silhouette-score) als de lokale uitlijning (buurconsistentie) significant ten opzichte van de niet-gestuurde baseline. Controles met willekeurige tekstaugmentatie verslechterden de prestaties, wat bevestigt dat de winst voortkomt uit semantische inhoud.
• Minimale Interactie Vereist: Effectieve sturing werd bereikt met een klein aantal voorbeelddocumenten (ongeveer vijf per groep). Verbeteringen in uitlijning bereikten een plateau na dit punt, wat aangeeft dat minimale interactie voldoende is om semantische intentie vast te leggen.
• Selectieve Uitbreiding: Het systeem slaagde erin intentie uit te breiden naar niet-geïnterageerde documenten op basis van semantisch bewijs. De nauwkeurigheid van de uitbreiding stabiliseerde na vijf voorbeelden, en het systeem liet dubbelzinnige documenten conservatief ongewijzigd, waardoor geforceerde classificatie werd vermeden.
• Controleerbare Sturing: Embedding-niveau menging maakte continue controle over de projectie mogelijk. Het verhogen van de mengingsgewicht ($\alpha$) verbeterde de globale scheiding progressief, terwijl de lokale buurstabiliteit behouden bleef, wat een soepele overgang toont van baseline naar intentie-uitgelijnde layouts.

Betekenis en Claims
Het artikel positioneert projectieruimten niet als vaste benaderingen van een "ware" semantische structuur, maar als flexibele werkruimten die kunnen worden herschikt om zich aan te passen aan evoluerende analytische doelen. De primaire betekenis ligt in de verschuiving van semantische interactie van indirecte parametermanipulatie naar directe, interpreteerbare uitdrukking van redenering via natuurlijke taal.

Door intentie te externaliseren als inspecteerbare taal, bevordert de aanpak het vertrouwen en de controle van de analist, waardoor gebruikers kunnen begrijpen waarom een projectie verandert. De methode ondersteunt meerdere, legitieme ruimtelijke organisaties van dezelfde dataset, afhankelijk van het analytische perspectief, zonder dat modelhertraining vereist is. De auteurs claimen dat dit een stap voorwaarts is in het integreren van menselijke semantische redenering met representatieleren in interactieve visuele analysesystemen, en bieden een praktische, lichtgewicht mechanisme voor intentie-gedreven analyse.