Technische Samenvatting: Embeddings voor Voorkeuren, Niet Semantiek

Probleemstelling

Moderne systemen voor collectieve besluitvorming (bijv. Polis, Remesh, generatieve sociale keuze) staan deelnemers in toenemende mate toe om meningen te uiten via vrije tekst in plaats van te stemmen op vaste kandidaten. Een natuurlijke aanpak om deze meningen te aggregeren, is het inbedden van tekst in een vectorruimte, waardoor toepassing van faciliteitslocatie- en eerlijke clustering-algoritmen mogelijk wordt. Echter, standaard tekst-embeddingmodellen zijn getraind op semantische taken (retrieval, tekstuele gelijkenis, natuurlijke taal-inferentie), waarbij nabijheid gedeelde onderwerpen of formuleringen impliceert.

Het kernprobleem dat wordt geïdentificeerd, is het verschil tussen semantische gelijkenis en preferentiële gelijkenis. Bij voorkeursaggregatie moet de overeenstemming van een deelnemer met een stelling omgekeerd evenredig zijn met hun afstand tot die stelling. Standaard embeddings falen hier omdat ze "nuisance"-kenmerken (stijl, formulering, onderwerp) verwarren met "voorkeurs"-kenmerken (standpunt, waarden). Op natuurlijke deliberatiegegevens zijn deze kenmerken observationeel gecorreleerd (mensen met hetzelfde standpunt gebruiken vaak vergelijkbare woorden), waardoor het falen wordt gemaskeerd. Wanneer deze correlatie breekt – zoals wanneer twee stellingen dezelfde formulering delen maar tegenovergestelde standpunten hebben – rangschikken standaard embeddings de semantische afleider onterecht als meer vergelijkbaar dan het voorkeurs-georiënteerde alternatief.

Methodologie

De auteurs diagnosticeren dit als een invariantieprobleem: een geldige voorkeursgeometrie moet invariant zijn voor formulering en stijl, maar uitsluitend gevoelig voor standpunt en waarden. Zij stellen twee methoden voor om embeddingruimten af te stemmen op voorkeursgeometrie.

1. Formeel Kader en Diagnose

De auteurs ontleden de embeddingruimte $\mathbb{R}^d$ in een voorkeursdeelruimte $S$ (die standpunt-relevante structuur draagt) en een nuisance-deelruimte $S^\perp$ (die stijl/formulering draagt).

• Ideaal-punt Nut: Het nut van een stelling $j$ voor deelnemer $v$ wordt gemodelleerd als de negatieve kwadratische Euclidische afstand tot het ideale punt van $v$ binnen $S$.
• Cosine Falen: Standaard cosinusgelijkenis decomposeert additief in een voorkeursterm ($\Delta_S$) en een nuisance-term ($\Delta_T$). Op natuurlijke data correleert $\Delta_T$ met $\Delta_S$, waardoor cosinus effectief lijkt. Echter, in "moeilijke" scenario's waarin ze conflicteren, domineert $\Delta_T$, wat tot fouten leidt.

2. Gedecorreleerde Voorkeurstuning (DPT)

Om de geometrie te corrigeren, introduceren de auteurs een synthetische trainingsprocedure:

• Synthese van Moeilijke Tripletten: Zij genereren tripletten $(a, p, n)$ waarbij:
  • $a$: Anker (originele deelnemerstekst).
  • $p$: Voorkeursmatch (zelfde standpunt/waarden als $a$, maar verschillende vocabulaire/structuur).
  • $n$: Semantische afleider (tegenovergesteld standpunt ten opzichte van $a$, maar bijna identieke vocabulaire/structuur).
• Trainingsdoel: Het model wordt fijnge tuned met Bradley-Terry-verlies op deze tripletten. De auteurs bewijzen (Stelling 1) dat training op een verdeling waarbij de nuisance-marge $\Delta_T$ in de tegenovergestelde richting wijst van de voorkeursmarge $\Delta_S$, het risico ten opzichte van standaard cosinus strikt verlaagt, waardoor het model effectief wordt gedwongen de nuisance-deelruimte te verwaarlozen.
• Implementatie: Zij passen Low-Rank Adaptation (LoRA) toe op vooringesloten encoders (bijv. Sentence-T5-XL) met behulp van deze synthetische data.

3. Per-onderwerp Geprojecteerde Embeddings

Wanneer per-onderwerp stemgegevens beschikbaar zijn (vaak het geval op deliberatieplatforms), stellen de auteurs een eenvoudigere, onderwerpspecifieke methode voor:

• Low-Rank Projectie: In plaats van de encoder fijn te tunen, leren ze een lineaire afbeelding met lage rang $L^\top$ die de bevroren embeddings direct projecteert op de voorkeursdeelruimte $S$.
• Scorebepaling: Het nut wordt berekend als de kwadratische Euclidische afstand in deze geprojecteerde ruimte. Deze methode herstelt het voorkeurssignaal dat al aanwezig is in de bevroren encoder zonder het basismodel opnieuw te trainen.

Belangrijkste Bijdragen

1. Diagnose van Invariantie: Het artikel formaliseert het verschil tussen semantische en preferentiële gelijkenis als een invariantieprobleem, door de cosinusmarge te ontleden in voorkeurssignaal en nuisance-componenten.
2. Synthese van Moeilijke Tripletten & Theorie: Zij introduceren een procedure om contrasterende moeilijke tripletten te genereren die de correlatie tussen formulering en standpunt verbreken. Zij leveren een theoretisch bewijs dat training op dergelijke verdelingen het Bradley-Terry-risico strikt verlaagt door de bijdrage van nuisance te onderdrukken.
3. Empirische Validatie: De methode toont aanzienlijke winst op moeilijke tripletten en voorkeurspredictie over 11 online deliberatiegegevenssets (dekkend Polis, Remesh en Generatieve Sociale Keuze-platforms).
4. Efficiëntie van Projectie: Zij tonen aan dat wanneer onderwerpspecifieke stemmen beschikbaar zijn, een low-rank projectie van bevroren embeddings presteert beter dan volledige voorkeurstuning, wat suggereert dat de basisencoder het benodigde signaal al bevat, slechts verduisterd door nuisance-dimensies.

Resultaten

• Prestaties op Moeilijke Tripletten: Standaard encoders (bijv. Sentence-T5-XL, e5-large-v2) presteren dicht bij toeval of slechter op moeilijke tripletten (bijv. 48,3% nauwkeurigheid voor ST5-XL, dalend naar 6,3% voor BGE-large). DPT-gefine-tuned modellen herstellen de prestaties aanzienlijk (bijv. ST5-XL stijgt naar 80,0%; e5-large-v2 stijgt naar 78,7%).
• Prestaties op Natuurlijke Data: De DPT-gefine-tuned modellen verbeteren ook de prestaties op natuurlijke deliberatiegegevens, met een gemiddelde tripletnauwkeurigheid van 68,6% over 11 datasets, beter dan de beste baseline (niet-gefine-tuned ST5-XL op 65,2%) en andere gespecialiseerde modellen (bijv. StanceAware-SBERT, BGE-SparseCL).
• Projectie versus Tuning: De per-onderwerp geprojecteerde embedding (rang-20) bereikt 77,6% nauwkeurigheid op natuurlijke data en 81,1% op moeilijke tripletten, beter dan de universele DPT-gefine-tuned cosinus. Dit geeft aan dat het voorkeurssignaal lineair toegankelijk is in de bevroren embeddingruimte.
• Data-efficiëntie: De per-onderwerp projectie vereist slechts ongeveer 50 gelabelde tripletten om de universele DPT-baseline te overtreffen.

Betekenis en Beweringen

Het artikel stelt dat voor systemen voor collectieve besluitvorming die vertrouwen op vrije tekst, standaard semantische embeddings ontoereikend zijn omdat ze oppervlakkige gelijkenis prioriteren boven waarde-afstemming. Door nuisance (stijl/formulering) expliciet te ontkoppelen van voorkeur (standpunt), stellen de voorgestelde methoden nauwkeurigere groepering van deelnemers en schatting van nut voor niet-gevoteerde stellingen mogelijk.

De auteurs benadrukken dat hun aanpak downstream-toepassingen ondersteunt in faciliteitslocatie en eerlijke clustering voor deliberatie. Specifiek stelt een voorkeursgeometrie platformen in staat om:

• Deliberatiegroepen te vormen met optimale niveaus van onenigheid.
• Meningen te aggregeren tot representatieve lijsten met behulp van metrische sociale keuze (bijv. k-median, proportionele eerlijkheid).
• Generatieve sociale keuzemodellen te sturen om stellingen te produceren die specifieke gebruikersclusters beter vertegenwoordigen.

Het artikel behoudt een bescheiden toon wat betreft beperkingen: de evaluatie focust op rangschikkingen binnen deelnemers in plaats van gekalibreerde absolute afstanden, en de embedding is een empirische benadering van voorkeuren, geen perfecte representatie van individueel oordeel. Zij waarschuwen tegen het gebruik van deze embeddings als basis voor bindende beslissingen.