💻 computer science

MAT-3: A Bounded Averaged-Projection Operator for Pre-Inference Cognitive-Affective Guidance

Dit artikel introduceert MAT-3, een begrensde, niet-expansieve pre-inferentie-operator die het affectieve gedrag van taalmodellen stuurt via gemiddelde projecties op een lokale, door covariantie gedefinieerde affiene verzameling, terwijl het veiligheidsmechanismen incorporeert voor selectieve onthouding, hoewel de praktische effectiviteit ervan op downstream taalmodellen nog empirisch gevalideerd moet worden.

Oorspronkelijke auteurs: Tiago Aguioncio Vieira

Gepubliceerd 2026-09-18

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Tiago Aguioncio Vieira

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

In het snel evoluerende veld van kunstmatige intelligentie proberen onderzoekers voortdurend machines te leren menselijke gevoelens te begrijpen en uit te drukken. Deze inspanning, bekend als affectieve computing, houdt vaak in dat computers worden geleerd om emoties zoals vreugde, woede of verdriet te herkennen. Traditioneel is dit gedaan door gegevens te labelen met eenvoudige categorieën of door een paar basisdimensies te meten, zoals hoe opgewonden of kalm iemand lijkt. Echter, een nieuwere benadering behandelt deze emotionele toestanden niet als statische labels, maar als continue reizen die veranderen in de loop van de tijd, vergelijkbaar met het volgen van de beweging van een weersysteem in plaats van alleen de temperatuur op een enkel moment te noteren. Het doel is om computers een manier te geven om deze emotionele nuances expliciet en testbaar te hanteren, zonder ervan uit te gaan dat de machine daadwerkelijk iets voelt. De uitdaging ligt in de vraag hoe deze krachtige taalmodellen emotioneel gepast kunnen laten gedragen zonder hun kernlogica te breken of hen te dwingen nieuwe feiten vanaf nul te leren.

Een onderzoeker heeft een nieuwe methode ontwikkeld genaamd MAT-3, die fungeert als een veiligheidsventiel en een zachte gids voor deze modellen voordat ze überhaupt beginnen te spreken. In plaats van de interne hersenen van het model te herschrijven of de trainingsdata te veranderen, werkt deze methode van buitenaf. Stel je een reiziger voor die bij een kruispunt aankomt met een kaart; het model is de reiziger, en MAT-3 is een gids die de kaart controleert tegen het lokale terrein voordat de reiziger een stap zet. Als het terrein veilig en bekend oogt, suggereert de gids een lichte aanpassing aan het pad van de reiziger om ervoor te zorgen dat deze op koers blijft. Als het terrein vreemd is of de kaart onduidelijk, zegt de gids simpelweg niets, waardoor de reiziger precies kan voortgaan als gepland. Dit zorgt ervoor dat de oorspronkelijke input ongemoeid blijft en dat er geen gevaarlijke of onvoorspelbare veranderingen aan het systeem worden afgedwongen.

De kern van deze methode berust op een concept genaamd "lokale geometrie", wat essentieel een manier is om de directe omgeving van een specifiek stuk informatie te begrijpen. Wanneer het systeem een nieuwe input ontvangt, kijkt het naar een kleine groep vergelijkbare voorbeelden in de buurt om de vorm en structuur van dat gebied te begrijpen. Vervolgens berekent het een veilige, begrensde aanpassing—een kleine duw—die de input iets dichter bij een gewenste emotionele staat brengt zonder te ver af te wijken. Deze duw is strikt beperkt in omvang, wat garandeert dat het nooit een massale, ongecontroleerde verschuiving wordt. Het systeem is ontworpen om "niet-expansief" te zijn, wat betekent dat het de informatie niet uitrekt of chaotischer maakt; het vernauwt het pad alleen in specifieke richtingen waar een correctie nodig is, terwijl de rest exact hetzelfde blijft.

Cruciaal is dat deze methode een ingebouwde functie voor "veilige onthouding" (safe abstention) bevat. Voordat er een verandering wordt aangebracht, voert het systeem een reeks controles uit om te zien of de lokale omgeving betrouwbaar is. Het stelt vragen zoals: Zijn er genoeg vergelijkbare voorbeelden in de buurt om een goede gok te doen? Is de data duidelijk en goed gedefieerd, of is het te rommelig? Is de input te ver verwijderd van iets dat het systeem eerder heeft gezien? Als een van deze controles faalt, weigert het systeem in te grijpen. Het geeft de oorspronkelijke input onveranderd terug, wat effectief zegt: "Ik kan niet garanderen dat deze aanpassing veilig is, dus ik doe niets." Dit voorkomt dat het systeem wilde gissingen doet of fouten introduceert wanneer het onzeker is, een veelvoorkomend probleem bij andere AI-technieken die een verandering afdwingen ongeacht de context.

De onderzoeker heeft deze aanpak getest met behulp van synthetische data, waarbij kunstmatige scenario's werden gecreëerd om te verifiëren dat de wiskunde precies werkt zoals bedoeld. In deze simulaties maakte het systeem succesvol kleine, gecontroleerde aanpassingen wanneer de omstandigheden juist waren, en weigerde het correct te handelen wanneer de data te onzeker was. De tests bevestigden dat de aanpassingen binnen hun strikte omvanglimieten bleven en dat het systeem herhaaldelijk dezelfde logica kon toepassen zonder precisie te verliezen. De auteur is echter zeer duidelijk over wat deze studie niet bewijst. Deze resultaten werden gegenereerd in een gecontroleerde, kunstmatige omgeving zonder gebruik te maken van echte taalmodellen of echte menselijke emoties. Het artikel beweert niet dat deze methode een chatbot slimmer, empathischer of veiliger maakt in echte gesprekken. Het bewijst alleen dat de wiskundige machinerie voor het maken van deze geleide, veilige aanpassingen correct werkt in theorie en simulatie.

De betekenis van dit werk ligt in de discipline en de focus op veiligheid. Door de handeling van het maken van een verandering te scheiden van de handeling van het besluiten of die verandering gemaakt moet worden, heeft de onderzoeker een hulpmiddel gecreëerd dat controleerbaar en voorspelbaar is. Elke keer dat een verandering wordt gemaakt, kan deze worden teruggevoerd op de specifieke lokale data die de verandering rechtvaardigde. Als de rechtvaardiging zwak is, vindt de verandering niet plaats. Dit staat in contrast met andere methoden die mogelijk de interne instellingen van een model permanent aanpassen of een verandering afdwingen op basis van een enkele prompt. De onderzoeker beschouwt dit als een fundamentele stap, een manier om een betrouwbaar mechanisme voor toekomstige emotionele begeleiding te bouwen. Zij erkennen dat de volgende grote uitdaging is om te zien of deze wiskundige precisie vertaalt naar beter gedrag wanneer het wordt toegepast op werkelijke, complexe taalmodellen. Tot die tijd blijft de methode een veelbelovend, rigoureus getest blauwdruk voor veilige interventie, wachtend op de dag dat het aan de toets kan worden onderworpen in de rommelige realiteit van menselijke conversatie.

Technische Samenvatting: MAT-3 – Een Begrensde Gemiddelde-Projectie-Operator voor Pre-Inference Cognitieve-Affectieve Sturing

Probleemstelling
Huidige methoden om het affectieve gedrag van Large Language Models (LLMs) te beïnvloeden, vertrouwen doorgaans op gewichtsaanpassing (fine-tuning), prompting, of directe manipulatie van interne activaties. Deze benaderingen missen vaak expliciete grenzen, zijn moeilijk te auditeren vóór de inferentie, of veranderen de interne staat van het model op manieren die niet gemakkelijk omkeerbaar of verifieerbaar zijn. Dit artikel behandelt een specifieke, nauwer geformuleerde vraag: Kan er een lokale geometrische correctie worden gedefinieerd buiten de gewichten van een doelmodel, die expliciet begrensd is, voorafgaand aan de inferentie kan worden geaudit, en die selectief kan worden onthouden wanneer de geometrische basis onbetrouwbaar is?

Methodologie: De MAT-3 Operator
De voorgestelde oplossing, MAT-3, is een externe, pre-inference operator die een "complementair vector" ( $z_{aux}$ ) construeert om een originele input ( $x$ ) en een hulp-embedding ( $z$ ) te vergezellen. Het wijzigt de gewichten van het doelmodel niet en bewerkt ook geen interne activaties direct. In plaats daarvan opereert het op de representatiegeometrie van de embedding-ruimte.

Lokale Geometrie Schatting:
- Gegeven een embedding $z$ , identificeert de methode $k$ dichtstbijzijnde referentievectoren om een lokale buurt te vormen.
- Het berekent een lokaal gemiddelde ( $\mu_z$ ) en een onbevooroordeelde steekproef-covariantie-matrix ( $C_z$ ), geregulariseerd door een parameter $\lambda_{cov}$ .
- Met behulp van de top $r$ eigenvectoren van de geregulariseerde covariantie wordt een lokale affiene verzameling $\mathcal{A}_z$ en een orthogonale projector $P_z$ gedefinieerd.
Gemiddelde Projectie:
- De operator berekent de transversale component van de input relatief aan de lokale affiene verzameling: $a_{\perp} = (I - P_z)(z - \mu_z)$ .
- Het past een gemiddelde projectie toe om deze transversale component te verminderen. De update-regel is:
  $z_{aux} = z - \eta a_{\perp}$
- Het effectieve gewicht $\eta$ wordt bepaald door een nominal controle-gewicht $\eta_0$ (afgeleid van $\lambda_{ctrl}$ ) en een harde interventieradius $\epsilon$ . Specifiek is $\eta = \min(\eta_0, \epsilon / \|a_{\perp}\|)$ . Dit zorgt ervoor dat de correctie $\|z_{aux} - z\|$ nooit groter is dan $\epsilon$ .
MDEI State Integratie:
- Het systeem maakt gebruik van de MDEI (Internal State Dynamics Model), die embeddings mapt naar een 3D-toestandruimte ( $c, \iota, \tau$ ) die cognitieve-valentie, intensiteit en cognitieve spanning representeert.
- Deze toestand $u$ kalibreert dynamisch de interventieradius $\epsilon$ en het controle-gewicht $\lambda_{ctrl}$ , waardoor de geometrische interventie wordt gekoppeld aan een dynamisch systeem-framework.
- Stabiliteit wordt geanalyseerd met behulp van coërcieve Lyapunov-functies, wat garandeert dat onder specifieke condities de toestand-dynamiek begrensd blijft en convergeert naar absorberende verzamelingen.
Veilige Onthoudingsmechanisme (Safe Abstention):
- MAT-3 bevat een rigoureus pakket aan validiteitscontroles (Tabel 1). Als een van de condities faalt—zoals een onvoldoende buurtgrootte, slechte matrixconditie, onvoldoende eigengap, out-of-distribution (OOD) afstand, of schending van angulaire/semantische grenzen—onthoudt de operator zich van actie.
- In gevallen van onthouding wordt $z_{aux}$ ingesteld op de originele $z$ , wat garandeert dat er geen ongeverifieerde correctie wordt toegepast.

Belangrijke Theoretische Bijdragen

Begrensdheid: De operator garandeert dat de omvang van de interventie strikt begrensd is door $\epsilon$ (Stelling 1).
Transversale Contractie: Onder een bevroren geometrie is MAT-3 niet-expansief in de volledige ruimte, maar strikt contractief in transversale richtingen. De afstand tot de affiene verzameling neemt exact af met een snelheid van $(1-\eta)^n$ (Stelling 2).
Adaptieve Stabiliteit: Een voldoende voorwaarde ( $\epsilon_{adapt} < \eta$ ) wordt geboden om transversale contractie te behouden, zelfs wanneer de lokale geometrie zich aanpast aan de input, hoewel dit afhankelijk is van het controleren van de variatie van de projector.
Semantische Garanties: Een lokale semantische grens wordt vastgesteld, die garandeert dat als de semantische kaart Lipschitz-continu is, de verandering in semantische afstand begrensd is door de interventieradius.

Resultaten en Validatie
Het artikel stelt expliciet dat het geen downstream LLM-nauwkeurigheid, emotionele competentie, veiligheidsverbeteringen of redeneervoordelen rapporteert. De validatie is strikt algebraïsch en synthetisch:

Synthetische Opstelling: Een 2D-spiraal-manifold ingebed in $\mathbb{R}^{10}$ met Gaussische ruis werd gebruikt.
Prestaties: Van de 2.000 queries slaagden er 1.967 voor alle validiteitscontroles. De interventieradius $\epsilon$ werd gerespecteerd met floating-point precisie.
Convergentie: De geobserveerde reductie in transversale afstand kwam overeen met de theoretische $(1-\eta)^n$ snelheid met een maximale fout van $3.89 \times 10^{-16}$ .
Unit Tests: De implementatie slaagde voor tests op projector-symmetrie, idempotentie, orthogonale equivariantie en de specifieke onthoudingslogica voor eigengap en OOD-fouten.

Betekenis en Claims
Het artikel positioneert MAT-3 als een wiskundig expliciet, auditeerbaar mechanisme voor pre-inference sturing. De betekenis ligt in:

Scheiding van Zorgen: Het scheidt covariantie-regularisatie van de interventiekosten en opereert extern aan de modelgewichten.
Veiligheid via Onthouding: Het introduceert "veilige onthouding" als een kernkenmerk, wat correcties voorkomt wanneer de lokale geometrische basis onbetrouwbaar is (bijv. OOD-inputs of slecht geconditioneerde buurten).
Theoretische Rigor: Het biedt exacte convergentiesnelheden en stabiliteitscondities onder een bevroren geometrie, waarbij een onderscheid wordt gemaakt tussen wat bewezen is (begrensdheid, transversale contractie) en wat empirisch blijft (downstream nut).

De auteur concludeert dat hoewel de algebraïsche eigenschappen en de implementatie van de operator zijn gevalideerd, de vertaling van deze eigenschappen naar verbeterd taalmodelgedrag een open empirische vraag blijft. De volgende noodzakelijke stap is een downstream evaluatie op bevroren LLM's (bijv. Llama, Mistral) waarbij MAT-3 wordt vergeleken met baselines, fine-tuning en andere interventiemethoden, met de focus op metrieken zoals Macro-F1, kalibratie en onthoudingspercentages.

Meer zoals dit