💻 computer science

ProtoSiTex: Learning Semi-Interpretable Prototypes for Multi-label Text Classification

ProtoSiTex is een semi-interpreteerbaar raamwerk dat fijnkorrelige multi-label tekstclassificatie vooruitbrengt door een tweefasige trainingsstrategie en hiërarchische verliesfunctie toe te passen om adaptieve, overlappende prototypes te leren, waarmee state-of-the-art prestaties worden bereikt terwijl mens-gealigneerde uitleg wordt geboden.

Oorspronkelijke auteurs: Utsav Kumar Nareti, Suraj Kumar, Soumya Pandey, Soumi Chattopadhyay, Chandranath Adak, Sankha Subhra Mullick

Gepubliceerd 2026-05-19

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Utsav Kumar Nareti, Suraj Kumar, Soumya Pandey, Soumi Chattopadhyay, Chandranath Adak, Sankha Subhra Mullick

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Probleem: Het "Zwarte Doos"-Dilemma

Stel je een superintelligente robot voor die duizenden hotelbeoordelingen kan lezen en je kan vertellen of een gast tevreden was over het eten, de kamer of het personeel. Het geeft bijna elke keer het juiste antwoord. Maar als je de robot vraagt waarom het eten goed was, zegt hij gewoon: "Omdat ik het zeg." Het is een "zwarte doos".

In de echte wereld willen we niet alleen het antwoord; we willen de reden weten. We moeten de specifieke zin in de beoordeling kunnen zien die de robot ertoe bracht te besluiten dat het eten geweldig was.

Bestaande "uitlegbare" modellen zijn als een leraar die alleen je hele opstel beoordeelt als "Goed" of "Slecht". Ze kunnen niet wijzen op de specifieke zin waar je een goed punt maakte. Andere modellen proberen zinnen te bekijken, maar ze worstelen wanneer een beoordeling gemengde gevoelens bevat (bijvoorbeeld: "De kamer was enorm, maar het bed was oncomfortabel"). Ze raken in de war door de overlapping.

De Oplossing: ProtoSiTex (De "Slimme Bibliothecaris")

De auteurs hebben een nieuw systeem ontwikkeld dat ProtoSiTex heet. Denk hierbij aan een Slimme Bibliothecaris die niet alleen boeken leest, maar ze organiseert in specifieke "thema-boxen" (prototypen) en precies kan uitleggen welke pagina in een boek welk thema vertegenwoordigt.

Hier is hoe het werkt, stap voor stap:

1. Het Opdelen (De Deelzin)

De meeste systemen lezen een hele paragraaf in één keer. ProtoSiTex is als een detective die een vergrootglas gebruikt. Het splitst een beoordeling op in kleine stukjes die deelzinnen worden genoemd (zoals zinsdelen gescheiden door komma's).

Analogie: In plaats van een heel hoofdstuk te lezen om een plotwending te vinden, markeert het de exacte zin waar de wending plaatsvindt.

2. De "Thema-Boxen" (Adaptieve Prototypen)

Het systeem creëert een set "Thema-Boxen" (genaamd Prototypen). Dit zijn geen vooraf geschreven labels; het systeem leert ze zelf.

Analogie: Stel je een bibliothecaris voor die een doos maakt met het label "Gezellige Sfeer". In deze doos doen ze niet alleen het woord "gezellig". Ze plaatsen er echte voorbeelden van zinnen uit eerdere beoordelingen in die zich gezellig aanvoelen (bijvoorbeeld: "De open haard kraakte", "De dekens waren zacht").
De Magie: Als een nieuwe beoordeling zegt: "De kamer was klein maar voelde warm aan", kan het systeem zien dat "voelde warm" past in de "Gezellig"-doos, zelfs als het woord "gezellig" er niet staat.

3. De Tweestapsdans (Dubbele Fase Training)

Om deze Thema-Boxen perfect te maken, voert het systeem een speciale tweestaps-training uit:

Stap A (De Ontdekkingsfase): Het systeem bekijkt duizenden beoordelingen zonder labels. Het groepeert vergelijkbare zinnen samen om zijn "Thema-Boxen" te bouwen. Het zorgt ervoor dat de boxen verschillend zijn van elkaar (zodat de "Eten"-doos er niet uitziet als de "Kamer"-doos).
Stap B (De Leerfase): Nu krijgt het systeem de juiste antwoorden te zien (bijvoorbeeld: "Deze zin gaat over Eten"). Het past zijn boxen aan om ervoor te zorgen dat ze perfect overeenkomen met de labels.
Analogie: Eerst sorteert de bibliothecaris boeken op basis van hoe ze zich aanvoelen (Ontdekking). Dan komt een leraar binnen en zegt: "Eigenlijk hoort dit boek in de sectie 'Geschiedenis', niet in 'Fictie'." De bibliothecaris past de planken aan (Leren).

4. De "Commandoketen" (Hiërarchische Verliesfunctie)

Het systeem controleert zijn werk op drie niveaus om ervoor te zorgen dat het geen fouten maakt:

Klein Niveau: Past dit specifieke zinsdeel bij de Thema-Box?
Middelgroot Niveau: Hebben alle zinsdelen in deze zin samen zin?
Groot Niveau: Heeft de hele beoordeling samen zin?

Analogie: Het is als een manager die een rapport controleert. Ze controleren de spelling van individuele woorden, de grammatica van de zinnen en de algehele logica van het verhaal. Als het verhaal logisch is maar een woord verkeerd is, vangt het systeem het op.

Waarom is het "Semi-Interpreteerbaar"?

Het artikel noemt dit Semi-Interpreteerbaar.

Het Goede Nieuws: Je kunt precies zien welke zin overeenkwam met welke Thema-Box. Als het systeem zegt "Het personeel was onbeleefd", kun je de specifieke zin "Het personeel was onbeleefd" zien en de "Onbeleefd Personeel"-thema-box waar het mee overeenkwam. Het is transparant.
Het "Semi"-Deel: De wiskunde binnen het systeem (hoe het de gelijkenis tussen zinnen en boxen berekent) is nog steeds complex en verborgen. Het is geen simpele "Als-Dan"-regel die je als handleiding kunt lezen. Het is een slimme, geleerde intuïtie.

De Resultaten: Werkte het?

De auteurs testten dit op:

IMDb: Filmbeoordelingen (Goed vs. Slecht).
TweetEVAL: Tweets met emoties (Vreugde, Woede, enz.).
Een Nieuwe Dataset (HR): Ze creëerden een nieuwe set Hotelbeoordelingen waarbij elk klein zinsdeel was gelabeld (bijvoorbeeld: "Kamer", "Eten", "Prijs").

De Uitkomst:

Nauwkeurigheid: Het presteerde even goed als de krachtigste, complexste "zwarte doos"-AI-modellen (zoals de grote taalmodellen die iedereen gebruikt).
Uitleg: In tegenstelling tot die zwarte dozen kon ProtoSiTex wijzen naar de exacte reden voor zijn beslissing.
Omgaan met Conflicten: Het was uitstekend in het afhandelen van gemengde beoordelingen (bijvoorbeeld: "Geweldig eten, vreselijke service") omdat het het "Eten"-thema kon scheiden van het "Service"-thema op zinsniveau.

Samenvatting

ProtoSiTex is een nieuwe manier om computers tekst te laten lezen. In plaats van het hele betekenispatroon in één keer te raden, splitst het tekst op in kleine stukjes, matcht deze met geleerde "Thema-Boxen" en controleert zijn werk op elk niveau. Het geeft ons de nauwkeurigheid van een supercomputer met de duidelijkheid van een mens die zijn redenering uitlegt.

Technische Samenvatting: ProtoSiTex

Probleemstelling
De snelle proliferatie van door gebruikers gegenereerde tekst vereist modellen die in staat zijn tot fijnmazige, multi-label classificatie met inherente interpreteerbaarheid. Hoewel transformer-gebaseerde taalmodellen state-of-the-art prestaties behalen, werken ze als "black boxes" en bieden ze beperkte transparantie. Bestaande post-hoc uitlegmethode (zoals LIME, SHAP) missen vaak trouw en consistentie. Omgekeerd opereren inherent interpreteerbare Prototype-Based Networks (PBNs) doorgaans op grove granulariteiten (op zins- of documentniveau) en zijn ze grotendeels beperkt tot single-label taken. Deze beperking verhindert dat ze real-world scenario's aan kunnen pakken waarin teksten overlappende, conflicterende of veelzijdige sentimenten bevatten (bijvoorbeeld een review die het uitzicht prijst maar het personeel bekritiseert). Bovendien is er een schaarste aan datasets die multi-label annotaties op subsentenniveau bieden, wat de evaluatie van fijnmazige interpreteerbaarheid belemmert.

Methodologie: ProtoSiTex
De auteurs stellen ProtoSiTex voor, een semi-interpreteerbaar framework ontworpen voor fijnmazige multi-label tekstclassificatie. De term "semi-interpreteerbaar" duidt op een model dat trouwe, prototype-gebaseerde uitleggen biedt voor zijn voorspellingen, terwijl het vertrouwt op latente neurale mechanismen (zoals attention en embeddings) die niet volledig transparant zijn. De architectuur bestaat uit drie kernstadia:

Subzinsrepresentatie: Het invoerdocument wordt opgesplitst in zinnen en verder in subzinnen aan de hand van leestekens. Een taalmodel-encoder (specifiek RoBERTa-Large in de experimenten) genereert contextbewuste embeddings voor deze subzinnen.
Dual-Phase Alternate Training: Het model hanteert een unieke trainingsstrategie die afwisselt tussen twee fasen:
- Ongecontroleerde Prototype-ontdekking (Clustering-fase): Een leerbare prototypelaag, gekoppeld aan Multi-Head Attention (MHA), ontdekt semantisch coherente en diverse prototypes. Deze fase maakt gebruik van op nabijheid gebaseerde verliesfuncties (zorgend dat subzinnen aligneren met de dichtstbijzijnde prototypes) en structuurregularisatie-verliezen (afdwingend dat prototypes spaarzaam en divers zijn) om prototype-inzakking en redundantie te voorkomen.
- Gecontroleerde Classificatie: De ontdekte prototypes worden gemapt naar klasselabels. Deze fase maakt gebruik van een hiërarchische verliesfunctie die consistentie afdwingt over drie niveaus: subzin, zin en document. Het construeert dynamisch ground-truth labels op prototypeniveau door subzinslabels te aggregeren en propageert voorspellingen omhoog via binaire mappingsmatrices ( $M_1$ voor document-naar-zin, $M_2$ voor zin-naar-subzin).
Inferentie en Uitleg: Tijdens inferentie voorspelt het model documentniveaulabels via hiërarchische aggregatie. Cruciaal genereert het uitleggen door elke subzin te koppelen aan zijn dichtstbijzijnde prototype en de top- $K$ meest vergelijkbare trainings-subzinnen op te halen die aan dat prototype zijn gekoppeld. Deze voorbeelden worden samengevat (met behulp van een LLM) om menselijk leesbare rechtvaardigingen voor de voorspelling te bieden.

Belangrijkste Bijdragen

Semi-Interpreteerbaar Framework: ProtoSiTex is het eerste prototype-gebaseerde framework dat fijnmazige multi-label classificatie uitvoert op subsentenniveau. Het maakt gebruik van adaptieve prototypes en multi-head attention om overlappende en conflicterende semantics te ontrafelen, een vermogen dat ontbreekt in eerdere PBNs.
Dual-Phase Optimalisatie & Hiërarchische Supervisie: De voorgestelde alternatieve trainingsstrategie ontkoppelt ongecontroleerde prototype-ontdekking van gecontroleerde classificatie, wat generalisatie verbetert en overfitting vermindert. De hiërarchische verliesfunctie zorgt voor semantische consistentie over granulariteiten, waardoor gestructureerde labelpropagatie mogelijk wordt.
Nieuwe Benchmark Dataset (HR): De auteurs introduceren een Hotel Reviews (HR) dataset met 3.002 reviews die op subsentenniveau zijn geannoteerd met 8 multi-label aspecten (bijvoorbeeld Kamer & Faciliteiten, Eten, Locatie). Deze dataset bevat ground-truth spans voor evaluatie van interpreteerbaarheid, waarmee een gat in bestaande benchmarks wordt gedicht.
Adaptieve Semantische Aggregatie: Het model vestigt expliciete alignering tussen subzinevidence, adaptieve prototypes en documentvoorspellingen via differentieerbare aggregatie, wat traceerbare uitleggen faciliteert zonder de voorspellende prestaties te offeren.

Experimentele Resultaten
Experimenten werden uitgevoerd op de voorgestelde HR-dataset, evenals op publieke benchmarks IMDb (binary sentiment) en TweetEVAL (multi-class emotie).

Prestaties: ProtoSiTex behaalde state-of-the-art prestaties op alle datasets. Op de HR-dataset behaalde het een Macro-F1-score van 87,22% en een Balanced Accuracy van 83,68%, waarmee het sterke black-box baselines (bijvoorbeeld RoBERTa-Large, DeBERTaV3) en bestaande prototype-gebaseerde modellen (bijvoorbeeld GAProtoNet, ProtoLens) overtrof.
Vergelijking: Hoewel het de nauwkeurigheid van grote black-box transformers op eenvoudigere taken (IMDb) evenaarde, presteerde ProtoSiTex aanzienlijk beter op de complexe, multi-label HR-dataset. Het overtrof ook gesloten-bron en open-bron LLMs (bijvoorbeeld GPT, LLaMA) in multi-label instellingen, wat een superieur beheer van labelafhankelijkheden en fijnmazige semantics aantoont.
Ablatiestudies: Analyses bevestigden dat de dual-phase alternate training, multi-head attention voor similariteit en willekeurige prototype-initialisatie cruciaal waren voor de prestaties. De studie merkte ook op dat op masking gebaseerde encoders (zoals RoBERTa) effectiever waren dan autoregressieve modellen voor deze specifieke architectuur vanwege hun bidirectionele context en dichte embedding-ruimten.

Betekenis en Claims
Het artikel claimt dat ProtoSiTex een robuuste oplossing vestigt voor semi-interpreteerbare multi-label tekstclassificatie. De primaire betekenis ligt in het overbruggen van de kloof tussen voorspellende nauwkeurigheid en interpreteerbaarheid in complexe, real-world scenario's. Door te opereren op subsentenniveau kan het model trouw uitleggen waarom een specifiek label is toegewezen, zelfs wanneer meerdere conflicterende sentimenten binnen een enkel document bestaan. De auteurs stellen dat het framework "trouwe, mens-gealigneerde uitleggen" biedt terwijl het concurrerende prestaties behoudt, waardoor het geschikt is voor toepassingen die vertrouwen, eerlijkheid en naleving van regelgeving vereisen. De introductie van de HR-dataset wordt benadrukt als een kritieke bijdrage voor het mogelijk maken van empirische benchmarking van fijnmazige, interpreteerbare multi-label modellen.