Technische Samenvatting: Latente Trajectorie-discriminatie voor AI-gegenereerde Tekstdetectie

1. Probleemstelling

Huidige benaderingen voor de detectie van AI-gegenereerde tekst (AIGTD) behandelen documenten voornamelijk als statische objecten, waarbij ze vertrouwen op geaggregeerde statistieken of globaal gecomprimeerde embeddings (bijv. CLS-token pooling) om classificatiebeslissingen te nemen. Dit statische perspectief negeert de inherent dynamische aard van autoregressieve generatie, waarbij de inhoud progressief door de latente ruimte evolueert. Bestaande methoden, inclusief gesuperviseerde classifiers, zero-shot probabilistische benaderingen en watermerktechnieken, falen vaak in het modelleren van hoe latente representaties evolueren langs een sequentie. Bijgevolg hebben ze moeite met cross-model generalisatie, adversariële parafrasering en de afnemende oppervlakkige verschillen tussen menselijke en synthetische teksten. De auteurs hypothetiseren dat de kenmerkende signatuur van autoregressieve generatie niet ligt in geïsoleerde lexicale artefacten, maar in de dynamische structuur van het generatieve proces, specifiek in hoe semantische representaties progressief evolueren terwijl een tekst wordt gegenereerd.

2. Methodologie: Het GTCL-framework

Het paper stelt Geometric Trajectory and Contrastive Learning (GTCL) voor, een framework dat AIGTD herformuleert als een probleem van het onderscheiden tussen latente generatie-trajectorieën in plaats van statische documentrepresentaties. De workflow bestaat uit drie hoofdfases:

2.1 Trajectorie-gebaseerde Tekstrepresentatie

In plaats van een enkele globale embedding, wordt een document gemodelleerd als een discrete trajectorie in de latente ruimte:

• Segmentatie: De tekst wordt gesegmenteerd in geordende, vaste lengte, overlappende vensters met behulp van een sliding window mechanisme (parameters: vensterlengte $M$, verschuivingsstap $Q$).
• Codering: Elk venster wordt gecodeerd in een feature vector met behulp van een bevroren pre-trained sentence-embedding encoder ($E$) en een trainbare transformer-gebaseerde projectiemodule.
• Trajectorie-constructie: De sequentie van feature vectoren vormt een gestructureerde matrix $X_T \in \mathbb{R}^{N \times D}$, die de interne semantische evolutie van het document representeert.

2.2 Modelleren van Trajectorie-dynamiek

Om de evolutie in plaats van absolute posities te vangen, berekent GTCL de eerste-orde verschillen tussen opeenvolgende feature vectoren:

• Verschillenmatrix: $\Delta_T$ wordt geconstrueerd waarbij elke rij $\delta_i = z_{i+1} - z_i$ de lokale semantische transitie representeert.
• Invariantie: Deze aanpak maakt de representatie invariant voor globale translationele verschuivingen in de projectieruimte, waarbij de focus uitsluitend ligt op relatieve transities tussen opeenvolgende semantische toestanden.

2.3 Temporeel Uitgelijnde Gelijkenis en Contrastief Leren

GTCL maakt gebruik van supervised contrastive learning op deze trajectorie-verschillen:

• Temporeel Uitgelijnde Gelijkenis: Een aangepaste gelijkenismaat $s(\Delta_{T_a}, \Delta_{T_b})$ wordt gedefinieerd. Deze aggregeert paarwise inwendige producten van lokale transities met een gewicht $w_{ij}$ dat temporele nabijheid en directionele uitlijning ($j \le i$) afdwingt. Dit zorgt ervoor dat vergelijkingen de voorwaartse progressie van het generatieve proces respecteren, waardoor misuitlijning van vroege-fase verschillen in het ene document met late-fase verschillen in een ander document wordt voorkomen.
• Hard Contrastive Groepen: Voor elk ankerdocument construeert het framework groepen die "hard positives" (dissimilaire documenten van dezelfde klasse) en "hard negatives" (gelijke documenten van de tegenovergestelde klasse) bevatten.
• Verliesfunctie: Een supervised contrastive loss wordt toegepast om hard positives dichter bij elkaar te trekken en hard negatives uit elkaar te duwen in de embedding ruimte, waarbij de geometrische regulariteiten specifiek voor autoregressieve generatie worden geleerd.
• Classificatie: Tijdens de inferentie werkt een $k$-nearest neighbors ($k$-NN) classifier direct op de geleerde representaties zonder een aanvullende classifier head te trainen.

3. Belangrijkste Bijdragen

Het paper schetst vier primaire bijdragen:

1. Herformulering van AIGTD: Het verschuiven van het detectieparadigma van statische documentrepresentaties naar de discriminatie van trajectorie-verschillen.
2. Temporeel Uitgelijnde Gelijkenis: Het introduceren van een gelijkenismaat gebaseerd op eerste-orde embedding verschillen die directionele en lokaal gestructureerde semantische transities vastlegt, waarbij de sequentiële aard van tekstgeneratie wordt gerespecteerd.
3. GTCL Framework: Het voorstellen van een trajectorie-niveau, supervised, contrastief leerframework dat de projectieruimte structureert volgens generatie-specifieke geometrische dynamiek zonder toegang te vereisen tot logits of interne modeltoestanden.
4. Empirische Validatie: Het bieden van validatie over drie diverse benchmarks (RAID, NYT-AI, en een aangepaste OpenReview-gebaseerde dataset), waarmee consequent superieure prestaties worden aangetoond ten opzichte van bestaande baselines.

4. Experimentele Resultaten

De auteurs evalueerden GTCL op drie datasets:

• RAID: Een adversariële benchmark die robuustheid test tegen parafrasering.
• NYT-AI: Een dataset die menselijke artikelen en synthetische tegenhangers bevat van zes diverse LLM's.
• Reviews: Een dataset van wetenschappelijke paper-reviews (menselijk vs. AI-gegenereerd door Gemini/GPT-4o).

Belangrijkste Bevindingen:

• Prestaties: GTCL presteerde consistent beter dan de baselines (inclusief DeTeCtive, ModernBERT, Binoculars en RADAR) over alle datasets.
  • Op Reviews bereikte GTCL een nauwkeurigheid en F1-score van 0,98, waarmee het de op één na beste aanpak (DeTeCtive) aanzienlijk versloeg met ~8,89%.
  • Op NYT-AI bereikte GTCL een nauwkeurigheid van 0,98, wat een bijzondere kracht toont in het detecteren van menselijke teksten waar andere modellen moeite mee hadden (F1-score van 0,91 vs. 0,78 voor DeTeCtive).
  • Op de adversariële RAID dataset behield GTCL de hoogste prestatie (0,83 Nauwkeurigheid), wat robuustheid tegen parafrasering aantoont.
• Geometrische Analyse: Statistische analyse (Mann–Whitney U test) bevestigde dat menselijk gegenereerde trajectorieën significant andere geometrische eigenschappen vertonen vergeleken met AI-gegenereerde trajectorieën. Menselijke trajectorieën bleken langer, grilliger (hogere kromming) en onregelmatiger in stapgrootte en richting, wat wijst op een minder beperkte exploratie van de semantische ruimte.
• Ablatie en Hyperparameters: Het framework bleek robuust voor de keuze van de backbone encoder (presteerde vergelijkbaar met Nomic Embed Text v1.5 en de grotere Jina Embeddings V3). Prestaties waren optimaal met tussenliggende vensterlengtes en verschuivingsstappen, en de temporeel uitgelijnde gelijkenismaat ($\gamma$) was cruciaal voor het vastleggen van lokale afhankelijkheden.

5. Betekenis en Claims

Het paper claimt dat het expliciet modelleren van sequentiële dynamiek robuuste discriminatieve signalen biedt die statische representaties missen. De betekenis van GTCL ligt in:

• Conceptuele Herformulering: Verandering van "hoe de tekst eruit ziet" (statische inhoud) naar "hoe de tekst evolueert" (dynamische trajectorie).
• Generaliseerbaarheid: De methode vereist geen toegang tot de interne toestanden (logits) of watermerken van het generatieve model, waardoor het toepasbaar is op willekeurige teksten van elk model.
• Gebalanceerde Detectie: GTCL behoudt gebalanceerde detectieprestaties voor zowel menselijke als AI-klassen, wat de asymmetrie aanpakt die vaak bij bestaande detectoren voorkomt.
• Structurele Gronding: De resultaten suggereren dat de geometrische regulariteiten van autoregressieve generatie een fundamentele, model-agnostische eigenschap zijn die kan worden geëxploiteerd voor detectie, zelfs onder adversariële omstandigheden.

De auteurs concluderen dat hoewel GTCL effectief is, toekomstig werk zich moet richten op het verbeteren van interpreteerbaarheid (het identificeren van specifieke vensters die bijdragen aan detectie) en het uitbreiden van het framework naar niet-autoregressieve modellen (bijv. diffusie-gebaseerde taalmodellen), die mogelijk andere geometrische eigenschappen vertonen.