💻 computer science

Who Built This Model? Tracing LLM Lineage via Spectral Fingerprints in Weight Space

Dit artikel stelt een verenigd geometrisch fingerprinting-framework voor dat de spectrale energie en de subspace-uitlijning van LLM-gewichtmatrices analyseert om de afstamming van modellen robuust te traceren en onderscheid te maken tussen onafhankelijke, series-gelijke en gedeelde basismodellen zonder toegang tot invoergegevens te vereisen.

Oorspronkelijke auteurs: Yiwei Chen, Bingqi Shang, Sijia Liu

Gepubliceerd 2026-08-11

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Yiwei Chen, Bingqi Shang, Sijia Liu

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je een wereld voor waarin je, elke keer dat je een robot bouwt, een unieke, onzichtbare DNA-streng in de hersenen ervan achterlaat. In het snel bewegende universum van Kunstmatige Intelligentie worden deze "robots" Large Language Models (LLM's) genoemd—superintelligente computerprogramma's die verhalen kunnen schrijven, wiskundige problemen kunnen oplossen en kunnen chatten als mensen. Maar hier komt de twist: deze modellen zijn niet altijd vanaf nul opgebouwd. Vaak neemt een bedrijf een gigantisch, vooraf gemaakt model, past het aan, traint het op nieuwe gegevens en brengt een "nieuwe" versie uit. Het is alsof je het geheime recept van een beroemde chef overneemt, er een snufje zout aan toevoegt en het als het jouwe claimt. Dit creëert een rommelige stamboom waarbij het moeilijk is te zien wie aan wie verwant is, wie wie heeft gekopieerd en waar een model werkelijk vandaan komt. Dit is het probleem van "provenance": het kennen van de ware oorsprong van iets. Wetenschappers hebben geprobeerd dit op te lossen door te kijken naar hoe modellen zich gedragen (zoals het testen van hun antwoorden), maar dat is lastig omdat de antwoorden kunnen veranderen afhankelijk van hoe je de vragen stelt. Dus, de grote vraag wordt: kunnen we in de hersenen van het model (de gewichten) kijken om een permanente, onveranderlijke vingerafdruk te vinden die ons de familiegeschiedenis vertelt, zonder dat we er ook maar één vraag aan hoeven te stellen?

Dit artikel, getiteld "Who Built This Model?", zegt ja, dat kunnen we. De auteurs, onderzoekers van Michigan State University, stellen een nieuwe manier voor om de afstamming van AI-modellen te traceren door te kijken naar de geometrie van hun interne gewichten. Ze behandelen de hersenen van het model als een complex muziekinstrument en luisteren naar twee verschillende "geluiden" die het maakt: de luidheid van de noten (spectrale energie) en de richting waarin de geluidsgolven reizen (subspace alignment).

Eerst keken ze naar de "luidheid" of de algehele energie van de gewichten van het model. Ze ontdekten dat dit fungeert als een grofmazige stamboom. Als twee modellen uit totaal andere families komen (zoals een robot gebouwd door Bedrijf A versus Bedrijf B), zijn hun "luidheidspatronen" totaal verschillend. Als ze uit dezelfde serie komen (zoals een versie van 3 miljard parameters en een versie van 7 miljard parameters van hetzelfde model), zijn hun patronen zeer vergelijkbaar. De onderzoekers toonden aan dat ze, door deze "spectrale energie" te meten, gemakkelijk konden onderscheiden of twee modellen vreemden of verre neven waren. Dit is een grote zaak, omdat eerdere methoden deze twee groepen vaak door elkaar haalden en het verschil niet zagen tussen een totaal nieuw model en een opgeschaalde versie van een oud model.

Echter, de "luidheidstest" loopt tegen een muur aan wanneer de modellen zeer nauwe verwanten zijn. Stel je twee modellen voor die van precies hetzelfde basismodel zijn vertrokken, maar daarna verschillende trainingskampen hebben doorlopen: de één leerde om een wiskundetutor te zijn, en de ander leerde om een creatieve schrijver te zijn. Hun "luidheid" is bijna identiek, dus de eerste test kan hen niet van elkaar onderscheiden. Dit is waar het tweede deel van de magie van het artikel om de hoek komt kijken: "subspace alignment". In plaats van alleen te luisteren naar hoe hard de muziek is, keken de auteurs naar de richting van de noten. Ze ontdekten dat zelfs wanneer het algemene volume hetzelfde is, de specifieke richtingen waarin de hersengolven van het model wijzen, licht veranderen afhankelijk van wat het model heeft geleerd. Als een model op een kleine dataset is getraind, is de directionele vingerafdruk bijna hetzelfde als die van het origineel. Maar als het op een enorme, diverse dataset is getraind, verschuiven die richtingen merkbaar.

Het team testte dit op meer dan 110 verschillende paren open-source modellen. Ze ontdekten dat hun nieuwe methode kon doen wat oude methoden niet konden: het kon de "vreemden" scheiden van de "neven", en vervolgens inzoomen om het verschil te zien tussen "neven" die verschillende levenservaringen hadden (verschillende trainingsdata of algoritmen). Ze toonden bijvoorbeeld aan dat hun methode kon detecteren dat een model dat getraind was op 100% van een dataset een andere geometrische vingerafdruk had dan een model dat slechts op 10% was getraind, zelfs als ze van hetzelfde basismodel vertrokken. Ze ontdekten ook dat verschillende trainingsalgoritmen (zoals DPO, PPO en RAFT) duidelijke geometrische littekens achterlaten op verschillende delen van de hersenen van het model.

Kortom, het artikel suggereert dat AI-modellen intrinsieke "biometrie" hebben verborgen in hun gewichtsruimte. Door een controle op globale energie te combineren met een controle op directionele geometrie (om verschillende families te scheiden en vervolgens nauwe verwanten te onderscheiden), kunnen we een betrouwbare kaart maken van wie wat heeft gebouwd en hoe ze zijn geëvolueerd. Dit bevredigt niet alleen de nieuwsgierigheid; het biedt een hulpmiddel om de toeleveringsketen van AI te controleren, zodat we de ware oorsprong weten van de modellen die we gebruiken, en helpt bij het besturen van hun evolutie naarmate ze complexer worden. De auteurs benadrukken dat dit werkt zelfs wanneer we geen toegang hebben tot de trainingsdata, maar alleen tot de uiteindelijke modelgewichten, wat het een krachtig instrument maakt voor transparantie in de AI-wereld.

Technische Samenvatting: Wie heeft dit model gebouwd? Het traceren van LLM-afstamming via spectrale vingerafdrukken in de gewichtsruimte

Probleemstelling

De snelle proliferatie van open-weight Large Language Models (LLMs) die zijn ontwikkeld via complexe, meerfasige pipelines (pretraining, fine-tuning, alignment) heeft complexe afstammingsrelaties gecreëerd. Het begrijpen van deze relaties is cruciaal voor de herkomst (provenance), governance en de integriteit van de toeleveringsketen van modellen. Bestaande methoden voor het identificeren van de afstamming van modellen kampen echter met aanzienlijke beperkingen:

Black-box benaderingen (bijv. prompt-respons probing, watermarking) vertrouwen op inputdata, zijn gevoelig voor prompt-ontwerp en onthullen geen intrinsieke structurele signaturen.
White-box benaderingen (bijv. gewichtsstatistieken, parameterdistributie-vingerafdrukken) reduceren complexe informatie uit de gewichtsruimte vaak tot grove samenvattende statistieken. Zoals in het artikel wordt aangetoond, falen deze methoden vaak bij het onderscheiden van modellen met verschillende oorsprong of schalen, met name bij het onderscheiden van "onafhankelijke oorsprong"-modellen van "dezelfde serie"-modellen.

De kernonderzoeksvraag is: Welke structuren in de gewichtsruimte dienen als betrouwbare vingerafdrukken voor de identificatie van LLM-afstamming? De auteurs onderzoeken dit in een white-box setting waarbij modelparameters toegankelijk zijn, maar trainingsdata en metadata niet.

Methodologie: Unified Geometric Fingerprinting Framework

De auteurs stellen een verenigd geometrisch vingerafdrukframework voor dat gewichtsmatrices analyseert vanuit twee complementaire perspectieven om hiërarchische afstammingsdiscriminatie aan te pakken. Het framework definieert drie regimes met een toenemende mate van gedeelde informatie:

Onafhankelijke Oorsprong (S1): Modellen die onafhankelijk zijn getraind zonder gedeelde initialisatie, data of pipelines.
Dezelfde Serie (S2): Modellen die dezelfde architectuur en trainingspipelines delen, maar verschillen in parameterschaal.
Gedeelde Basis (S3): Modellen die afgeleid zijn van een gemeenschappelijk voorgetraind model en die uiteenlopen door post-training (bijv. verschillende datasets of algoritmen).

De methodologie deelt gewichtsmatrices $W$ op via Singular Value Decomposition (SVD) om twee verschillende signalen te extraheren:

1. Spectrale Energieanalyse (Grofmazige Discriminatie)

Om tussen onafhankelijke oorsprong en modellen uit dezelfde serie te onderscheiden, analyseren de auteurs de spectrale energie (globale magnitudepatronen) van de gewichtsmatrices.

Mechanisme: Ze berekenen de spectrale trace-vingerafdruk, gedefinieerd als de som van de gekwadrateerde singuliere waarden ( $\sum \sigma_i^2$ ) voor elk laagtype en componenttype (bijv. Q, K, V, FFN).
Metriek: Een gelijkenisscore wordt berekend met behulp van de Pearson-correlatie tussen de laag-specifieke trace-vingerafdrukken van twee modellen, genormaliseerd via lineaire interpolatie om diepteverschillen op te vangen.
Functie: Dit vangt globale structurele patronen op, wat onderscheid mogelijk maakt tussen modelfamilies en schalen.

2. Subspace Alignment Analyse (Fijnmazige Discriminatie)

Om nauw verwante modellen binnen het "Gedeelde Basis"-regime te onderscheiden (bijv. variaties in dataset-schaal of post-training algoritmen), analyseren de auteurs de directionele geometrie.

Mechanisme: Ze voeren compacte SVD uit op de gewichtsmatrices en extraheren de top- $k$ linker singuliere vectoren ( $U_k$ ) om dominante subruimten te definiëren.
Metriek: Ze berekenen de cross-subspace matrix $C = U_a^T U_b$ en analyseren de singuliere waarden, die overeenkomen met de cosinus van de hoofdhoeken tussen subruimten. De metriek aggregeert de kleinste singuliere waarden (die de worst-case alignment vertegenwoordigen) om de directionele afwijking te meten.
Functie: Dit vangt geometrische variaties en subruimte-rotaties op die worden geïnduceerd door de schaal van fine-tuning data en specifieke post-training algoritmen, wat de spectrale magnitude alleen niet kan detecteren.

Belangrijkste Resultaten

De auteurs hebben uitgebreide experimenten uitgevoerd op meer dan 110 diverse open-weight LLM-paren (inclusief LLaMA, Qwen en Gemma families).

Hiërarchische Separatie: De voorgestelde Trace metriek (spectrale energie) slaagt er succesvol in om grofmazige scheiding te realiseren. Het onderscheidt duidelijk modellen met een onafhankelijke oorsprong van modellen uit dezelfde serie, een taak waarin baselines zoals AWM (Accurate Weight Matrix) en PDF (Parameter Distribution Fingerprint) falen, waarbij ze vaak significante overlap of prestaties op niveau van toeval vertonen (AWM AUC = 0,256 vs. Trace AUC = 0,850 voor S1 vs. S2).
Fijnmazige Gevoeligheid: De Subspace Alignment metriek slaagt erin om binnen het gedeelde-basis-regime te discrimineren (bijv. variaties in data-schaal of post-training algoritmen).
- Data Schaal: Het detecteert verschillen in de schaal van post-training data. Bijvoorbeeld, de gelijkenisscores dalen naarmate de proportie fine-tuning data toeneemt (bijv. van 0,976 voor 10% Alpaca-SFT naar 0,889 voor 100% Alpaca-SFT).
- Algoritme Specificiteit: Het onthult onderscheidende geometrische signaturen voor verschillende post-training strategieën (PPO, DPO, RAFT). Bijvoorbeeld, RAFT induceert sterkere perturbaties in FFN-componenten, terwijl PPO duidelijke dalingen veroorzaakt in Q-projecties, terwijl DPO een hoge gelijkenis behoudt.
Vergelijking met Baselines: Bestaande methoden (AWM, HuReF, PDF) wijzen gelijkenisscores nabij 1,0 toe aan alle shared-base paren, waardoor ze niet in staat zijn om variaties in data-schaal of algoritmen te detecteren. Het voorgestelde framework biedt een continu signaal dat deze scenario's differentieert.

Belangrijkste Bijdragen

Probleemformulering: Definieerde een hiërarchisch LLM-afstammingsdiscriminatieprobleem over drie regimes (Onafhankelijke Oorsprong, Dezelfde Serie, Gedeelde Basis) met een focus op fijnmazige discriminatie binnen de gedeelde-basis setting.
Inzicht in Spectrale Energie: Toonde aan dat spectrale energie afgeleid van singuliere waarden globale magnitudepatronen vastlegt, wat een betrouwbare grofmazige scheiding mogelijk maakt tussen onafhankelijke en series-gebonden modellen.
Subspace Alignment Analyse: Introduceerde een analyse van directionele geometrie die fijnmazige variaties in de gewichtsruimte vastlegt, waardoor discriminatie tussen nauw verwante shared-base modellen mogelijk is op basis van data-schaal en post-training procedures.
Empirische Validatie: Valideerde de aanpak op meer dan 110 LLM-paren, waarbij werd aangetoond dat het robuust is in zowel regime-separatie als fijnmazige discriminatie, waarbij het bestaande white-box en black-box baselines overtreft.

Betekenis en Claims

Het artikel claimt dat de geometrie van de gewichtsruimte een robuust en interpreteerbaar signaal biedt voor de afstamming van modellen dat geen toegang vereist tot inputdata of trainingsmetadata.

Herkomst en Governance: De methode ondersteunt de verificatie van de herkomst van modellen, intellectueel eigendomsbeheer en transparantie in de toeleveringsketen. Het stelt toezichthouders en downstream gebruikers in staat om de oorsprong van een model te identificeren en de daarmee gepaard gaande risico's te beoordelen zonder toegang te hoeven hebben tot propriëtaire trainingsdata.
Complementaire Signalen: Het werk stelt vast dat spectrale energie en subspace alignment complementair zijn: spectrale energie behandelt de grove regime-separatie, terwijl directionele geometrie de fijnmazige differentiatie afhandelt.
Passief en White-Box: De aanpak werkt uitsluitend op publiekelijk vrijgegeven modelgewichten en biedt een passieve methode voor het auditeren van het expanderende ecosysteem van open-weight LLM's.

De auteurs benadrukken dat hun bevindingen gebaseerd zijn op de analyse van intrinsieke structurele signaturen in de gewichtsruimte, wat een fundament biedt voor het begrijpen van hoe modellen evolueren door de complexe pipelines van de moderne LLM-ontwikkeling.