Technische Samenvatting: C2R (Cross-sample Consistency Regularization)

1. Probleemstelling

Sparse Autoencoders (SAEs) zijn een primaire tool voor het interpreteren van Large Language Models (LLMs) door dichte activaties te deconstrueren naar ijle (sparse), menselijk begrijpelijke features. Echter, naarmate SAEs opschalen naar grote woordenboeken (dictionaries), vertonen ze twee hardnekkige pathologieën die de betrouwbaarheid van de geleerde latents in gevaar brengen:

• Feature Splitting (Feature-splitsing): Coherente, hoogwaardige concepten worden gefragmenteerd in meerdere niet-atomaire, redundante latents (bijv. een enkel "Wiskunde"-concept dat wordt opgesplitst in aparte "Algebra" en "Meetkunde" latents). Dit vertroebelt de werkelijke functionele concepten die het model gebruikt en verspilt de capaciteit van de dictionary.
• Feature Absorption (Feature-absorptie): Specifieke latents vatten activaties op die eigenlijk bij algemene features zouden moeten horen, wat willekeurige uitzonderingen creëert (bijv. een "begint met S"-latent die niet activeert op "short" of "small" omdat token-specifieke latents het signaal absorberen). Dit verstoort het beoogde semantische patroon.

De auteurs stellen dat deze problemen voortkomen uit een inconsistente latent-toewijzing over verschillende samples heen. Standaard sparsity-objectieven (zoals $\ell_1$-regularisatie of TopK-constraints) opereren op een per-sample basis. Zonder cross-sample constraints kan de optimizer de sparsity-penalty minimaliseren door een enkel semantisch concept te verdelen over meerdere uiteenlopende latents, of door specifieke latents activaties te laten "stelen" van algemene ones, zolang de reconstructiefout voor dat specifieke sample maar laag blijft.

2. Methodologie: C2R

Om deze fouten aan te pakken, introduceert het artikel C2R (Cross-sample Consistency Regularization). Deze methode dwingt af dat elk semantisch feature consistent wordt gerepresenteerd door een verenigde latent over de gehele batch.

Theoretische Fundering

C2R is geworteld in de Minkowski-ongelijkheid en de strikte convexiteit van de $\ell_2$-norm. De kerninzicht is dat voor niet-uitgelijnde vectoren $u$ en $v$, de som van hun normen strikt groter is dan de norm van hun som:
$$\|u\|_2 + \|v\|_2 > \|u + v\|_2$$
In de context van SAEs: als een semantisch feature wordt gesplitst over meerdere latents, zal de som van de $\ell_2$-normen van hun activaties over een batch hoger zijn dan wanneer het feature geconsolideerd zou worden in een enkele latent. C2R maakt hier gebruik van om het splitsen van semantische informatie te bestraffen.

De C2R-Objectief

De methode breidt de paarwijze analyse uit naar een volledige dictionary door redundante latent-paren te identificeren en hun co-activatie te bestraffen.

1. Redundantie Detectie: Voor elke latent $i$ identificeert het algoritme zijn dichtstbijzijnde buur $j^*(i)$ in de decoder-gewichtruimte op basis van cosinus-gelijkenis. Dit richt zich op paren die waarschijnlijk gesplitste fragmenten of geabsorbeerde variaties vertegenwoordigen.
2. Gated Penalty (Gated Straf): De regularisatieverlies wordt gewogen door de gekwadrateerde gestelde cosinus-gelijkenis ($\rho^2$) tussen de decoder-gewichten van het paar. Dit fungeert als een poort:
   • Als latents verschillend zijn (orthogonaal), $\rho \approx 0$, en wordt er geen straf toegepast.
   • Als latents redundant zijn (hoge uitlijning), $\rho$ is groot, en wordt de straf toegepast.
3. Verliesformule:
   $$L_{C2R}(X) = \frac{1}{k} \sum_{i=1}^{k} \rho_{i, j^*(i)}^2 \cdot \left( \|Z_{:,i}\|_2 + \|Z_{:,j^*(i)}\|_2 \right)$$
   Waarbij $Z_{:,i}$ de batch van activaties voor latent $i$ vertegenwoordigt. De totale trainingsdoelstelling voegt deze term toe aan de standaard SAE-loss:
   $$L(X) = L_{SAE}(X) + \lambda_{C2R} L_{C2R}(X)$$

Gradiënt Dynamiek

De gradiënt van C2R biedt twee gelijktijdige krachten:

• Consistentiedruk: Schaalt met gelijkenis ($\rho^2$) om de som van de normen te minimaliseren, wat gesplitste activaties naar een enkele latent duwt.
• Impliciete Orthogonaliteit: Schaalt met de activatie-amplitude ($S$) om de cosinus-gelijkenis tussen decoder-gewichten te minimaliseren. In tegen tegenstelling tot uniforme orthogonaliteitsconstraints, schaalt dit de straf naar de frequentie van de feature, wat voorkomt dat zeldzame of ontwikkelende features voortijdig worden vernietigd.

3. Belangrijkste Bijdragen

Het artikel schetst drie primaire bijdragen:

1. Theoretische Diagnose: Een verenigde formele analyse die identificeert dat het gebrek aan cross-sample consistentie in per-sample sparsity-objectieven de oorzaak is van feature-splitting en absorptie.
2. Geprincipeerd Objectief: Het voorstel van C2R, een nieuwe regularisatie die gebruikmaakt van decoder-geometrie en batch-niveau statistieken om consistente latent-selectie af te dwingen, waarbij onderscheid wordt gemaakt tussen ware polysemanticiteit en schadelijke redundantie.
3. Empirische Validatie: Demonstratie dat C2R feature-absorptie en -splitting significant vermindert terwijl de reconstructiefailliteit behouden blijft, waarbij het superieur is aan state-of-the-art baselines zoals Batch TopK, Matryoshka SAEs en OrtSAE.

4. Experimentele Resultaten

Experimenten werden uitgevoerd op Gemma-2-2B (en gevalideerd op Qwen3-8B en Llama-3-8B) met behulp van het SAEBench framework.

• Mitigatie van Pathologieën: C2R bereikte de laagste percentages feature-absorptie en -splitting onder de methoden die een hoge reconstructiefailliteit behielden. Hoewel Matryoshka SAEs lagere splitting/absorptie scores lieten zien, leden zij onder significante degradatie van de reconstructiekwaliteit.
• Reconstructiegetrouwheid: In tegenstelling tot Matryoshka SAEs behielden C2R-verbeterde modellen hoge "Loss Recovered" en "KL Divergence" scores, wat aangeeft dat het oorspronkelijke gedrag van de LLM behouden bleef.
• Interpretabiliteit & Ontvlechting (Disentanglement): C2R had geen negatieve impact op de "AutoInterp" score (menselijke begrijpelijkheid van features) of de "Disentanglement" scores (causale controle van attributen).
• Feature Compositie: C2R leverde de laagste maximale cosinus-gelijkenis tussen decoder-gewichten op, wat wijst op een meer atomaire en onderscheidende feature-set.
• Downstream Taken: In causale interventie-taken (Spurious Correlation Removal en Targeted Probe Perturbation) presteerde C2R beter dan TopK, Batch TopK en OrtSAE, en behaalde prestaties die vergelijkbaar zijn met Matryoshka SAEs.
• Robuustheid: De methode bleef effectief over verschillende random seeds, model-schalen (8B), lagen en trainingsdata-composities (OpenWebText versus The Pile).

5. Betekenis en Claims

Het artikel claimt dat C2R een geprincipeerde oplossing biedt voor de trade-off tussen feature-atomiciteit en modelgetrouwheid. Door cross-sample consistentie af te dwingen, pakt het de fundamentele beperking aan van per-sample optimalisatie in SAEs.

De auteurs benadrukken dat hun aanpak:

• De Latente Interpretabiliteit Verbetert: Door gefragmenteerde concepten te consolideren en willekeurige uitzonderingen te verwijderen, reflecteert de resulterende dictionary beter de hiërarchische aard van taalmodel-features.
• Prestaties Behoudt: Cruciaal is dat deze verbeteringen worden bereikt zonder de capaciteit van de SAE om de originele activaties van het model te reconstrueren te verslechteren, een veelvoorkomend faalpunt in eerdere structurele SAE-pogingen.
• Theoretische Garanties Biedt: Onder specifieke condities (empirisch voldaan in 88,1% van de absorptie-paren), biedt de methode een theoretische garantie tegen splitting en absorptie afgeleid van de Minkowski-ongelijkheid.

Dit werk positioneert C2R als een general-purpose regularisator die compatibel is met diverse SAE-architecturen (TopK, Batch TopK, OrtSAE, AbsTopK), wat een robuust pad biedt voor de analyse van de interne werking van grote taalmodellen.