💬 NLP

Conceptors for Semantic Steering

Dieser Beitrag stellt Konzepte vor, eine geometrisch fundierte Methode zur Steuerung großer Sprachmodelle, die einseitige Aktivierungsvektoren durch weiche Projektionsmatrizen ersetzt, um vollständige mehrdimensionale Konzept-Unterräume zu erfassen und dadurch eine parameterfreie Schichtauswahl, boolesche Kompositionalität sowie eine sicherere und effektivere Kontrolle im Vergleich zu traditionellen additiven Basismethoden ermöglicht.

Ursprüngliche Autoren: Ilias Triantafyllopoulos, Young-Min Cho, Ren Tao, Miranda Muqing Miao, Sunny Rai, Lyle Ungar, Sharath Chandra Guntuku, Neville Ryant, João Sedoc

Veröffentlicht 2026-05-07

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Ilias Triantafyllopoulos, Young-Min Cho, Ren Tao, Miranda Muqing Miao, Sunny Rai, Lyle Ungar, Sharath Chandra Guntuku, Neville Ryant, João Sedoc

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich ein Large Language Model (LLM) als ein riesiges, komplexes Orchester vor. Wenn das Modell „denkt" oder Text generiert, spielen verschiedene Sektionen des Orchesters (die versteckten Schichten) spezifische Noten.

Lange Zeit nutzten Forscher, die das Verhalten des Modells ändern wollten (etwa indem sie es positiver oder logischer machten), eine Methode, die dem Schreien einer einzelnen Note über das Orchester hinweg ähnelte. Sie berechneten den durchschnittlichen „Unterschied" zwischen einem positiven und einem negativen Satz, fanden diese einzelne „Richtung" in der Mathematik und injizierten sie in das Modell.

Das Problem: Dieser Ansatz ist wie der Versuch, eine ganze Symphonie zu beschreiben, indem man nur eine Note spielt. Oft geht dabei die Nuance verloren, und wenn man zu laut schreit, zerfällt die Musik in Lärm (das Modell beginnt, sich zu wiederholen oder unzusammenhängend zu werden).

Die Lösung: „Conceptors"
Diese Arbeit stellt ein neues Werkzeug namens Conceptor vor. Anstatt eine einzelne Note zu schreien, wirkt ein Conceptor wie ein intelligenter, einstellbarer Filter oder ein Mischpult.

So funktioniert es, aufgeschlüsselt in einfache Konzepte:

1. Der „Vollspectrum"-Filter (Bipolare Steuerung)

Die meisten früheren Methoden versuchten, das Modell nur auf eine Seite einer Idee zu steuern (z. B. „Mache es positiv"). Die Autoren erkannten, dass Konzepte wie „Sentiment" oder „Politik" nicht nur eine Richtung sind; sie sind eine ganze Wolke von Möglichkeiten.

Die Analogie: Stellen Sie sich vor, „Sentiment" ist nicht nur eine Linie, die von „Traurig" zu „Glücklich" führt. Es ist eine 3D-Wolke, die alle Möglichkeiten enthält, wie Menschen Emotionen ausdrücken.
Der Conceptor: Anstatt einen Punkt in dieser Wolke auszuwählen, lernt der Conceptor die Form der gesamten Wolke, indem er sowohl „positive" als auch „negative" Beispiele gemeinsam betrachtet. Er erstellt einen weichen Filter, der die gesamte „Emotions"-Wolke durchlässt und gleichzeitig Rauschen blockiert. Dies erfasst die gesamte Geometrie der Idee, nicht nur einen einzelnen Schnitt.

2. Die „Quote" (Den richtigen Ort finden)

Um das Orchester zu verändern, müssen Sie wissen, wo Sie eingreifen müssen. Stimmen Sie die Violinen ab? Die Trommeln? Den Dirigenten?

Der alte Weg: Forscher mussten an jeder einzelnen Schicht des Modells einen separaten „Detektiv" (einen Klassifikator) trainieren, um zu sehen, wo das Konzept lebte. Dies war langsam und teuer.
Der neue Weg: Die Autoren entdeckten eine „magische Zahl", die Conceptor-Quote genannt wird. Indem sie die Mathematik des Filters selbst betrachten, können sie sofort erkennen, welche Schicht des Modells für die Steuerung am besten geeignet ist.
Das Ergebnis: Es ist wie ein GPS, das Ihnen genau sagt, in welchem Stockwerk eines Wolkenkratzers die Party stattfindet, ohne dass Sie an jede Tür klopfen müssen. Diese Methode sagte die besten Schichten mit 96 % Genauigkeit voraus.

3. Die „Boolesche Algebra" (Mischen und Kombinieren)

Eine der coolsten Eigenschaften ist, dass diese Filter wie Logikrätsel kombiniert werden können, ohne dass das Modell neu trainiert werden muss.

NICHT: Sie können einen „Politischen" Filter nehmen und subtrahieren, um eine „Nicht-Politische" Version zu erhalten.
UND: Sie können einen „Sentiment"-Filter mit einem „Politischen" Filter kombinieren.
Der Haken: Die Arbeit ergab, dass „UND" nur dann gut funktioniert, wenn die beiden Ideen einen gemeinsamen Nenner haben.
- Beispiel: Die Kombination von „Abtreibungsposition" und „LGBTQ-Rechte" funktioniert gut, da sie viel an Struktur sozialer Werte teilen (sie überlappen sich).
- Beispiel: Die Kombination von „Sentiment" und „Politische Ausrichtung" funktioniert kaum, da sie fast völlig unterschiedliche Wolken sind (sie überlappen sich nicht).
Die Metapher: Wenn Sie versuchen, zwei Farben zu mischen, die auf dem Farbrad weit voneinander entfernt sind, erhalten Sie Schlamm. Wenn Sie zwei Farben mischen, die nah beieinander liegen, erhalten Sie einen neuen, lebendigen Farbton. Der Conceptor kennt den Unterschied.

4. Sicherheit und Stabilität

Der größte praktische Vorteil ist, dass diese Methode viel sicherer ist.

Das Problem: Die alte Methode des „Schreiens einer einzelnen Note" führte oft dazu, dass das Modell zusammenbrach und Unsinn produzierte oder denselben Satz endlos wiederholte (sogenannte „degenerierte Ausgaben").
Die Lösung: Da der Conceptor die bestehende Musik sanft formt, anstatt eine neue Note zu erzwingen, bleibt das Modell flüssig. In Tests verursachte die alte Methode 58 % der Zeit defekte Ausgaben, während die Conceptor-Methode dies nur 13 % der Zeit tat.

Zusammenfassung

Die Arbeit argumentiert, dass wir komplexe menschliche Ideen nicht als einfache, eindimensionale Linien behandeln sollten, sondern als mehrdimensionale Formen. Indem wir Conceptors (intelligente Filter) verwenden, die diese Formen verstehen, können wir KI-Modelle präziser steuern, verschiedene Ideen logisch kombinieren und das Gespräch natürlich und kohärent halten, alles ohne das massive Modell von Grund auf neu trainieren zu müssen.

Was die Arbeit NICHT behauptet:

Sie behauptet nicht, dass dies ein klinisches Werkzeug zur Diagnose von Depressionen ist (die Autoren warnen ausdrücklich davor, dies dafür zu verwenden).
Sie behauptet nicht, dass dies bei den größten und leistungsfähigsten Modellen funktioniert, die heute verfügbar sind (sie testeten Modelle mit bis zu 9 Milliarden Parametern).
Sie behauptet nicht, dass dies alle KI-Sicherheitsprobleme löst, sondern bietet vielmehr eine stabilere Möglichkeit, spezifisches Verhalten zu steuern.

Technische Zusammenfassung: Konzeptoren für semantische Steuerung

Problemstellung

Aktivierungsbasierte Steuerungsmethoden zielen darauf ab, das Verhalten von Large Language Models (LLMs) während der Inferenz ohne Nachtraining zu kontrollieren. Das vorherrschende Paradigma repräsentiert semantische Konzepte als einzelne Vektoren (z. B. mittels Activation Addition oder Contrastive Activation Addition) und injiziert eine Mittelwert-Differenz-Richtung in die versteckten Zustände. Dieser Ansatz leidet unter zwei grundlegenden Einschränkungen:

Geometrischer Reduktionismus: Semantische Konzepte (z. B. Sentiment, politische Ausrichtung) besetzen oft mehrdimensionale Unterräume im Aktivierungsraum des Modells. Die Reduktion auf einen einzelnen Vektor verwirft die Reststruktur und den Kontext, was potenziell zu einem Verlust an Flüssigkeit oder degenerierten Ausgaben führt.
Aufwand für Supervision: Die Auswahl der optimalen Schicht für Eingriffe erfordert typischerweise das Trainieren von Probing-Klassifikatoren in jeder Schicht, ein kostspieliger überwachter Prozess, der mit der Modelltiefe und der Anzahl der Konzepte skaliert.

Methodik

Die Autoren schlagen die Verwendung von Konzeptoren vor, weichen Projektionsmatrizen, die ursprünglich für rekurrente neuronale Netze entwickelt wurden (Jaeger, 2024) und hier für transformer-basierte LLMs adaptiert werden.

Kernmechanismus

Gegeben eine Menge von Aktivierungsvektoren $\{x_1, \dots, x_N\}$ , die einem Konzept zugeordnet sind, wird eine Konceptormatrix $C$ als Lösung eines regularisierten Rekonstruktionsproblems definiert:
$C = R(R + \alpha^{-2}I)^{-1}$
wobei $R$ die Stichproben-Korrelationsmatrix der Aktivierungen ist und $\alpha$ ein Apertur-Parameter. Im Eigenbasis von $R$ wirkt $C$ als weicher Gating-Mechanismus, der Richtungen basierend auf ihrer Signalenergie abschwächt. Hoch energetische Richtungen werden beibehalten, während niederenergetisches Rauschen unterdrückt wird.

Wichtige Design-Entscheidungen

Bipolares Training: Im Gegensatz zu früheren unipolaren Methoden, die zu einem einzigen Pol steuern (z. B. „positives" Sentiment), bündelt dieser Ansatz Aktivierungen von beiden Polen eines bipolaren Konzepts (z. B. positives und negatives Sentiment) in einer einzigen Korrelationsmatrix. Dies erfasst den gesamten Zwischenpol-Unterraum und nicht nur den Differenzvektor.
Schichtauswahl via Konceptor-Quote: Um überwachtes Probing zu vermeiden, nutzen die Autoren die Konceptor-Quote $q(C) = \frac{1}{d}\text{tr}(C)$ , eine parameterfreie Metrik, die die effektive weiche Dimensionalität des Konzept-Unterraums darstellt. Hohe Quotenwerte korrelieren mit Schichten, in denen das Konzept gut separiert ist.
Boolesche Kompositionalität: Konzeptoren unterstützen eine geschlossene Boolesche Algebra (UND, ODER, NICHT) direkt auf den Matrizen, was die Komposition von Steuerungen ohne Zugriff auf die ursprünglichen Aktivierungsdaten ermöglicht.
- NICHT: $\neg C = I - C$ (unterdrückt ein Konzept).
- UND: $C_A \land C_B = (C_A^{-1} + C_B^{-1} - I)^{-1}$ (behält nur gemeinsame Unterraum-Richtungen bei).

Hauptbeiträge

Geometrische Charakterisierung: Die Autoren zeigen, dass bipolare Unterräume Single-Vektor-Baselines strikt überdecken, indem sie $\ge 95\%$ der von früheren Methoden verwendeten Mittelwert-Differenz-Richtung erfassen, während zusätzliche mehrdimensionale Strukturen erhalten bleiben.
Parameterfreie Diagnostik: Es wird gezeigt, dass die Konceptor-Quote die Konzept-Separierbarkeit (gemessen durch Probing-AUC) mit Pearson-Korrelationen von bis zu $r=0,96$ über drei instruktionsangepasste Modelle (Gemma-2-2B-IT, Gemma-2-9B-IT, Qwen-2.5-3B-Instruct) und drei semantische Dimensionen hinweg vorhersagt und dabei traditionelle varianzbasierte Metriken übertrifft.
Kompositionalitätsanalyse: Die Arbeit stellt fest, dass die boolesche Komposition durch Unterrüberlappung bestimmt wird.
- NICHT ist auch bei geringer Überlappung wirksam (z. B. Trennung der politischen Ausrichtung vom Sentiment).
- UND erfordert thematische Verwandtschaft und signifikante Unterrüberlappung (z. B. Haltung zu Abtreibung und LGBTQ-Rechte), um eine sinnvolle gemeinsame Steuerung zu erzeugen.
Robustheit und Sicherheit: Eine systematische Evaluierung des Fünf-Achsen-Designraums (Platzierung, Token-Umfang, Kombinationsregel, Trainingsquelle, autoregressiver Modus) zeigt, dass die Konceptor-Steuerung deutlich weniger degenerierte Ausgaben produziert (13 % vs. 58 % für additive Baselines), während sie in Gewinnquoten additive Methoden erreicht oder übertrifft.

Experimentelle Ergebnisse

Die Evaluierung umfasst drei Modelle und drei Konzepte (Sentiment, politische Ausrichtung, Depression).

Leistung: Konzeptoren erreichen bei Sentiment-Aufgaben Gewinnquoten von 0,70–0,82 und übertreffen additive Baselines (0,50–0,62) signifikant. Der Vorteil ist in Schichten am ausgeprägtesten, in denen Konzept-Unterräume mehrdimensional sind.
Degeneration: Additive Methoden produzieren häufig repetitive oder inkohärente Texte (degenerierte Ausgaben). Die Konceptor-Interpolation reduziert diese Rate auf 13 %, was darauf hindeutet, dass Konzeptoren innerhalb des natürlichen Aktivierungs-Mannigfaltigkeit des Modells steuern, anstatt Zustände aus der Verteilung zu drängen.
Kompositionalität:
- In Szenarien mit geringer Überlappung (Politik $\times$ Sentiment, Überlappung $\approx 0,19$ ) isoliert die UND-NICHT-Operation erfolgreich ein Konzept (z. B. Sentiment), während sie das andere unterdrückt und die Selektivität schärft.
- In Szenarien mit hoher Überlappung (Abtreibung $\times$ LGBTQ, Überlappung $\approx 0,50$ ) aktiviert die UND-Operation erfolgreich beide Konzepte gleichzeitig, eine Fähigkeit, die mit Single-Vektor-Methoden nicht erreichbar ist.
Generalisierung: Die Methode generalisiert auf größere zurückgehaltene Testsets (500 Prompts) und behält ihre Robustheit gegenüber adversariellem Prompting (z. B. explizite rechtsgerichtete Systemanweisungen) bei.

Bedeutung und Behauptungen

Die Arbeit behauptet, dass die Konceptor-Steuerung eine geometrisch fundierte, kompositionelle und praktisch sicherere Alternative zur Ein-Richtungs-Steuerung bietet. Durch die Bewahrung des vollständigen mehrdimensionalen Unterrums eines Konzepts vermeiden Konzeptoren den Informationsverlust, der der Vektorsubtraktion inhärent ist. Die Fähigkeit, boolesche Operationen ohne Nachtraining oder Zugriff auf Originaldaten durchzuführen, ermöglicht eine komplexe, mehrkonzeptuelle Steuerung (z. B. „sei politisch, aber nicht parteiisch"), die zuvor schwer zu erreichen war.

Die Autoren positionieren diese Arbeit als Schritt hin zur Inferenzzeit-Alignment, bei der schädliche Konzepte unterdrückt werden können (via NICHT), während Zielkapazitäten erhalten bleiben, und verschieben die kompositionelle Sicherheit vom Prompt-Engineering hin zu routinemäßigen algebraischen Operationen. Sie weisen ausdrücklich darauf hin, dass die Methode an kleineren Modellen (bis zu 9 Milliarden Parametern) evaluiert wurde und die Skalierung auf Modelle in Produktionsgröße eine zukünftige Richtung bleibt, obwohl die zugrundeliegende Geometrie als architekturagnostisch beansprucht wird.

Anerkannte Einschränkungen:

Die Evaluierung beschränkt sich auf drei Modelle und drei semantische Konzepte.
Hohe Steuerungsstärken können dennoch zu verbleibender Inkohärenz führen.
Kompositionalitätsexperimente sind derzeit auf zwei Konzeptpaare beschränkt.
Die Methode verlässt sich auf automatisierte Klassifikatoren zur Bewertung, was Verzerrungen einführen kann.
Ethische Überlegungen bezüglich der potenziellen Verstärkung von Verzerrungen oder der Manipulation von Framing werden ausdrücklich angesprochen, wobei die Arbeit als Kontrollierbarkeitsanalyse und nicht als Überzeugungsinstrument dargestellt wird.