💬 NLP

Interpreting and Controlling Model Behavior via Constitutions for Atomic Concept Edits

Dieses Paper führt ein Black-Box-Interpretierbarkeits-Framework ein, das durch die systematische Anwendung atomarer Konzept-Edits auf Prompts verifizierbare natürliche Sprach-„Konstitutionen“ erlernt und dadurch tiefe Einblicke sowie eine effektive Kontrolle über Modellverhaltensweisen bei Aufgaben wie der Text-zu-Bild-Generierung und dem mathematischen Denken ermöglicht.

Ursprüngliche Autoren: Neha Kalibhat, Zi Wang, Prasoon Bajpai, Drew Proud, Wenjun Zeng, Been Kim, Mani Malek

Veröffentlicht 2026-02-03

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Neha Kalibhat, Zi Wang, Prasoon Bajpai, Drew Proud, Wenjun Zeng, Been Kim, Mani Malek

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie haben einen sehr leistungsfähigen, aber etwas geheimnisvollen Roboter-Künstler oder einen superintelligenten Taschenrechner. Sie geben ihm ein Prompt (eine Reihe von Anweisungen) und er gibt Ihnen eine Antwort oder ein Bild. Manchmal möchten Sie wissen: "Warum hat er das falsch gemacht?" oder "Wie kann ich ihn austricksen, damit er es richtig macht?"

Dieses Paper stellt eine neue Art und Weise vor, wie man mit diesen „Black-Box“-Modellen kommuniziert, ohne deren internen Code sehen zu müssen. Sie nennen diese Methode Constitution-guided Atomic Concept Edits (ACEs).

Hier ist die Aufschlüsselung unter Verwendung einfacher Analogien:

1. Das Problem: Das „Black-Box“-Rätsel

Stellen Sie sich vor, Sie versuchen ein Auto zu reparieren, aber der Motor ist in einem massiven Stahlblock verborgen. Sie können die Zahnräder nicht sehen. Sie können nur den Schlüssel drehen (den Prompt) und sehen, ob das Auto startet (die Ausgabe).

Die Herausforderung: Wenn das Auto nicht startet, woher wissen Sie dann, ob es am Kraftstoff, den Zündkerzen oder der Batterie liegt? Bei einer KI ist es schwer zu wissen, welches spezifische Wort in Ihrem Prompt zum Fehler geführt hat, wenn das Modell eine schlechte Antwort gibt.

2. Das Werkzeug: „Atomic Concept Edits“ (ACEs)

Die Forscher behandeln den Prompt wie eine Lego-Struktur.

Atomares Konzept: Ein einzelner, unterscheidbarer Lego-Stein (z. B. das Wort „Katze“, die Farbe „Rot“ oder die Aktion „Rennen“).
Die Edit (ACE): Anstatt das ganze Auto neu aufzubauen, tauschen Sie einfach einen einzigen Stein aus.
- Entfernen: Nehmen Sie den „Katze“-Stein heraus.
- Hinzufügen: Setzen Sie einen „Hund“-Stein ein.
- Ersetzen: Tauschen Sie „Rot“ gegen „Blau“ aus.

Sie versuchen systematisch, diese einzelnen Stein-Austausche durchzuführen, um zu sehen, was passiert. Startet das Auto jetzt? Hat sich das Bild verändert? Dies hilft ihnen, genau zu kartieren, welche „Steine“ bestimmte Verhaltensweisen steuern.

3. Die Lösung: Die „Constitution“ (Verfassung)

Nachdem sie Tausende dieser einzelnen Stein-Austausche getestet haben, behalten die Forscher die Daten nicht einfach nur; sie schreiben ein Regelbuch (oder eine „Verfassung“).

Betrachten Sie diese Verfassung als ein Geheimrezept eines Kochs, um den Geschmack eines Gerichts zu verändern.

Ohne eine Verfassung: Sie raten wahllos. „Vielleicht, wenn ich Salz hinzufüge? Vielleicht, wenn ich den Pfeffer entferne?“ Es dauert lange, herauszufinden, was funktioniert.
Mit einer Verfassung: Sie haben einen schriftlichen Leitfaden, der besagt: „Um diese Suppe scharf zu machen, füge immer Chilischoten hinzu. Um sie mild zu machen, entferne das Salz. Füge niemals Zucker hinzu.“

Diese „Verfassung“ ist eine Liste von guten Strategien und schlechten Strategien, die in einfachem Englisch verfasst ist. Sie fasst die Muster zusammen, die die Forscher gefunden haben.

Beispiel: „Wenn Sie möchten, dass das Bild falsch aussieht, fügen Sie eine ‚konfliktierende Umgebung‘ hinzu (wie zum Beispiel einen Fisch in einer Wüste).“
Beispiel: „Wenn Sie möchten, dass die mathematische Antwort falsch ist, fügen Sie eine ‚Distraktor-Variable‘ hinzu (eine Zahl, die wichtig aussieht, es aber nicht ist).“

4. Wie es in der Praxis funktioniert

Die Forscher haben dies an drei verschiedenen „Spielen“ getestet:

Spiel 1: Die Wortzählung-Herausforderung
- Ziel: Die KI dazu bringen, eine sehr kurze Antwort zu schreiben (unter 50 Wörtern).
- Die Erkenntnis der Verfassung: Die KI ignoriert vage Wörter wie „sei kurz“. Sie hört nur auf harte Zahlen (z. B. „Schreibe genau 10 Wörter“) oder strukturelle Grenzen (z. B. „Schreibe nur einen Satz“).
- Ergebnis: Durch die Nutzung der Verfassung befolgte die KI die Wortzählung-Regeln viel besser als ohne sie.
Spiel 2: Der Mathe-Trick
- Ziel: Die KI bei einer einfachen Matheaufgabe scheitern zu lassen.
- Die Erkenntnis der Verfassung: Einige KI-Modelle (wie GPT-5) werden verwirrt, wenn man eine „Distraktor-Variable“ hinzufügt (eine falsche Zahl, die so aussieht, als gehöre sie dazu). Andere Modelle (wie Gemini) sind klug genug, die falsche Zahl zu ignorieren und trotzdem das richtige Ergebnis zu liefern.
- Ergebnis: Die Verfassung enthüllte, dass verschiedene Modelle unterschiedliche „blinde Flecken“ haben.
Spiel 3: Der Bild-Mismatch
- Ziel: Die KI dazu bringen, ein Bild zu zeichnen, das nicht zur Beschreibung passt.
- Die Erkenntnis der Verfassung:
  - Ein Modell (GPT-Image) bricht zusammen, wenn man die Beziehung zwischen Objekten entfernt (z. B. „ein Mann und sein Sohn“ zu sagen, aber „Sohn“ zu entfernen). Es verlässt sich auf strikte Grammatik.
  - Ein anderes Modell (Imagen) bricht zusammen, wenn man konfliktierende Szenarien hinzufügt (z. B. einen „Park“ mit „Industrieabfällen“). Es achtet mehr auf die allgemeine „Vibe“ oder Atmosphäre.

5. Der große Gewinn

Das Paper behauptet, dass sie durch die Nutzung dieser Constitution (des Regelbuchs), um die Atomic Edits (die einzelnen Stein-Austausche) zu leiten, das Verhalten der KI 1,86-mal besser kontrollieren können als durch bloßes Raten.

Zusammenfassend:
Anstatt blind zu raten, wie man die Meinung einer KI ändert, ermöglicht diese Methode es Ihnen, die Anweisungen der KI Wort für Wort auseinanderzunehmen, die Regeln zu lernen, die ihr Wesen bestimmen, und ein einfaches „Verfassungsdokument“ zu schreiben, das Ihnen genau sagt, wie Sie sie zu Ihrem Ziel steuern können. Es verwandelt eine mysteriöse Black Box in eine Maschine mit einem klaren, verständlichen Bedienungshandbuch.

Technisches Resümee: Interpretation und Kontrolle von Modellverhalten mittels Konstitutionen für atomare Konzept-Edits

1. Problemstellung

Der rasante Fortschritt großer generativer Modelle hat erhebliche Herausforderungen hinsichtlich Sicherheit, Zuverlässigkeit und Interpretierbarkeit mit sich gebracht. Ein primäres Hindernis ist die Attribuierung von Fehlverhalten des Modells; in modernen Architekturen ist es zunehmend schwieriger, Ausfälle auf spezifische Input-Features zurückzuführen. Während adversatives maschinelles Lernen gezeigt hat, dass subtile Input-Änderungen massive Fehler auslösen können, bleibt die Analyse dieser Schwachstellen eine Forschungslücke, insbesondere bei multimodalen Large Language Models (LLMs), bei denen die Interpretierbarkeit von Prompt-Perturbationen begrenzt ist.

Bestehende Ansätze verlassen sich oft auf globale Interpretierbarkeitsmethoden oder nicht-interpretierbare adversative Angriffe (z. B. Pixel-Perturbationen). Es besteht ein Bedarf an einem Framework, das das „Black-Box“-Modellverhalten systematisch dekodieren kann, indem es eine kausale Verbindung zwischen interpretierbaren, atomaren Konzept-Edits in Prompts und Verschiebungen in den Modellergebnissen herstellt. Das Ziel ist es, eine natürliche sprachliche „Konstitution“ zu erlernen – eine Zusammenfassung dessen, wie spezifische Prompt-Mutationen das Modellverhalten beeinflussen –, um diese Modelle sowohl zu erklären als auch zu steuern.

2. Methodik

Die Autoren schlagen ein Black-Box-Interpretierbarkeitsframework vor, das auf Atomaren Konzept-Edits (ACEs) und Konstitutionen basiert.

2.1. Kerndefinitionen

Atomare Konzept-Edits (ACEs): Gezielte Operationen, die ein einzelnes interpretierbares Konzept in einem Input-Prompt hinzufügen, entfernen oder ersetzen. Konzepte können explizit sein (z. B. „Mann“, „Frisbee“) oder implizit (z. B. „Tageszeit“, „Alter des Sohnes“).
Autorater: Ein binärer Klassifikator (oder eine Scoring-Funktion), der die Ausgabe eines Modells auf einen Desirability-Score (0 oder 1) basierend auf einer spezifischen Aufgabe abbildet (z. B. Text-zu-Bild-Alignment, mathematische Korrektheit, Einhaltung der Wortanzahl).
Konstitution ( $\pi$ ): Eine natürliche Sprachbeschreibung von Strategien zur Generierung von ACEs, die einen Input modifizieren, um ein wünschenswertes (oder spezifisches) Modellverhalten hervorzurufen. Sie fungiert als Regelwerk, das „Gute Strategien“ und „Schlechte Strategien“ für Mutationen enthält.

2.2. Framework-Architektur

Das Framework operiert in drei Hauptphasen:

ACE-Generierung: Gegeben ein initialer Prompt, eine Aufgabendefinition und eine Konstitution (anfänglich leer oder zufällig), destilliert ein Concept Extractor den Prompt in einen Satz von Konzepten. Ein ACE Generator schlägt dann atomare Edits (Hinzufügen, Entfernen, Ersetzen) für diese Konzepte vor.
Exploration und Labeling: Die vorgeschlagenen ACEs werden auf die Prompts angewendet, und die resultierenden Outputs werden durch das Zielmodell und den Autorater evaluiert. Dies erzeugt einen Datensatz von ACE-Traces ( $D = \{(x_i, a_j, y_j)\}$ , wobei $y_j$ der Ground-Truth-Autorater-Score ist).
Konstitutions-Optimierung: Um die hohen Rechenkosten einer wiederholten Abfrage großer Zielmodelle zu vermeiden, setzen die Autoren einen Surrogate Classifier (ein LLM mit einem Instruction-Template) ein, um Autorater-Scores vorherzusagen. Unter Verwendung eines evolutionären Algorithmus (inspiriert von Alpha Evolve und TextGrad) aktualisiert das Framework iterativ die Konstitution. Die Konstitution wird optimiert, um die Wahrscheinlichkeit zu maximieren, dass von ihr geleitete ACEs die Aufgabendefinition erfüllen.

2.3. Optimierungsziel

Das Ziel ist es, eine Konstitution $\pi$ zu lernen, die den erwarteten Erfolg von ACEs maximiert:
$\max_{\pi} \mathbb{E}_{x} \left[ \mathbb{E}_{a \sim p(a|x,t,\pi)} [f(M(\phi(x, a)))] \right]$
wobei $M$ das Zielmodell ist, $f$ der Autorater und $\phi$ den ACE $a$ auf den Input $x$ anwendet. Die Optimierung nutzt Feedback aus Fehlklassifikationen des Surrogate Classifiers, um die innerhalb der Konstitution enthaltenen Strategien zu entwickeln.

2.4. Inferenz und Kontrolle

Sobald sie optimiert ist, leitet die Konstitution den ACE Generator an, um Input-Prompts in Richtung eines spezifischen Ziels zu steuern (z. B. das Brechen der mathematischen Korrektheit oder die Verringerung des Bild-Alignments) mit minimalen Schritten. Das Framework ermöglicht die sequentielle Anwendung von ACEs, wobei eine Sequenz von Edits die Erfolgswahrscheinlichkeit erhöht.

3. Wesentliche Beiträge

Atomare Konzept-Edits (ACEs): Eine generische Methode zur Prompt-Mutation mittels erklärbarer, lokaler Edits (Hinzufügen, Entfernen, Ersetzen) auf spezifischen Konzepten.
Konstitutions-Optimierung: Eine evolutionäre Methodik zur Optimierung einer natürlichen Sprach-Konstitution, die sowohl das Modellverhalten erklärt als auch steuert. Die Konstitution fasst die wesentlichen Aspekte von Mutationen zusammen, die zu gewünschten Ergebnissen führen, und leitet zukünftige ACEs an.
Empirische Validierung: Umfassende Evaluierung über drei Domänen (Wortanzahl-Einhaltung, mathematische Argumentation und Text-zu-Bild-Alignment) unter Verwendung diverser Modelle (Gemini 2.5, GPT-5, Imagen 4, DALL-E 3, etc.).

4. Experimentelle Ergebnisse

Die Autoren evaluierten das Framework auf drei Downstream-Aufgaben:

Wortanzahl (Word Count): Erzwingen, dass Modelle ein striktes Wortlimit einhalten (< 50 Wörter).
Mathematik (Math): Modifikation von mathematischen Problemen, um sie schwer lösbar zu machen (induzierte Fehler).
Text-zu-Bild (T2I) Alignment: Aktualisierung von Prompts, um das Alignment mit dem generierten Bild zu verringern.

Quantitative Befunde

Erfolgsrate: Die konstitutionsgeleiteten ACEs (CACE) erzielten eine durchschnittliche 1,86-fache Steigerung der Erfolgsrate im Vergleich zu Baseline-ACEs ohne Konstitution über alle Modelle und Aufgaben hinweg.
Effizienz: CACE erreichte hohe Erfolgsraten (> 80 %) in weniger Schritten (typischerweise 4 Schritte) im Vergleich zu Baseline-Methoden.
Diversität: Self-BLEU-Scores zeigten an, dass das Framework die Prompt-Diversität beibehielt und nicht zu trivialen, repetitiven Lösungen konvergierte.
Surrogate-Genauigkeit: Der Surrogate Classifier übertraf TextGrad (eine State-of-the-Art Textual-Gradient-Methode) bei der Vorhersage, ob ein ACE eine Aufgabe erfüllen würde.

Qualitative Erkenntnisse (Analyse des Modellverhaltens)

Die gelernten Konstitutionen offenbarten distinkte Verhaltensmuster über verschiedene Modelle hinweg:

Text-zu-Bild:
- GPT-Image: Das Alignment verschlechterte sich signifikant, wenn kritische relationale und handlungsfokussierte Elemente entfernt wurden (z. B. das Entfernen des Objekts eines Verbs), was auf eine Abhängigkeit von strikter kompositorischer Logik hindeutet.
- Imagen 4: Das Alignment sank, wenn unbezogene oder konfliktierende Setting-Elemente hinzugefügt wurden, was auf eine Priorisierung von ganzheitlichem Szenenkontext und ästhetischer Kohärenz hindeutet.
Mathematische Argumentation:
- GPT-5: Die Leistung wurde signifikant durch das Einführen von Distraktor-Variablen oder Kreuz-Gleichungs-Substitutionen beeinträchtigt.
- Gemini 2.5 / o4-mini: Diese Modelle waren von Distraktor-Variablen weitgehend unbeeindruckt, was dort Robustheit zeigte, wo GPT-5 versagte.
- Allgemein: Das Einführen von Exponenten oder Wurzeln erhöhte die Schwierigkeit konsistent über alle Modelle hinweg und legte Limitationen in der komplexen algebraischen Argumentation offen.

5. Bedeutung und Ansprüche

Das Paper beansprucht, ein neuartiges Framework für das Verständnis und die Steuerung von Black-Box-generativen Modellen bereitzustellen, indem es Konzept-Ebene Prompt-Modifikationen mit Verhaltensverschiebungen verknüpft. Die primäre Bedeutung liegt in der Fähigkeit, menschenlesbare Konstitutionen zu generieren, die als Regelwerke für adversatives Steering und aktives Testen dienen.

Die Autoren betonen, dass ihr Ansatz:

Das Modellverhalten dekodiert, ohne Zugriff auf interne Gewichte zu benötigen (Black-Box).
Handlungsrelevante, generalisierbare Erkenntnisse liefert (z. B. „Entfernen eines kritischen relationalen Elements“) anstatt spezifischer Datenpunkte.
Demonstriert, dass unterschiedliche Modelle über distinkte „Blind Spots“ oder Fehlermodi verfügen, die systematisch identifiziert und ausgenutzt werden können.

Die Arbeit positioniert sich als Fundament für die Steuerung des Modellverhaltens hin zu jedem durch einen Autorater definierten Ziel und bietet eine strukturierte Alternative zum unstrukturierten Prompt Engineering oder nicht-interpretierbaren adversativen Angriffen. Die Autoren weisen auf Limitationen hinsichtlich der Abhängigkeit von robusten Autoratern hin und sehen zukünftige Arbeiten darin, diese Konzepte auf Bild-/Video-Modalitäten und agentische Systeme auszuweiten.