💻 computer science

Contextual Multi-Objective Optimization: Rethinking Objectives in Frontier AI Systems

Dieser Artikel argumentiert, dass viele Versagen von KI-Systemen an der Frontier auf eine objektive Selektion und nicht auf Fähigkeitsgrenzen zurückzuführen sind, und schlägt ein Rahmenwerk der „kontextuellen multiobjektiven Optimierung" vor, bei dem Systeme dynamisch mehrere kontextabhängige Ziele und Einschränkungen identifizieren, priorisieren und ausbalancieren, um die Zuverlässigkeit in offenen Settings zu verbessern.

Ursprüngliche Autoren: Jie Zhou, Qin Chen, Liang He

Veröffentlicht 2026-05-06

📖 7 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Jie Zhou, Qin Chen, Liang He

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das Kernproblem: Der „kluge, aber ahnungslose" Assistent

Stellen Sie sich einen brillanten neuen Assistenten vor. Dieser Assistent ist in spezifischen Aufgaben hervorragend: Er kann Code schreiben, der perfekt funktioniert, mathematische Probleme sofort lösen oder Sie im Schach schlagen. In diesen Situationen sind die Regeln klar. Das Ziel ist „Gewinne das Spiel" oder „Behebe den Fehler". Wenn der Assistent das tut, gewinnt er.

Das Paper argumentiert jedoch, dass derselbe Assistent ins Stolpern gerät, sobald die Regeln unklar werden. Wenn Sie ihn um Rat bei einem medizinischen Problem bitten, Hilfe bei einem sensiblen persönlichen Anliegen oder den Einsatz zur Verwaltung komplexer Werkzeuge, versagt der Assistent oft.

Warum? Die Autoren sagen, es liegt nicht daran, dass der Assistent nicht intelligent genug ist oder nicht mit genügend Daten trainiert wurde. Es liegt daran, dass der Assistent das Falsche optimiert.

Stellen Sie es sich wie ein GPS-Navigationssystem vor.

Der alte Weg (Skalare Optimierung): Das GPS ist mit einem einzigen Ziel programmiert: „Komm so schnell wie möglich zum Ziel." Es wird Sie gerne durch eine Schulzone fahren, eine rote Ampel ignorieren oder eine Abkürzung über die Einfahrt eines Nachbarn nehmen, wenn das die schnellste Route ist. Es optimiert technisch gesehen, tut aber das Falsche, weil es nur eine Metrik sieht: Geschwindigkeit.
Die reale Welt (Kontextuelle multi-objektive Optimierung): Im echten Leben geht es beim Erreichen des Ziels nicht nur um Geschwindigkeit. Es geht um Sicherheit, Legalität, Höflichkeit und ob Sie überhaupt die Erlaubnis haben, durch diese Einfahrt zu fahren. Manchmal ist die „beste" Aktion nicht, schnell zu fahren, sondern anzuhalten, nach dem Weg zu fragen oder eine bestimmte Route zu verweigern.

Das Paper argumentiert, dass aktuelle KI-Systeme wie dieser einseitige GPS-Navigator sind. Sie sind großartig darin, eine einzelne Anweisung zu befolgen (wie „sei hilfreich"), versagen aber, wenn sie Hilfsbereitschaft gegen Sicherheit, Wahrheit, Privatsphäre und Gesetz abwägen müssen.

Die große Idee: Es geht darum, „das richtige Ziel zu wählen"

Die Autoren schlagen vor, dass wir das Verhalten von KI nicht mehr als einfaches mathematisches Problem behandeln sollten, bei dem wir einfach Punkte für „Gut" addieren und Punkte für „Schlecht" subtrahieren. Stattdessen schlagen sie vor, KI als einen Entscheidungsnehmer zu betrachten, der zuerst herausfinden muss, welche Regeln gelten.

Sie nennen dies Kontextuelle multi-objektive Optimierung.

So zerlegen sie es:

1. Das „Menü" der Ziele ändert sich

In einem Videospiel ist das Ziel immer „Gewinnen". Aber im echten Leben ändert sich das Ziel je nach Situation.

Szenario A: Sie bitten um einen lustigen Witz. Das Ziel ist Unterhaltung.
Szenario B: Sie bitten um medizinischen Rat. Das Ziel ist Sicherheit und Wahrhaftigkeit.
Szenario C: Sie bitten, eine Datei zu löschen. Das Ziel ist Verifizierung und Einwilligung.

Das Paper sagt, dass aktuelle KI Szenario B oft wie Szenario A behandelt. Sie versucht, „hilfreich" zu sein, indem sie eine selbstbewusste Antwort gibt, selbst wenn diese Antwort gefährlich oder falsch ist. Das System muss erkennen: „Warte, das ist kein Witz; das ist ein Sicherheitsproblem. Ich muss mein Ziel von 'sei lustig' auf 'sei sicher' umstellen."

2. Manche Regeln können nicht verhandelt werden

Das Paper führt eine entscheidende Unterscheidung ein: Präferenzen vs. Einschränkungen.

Präferenzen sind Dinge, bei denen wir Kompromisse eingehen können. „Ich möchte, dass die Antwort kurz ist, aber wenn sie länger ist, ist das in Ordnung."
Einschränkungen sind harte Grenzen. „Ich möchte, dass die Antwort hilfreich ist, ABER sie darf die Privatsphäre nicht verletzen."

Stellen Sie sich vor, Sie sind ein Koch.

Präferenz: „Machen Sie die Suppe köstlich." (Sie können Salz gegen Pfeffer austauschen).
Einschränkung: „Verwenden Sie kein Gift." (Dies können Sie nicht austauschen, selbst wenn das Gift die Suppe köstlich machen würde).

Aktuelle KI versucht oft, diese zu einer einzigen Punktzahl zu vermischen. Sie könnte denken: „Diese Antwort ist zu 90 % hilfreich und zu 10 % unsicher, also ist die Gesamtpunktzahl gut!" Das Paper argumentiert, dass dies falsch ist. Wenn eine Einschränkung (wie Sicherheit oder Privatsphäre) aktiv ist, sollte sie die Aktion komplett blockieren, egal wie hilfreich die Antwort ist.

3. Die „richtige" Aktion ist nicht immer eine Antwort

Einer der interessantesten Punkte im Paper ist, dass das Beste, was eine KI tun kann, manchmal nicht zu antworten ist.

Wenn die KI unsicher ist, sollte sie sagen: „Ich bin mir nicht sicher."
Wenn die Anfrage gefährlich ist, sollte sie sagen: „Das kann ich nicht tun."
Wenn die Anfrage vage ist, sollte sie fragen: „Können Sie das präzisieren?"

Das Paper argumentiert, dass diese Aktionen (Verweigerung, Hilfe anfordern, Unsicherheit eingestehen) nicht als „Fehler" oder „Versagen" der KI angesehen werden sollten. Sie sind gültige Züge im Spiel. Genau wie ein Schachspieler in einer verlorenen Position wählen könnte, „Passe" oder „Aufgabe" zu wählen, sollte eine KI in Lage sein, „Verweigerung" oder „Präzisierung" zu wählen, wenn die Situation es erfordert.

Wie man es repariert: Der Pfad des „Entscheidungsprozesses"

Die Autoren sagen nicht nur „KI ist kaputt"; sie bieten einen Bauplan für den Aufbau eines besseren Systems an. Sie schlagen einen schrittweisen Prozess (einen „Pfad") vor, den eine KI befolgen sollte, bevor sie spricht:

Den Raum lesen (Routing von Kontext zu Ziel): Bevor sie antwortet, muss die KI die Situation betrachten. Ist das ein lockeres Gespräch? Eine juristische Frage? Ein medizinischer Notfall? Sie muss die Anfrage zu dem richtigen Satz von Regeln „leiten".
Die harten Regeln prüfen (Hierarchische Einschränkungen): Sobald sie den Kontext kennt, prüft sie die „harten" Regeln. „Verletzt dies die Privatsphäre? Ist es illegal?" Wenn ja, stoppen. Nicht fortfahren.
Die weichen Ziele abwägen (Deliberatives Denken): Wenn die harten Regeln bestanden sind, dann kann sie darüber nachdenken, hilfreich, höflich oder prägnant zu sein.
Den richtigen Zug wählen (Auswahl der Aktion): Schließlich wählt sie eine Aktion. Das ist nicht nur „Schreibe einen Satz". Die Aktion könnte „Schreibe einen Satz", „Stelle eine Frage", „Verweigere" oder „Rufe einen Menschen" sein.
Lernen und Aktualisieren (Revision): Wenn das System einen Fehler macht, sollten die Regeln selbst aktualisiert werden. Es geht nicht nur darum, die KI intelligenter zu trainieren; es geht darum, das „Regelbuch", dem sie folgt, zu aktualisieren.

Die Metapher der „Objektmechanik"

Die Autoren verwenden einen Begriff namens „Objektmechanik". Stellen Sie es sich wie die Mechanik eines Autos vor.

Aktuelle KI: Wir versuchen nur, den Motor (das Modell) größer und leistungsfähiger zu machen. Wir gehen davon aus, dass, wenn der Motor stark genug ist, das Auto sich sicher selbst fahren wird.
Vorgeschlagene KI: Wir müssen das Lenkrad, die Bremsen und die Verkehrsregeln verstehen. Ein leistungsstarker Motor ist nutzlos (oder gefährlich), wenn das Auto nicht weiß, wann es an einer roten Ampel stoppen muss oder wie es eine komplexe Kreuzung navigiert.

Zusammenfassung

Das Paper behauptet, dass, wenn KI leistungsfähiger wird und in reale Situationen eintritt (wie beim Geben von Ratschlägen oder der Nutzung von Werkzeugen), es nicht ausreicht, sie einfach nur „intelligenter" oder „besser im Befolgen von Anweisungen" zu machen.

Wir müssen aufhören, KI als eine Maschine zu behandeln, die nur eine einzelne Punktzahl maximiert (wie „Hilfsbereitschaft"). Stattdessen müssen wir Systeme bauen, die wie Richter handeln: Sie müssen zuerst den Kontext identifizieren, erkennen, welche Regeln nicht verhandelbar sind, entscheiden, ob sie genügend Informationen haben, um zu handeln, und die richtige Art von Antwort wählen – selbst wenn diese Antwort „Ich weiß es nicht" oder „Das kann ich nicht tun" lautet.

Das Ziel ist es, von der Belohnungsmaximierung (die höchste Punktzahl zu erzielen) zur operativen Urteilskraft (die richtige Entscheidung für die spezifische Situation zu treffen) überzugehen.

Technische Zusammenfassung: Kontextuelle Multi-Objektive Optimierung in Frontier-KI-Systemen

1. Problemstellung

Die Arbeit identifiziert einen kritischen Fehlermodus in Frontier-KI-Systemen: das Versagen bei der Zielauswahl. Während moderne KI in Domänen mit klaren, stabilen und überprüfbaren Zielen (z. B. Code-Generierung, mathematisches Schlussfolgern, Spieltheorie) hervorragend ist, bleibt sie in offenen Umgebungen wie wissenschaftlicher Unterstützung, Agenten mit langem Zeithorizont, beratenden Diensten mit hohem Risiko und personalisierter Werkzeugnutzung unzuverlässig.

In diesen offenen Kontexten ist das relevante Ziel oft mehrdeutig, kontextabhängig, verzögert oder nur teilweise beobachtbar. Die Autoren argumentieren, dass viele Ausfälle bei der Bereitstellung nicht auf mangelnde Fähigkeiten oder Skalierung zurückzuführen sind, sondern darauf, dass das System ein lokal sichtbares Signal (z. B. Benutzerpräferenz oder Flüssigkeit) optimiert, während es die übergeordnete Zielstruktur, die die Interaktion regelt, übersieht. Aktuelle Methoden komprimieren oft heterogene Anforderungen (Hilfsbereitschaft, Wahrhaftigkeit, Sicherheit, Privatsphäre, Auswirkungen auf Interessengruppen) in einen einzigen skalaren Belohnungswert oder Präferenzscore. Diese Reduktion versagt, wenn Ziele im Konflikt stehen, wenn Constraints kontextaktiviert sind oder wenn bestimmte Anforderungen (z. B. Privatsphäre, Nicht-Täuschung) als nicht handelbare harte Constraints und nicht als weiche Präferenzen fungieren müssen.

Das Kernproblem wird als Kontextuelle Multi-Objektive Optimierung (CMOO) formuliert: ein Entscheidungsproblem, bei dem das System nicht nur über Aktionen optimieren, sondern auch die anwendbare Zielstruktur identifizieren, bestimmen, welche Ziele aktiv sind, zwischen weichen Präferenzen und harten Constraints unterscheiden und geeignete Aktionsklassen (z. B. Antworten, Klären, Ablehnen, Eskalieren) basierend auf dem spezifischen Kontext auswählen muss.

2. Methodik und Rahmenwerk

2.1 Formale Formulierung

Die Autoren modellieren KI-Verhalten als kontextabhängige Auswahlregel. Sei $c$ ein Interaktionskontext und $A(c)$ die Menge der Kandidatenaktionen (einschließlich direkter Antworten, Klärung, Ablehnung, Offenlegung von Unsicherheit, Bestätigung, Eskalation, Werkzeugnutzung oder Enthaltung).

Das System schätzt für jede Aktion $a$ einen Vektor zielrelevanter Größen $L_{O_{active}(c)}(a, c)$ , wobei $O_{active}(c)$ die Menge der im Kontext $c$ aktivierten Ziele ist. Das Verhalten des Systems wird durch eine Auswahlregel definiert:
$a^*(c) \in G(A(c), L, C(c), S(c), U(c), \Pi)$
wobei:

$C(c)$ : Menge der aktiven Constraints.
$S(c)$ : Menge der relevanten Interessengruppen.
$U(c)$ : Unsicherheit bezüglich Kontext, Ziele oder Konsequenzen.
$\Pi$ : Konfliktlösungsverfahren.

2.2 Schlüsselkonzepte

Approximative Zielreduzierbarkeit: Eine Aufgabe ist auf eine skalare Metrik $m$ reduzierbar, wenn die Metrik Aktionsrankings erhält, Constraint-Verletzungen kontrolliert und unter Stressverteilungen robust bleibt. Dies validiert skalare Optimierung nur dann, wenn Ziele messbar, vergleichbar und legitim handelbar sind.
Empirische Zielunreduzierbarkeit: Viele Frontier-Aufgaben sind irreduzibel, weil keine skalare Metrik kontextabhängige nicht-handelbare Constraints getreu abbilden kann (z. B. kann ein Verstoß gegen die Privatsphäre nicht durch Hilfsbereitschaft kompensiert werden) oder weil unterschiedliche Aktionsklassen für Fälle erforderlich sind, die unter einem skalaren Score äquivalent erscheinen.
Operatives Urteil: Die angestrebte Verhaltensfähigkeit wird definiert als die Fähigkeit, aktive Ziele zu identifizieren, Konflikte zu erkennen, nicht-handelbare Constraints anzuwenden, Unsicherheit zu kalibrieren und geeignete Aktionsklassen mit einer Begründung auszuwählen. Dies ist eine funktionale Definition, keine Behauptung menschlicherartiger moralischer Verständigung.

2.3 Implementierungspfad

Die Arbeit schlägt einen technischen Pfad vor, um CMOO zu implementieren und über die einfache Maximierung von Belohnungen hinaus zu einem strukturierten Entscheidungsprozess zu gelangen:

Zielzustands-Repräsentation: Anstelle eines einzelnen skalaren Belohnungswerts führt das System vor der Aggregation einen strukturierten Vektor von Zielabschätzungen (Hilfsbereitschaft, Sicherheit, Privatsphäre, Unsicherheit usw.). Dies bewahrt die „Gründungsstruktur" von Urteilen und verhindert eine vorzeitige Skalarisierung, die Trade-offs verschleiert.
Präferenzbewusste Zielzerlegung: Präferenzlernen (z. B. RLHF, DPO) wird so erweitert, dass es warum eine Antwort bevorzugt wird (z. B. wahrheitsgemäßer vs. höflicher) aufzeichnet und nicht nur welche bevorzugt wird. Dies unterscheidet Präferenzdissens von Rauschen und identifiziert, wann Präferenzen durch Constraints außer Kraft gesetzt werden sollten.
Kontext-zu-Ziel-Routing: Ein Mechanismus bildet den Interaktionskontext auf ein Zielprofil ab, aktiviert spezifische Ziele, Constraints, Interessengruppen und Eskalationsrichtlinien. Diese Schicht bestimmt Risikostufen, Reversibilität und den Umfang der Interessengruppen und stellt sicher, dass hochriskante Kontexte angemessene Constraints auslösen.
Hierarchische und lexikografische Constraints: Das Rahmenwerk trennt weiche Präferenzen (z. B. Stil, Kürze) von harten oder quasi-harten Constraints (z. B. Sicherheit, Legalität, Privatsphäre). Die Auswahlregel filtert Aktionen zunächst durch aktive Constraints (lexikografische Ordnung), bevor sie weiche Präferenzen innerhalb der zulässigen Menge optimiert. Dies verhindert illegitime Kompensation (z. B. dass ein Verstoß gegen die Privatsphäre durch hohe Hilfsbereitschaft „bezahlt" wird).
Deliberative Policy-Reasoning: Das System ruft relevante Richtlinien ab und argumentiert über explizite Prinzipien, um Konflikte zu lösen. Dies bietet eine überprüfbare Schnittstelle für die Konfliktlösung und erklärt, warum eine bestimmte Aktionsklasse (z. B. Ablehnung vs. Antwort) ausgewählt wurde.
Agentische und Werkzeugnutzungs-Kontrolle: Da Systeme agentisch werden, erstreckt sich das Rahmenwerk auf externe Aktionen. Es unterscheidet Planung vom Handeln und erfordert stärkere Prüfungen (z. B. Bestätigungstore, Zugriff mit geringster Berechtigung) für irreversible oder hochimpactige Aktionen.
Gesteuerte Personalisierung: Personalisierung wird als eingeschränkter Zielmodifikator behandelt. Sensible Anpassungen erfordern ausdrückliche Zustimmung und Transparenz, um sicherzustellen, dass Personalisierung nicht Constraints wie Privatsphäre, Autonomie oder Nicht-Manipulation außer Kraft setzt.
Diagnostische Evaluation und Revision: Die Evaluation konzentriert sich auf die Genauigkeit der Zielauswahl (Routing, Constraint-Recall, Wahl der Aktionsklasse) und nicht nur auf die Qualität der finalen Antwort. Das System umfasst Mechanismen zur Auditierung und Revision von Richtlinien, Schwellenwerten und Routing-Taxonomien nach der Bereitstellung, um Proxy-Drift und neue Fehlermodi zu adressieren.

3. Hauptbeiträge

Die Arbeit leistet vier Hauptbeiträge:

Identifikation des Versagens bei der Zielauswahl: Sie unterscheidet das Versagen bei der Zielauswahl als einen von Versagen durch mangelnde Fähigkeiten und Fehlern bei der Proxy-Schätzung verschiedenen Fehlermodus und argumentiert, dass viele Frontier-KI-Ausfälle daraus resultieren, dass das falsche Ziel für die Situation optimiert wird.
Formalisierung von CMOO: Sie formalisiert offenes KI-Verhalten als ein Auswahlregel-Problem, bei dem aktive Ziele, Constraints, Interessengruppen und Aktionsklassen kontextabhängig sind.
Theoretische Unterscheidung: Sie führt die Konzepte der approximativen Zielreduzierbarkeit und der empirischen Zielunreduzierbarkeit ein, um die Grenzen zu klären, in denen skalare Optimierung gerechtfertigt ist, und wo sie zusammenbricht.
Implementierungspfad: Sie schlägt eine umfassende Architektur vor, die dekomponierte Zielmodellierung, Kontextrouting, hierarchische Constraints, deliberatives Reasoning und Revision nach der Bereitstellung verbindet, um die identifizierten Lücken zu schließen.

4. Ergebnisse und Behauptungen

Als Positionspapier und Perspektivwerk präsentiert die Arbeit keine neuen empirischen Benchmarks oder algorithmischen Leistungsmetriken. Stattdessen sind ihre „Ergebnisse" theoretischer und struktureller Natur:

Proposition 1: Die Autoren beweisen, dass kontextblinde gewichtete Skalarisierung Anforderungen nicht erfüllen kann, bei denen ein harter Constraint in einem Kontext aktiv ist, in einem anderen jedoch nicht, selbst wenn die Ziel-Score-Vektoren identisch sind. Dies zeigt, dass Skalarisierung erst dann angemessen ist, wenn kontextabhängige Constraint-Aktivierungsvariablen repräsentiert sind.
Analyse bestehender Methoden: Die Arbeit analysiert systematisch, warum aktuelle Ansätze (Pretraining, SFT, RLHF, Verifier-basiertes RL, Agentische Optimierung) für offene Umgebungen unzureichend sind. Sie argumentiert, dass diese Methoden ein festes Optimierungssignal voraussetzen und die dynamische Aktivierung von Zielen und Constraints, die in Umgebungen mit hohem Risiko und Mehrdeutigkeit erforderlich ist, nicht bewältigen können.
Diagnostisches Rahmenwerk: Sie skizziert ein diagnostisches Evaluationsprotokoll unter Verwendung kontextgepaarter Fälle, um die Genauigkeit des Ziel-Routings, den Constraint-Recall und die Auswahl der Aktionsklasse zu testen, und argumentiert, dass aktuelle Benchmarks diese kritischen Dimensionen oft übersehen.

5. Bedeutung und Einschränkungen

Bedeutung:
Die Arbeit argumentiert, dass der Wechsel von der Belohnungsmaximierung hin zu operativem Urteil zentral für den Aufbau von Frontier-KI-Systemen ist, die kontextangemessen, korrigierbar und rechenschaftspflichtig sind. Indem die Zielstruktur explizit gemacht wird, klärt das Rahmenwerk, wann skalare Optimierung eine gültige Näherung ist und wann sie grundlegend unzureichend ist. Es behandelt Verhaltensweisen wie Ablehnung, Klärung und Eskalation nicht als Schnittstellenmängel, sondern als endogene Policy-Aktionen, die für Sicherheit und Ausrichtung unerlässlich sind. Die Autoren rahmen dies als Wandel hin zu „Zielmechanik" ein – die Untersuchung, wie Ziele in bereitgestellten Systemen repräsentiert, aktiviert und revidiert werden.

Einschränkungen:
Die Autoren erkennen ausdrücklich mehrere Einschränkungen an:

Formulierung vs. Algorithmus: Die Arbeit bietet eine Formulierung und einen Pfad, keinen vollständigen, einsatzbereiten Algorithmus. Komponenten wie Zielzustands-Repräsentation und Konfliktlösung erfordern weitere technische Spezifikationen.
Übermäßige Konservativität: Hierarchische Constraints riskieren, dass Systeme harmlose Anfragen ablehnen oder die Handlungsfähigkeit der Benutzer einschränken, wenn sie nicht sorgfältig abgestimmt sind.
Falsche Präzision: Dekomponierte Zielmodelle können ein falsches Gefühl von Präzision für offen strukturierte Ziele erzeugen, die schwer direkt zu messen sind.
Routing-Brüchigkeit: Der Kontext-zu-Ziel-Router selbst kann zu einem brüchigen Proxy werden und bei neuen Aufgaben oder adversarialen Prompts versagen.
Institutionelle Lücken: Die Arbeit konzentriert sich auf das Modell-Level-Rahmenwerk und lässt breitere institutionelle Fragen (z. B. Befugnis zur Definition von Zielen, Auseinandersetzungen von Interessengruppen) unterentwickelt.

Zusammenfassend postuliert die Arbeit, dass die KI-Forschung, damit Frontier-KI sicher in offenen Umgebungen operieren kann, über die Optimierung eines einzelnen Signals hinausgehen muss hin zur Gestaltung von Systemen, die in der Lage sind, komplexe, kontextabhängige multi-objektive Strukturen zu identifizieren, zu priorisieren und zu lösen.