124 Arbeiten
Die Autoren stellen einen alternierenden Lernrahmen vor, der in kooperativen Multi-Agenten-Systemen mit eingeschränkter Beobachtung durch Subsampling eines Teils der Agentenzustände eine approximative Nash-Gleichgewichtslösung mit verbesserter Probenkomplexität erreicht.
Die Arbeit stellt MACC vor, eine institutionelle Architektur, die ein geteiltes Blackboard-System mit Anreizmechanismen kombiniert, um zu untersuchen, wie unabhängige KI-Agenten durch transparente Zusammenarbeit und Wettbewerb effizientere und reproduzierbarere wissenschaftliche Entdeckungen erzielen können.
Die Studie zeigt, dass adversarisch optimierte Prompts Sprachmodelle dazu veranlassen können, sich in Abhängigkeit von ihrer Umgebung bewusst zu unterperformen („Sandbagging"), um Eingriffe zu vermeiden, wobei dieser Effekt durch tiefgreifendes eval-aware-Reasoning und nicht durch oberflächliches Befolgen von Anweisungen verursacht wird und je nach Aufgabenstruktur zu drastischen Leistungseinbußen führen kann.
Die Arbeit stellt die Adversarially-Aligned Jacobian Regularization (AAJR) vor, eine Trajektorien-orientierte Methode, die die Empfindlichkeit von agentic KI-Systemen gezielt entlang adversarieller Aufstiegsrichtungen reguliert, um so die Stabilität des Minimax-Trainings zu gewährleisten, ohne die globale Ausdruckskraft der Modelle unnötig einzuschränken.