Language-Based Agent Control
Dieser Beitrag stellt die sprachbasierte Agentensteuerung (LBAC) vor, ein Programmiermodell, das sicherstellt, dass agentenbasierte Anwendungen den vom Benutzer spezifizierten Sicherheitsrichtlinien entsprechen, indem es von Agenten die Generierung typkorrekter Programme verlangt, die vor der Ausführung statisch verifiziert werden, wodurch Sicherheitsgarantien sowohl für vom Entwickler geschriebene Gerüste als auch für vom Agenten generiertes Verhalten vereinheitlicht werden, während die rechnerische Ausdruckskraft erhalten bleibt.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie stellen einen sehr talentierten, aber unberechenbaren Assistenten (einen KI-Agenten) ein, um eine Aufgabe für Sie zu erledigen, wie etwa die Organisation Ihrer Forschungsarbeiten. Sie möchten, dass er kreativ und intelligent ist, aber Sie müssen auch sicherstellen, dass er Ihre Dateien nicht versehentlich (oder böswillig) löscht, Ihre Geheimnisse stiehlt oder gefälschte Daten erfindet.
Derzeit zwingen die meisten Systeme Sie zur Wahl zwischen Sicherheit und Freiheit:
- Der „Spielzeugkasten"-Ansatz (Eingeschränkte Werkzeuge): Sie geben dem Assistenten eine winzige Kiste mit vorab genehmigten Werkzeugen. Er darf nicht aus der Kiste herausgehen. Es ist sehr sicher, aber er kann nichts Kluges oder Komplexes tun. Wenn er eine Liste sortieren muss, muss er Sie bitten, dies einzeln für ihn zu erledigen.
- Der „Offene Küche"-Ansatz (Code-Interpreter): Sie geben dem Assistenten vollen Zugang zur Küche. Er kann alles kochen, was er möchte! Aber wenn er verwirrt wird oder getäuscht wird, könnte er das Haus niederbrennen oder Ihnen Gift servieren.
Diese Arbeit stellt eine neue Methode namens Sprachbasierte Agentenkontrolle (Language-Based Agent Control, LBAC) vor. Stellen Sie sich dies vor, als würden Sie dem Assistenten eine magische Küche geben, in der die Gesetze der Physik (die Regeln des Universums) in einer Sprache geschrieben sind, die er muss sprechen.
Die Kernidee: Die „Magische Sprache"
Anstatt dem Assistenten nur eine Liste von „Do's and Don'ts" zu geben, bauen die Programmierer das gesamte System innerhalb einer speziellen, strengen Sprache (wie einer super-strengen Version einer Programmiersprache namens Haskell).
In dieser magischen Sprache fungieren Typen (die Etiketten auf Daten) wie Sicherheitsbeamte.
- Wenn ein Datenelement mit „Vertrauenswürdig" gekennzeichnet ist, bedeutet dies, dass es aus einer sicheren Quelle stammt (wie einer verifizierten Datenbank).
- Wenn ein Datenelement mit „Nicht vertrauenswürdig" gekennzeichnet ist, stammt es aus dem Internet oder von einem Benutzer.
- Die Sprache hat eine Regel: Sie dürfen keine „nicht vertrauenswürdigen" Zutaten in ein „vertrauenswürdiges" Gericht mischen.
Wie es in der Praxis funktioniert
Kehren wir zum Beispiel der Forschungsarbeit aus dem Text zurück. Sie bitten den Agenten: „Finden Sie die früheste Arbeit über Differential Privacy und fügen Sie sie zu meiner Bibliografie hinzu."
- Der alte Weg (Code-Interpreter): Der Agent schreibt ein Programm. Er könnte beschließen, einfach einen gefälschten Arbeitstitel zu erfinden, ihn in Ihre Datei zu schreiben und zu sagen: „Hier, bitte schön!" Das System prüft nur, ob der Code läuft, nicht aber, ob der Inhalt echt ist.
- Der alte Weg (Eingeschränkte Werkzeuge): Sie geben dem Agenten nur eine „Holen und Speichern"-Taste. Er kann die Ergebnisse nicht selbst sortieren oder filtern. Er muss warten, bis Sie ihm sagen, welche er auswählen soll.
- Der LBAC-Weg (TYPEGUARD):
- Der Agent schreibt ein Programm in der magischen Sprache.
- Um eine Arbeit zu erhalten, muss er eine spezielle Funktion verwenden, die nur ein „Vertrauenswürdiges" Etikett zurückgibt.
- Um in Ihre Datei zu schreiben, erfordert die Funktion ein „Vertrauenswürdiges" Etikett.
- Die magische Prüfung: Bevor das Programm des Agenten überhaupt ausgeführt werden darf, betrachtet ein „Typenprüfer" (ein strenger Bibliothekar) den Code.
- Wenn der Agent versucht, eine gefälschte Arbeit (die kein „Vertrauenswürdiges" Etikett hat) in die Datei zu schreiben, sagt der Bibliothekar: „Fehler! Dieser Code passt nicht zu den Regeln. Versuchen Sie es erneut."
- Der Agent erhält die Fehlermeldung, erkennt seinen Fehler und schreibt den Code um, um zunächst eine echte Arbeit aus der Datenbank zu holen.
- Sobald der Code die Prüfung besteht, wird er ausgeführt.
Warum dies eine große Sache ist
Die Arbeit behauptet, dass dieser Ansatz das Problem „Sicherheit vs. Freiheit" löst:
- Freiheit: Der Agent kann immer noch komplexe Programme schreiben, Listen sortieren und Mathematik betreiben. Er ist nicht auf eine winzige Kiste mit Werkzeugen beschränkt.
- Sicherheit: Da der Agent muss Code schreiben, der den strengen Regeln der Sprache entspricht, kann er physisch keine Aktionen ausführen, die gegen die Regeln verstoßen (wie das Durchsickern geheimer Daten oder das Schreiben gefälschter Dateien). Wenn der Code den „Typencheck" nicht besteht, wird er niemals ausgeführt.
Der „Verschachtelte"-Agent-Trick
Die Arbeit zeigt auch, dass dies funktioniert, selbst wenn der Agent einen „Sub-Agenten" anstellt, um zu helfen.
- Stellen Sie sich vor, der Hauptagent bittet einen Sub-Agenten, eine verdächtige E-Mail zu prüfen.
- Der Sub-Agent liest die E-Mail (die „schmutzig" oder nicht vertrauenswürdig ist).
- Aufgrund der Regeln der magischen Sprache wird der Sub-Agent automatisch in eine „Quarantänezone" versetzt. Er kann die E-Mail lesen, darf diese „schmutzigen" Daten jedoch nicht an die Werkzeuge des Hauptagenten weitergeben, es sei denn, er wickelt sie in einen speziellen Behälter, den der Hauptagent öffnen darf.
- Dies geschieht automatisch aufgrund der Sprachregeln und nicht aufgrund eines separaten Sicherheitssystems.
Zusammenfassung
Die Arbeit argumentiert, dass wir statt Mauern um KI-Agenten herum zu bauen, die Welt des KI-Agenten innerhalb einer strengen, regelbasierten Sprache aufbauen sollten. In dieser Welt ist Sicherheit keine separate Schicht, die man oben draufsetzt; sie ist in das Gewebe selbst eingebaut, wie der Agent denkt und Code schreibt. Wenn der Agent versucht, gegen die Regeln zu verstoßen, sagt die Sprache selbst „Nein", und die Aktion wird blockiert, bevor sie überhaupt stattfindet.
Die Autoren testeten dies mit drei Szenarien:
- Datenherkunft: Sicherstellen, dass nur echte, aus Datenbanken stammende Arbeiten zu einer Bibliografie hinzugefügt werden.
- Dateisystem-Sandboxing: Sicherstellen, dass der Agent nur Dateien in bestimmten Ordnern berühren kann (wie ein „Fähigkeits"-Token).
- Informationsfluss: Sicherstellen, dass geheime Daten niemals versehentlich ins öffentliche Internet gelangen.
In allen Fällen hielt das System den Agenten intelligent und flexibel, während es garantierte, dass er die Regeln nicht brechen konnte.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.