AEGIS: Preventing Cross-Domain Resource Abuse in MCP
Dieses Paper stellt AEGIS vor, eine Komponente zur Durchsetzung von Richtlinien, die große Sprachmodelle nutzt, um vielfältige MCP-Tool-Aufrufe zu analysieren und zu normalisieren, wodurch Administratoren ermöglicht wird, feingliedrige Schutzmaßnahmen gegen domänenübergreifenden Ressourcenmissbrauch zu definieren und gleichzeitig die Flexibilität des Ökosystems zu bewahren.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich eine Welt vor, in der KI-Agenten als persönliche Assistenten fungieren, die in der Lage sind, Kontakt zu anderen Computerprogrammen aufzunehmen, um Daten abzurufen, Bilder zu analysen oder komplexe Aufgaben zu verwalten. Um dies möglich zu machen, haben Ingenieure eine Standardsprache namens Model Context Protocol entwickelt, die es diesen KI-Agenten ermöglicht, auf strukturierte Weise mit externen Werkzeugen zu kommunizieren. Betrachten Sie es als eine universelle Fernbedienung für Software, die es einer KI erlaubt, eine Datenbank nach einer Liste von Dateien oder einen Kartendienst nach einem Standort zu fragen. Doch genau wie eine Fernbedienung dazu verwendet werden kann, einen Kanal zu wechseln oder versehentlich den gesamten Fernseher auszuschalten, können diese KI-Agenten manchmal Anfragen stellen, die zu groß oder zu anspruchsvoll sind. Wenn ein Agent nach einem Video fragt, das zu lang ist, einer Ergebnisliste, die zu umfangreich ist, oder einer Bildauflösung, die zu hoch ist, kann dies die hinter den Kulissen arbeitenden Computersysteme überlasten und dazu führen, dass sie verlangsamt werden oder vollständig zum Stillstand kommen. Dies ist kein Problem eines bösartigen KI-Verhaltens, sondern eine Folge ihrer Fähigkeit, nach allem fragen zu können, kombiniert mit der Tatsache, dass viele dieser Werkzeuge keine strengen Grenzen für das haben, was sie akzeptieren.
Forscher bei IBM Research haben ein neues System namens AEGIS entwickelt, um genau dieses Problem der Ressourcenerschöpfung zu lösen. Die Kernherausforderung bestand darin, dass jedes Werkzeug, das eine KI verwenden könnte, anders ist. Ein Werkzeug verlangt vielleicht einen „Radius“, um ein Suchgebiet zu definieren, während ein anderes nach einer „Distanz“ fragt und ein weiteres „Meilen“ oder „Kilometer“ verwendet. Darüber hinaus verarbeiten die Werkzeuge unterschiedliche Arten von Daten, wie etwa Text, Video oder Standort, und jeder Datentyp verbraucht auf eine einzigartige Weise Rechenleistung. Eine Anfrage für tausend Textnachrichten ist für einen Computer leicht zu bewältigen, aber eine Anfrage für tausend hochauflösende Videos könnte das System zum Absturz bringen. Da die Sprache und die Struktur dieser Anfragen so stark variieren, war es für Sicherheitsteams nahezu unmöglich, einen einzigen Satz von Regeln zu schreiben, der für alle funktioniert. Das manuelle Schreiben dieser Regeln für hunderte verschiedener Werkzeuge ist langsam, fehleranfällig und schwer skalierbar.
Um dies zu überwinden, entwickelte das Team AEGIS, ein System, das die logische Leistungsfähigkeit großer Sprachmodelle nutzt, um als Übersetzer und Wächter zu fungieren. Anstatt zu versuchen, jedes mögliche Werkzeug auswendig zu lernen, analysiert das System die Beschreibung jedes Werkzeugs, das eine KI verwenden könnte, und ermittelt automatisch, welche Art von Daten es verarbeitet und welche Art von Aktion es ausführt. Es übersetzt dann die verwirrenden, variierenden Namen der Parameter – wie etwa „limit“, „count“ oder „max_results“ – in ein einzelnes, standardisiertes Vokabular. Beispielsweise erkennt es, dass die Abfrage von „fünfzig Meilen“ in einem Standort-Werkzeug und „einhundert Ergebnissen“ in einem Text-Werkzeug beide Anfragen für ein bestimmtes Datenvolumen sind, die gefährlich sein könnten, wenn sie ungeprüft blieben. Durch die Konvertierung dieser vielfältigen Anfragen in eine gemeinsame Sprache kann das System konsistente Sicherheitsregeln über das gesamte Ökosystem hinweg anwenden.
Sob-ald das System die Werkzeuge versteht, rät es nicht einfach, wo die Grenzen gesetzt werden sollen, sondern misst sie. Die Forscher führten eine Reihe von Tests durch, bei denen sie die Größe der an einen Server gesendeten Anfragen schrittweise erhöhten und genau beobachteten, wann das System begann, Schwierigkeiten zu bekommen oder Fehler zu machen. Sie fanden den exakten Punkt, an dem der Computer die Last noch bewältigen konnte, ohne auszufallen, und setzten diesen als Sicherheitsgrenze fest. Dieser Prozess, bekannt als Benchmarking, ermöglicht es dem System, für jedes einzelne Werkzeug, das es vorfindet, ein individuelles Sicherheitslimit zu erstellen und so sicherzustellen, dass die KI ihre Aufgabe erfüllen kann, ohne versehentlich den Computer zu beschädigen, mit dem sie kommuniziert.
Das Team testete diesen Ansatz an einer Sammlung von fast tausend verschiedenen Werkzeugen aus einer Vielzahl von Echtzeit-Diensten, einschließlich Cloud-Computing, Datenbanken und Suchmaschinen. Das System erwies sich als bemerkenswert genau darin, was jedes Werkzeug tut und welche Art von Daten es handhabt; es klassifizierte den Datentyp und die Art der Operation in mehr als achtundneunzig Prozent der Fälle korrekt. Es identifizierte auch erfolgreich, welche Werkzeuge wahrscheinlich Ressourcenprobleme verursachen würden, und normalisierte deren Parameter mit hoher Präzision. Als die Forscher ein Szenario simulierten, in dem ein KI-Agent versuchte, einen Server durch die Anforderung einer übermäßigen Anzahl von Bildern zu überlasten, blockierte das System mit AEGIS im Einsatz die schädliche Anfrage und hielt den Server reibungslos am Laufen, während der ungeschützte Server unter der Last abstürzte.
Diese Arbeit zeigt, dass es möglich ist, diese komplexen, miteinander vernetzten KI-Systeme zu sichern, ohne deren Flexibilität zu opfern. Durch die Nutzung intelligenter Analysen, um die Absicht hinter einer Anfrage zu verstehen, und durch die Messung der tatsächlichen Kapazität der Systeme bietet AEGIS einen Weg, vor Ressourcenmissbrauch zu schützen, der sich an die Vielfalt der verwendeten Werkzeuge anpasst. Die Forscher merken an, dass das System zwar hocheffektiv ist, die Aufgabe, jeden möglichen Parameternamen perfekt zu übersetzen, jedoch weiterhin eine Herausforderung bleibt, und dass zukünftige Arbeiten darauf abzielen werden, diesen Schutz auf noch komplexere Szenarien auszuweiten, in denen mehrere Werkzeuge nacheinander eingesetzt werden. Für den Moment bietet das System eine praktische Methode, um sicherzustellen, dass KI-Agenten, während sie immer fähiger und weitverbreiteter werden, nicht unbeabsichtigt genau die Systeme zum Stillstand bringen, auf die sie angewiesen sind.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.