HDP: A Lightweight Cryptographic Protocol for Human Delegation Provenance in Agentic AI Systems
Dieses Paper stellt das HDP-Protokoll vor, ein leichtgewichtiges, kryptografisches Token-System, das die lückenlose und offline überprüfbare Nachverfolgung menschlicher Autorisierung in mehrstufigen Ketten autonomer Agenten ermöglicht und damit eine bestehende Lücke in der Rechenschaftspflicht agenter KI-Systeme schließt.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie geben einem sehr fleißigen, aber manchmal etwas verwirrten Assistenten den Auftrag: „Kauf mir ein Geschenk für meine Mutter."
In der Welt der modernen KI-Agenten ist dieser Assistent jedoch kein einzelner Mensch, sondern eine ganze Kette von Robotern.
- Der erste Roboter (der „Orchestrator") nimmt Ihren Auftrag.
- Er delegiert die Aufgabe an einen zweiten Roboter, der nach Ideen sucht.
- Dieser schickt die Idee an einen dritten Roboter, der das Geld überweist.
- Ein vierter Roboter bestellt das Paket.
Das Problem: Wenn das Paket ankommt und es ist eine giftige Schlange statt eines Geschenks, wer ist schuld?
- Hat der erste Roboter den Auftrag falsch verstanden?
- Hat ein Hacker einen anderen Roboter in die Kette geschmuggelt, der die Bestellung manipuliert hat?
- Oder haben Sie den Auftrag gar nicht erteilt, sondern jemand hat Ihren Assistenten getäuscht (ein sogenannter „Prompt Injection"-Angriff)?
Bisher gab es keine Möglichkeit, diese Kette lückenlos nachzuvollziehen. Es fehlte ein „Sicherheitsgurt" für die Verantwortung.
Hier kommt das HDP-Protokoll (Human Delegation Provenance) ins Spiel.
Die Analogie: Der magische, unzerstörbare Briefumschlag
Stellen Sie sich HDP wie einen magischen, unzerstörbaren Briefumschlag vor, der mit jedem Schritt der Aufgabe mitwandert.
Der Start (Ihre Unterschrift):
Wenn Sie den Auftrag geben, wird ein digitaler „Stempel" (ein Token) erstellt. Darauf steht: „Ich, [Ihr Name], erlaube, dass bis zu 5 Roboter an dieser Aufgabe arbeiten, aber nur für Geschenke unter 50 Euro." Dieser Stempel ist mit einem einzigartigen, mathematischen Fingerabdruck (Ed25519) versehen, den nur Sie besitzen.Die Kette (Die Weitergabe):
Jeder Roboter, der die Aufgabe übernimmt, muss den Umschlag öffnen, seinen eigenen Namen und das, was er gerade tut, hineinschreiben und den Umschlag neu versiegeln.- Wichtig: Er darf die alten Einträge nicht löschen oder ändern. Er kann nur etwas hinzufügen.
- Wenn Roboter B die Aufgabe von Roboter A übernimmt, schreibt er: „Ich habe von Roboter A übernommen, dass..." und versiegelt es.
- Das Ergebnis ist eine ununterbrochene Kette von Siegelungen, die von Ihnen bis zum letzten Roboter reicht.
Die Prüfung (Ohne Internet):
Wenn der letzte Roboter das Geschenk kaufen soll, prüft er den Umschlag.- Offline-Check: Er muss nicht ins Internet gehen, um eine Datenbank abzufragen. Er braucht nur Ihren öffentlichen Schlüssel (wie eine öffentliche Adresse) und die aktuelle Sitzung.
- Alles oder Nichts: Wenn auch nur ein Buchstabe im Umschlag verändert wurde (z. B. hat ein Hacker den Betrag von 50 auf 500 Euro geändert), platzt das Siegel. Der letzte Roboter weiß sofort: „Achtung! Hier wurde manipuliert!" und führt den Auftrag nicht aus.
Warum ist das so besonders?
In der Welt der KI gibt es viele Sicherheitsstandards (wie OAuth oder JWT), aber diese sind wie Einzel-Etiketten. Sie sagen: „Dieser Roboter darf das." Aber sie sagen nicht: „Dieser Roboter hat diese Aufgabe von jenem Roboter bekommen, der sie von einem Menschen bekommen hat."
HDP ist wie ein Fahrrad-Logbuch:
- Keine zentrale Datenbank: Sie müssen nicht bei einer Behörde anrufen, um zu prüfen, ob der Brief echt ist. Die Mathematik im Brief selbst beweist die Echtheit.
- Lückenlos: Wenn jemand versucht, einen Roboter aus der Kette zu streichen oder einen falschen einzufügen, bricht die Kette.
- Schutz vor Täuschung: Wenn ein Hacker versucht, einen Roboter zu täuschen, damit er eine Aufgabe ohne Ihren Auftrag ausführt, fehlt dem Roboter der „magische Umschlag" mit Ihrer Unterschrift. Er weiß dann: „Das ist kein offizieller Befehl" und weigert sich.
Zusammenfassung für den Alltag
Das HDP-Protokoll ist im Grunde ein digitaler Sicherheitsgurt für KI-Teams.
Es stellt sicher, dass:
- Jeder Schritt nachweisbar ist: Von Ihrem ersten „Gehen wir!" bis zum letzten „Hier ist das Paket."
- Niemand schummeln kann: Wenn jemand versucht, die Geschichte zu ändern, wird es sofort sichtbar.
- Sie die Kontrolle behalten: Auch wenn 10 Roboter an einer Aufgabe arbeiten, können Sie genau sehen, wer was genehmigt hat und ob jemand versucht hat, Sie zu umgehen.
Es ist eine einfache, aber clevere Idee: Jede Handlung einer KI muss eine lückenlose, unterschriebene Spur zurück zu einem echten Menschen haben. Ohne diese Spur ist die Handlung nicht vertrauenswürdig.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.