HDP: A Lightweight Cryptographic Protocol for Human Delegation Provenance in Agentic AI Systems
تقدم هذه الورقة بروتوكول إثبات التفويض البشري (HDP)، وهو مخطط تشفير خفيف الوزن وقابل للتحقق دون اتصال بالإنترنت، يضمن المساءلة في أنظمة الذكاء الاصطناğu الوكيلية من خلال ربط التفويض البشري تشفيرياً بسلاسل التفويض متعددة الخطوات عبر رموز موقعة، مما يعالج فجوة حرجة تركتها المعايير الحالية مثل OAuth 2.0 وJWTs.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك وظفت طباخاً ماهراً (المبدئ البشري) ليطهو وجبة معقدة لحفلة عشاء. الطباخ لا يطهو كل شيء بنفسه؛ بل يفوض المهام إلى مساعد طباخ، والذي بدوره يفوض إلى طباخ خط إنتاج، والذي ينتهي به الأمر بطلب من عامل غسيل الأطباق لإحضار توابل معينة.
في عالم الذكاء الاصطناعي الوكيل (Agentic AI)، يحدث هذا بالضبط. يعطي الإنسان هدفاً كبيساً للذكاء الاصطناعي، فيقوم هذا الذكاء بتفكيكه، وتسليم المهام إلى وكلاء ذكاء اصطناعي آخرين، الذين بدورهم يسلمونها إلى أدوات تقوم بالعمل الفعلي (مثل إرسال بريد إلكتروني، أو تحويل أموال، أو حذف ملف).
المشكلة: "لعبة الهاتف" للثقة
تجادل الورقة البحثية بأنه في عالم الذكاء الاصطناعي الحديث هذا، توجد فجوة محاسبة هائلة. إذا تسبب عامل غسيل الأطباق بالخطأ في حرق المنزل، فمن المسؤول؟
- هل أراد الإنسان حقاً من عامل غسيل الأطباق لمس الموقد؟
- هل أعطى مساعد الطباخ أمراً مزيفاً؟
- هل تسلل مخترق وهمس بأمر لعامل غسيل الأطباق (هجوم "حقن الأوامر" - Prompt Injection)؟
حالياً، لا توجد طريقة معيارية لتتبع الأمر وصولاً إلى الإنسان. إنها تشبه لعبة "الهاتف" حيث تتشوه الرسالة، وبحلول وقت تنفيذ الإجراء، لا أحد يعرف من الذي قال "افعل" حقاً.
الحل: HDP (الـ "جواز سفر الرقمي" لمهام الذكاء الاصطناعي)
يقترح المؤلفون بروتوكولاً جديداً يسمى أصل التفويض البشري (Human Delegation Provenance - HDP). فكر في HDP كـ جواز سفر رقمي غير قابل للتلاعب يرافق كل مهمة يؤديها الذكاء الاصطناعي.
إليك كيف يعمل، باستخدام تشبيهات بسيطة:
1. "المظروف المختوم" (الرمز - Token)
عندما يعطي الإنسان التعليمات الأولى، فهو لا يكتفي بقول "افعل هذا". بل يوقع وثيقة رقمية (الرمز) تقول:
- مَن: "أنا، أليس، أفوض هذا."
- ماذا: "أنا أسمح لك بإرسال رسائل البريد الإلكتروني، ولكن لفريقي فقط."
- متى: "هذا صالح لمدة 24 ساعة القادمة."
- معرف الجلسة (Session ID): "هذا من أجل اجتماع اليوم، وليس بالأمس."
هذه الوثيقة مختومة بختم شمعي تشفيري فريد (توقيع Ed25519) لا يملك مفتاحه إلا "أليس".
2. "سلسلة الحيازة" (سجل القفزات - Hop Record)
الآن، يقوم الذكاء الاصطناعي بتمرير هذه المهمة إلى وكيل فرعي. لا يمكن للوكيل الفرعي أن يقول فقط "أنا أقوم بالمهمة"، بل يجب عليه:
- التحقق من جواز السفر للتأكد من صحته.
- إضافة "ختمه" الخاص في أسفل الوثيقة، قائلاً: "لقد استلمت هذا من الوكيل السابق وأنا الآن أمرره إلى الأداة."
- تمرير الوثيقة الكاملة (مع جميع الأختام السابقة) إلى الوكيل التالي.
هذا يخلق سلسلة قابلة للإضافة فقط (Append-only chain). إنه يشبه دفتر الإيصالات حيث لا يمكنك تمزيق الصفحات أو مسح الحبر. إذا حاول مخترق التسلل وتغيير الأمر من "إرسال بريد إلكتروني" إلى "تحويل أموال"، فإن الأختام التشفيرية ستنكسر، وسيرى الوكيل التالي أن الوثيقة مزورة.
3. "المحقق غير المتصل بالإنترنت" (التحقق - Verification)
الجزء الأكثر روعة في HDP هو أن الوكيل النهائي (الذي يقوم بالعمل الفعلي) ليس بحاجة للاتصال بخادم مركزي، أو التحقق من قاعدة بيانات، أو طلب الإذن من مدير.
- هو فقط ينظر إلى جواز السفر.
- يتحقق من العمليات الحسابية للأختام.
- يتحقق مما إذا كان "معرف الجلسة" يتوافق مع الاجتماع الحالي.
- النتيجة: إذا كانت الحسابات صحيحة، فهو يعلم يقيناً أن بشرياً قد صرح بهذا. وإذا فشلت الحسابات، فإنه يتوقف فوراً.
هذا يعمل حتى لو كان الإنترنت مقطوعاً (البيئات المعزولة - air-gapped)، لأن الإثبات موجود في الوثيقة نفسها.
لماذا هذا مهم (لماذا يجب أن أهتم؟)
- إيقاف هلاوس الذكاء الاصطناعي والاختراقات: إذا حاول مخترق خداع ذكاء اصطناعي للقيام بشيء سيء (حقن الأوامر)، فلن يمتلك الذكاء الاصطناعي رمز HDP صالحاً لهذا الإجراء. سيرى النظام "الختم" المفقود ويقول: "لم يصرح أي بشر بهذا. توقف."
- السلامة القانونية: إذا قام ذكاء اصطناعي بحذف قاعدة بيانات شركة عن طريق الخطأ، يمكن للمنظمين النظر في سلسلة HDP والقول: "آه، يمكننا رؤية بالضبط أي بشري صرح بهذا، وماذا قال أنهم يفعلونه، وأين انكسرت السلسلة."
- لا بيروقراطية: على عكس الأنظمة القديمة التي تتطلب اتصالات مستمرة بسلطة مركزية للتحقق من صحة الرمز، فإن HDP مكتفٍ ذاتياً. إنه مثل رخصة القيادة: لا تحتاج للاتصال بوزارة النقل في كل مرة تقود فيها؛ الشرطة تتحقق فقط من الرخصة نفسها.
الخلاصة
تقدم الورقة البحثية HDP كوسيلة خفيفة وآمنة لضمان أنه عندما تقوم وكلاء الذكاء الاصطناعي بأشياء في العالم الحقيقي، يمكننا دائماً تتبع تلك الأفعال وصولاً إلى إنسان حقيقي قال "نعم، أريد حدوث هذا". إنها تحول سلسلة أوامر الذكاء الاصطناعي الفوضوية وغير المرئية إلى مسار ورقي واضح وغير قابل للكسر.
باختاً: HDP هو "الإيصال" الذي يثبت أن الذكاء الاصطناعي لم يختلق الأمور من تلقاء نفسه، وأن بشرياً قد وافق بالفعل على المهمة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.