KYA: A Framework-Agnostic Trust Layer for Autonomous Systems with Verifiable Provenance and Hierarchical Policy Composition
تُعد KYA طبقة ثقة مفتوحة المصدر ومستقلة عن الأطر البرمجية للأنظمة ذاتية التشغيل، حيث توظف خمسة عناصر أساسية — بما في ذلك خط معالجة تطبيق ذي أربع بوابات آمنة، وتكوين سياسات هرمي، ونظام موحد لتقييم الثقة — للكشف عن انحراف الوكلاء، والتسريبات، والهجمات العدائية مع الحفاظ على زمن استجابة يقل عن ميلي ثانية واحدة وإنتاجية عالية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك أسطولاً من الروبوتات المستقلة (الوكلاء الذكيين - AI agents) يعمل لصالحك. إنهم يقدمون طلبات للحصول على قروض، أو يصنفون المرضى في المستشفيات، أو يتداولون الأسهم. حالياً، الأدوات التي نستخدمها لمراقبة هذه الروبوتات (المعروفة بـ "القابلية للملاحظة" - observability) تشبه لوحة قيادة السيارة: فهي تخبرك إذا كان المحرك يسخن، أو إذا كانت السيارة تتحرك ببطء، أو إذا تعطل جزء ما.
نظام KYA (اعرف وكلاءك - Know Your Agents) هو نظام جديد لا يكتفي بمراقبة المحرك فحسب؛ بل يعمل كـ حارس أمن، ومحقق، وكاتب عدل في آن واحد. إنه يجيب على الأسئلة التي لا تستطيع لوحة القيادة الإجابة عنها: هل يكذب هذا الروبوت؟ هل بدأ ينحرف عن المسار؟ هل يسرب أسراراً؟ وإذا حدث خطأ ما، فمن المسؤول فعلياً؟
إليك كيف يعمل KYA، مقسماً إلى خمسة أجزاء بسيطة باستخدام تشبيهات من الحياة اليومية:
1. الفحص الأمني ذو البوابات الأربع (الـ "بواب")
قبل أن يُسمح لأي وكيل ذكاء اصطنا-ي بالقيام بأي شيء جديد أو تغيير قواعده، يجب أن يمر عبر أربع بوابات أمنية صارمة. فكر في الأمر كخزنة بنك عالية التأمين:
- البوابة 1: هل الشخص الذي يحمل المفتاح وقع بالفعل على هذا الطلب؟ (فحص التوقيع الرقمي).
- البوابة 2: هل لا يزال هذا الطلب صالحاً، أم أنه انتهت صلاحيته؟ (فحص الوقت).
- البوابة 3: هل يجعل هذا الطلب القواعد أكثر صرامة أم أكثر تساهلاً؟ KYA يسمح فقط بأن تصبح القواعد أكثر صرامة (أكثر أماناً)، ولا يسمح أبداً بأن تصبح أقل صرامة. الأمر يشبه والداً يقول: "يمكنك إضافة المزيد من المهام المنزلية، لكن لا يمكنك إزالة المهام التي لديك بالفعل".
- البوابة 4: هل وافق إنسان بالفعل بكلمة "نعم"؟ بشكل افتراضي، يجب على الإنسان الموافقة على التغيير.
2. قاعدة "التضييق فقط" (الـ "شبكة الأمنية")
تخيل أن لديك كتاب قواعد لروبوتاتك. تضع الشركة (المنصة) القواعد الأساسية. يمكنك أنت (المستأجر/العميل) إضافة قواعدك الخاصة الأكثر صرامة، لكن لا يمكنك أبداً حذف قواعد السلامة الخاصة بالشركة.
يستخدم KYA نظاماً رياضياً خاصاً لضمان أنه مهما أضاف الأشخاص من قواعد، فإن النظام لن يصبح أقل أماناً عن طريق الخطأ. إنه يشبه كومة من شبكات الأمان: يمكنك إضافة المزيد من الشبكات، لكن لا يمكنك أبداً سحب واحدة من الأسفل.
3. KYP: "اعرف موكلك" (الـ "بطاقة الهوية العالمية")
في الماضي، كانت لدينا بطاقات هوية منفصلة للبشر، ودرجات منفصلة للروبوتات، وسجلات منفصلة للسكربتات المؤتمتة. يضع KYA الجميع في نظام بطاقة هوية واحدة.
سواء كان الفاعل بشراً موظفاً، أو روبوتاً ذكياً، أو سكربت يعمل في الخلفية، يمنحه KYA "درجة ثقة" (Trust Score). إذا بدأ الروبوت في التصرف بشكل سيء، تنخفض درجته. إذا ارتكب إنسان خطأً، تنخفض درجته. إنه يعامل الجميع بنفس الطريقة، مما يسهل معرفة من هو جدير بالثقة ومن هو خطر.
4. "مضاعف التفاعل" (الـ "مزيج الخطير")
أحياناً، يكون الإجراء الواحد عادياً، لكن إجراءين معاً قد يكونان خطيرين.
- مثال: منح الروبوت أداة "كتابة" أمر مخاطرة. منح الروبوت الوصول إلى "بيانات خاصة" أمر مخاطرة.
- المضاعف: إذا منحت الروبوت كلاً من أداة الكتابة و الوصول إلى البيانات الخاصة، فإن الخطر ليس مجرد "مخاطرة + مخاطرة". بل هو "خطر فائق".
لدى KYA قائمة خاصة بهذه "المزيجات الخطيرة". عندما يرى هذه المزيجات، يقوم بضرب درجة المخاطرة ورفعها، مما ينبه المشغل البشري أن هذا المزيج تحديداً يتطلب تدقيقاً إضافياً.
5. "لعبة اللوم" (مسؤولية المنسق)
هذه واحدة من أهم الميزات. تخيل أن "روبوت مدير" قام بتعيين ثلاثة "روبوتات عاملة" للقيام بمهمة. إذا خرج أحد "الروبوتات العاملة" عن المسار وسرق بيانات، فمن الذي سيتحمل اللوم؟
- الطريقة القديمة: يتم لوم الروبوت العامل، بينما يخرج الروبوت المدير سليماً من الخطأ.
- طريقة KYA: يتم لوم الروبوت المدير.
يفترض KYA أنك إذا وظفت عاملاً محفوفاً بالمخاطر، فأنت مسؤول عما يفعله. إذا أساء وكيل فرعي التصرف، يقوم النظام فوراً بخصم نقاط من درجة ثقة المدير. هذا يمنع المديرين من الاختباء خلف وكلاء فرعيين "نظيفين" للقيام بأعمال مشبوهة.
كيف يتعامل مع الأدلة (الـ "مذكرات غير القابلة للتلاعب")
في كل مرة يقوم فيها وكيل ما بفعل ما، يقوم KYA بكتابته في مذكرات رقمية. لكن هذه ليست مجرد سجلات عادية؛ إنها مذكرات مرتبطة تشفيرياً.
- كل مدخل مرتبط بالمدخل الذي سبقه باستخدام قفل رياضي خاص (HMAC).
- إذا حاول شخص ما العودة وتغيير مدخل قديم (مثل مسح خطأ ما)، سينكسر القفل، وسيتم وسم المذكرات بأكملها على أنها "تم التلاعب بها".
- هذا يخلق سجلاً مقبولاً أمام المحاكم لما حدث بالضبط، ومن قام به، ومتى.
ما الذي وجده البحث فعلياً
اختبر المؤلفون هذا النظام مع تحديات صعبة:
- السرعة: إنه سريع للغاية. يمكنه فحص آلاف الوكلاء في الثانية دون إبطائهم.
- التوافق: يعمل مع أكثر من 15 نوعاً مختلفاً من أطر عمل الذكاء الاصطناعي (مثل LangChain و CrewAI وغيرها). لا يهم ما هو البرنامج الذي تستخدمه؛ KYA يوضع فوقه.
- اختبارات الاختراق: استعان الفريق بـ "فرق حمراء" (هكرز) لمحاولة خداع الوكلاء. نجح KYA في كشف 89% من الهجمات، بما في ذلك نوع جديد ومخادع من الهجمات حيث يستخدم الهكرز سلسلة من الروبوتات لإخفاء آثارهم.
- سيناريوهات واقعية: اختبروه في نظام محاكاة لقروض البنوك ونظام فرز في مستشفى. في كلتا الحالتين، نجح النظام في تحديد الوكلاء الخطيرين وتتبع السلوك السيئ وصولاً إلى الشخص (أو الروبوت) الصحيح.
الخلاصة
KYA هو أداة مفتوحة المص المصدر (مجانية الاستخدام) تقع بين وكلاء الذكاء الاصطناوي الخاص بك وبين العالم الحقيقي. إنه لا يخبرك فقط إذا كان الذكاء الاصطناعي يعمل؛ بل يخبرك ما إذا كان الذكاء الاصطناعي آمناً، وصادقاً، وخاضعاً للمساءلة. إنه يضمن أنه إذا ارتكب الذكاء الاصطناعي خطأً، فسنعرف بالضبط من نُحاسب، وسيكون لدينا سجل غير قابل للتلاعب لإثبات ذلك.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.