DualTrust: Asymmetric Bayesian Reputation and Cryptographic Gating for Autonomous AI Agents

إن عالم الحوسبة يشهد تحولاً هادئاً. فلعقود من الزمن، تفاعلنا مع الآلات عبر الشاشات، نضغط على الزجاج وننقر الفأرة لإعطاء أوامر صريحة. والآن، يبرز عصر جديد من "الذكاء المحيطي"، حيث تعمل النظارات الذكية والساعات وأجهزة الاستشعار في الخلفية، تستمع إلى طلباتنا المنطوقة وتنفذها دون الحاجة إلى لمس أي زر. في هذا المستقبل، قد يسمع وكيل برمجيات شخصي قولك: "أمّن رحلتي اليومية"، فيقوم تلقائياً بحجز وسيلة نقل، والتحقق من حركة المرور، ودفع الأجرة. هذه الوكلاء أقوياء، لكنهم محفوفون بالمخاطر أيضاً؛ فبما أنها مدفوعة بنماذج لغوية كبيرة يمكن أن ترتكب أخطاء أو تُخدع من قبل جهات سيئة، فإن منحهم مفاتيح حسابك المصرفي أو نظام أمن منزلك يعد أمراً مرعباً. إذا خرج الوكيل عن السيطرة، فقد يستنزف أموالك أو يفتح أبواب منزلك. التحدي المركزي للعلماء هو كيفية السماح لهؤلاء الوكلاء بالعمل بحرية مع إيقافهم فوراً إذا حاولوا القيام بشيء ضار، وكل ذلك دون إبطاء التجربة أو استهلاك قدر هائل من طاقة الحوسبة.

لقد حاول الباحثون حل هذه المشكلة باستخدام ذكاء اصطناعي ثانٍ، أبطأ، ليعمل كقاضٍ يفحص كل إجراء يريد الوكيل اتخاذه. ومع ذلك، فإن هذا النهج بطيء جداً بالنسبة للعالم الحقيقي؛ إذ قد يستغرق الأمر مئات الملي ثانية للوصول إلى حكم، وهو ما يعد دهراً عندما تقود سيارة وسط حركة المرال أو عندما يتعامل جهاز طبي مع مريض. علاوة على ذلك، فإن طلب الإذن باستمرار من ذكاء اصطناعي ثانٍ أمر مكلف ويستنزف بطارية الأجهزة القابلة للارتداء. وهناك نهج آخر يستخدم قواعد ثابتة، مثل حارس الأمن الذي يتحقق من هويتك مرة واحدة فقط عند الباب، لكن هذا النهج يفشل عندما يغير الوكيل سلوكه ببطء بمرور الوقت أو يحاول تمرير أفعال صغيرة غير قانونية واحداً تلو الآخر. لسد هذه الفجوة، طور باحث يدعى خيران نور فضل الله نظاماً جديداً يسمى "DualTrust". وقد صُمم ليكون حارساً عالي السرعة يتوسط بين الوكيل والأدوات التي يريد استخدامها، حيث يتخذ القرارات في أجزاء من المليون من الثانية (مايكرو ثانية) بدلاً من الملي ثانية.

تتمثل الفكرة الجوهرية وراء "DualTrust" في الفصل بين المالك البشري والوكيل البرمجي. في هذا النظام، يمتلك الإنسان حساباً مالياً برصيد محدد، بينما يمتلك الوكيل درجة سمعة بناءً على سلوكه. إذا ارتكب الوكيل خطأً أو حاول القيام بشيء خطير، فإن النظام لا يعاقب الإنسان، بل يعاقب سمعة الوكيل. وهذا يسمح للإنسان بالاستمرار في استخدام جهازه حتى لو تعرض مساعده البرمجي للاختطاف أو الارتباك. يتتبع النظام تاريخ الوكيل باستخدام طريقة رياضية توازن بين السلوك الجيد والسلوك السيئ. ومن الأهمية بمكان أنه يعامل الأخطاء المتكررة بقسوة أكبر بكثير من الخطأ الواحد. فإذا حاول وكيل تمرير سلسلة من الأفعال الصغيرة غير القانونية، وهي تكتيك يُعرف باسم "تقطيع الراتب" (salami slicing)، فإن العقوبة لكل خطأ جديد تزدل بسرعة متزايدة، مما يدفع الوكيل سريعاً إلى حالة الحجر الصحي حيث يتم عزله تماماً.

ولمنع الجهات السيئة من مجرد إنشاء وكلاء جدد لتجاوز هذه القواعد، يربط "DualTrust" كل وكيل جديد بالهوية الموثقة والائتمان الأصلي للإنسان. يبدأ كل وكيل جديد بمستوى منخفض من الثقة، ويجب أن يثبت نفسه من خلال أداء العديد من المهام الآمنة قبل أن يُسمح له بالوصيول إلى أدوات خطيرة مثل التحويلات المالية أو الضوابط الفيزيائية. وهذا يخلق حاجزاً يجعل من الصعب والمكلف على المهاجم إعادة ضبط سمعته. كما يحمي النظام ضد مجموعات الوكلاء المزيفين الذين يحاولون تلفيق التهم لوكيل جيد؛ فإذا حاول وكيل منخفض الثقة اتهام وكيل عالي الثقة بارتكاب جريمة، يتجاهل النظام الاتهام، مما يضمن عدم جر وكيل موثق بواسطة سرب من الكاذبين.

لقد اختبر الباحثون هذا النظام على نطاق واسع لمعرفة ما إذا كان بإمكانه التعامل مع سرعة وفوضى الاستخدام في العالم الحقيقي. أجروا عمليات محاكاة شملت آلاف الدورات من الهجمات، بما في ذلك الوكلاء الذين يحاولون تمرير أخطاء صغيرة والآخرون الذين يحاولون إغراق النظام باتهامات مزيفة. أظهرت النتائج أن "DualTrust" يمكنه اتخاذ قرارات التفويض في حوالي 47 مايكرو ثانية، وهو ما يزيد عن ستة آلاف مرة عن سرعة أنظمة السلامة الحالية التي تعتمد على الشبكات العصبية. وحتى عندما كان النظام يكتب قراراته في وحدة تخزين دائمة لضمان الاحتفاظ بسجل، ظل التأخير أقل من ملي ثانية واحدة. هذه السرعة حاسمة لأنها تعني أن فحص السلامة يحدث بسرعة تجعل المستخدم لا يلاحظ أي توقف، ومع ذلك فإن النظام قوي بما يكفي للإمساك بالهجمات المعقدة التي قد تفلت من الفلاتر الأبطأ القائمة على القواعد.

كان أحد أهم النتائج هو كيفية تعامل النظام مع "الثلاثية الصعبة" للسلامة: الصراع بين السرعة والتكلفة والأمن. فمن خلال استخدام محرك حتمي قائم على القواعد بدلاً من ذكاء اصطناعي ثانٍ للحكم على كل حركة، ألغى "Dual_Trust" التكلفة العالية لرسوم الرموز (tokens) والاستهلاك الهائل للطاقة الناتج عن تشغيل النماذج الكبيرة. لقد أثبت أنك لست بحاجة إلى سوبر كمبيوتر للحفاظ على سلامة الوكيل؛ بل تحتاج إلى حارس ذكي وسريع ومنضبط رياضياً. نجح النظام في منع المهاجمين المحاكيين من استنزاف الموارد أو تجاوز القواعد، وغالباً ما قام بعزلهم في غضون دورات قلي few قليلة من السلوك السيئ. كما أظهر قدرته على التعافي من الإنذارات الكاذبة، مثل فشل أداة ما بسبب خلل في الشبكة، من خلال التمييز بين الخطأ المؤقت والهجوم المتعمد.

كما سلطت الدراسة الضوء على أهمية الاحتفاظ بسجل غير قابل للتلاعب بكل قرار. يقوم "DualTrust" بتسجيل كل إجراء، وكل عقوبة، وكل موافقة في سجل آمن وغير قابل للتغيير. وهذا ينشئ تاريخاً دائماً يمكن تدقيقه لاحقاً لمعرفة ما حدث بالضبط، مما يضمن أنه إذا حدث خطأ ما، فسيكون هناك دليل رياضي واضح على من فعل ماذا ومتى. هذه الميزة حيوية لبناء الثقة في عالم تتخذ فيه الوكلاء المستقلة قرارات في العالم الحقيقي. وأشار الباحثون إلى أنه بينما يعد النظام فعالاً للغاية في عمليات المحاكاة والاختبارات المنضبطة، فإنه لا يزال يعتمد على دقة أجهزة الاستشوالأدوات التي تبلغ عن الأخطاء. فإذا لم يتمكن النظام من رؤية الخطأ، فلن يتمكن من معاقبته، وسيتعين على العمل المستقبلي التركيز على مدى أداء هؤلاء الوكلاء عند التفاعل مع نماذج ذكاء اصطناي حية وغير متوقعة في العالم الحقيقي.

في النهاية، يقدم هذا العمل مخططاً عملياً لمستقبل يمكننا فيه الوثوق بأجهزتنا للعمل نيابة عنا دون إشراف مستمر. إنه ينتقل من فكرة القاضي الذكي الاصطناعي البطيء والمكلف إلى الحارس السريع والفعال والمنضبط رياضياً. ومن خلال الفصل بين هوية الإنسان وسلوك الوكيل واستخدام نظام يتعلم ويتكيف مع التهديدات في الوقت الفعلي، يوفر "DualTrust" أساساً للجيل القادم من التكنولوجيا القابلة للارتداء. إنه يشير إلى أنه يمكننا الحصول على مساعدين مستقلين أقوياء ليسوا أذكياء فحسب، بل آمنين وسريعين ومسؤولين أيضاً، مما يسمح لنا بالدخول إلى عالم محيطي دون خوف من فقدان السيطرة.