OpenPort Protocol: A Security Governance Specification for AI Agent Tool Access
تقدم هذه الورقة بروتوكول "OpenPort"، وهو مواصفة لحوكمة الأمن تتيح وصولاً آمناً ومحايداً للنماذج لأدوات وكلاء الذكاء الاصطناعي من خلال بوابة جانب الخادم تتميز بتفويض قائم على الحد الأدنى من الامتيازات، وتنفيذ عمليات الكتابة المقيدة بالمخاطر مع المراجعة البشرية، وإعادة التحقق من الحالة، والقدرة على التدقيق الحتمي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك بنيت مساعداً آلياً عبقرياً فائق الذكاء (عميل ذكاء اصطناعي - AI Agent) يمكنه القيام بأشياء مذهلة: حجز الرحلات الجوية، إدارة حسابك البنكي، وتنظيم جدول مواعيدك. أنت تريد لهذا الروبوت أن يتحدث مباشرة مع تطبيقاتك لإنجاز المهام.
ولكن هناك مشكلة: إذا سلمت الروبوت مفاتيح منزلك ببساطة، فقد يكسر بالخطأ مزهريتك المفضلة، أو يسمح لغريب بالدخول، أو يحاول بيع منزلك لأنه أساء فهم نكتة ما.
بروتوكول "أوبن بورت" (OpenPort Protocol - OPP) هو بمثابة غرفة عزل فائقة الأمان ومنضبطة بالقواعد تقوم بتثبيتها بين الروبوت ومنزلك. هو لا يمنع الروبوت من العمل، بل يضمن فقط أنه يتبع قواعد صارمة، ويحصل على إذن للتحركات الكبيرة، ويترك أثراً ورقياً لكل ما يقوم به.
إليك كيف يعمل "أوبن بورت"، مقسماً إلى تشبيهات بسيطة:
1. "الحارس الذكي" (التفويض والاكتشاف)
في الأيام الخوالي، ربما كنت ستعطي الروبوت مفتاحاً رئيسياً. لكن "أوبن بورت" يقول: "لا توجد مفاتيح رئيسية."
بدلاً من ذلك، يجب على الروبوت أن يطرق الباب ويسأل: "ما الذي يمكنني فعله؟"
- البيان (The Manifest): يعرض الحارس (بوابة OpenPort) قائمة للمهام. ولكن السحر هنا هو: القائمة تتغير بناءً على هوية الروبوت. إذا كان مسموحاً للروبوت فقط بالتحقق من الطقس، فإن القائمة ستظهر "الطقس" فقط. لن تظهر حتى زر "حذف الحساب البنكي".
- التشبيه: تخيل نادياً للنخبة (VIP). إذا كنت عضواً عادياً، سيظهر لك الحارس ساحة الرقص. أما إذا كنت ضيفاً يرتدي سوار معصم "يمنع تناول الكحول"، فسيظهر لك الحارس ساحة الرقص ولكنه سيخفي البار تماماً. الروبوت لن يعرف حتى بوجود البار ما لم يكن لديه الإذن المناسب.
2. "غرفة المسودات" (الكتابة الآمنة)
هذا هو الجزء الأهم. إذا أراد الروبوت "قراءة" بريدك الإلكتروني، فيمكنه فعل ذلك فوراً. ولكن إذا أراد "الكتابة" (إرسال بريد إلكتروني، حذف ملف، تحويل أموال)، فإن "أوبن بورت" يقول: "توقف! لنكتب مسودة أولاً."
- العملية: يقول الروبوت: "أريد إرسال بريد إلكتروني إلى المدير التنفيذي". "أوبن بورت" لا يرسله، بل ينشئ مسودة ويضعها في صندوق "في انتظار الموافقة".
- التحقق البشري: ينظر مدير بشري (أنت أو مسؤول النظام) إلى المسودة: "ممم، هل كان الروبوت يقصد حقاً إرسال هذا؟ هل هو آمن؟". إذا كانت الإجابة نعم، يضغط الشخص على "موافقة"، وعندها فقط يتم إرسال البريد الإلكتروني.
- التشبيه: فكر في الأمر كأنه شيك بنكي. الروبوت يكتب الشيك (المسودة)، لكن البنك (OpenPort) يحتجزه حتى يوقع عليه مدير بشري. المال لا يغادر الحساب حتى يكون هذا التوقيع موجوداً. هذا يمنع الروبوت من إرسال مليون دولار بالخطأ للشخص الخطأ بسبب ارتباكه.
3. "إثبات السفر عبر الزمن" (ما قبل التشغيل والتكرارية)
أحياناً، يتغير العالم بينما أنت تنتظر الموافقة.
- المشكلة: يطلب الروبوت "حذف الملف المسمى 'مشروع ألفا'". تقوم أنت بالموافقة. ولكن بينما كنت تفكر، قام شخص آخر بتغيير اسم الملف إلى "مشروع بيتا". إذا قام الروبوت بالحذف الآن، فقد يحذف شيئاً خاطئاً.
- الحل (Preflight): قبل أن يطلب الروبوت الحذف، يقوم "أوبن بورت" بإجراء "محاكاة". إنه يحسب بصمة (hash) لما سيحدث بالضبط. عندما يحاول الروبوت التنفيذ أخيراً، يتحقق "أوبن بورت": "هل تطابق البصمة المحاكاة؟" إذا تغير الملف، فلن تتطابق البصمة، ويقول "أوبن بورت": "توقف! لقد تغير الوضع. اذهب واطلب من الإنسان مرة أخرى".
- التشبيه: الأمر يشبه طلب بيتزا مخصصة. أنت تصف البيتزا (المسودة). وقبل أن يطبخ الطاهي، يتحقق من المكونات. إذا نفد صلصة الطماطم أثناء انتظارك، سيقول الطاهي: "لا يمكننا صنع هذه البيتزا بالضبط بعد الآن. اطلب من الزبون مرة أخرى".
4. "الصندوق الأسود" (سجلات التدقيق)
يتطلب "أوبن بورت" تسجيل كل شيء في سجل غير قابل للتغيير.
- القاعدة: في كل مرة يطلب فيها الروبوت شيئاً، أو يُرفض طلبه، أو تتم الموافقة عليه، يتم تسجيل سجل. يسجل السجل من الذي طلب، ماذا طلب، لماذا تم رفضه، ومن الذي وافق عليه.
- التشبيه: تخيل وجود جهاز تسجيل طيران (صندوق أسود) في طائرة. إذا تعطل الروبوت أو فعل شيئاً غريباً، يمكنك النظر في السجل ورؤية ما حدث بالضبط. لا يمكنك مسح السجل، ولا يمكن للروبوت إخفاء آثاره.
5. "حد السرعة" (تحديد معدل الطلبات)
ماذا لو علق الروبوت في حلقة مفرغة وحاول طلب أشياء ملايين المرات في الثانية؟
- الحل: يضع "أوبن بورت" حد سرعة للروبوت. إذا طلب بسرعة كبيرة، يقول النظام: "تمهل!" ويعطي رسالة خطأ مهذبة (مثل علامة "429 طلبات كثيرة جداً") تخبر الروبوت بالانتظار.
- التشبيه: الأمر يشبه كشك تحصيل الرسوم. إذا حاولت 1000 سيارة الدخول في وقت واحد، يغلق الكشك المسار ويقول: "انتظر دورك". هذا يمنع النظام من الانهيار أو الارتباك.
لماذا نحتاج إلى هذا؟
عملاء الذكاء الاصطناعي يشبهون المتدربين الأقوياء. إنهم سريعون ومتحمسون، لكن يمكن أن يكونوا مهملين، أو يسهل خداعهم (بواسطة تعليمات سيئة)، أو مرتبكين.
- بدون "أوبن بورت": تعطيهم مفتاحاً رئيسياً. قد يحذفون بالخطأ قاعدة بيانات الشركة بأكملها لأنهم أخطأوا في قراءة أمر ما.
- مع "أوبن بورت": تعطيهم بطاقة دخول مقيدة. يمكنهم فقط فتح الأبواب المسموح لهم بها. إذا أرادوا نقل صندوق ثقيل (إجراء محفوف بالمخاطر)، فعليهم ملء نموذج، والانتظار حتى يوقع المدير، وإثبات أنهم لا يحملون الصندوق مقلوباً.
الخلاصة
"أوبن بورت" هو كتاب قواعد للسلامة. يضمن أنه عندما يتفاعل عملاء الذكاء الاصطناعي مع أدوات عالمنا الحقيقي، فإنهم يفعلون ذلك بـ أقل امتيازات ممكنة (فقط القيام بما يحتاجون إليه تماماً)، وإشراف بشري (للقرارات الكبيرة)، وذاكرة مثالية (حتى نعرف ما حدث إذا ساءت الأمور). إنه يحول الفوضى الخطيرة إلى سير عمل آمن، يمكن التنبؤ به، وقابل للتدقيق.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.