🤖 machine learning

Sovereign Agentic Loops: Decoupling AI Reasoning from Execution in Real-World Systems

تقدم الورقة البحثية حلقات الوكلاء السياديين (SAL)، وهي بنية مستوية للتحكم تعزز سلامة الذكاء الاصطناعي من خلال فصل الاستنتاج عن التنفيذ عبر طبقة تحقق تتحقق من نوايا النموذج مقابل سياسات النظام والحالة قبل تنفيذها.

المؤلفون الأصليون: Jun He, Deying Yu

نُشر 2026-04-27

📖 3 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Jun He, Deying Yu

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك متدرباً ذكياً للغاية، فائق السرعة، ولكنه "شارد الذهن" بين الحين والآخر، يدعى AI.

هذا المتدرب بارع في التخطيط، لكنه لا يعرف في الواقع أين توضع الأشياء في مكتبك، وأحياناً يصاب بالارتباك. في معظم الشركات اليوم، يُمنح المتدرب مفاتيح المبنى ويُقال له: "ها هي المفتاح الرئيسي؛ إذا اعتقدت أن مصباحاً يحتاج إلى تغيير، فافعل ذلك فحسب".

المشكلة هي أنه إذا أساء المتدرب فهم مذكرة واعتقد أن جملة "الخادم يعاني من ارتفاع في الحرارة" تعني "يجب إلقاء الخادم في سلة المهملات"، فسيقوم بذلك فوراً. لا يوجد أحد ليوقفه لأنه يمتلك سلطة تنفيذ مباشرة.

هذه الورقة البحثية، "Soverement Agentic Loops" (حلقات الوكلاء السياديين)، تقترح طريقة جديدة للعمل مع هؤلاء العباقرة "شاردي الذهن".

الفكرة الجوهرية: "الوسيط الذكي" (The Smart Buffer)

بدلاً من إعطاء المتدرب المفاتيم، يقترح المؤلفون وجود وسيط — وهو مستوى تحكم سيادي (Sovereign Control Plane).

فكر في هذا الأمر كأنه مساعد تنفيذي منضبط للغاية يجلس بين المتدرب ومعدات المكتب الفعلية. تعمل العملية عبر ثلاث خطوات ذكية:

1. "النظارات الضبابية" (غشاء التعتيم - The Obfuscation Membrane)

عندما ينظر المتدرب إلى مكتبك ليقرر ما يجب فعله، فأنت لا تريده أن يرى أشياء حساسة — مثل كشوف حساباتك البنكية أو كلمات مرورك الخاصة.

تقترح الورقة البحثية إعطاء المتدرب "نظارات ضبابية". يمكنه رؤية هيكل الغرفة (على سبيل المثال: "هناك مكتب هناك، وحاسوب فوقه")، لكنه لا يستطيع رؤية هوية الأشياء (على سبيل المثال: "هذا هو حاسوب المدير التنفيذي الخاص الذي يحتوي على الملفات السرية"). بهذه الطريقة، يمكن للمتدرب الاستمرار في التفكير في التخطيط دون أن يعرف الأسرار أبداً.

2. "مقترح، وليس أمراً" (الفصل بين التفكير والتنفيذ)

في الطريقة القديمة، يقول المتدرب: "احذف قاعدة البيانات!" ويقوم الحاسوب بذلك.

في طريقة SAL (حلقة الوكيل السيادي)، لا يُسمح للمتدرب بلمس أي شيء. بدلاً من ذلك، يجب عليه تقديم مقترح رسمي إلى المساعد التنفيذي. يجب أن يتضمن المقترح:

ماذا يريد أن يفعل ("حذف عقدة").
لماذا يريد فعل ذلك ("لأنها تستهلك الكثير من الطاقة").

3. "اختبار الواقع" (محرك التقييم - The Evaluation Engine)

الآن، يأخذ المساعد التنفيذي (مستوى التحكم) هذا المقترح ويجري اختبارين:

اختبار القواعد: هل ينتهك هذا سياسة الشركة؟ (على سبيل المثال: "لا يُسمى لك أبداً حذف قاعدة بيانات في يوم الثلاثاء").
اختبار الحقيقة: هل "السبب" الذي قدمه المتدرب يتوافق مع الواقع فعلياً؟ إذا قال المتدرب: "أريد إطفاء مكيف الهواء لأنه بارد جداً"، بينما يشير ميزان الحرارة إلى أن درجة الحرارة هي 90 درجة، فإن المساعد سيكشف الكذبة ويقول: "محاولة جيدة، ولكن لا".

"الصندوق الأسود" (سلسلة الأدلة)

أخيراً، تقدم الورقة البحثية "صندوقاً أسود" (مثل الموجود في الطائرات). كل مقترح، وكل سبب مقدم، وكل قاعدة تم التحقق منها، وكل إجراء تم اتخاذه، يتم تدوينه في سجل رقمي مستحيل المحو أو التغيير. إذا حدث خطأ ما، فلا داعم للتخمين عما حدث؛ يمكنك "إعادة تشغيل" عملية اتخاذ القرار بأكملها لمعرفة أين فشل المنطق بالضبط.

هل ينجح الأمر؟ (النتائج)

اختبر الباحثون هذا باستخدام نموذج أولي يسمى OpenKedge على البنية التحتية السحابية (المحركات الرقمية التي تشغل الإنترنت).

إنه حارس شخصي رائع: لقد منع 100% من المحاولات "غير الآمنة" في اختبارهم. لقد كشف مخالفي القواعد الواضحين و"الكاذبين" الذين قدموا تبريرات سيئة.
إنه سريع: إضافة هذا "المساعد التنفيذي" لم تضف سوى حوالي 12 ميلي ثانية من التأخير. بالنسبة للإنسان، هذا أسرع من رمشة العين.

الخلا ملخص الفكرة

تجادل الورقة البحثية بأنه لا ينبغي لنا محاولة جعل الذكاء الاصطناعي "مثالياً" (لأنه من المستحيل رياضياً ضمان أن الذكاء الاصطناعي لن يرتكب خطأً أبداً). بد instead، يجب علينا بناء أقفاص أفضل.

من خلال الفصل بين "التفكير" (الذي هو فوضوي وغير متوقع) وبين "التنفيذ" (الذي يجب أن يكون صارماً وآمناً)، يمكننا ترك وكلاء الذكاء الاصطدي يعملون في عالمنا دون القلق من أنهم قد يحذفون الإنترنت عن طريق الخطأ.

ملخص تقني: حلقات الوكلاء السيادية (SAL)

العنوان: حلقات الوكلاء السيادية: فصل الاستنتاج بالذكاء الاصطناعي عن التنفيذ في الأنظمة الواقعية
المؤلفون: جون هي، ديينغ يو (OpenKedge.io)

1. المشكلة: ثغرة "التنفيذ المباشر"

تحدد الورقة البحثية خللاً هيكلياً حرجاً في أنظمة الوكلاء الحالية القائمة على النماذج اللغوية الكبيرة (LLM): الارتباط الوثيق بين الاستنتاج العشوائي وسلطة التنفيذ المباشرة.

في الأطر المعاصرة، يراقب النموذج اللغوي الكبير حالة النظام ثم يولد حمولة إجراء (مثل استدعاء واجهة برمجة التطبيقات API) يتم إرسالها فوراً إلى البيئة. يرى المؤلفون أن هذا أمر خطير لأن:

العشوائية (Stochasticity): النماذج اللغوية الكبيرة غير حتمية؛ حيث يمكن للمدخلات المتطابقة أن تنتج مخرجات مختلفة، أو متضاربة، أو غير آمنة.
عدم التوافق السياقي: قد يولد الوكيل أوامر صحيحة من الناحية التركيبية ولكنها كارثية من الناحية التشغيلية (مثل إنهاء قاعدة بيانات إنتاجية) بسبب استنتاج خاطئ أو ملاحظة جزئية للحالة.
مخاطر السيادة: لكي يستنتج الوكلاء بفعالية، فإنهم يحتاجون غالباً للوصول إلى بيانات نظام حساسة وغنية بالهويات (مثل عناوين IP، ومعرفات العقد)، مما يؤدي إلى "تسرب السياق" وانتهاك سيادة البيانات.

2. المنهجية: حلقة الوكيل السيادي (SAL)

يقترح المؤلفون "مبدأ الفصل" الرسمي: يجب أن تُنتج نماذج الاستنتاج قصداً قابلاً للتحقق بدلاً من سلطة التنفيذ المباشرة. وقد قدموا حلقة الوكيل السيادي (SAL)، وهي بنية لمستوى التحكم تعمل كوسيط حتمي بين وكيل الاستنتاج والنظام الفيزيائي.

تتكون بنية SAL من عدة مكونات رياضية وهيكلية رئيسية:

غشاء التمويه ( $\Pi$ ): لحماية السيادة، يستخدم النظام رسم خرائط إسقاط يحول الحالة الحقيقية ( $S$ ) إلى حالة مموهة ( $\hat{S}$ ). تقوم هذه العملية بتجريد السمات الحساسة للهوية (مع الحفاظ على $I(Sid; \hat{S}) = 0$ ) مع الحفاظ على الطوبولوجيا الهيكلية اللازمة لتمكين النموذج اللغوي من الاستنتاج بفعالية.
بروتوكول قائم على القصد: بدلاً من الأوامر الخام، يصدر النموذج قصداً ( $i$ ) مهيكلاً مقترناً بـ تبرير ( $J$ ) باللغة الطبيعية.
دالة التقييم السيادي ( $E$ ): محرك حتمي يتحقق من القصد عبر مسارين:
1. توافق السياسة ( $E_{policy}$ ): يتحقق من القصد مقابل الثوابت الصارمة للنظام والسياسات الأمنية (باستاستخدام أدوات مثل Open Policy Agent).
2. الاتساق السياقي ( $E_{consistency}$ ): يقارن تبرير النموذج ( $J$ ) مع بيانات القياس عن بُلة للنظام في الوقت الفعلي لضمان أن الاستنتاج ليس هلوسة (على سبيل المثال، التأكد من أن طلب إيقاف التشغيل بسبب "ارتفاع استهلاك المعالج" يتوافق مع مقاييس استهلاك المعالج الفعلية).
سلسلة الأدلة ( $C$ ): سجل مرتبط تشفيرياً وقابل للإضافة فقط، يسجل القصد، والتبرير، ونتيجة التقييم، والإجراء النهائي، مما يسمح بإعادة التشغيل الحتمي والتدقيق الجنائي.

3. المساهمات الرئيسية

صياغة الفصل: توفير إطار رياضي لفصل الاستنتاج الاحتمالي عن التنفيذ الحتمي.
العزل القائم على نظرية المعلومات: تعريف "غشاء التمويه" لضمان قدرة وكلاء الاستنتاج على العمل دون الوصول إلى بيانات الهوية الحساسة.
تجريد جديد لمستوى التحكم: نقل سلامة الوكيل من "التركيز على النموذج" (محاولة جعل النموذج اللغوي أفضل) إلى "التركيز على البنية" (تقييد تأثير النموذج اللغوي عبر حدود التنفيذ).
التطبيق (OpenKedge): نظام أولي يوضح التطبيق العملي لهذه النظريات في إدارة البنية التحتية السحابية.

4. النتائج والتقييم

قام المؤلفون بتقييم النموذج الأولي OpenKedge باستخدام مجموعة بيانات تضم 10,000 عملية محاكاة للبنية التحتية السحابية (7,500 عملية سليمة، 2,500 عملية معادية).

فعالية السلامة: حقق النظام معدل حظر بنسبة 100% للنوايا غير الآمنة.
- تم حظر 93% من الإجراءات غير الآمنة بواسطة طبقة السياسة القائمة على القواعد.
- تم كشف 7% بواسطة مقيم الاتساق (حيث تعارض الاستنتاج مع حالة النظام الفعلية).
تأخير زمن الاستجابة (Latency): أضافت عملية الوساطة متوسط تأخير قدره 12.4 ميلي ثانية، وهو ما يرى المؤلفون أنه ضئيل بالنسبة لمعظم أعباء عمل الأتمتة وتنسيق السحابة.
القابلية للتدقيق: حقق النظام معدل مطابقة بنسبة 100% في إعادة التشغيل الحتمي، مما يثبت أن سلسلة الأدلة نجحت في التقاط كل السياق اللازم لإعادة البناء.

5. الأهمية

تمثل هذه الورقة تحولاً في فلسفة سلامة الذكاء الاصطناعي. فبدلاً من محاولة حل "مشكلة المحاذاة" عبر جعل النماذج مطيعة تماماً (وهو أمر مستحيل حالياً)، تعامل SAL النموذج اللغوي الكبير كـ متحكم غير مستقر بمعناه في نظرية التحكم الكلاسيكية. ومن خلال حصر تأثير النموذج ضمن مستوى تحكم سيادي وحتمي، يقدم المؤلفون مخططاً لتشغيل الوكلاء المستقلين في البيئات عالية المخاطر والمهمة (مثل شبكات الطاقة، المدن الذكية، أو البنية التحتية السحابية للمؤسسات) حيث لا يوجد مجال لأسلوب "التجربة والخطأ".