💻 computer science

Reconstructive Authority Model: Runtime Execution Validity Under Partial Observability

تقدم الورقة البحثية نموذج السلطة الإعادة البنائية (RAM)، وهو إطار عمل يعمل على تحسين سلامة الأنظمة المستقلة من خلال نقل التركيز من مجرد التحقق من سلامة البيانات (التصديق) إلى ضمان أن الحالة الملحوظة توفر تغطية كافية لتبرير إجراء محدد.

المؤلفون الأصليون: Marcelo Fernandez - TraslaIA

نُشر 2026-04-28

📖 3 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Marcelo Fernandez - TraslaIA

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

المشكلة: مغالطة "الإيصال المثالي"

تخيل أنك مدير بنك. دخل عليك عميل يحمل هوية حكومية صالحة تماماً، وإيصالاً موقعاً يثبت أن في حسابه 1,000 دولار. يبدو كل شيء مثالياً. فحصت الهوية (وهذا هو التوثيق/Attestation)، وهي أصلية. وفحصت الإيصال (وهذا هو إثبات الحالة/State Proof)، والحسابات صحية.

وافقتَ على عملية السحب.

لكن هنا تكمن الخدعة: بينما كان العميل يسير من الصراف الآلي إلى مكتبك، فقد محفظته بالفعل، أو ربما أصدر قاضٍ للتو أمراً بتجميد حسابه في مدينة أخرى، أو أنه يتم رصده حالياً بتهمة احتيال في نظام لا تملك أنت صلاحية الوصول إليه.

كان "الإيصال" أصلياً، و"الهوية" حقيقية، لكن الواقع قد تغير بطرق لم تستطع أوراقك الرسمية رؤيتها. لقد اتخذت قراراً "صحيحاً" بناءً على أوراق "مثالية"، لكنك اتخذت قراراً "خاطئاً" بناءً على الواقع الفعلي.

تجادل هذه الورقة بأن أنظمة الذكاء الاصطناي والأنظمة المستقلة الحالية تعاني من هذه المشكلة تحديداً. فهي بارعة في إثبات أن بياناتها لم يتم التلاعب بها، لكنها سيئة جداً في إدراك متى لم تعد بياناتها صورة كاملة للواقع.

الحل: نموذج السلطة إعادة البناء (RAM)

تقدم الورقة نموذج RAM. فبدلاً من السؤال: "هل تطابق هذه الأوراق سجلاتي؟"، يسأل RAM سؤالاً أصعب بك كثيراً: "بناءً على ما يمكنني رؤيته الآن، هل يمكنني حقاً إثبات أن لدي الحق في التصرف؟"

فكر في الفرق بين رجل الأمن والمحقق.

الطريقة الحالية (التوثيق): ينظر رجل الأمن إلى شارتك. إذا كانت الشارة حقيقية ولم يتم التلاعب بها، فأنت داخل. هو لا يهتم إذا كنت تحمل حقيبة مسروقة؛ إذا كانت الشارة جيدة، يُفتح الباب.
طريقة RAM: المحقق لا ينظر إلى الشارة فحسب. بل ينظر إلى الشارة، و سلوكك، و حالة الطقس، و ما إذا كانت الأضواء تومض. إذا لم يستطع رؤية ما يكفي من "الصورة الكبيرة" ليكون متأكداً بنسبة 100% من أنك تنتمي إلى هذا المكان، فهو لا يسمح لك بالدخول. هو لا يخمن، ولا يفترض. هو ببداً يقول: "ليس لدي معلومات كافية لأقول نعم، لذا فالإجابة هي لا."

ثلاثة مفاهيم رئيسية لنموذج RAM

1. "غلاف التغطية" (خريطة النقاط العمياء)

يجبر RAM النظام على الاعتراف بما لا يعرفه. فهو ينشئ "خريطة" تتضمن:

ما أعرفه: (الحقائق المثبتة).
ما أفترضه: ("التخمينات المدروسة" التي نضعها لضمان استمرار العمل).
"المنطقة المظلمة": (الأشياء التي نعلم بوجودها ولكننا ببساطة لا نستطيع رؤيتها في الوقت الحالي).

من خلال الاعتراف بـ "المنطقة المظلمة"، يتجنب النظام فخ التظاهر بأنه يعرف كل شيء.

2. عدم الاستمرارية (السلطة ليست "تصريحاً")

في معظم الأنظمة، بمجرد أن تصبح "مخولاً"، تظل كذلك لفترة من الوقت. أما RAM فيعامل السلطة مثل مصباح يدوي في غابة مظلمة. أنت لا تكتفي بتشغيل المصباح مرة واحدة ثم تمشي عبر الغابة؛ بل يجب عليك الاستمرار في توجيه الضوء نحو الأرض مع كل خطوة تخطوها. إذا ومض الضوء أو انخفضت البطاريات، تتوقف عن الحركة فوراً.

3. تضييق الامتيازات (مفتاح التحكم في شدة الإضاءة)

إذا كان النظام متأكداً "إلى حد ما" فقط، فليس عليه التوقف تماماً. يمكنه استخدام "مفتاح التحكم":

ضوء كامل: "أرى كل شيء بوضوح. يمكنك تحويل 1,000 دولار."
ضوء خافت: "أنا غير متأكد قليلاً بشأن موقعك. يمكنك تحويل 5 دولارات فقط."
ظلام دامس: "لا يمكنني رؤية أي شيء. سأقوم بتجميد جميع الأنشطة."

الخلاصة

تثبت الورقة رياضياً أنه طالما توجد فجوة بين "ما يمكننا إثباته" وبين "ما يحدث فعلياً"، فإن الأنظمة الحالية سترتكب أخطاءً كارثية في النهاية.

فلسفة RAM بسيطة: من الأفضل أن نكون "حذرين للغاية" ونوقف إجراءً ما بسبب عدم اليقين، بدلاً من أن نكون "واثقين للغاية" وننفذ إجراءً يكون في الواقع كارثة. إنها تنقل حوكمة الذكاء الاصطناعي من سؤال "هل هذه البيانات صالحة؟" إلى سؤال "هل الواقع كافٍ؟"

ملخص تقني: نموذج السلطة الإعادة البنائية (RAM)

العنوان: نموذج السلطة الإعادة البنائية: صلاحية التنفيذ أثناء التشغيل في ظل الملاحظة الجزئية
المؤلف: مارسيلو فرنانديز (سلسلة حوكمة الوكلاء — الورقة الخامسة)
التاريخ: أبريل 2026

1. المشكلة: "فجوة التغطية" في الحوكمة الذاتية

تتناول الورقة خللاً هيكلياً جوهرياً في الحوكمة الحالية للوكلاء المستقلين. تعتمد الأطر الحالية بشكل كبير على الحوكمة القائمة على التصديق (مثل بيئات التنفيذ الموثوقة (TEEs)، وإثباتات الحالة الموقعة من قبل الأوراكل، والتصديقات التشفيرية). تضمن هذه الآليات النزاهة — أي إثبات أن الحوسبة تمت بشكل صحيح بناءً على الحالة الملاحظة.

ومع ذلك، يرى المؤلف أن النزاهة ليست كافية لضمان الصحة الدلالية. في الأنظمة الواقعية، تعمل الوكلاء تحت ملاحظة جزئية: الحالة الحقيقية ذات الصلة بالتنفيذ ( $S_r$ ) هي دائماً أكبر من الحالة القابلة للإثبات/الملاحظة ( $S_p$ ). وهذا يخلق "فجوة حالة" ( $\delta = S_r \setminus S_p$ ).

نمط الفشل الجوهري: قد يجتاز الوكيل جميع فحوصات التصديق التشفيري لأن حالته الملاحظة ( $S_p$ ) متسقة مع تفويضه السابق، ومع ذلك يكون التنفيذ في الواقع غير صالح لأن تغيراً حرجاً قد حدث في المتبقي غير الملاحظ ( $\delta$ ). يؤدي هذا إلى "تنفيذات إيجابية كاذبة" — وهي أنظمة تكون صالحة تشفيرياً ولكنها كارثية دلالياً.

2. المنهجية: نموذج السلطة الإعادة البنائية (RAM)

تقترح الورقة تحولاً جذرياً في النموذج من الإنفاذ (التحقق من الاتساق مع الماضي) إلى إعادة البناء (استخلاص السلطة من الحاضر).

المفاهيم الرئيسية:

عدم استمرارية السلطة: على عكس النماذج القائمة على القبول حيث تُمنح السلطة عند الزمن $t_0$ ويُفترض استمرارها، يعامل RAM السلطة كخاصية غير مستمرة يجب إعادة اشتقاقها عند كل خطوة تنفيذ.
غلاف التغطية ( $E$ ): بدلاً من النظر فقط إلى الحالة المثبتة، يستدل RAM عبر ثلاثية: $E(t) = \{S_p(t), H(t), \delta(t)\}$ ، حيث $S_p$ هي الحالة المثبتة، و $H$ تمثل الافتراضات المعلنة حول ما هو غير ملاحظ، و $\delta$ هو المتبقي غير الملاحظ المعترف به.
بناء السلطة ( $F$ ): دالة حتمية تربط غلاف التغطية وفئة الإجراء المطلوب ( $\alpha$ ) بنتيجة ما.

بوابة تنفيذ RAM:
بدلاً من "السماح/المنع" الثنائي، يوفر باني RAM ثلاث نتائج متميزة:

النطاق الكامل ( $\alpha$ ): التغطية كافية؛ يتم التنفيذ بشكل طبيعي.
امتيازات ضيقة ( $\alpha' \subset \alpha$ ): التغطية جزئية؛ يتم تنفيذ مجموعة فرعية آمنة فقط من الإجراء.
التوقف/التأجيل ( $\perp$ أو $false$): التغطية غير كافية أو تم العثور على انتهاك صريح؛ النظام "يفشل بإغلاق" (fails closed).

3. المساهمات الرئيسية

التوصيف الرسمي لمحدودية التصديق: تقدم الورقة برهاناً رسمياً (النظرية 5.1) يثبت أنه لا يمكن لأي نظام قائم على التصديق ضمان صحة التنفيذ إذا كان شرط الإبطال يقع ضمن فجوة الحالة غير الملاحظة.
النموذج الرسمي لـ RAM: يحدد الإطار الرياضي للسلطة الإعادة البنائية، بما في ذلك معاملة الثوابت كـ شروط بنائية (متطلبات السلطة) بدلاً من مجرد فحوصات تحقق.
البنية الهجينة: تقترح نظاماً يعمل فيه التصديق وRAM معاً: يضمن التصديق نزاهة الحوسبة، بينما تضمن RAM الصحة الدلالية للقرار.
البراهين النظرية: تثبت "ضرورة إعادة البناء"، مؤكدة أن الطريقة الوحيدة لضمان الصلاحية تحت الملاحظة الجزئية هي اعتماد سياسة توقف متحفظة عندما تكون المعلومات غير كافية.

4. النتائج والتقييم التجريبي

أجرى المؤلف تجارب اصطناعية (100,000 خطوة) لمقارنة الأنظمة القائمة على التصديق، والأنظمة الممتدة عبر الأوراكل، ونموذج RAM تحت سيناريوهات مختلفة من "حقن الانحراف" (تغيرات الحالة المخفية، والمتأخرة، والغامضة).

معدل التنفيذ غير الصالح (IER):
- أظهرت الأنظمة القائمة على التصديق معدل IER مرتفعاً (يصل إلى 42.3% في سيناريوهات التغطية المنخفضة). حتى عند التغطية "الكاملة"، حافظت على معدل خطأ أساسي لأنها تعامل الحالات "غير المعرفة" على أنها حميدة.
- حقق RAM معدل IER قدره 0.000 عبر جميع مستويات التغطية؛ حيث نجح في تحديد جميع محاولات التنفيذ غير الصالحة.
المفاضلة بين السلامة والكفاءة (مقايضة OCR): تقدم الورقة مفهوم معدل الإفراط في التحفظ (OCR). بينما يتمتع RAM بسلامة مثالية (صفر تنفيذات غير صالحة)، إلا أنه قد يوقف تنفيذات صالحة إذا كانت الملاحظة منخفضة جداً. وتوضح الورقة أنه مع زيادة الاستثمار في الملاحظة، ينخفض معدل OCR، مما يسمح للنظام بالاقتراب من الكفاءة المثلى دون التضحية بالسلامة.

5. الأهمية والآثار المترتبة

تخلص الورقة إلى أن الأنظمة ذات المهام عالية الخطورة (مثل التمويل الذاتي، والبنية التحتية الحيوية)، التي تتبنى عقلية "الاستمرار الافتراضي"، هي غير قابلة للدفاع عنها رياضياً.

تشمل الآثار الرئيسية ما يلي:

فلسفة التصميم: يجب تصميم الأنظمة لتكون "فاشلة بالإغلاق" (تتوقف) عندما لا تستطيع إعادة بناء السلطة، بدلاً من المضي قدماً في ظل عدم اليقين.
الملاحظة كمقياس أمني: الفجوة بين الملاحظة الحالية ومتطلبات باني السلطة (الـ OCR) تعمل كإشارة رسمية للمكان الذي يحتاج فيه النظام إلى المزيد من المستشعرات أو مسارات بيانات أفضل.
تبسيط إدارة الانحراف: بدلاً من بناء كواشف انحراف معقدة، يمكن للمهندسين التركيز على بناء "باني سلطة" قوي، حيث يتجلى الانحراف طبيعياً في عدم القدرة على إعادة بناء السلطة.