🤖 AI

Governed Metaprogramming for Intelligent Systems: Reclassifying Eval as a Governed Effect

تقترح هذه الورقة "البرمجة الميتافيزيقية المحكومة"، وهي تصميم لغوي يعيد تصنيف أداة `eval` غير المقيدة إلى تأثير محكوم يتطلب فحصاً هيكلياً وامتثالاً للسياسات قبل تجسيد الأشكال الرمزية إلى كود قابل للتنفيذ، مما يضمن السلامة والتحكم في السلطة في أنظمة الذكاء الاصطناعي ذاتية التعديل.

المؤلفون الأصليون: Alan L. McCann

نُشر 2026-05-27

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Alan L. McCann

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك مساعداً آلياً ذكياً جداً يمكنه كتابة تعليماته الخاصة. يمكنه النظر إلى مشكلة ما، والتفكير فيها، ثم كتابة مجموعة جديدة من القواعد لنفسه ليتبعها.

في عالم البرمجة القديم، إذا كتب هذا الروبوت مجموعة جديدة من القواعد، فإن الكمبيوتر سيقول ببساطة: "حسناً، سأقوم بتشغيلها الآن". لن يتساءل: "مهلاً، هل هذه القواعد آمنة؟ هل تحاول سرقة كلمة مرور حسابك البنكي؟ هل تحاول حذف ملفاتك؟". لقد تعامل الكمبيوتر مع عملية تحويل الكلمات المكتوبة إلى أفعال كأنها زر سحري يعمل دائماً.

تجادل هذه الورقة بأن الأنظمة التي يمكنها إعادة كتابة نفسها، يكون هذا "الزر السحري" خطيراً. يقترح المؤلف، آلان إل. مكين (Alan L. McCann)، طريقة جديدة للتعامل مع هذا الأمر تسمى البرمجة الفوقية المحكومة (Governed Metaprogramming).

إليك الفكرة الجوريّة، مقسمة عبر تشبيهات بسيية:

1. المشكلة: "الزر السحري" معطل

فكر في برنامج الكمبيوتر مثل الوصفة.

الكود (Code): الوصفة المكتوبة (المكونات والخطوات).
التنفيذ (Execution): عملية طهي الوجبة.

في الأنظمة التقليدية، إذا كتبت وصفة جديدة على ورقة، يمكنك تسليمها فوراً للطاهي، ويبدأ الطاهي بالطهي. الانتقال من الورقة إلى الطهي هو انتقال فوري وغير مقيد.

لكن في الذكاء الاصطناعي الحديث، "الطاهي" (الذكاء الاصطناعي) يمكنه كتابة وصفات جديدة أثناء الطهي. إذا كتب الذكاء الاصطناعي وصفة تقول "كل المطبخ بالكامل"، وقام النظام بالسماح له بالطهي فوراً، فستحدث كارثة. تسمي الورقة هذا الانتقال "تضخم السلطة" (Authority Amplification). إنه اللحظة التي تتحول فيها ورقة (بيانات) فجأة إلى قوة قادرة على تغيير العالم الحقيقي (تنفيذ).

2. الحل: "حارس الأمن" للوصفات

تقترح الورقة أن نتوقف عن معاملة عملية تحويل الوصفة إلى وجبة كدالة حاسوبية بسيطة. بدلاً من ذلك، نعاملها كـ أثر محكوم (governed effect) — وهو إجراء خاص يتطلب موافقة حارس أمن.

يقدم النظام مفهوماً جديداً يسمى الأشكال الآلية (Machine Forms).

الأشكال الآلية هي مثل المخططات الهندسية أو الرسوم التخطيطية للوصفة. إنها مجرد بيانات. لا يمكنها طهي أي شيء. لا يمكنها الاتصال برقم هاتف. إنها مجرد صور للتعليمات.
التلاعب بالمخططات (الرسم عليها، مسح الخطوط، دمج مخططين معاً) هو أمر آمن. إنه يشبه لعب طفل بقطع الليغو. لا يمكن أن يحدث ضرر حقيقي للعالم بمجرد تحريك قطع البلاستيك حول بعضها البعض.

3. الخطوة الحاسمة: "التجسيد" (Materialization)

اللحظة الخطيرة تسمى التجسيد. هذه هي اللحظة التي تأخذ فيها المخطط وتقول: "حسناً، ابنِ هذا".

في هذا النظام الجديد، لا يمكنك مجرد قول "ابنِ هذا". بل يجب عليك تسليم المخطط إلى نظام الحوكمة (حارس الأمن). يقوم الحارس بثلاثة أشياء قبل السماح للطاهي بالطهي:

يفحص المخطط: هل تحاول هذه الوصفة استخدام مكون محظور (مثل نموذج ذكاء اصطناعي خطير)؟
يتحقق من القواعد: هل تقع هذه الوصفة ضمن الميزانية؟ هل تحاول الوصول إلى ملفات لا ينبغي لها الوصول إليها؟
يقرر: إذا اجتازت الاختبار، يعطي الحارس إشارة "الانطلاق". وإذا فشلت، يتم إلقاء المخطط في السلة.

4. لماذا يهم هذا بالنسبة للذكاء الاصطناعي ذاتي التحسين

تخيل ذكاءً اصطناعياً يريد أن يصبح أكثر ذكاءً. ينظر إلى الكود الخاص به، ويدرك أنه سيء في الرياضيات، ويكتب نسخة جديدة من نفسه تكون أفضل في الرياضيات.

بدون هذا النظام: يكتب الذكاء الاصطناعي الكود الجديد، يضغط على "تشغيل"، وفجأة يمتلك الكود الجديد كامل السلطة. إذا ارتكب الذكاء الاصطناعي خطأ أو تم خداعه، فقد يمنح نفسه بالخطأ القدرة على حذف كل شيء.
مع هذا النظام: يكتب الذكاء الاصطناعي الكود الجديد (المخطط). ثم يتعين عليه أن يسأل حارس الأمن: "هل يمكنني أن أصبح هذه النسخة الجديدة؟". يفحص الحارس الكود الجديد. إذا كان الكود الجديد يحاول القيام بشيء غير مسموح للذكاء الاصطناعي القيام به (مثل الوصول إلى قاعدة بيانات سرية)، فإن الحارس يقول "لا". لا يمكن للذكاء الاصطناعي تجاوز الحارس، حتى لو كتب الكود بنفسه.

الخلاصة الكبرى

تزعم الورقة أن الأمر eval (الأمر الذي يحول الكود إلى فعل) ليس مجرد أداة؛ بل هو منح سلطة.

من خلال إعادة تصنيفه كـ "أثر محكوم"، يضمن النظام ما يلي:

كتابة الكود (التلاعب بالمخططات) آمن ونقي.
تشغيل الكود (تحويل المخططات إلى فعل) يمر دائماً عبر نقطة تفتيش.
لا توجد طرق مختصرة. لا يمكنك تمرير برنامج خطير بجانب الحارس عبر إخفائه داخل عملية حسابية عادية.

قام المؤلف بتنفيذ هذا في نظام يسمى MashinTalk وأثبت رياضياً (باستخدام 454 نظرية رسمية) أنه من المستحيل تجاوز حارس الأمن هذا. إنه يخلق عالماً يمكن للذكاء الاصطناعي فيه بناء نسخ جديدة من نفسه، ولكن فقط إذا اجتازت تلك النسخ الجديدة فحص سلامة صارم أولاً.

ملخص تقني: البرمجة الميتا-برمجية الخاضعة للحوكمة للأنظمة الذكية

1. بيان المشكلة

تنتج أنظمة الذكاء الاصطناعي الحديثة، بما في ذلك النماذج اللغوية الكبيرة (LLMs) والوكلاء المستقلون، هياكل قابلة للتنفيذ بشكل متزايد أثناء وقت التشغيل (runtime). هذه الأنظمة تولد سير عمل، وخطط استدعاء أدوات، وأكواداً ذاتية التعديل. في اللغات المتماثلة (homoiconic) التقليدية (مثل Lisp) واللغات متعددة المراحل (staged languages) (مثل MetaOCaml)، يتم التعامل مع الانتقال من تمثيل الكود (بيانات) إلى برنامج قابل للتنفيذ عبر بدائيات مثل eval أو run. هذه الانتقالات تكون تقليدياً غير مقيدة: أي تمثيل صالح يمكن أن يصبح فوراً كوداً قيد التنفيذ.

في سياق الأنظمة الذكية الخاضعة للحوكمة — والتي تتطلب حدوداً صريحة للتأثيرات، وتحكماً في القدرات، وقابلية التدقيق — يخلق هذا الانتقال غير المقيد ثغرة أمنية حرجة. إذا استطاع النظام توليد برنامج جديد يتجاوز قيود الحوكمة الأصلية، فإن نموذج الحوكمة بأكمله ينهار. يحدد البحث هذا الأمر بوصفه "ثغرة هروب البرمجة الميتا-برمجية" (metaprogramming escape hatch): فالنظام الذي تتم حوكمته على مستوى التنفيذ ولكنه غير محكوم على مستوى توليد الكود هو نظام غير آمن جوهرياً.

2. المنهجية الجوهرية: إعادة تصنيف `eval`

المساهمة المنهجية المركزية للورقة هي إعادة تصنيف eval (أو الانتقال من الشكل إلى التنفيذ) من بدائية لغة إلى تأثير خاضع للحوكمة.

يقترح المؤلفون إطار عمل يسمى البرمجة الميتا-برمجية الخاضعة للحوكمة، يقوم على الركائز التالية:

الأشكال الآلية (Machine Forms): تُعامل تمثيلات البرامج كقيم من الدرجة الأولى (خرائط بيانات مهيكلة) بدلاً من كونها نصوصاً مبهمة أو "بايت كود" (bytecode).
معالجة الأشكال النقية (Pure Form Manipulation): تُصنف جميع العمليات على هذه الأشكال (الفحص، التحويل، التركيب، والمقارنة) على أنها حوسبة نقية. فهي لا تصدر أي توجيهات ولا تملك القدرة على إجراء عمليات الإدخال/الإخراج (I/O) أو استدعاء النماذج.
التجسيد كتخصيص للسلطة (Materialization as Authority Allocation): يُعرف الانتقال من الشكل الآلي إلى الآلة القابلة للتنفيذ بـ التجسيد (materialization). هذا ليس مجرد حوسبة؛ بل هو تخصيص لـ السلطة القابلة للتنفيذ (القدرة على استدعاء النماذج، وإجراء عمليات الإدخال/الإخراج، واستهلاك الموارد). وبناءً على ذلك، يُصنف التجسيد كـ تأثير خاضع للحوكمة.
الفحص الهيكلي (Structural Inspection): قبل السماح بالتجسيد، يقوم نظام الحوكمة بإجراء فحص هيكلي قابل للتقرير (decidable) للشكل. يقوم هذا الفحص بتحليل متطلبات القدرة، والامتثال للسياسات، وتفويض النموذج، وتقديرات الموارد.

3. الدلالات التشغيلية الرسمية

تقوم الورقة بصياغة النظام رسمياً باستخدام حكمين متميزين لفرض الحدود بين الحوسبة النقية والتنفيذ الخاضع للحوكمة:

تقييم الشكل النقي ( $\Gamma \vdash pure\ e \Downaya v$ ):
- يعمل على قيم الأشكال.
- لا يصدر أي توجيهات ( $Dir(e) = \emptyset$ ).
- يتضمن بناء الاقتباس (quote construction)، وتقييم الربط (splice evaluation)، والتنقل، والتحويل.
- يضمن أن أي تسلسل من العمليات النقية لا يمكنه إنتاج آلة مصرح لها.
التجسيد الخاضع للحوكمة ( $\Gamma; \Pi; \sigma \vdash materialize(v_f) \rightsquigarrow \langle Machine, d \rangle$ ):
- يأخذ شكلاً، وسياق سياسة ( $\Pi$ )، ومجموعة قدرات ( $\sigma$ ).
- يتطلب سجل قرار حوكمة ( $d$ ) لكل نتيجة (موافقة أو رفض).
- يصدر توجيهاً واحداً بالضبط خاضعاً للحوكمة.
- يقوم نظام الحوكمة بفحص هيكل الشكل للتحقق من:
  - احتواء القدرة ( $CapSet(f) \subseteq \Pi.allowed\ caps$ ).
  - تفويض النموذج.
  - الامتثال للسياسة الهيكلية.
  - حدود الموارد.

4. المساهمات الرئيسية

تقدم الورقة خمس مساهمات رئيسية:

إعادة تصنيف eval: توصيف دقيق لتجسيد السلطة باعتباره عملية تخصيص سلطة، ونقله من بدائية إلى تأثير خاضع للحوكمة.
الأشكال الآلية (Machine Forms): نوع بيانات ملموس لتمثيل البرامج المهيكلة مع إنشاءات لـ quote و splice و reflection.
الدلالات الرسمية: تعريف للنظام باستخدام حكمين (التقييم النقي والتجسيد الخاضع للحوكمة) يفصلان بصرامة بين معالجة البيانات والتنفيذ.
الخصائص المتحقق منها آلياً: تم التحقق رسمياً من ثلاث خصائص أساسية في Rocq:
- نقاء معالجة الأشكال: عمليات الأشكال لا تصدر أي توجيهات.
  تعداد.
- مبرهنة عدم التجاوز (The No-Bypass Theorem): لا يمكن لأي تسلسل من العمليات النقية أن يتسبب مباشرة في التنفيذ.
- الحفاظ على الحدود: إضافة قدرات البرمجة الميتا-برمجية لا يؤدي إلى فصل حدود التعبير والحوكمة (تظلان متزامنتين).
التعديل الذاتي الخاضع للحوكمة: آلية ملموسة تسمح للآلات باقتراح تغييرات هيكلية على نفسها عبر سجل تطور (evolution ledger)، مع الخضوع لنفس فحص الحوكمة المستخدم في توليد الكود الخارجي.

5. التنفيذ والنتائج

تم تنفيذ التصميم في MashinTalk، وهي لغة ذات نطاق محدد (DSL) لتدفقات عمل الذكاء الاصطناعي التي تُترجم إلى "بايت كود" الخاص بـ BEAM (آلة Erlang الافتراضية).

بنية النظام: يتكون التنفيذ من ثلاث وحدات: Form (البناء والمعالجة)، و FormInspector (فحوصات الحوكمة)، و FormMaterializer (الترجمة الخاضعة للحوكمة).
التحقق: تمت مكننة الخصائص الجوهرية في Rocq (المعروف سابقاً بـ Coq) باستخدام 26 مبرهنة و662 سطراً من الكود، مع صفر من المبرهنات المستعارة (admitted lemmas). تتكامل هذه المبرهنات مع صياغة موجودة لـ 454 مبرهنة عبر 36 وحدة.
الاختبار: تتحقق مجموعة اختبار مكونة من 51 اختبار وحدة من الصحة الوظيفية وخصائص الحوكمة. جميع الاختبارات ناجحة.
الأداء: على معالجات Apple M-series، يستغرق بناء الشكل أقل من 1 ميكروثانية، ويستغرق الفحص الهيكلي أقل من 100 ميكروثانية للآلات النموذجية. التكلفة الإضافية ضئيلة مقارنة بالترجمة إلى "بايت كود" الخاص بـ BEAM.

6. الأهمية والادعاءات

تدعي الورقة سد "ثغرة هروب البرمجة الميتا-برمجية" في الأنظمة الذكية الخاضعة للحوكمة. فبدون هذه الآلية، يظل النظام الخاضع للحوكمة على مستوى التنفيذ عرضة للخطر لأنه لا يمكنه حوكمة توليد هياكل قابلة للتنفيذ جديدة.

يجادل المؤلفون بأنه في أنظمة الذكاء الاصطناعي التي تصيغ هيكلها القابل للتنفيذ بنفسها، يجب أن يكون تخصيص السلطة القابلة للتنفيذ:

مرئياً: الانتقال من البيانات إلى الكود هو حدث متميز وقابل للملاحظة.
متوسطاً (Mediated): يجب أن يمر عبر مفسر حوكمة يفحص الهيكل.
مسجلاً: تُسجل القرارات في سجل غير قابل للإضافة (append-only ledger) (سجل التطور).

تدرك الورقة صراحةً القيود:

مبرهنة رايس (Rice's Theorem): الفحص الهيكلي قابل للتقرير (decidable) ولكنه لا يمكنه الاستدلال على السلوك الدلالي (semantic behavior). تضمن الحوكمة الوساطة، وليس السلامة الدلالية للبرنامج المولد.
النطاق: حجة الحفاظ على الحدود هي حجة معمارية؛ وقد تم تأجيل إثبات كامل حول مجموعات توقيع التأثير (effect signature sets) إلى أعمال مستقبلية.
القابلية للتطبيق: التصميم محدد للغات ذات بنى حدود التأثير (مثل MashinTalk)؛ وتظل قابلية تطبيقه على اللغات عامة الأغراض مسألة مفتوحة.

في الختام، تثبت الورقة أن eval ليس مجرد دالة حوسبية، بل هو حدث تخصيص سلطة. ومن خلال معاملته كتأثير خاضع للحوكمة، يمكن للأنظمة الذكية صياغة وتعديل هياكلها القابلة للتنفيذ بأمان دون المساس بنماذج الحوكمة الخاصة بها.