Effect-Transparent Governance for AI Workflow Architectures: Semantic Preservation, Expressive Minimality, and Decidability Boundaries
تقدم هذه الورقة صياغة رسمية مُحققة آلياً في Rocq تُثبت أن الحوكمة الشفافة تجاه التأثيرات لسير عمل الذكاء الاصطناعي يمكنها تقييد التأثيرات الخارجية بصرامة وفرض محددات السلامة دون المساس بالتعبير الحسابي الداخلي أو الشفافية الدلالية.
البحث الأصلي مُهدى إلى الملك العام بموجب CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك مساعداً ذكياً فائق القدرة وعبقرياً؛ يمكنه كتابة الأكواد، وتذكر الأشياء، واستدعاء أدوات خارجية، وحتى الدردشة مع نماذج ذكاء اصطناعي أخرى لحل المشكلات المعقدة. لكنك تشعر بالقلق: ماذا لو قرر القيام بشيء خطير، مثل حذف ملفاتك أو استدعاء خدمة لا ينبغي له الوصول إليها؟
تقليدياً، كان الناس يعتقدون أنه يتعين عليك الاختيار بين الأمان وبين القدرة. إما أن تترك الذكاء الاصطناعي يفعل ما يشاء (وهذا مخاطرة)، أو تضع قيوداً صارمة قد تمنعه من أداء مهمته بشكل صحيح (وهذا يجعل النظام غبياً).
تقدم هذه الورقة البحثية طريقة جديدة لبناء أنظمة الذكاء الاصطناعي تثبت لك أنك لا تحتاج إلى إجراء هذا المقايضة. فهي توضح كيف يمكنك وضع طبقة "حوكمة" حول الذكاء الاصطناعي لمنع التصرفات السيئة دون تغيير كيفية تفكيره أو حله للمشكلات.
إليك التفاصيل باستخدام تشبيهات بسيطة:
١. الفكرة الجوهرية: الـ "حارس الشخصي" مقابل الـ "محرّر"
تعمل معظم طرق السلامة الحالية كأنها مُحرّر. يقوم الذكاء الاصطناعي بعمله، ويكتب قصة، ثم يأتي المحرر ليقرأها. إذا وجد في القصة كلمة بذيئة، يقوم المحرر بحذفها أو إعادة صياغة الجملة.
- المشكلة: المُحرر يغير القصة. عملية التفكير الأصلية للذكاء الاصطناعي تتغير، والنتيجة النهائية قد تكون مختلفة عما قصده الذكاء الاصطناعي تماماً.
تقترح هذه الورقة نهج الحارس الشخصي (ويسمى "الحوكمة الشفافة للأثر").
- آلية العمل: يوجد الذكاء الاصطناائي داخل غرفة. وقبل أن يتمكن من فتح أي باب (مثل الوصول إلى الذاكرة، أو استدعاء أداة، أو سؤال نموذج لغوي كبير آخر)، عليه أن يُظهر هويته للحارس الشخصي.
- السحر الكامن هنا: إذا قال الحارس للشخص "تفضل بالمرور"، فإن الذكاء الاصطناعي يدخل عبر الباب ويقوم بالضبط بما خطط له. لم يتدخل الحارس لتغيير عملية التفكير لدى الذكاء الاصطناعي؛ بل اكتفى فقط بفحص الهوية.
- النتيجة: إذا سُمح للذكاء الاصطناعي بالمضي قدماً، ستكون النتيجة مطابقة تماماً لما كانت ستكون عليه لو لم يكن الحارس موجوداً على الإطلاق. يبقى "عقل" الذكاء الاصطناعي دون مساس.
٢. "شجرة التفاعل" (المخطط الهندسي)
قام المؤلفون ببناء نموذج رياضي لسير عمل الذكاء الاصطناعي باستخدام ما يسمونه "أشجار التفاعل".
- التشبيه: تخيل سير عمل الذكاء الاصطناعي كشجرة. جذع الشجرة هو منطق الذكاء الاصطناعي. أما الأغصان فهي الأمور التي يريد فعلها (مثل "استدعاء قاعدة بيانات" أو "طرح سؤال").
- تعمل "الحوكمة" كغطاء يحيط بأطراف الأغصان. وهي تتحقق من كل غصن قبل نموه. إذا كان الغصن غير مصرح به، تتوقف الشجرة عن النمو عند تلك النقطة (أي تنحرف أو تدور في مكانها). وإذا كان مسموحاً به، ينمو الغصان تماماً كما صممه الذكاء الاصطناعي.
٣. الاكتشافات السبعة الرئيسية ("الأركان السبعة")
استخدم المؤلفون الحاسوب لإثبات سبعة أشياء رياضياً حول هذا النظام:
- P1 و P2: لا يزال شديد الذكاء. حتى مع وجود الحارس الذي يفحص الهويات، لا يزال بإمكان الذكاء الاصطناعي القيام بأي شيء يمكن للحاسوب العادي فعله (اكتمال تورينج - Turing Complete)، ولا يزال بإمكانه استخدام أدوات متقدمة مثل النماذج اللغوية الكبيرة. شبكة الأمان لم تجعل الذكاء الاصطناعي "غبياً".
- P3: "حد القرارات" (الخط المرسوم في الرمل). الحارس بارع في التحقق من القواعد الهيكلية (على سبيل المثال: "هل هذا طلب وصول للذاكرة؟" "هل يمتلك هذا المستخدم شارة المستوى الخامس؟"). هذه أمور سهلة التحقق فورياً. ومع ذلك، لا يستطيع الحارس التنبؤ بما إذا كان الذكاء الاصطناعي سيظل عالقاً في حلقة مفرغة للأبد أو ما إذا كانت مسألة رياضية معقدة ستنتهي أم لا. تُثبت الورقة أن الحارس يبقى في نطاق اختصاصه: فهو يتحقق من القواعد، وليس من الأسئلة الفلسفية العميقة حول سلوك المستقبل الخاص بالذكاء الاصطناعي.
- P4: حفظ الهدف. إذا سُمح للذكاء الاصطناعي بالعمل، فسوف يحقق هدفه. إذا كان من المفترض أن يحسب
2+2، فسيظل الناتج4. لم تغير عملية التحقق من السلامة العملية الرياضية. - P5: الحد الأدنى للتعبير. يستخدم النظام مجموعة محددة من الأدوات (الحوسبة، الذاكرة، الاستنتاج، استدعاء الأدوات، الملاحظة). وقد أثبت المؤلفون أنه إذا تمت إزالة أي أداة من هذه الأدوات، فسيفتقد الذكاء الاصطناعي نوعاً معيناً من القوة. لا يمكنك تبسيط النظام أكثر من ذلك دون كسر قدرته على القيام بعمليات معقدة.
- P6: "الحارس الشخصي" أقوى من "المحرر". تُثبت الورقة أن التحقق من الفعل (الحوكمة الهيكلية) أفضل تقنياً من مجرد تصفية المخرجات (حوكمة المحتوى). فالحارس يمكنه منع الفعل السيئ قبل وقوعه، بينما لا يمكن للمحرر إلا محاولة إصلاح نتيجة سيئة بعد حدوثها، وهو أمر أقل موثوقية.
- P7: الشفافية الدلالية (تأثير "الشبح"). هذا هو الجزء الأكثر أهمية. في كل مرة يُسمح فيها للذكاء الاصطناعي بالعمل، تكون النتيجة متكافئة ملاحظياً مع التشغيل غير الخاضع للحوكمة. بالنسبة لمراقب خارجي، يبدو الأمر وكأن طبقة الحوكمة كانت غير مرئية (كالشبح)، باستثناء حقيقة أنها نجحت في إيقاف الأشياء السيئة.
٤. "الأثر" (الدليل البرهاني)
لم يكتفِ المؤلفون بكتابة هذا فحسب؛ بل بنوا نظامهم داخل برنامج مساعد للإثبات يسمى Rocq (وهو أداة للتحقق من الرياضيات).
- كتبوا ١٢,٠٠٠ سطر من الأكواد.
- أثبتوا ٤٥٤ نظرية.
- اعترفوا بصفر خطأ (صفر تمثلات/مبرهنات مقبولة الخطأ).
- وهذا يعني أن الكمبيوتر قام بمراجعة منطقهم بدقة وأكد أنه سليم رياضياً بنسبة ١٠٠٪.
الملخص
تجادل هذه الورقة بأننا نستطيع بناء أنظمة ذكاء اصطناعي ذات "غلاف سلامة" يعمل كحارس بوابة صارم. هذا الحارس يمنع الأفعال غير المصرح بها (مثل الاختراق أو النداءات غير المرخصة) ولكنه، والأهم من ذلك، لا يتدخل في عملية تفكير الذكاء الاصطناعي عندما يكون الفعل مسموحاً به.
إنها تثبت أن السلامة و الذكاء ليسا عدوين. يمكنك امتلاك نظام يخضع للحوكمة الكاملة وآمن، وفي الوقت نفسه يحتفظ بقدرته الكاملة على الحوسبة والاستنتاج والتنفيذ، طالما كانت الأفعال مصرحاً بها. إن طبقة الحوكمة شفافة تجاه نجاح الذكاء الاصطناعي، حيث تعمل فقط كدرع ضد الآثار غير المصرح بها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.