Executable Intelligence in Policy-Constrained Knowledge Systems: A Closed-Loop Decision-Execution Framework

الفجوة بين المعرفة والتنفيذ

تخيل أنك تلعب لعبة فيديو عالية المخاطر حيث تكون شخصيتك محققًا ذكيًا للغاية. هذا المحقق يمكنه رصد شرير يختبئ في الظلال فورًا، ويتوقع بدقة أين سيضرب تاليًا، ويحسب الحركة المثالية لإيقافه. لكن هنا تكمن العقبة: المحقق مقيد بقواعد صارمة تقول: "لا يمكنك القفز فوق ذلك الجدار"، أو "يجب أن تطلب الإذن من العمدة قبل استخدام ليزرك الخارق"، و"إذا أخطأت، عليك إعادة الزمن للوراء". في العالم الحقيقي، هذا هو بالضبط ما يحدث مع الذكاء الاصطناعي (AI). لقد بنينا أنظمة بارعة للغاية في "الذكاء التحليلي" — أي فهم ما يحدث وما ينبغي أن يحدث. ولكن عندما يتعلق الأمر بـ فعل شيء ما فعليًا في العالم الحقيقي، غالبًا ما تتعثر هذه الأنظمة. فهي تولد أفكارًا عبقرية تُرفض لأنها تكسر قواعد السلامة، أو تنتهك سياسات الشركة، أو لأنها لا يمكن التراجع عنها إذا ساءت الأمور. هذا التوقف المحبط بين امتلاك فكرة رائعة والقدرة على تنفيذها بأمان هو المشكلة التي تتناولها هذه الورقة البحثية.

تقدم الورقة مفهومًا يسمى "فجوة الرؤية إلى التنفيذ" (Insight-to-Action Gap). فكر في الأمر كالمسافة بين معرفة الطاهي للوصفة المثالية وبين السماح له فعليًا بالطهي في مطبخ يخضع لقواعد صحية صارمة، ومكونات محدودة، ومدير يكره الخبز المحترق. يجادل المؤلف بأن المشكلة ليست في أن طهاة الذكاء الاصطناعي لدينا ليسوا أذكياء بما يكفي للطهي؛ بل في أنهم ليسوا أذكياء بما يكفي للطهي ضمن القواعد. تقترح الورقة طريقة جديدة لبناء هذه الأنظمة، تسمى "الذكاء القابل للتنفيذ" (Executable Intelligence)، حيث لا يتم فحص القواعد بعد الانتهاء من الطهي (مما يؤدي إلى وجبة فاسدة وساعة ضائعة)، بل يتم دمج القواعد في الوصفة نفسها منذ الخطوة الأولى.

المشكلة: "فجوة الرؤية إلى التنفيذ"

لاحظ كاتب الورقة، أبهراديب تشاتيرجي من شركة NTT DATA Services، مفارقة غريبة في كيفية استخدامنا للذكاء الاصطناعي اليوم. في مجالات مثل الحوسبة السحابية، والبنية التحتية المستقلة، والأمن السيبراني، أصبحت أنظمتنا أسرع في رصد المشكلات. يمكنها اكتشاف خلل أو خرق أمني بشكل فوري تقريبًا. ومع ذلك، فإن إصلاح المشكلة غالبًا ما يستغرق وقتًا طويلاً. لماذا؟ لأنه بمجرد أن يرصد الذكاء الاصطناعي المشكلة، يتعين عليه الانتظار حتى يوافق البشر على الإصلاح، ويتأكدوا من سلامته، ثم يقوموا بتشغيل عملية الإصلاح يدويًا.

تسمي الورقة هذا التأخير بـ فجوة الرؤية إلى التنفيذ (IAG). وهي الوقت الضائع بين اللحظة التي "يعتقد" فيها النظام أنه يعرف الإجابة واللحظة التي "يفعل" فيها الإصلاح فعليًا. يشير المؤلف إلى أن أكبر عقبة ليست قدرة الذكاء الاصطناعي على التنبؤ؛ بل هي قدرة الذكاء الاصطنا_ي على العمل بأمان. فإذا اقترح الذكاء الاصطناعي إصلاحًا ينتهك سياسة السلامة، فإن اقتراحه يكون بلا فائدة، حتى لو كان مثاليًا من الناحية الرياضية. فهو لا يتسبب إلا في مزيد من العمل، والمزيد من التأخير، والمزيد من الإحباط.

الحل: الطبخ مع كتاب القواعد مفتوحًا

لحل هذه المشكلة، تقترح الورقة إطار عمل جديدًا يسمى الذكاء القابل للتنفيذ. بدلًا من معاملة قواعد السلامة والسياسات كـ "حارس" يقف عند الباب ليفحص هويتك بعد أن حاولت الدخول بالفعل، يضع هذا الإطار الحارس داخل عملية صنع القرار نفسها.

تخيل أنك تلعب لعبة "سايمون يقول" (Simon Says)، ولكن مع لمسة مختلفة. في الطريقة القديمة، سيصرخ سايمون (الذكاء الاصطناٍ) بحركة مجنونة مثل "قم بشقلبة خلفية من فوق السطح!"، ثم سيتعين على الحكم الركض والتحقق من كتاب القواعد ليقول: "لا، هذا ضد القواعد!". ثم سيتعين على سايمون التفكير في حركة جديدة، وسيقوم الحكم بالتحقق مرة أخرى. هذه العملية بطيئة ومزعجة.

الإطار الجديد مختلف. قبل أن يصرخ سايمون بحركة، فإنه ينظر إلى كتاب القواعد أثناء تفكيره. هو لا يقترح إلا الحركات المسموح بها، والآمنة، والتي يمكن التراجع عنها. إذا قال الكتاب "لا للشقلبات الخلفية"، فإن سايمون لن يفكر في الشقلبة الخلفية أبدًا. سيقترح فقط "اقفز فوق السياج"، لأنه يعلم أن هذا مسموح به، ولديه خطة لكيفية الهبوط بأمان.

كيف يعمل: الحلقة المغلقة

تصف الورقة نظامًا "مغلق الحلقة" يعمل في خمس خطوات، تتكرر باستمرار كالدائرة:

1. الاستشعار (Sense): يراقب النظام المشكلات (مثل كاميرا المراقبة).
2. التفسير (Interpret): يحدد ماهية المشكلة والسياق (هل هو حريق؟ تسرب؟ مخترق؟).
3. القرار (Decide): هذا هو الجزء السحري. لا يختار النظام "أفضل" إجراء فحسب؛ بل يختار أفضل إجراء يستوفي أيضًا جميع فحوصات السلامة، ويتناسب مع الحدود الزمنية، ويمتلك زر "تراجع" جاهزًا.
4. التنفيذ (Act): يقوم بتنفيذ الإجراء، ولكنه يفعل ذلك بحذر، مع التحقق من أن كل شيء لا يزال آمنًا أثناء حدة العملية.
5. التعلم (Learn): يراقب ما حدث ويستخدم هذه المعلومات ليصبح أفضل في اتخاذ القرارات الآمنة في المرة القادمة.

الابتكار الرئيسي هنا هو التحسين المقيد بالسياسة (Policy-Constrained Optimization). وباللغة البسيطة، يعني هذا أن الكمبيوتر يحل مسألة رياضية تكون فيها "القواعد" جزءًا من المعادلة. هو لا يحاول فقط إيجاد أسرع طريق؛ بل يحاول إيجاد أسرع طريق لا يمر عبر منطقة "ممنوع الدخول".

ماذا أظهرت التجارب

لم يختبر المؤلف هذا على شبكة طاقة حقيقية أو مستشفى (لأن ذلك سيكون محفوفًا بالمخاطر). بدلاً من ذلك، قام ببناء محاكاة مفصلة — عالم مصنوع بالحاسوب يحاكي كيفية سلوك الأنظمة الحقيقية. أنشأ سيناريو حيث تحدث "حوادث" (مثل تعطل أجهزة الكمبيوتر) بشكل عشوائي، وقارن بين فريقين:

• الفريق (أ) (الأساس): يستخدم ذكاءً اصطناعيًا ذكيًا للعث Finding المشكلة، ولكنه يعتمد بعد ذلك على البشر للتحقق من القواعد وإصلاحها.
• الفريق (ب) (الإطار الجديد): يستخدم نظام "الذكاء القابل للتنفيذ" الذي يتحقق من القواعد أثناء التفكير.

كانت النتائج واضحة. في المحاكاة، قلل الإطار الجديد الوقت الإجمالي اللازم لإصلاح المشكلة بنسبة تصل إلى 40%. ولكن الأهم من ذلك، جعل النظام أكثر اتساقًا. كانت "الطريقة القديمة" تعاني من تقلبات كبيرة في الوقت — أحيانًا كانت سريعة، وأحيانًا تستغرق وقتًا طويلاً جدًا بسبب انتهاك القواعد. أما الطريقة الجديدة فكانت ثابتة وموثوقة.

وجدت الورقة أيضًا أن أكبر المكاسب حدثت عندما كانت القواعد صارمة وكان على النظام التعامل مع تبعات معقدة (مثل قطعة واحدة مكسورة تسبب سلسلة من القطع المكسورة الأخرى). عندما حاولت "الطريقة القديمة" إصلاح الأشياء، غالبًا ما يتم رفضها من قبل القواعد، مما يجبرها على البدء من جديد. أما الطريقة الجديدة فقد تجنبت عمليات "إعادة التشغيل" هذه تمامًا لأنها لم تقترح حركة محظورة في المقام الأول.

لماذا هذا مهم

تجادل الورقة بأننا بحاجة إلى التوقف عن التفكير في "الذكاء" على أنه مجرد القدرة على التخمين أو التنبؤ. في العالم الحقيقي، يعني الذكاء الحقيقي القدرة على فعل الأشياء بأمان ومسؤولية. إذا كان النظام ذكيًا ولكنه لا يستطيع التصرف دون كسر القواعد، فهو ليس مفيدًا جدًا.

من خلال دمج السلامة والقواعد مباشرة في عملية صنع القرار، يمكننا الانتقال من الأنظمة التي تقدم "توصيات" بالإصلاح إلى الأنظمة التي يمكنها فعليًا "تنفيذ" تلك الإصلاحات بثقة. هذا لا يعني أننا سنستبعد البشر من الحلقة فورًا. تقترح الورقة مسارًا تدريجيًا: البدء بالتوصيات، ثم الانتقال إلى الأتمتة "المقيدة" (حيث يتصرف النظام فقط عندما يتأكد بنسبة 100% من استيفاء القواعد)، وصولًا في النهاية إلى حالة "الاستقلالية المقيدة بالسياسة" حيث يمكن للنظام التصرف من تلقاء نفسه ضمن حدود آمنة.

يشير المؤلف بعناية إلى أن هذه النتائج مبنية على المحاكاة. وبينما تبدو النتائج واعدة والمنطق سليمًا، إلا أنها لم تُثبت بعد في بيئة حقيقية وحية. ومع ذلك، فإن مفهوم "الذكاء القابل للتنفيذ" يقدم طريقة جديدة للنظر في سبب تعثر العديد من مشاريع الذكاء الاصطناعي: المشكلة ليست في أن الذكاء الاصطناعي ليس ذكيًا بما يكفي؛ بل في أنه لم يُعلم كيف يلعب وفق القواعد أثناء تفكيره.