Position: Certified Correctness in Neural Constraint Reasoning Requires Symbolic Integration
تجادل هذه الورقة البحثية بأنه لضمان الصحة القابلة للإثبات في الاستدلال بالقيود العصبية، لا سيما في المسائل ذات التعقيد الحسابي من فئة (NP-complete) مثل لعبة السودوكو حيث يكون التحقق فعالاً بينما الحل صعباً، يجب دمج الطرق العصبية ثنائي الاتجاه مع الحلول الرمزية بدلاً من الاعتماد على التعلم الصرف.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم الذكاء الاصطناعي، هناك انقسام متزايد بين طريقتين في التفكير. فمن ناحية، هناك أنظمة تتعلم من خلال النظر في كميات هائلة من البيانات، ورصد الأنماط، وتقديم تخمينات مدروسة. هذه الأنظمة مرنة للغاية ويمكنها التعامل مع المدخلات الواقعية الفوضوية مثل الصور الفوتوغرافية أو الكلمات المنطوقة. ومن ناحية أخرى، هناك أنظمة تتبع قواعد صارمة وغير قابلة للكسر، مثل معلم الرياضيات الذي يصحح واجبًا منزليًا. هذه الأنظمة القائمة على القواعد جامدة وتواجه صعوبة في التعامل مع أي شيء ليس منسقًا بشكل مثالي، لكنها لا ترتكب خطأً منطقيًا أبدًا. لسنوات طويلة، أمل الباحثون في أن تتعلم أنظمة مطابقة الأنماط اتباع القواعد بشكل مثالي من تلقاء نفسها، مما يجعل النهج الصارم المتبع للقواعد عتيقًا. لكن خطًا بحثيًا جديدًا يشير إلى أنه بالنسبة لأنواع معينة من المشكلات، فإن هذا الأمل في غير محله. فعندما تكون الرهانات عالية والقواعد مطلقة، فإن النظام الذي يعتمد فقط على التخمين، مهما كان ذكيًا، سيفشل في النهاية. لم يعد السؤال هو ما إذا كان بإمكاننا بناء آلة تكون "صائبة عادةً"، بل ما إذا كان بإمكاننا بناء آلة تكون "صائبة بشكل مثبت".
هذا التوتر يقع في قلب ورقة بحثية حديثة من إعداد الباحثين شوفينغ كونج، وشياوتشوان تشانغ، وكاي هوا ليو. إذ يجادلون بأنه في المشكلات التي تكون فيها القواعد قاسية وتكلفة الخطأ مرتفعة، يجب على الذكاء الاصطناعي أن يتوقف عن محاولة تعلم القواعد من الصفر، وبدلاً من ذلك، دمج قدرته على التعلم مع محرك فحص قواعد تقليدي. ولإثبات وجهة نظرهم، لجأ الباحثون إلى لعبة "سودوكو"، وهي لغز الأرقام الشهير. تُعد السودوكو حالة اختبار مثالية لأن التحقق مما إذا كان الحل صحيحًا أمر سهل — فما عليك سوى النظر في الصفوف والأعمدة للتأكد من عدم تكرار الأرقام — ولكن حلها من الصفر أمر صعب للغاية. وجد الباحثون أنه بينما يمكن لنماذج الذكاء الاصطنا الحديثة حل الألغاز السهلة بدقة شبه مثالية، إلا أنها تنهار عندما تصبح الألغاز مختلفة قليلاً أو أكثر صعوبة. وحتى عندما تُمنح هذه النماذج وقتًا إضافيًاًا للتفكير والتحقق من عملها الخاص، فإنها لا تزال تنتج حلولًا تكسر القواعد. وفي المق المقابل، تحقق الأنظمة التي تستخدم فاحص قواعد تقليديًا للتحقق من إجابات الذكاء الاصطناعي دقة مثالية بعدد أقل بكثير من الأمثلة.
لقد أثبت الباحثون أن الاعتماد فقط على التعلم الإحصائي هو فخ في مثل هذه الأنواع من المشكلات. فقد أظهروا أنه عندما تحاول شبكة عصبية، وهي نوع من أنواع الذكاء الاصطناعي التي تتعلم من البيانات، حل لغز لم تره من قبل، فإنها غالبًا ما تنتج إجابة تبدو صحيحة ولكنها تحتوي على أخطاء خفية. هذه الأخطاء ليست مجرد أخطاء صغيرة؛ بل هي انتهاكات جوهرية للمنطق المطلوب لحل اللغز. ووجد الفريق أن مجرد منح الذكاء الاصطناعي المزيد من القدرة الحوسبية أو مطالبته بتوليد العديد من الإجابات المحتملة واختيار الأفضل بينها لا يحل المشكلة. قد يصبح الذكاء الاصطناعي أفضل في المتوسط، لكنه لا يستطيع ضمان أن أي إجابة محددة بعينها صحيحة. وهذا تمييز بالغ الأهمية؛ فالنظام الذي يكون "صائبًا عادةً" يختلف جوهريًا عن النظام الذي يكون "صائبًا بشكل مثبت". وفي مجالات مثل الجدولة، وفحوصات السلامة، أو توليد البرمجيات، يمكن لخطأ واحد أن يكون كارثيًا، مما يجعل نهج "الصواب المعتاد" غير مقبول.
ولحل هذه المعضلة، يقترح المؤلفون طريقة جديدة لبناء هذه الأنظمة، والتي يسمونها "التكامل ثنائي الاتجاه". فبدلاً من ترك الذكاء الاصطناعي يحاول القيام بكل شيء، يقترحون تقسيم العمل. يعمل الذكاء الاصطناعي كمولد سريع وبديهي، مستخدمًا قدرته على التعرف على الأنماط لتقديم حل مرشح بسرعة. ثم يتم تمرير هذا المرشح إلى فاحص يتبع القواعد بصرامة. يعمل هذا الفاحص كحارس بوابة؛ فإذا اجتاز الحل الفحص، يتم قبوله، وإذا فشل، لا يكتفي الفاحص بقول "لا" فحسب، بل يخبر الذكاء الاصطناعي بمكان الخطأ بالضبط، مثل الإشارة إلى أن رقمين في نفس الصف متطابقان. ثم يستخدم الذكاء الاصطناعي هذا التعليقات المحددة لتعديل تخمينه والمحاولة مرة أخرى. وإذا لم يتمكن الذكاء الاصطناعي من إصلاح المشكلة بعد محاولات قليلة، يسلم النظام المهمة إلى برنامج تقليدي بطيء ولكنه مثالي يضمن الحصول على إجابة صحيحة. وهذا يخلق شبكة أمان حيث يتم الحفاظ على سرعة الذكاء الاصطناعي، ولكن لا يتم المساس بموثوقية النظام القائم على القواعد أبدًا.
اختبر الباحثون هذا النهج عبر عدة مجالات صعبة، بما في ذلك توليد أكواد الكمبيوتر وحل مشكلات التوجيه المعقدة للمركبات. وفي كل حالة، تفوق النظام الهجين على الذكاء الاصطناعي الذي يعمل بمفرده. فعلى سبيل المثال، عند توليد الكود، قد ينتج الذكاء الاصطناو بمفرده برنامجًا يبدو جيدًا ولكنه يفشل في التشغيل. ومن خلال إضافة خطوة يتم فيها اختبار الكود فعليًا بواسطة مترجم (compiler) قبل قبوله، قام النظام بتصحيح أخطائه وحقق معدل نجاح أعلى بكثير. وبالمثل، في مسألة توجيه المركبات، قلل الأسلوب الهجين عدد المسارات المستحيلة من نسبة مئوية كبيرة إلى ما يقرب من الصفر. والنتيجة الرئيسية هي أن الذكاء الاصطناعي ليس بحاجة لتعلم قواعد المنطق بنفسه؛ بل يحتاج فقط لتعلم كيفية اقتراح أفكار جيدة، بينما يُترك العمل الشاق لضمان صحة تلك الأفكات للمحرك الرمزي.
يتحدى هذا العمل الفكرة السائدة بأن نماذج الذكاء الاصطناعي الأكبر والأقوى ستتعلم في النهاية التعامل مع جميع القيود المنطقية من تلقاء نفسها. ويجادل المؤلفون بأنه لا يوجد قدر من البيانات أو القدرة الحوسبية يمكنه سد الفجوة بين التخمين الإحصائي واليقين المنطقي لهذه الأنواع من المشكلات. ويشيرون إلى أن مستقبل الذكاء الاصطناعي الموثوق في البيئات المقيدة لا يكمن في استبدال الأساليب القديمة القائمة على القواعد، بل في جعلها شركاء مع أساليب التعلم الجديدة. فمن خلال ترك الذكاء الاصطناعي يتعامل مع الأجزاء الفوضوية وغير المهيكلة من المشكلة، وترك فاحص القواعد يتولى عملية التحقق النهائي، يمكننا بناء أنظمة تتسم بالسرعة والموثوقية في آن واحد. وتخلص الورقة البحثية إلى دعوة المجتمع العلمي للتوقف عن قبول "الصواب المعتاد" كمعيار للنجاح في هذه المهام، والمطالبة بأنظمة يمكنها إثبات صحتها، لضمان أنه عندما نعتمد على الآلات لاتخاذ القرارات، فإن تلك القرارات ليست فقط من المرجح أن تكون صحيحة، بل مضمونة لتكون كذلك.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.