The RAIL Principles for Neurosymbolic AI: Reasoning, Assurances, Interfacing and Learning
تقدم هذه الورقة إطار عمل RAIL (الاستدلال، والضمانات، والواجهات، والتعلم) كمنظور موحد لتحليل وتصميم أنظمة الذكاء الاصطنا-رمزي الموثوقة والجديرة بالثقة التي تدمج تعلم الآلة مع الاستدلال الصوري عبر تطبيقات متنوعة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول تعليم روبوت كيفية التنقل في العالم. لديك معلمان مختلفان تماماً. الأول هو "المراقب الفائق"، وهو آلة تتعلم من خلال مشاهدة ملايين الساعات من الفيديو، وتكتشف الأنماط، وتخمن ما سيحدث تالياً. إنه سريع للغاية وجيد في التعرف على الوجوه أو كتابة القصائد، لكنه غالباً ما يختلق حقائق، وينسى ما تعلمه بالأمس، ولا يستطيع شرح لماذا يعتقد أن الضوء الأحمر يعني "توقف". أما المعلم الثاني فهو "أمين المكتبة الصارم"، وهو آلة تتبع كتاب قواعد صارم. هو يعرف تماماً ما يعنيه الضوء الأحمر لأن إنساناً كتب ذلك في كتاب منطقي، ولن يكسر هذه القاعدة أبداً. لكن أمين المكتبة بطيء، ويحتاج إلى إنسان ليكتب له كل قاعدة، ويصاب بالارتباك التام إذا رأى شيئاً لم تذكره كتب القواعد.
لفترة طويلة، اعتقد العلماء أن هذين المعلمين يجب أن يعمل كل منهما في غرفة منفصلة. ولكن مؤخراً، ظهرت فكرة جديدة: ماذا لو تركناهم يعملون معاً؟ هذا المجال، المسمى "الذكاء الاصطناعي العصبي الرمزي" (Neurosymbolic AI)، يحاول دمج قوة اكتشاف الأنماط لدى "المراقب الفائق" مع العقل المنطدي المتبع للقواعد لدى "أمين المكتبة الصارم". الهدف هو بناء أنظمة ليست ذكية ومرنة فحسب، بل آمنة وقابلة للتفسير وموثوقة أيضاً—خاصة في المواقف عالية المخاطر مثل السيارات ذاتية القيادة أو التشخيص الطبي. السؤال الكبير هو: كيف يمكننا حقاً بناء هذه الأدمغة الهجينة دون أن يتصارعوا مع بعضهم البعض؟
تشير ورقة بحثية جديدة من فريق من الباحثين من جامعات ومختبرات حول العالم إلى خارطة طريق. إنهم يجادلون بأننا لسنا بحاجة إلى اختراع نوع جديد من الذكاء الاصطناعي من الصفر. بدلاً من ذلك، فإن العديد من الأنظمة الأكثر تقدماً التي نمتلكها بالفعل—مثل تلك التي هزمت البشر في الشطرنج أو طي البروتينات—تتبع سراً مجموعة محددة من قواعد التصميم. يطلق المؤلفون على هذه القواعد اسم RAIL، وهي اختصار لـ الاستدلال (Reasoning)، والضمانات (Assurances)، والربط (Interfacing)، والتعلم (Learning). وهم يقترحون أنه من خلال النظر إلى أنظمة الذكاء الاصطناعي من خلال هذه العدسات الأربع، يمكننا فهم كيفية عملها، وإيجاد نقاط ضعفها، وتصميم أنظمة أفضل للمستقبل.
الركائز الأربع لخارطة طريق RAIL
تقترح الورقة أن كل نظام عصبي رمزي يمكن وصفه من خلال موقعه على مقياس منزلق لأربعة مبادئ مختلفة. فكر في هذه المبادئ ليس كمفاتيح تشغيل/إيقاف، بل كأدوات ضبط (Dials) يمكنك تدويرها لموازنة النظام.
1. الاستدلال: أداة "كيف تفكر؟"
تقيس هذه الأداة مدى قدرة النظام على ربط النقاط. في أحد الطرفين، لديك الاستدلال الضمني (Implicit Reasoning)، حيث يخمن الذكاء الاصطناعي الإجابة بناءً على الأنماط التي رآها من قبل، مثل طالب يحفظ نموذج الإجابة دون أن يفهم الرياضيات. وفي الطرف الآخر، لديك الاستدلال الصريح (Explicit Reasoning)، حيث يتبع الذكاء الاصطناعي سلسلة منطقية خطوة بخطوة، مثل محقق يدون الأدلة لحل قضية.
تشير الورقة إلى أن الأنظمة الأكثر قوة، مثل عائلة Google Alpha (التي تلعب الألعاب وتحل البراهين الرياضية)، تقع في مكان ما في المنتصف. فهي تستخدم الشبكات العصبية لعمل تخمينات سريعة (ضمني) ولكنها تستخدم المنطق الصارم للتحقق مما إذا كانت هذه التخمينات منطقية (صريح). ويشير المؤلفون إلى أن الاعتماد فقط على جانب "التخمين" يؤدي إلى الأخطاء و"الهلوسات" (اختلاق أشياء غير موجودة)، لذا فإن الأنظمة المستقبلية تحتاج إلى استخدام النطاق الكامل لهذه الأداة لتكون موثوقة حقاً.
2. الضمانات: أداة "هل يمكننا الوثوق به؟"
يتعلق هذا الأمر بضمانات السلامة. في أحد الجانبين، لديك أنظمة يتم التحقق منها لاحقاً (Verified Ex-Post)، مما يعني أنك تقوم بتدريبها أولاً ثم تحاول اختبارها لاحقاً لمعرفة ما إذا كانت آمنة. وهذا أمر محفوف بالمخاطر لأنك قد تغفل عن خطأ خطير حتى فوات الأوان. وفي الجانب الآخر، لديك أنظمة مضمونة بالتصميم (Verified by Design)، مما يعني أن قواعد السلامة مغروسة في دماغ النظام منذ البداية.
تجادل الورقة بأنه بالنسبة للوظائف الحرجة، نحتاج إلى الانتقال نحو "المضمونة بالتصميم". على سبيل المثال، إذا كان النظام يحل برهاناً رياضياً، فيجب بناؤه بحيث لا يمكنه إنتاج برهان غير صحيح، وليس فقط أنه من المحتمل ألا يفعل ذلك. ويلاحظ المؤلفون أنه بينما يصعب القيام بذلك للشبكات العصبية المعقدة، فإن دمجها مع القواعد الرمزية يجعل من الممكن ضمان أن النظام لن يتعطل أو يقوم بشيء غير آمن.
3. الربط: أداة "هل يمكننا التحدث؟"
يسأل هذا المبدأ: ما مدى سهولة تحدث الإنسان مع الذكاء الاصطناعي، ومدى قدرة الذكاء الاصطناعي على شرح نفسه؟ في أحد الطرفين، لديك التمثيلات الرقمية البحتة (Pure Embeddings)، حيث يفكر الذكاء الاصطناعي بلغة سرية من الأرقام التي لا يستطيع البشر قراءتها. وفي الطرف الآخر، لديك التمثيلات الرمزية البلتة (Pure Symbolic Representations)، حيث يُكتب كل شيء بلغة منطقية واضحة أو كود يمكن للبشر فحصه.
تسلط الورقة الضوء على مشكلة: العديد من أنظمة الذكاء الاصطناعي القوية هي "صناديق سوداء". لا يمكننا رؤية ما بداخلها لنعرف لماذا اتخذت قراراً ما. تقترح إطار عمل RAIL أننا بحاجة إلى "تمثيلات مختلطة" (Mixed Representations)—أنظمة يمكنها ترجمة عمليات حساب الأرقام السرية الخاصة بها إلى شيء يمكن للبشر فهمه، مثل رسم بياني أو شرح منطقي. وهذا أمر بالغ الأهم_ية لأشياء مثل الذكاء الاصطناعي الطبي، حيث يحتاج الطبيب إلى معرفة لماذا أوصى الكمبيوتر بعلاج معين.
4. التعلم: أداة "كيف نعلمه؟"
أخيراً، تنظر هذه الأداة إلى كيفية تعلم النظام. عند أحد الأطراف القصوى، لديك التعلم المعتمد على البيانات فقط (Data-Only Learning)، حيث يُلقى بالذكاء الاصطناعي في وسط فيضان من البيانات وعليه اكتشاف كل شيء بمفرده. وعند الطرف الآخر، لديك عدم التعلم (No Learning)، حيث يكتب الإنسان كل قاعدة.
أما "النقطة المثالية"، كما تقترح الورقة، فهي التعلم الموجه بالمعرفة (Knowledge-Guided Learning). وهنا نعطي الذكاء الاصطناعي بعض القواعد أو الحقائق للبدء بها (مثل إخبار ذكاء اصطناعي متخصص في الفيزياء أن الطاقة لا تُفنى ولا تُستحدث من عدم) ثم نتركه يتعلم الباقي من البيانات. هذا يجعل الذكاء الاصطناعي يتعلم بشكل أسرع، ويحتاج إلى بيانات أقل، ويرتكب أخطاءً سخيفة أقل. حتى أن بعض الأنظمة المتقدمة تستخدم التعلم ثنائي الاتجاه (Bidirectional Learning)، حيث يتعلم الذكاء الاصطناعي من البيانات، ولكنه أيضاً يقوم بتحديث قواعده الخاصة بناءً على ما يتعلمه، مما يخلق دورة من التحسين.
ماذا يعني هذا للمستقبل؟
لا يدعي المؤلفون أنهم حلوا جميع مشكلات الذكاء الاصطناعي. بدلاً من ذلك، يقترحون أن إطار عمل RAIL هو أداة لمساعدة المهندسين على اتخاذ قرارات أفضل. ومن خلال النظر إلى الأنظمة الموجودة من خلال هذه المبادئ الأربعة، وجدوا أن العديد من الأنظمة "العصبية الرمزية" تقوم بالفعل بأشياء رائعة، حتى لو لم تكن تسمي نفسها كذلك. على سبيل المثال، الأنظمة التي تستخدم الأدوات (مثل ذكاء اصطناعي يكتب كوداً لحل مشكلة) أو الأنظمة التي تتعلم قوانين الفيزياء تستخدم بالفعل هذه المبادئ لتبقى آمنة ودقيقة.
ومع ذلك، تحذر الورقة أيضاً من وجود مقايضات. إذا دفعت النظام بقوة نحو "المنطق الصرف"، فقد يصبح جامداً جداً بحيث لا يستطيع التعامل مع فوضى العالم الحقيقي. وإذا دفعته بقوة نحو "التعلم الصرف"، فقد يصبح غير قابل للتنبؤ وغير آمن. الهدف هو إيجاد التوازن الصحيح للمهمة المحددة المطلوبة.
باختصار، هذه الورقة هي دعوة للعمل لمجتمع الذكاء الاصطناعي. فهي تقترح أن مستقبل الذكاء الاصطناعي الموثوق ليس في الاختيار بين "التخمين الذكي" و"القواعد الصارمة"، بل في بناء أنظمة تعرف كيف تستخدم كليهما. ومن خلال استخدام مبادئ RAIL، يمكن للمهندسين تصميم ذكاء اصطناعي ليس قوياً فحسب، بل آمن، وقابل للتفسير، ومستعد لمساعدتنا في حل أصعب مشكلات العالم.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.