Ask, Condition or Abstain: Reinforcement Learning for Missing-Premise Reasoning
تقدم هذه الورقة إطار عمل التعلم المعزز ACA-RL ومعيار Missing-Premise Benchmark (MPB) اللذين يمكّنان نماذج الاستدلال من التعامل بفعالية مع الاستعلامات غير محددة المعالم عبر تعلم طلب المعلومات المفقودة، أو ربط الإجابات بالمجاهيل، أو الامتناع عن الإجابة، بدلاً من فرض استجابات غير صحيحة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تطرح سؤالاً على مساعد ذكي للغاية، لكنك نسيت عن طريق الخطأ قطعة حيوية من المعلومات اللازمة لحل اللغز. ربما تسأل عن التكلفة الإجمالية لرحلة ما، لكنك تنسى ذكر الوجهة، أو تطلب حلاً لمسألة رياضية ولكنك تغفل عن رقم معين. في العالم الحقيقي، سيتوقف إنسان متعاون، ويلاحظ الفجوة، ثم يطلب منك التفصيل المفقود؛ فهو لن يخمن الوجهة أو يبتكر رقماً لمجرد إعطائك إجابة. لفترة طويلة، عانت أنظمة الذكاء الاصطناي التي تم تدريبها على حل المشكلات من هذه الحالة تحديداً. فعند مواجهة سؤال غير مكتمل، تشعر هذه الأنظمة بالاضطرار إلى ملء الفراغات بنفسها، لتقدم بثقة إجابة خاطئة أو حقيقة مختلقة. هذا السلوك، المعروف باسم "الهلوسة"، يحدث لأن النماذج مدربة أساساً على إيجاد إجابة نهائية، وليس على إدراك متى يكون من المستحيل العثور على إجابة.
لقد عمل الباحثون على تعليم هذه الأنظمة كيفية إدراك عدم اليقين، لكن مجرد إخبارهم بأن يقولوا "لا أعرف" ليس دائماً الرد الأكثر نفعاً. فأحياناً، يكون رد الفعل الأفضل هو طلب القطعة المفقودة من المستخدم. وفي أحيان أخرى، يمكن للنظام تقديم إجابة مفيدة تعتمد على متغير ما، مثل القول: "ستكون التكلفة عشرة دولارات إذا كانت الرحلة إلى باريس، لكنها عشرون دولاراً إذا كانت إلى لندن". تقدم هذه الورقة البحثية طريقة جديدة لتدريب الذكاء الاصطناعي على التعامل مع هذه الأسئلة غير المكتملة بذات العناية التي يتعامل بها البشر. فقد طور الباحثون نظاماً يعلم النماذج إما طرح أسئلة استيضاحية، أو تقديم إجابة شرطية، أو الاعتذار بأدب عن التخمين عندما لا يكون هناك رد مفيد ممكن.
قام الفريق، بقيادة باحثين من "أنت إنترناشيونال" (Ant International) وجامعة "جيجيانغ"، بابتكار نهج تدريبي جديد يسمى "التعلم التعزيزي للسؤال-الشرط-الامتناع" (Ask-Condition-Abstain Reinforcement Learning). ولتعليم النماذج هذا السلوك، كان عليهم أولاً إنشاء مكتبة ضخمة من مسائل التدريب التي تم كسرها عمداً. لقد أخذوا 120,000 مسألة جيدة الصياغة وقابلة للحل، وقاموا بعناية بإزالة أو تعديل معلومة واحدة حاسمة من كل منها. لم تكن هذه العملية عشوائية؛ بل استخدموا خريطة هيكلية لكيفية حل المسألة لتحديد الواقعة الضرورية للإجابة بدقة. ومن خلال إزالة هذه الحقائق جراحياً، أنشأوا مجموعة بيانات يكون فيها الرد الصحيح الوحيد هو الاعتراف بأن السؤال غير مكتمل.
وبمجرد تجهيز بيانات التدريب هذه، علموا النماذج باستخدام نظام مكافآت يشجع سلوكيات محددة. فبدلاً من مجرد مكافأة الإجابة النهائية الصحيحة، منح النظام نقاطاً لطرح أسئلة توضيحية أو شرح ما هو مفقود. ومنح نقاطاً أقل لمجرد رفض الإجابة، ومنح نقاطاً سالبة عند اختلاق حقائق أو التخمين. كان الهدف هو تحويل غريزة النموذج من "خمن الإجابة" إلى "حدد الفجوة". ولاختبار ما إذا كان هذا التدريب قد نجح بالفعل، بنى الباحثون معياراً جديداً يسمى "معيار المقدمة المفقودة" (Missing-Premise Benchmark). احتوت مجموعة الاختبار هذه على 274 مسألة تم التحقق منها بعناية حيث تكون المعلومات مفقودة، وتغطي الرياضيات والمنطق والمسائل اللفظية من واقع الحياة.
أظهرت النت النتائج أن طريقة التدريب الجديدة حسنت بشكل كبير كيفية تعامل النماذج مع الأسئلة غير المكتملة. ففي المعيار الجديد، سجلت النماذج التي تدربت بهذه الطريقة درجات أعلى بكثير من تلك التي تدربت فقط على إيجاد الإجابات أو تلك التي تدربت ببساطة على قول "لا أعرف". وكانت النماذج المدربة أقل عرضة بكثير للهلوسة أو اختلاق الحقائق. وبدلاً من ذلك، اختارت تكراراً طرح معلومات مفقودة أو شرح كيف ستتغير الإجابة بناءً على المتغير المجهول. والأهم من ذلك، أن هذا التحسن لم يأتِ على حساب قدرتها على حل المسائل العادية والمكتملة؛ فعند اختبارها على ألغاز رياضية ومنطقية قياسية حيث تم توفير جميع المعلومات، أدت النماذج مهامها بنفس الكفاءة السابقة، مما يظهر أن تعلم إدراك عدم اليقين لم يجعلها أسوأ في حل المهام القابلة للحل.
تشير الدراسة إلى أن الخطوة التالية للأنظمة الذكية ليست فقط أن تكون أسرع أو أكثر دقة في حل المشكلات، بل أن تكون أفضل في معرفة متى لا يمكن حل المشكلة كما وردت. ومن خلال تعليم النماذج كيفية كشف المعلومات المفقودة بدلاً من التخمين، يدعم هذا النهج إنشاء مساعدين أكثر أماناً وموثوقية. إذ يمكن لهذه الأنظمة أن تقرر متى تطلب المساعدة من المستخدم أو متى تستخدم أداة للعثور على حقيقة مفقودة، بدلاً من تقديم إجابة خاطئة بثقة. ويشير الباحثون إلى أنه بينما تعمل طريقتهم بشكل جيد مع الفجوات المنطقية في المسائل الهيكلية، فإن أسئلة العالم الحقيقي يمكن أن تكون أكثر فوضوية وغموضاً. ومع ذلك، فإن هذا العمل يوفر مساراً واضحاً لتعليم الذكاء الاصطناعي كيفية إدراك حدود معرفته والاستجابة بشكل بناء عندما تكون المعلومات غير مكتملة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.