Reasoning Core: Designing Broad Procedural Data for Completion-Supervised Reasoning Training
تقدم هذه الورقة "Reasoning Core"، وهي مجموعة شاملة من 50 مولداً إجرائياً مزودة بمقاييس دلالية وضوابط للصعوبة، والتي تتفوق عند استخدامها في الضبط الدقيق الخاضع لإشراف الإكمال على مجموعات البيانات الإجرائية الحالية في معايير الاستدلال الرئيسية، مع إثبات أن الصلاحية الدلالية وحدها غير كافية دون أهداف مدمجة وصعوبة مُعايرة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول تعليم روبوت كيف يفكر. لفترة طويلة، قام العلماء بتغذية هذه الروبوتات بمكتبات ضخمة من الكتب والمقالات والمحادثات، آملين أن تتعلم الاستنتاج عن طريق التناضح (الامتصاص). ولكن في بعض الأحيان، يقوم الروبوت فقط بحفظ الإجابات دون فهم المنطق. ولإصلاح ذلك، بدأ الباحثون في بناء "عوالم محاكية" حيث يتعين على الروبوت حل الألغاز، أو لعب الألعاب، أو القيام بالرياضيات. في هذه العوالم، توجد إجابة صحيحة أو خاطئة واضحة، مثل مستوى في لعبة فيديو حيث إما أن تهزم الزعيم أو لا تفعل. يُسمى هذا التوليد الإجرائي (procedural generation): فبدلاً من استئجار إنسان لكتابة مليون مسألة رياضية، تقوم بكتابة برنامج حاسوبي ينشئها فوراً، مع ضمان أن كل واحدة منها قابلة للحل والتحقق.
السؤال الكبير الذي يطرحه الباحثون هو: كيف نصمم هذه العوالم المحاكية بحيث تجعل الروبوت أكثر ذكاءً حقاً؟ اتضح أن مجرد امتلاك لغز يمكن حله ليس كافياً. إذا كان اللغز مربكاً للغاية، أو كانت الإجابة طويلة جداً، أو كانت التعليمات مخادعة، فقد يصاب الروبوت بالإحباط أو يتعلم الدرس الخاطئ. تغوص هذه الورقة البحثية في "وصفة" هذه الألغاز، متسائلة عما إذا كانت الطريقة التي نكتب بها التعليمات والإجابات تهم بقدر ما يهم اللغز نفسه.
مطبخ المنطق: تقديم REASONING CORE
فكر في تدريب ذكاء اصطناعي ذكي مثل تعليم طالب من أجل امتحان كبير. يمكنك إعطاؤه مجموعة من الكتب المدرسية من العالم الحقيقي (وهذا هو شكل معظم تدريبات الذكاء الاصطناعي)، أو يمكنك إعطاؤه كراسة تمارين للمسائل التدريبية. قرر مؤلفو هذه الورقة بناء كراسة تمارين مثالية، أطلقوا عليها اسم REASONING CORE.
لم يجمعوا المسائل العشوائية معاً فحسب، بل بنوا مطبخاً ضخماً يحتوي على 50 "مولداً" مختلفاً (اعتبر هذه المولدات بمثابة طهاة آليين). يتخصص كل طاهٍ في نوع مختلف من المنطق:
- طهاة الرياضيات الذين ينشئون مسائل الحساب والهندسة.
- طهاة المنطق الذين يبنون ألغازاً حول الحقيقة، والأكاذيب، والسبب والنتيجة.
- طهاة البرمجة الذين يكتبون برامج صغيرة ويطلبون من الذكاء الاصطناعي التنبؤ بما تفعله.
- طهاة الألعاب الذين يجهزون سيناريوهات لألعاب لوحية حيث يتعين على الذكاء الاصطناعي إيجاد الحركة الرابحة.
كان الهدف هو معرفة ما إذا كان إطعام الذكاء الاصطناعي نظاماً غذائياً ثابتاً من هذه الألغاز المحددة والقابلة للتحقق سيجعله أفضل في الاستنتاج مقارنة بمجرد إطعامه المزيد من النصوص العشوائية.
اختبار التذوق الكبير
لمعرفة ما إذا كان "كتيب وصفات" REASONING CORE الجديد جيداً، أقام الباحثون اختبار تذوق ضخم. أخذوا أربعة نماذج مختلفة من الذكاء الاصطناعي (تتراوح أحجامها من الصغيرة إلى المتوسطة) وأطعموها مزيجاً من النصوص العادية ونوعاً واحداً من أربعة أنواع مختلفة من مجموعات الألغاز:
- REASONING CORE (المجموعة الجديدة المصممة بعناية).
- PROCEDURAL WARMUP (مجموعة قديمة من الألغاز المنطقية المجردة).
- REASONING GYM (مجموعة شهيرة من الألغاز الخوارزمية).
- SYNLOGIC (مجموعة تركز على الألعاب المنطقية).
دربوا النماذج لفترات زمنية مختلفة ثم اختبروها في تحديات استنتاج قياسية، مثل فهم المقروء، والألغاز المنطقية، والمسائل الرياضية.
النتائج: الجودة فوق الكمية
كانت النتائج واضية. عندما اختبروا النماذج على مقياس 3 مليارات معلمة (وهو دماغ متوسط الحجم للذكاء الاصطناعي)، جاء REASONING CORE في المقدمة. فقد ساعد الذكاء الاصطناعي على تسجيل درجات أعلى في الاختبارات الصعبة مثل DROP و LogiQA و ARC-Challenge مقارنة بأي من المجموعات الأخرى، أو حتى التدريب على النصوص العادية وحدها.
ولكن هذا هو الجزء الأكثر إثارة للاهتمام: لم يكن الأمر يتعلق فقط بامتلاك المزيد من الألغاز. اكتشف الباحثون أن كيفية كتابة الألغاز كانت مهمة للغاية.
- سر "الإجابة القصيرة": وجدوا أن طلب شرح طويل وخطوة بخطوة لكيفية حل المشكلة من الذكاء الاصطناعي غالباً ما يجعله أسوأ. بدلاً من ذلك، تعلم الذكاء الاصطنانا أفضل عندما تطلب الألغاز إجابة موجزة ومباشرة (مثل رقم واحد، أو كلمة محددة، أو رمز برمجي قصير). إنه يشبه الفرق بين أن تطلب من طالب كتابة مقال من خمس صفحات حول كيفية حله لمسألة رياضية مقابل مطالبته فقط بالرقم النهائي. المقال أشتت انتباههم؛ بينما الرقم ركزهم.
- مقياس "الصعوبة": تعلموا أيضاً أن الألغاز يجب أن تكون "مثالية تماماً". إذا كانت سهلة للغاية، يصاب الذكاء الاصطناعي بالملل. وإذا كانت صعبة للغاية، يصاب بالارتباك. جاءت أفضل النتائج من الألغاز التي كانت صعبة ولكنها قابلة للحل.
- مفاجأة "التدقيق": كان الفريق حريصاً للغاية لدرجة أنهم لم يكتفوا بالثقة في عملهم فقط. أجروا "تدقيقاً أمنياً" على مجموعات الألغاز الأخرى (REASONING GYM و SYNLOGIC) ووجدوا أخطاءً خفية. على سبيل المثال، في إحدى المجموعات، قد يكون للغز إجابة "صحيحة" ولكنها خاطئة في الواقع لأن البرنامج الحاسوبي الذي يتحقق من الإجابة كان يحتوي على خطأ برمي (bug). أثبت هذا أن مجرد كون اللغز مولداً بواسطة كمبيوتر لا يعني أنه صحيح. يجب عليك مراجعة العمل.
لماذا هذا مهم
تشير هذه الورقة البحثية إلى أنه إذا أردنا بناء ذكاء اصطناعي أكثر ذكاءً، فلا ينبغي لنا فقط إلقاء المزيد من البيانات عليهم. نحن بحاجة إلى أن نكون أكثر ذكاءً بشأن نوع البيانات التي نعطيهم إياها.
فكر في الأمر كالتدريب على رياضة ما. إذا كنت تريد أن تصبح أفضل في كرة السلة، فأنت لا تركض عشوائياً في الصالة الرياضية. أنت تتدرب على تمارين محددة: رمي الرميات الحرة، والمراوغة عبر الأقماع، والدفاع. REASONING CORE يشبه مجموعة مصممة بدقة من التمارين. فهو يظهر أنه من خلال صياغة المشكلات (التمارين) والإجابات (النتيجة) بعناية، يمكننا مساعدة نماذج الذكاء الاصطناعي على تعلم التفكير بشكل أكثر فعالية بكثير.
لم يكتفِ المؤلفون بالقول: "مهلاً، هذا يعمل". لقد قاموا بقياس ذلك، واختبروه عبر نماذج مختلفة، بل ووجدوا عيوباً في أعمال الآخرين لإثبات وجهة نظرهم. لقد أظهروا أن تصميم بيانات التدريب لا يقل أهمية عن البيانات نفسها. وبينما لم يحلوا لغز كيفية صنع ذكاء اصطناعي فائق الذكاء بعد، فقد وجدوا بالتأكيد طريقة أفضل لتعليمهم الأساسيات.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.