REIN: Bridging the Gap between Reasoning and Reliability via Reflection and Abstention Alignment

تخيل أنك تتحدث إلى صديق آلي فائق الذكاء، قرأ كل كتاب تقريباً في المكتبة. هذا الروبوت بارع في حل الألغاز، والقيام بالعمليات الحسابية، وشرح كيفية عمل العالم. ولكن أحياناً، عندما يتعثر أو لا يعرف الإجابة، لا يكتفي بمجرد قول "لا أعرف". بدلاً من ذلك، يبدأ في تأليف قصة تبدو مقنعة للغاية، مثل ساحر يُخرج أرنباً من قبعة ليست موجودة أصلاً. في عالم الذكاء الاصطناعي، يُطلق على هذا اسم "الهلوسة". وهي عندما يعطيك الروبوت الإجابة الخاطئة بكل ثقة، أو الأسوأ من ذلك، يؤلف حقائق تبدو صحيحة ولكنها ليست كذلك.

لقد حاول العلماء إصلاح ذلك بتعليم الروبوتات "التفكير بصوت عالٍ" قبل أن تتحدث. هذا يشبه مطالبة الروبوت بإظهار خطوات الحل في اختبار الرياضيات. الفكرة هي أنه إذا كتب الروبوت خطواته، فيمكننا رؤية أين أخطأ. لكن الجزء الصعب هنا هو أن الروبوت أحياناً يصيب في الخطوات ويخطئ في الإجابة، وأحياناً أخرى لا يمتلك المعلومات للإجابة على الإطلاق. لذا، إذا قلنا له فقط "فكر بجهد أكبر"، فقد يقوم فقط بتأليف كذبة تبدو أكثر إقناعاً. لهذا السبب، يبرز السؤال الكبير: كيف نعلم الروبوت ليس فقط التفكير بوضوح، بل أيضاً معرفة متى يتوقف ويعترف قائلاً: "مهلاً، أنا في الواقع لا أعرف هذا"؟

هنا يأتي دور طريقة جديدة تسمى REIN. فكر في REIN كمعسكر تدريب خاص لروبوتات التفكير هذه. فبدلاً من ترك الروبوت ينطق بالإجابة فحسب، تعلمه REIN روتيناً صارماً من ثلاث خطوات لكل سؤال يتلقاه: فكر، ثم تأمل، ثم أجب.

أولاً، يفكر الروبوت في المشكلة ويصل إلى مسودة إجابة (جزء "فكر"). بعد ذلك، وقبل أن يُسمح له بقول تلك الإجابة بصوت عالٍ، يجب عليه التوقف والنظر في المرآة (جزء "تأمل"). في هذه المرآة، يجب عليه أن يسأل نفسه: "هل الإجابة التي فكرت فيها للتو موثوقة حقاً؟ هل ارتكبت خطأً في منطقي، أم أنني ببساطة لا أعرف هذه الحقيقة؟". أخيراً، يقدم "الإجابة".

سحر REIN يكمن في كيفية تعليم الروبوت استخدام تلك المرآة. فقد وجد الباحثون أن الروبوتات ترتكب نوعين مختلفين من الأخطاء. النوع الأول هو زلة منطقية، حيث يعرف الروبوت الحقائق ولكنه يتعثر في خطوات استنتاجه. والنوع الآخر هو فجوة معرفية، حيث لا يمتلك الروبوت الحقائق للإجابة ببساطة. تعلم REIN الروبوت التعامل مع هذين النوعين بشكل مختلف. إذا كان الأمر مجرد زلة منطقية، فيتعلم الروبوت اكتشاف خطئه في مرحلة "التأمل" وتصحيحه. أما إذا كانت فجوة معرفية -أي أن الروبوت لا يعرف الحقيقة حقاً- فإن مرحلة "التأمل" تعلمه أن يكون شجاعاً بما يكفي ليقول "لا أعرف"، بدلاً من اختلاق شيء ما.

في تجاربهم، اختبر الباحثون هذه الطريقة على مسائل رياضية صعبة وأسئلة تتعلق بالمنطق العام. ووجدوا أن الروبوتات المدربة باستخدام REIN أصبحت أفضل بكثير في رصد أخطائها الخاصة. لقد قللوا من عدد المرات التي قدم فيها الروبوت "أكاذيب واثقة" بنسبة كبيرة جداً (بين 58% و72% أقل). وفي الوقت نفسه، لم يتوقفوا عن الإجابة على كل شيء؛ بل ظلوا يجيبون على معظم الأسئلة بشكل صحيح (مما حافظ على معدل نجاحهم مرتفعاً).

والجزء الأفضل؟ لا يحتاج الروبوت إلى طلب المساعدة من إنسان أو التحقق من كتاب مدرسي أثناء عمله. إنه يتعلم القيام بكل عمليات التحقق الذاتي هذه في جولة واحدة، فقط من خلال اتباع روتين "فكر، تأمل، أجب". الأمر يشبه تعليم طالب مراجعة واجباته المدرسية بنفسه قبل تسليمها، لضمان أنه إذا أخطأ، فإنه يعرف لماذا أخطأ، أو إذا كان لا يعرف الإجابة، فلديه الثقة للاعتراف بذلك بدلاً من التخمين. وهذا يجعل الروبوت ليس فقط أكثر ذكاءً، بل أيضاً أكثر موثوقية.