Self-Correction Bench: Uncovering and Addressing the Self-Correction Blind Spot in Large Language Models

تخيل أنك تعلم روبوتاً ليكون محققاً. تعطيه عدسة مكبرة وقائمة من الأدلة، فيبدأ في حل الألغاز. لكن أحياناً، يرتكب الروبوت خطأً سخيفاً، مثل اعتقاده أن قطة هي كلب. إذا أشرت إلى الروبوت وقلت: "هيه، لقد سميت ذلك كلباً، لكنه قطة!"، يوافق الروبوت فوراً، ويقول "أوه، خطئي"، ويصلح الإجابة. يبدو ذكياً وواعياً بذاته، أليس كذلك؟ لكن إليك المفاجأة: إذا ارتكب الروبوت نفس الخطأ بمفرده، دون أن يشير إليه أحد، فغالباً ما يستمر في المضي قدماً، متمسكاً بالإجابة الخاطئة وكأن شيئاً لم يكن.

هذا هو عالم النماذج اللغوية الكبيرة (LLMs)، وهي العقول الحاسوبية فائقة الذكاء التي تشغل برامج الدردشة ومحركات البحث. لطالما تساءل العلماء: عندما تفشل هذه الروبوتات في إصلاح أخطائها، هل يكون ذلك لأنها غبية جداً لدرجة أنها لا تعرف الإجابة الصحيحة (مشكلة معرفة)، أم لأنها تعرف الإجبة ولكنها لا تستطيع "الاستيقاظ" وإصلاحها (مشكلة تفعيل)؟ الأمر يشبه طالباً يعرف الإجابة لمسألة رياضية، ولكنه عندما يرتكب خطأً في واجبه المنزلي بمفرده، فإنه يتجاهله ببساطة، رغم أنه سيصححه فوراً لو أشار المعلم إلى الخطأ. إن فهم هذا الفرق أمر بالغ الأهمية، لأنه إذا أردنا جعل أنظمة الذكاء الاصطنا هذه آمنة وموثوقة في العالم الحقيقي، فنحن بحاجة لمعرفة ما إذا كان علينا تعليمها المزيد من الحقائق أو مجرد إيجاد طريقة لجعلها تنتبه لأخطائها.

هنا يأتي "منصة اختبار التصحيح الذاتي" (Self-Correction Bench)، وهي تجربة ذكية صممها الباحث كين تسوي لحل هذا الغموض. بدلاً من مجرد مراقبة الروبوت وهو يرتكب الأخطاء والأمل في أن يصلحها، وضع الباحث لعبة محكومة. لقد أخذوا نفس الإجابة الخاطئة تماماً وقدموها للروبوت بطريقتين مختلفتين. في السيناريو الأول، "الخطأ الخارجي"، أخبر الباحث (الذي يلعب دور المستخدم) الروبوت: "أعتقد أن الإجابة هي 3، لكن هذا خطأ". وفي السيناريو الثاني، "الخطأ الداخلي"، ترك الباحث الروبوت يكتب الإجابة الخاطئة بنفسه: "الإجابة هي 3"، ثم طلب منه الاستمرار. الفرق الوحيد كان في من قال الشيء الخاطئ: المستخدم أم الروبوت.

كانت النتائج صادمة وكشفت عن "نقطة عمياء ضخمة في التصحيح الذاتي". فعندما اختبر الباحث 14 نموذجاً مختلفاً من نماذج الذكاء الاصطناعي مفتوحة المصدر، وجد أن هذه النماذج لديها، في المتوسط، نقطة عمياء بنسبة 64.5%. وهذا يعني أنه بينما كانت الروبوتات بارعة في إصلاح الأخطاء عندما يشير إليها المستخدم، فقد فشلت تماماً في إصلاح نفس الأخطاء عندما ارتكبتها هي بنفسها. لم يكن الأمر أنها لم تكن تعرف الإجابة الصحيحة؛ بل كانت تعرفها جيداً عندما ذكرها المستخدم، لكن "إنذارها الداخلي" ببساطة لم يعمل عندما كانت هي من أخطأت. إنه مثل سائق يمكنه رصد حفرة في سيارة شخص آخر، ولكنه يقود فوق حفرة في سيارته الخاصة دون أن يلاحظها حتى.

إذاً، لماذا يحدث هذا؟ يتعمق البحث في "دماغ" الروبوت (بيانات التدريب الخاصة به) ويجد المسبب: الطريقة التي تم بها تعليمه. اكتشف الباحثون أن مجموعات البيانات المستخدمة لتعليم هذه النماذج مليئة بالإجابات المثالية والمصقولة، ولكنها نادراً ما تعرض العملية الفوضوية لارتكاب خطأ ثم إصلاحه. إنه مثل طالب لا يرى سوى المقال النهائي الصحيح، ولكنه لا يرى أبداً مسودة مع تصحيحات بالقلم الأحمر. ولأن الروبوت لم يرَ نفسه يرتكب خطأً ثم يصلحه، فهو لا يعرف كيفية تفعيل وضع "انتظر، دعني أتحقق".

ولكن إليكم الخبر الجيد: لم يكتفِ الباحثون بإيجاد المشكلة، بل وجدوا طريقة لإصلاحها. أولاً، أظهروا أنه إذا أضفت ببساطة القليل من بيانات التدريب—فقط 5,306 مثالاً لنموذج يرتكب خطأً ثم يصححه—فإن النقطة العمياء تتقلص بنسبة 76.0%. إنه مثل إعطاء الروبوت دورة مكثفة في "أوه، وأصلح". ثانياً، وجدوا "مفتاحاً" ميكانيكياً في دماغ الروبوت. من خلال تحليل أفكاره الداخلية، اكتشفوا اتجاهاً معيناً في خريطته الذهنية يعمل كحارس بوابة. عندما يعتقد الروبوت أنه يتحدث إلى مستخدم، تفتح البوابة ويمكنه تصحيح الأخطاء. وعندما يعتقد أنه يتحدث إلى نفسه، تظل البوابة مغلقة. لقد أثبتوا ذلك من خلال "توجيه" دماغ الروبوت مادياً عبر دفعة رياضية، مما نجح في إجباره على تصحيح أخطائه.

والأروع من ذلك، أنهم وجدوا "كلمة سحرية". فمجرد إضافة كلمة "انتظر" (Wait) بعد ارتكاب الروبوت لخطأ يعمل كمحفز قوي. هذه الحيلة البسيطة، التي لا تتطلب أي تدريب إضافي، قللت النقطة العمياء بنسبة 89.3%. يبدو الأمر كما لو أن الروبوت لديه "زر إيقاف مؤقت" مخفي، والذي عند الضغط عليه، يوقظ قدرته على التصحيح الذاتي. ومن المثير للاهتمام أن زر "انتظر" هذا يعمل من خلال مسار مختلف عن "البوابة" التي وجدها الباحثون، مما يشير إلى وجود طرق متعددة لفتح إمكانات الروبوت.

في النهاية، تخبرنا هذه الورقة البحثية أن نماذج الذكاء الاصطناعي هذه ليست بالضرورة "غبية" بشأن أخطائها الخاصة؛ بل هي فقط عالقة في عادة. لديها المعرفة لإصلاح الأخطاء، لكنها تحتاج إلى الإشارة الصحيحة لاستخدامها. ومن خلال فهم أن المشكلة تتعلق غالباً بـ كيفية تقديم المعلومات (من الذي ارتكب الخطأ) وليس بـ ما هي المعلومة، يمكننا بناء ذكاء اصطناعي أفضل وأكثر أماناً وموثوقية. وسواء كان ذلك عن طريق تعديل بيانات التدريب، أو إضافة أمر "انتظر" البسيط، أو فهم المفاتيح الداخلية للدماغ، فإن لدينا الآن خارطة طريق لمساعدة محققينا الرقميين على التوقف عن تجاهل أدلتهم الخاصة.