A Calibrated Reflection Approach for Enhancing Confidence Estimation in LLMs

في ظل المشهد المتطور بسرعة للذكاء الاصطناعي، أصبحت النماذج اللغوية الكبيرة أدوات قوية قادرة على توليد نصوص تشبه النصوص البشرية، والإجابة على أسئلة معقدة، وحتى إجراء محادثات. ومع ذلك، لا تزال هناك عقبة كبيرة تحول دون الثقة في هذه الأنظمة: معرفة متى تكون مصيبة ومتى تكون مخطئة. فغالباً ما تنتج هذه النماذج إجابات تبدو طليقة وواثقة، حتى عندما تكون الحقائق غير صحيحة. هذه مشكلة تتعلق بالمعايرة. ففي النظام المعاير جيداً، إذا ادعى النموذج أنه متأكد بنسبة تسعين بالمائة من إجابة ما، فيجب أن يكون صحيحاً في تسعين بالمائة من الحالات. وبدون هذه الموثوقية، لا يمكن للمستخدمين التمييز بين الرؤية الجديرة بالثقة وبين الهلوسة الواثقة. وتصبح حالة عدم اليقين هذه معقدة بشكل خاص عند التعامل مع البيانات الترتيبية، حيث توجد الإجابات على مقياس، مثل تقييم خدمة من نجمة واحدة إلى خمس نجوم. وفي هذه الحالات، يكون الخطأ القريب من الحقيقة أقل حدة من الخطأ البعيد عنها، لكن الطرق القياسية غالباً ما تفشل في إدراك هذا الفارق، حيث تعامل جميع الأخطاء على أنها سيئة بالتساوي.

لقد طور باحثون في أمازون إطار عمل جديداً صُمم لمعالجة هذه النقطة العمياء، مما يخلق نظاماً يساعد النماذج اللغوية على فهم مدى يقينها بشكل أفضل. يجمع نهجهم، المسمى "التأمل المعاير" (Calibrated Reflection)، بين استراتيجيتين رئيسيتين لتحسين كيفية حكم النموذج على عمله. أولاً، قدموا طريقة يقوم فيها النموذج بتقييم كل خيار ممكن للإجابة، وليس فقط الخيارات الأكثر احتمالاً، ثم يتوقف ليتأمل في منطقه قبل اتخاذ قرار نهائي. تجبر هذه العملية النموذج على التحقق من منطقه وتحديد أوجه السهو المحتملة، تماماً كما يقوم الإنسان بمراجعة عمله قبل تقديم تقرير. ثانياً، أضافوا طبقة من التعديل تأخذ في الاعتبار المسافة بين الإجابات. فإذا توقع النموذج تقييماً قدره أربعة على مقياس من خمس نقاط، ولكن كتلة الاحتمالية تتركز بشدة على التقييم المجاور وهو ثلاثة، فإن النظام يدرك أن هذا خطأ أصغر وأكثر سهولة في التعامل معه مما لو كانت الاحتمالية موزعة نحو التقييم واحد. تضمن هذه المعايرة "المدركة للمسافة" أن يعكس مقياس الثقة النهائي الطبيعة الحقيقية لعدم اليقين.

لاختبار إطار العمل هذا، طبقه الباحثون على مجموعة متنوعة من السيناريوهات الواقعية، بما في ذلك المحادثات بين المستخدمين وروبوتات الدردشة ومهام التصنيف القائمة على الحقائق. واستخدموا مجموعات بيانات راسخة تحتوي على آلاف الأمثلة، مثل مجموعة من التفاعلات الحوارية التي تم تقييمها بناءً على أبعاد مثل الفائدة والصحة، ومجموعة بيانات تقييم كبيرة مكونة من 6.8 ألف عبارة صحيحة مقترنة بنظيراتها الخاطئة. وقارنوا طريقتهم الجديدة بعدة تقنيات موجودة، بما في ذلك فحوصات الاحتمالية البسيطة، والطرق التي تطلب من النموذج توليد إجابات متعددة لمعرفة مدى توافقها، والنهج التي تعتمد على الإشارات الرياضية الداخلية للنموذج. وأظهرت النتائج أن نهجهم المشترك تفوق باستمرار على غيره. فقد أنتجت النماذج التي تستخدم "التأمل المعير" درجات ثقة تتوافق بشكل وثيق للغاية مع دقتها الفعلية. وتحديداً، أظهر النظام أخطاء أقل بكثير في المعايرة، مما يعني أن مستويات الثقة المعلنة كانت مؤشرات أكثر موثوقية للحقيقة. كما حسن أيضاً قدرة النموذج على التمييز بين الإجابات الصحيحة والخاطئة، وهو مقياس حاسم للسلامة والثقة.

يسلط البحث الضوء على أن هذا التحسن قد تحقق دون إعادة تدريب النماذج أو طلب موارد حوسبة ضخمة. فقد اختبر الباحثون طريقتهم على كل من النماذج مغلقة المصدر ومفتوحة المصدر، وأجروا التجارب بمرور واحد عبر النظام، مما يجعل التقنية عملية للاستخدام الفوري. ومن خلال دمج الاستدلال المنظم مع الفهم الدقيق لمدى قرب أو بعد الخطأ، يوفر نهج "التأمل المعاير" مساراً نحو ذكاء اصطعي أكثر موثوقية. إنه يعالج الفجوة الحرجة حيث فشلت النماذج سابقاً في التمييز بين الهفوة البسيطة والفشل الكبير، مما يوفر مقياساً أكثر صدقاً وفائدة لليقين. ويشير هذا العمل إلى أنه من خلال تغيير طريقة طلبنا من النماذج التفكير في إجاباتها، يمكننا جعلها أكثر موثوقية بشكل كبير كشركاء في اتخاذ القرار.