Claim-Level Confidence Calibration for Reliable Decision Making with Large Language Models
تقترح هذه الورقة إطار عمل بنظام الصندوق المغلق يعمل على تفكيك استجابات النماذج اللغوية الكبيرة إلى ادعاءات ذرية وتطبيق معايرة لاحقة باستخدام إشارات وقت الاستدلال لتوليد درجات ثقة موثوقة على مستوى الادعاء، مما يتيح اتخاذ قرارات أكثر قابلية للتنفيذ وعمليات تحقق مستهدفة في المجالات عالية المخاطر.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في ظل المشهد المتطور بسرعة للذكاء الاصطناعي، أصبحت النماذج اللغوية الكبيرة أدوات قوية لتوليد النصوص، والإجابة على الأسئلة، والمساعدة في المهام المعقدة. ومع ذلك، لا يزال هناك تحدٍ مستمر؛ إذ تنتج هذه الأنظمة أحياناً إجابات تبدو واثقة ولكنها غير صحيحة واقعياً، وهي ظاهرة تُعرف باسم "الهلوسة". وبالنسبة للمستخدمين الذين يعتمدون على هذه النماذج في اتخاذ قرارات حاسمة، فإن الخطر لا يكمن فقط في كون الإجابة خاطئة، بل في كونها خاطئة بيقين مطلق. ولمعالجة ذلك، سعى الباحثون منذ فترة طويلة لإيجاد طرق لقياس عدم اليقين لدى النموذج، أي سؤال النظام جوهرياً عن مدى تأكده من مخرجاته. غالباً ما توفر الطرق التقليدية درجة ثقة واحدة لاستجابة كاملة، تماماً مثل نشرة جوية تعطي احتمالاً واحداً ليوم كامل. ومع ذلك، يمكن أن تحتوي الإجابة الواحدة على مزيج من الحقائق الدقيقة والأخطاء الطفيفة، مما يجعل درجة الثقة الإجمالية الواحدة أداة فجة وغير مفيدة لشخص يحتاج إلى التحقق من تفاصيل محددة قبل اتخاذ إجراء.
تقترح دراسة جديدة أجراها طغرل عباسلي وزملاؤه في جامعة تسينغ هوا ومؤسسات أخرى نهجاً أكثر دقة لهذه المشكلة. فبدلاً من التعامل مع الاستجابة ككتلة نصية واحدة، طور الباحثون طريقة لتفكيك كل إجابة إلى أصغر وحداتها المستقلة من المعلومات، والتي يسمونها "الادعاءات الذرية" (atomic claims). ثم يقومون بتعيين درجة ثقة محددة لكل ادعاء من هذه الادعاءات الفردية. اختبر الفريق هذه التقنية على عدة نماذج لغوية حديثة، بما في ذلك أنظمة من مطورين رئيسيين، باستخدام نوعين متميزين من مجموعات الأسئلة: أحدهما يركز على المعرفة الواقعية العامة، والآخر مصمم لخداع النماذج عبر جعلها تقبل مقدمات خاطئة. وتشير نتائجهم إلى أنه من خلال عزل ومعايرة الثقة على مستوى الادعاء، من الممكن إنشاء إشارة أكثر موثوقية لصناع القرار. يتيح هذا النهج للمستخدمين قبول الأجزاء من الإجابة التي يُحتمل جداً أن تكون صحيحة، مع وضع علامات على جمل محددة لمراجعتها أو رفضها، مما يوفر مساراً عملياً نحو ذكاء اصطناعي أكثر أماناً وموثوقية في البيئات عالية المخاطر.
يتضمن جوهر عمل الباحثين عملية متعددة الخطوات تعمل دون الحاجة إلى تعديل الآليات الداخلية للنماذج اللغية نفسها. أولاً، يقوم النظام بتوليد إجابة لسؤال المستخدم. بعد ذلك، تقوم أداة مساعدة بتفكيك هذه الإجابة إلى عبارات قصيرة وذاتية الاحتواء، مثل "أينشتاين اقترح نظرية النسبية" أو "حدث هذا في عام 1905". وبمجرد تفكيك الإجابة، يقوم النظام بتقييم كل عبارة على حدة. وهو يستخدم إشارتين رئيسيتين لتحديد مدى الثقة التي يجب أن يتمتع بها النموذج في كل ادعاء. تأتي الإشارة الأولى من التقييم الذاتي للنموذج أو ثقته المعلنة، حيث يتم توجيه النموذج لبيان مدى تأكده. أما الإشارة الثانية فتعتمد على الاتساق؛ حيث يقوم النظام بتوليد نسخ متعددة من الإجابة والتحقق مما إذا كان نفس الادعاء يظهر في جميع هذه النسخ. وإذا تكرر الادعاء عبر محاولات مختلفة، فإنه يُعامل على أنه أكثر موثوقية. ثم يتم دمج هاتين الإشارتين لإنتاج درجة ثقة نهائية لكل ادعاء محدد.
ولضمان أن تكون هذه الدرجات ذات معنى، طبق الباحثون عملية إحصائية تسمى "المعايرة البعدية" (post-hoc calibration). وتعمل هذه الخطوة على ضبط أرقام الثقة الخام لتتماشى مع الواقع. فعلى سبيل المثال، إذا خصص النظام ثقة بنسبة 90 بالمائة لمجموعة من الادعاءات، فإن المعايرة تضمن أن حوالي 90 بالمائة من تلك الادعاءات صحيحة بالفعل. اختبرت الدراسة هذا الإطار على ستة نماذج لغوية مختلفة، تتراوح بين الأنظمة مفتوحة المصدر والنماذج التجارية المملوكة لشركات، عبر آلاف الأسئلة. وأظهرت النتائج أن هذا النهج القائم على مستوى الادعاء قلل بشكل كبير من معدل الخطأ في تقدير الثقة مقارنة بالطرق التي تنظر إلى الاستجابة ككل. وفي الأسئلة الواقعية، أصبحت الدرجات المعايرة أكثر دقة بكثير، مما يعني أنه عندما يقول النظام إنه متأكد بنسبة 90 بالمائة، فإنه يكون صحيحاً بالفعل بنسبة 90 بالمائة من الوقت. وتسمح هذه الدقة للمستخدم البشري باتخاذ قرار ملموس: يمكنه الوثوق بالادعاءات ذات الثقة العالية فوراً، وتوجيه انتباهه إلى الادعاءات ذات الثقة المنخفضة للتحقق منها.
ومع ذلك، حددت الدراسة أيضاً حداً واضحاً تواجه عنده هذه الطريقة قيوداً. فعندما صُممت الأسئلة بمقدمات خاطئة —وهي فخاخ تفترض أن شيئاً غير صحيح هو حقيقة— غالباً ما تولد النماذج ادعاءات سلسة وواثقة ولكنها خاطئة تماماً. في هذه السيناريوهات العدائية، فشلت درجات الثقة على مستوى الادعاء أحياناً في اكتشاف الخطأ لأن النموذج كان متسقاً داخلياً في خطئه. ووجد الباحثون أنه بينما برعت طريقتهم في فرز الإجابات المختلطة التي تحتوي على معلومات صحيحة وخاطئة معاً، إلا أنها لم تستطع دائماً التغلب على نموذج واثق من خطئه بشأن حقيقة أساسية. وفي مثل هذه الحالات، تشير الدراسة إلى أن درجات الثقة وحدها غير كافية؛ إذ لا بد من وجود فحص خارجي، مثل البحث عن دليل أو استجواب من قبل نظام آخر، للإمساك بهذه الأخطاء العميقة.
إن الأثر العملي لهذا العمل هو تحول في كيفية تفاعلنا مع الذكاء الاصطناعي في البيئات المهنية. فبدلاً من قبول أو رفض استجابة كاملة بناءً على شعور غامض بالثقة، يمكن لصناع القرار الآن الاعتماد على خريطة تفصيلية للموثوقية. فعلى سبيل المثال، يمكن قبول تقرير طبي أنشأه الذكاء الاصطناعي لهيكله العام، بينما يتم وضع علامات على تفاصيل جرعات الأدوية أو التاريخ المرضي للمريض للمراجعة البشرية بناءً على درجات الثقة الفردية الخاصة بها. ويؤكد الباحثون أن هذه التقنية تعمل حتى مع النماذج "مغلقة الصندوق" (closed-box)، حيث تكون آلياتها الداخلية مخفية، مما يجعلها قابلة للتطبيق على أكثر الأنظمة التجارية تقدماً المستخدمة حالياً. وبينما لا تحل هذه الطريقة مشكلة الهلوسة تماماً، خاصة عندما يتم خداع النماذج بافتراضات خاطئة، إلا أنها توفر أداة قوية لإدارة عدم اليقين. ومن خلال تفكيك "الصندوق الأسود" لمخرجات النموذج اللغوي إلى قطع يمكن التحقق منها، تقدم الدراسة وسيلة لاتخاذ قرارات عالية المخاطر بوعي أوضح لما يمكن الوثوق به وما يتطلب مزيداً من الاستقصاء.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.