💬 NLP

Position: Uncertainty Quantification in LLMs is Just Unsupervised Clustering

تجادل هذه الورقة بأن طرق تقدير عدم اليقين الحالية للنماذج اللغوية الكبيرة تفشل بشكل جوههري لأنها تكتفي بقياس الاتساق الداخلي للتوليد عبر التجميع غير الخاضع للإشراف بدلاً من قياس الصحة الواقعية الخارجية، مما يخلق شعوراً مخادعاً بالأمان لا يمكنه اكتشاف الهلوسات الواثقة.

المؤلفون الأصليون: Tiejin Chen, Longchao Da, Xiaoou Liu, Hua Wei

نُشر 2026-05-20

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Tiejin Chen, Longchao Da, Xiaoou Liu, Hua Wei

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

إليك شرح للورقة البحثية باستخدام لغة بسيطة وتشبيهات إبداعية.

الفكرة الكبرى: مشكلة "غرفة الصدى"

تخيل أنك تحاول معرفة ما إذا كانت إشاعة ما حقيقية أم لا. تسأل مجموعة من الأصدقاء: "هل هذه الإشاعة حقيقية؟"، فيصرخون جميعًا بـ "نعم!" في وقت واحد وبانسجام تام. قد تظن حينها: "واو، الجميع متفقون، إذن لا بد أنها حقيقية!"

تجادل الورقة البحثية بأن الطرق الحالية للتحقق مما إذا كان الذكاء الاصطناعي واثقًا أو مرتبكًا تفعل ذلك تمامًا. فهي تطلب من الذكاء الاصطناعي تكرار نفسه بطرق مختلفة، وتتحقق مما إذا كانت الإجابات تبدو متشابهة (الاتساق الداخلي)، وتفترض أنه إذا كانت الإجابات متسقة، فلا بد أنها صحيحة.

يزعم المؤلفون أن هذا هو خطأ في التصنيف. ويقولون إن هذه الأساليب لا تقيس "الحقيقة" فعليًا؛ بل هي مجرد عملية تجميع (Clustering) للإجابات ذات الأصوات المتشابهة معًا. فإذا كان الذكاء الاصطناعي مخطئًا بثقة، وقال نفس الشيء الخطأ خمس مرات، فإن النظام سيعتقد: "رائع! ثقة عالية!"، بينما ينبغي له أن يصرخ: "خطر! هلوسة!"

المشكلات الثلاث الرئيسية (الاعتلالات)

تحدد الورقة ثلاثة طرق محددة يفشل فيها نهج "التجميع" هذا:

1. فخ "الحساسية للمؤشر" (الحساسية للمعلمات الفائقة)

التشبيه: تخيل جهاز كشف معادن لا يصدر صوتًا إلا إذا كنت تمسكه بزاوية محددة جدًا وتمشي بسرعة معينة. إذا أملت الجهاز درجة واحدة أو مشيت خطوة أسرع، سيتوقف عن العمل.
الواقع: عمليات التحقق من سلامة الذكاء الاصطناعي الحالية حساسة للغاية للإعدادات الصغيرة (مثل مدى "العشوائية" المسموح بها للذكاء الاصطناعي). إذا قام الباحثون بتعديل هذه الإعدادات قليلًا، تتغير درجة السلامة بشكل هائل. وهذا يجعل من المستحيل الوثوق بهذه الأدوات في العالم الحقيقي لأننا لا نعرف ما هو "إعداد المؤشر" الصحيح.

2. فخ "غرفة الصدى" (التقييم الداخلي)

التشبيه: تخيل طالبًا يكتب مقالًا تاريخيًا مزيفًا. إذا كتب نفس القصة المزيفة ثلاث مرات متتالية، فقد يشعر بثقة كبيرة. لكن إذا سألت معلمًا، سيقول المعلم: "إنه متسق، لكنه لا يزال كذبة".
الواقع: تفترض الأساليب الحالية أنه إذا كان الذكاء الاصطناعي متسقًا، فهو صحيح. لكن نماذج الذكاء الاصطناعي غالبًا ما تقع في فخ "الهلوسات الواثقة" — حيث تكرر نفس الكذبة مرارًا وتكرارًا. يرى نظام التحقق من السلامة هذا التكرار، فيعتبره "ثقة عالية"، ويوافق على الكذبة. إنه يخلط بين الاستقرار (قول الشيء نفسه) وبين الحقيقة.

3. فخ "المسطرة المطاطية" (الافتقار إلى الحقيقة المطلقة)

التشبيه: تخيل محاولة قياس طول طاولة باستخدام شريط مطاطي كمسطرة. إذا تمدد الشريط المطاطي، سيتغير قياسك. والأسوأ من ذلك، إذا استخدمت شريطًا مطاطيًا آخر للتحقق من الأول، فأنت تقوم فقط بمقارنة شيئين مطاطيين ببعضهما البعض.
الواقع: لمعرفة ما إذا كان الذكاء الاصطناعي غير متأكد، نحتاج إلى معرفة "الإجابة الحقيقية". ولكن بالنسبة للأسئلة المفتوحة، غالبًا لا توجد إجابة "صحيحة" واحدة للتحقق منها. لذا، يستخدم الباحثون نماذج ذكاء اصطناعي أخرى للتحقق من النموذج الأول. هذه عملية دائرية: استخدام شريط مطاطي لقياس شريط مطاطي آخر. تجادل الورقة بأن هذا يخلق شعورًا زائفًا بالأمان لأنه لا يوجد "حقيقة مطلقة" لترسيخ القياس.

الحل المقترح: خارطة طريق جديدة

يقترح المؤلفون أن نتوقف عن محاولة إصلاح أساليب "التجميع" وأن نبني بدلاً من ذلك نظامًا يتحقق فعليًا من الواقع. وهم يقترحون خطة من ثلاث خطوات:

1. اختبار أسوأ الحالات، وليس المتوسط

التشبيه: لا تختبر المظلة في يوم هادئ فحسب. اختبرها عندما تعصف الرياح وتكون المظلة متشابكة.
الخطة: توقف عن الحكم على سلامة الذكاء الاصطناعي بناءً على أدائه في الأسئلة "السهلة". بدلاً من ذلك، قم باختبار قدرته على التحمل خصيصًا في اللحظات التي يكون فيها أكثر عرضة للخطأ الواثق. إذا فشل نظام السلامة في كشف كذبة واثقة، فقد فشل، حتى لو نجح بنسبة 9 9٪ في الأسئلة السهلة.

2. بناء عدم اليقين في "حمض" الذكاء الاصطناعي النووي

التشبيه: بدلًا من سؤال السيارة: "هل أنت متأكد أن بإمكانك القيادة بسرعة؟" بعد أن تكون قد بدأت بالفعل بالسرعة العالية، ابنِ عداد سرعة مدمجًا في المحرك لتحذير السائق قبل أن تزيد السرعة أكثر من اللازم.
الخطة: لا تكتفِ بتحليل مخرجات الذكاء الاصطناعي بعد انتهائه. درب الذكاء الاصطناعي نفسه على معرفة متى يكون غير متأكد. علمه أن يقول: "أنا لست متأكدًا"، أو "هذا مجرد تخمين"، بدلًا من مجرد التخمين بثقة.

3. استخدام فحوصات "الحقائق الذرية"

التشبيه: بدلًا من سؤال صديق: "هل هذه القصة بأكملها حقيقية؟"، قم بتفكيك القصة إلى حقائق صغيرة: "هل حدث الحدث يوم الثلاثاء؟"، "هل كان الشخص يرتدي قبعة حمراء؟". تحقق من كل حقيقة صغيرة مقابل مكتبة أو قاعدة بيانات.
الخطة: لا تدع الذكاء الاصطناي يحكم على نفسه. قم بتفكيك إجاباته إلى حقائق صغيرة لا تقبل التجزئة، وتحقق من تلك الحقائق المحددة مقابل قواعد بيانات العالم الحقيقي، أو تنفيذ الأكواد البرمجية، أو محركات البحث. هذا يرسخ ثقة الذكاء الاصطناعي في الواقع الموضوعي، وليس فقط في مشاعره الداخلية.

الخلاصة

تخلص الورقة البحثية إلى أننا نستخدم حاليًا التجميع غير الخاضع للإشراف (تجميع الإجابات المتشابهة) لمحاولة حل مشكلة تتطلب التحقق الخاضع للإشراف (التحقق من الحقيقة).

طالما أننا نعتمد على الأساليب التي تتحقق فقط مما إذا كان الذكاء الاصطناعي "متسقًا مع نفسه"، فسنظل عاجزين عن رؤية الهلوسات الواثقة. لجعل الذكاء الاصطناعي آمنًا للمجالات عالية المخاطر مثل القانون والطب، يجب أن نتوقف عن الثقة في "غرفة الصدى" الداخلية للذكاء الاصطناعي ونبدأ في ربط ثقته بالواقع الموضوعي الخارجي.

ملخص تقني: تقدير عدم اليقين في النماذج اللغوية الكبيرة ليس سوى تجميع غير موجه

1. بيان المشكلة

تجادل الورقة بأن مجال تقدير عدم اليقين (UQ) في النماذج اللغوية الكبيرة (LLMs) يعاني من خطأ فئوي جوهري. فبينما يُنظر إلى تقدير عدم اليقين على نطاق واسع باعتباره الضمانة الأساسية لنشر النماذج اللغوية الكبيرة في المجالات عالية الخطورة (مثل الرعاية الصحية، والقانون)، فإن الطرق السائدة هي متماثلة ميكانيكيًا مع خوارزميات التجميع غير الموجه (Unsupervised Clustering).

تكمن المشكلة الجوهرية في أن هذه الطرق تقيس الاتساق الداخلي لتوليدات النموذج بدلاً من صحتها الواقعية الخارجية. وبناءً على ذلك، فإنها تفشل في اكتشاف "الهلوسات الواثقة" — وهي الحالات التي ينتج فيها النموذج إجابة مستقرة، ومتسقة ذاتيًا، وصحيحة واقعيًا، ولكن بثقة عالية. وهذا يخلق شعورًا خادعًا بالأمان، حيث لا تستطيع المقاييس الحالية التمييز بين نموذج صادق في إجابته ونموذج واثق في خطئه.

กัน 2. التحليل المنهجي: آلية التجميع

يقدم المؤلفون تحليلًا ميكانيكيًا يوضح أن طرق تقدير عدم اليقين السائدة تنهار إلى ثلاثة أنواع من التجميع غير الموجه:

الاعتلاج الدلالي (التجميع الصريح): الطرق مثل الاعتلاج الدلالي (SE) ومتغيراته (SAE, SEN, KLE) تقوم بتجزئة الفضاء المستمر للنصوص المولدة إلى "فئات إجابات" منفصلة باستخدام نماذج الاستدلال اللغوي الطبيعي (NLI). وهي تحسب الاعتلاج (Entropy) فوق هذه المجموعات (Clusters). من الناحية الميكانيكية، هذه خوارزمية تجميع حيث يحدد نموذج الـ NLI عضوية المجموعة، ويقيس الاعتلاج نقاء المجموعة. إنها تقيس مدى انفصال نقاط البيانات، وليس حقيقتها الدلالية.
التقدير القائم على الرسوم البيانية (التجميع الضمني): الطرق التي تستخدم هياكل الرسوم البيانية (مثل الرسوم البيانية النجمية، والاعتلاج الرسومي، والتحليل الطيفي لـ Laplacian) تبني رسومًا بيانية للتشابه من العينات المستخرجة. ويُشتق مقياس عدم اليقين من الخصائص الطيفية (القيم الذاتية) التي تُقدر عدد المكونات المتصلة أو الأنماط الدلالية. ويُصنف هذا كنموذج مباشر لـ التجميع الطيفي (Spectral Clustering)، حيث يعكس المقياس مدى تفتت مجموعة الاستجابات إلى مجموعات دلالية متماسكة، بغض النظر عن صحتها الواقعية.
المعتقدات اللفظية (تجميع الثقة الكامنة): الطرق مثل $P(\text{true})$ تطلب من النموذج تقييم صحة مخرجاته ذاتيًا. يرى المؤلفون أن هذا يعمل بمثابة تجميع ناعم (Soft Clustering) للفضاء الكامن للنموذذ. تشير الثقة العالية إلى أن الإجابة المولدة تقع هندسيًا بالقرب من مركز ثقل "مجموعات المعتقدات" الداخلية للنموذج، بينما تشير الثقة المنخفضة إلى أنها تعتبر قيمة شاذة (Outlier). فالنموذج لا يحكم على الحقيقة؛ بل يحسب المسافة الهندسية لمخرج ما من مراكز الثقة البارامترية الخاصة به.

3. الاعتلالات الرئيسية المحددة

يؤدي الاعتماد على التجميع غير الموجه إلى ثلاثة إخفاقات حرجة تقوض السلامة:

أزمة الحساسية للمعلمات الفائقة (Hyperparameter Sensitivity): تظهر مقاييس عدم اليقين حساسية هشة للمعلمات الفائقة (مثل درجة أخذ العينات "Temperature"، وعتبات NLI، وعدد العينات). تمامًا مثل خوارزميات التجميع حيث يغير اختيار $K$ أو مقاييس المسافة النتائج، تتقلب مقاييس عدم اليقين بشكل حاد بناءً على هذه الإعدادات. وهذا يجعل النشر غير آمن، لأن المعلمات المثلى غير معروفة وغالبًا ما تمليها قيود لاحقة، مما يؤدي إلى وهم الأمان القائم على الإفراط في ضبط المعلمات (Overfitting).
فخ التقييم الداخلي: تخلط معايير التقييم الحالية بين الاتساق الذاتي وبين الصحة. تكافئ مقاييس مثل AUROC الطرق التي تحدد التوليدات المستقرة. ومع ذلك، في حالات الهلوسة الواثقة، يكون النموذج مخطئًا باستمرار. الاتساق العالي يشير فقط إلى التقارب نحو حالة مستقرة، وليس حالة واقعية.
غياب الحقيقة الأرضية (مشكلة القاضي): لا توجد حقيقة أرضية مباشرة لـ "عدم اليقين الحقيقي". يعتمد التقييم على مقاييس وسيطة تربط عدم اليقين بصحة الإجابة. ومع ذلك، فإن الحصول على تسميات الصحة الموضوعية للمهام مفتوحة النهايات هو أمر غير مستقر بحد ذاته، وغالبًا ما يعتمد على نماذج لغوية أخرى كقضاة. وهذا يخلق حلقة مفرغة حيث يُستخدم مسطرة غير مستقرة (القاضي) للتحقق من النظام، مما يبطل ضمانات السلامة.

4. المساهمات الرئيسية وخارطة الطريق المقترحة

تدعو الورقة إلى تحول جذري من الاستدلالات غير الموجهة إلى الضمانات الموجهة. وتقترح خارطة طريق ترتكز على ثلاثة أعمدة:

أ. التقييم: من الأداء المتوسط إلى المتانة في أسوأ الحالات

تقييم مخاطر الذيل (Tail-Risk Evaluation): تحويل التركيز من المقاييس الإجمالية (مثل AUROC العالمي) إلى متانة أسوأ الحالات. يقترح المؤلفون معاملة عدم اليقين كنظام تحذير نشط (آلية رفض). يجب أن يقيس التقييم معدل الإيجاب الحقيقي (TPR) عند معدل إيجاب كاذب (FPR) منخفض للغاية لضمان قدرة النظام على رصد الهلوسات الواثقة الكارثية، بدلًا من مجرد التمييز بين الأزواج السهلة من الصحيح والخاطئ.
تقرير الحساسية: تقديم المساحة تحت منحنى الاستقرار (AUSC). بدلًا من الإبلاغ عن ذروة الأداء بعد الضبط الشامل للمعلمات الفائقة (والذي يشبهه المؤلفون بـ "p-hacking")، يجب على الباحثين تقديم ملفات أداء عبر مسح مستمر للمعلمات الفائقة (مثل درجة الحرارة) لإثبات المتانة التوزيعية.

ب. الآلية: من الاستدلالات اللاحقة إلى الضمانات الأصلية

التنبؤ المطابق (Conformal Prediction - CP): تجاوز درجات الثقة الخام. استخدام طرق عدم اليقين كدرجات عدم مطابقة ضمن أطر التنبؤ المطابق. هذا يجبر تقديرات عدم اليقين على مواجهة الواقع من خلال توليد مجموعات تنبؤية ذات تغطية مضمونة. إذا كان النموذج يهلوس بثقة، فيجب أن تتضخم مجموعة التنبؤ للحفاظ على التغطية، مما يوفر مقياسًا مدركًا للحقيقة يفتقر إليه الاتساق الداخلي.
محاذاة عدم اليقين الأصلية: الانتقال من ضبط التعليمات القياسي إلى محاذاة عدم اليقين عبر التدريب اللاحق (مثل RLHF). يجب تدريب النماذج صراحةً على التعبير عن مستويات الثقة (مثل "أنا واثق من أن..." مقابل "من المحتمل أن...")، وربط التمثيلات الداخلية بادعاءات صلاحية صريحة بدلاً من مجرد آثار هندسية كامنة.

ج. التجذير: إرساء الحقيقة الموضوعية

اختبار الوحدة الإلزامي: يجب أن تجتاز طرق التقدير اختبارات الوحدة ذات المعايير الذهبية في بيئات قابلة للتحقق (مثل تنفيذ الكود، أو الاستدلال الرياضي بثوابت ثابتة) قبل تطبيقها على التوليد مفتوح النهايات. هذا يضمن قدرة الطريقة على التمييز بين الحقيقة والزيف في الإعدادات الحتمية.
التحقق من الحقائق الذرية: استبدال القضاة الذاتيين القائمين على النماذج اللغوية بـ التحقق من الحقائق الذرية. يجب تفكيك السرديات المعقدة إلى ادعاءات ذرية والتحقق منها مقابل سلطات خارجية (محركات البحث، قواعد المعرفة المهيكلة، أو مثبتات النظريات الرسمية مثل Lean4) لكسر التبعية الدائرية للتقييم (نموذج على نموذج).

5. الأهمية والادعاءات

تدعي الورقة أن المسار الحالي لأبحاث تقدير عدم اليقين معيب جوهريًا لأنه يحاول حل مشكلة تتعلق بـ الواقع الخارجي باستخدام أدوات مصممة لـ البنية الداخلية.

الأمان الخادع: تكمن الأهمية الأساسية لهذا العمل في التحذير من أن طرق تقدير عدم اليقين الحالية تخلق "شعورًا خادعًا بالأمان". فقد تصفّي الأخطاء الواضحة، لكنها تفشل في اكتشاف أخطر الإخفاقات: الهلوسات المستقرة والواثقة.
ضرورة التحول النوعي: يرى المؤلفون أنه يجب على المجتمع التخلي عن السعي وراء تحسين الاستدلالات غير الموجهة. فبدون ربط التحقق بالحقيقة الموضوعية والانتقال نحو الضمانات الموجهة، ستظل النماذج اللغوية الكبيرة غير موثوقة في المجالات الحرجة.
إعادة صياغة المجال: من خلال تحديد تقدير عدم اليقين كمسألة تجميع غير موجه، تعيد الورقة صياغة حدود المجال ليس كأطروحات هندسية تحتاج إلى ضبط، بل كاعتلالات هيكلية تتطلب تغييرًا جذريًا في التقييم، والآلية، والتجذير.

تخلص الورقة إلى أنه لكي تعمل أنظمة الذكاء الاصطناي في المجالات عالية الخطورة بشكل موثوق، يجب أن يكون ثقة النموذج بمثابة مؤشر موثوق لـ الصحة الواقعية، وليس مجرد مقياس للاتساق الداخلي.