🤖 machine learning

LLMs Uncertainty Quantification via Adaptive Conformal Semantic Entropy

تقترح هذه المقالة "الاعتلاج الدلالي المطابق المتكيف" (ACSE)، وهي طريقة مبتكرة تقيس عدم اليقين في النماذج اللغوية الكبيرة من خلال القياس المتكيف للتشتت الدلالي عبر استجابات متنوعة وتطبيق المعايرة المطابقة لتوفير ضمانات خطأ في العينات المحدودة دون افتراضات توزيعية، متجاوزةً بذلك الأساليب المرجعية اللفظية والاحتمالية القائمة في التطبيقات ذات الأهمية الحرجة للسلامة.

المؤلفون الأصليون: Hamed Karimi, Vaishali Meyappan, Reza Samavi

نُشر 2026-05-07

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Hamed Karimi, Vaishali Meyappan, Reza Samavi

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تسأل أمينة مكتبة واثقة جداً ومطلعة (الذكاء الاصطناعي) سؤالاً. قد تجيب أمينة المكتبة بيقين مطلق، حتى لو كانت مخطئة تماماً. هذه هي مشكلة "الإفراط في الثقة" التي يعالجها هذا العمل: غالباً ما تقوم النماذج اللغوية الكبيرة (LLMs) بـ "الهلوسة" (اختلاق أشياء) بينما تبدو متأكدة بنسبة 100%.

يقدم هذا العمل نظام سلامة جديداً يسمى ACSE (الاعتلاج الدلالي التوافقي التكيفي - Adaptive Conformal Semantic Entropy). فكر في ACSE كآلية "فحص للواقع" لا تستمع فقط إلى ماذا تقول أمينة المكتبة، بل تتحقق أيضاً مما إذا كانت أمينة المكتبة متأكدة بالفعل من معنى إجابتها.

إليك كيفية عمل ذلك، مقسماً إلى خطوات بسيطة:

1. المشكلة: "فخ المترادفات"

غال \باً ما تركز فحوصات السلامة الحالية على الكلمات المحددة التي يختارها الذكاء الاصطناعي. إذا قال الذكاء الاصطناعي "العاصمة هي سيدني" بنسبة 70% من الوقت و"العاصمة هي كانبرا" بنسبة 30%، فقد يعتقد عدّاد الكلمات البسيط: "أوه، إنه واثق جداً من أنها سيدني!" ويعطي الضوء الأخضر.

لكن هنا تكمن الخدعة: قد يكون الذكاء الاصطناعي واثقاً من الإجابة الخاطئة (سيدني) بينما يكون غير متأكد من الإجابة الصحيحة (كانبرا). أو قد يقدم خمس إجابات مختلفة تعني جميعها نفس الشيء (مثل: "سيدني"، "سيد"، "مدينة المرفأ الكبيرة"). عدّاد الكلمات البسيط يرتبك بسبب هذه الاختلافات ويعتقد أن الذكاء الاصطناعي غير متأكد، رغم أنه مجرد "ثرثار" في التعبير.

2. الحل: طريقة "العناق الجماعي" (التجميع الدلالي)

يغير ACSE قواعد اللعبة من خلال الطلب من الذكاء الاصطناعي الإجابة على نفس السؤال عشر مرات.

الخطوة أ: يأخذ هذه الإجابات العشر ويحولها إلى "خرائط معنى" (تمثيلات تضمينية/embeddings).
الخطوة ب: يجمع هذه الإجابات في "أحياء" بناءً على معناها، وليس على طريقة كتابتها.
- مثال: إذا قالت 9 إجابات "سيدني" وإجابة واحدة قالت "كانبرا"، فسيشكل ذلك حيين متميزين.
- مثال: إذا قالت 5 إجابات "سيدني" و5 إجابات أخرى "العاصمة هي سيدني"، فسيتم "عناق" جميعها في نفس الحي لأنها تعني الشيء نفسه.

3. كاشف "الهشاشة" (التضخم التكيفي)

هذا هو جوهر العمل. مجرد اتفاق الذكاء الاصطناعي على إجابة واحدة (مثل "سيدني") لا يعني أن تلك الإجابة آمنة.

التشبيه: تخيل مجموعة من الناس يتفقون على اتجاه معين. إذا كانوا جميعاً يقفون في دائرة ضيقة ومتماسكة، فهذا هو الإجام (التوافق القوي). ولكن إذا اتفقوا على اتجاه بينما يقفون على أرض مهتزة ومرتعشة، فهذا هو الإجماع الهش.
يبحث ACSE عن هذا "الارتعاش". إنه يتحقق مما إذا كان الاتفاق على "سيدني" هو في الواقع اتفاقاً مهتزاً (ربما لأن الإجابات مختلفة قليلاً أو لأن المجموعة صغيرة جداً).
إذا كان هذا الإجماع "هشاً"، فإن ACSE يقوم بـ تضخيم قيمة عدم اليقين. إنه يقول باختصار: "حتى لو اتفقتم جميعاً، فإن اتفاقكم مهتز، لذا سأعتبر هذا موقفاً عالي المخاطر".

4. "شبكة الأمان" (المعايرة التوافقية)

أخيراً، يجب أن يعرف النظام متى يقول "لا أعرف" (يمتنع عن الإجابة) ومتى يعطي إجابة.

يستخدم المؤلفون "شبكة أمان" إحصائية تسمى التنبؤ التوافقي (Conformal Prediction).
أولاً، يختبرون النظام على مجموعة من الأسئلة التدريبية. ويحددون "عتبة التوقف".
القاعدة: إذا كانت "قيمة الارتعاش" (عدم اليقين) أقل من الخط، يجيب الذكاء الاصطناعي. وإذا كانت فوقه، يظل صامتاً.
الضمان: هذا ليس مجرد تخمين. فالرياضيات تضمن أنه إذا ضبطت شبكة الأمان لتلتقط 90% من الأخطاء، فستلتقط على الأقل 90% من الأخطاء، بغض النظر عما يفعله الذكاء الاصطناعي. إنها تعد بأن الأخطاء التي ستظهر بالفعل ستكون نادرة.

النتائج: لماذا هذا مهم؟

اختبر العمل هذه الطريقة على نماذج وبيانات مختلفة (مثل أسئلة الاختبارات).

المنافسة: الطرق القديمة (مثل عد احتمالات الكلمات) كانت تشبه بوصلة مهتزة؛ فغالباً ما كانت تعطي ثقة عالية للإجابات الخاطئة.
الفائز: عمل ACSE كربان ذكي للسفينة. في اختبار المسابقات، نجح في تحديد الإجابات الخاطئة بنسبة 88% (AUROC 0.88)، بينما لم تصل أفضل طريقة تالية إلى 80%.
السلامة: نجح النظام في منع الذكاء الاصطناعي من تقديم إجابات خاطئة في المواقف عالية المخاطر بشكل أكبر بكثير من الطرق السابقة، دون أن يكون حذراً لدرجة تجعله يتوقف عن تقديم الإجابات تماماً.

باختصار

ACSE هو نظام يطلب من الذكاء الاصطنا ملي إجابة على السؤال عدة مرات، ثم يجمع الإجابات حسب معناها وليس كلماتها، ويتحقق مما إذا كانت المجموعة تقف على أرض صلبة أم مهتزة، ويستخدم شبكة أمان مثبتة رياضياً ليقرر متى يتحدث ومتى يلتزم الصمت. إنه يضمن أنه عندما يتحدث الذكاء الاصطناعي، فإنه لا يكون واثقاً فحسب، بل موثوقاً حقاً.

ملخص تقني: الإنتروبيا الدلالية التوافقية التكيفية (ACSE)

بيان المشكلة
تُظهر النماذج اللغوية الكبيرة (LLMs) تكراراً في الثقة المفرطة، لا سيما عند توليد الهلوسات، مما يشكل مخاطر جسيمة للنشر في المجالات الحساسة للسلامة مثل الرعاية الصحية، والقانون، والبحث العلمي. تعتمد طرق قياس اليقين (UQ) الحالية بشكل أساسي على إشارات مستوى الرمز (token-level)، مثل إنتروبيا الرمز التالي أو احتمالية ظهور التسلسل (log-likelihood). وتفشل هذه النهج في التقاط التباين الدلالي؛ حيث غالباً ما تمنح ثقة عالية لمخرجات متنوعة لغوياً ولكنها غير متسقة أو غير صحيحة دلالياً. علاوة على ذلك، فإن الأساليب الأحدث على المستوى الدلالي، مثل الإنتروبيا الدلالية (SE)، تعتمد على التجميع الصلب (hard clustering)، مما قد يؤدي إلى تقديرات غير مستقرة عبر تجاهل المناطق الدلالية المتداخلة. أما النهج التوافقية (conformal) الأخرى، فبالرغم من تقديمها لضمانات إحصائية، إلا أنها غالباً ما تعامل اليقين كإشارة قياسية (scalar)، مما يجعلها عرضة لفخاخ "الإجماع الزائف" حيث تلتقي المجموعات المتسقة لغوياً ولكن الخاطئة واقعياً مع عتبات الثقة.

المنهجية
يقترح البحث إطار عمل الإنتروبيا الدلالية التوافقية التكيفية (ACSE)، وهو إطار عمل مستقل عن النموذج لتقدير عدم اليقين على مستوى المطالبة (prompt-level) عبر قياس التشتت الدلالي في مخرجات النماذج اللغوية الكبيرة. تسير المنهجية في ثلاث مراحل رئيسية:

التضمين الدلالي والتجميع اللين (Soft Clustering):
لكل مطالبة، يولد النموذج $n$ من الاستجابات المتنوعة باستخدام أخذ العينات النواة (Nucleus Sampling). يتم تضمين هذه الاستجابات في فضاء متجه دلالي مستمر باستخدام مشفر جمل (sentence encoder). وبدلاً من التجميع الصلب، يستخدم ACSE التجميع الهرمي التجمعي (HAC) مع مسافة جيب التمام (cosine-based distance) لتشكيل مجموعات دلالية، يليه تعيينات التجميع اللين. يسمح هذا الأمر للاستجابات بالانتماء احتمالياً إلى مجموعات متعددة، مما يحافظ على إشارات الغموض الدلالي. ويتم اشتقاق قيمة عدم يقين أساسية، $u(x)$ ، من الإنتروبيا المعيرة لتوزيع المجموعات الناتج.
تضخم عدم اليقين التكيفي:
لمعالجة الهشاشة الهيكلية في المجموعات (على سبيل المثال، ضعف الدعم للمجموعات المهيمنة أو التنوع الداخلي العالي)، يقدم ACSE قيمة عدم يقين معدلة، $\hat{u}(x)$ . تقوم هذه القيمة بتضخيم الإنتروبيا الدلالية الأساسية بناءً على خمسة سمات متينة على مستوى المطالبة:

الإنتروبيا الدلالية: تقيس تعدد الأنماط.
المسافة إلى المركز (Centroid Distance): تقيم الدعم الهندسي للاستجابة المهيمنة.
تشتت المجموعة المهيمنة: يقيس التماسك الداخلي.
حجم المجموعة المهيمنة: يعاقب الإجماع الهش المدعوم بعينات قليلة.
المسافة إلى العتبة: يثبط الثقة غير المبررة في النطاقات ذات عدم اليقين المنخفض.
يتم تجميع هذه السمات في "مقياس هشاشة" $B(x)$ ، والذي يقوم بتوسيع عامل تضخم $\lambda(x)$ . وتكون القيمة النهائية $\hat{u}(x)$ عبارة عن تحويل حدودي ورتيب يزيد من عدم اليقين عندما تشير هياكل المجموعات إلى وجود مخاطر.

المعايرة التوافقية (Conformal Calibration):
يتم معايرة القيم المعدلة على مجموعة من المطالبات المحجوزة باستخدام التنبؤ التوافقي (Conformal Prediction). وهذا يؤسس قاعدة قرار ذات ضمانات محدودة العينة ومستقلة عن التوزيع. يعمل النظام في وظيفتين:

قرار على مستوى المطالبة: يحدد ما إذا كان سيتم قبول أو رفض الاستجابة بناءً على عتبة، مما يضمن بقاء معدل الخطأ بين الاستجابات المقبولة تحت حد معين يحدده المستخدم $\alpha$ .
مجموعات تنبؤ على مستوى الاستجابة: تبني مجموعة من الاستجبات التي تحقق التغطية التوافقية، مما يدعم اتخاذ القرار لدى المستخدم عبر تحديد المخرجات الممثلة دلالياً والتوافقية.

المساهمات الرئيسية

إطار عمل ACSE: طريقة مبتكرة لتقدير الإنتروبيا القائمة على الإشارات عند المستوى الدلالي، تتجاوز إشارات مستوى الرمز لالتقاط التشتت في المعنى.
آلية التضخم التكيفي: قيمة عدم يقين معدلة تستفيد من سمات متانة المجموعات لتضخيم عدم اليقين الدلالي بشكل تكيفي، مما يعاقب صراحةً الغموض الدلالي في الاستجابات ويخفف من الهلوسة.
الضمانات التوافقية: مرحلة معايرة لاحقة تتعلم العتبات لكل من الرفض على مستوى المطالبة ومجموعات التنبؤ على مستوى الاستجابة، مما يوفر ضمانات رسمية لمعدلات الخطأ.
التحقق التجريبي: تجارب شاملة تثبت قدرة التمييز والمعايرة المتفوقة مقارنة بالنماذج المرجعية الحالية.

النتائج التجريبية
قيم المؤلفون نموذج ACSE عبر خمسة اختبارات معيارية (TriviaQA, CoQA, Natural Questions, TruthfulQA, MMLU) باستخدام بنيات مختلفة من النماذج اللغوية الكبيرة (Mistral-7B, LLaMA-2, Falcon, Qwen).

كشف الهلوسة: تفوق ACSE باستمرار على النماذج المرجعية في مقاييس التمييز. في مجموعة بيانات TriviaQA، حقق ACSE مساحة تحت منحنى ROC (AUROC) بلغت 0.88، متفوقاً بشكل ملحوظ على نموذج إنتروبيا الرمز (0.65) وسياسة الامتناع التوافقية (CAP) (0.80).
مقاييس السلامة: أظهر ACSE معدلات أقل من الإيجابيات الكاذبة (FPR) عند عتبات الاستدعاء العالية. على سبيل المثال، مع Falcon-7B، خفض ACSE معدل FPR@95 من 0.48 (في CAP) إلى 0.31، وهو ما يعادل انخفاضاً نسبياً في الهلوسات المقبولة بنسبة 35.4%.
الضمانات التوافقية: التزم AC_CE بصرامة بمستويات التغطية المحددة من قبل المستخدم ( $\alpha$ ) مع الحفاظ على معدلات قبول أعلى من الطرق المنافسة. عند $\alpha=0.10$ ، حقق ACSE معدل قبول بنسبة 75.8% مقارنة بـ 65.4% لـ CAP، مع أحجام مجموعات تنبؤ متوسطة أصغر (1.07 مقابل 1.32) واستقرار معايرة (SSCV) متفوق.
قياس عدم اليقين: أكد التحليل البصري أن ACSE يفصل بفعالية بين الإجابات الصحيحة والهلوسات، حيث يخصص عدم يقين عالٍ للهلوسات حتى عندما أظهرت الطرق المرجعية (مثل SE أو إنتروبيا الرمز) ثقة عالية.

الأهمية
يجادل البحث بأن ACSE يقدم حلاً قوياً للنشر الموثوق للنماذج اللغوية الكبيرة في المجالات الحساسة للسلامة من خلال معالجة أوضاع الفشل المحددة لطرق قياس اليقين الحالية: وهي عدم القدرة على التمييز بين التباين اللغوي السطحي والغموض الدلالي الحقيقي، والتعرض لفخاخ الإجماع الزائف. ومن خلال الجمع بين تحليل التشتت الدلالي والتضخم التكيفي والضمانات التوافقية، يوفر ACSE آلية صارطة إحصائياً لكشف الهلوسات والتحكم في معدلات الخطأ دون الحاجة إلى إعادة تدريب النموذج. ويرى المؤلفون أن التكاليف الحسابية الناجمة عن أخذ العينات والمعالجة اللاحقة مبررة في التطبيقات عالية المخاطر حيث تكون موثوقية النموذج أمراً بالغ الأهمية.