ملخص تقني: TrAC – اتساق الإجابة المشروط بالأثر من أجل التقدير الفعال لعدم اليقين في النماذج اللغوية الكبيرة (LLMs)

1. صياغة المشكلة

غالبًا ما تولد النماذج اللغوية الكبيرة (LLMs) مسارات استدلال سلسة تنتهي بإجابات خاطئة. وتواجه طرق تقدير عدم اليقين (UQ) الحالية صعوبة في ترتيب هذه المخرجات بشكل موثوق دون تكبد تكاليف حوسبة عالية أو الحاجة إلى حكام خارجيين. تندرج النهج الحالية ضمن ثلاث فئات، لكل منها قيودها:

• طرق الأثر الواحد السلبية (Passive Single-Trace Methods): تعتمد على إشارات الثقة على مستوى الرمز (token) من استجابة مكتملة، لكنها تفشل في اختبار ما إذا كان سياق الاستدلال يدعم الإجابة النهائية بشكل نشط.
• الطرق القائمة على أخذ العينات (Sampling-Based Methods): تُقدر الثقة عبر الاتفاق بين مسارات توليد متعددة (مثل الاتساق الذاتي - Self-Consistency). تتطلب هذه الطرق توليد مسارات كاملة متعددة، مما يزيد من زمن الاستجابة (latency)، وتفقد دقة الترتيب عندما تتقارب جميع العينات نحو نفس الإجابة (التي قد تكون خاطئة).
• الأسالب النشطة القائمة على البادئة (Active Prefix-Based Methods): تستقصي المسارات الجزئية لدراسة استقرار الإجابة، وهي تهدف أساسًا للتوقف المبكر بدلاً من تقييم صحة استجابة مكتملة.

المشكلة الجوهرية التي يتم معالجتها هي تقدير صحة استجابة واحدة مولدة ($y = (r, a)$، حيث $r$ هو مسار الاستدلال و $a$ هي الإجابة) باستخدام إشارات وقت الاستدلال فقط، دون توليد مسارات كاملة جديدة أو الوصول إلى إجابات مرجعية.

2. المنهجية: إطار عمل TrAC

يقترح المؤلفون TrAC (اتساق الإجابة المشروط بالأثر)، وهو إطار عمل لتقدير صحة الإجابة يجمع بين الإشارات النشطة والسلبية المرتبطة بأثر واحد مكتمل للاستدلال. يتكون الإطار من ثلاثة مكونات رئيسية:

2.1 المكون النشط: الاستحثاث المشروط بالبادئة (PCE)

يقوم PCE باستقصاء مدى التزام النموذج بإجابته الأصلية بشكل نشط دون توليد مسار استدلال جديد.

• الإجراء: بالنظر إلى مسار مكتمل $r$، يقوم النموذج بإلحاق عبارة ثابتة (مثل "الإجابة النهائية هي") ويقوم بعملية فك ترميز جشع (greedy decoding) لاستحثاث لاحقة إجابة قصيرة $\tilde{a}$.
• الإشارات المستخرجة:
  • الاتفاق ($e$): مؤشر ثنائي لما إذا كانت $\tilde{a}$ تطابق الإجابة الأصلية $a$ (بعد المعالجة الطبيعية).
  • الاحتمالية ($\ell, \ell_{min}, \ell_{head}$): لوغاريتم الاحتمالات للرموز المستحثة من الإجابة والمطبعة بطول النص، مما يلتقط قوة الدعم الاحتمالي.
  • الثقة ($c_1$): لوغاريتم احتمال الرمز الأول من الإجابة المستحثة.
• المنطق: إذا كان مسار الاستدلال يدعم النتيجة بقوة، فيجب على النموذج إعادة إنتاج الإجابة الأصلية باحتمالية عالية. إذا كانت النتيجة غير مستقرة، فقد تختلف الإجابة المستحثة أو تحصل على دعم ضعيف.

2.2 المكون السلبي: ملف عدم اليقين للأثر (TUP)

يلخص TUP عدم اليقين على مستوى الرمز المتوفر بالفعل من التوليد الأصلي، مما لا يتطلب أي فك ترميز إضافي.

• الإشارات المستخرجة:
  • الملف الواعي بالموضع: يتم تصنيف لوغاريتمات احتمالية الرموز وإنتروبيا أعلى $k$ حسب الموضع المعياري لالتقاط شكل مسار عدم اليقين من بداية المسار إلى الإجابة.
  • الإحصاءات العالمية: تشمل المتوسط، والانحراف المعياري، والحد الأدنى للوغاريتم الاحتمالي، وميول الاتجاه ($R^2$)، وإحصاءات الذيل (مثل متوسط لوغاريتم الاحتمال لآخر $W$ من الرموز).
• المنطق: يوفر هذا تمثيلاً ثابت الأبعاد لكيفية تطور عدم اليقين طوال عملية الاستدلال.

2.3 تسجيل الدرجة الموحد ودمج الإجماع

• التسجيل (Scoring): يقوم رأس انحدار لوجستي خفيف الوزن بدمج ميزات PCE النشطة ($\phi_A$) وميزات TUP السلبية ($\phi_P$) في درجة صحة عددية $u_{TrAC}$.
• دمج الإجماع (اختي-ي): عندما تتوفر $K$ من المسارات، يمكن للإطار دمج إحصاءات الإجماع عبر المسارات (كسر التصويت $q_K$ والإنتروبيا $h_K$) جنباً إلى جنب مع إشارات PCE/TUP داخل المسار الواحد لزيادة دقة الدرجة.

3. المساهمات الرئيسية

1. مفاهيمية: صياغة اتساق الإجابة المشروط بالأثر كإشارة عدم يقين نشطة جديدة. يتضمن ذلك إعادة استحثاث الإجابة من مسار مكتمل لاختبار قابلية إعادة الإنتاج، وهو أمر متميز عن التحقق الذاتي الصريح أو الإجماع عبر المسارات.
2. تقنية: اقتراح TrAC، وهو إطار عمل يجمع بين PCE (إعادة الاستحثاث النشط) و TUP (توصيف الأثر السلبي). يحقق أداءً عالياً في تقدير عدم اليقين باستخدام مسار استدلال واحد كامل بالإضافة إلى مسبار إجابة قصير مخزن مؤقت.
3. تجريبية: تقييم واسع النطاق عبر خمسة معايير لاستدلال الرياضيات (GSM8K, MATH500, Minerva, OlympiadBench, AIME) وثلاث عائلات من النماذج اللغوية الكبيرة (Qwen, Phi, Ministral)، مما أظهر أداءً متفوقاً على النماذج المرجعية الحالية.

4. النتائج التجريبية

قيم المؤلفون TrAC مقابل النماذج المرجعية ذات الأثر الواحد (مثل Self-certainty, P(True)) والنماذج القائمة على أخذ العينات (مثل Self-Consistency مع 8 عينات، SC@8).

• الأداء مقابل SC@8: يحسن TrAC مقياس macro AUROC بنسبة 1.8% ويقلل AURC بنسبة 3.4% مقارنة بـ SC@8. والأهم من ذلك، يحقق TrAC ذلك باستخدام مسار واحد كامل بالإضافة إلى مسبار قصير، بينما يتطلب SC@8 ثمانية توليدات كاملة.
• زمن الاستجابة (Latency): يضيف TrAC زيادة قدرها 2% فقط في زمن الاستجاسب المقاس بالنسبة لتوليد واحد (1.02× التكلفة)، مقارنة بتكلفة تقارب 2.4× لـ SC@8.
• تعزيز الإجماع: عندما تتوفر ثماني عينات بالفعل، فإن تعزيز SC@8 بإشارة إعادة الاستحثاث الخاصة بـ TrAC (TrAC + CF) يحسن macro AUROC بنسبة 4.3% ويقلل AURC بنسبة 8.3%. يوضح هذا أن إعادة الاستحثاث توفر معلومات حتى عندما يتشبع الإجماع عبر المسارات (على سبيل المثال، عند وجود أصوات بالإجماع ولكنها خاطئة).
• دراسات الاستبعاد (Ablation Studies):
  • التكامل: يؤدي الجمع بين PCE و TUP إلى نتائج أفضل بكثير مما لو استُخدم كل مكون بمفرده.
  • اعتماد الأثر: تكون إعادة الاستحثاث أكثر فعالية عندما تكون مشروطة بمسار مكتمل محدد؛ حيث يؤدي استخدام مسارات مبعثرة أو مسبارات قائمة على السؤال فقط إلى تراجع الأداء.
  • متانة فك الترميز: تظل الإشارة غنية بالمعلومات تحت فك الترميز الجشع ومختلف إعدادات درجة الحرارة (temperature).
  • كفاءة الملصقات (Label Efficiency): تحتفظ الإشارة النشطة بأداء عالٍ حتى مع وجود 25% فقط من ملصقات المعايرة.

5. الأهمية والادعاءات

يدعي البحث أن إعادة استحثاث الإجابة هي إشارة عدم يقين منخفضة التكلفة تظل غنية بالمعلومات حتى عندما تكون الثقة السلبية مضللة أو عندما تتقارب عينات متعددة نحو إجابة خاطئة.

• الكفاءة: يحدد TrAC نقطة تشغيل جديدة على جبهة (الدقة-الزمن)، حيث يقدم جودة ترتيب تضاهي إجماع ثماني عينات بتكلفة توليد واحد فقط.
• المحتوى المعلوماتي: تثبت الدراسة أن إعادة الاستحثاث النشطة تلتقط معلومات متميزة عن كل من ثقة الرموز السلبية والتحقق الذاتي الصريح. وهي تعالج تحديداً مشكلة "الخطأ بالإجماع" حيث تفشل طرق أخذ العينات.
• النشر: يدعم إطار العمل التنبؤ الانتقائي، وتوجيه الحالات غير المؤكدة للمراجعة البشرية، وتخصيص الحوسبة التكيفي دون الحاجة إلى نموذج حكم منفصل أو إجابات مرجعية في وقت الاستدلال.

يخلص المؤلفون إلى أن اتساق الإجابة المشروط بالأثر يكمل كلاً من إحصاءات الرموز السلبية والإجماع عبر العينات، مما يوفر آلية قوية لتقدير عدم اليقين في مهام الاستدلال القابلة للتحقق.