ملخص تقني: TRACE (تصحيح المسار من خلال الأدلة عبر الطبقات لتقليل الهلوسة)

1. بيان المشكلة

على الرغم من التقدم في الحجم والمواءمة بعد التدريب، لا تزال النماذج اللغوية الكبيرة (LLMs) تنتج أخطاءً واقعية واثقة، أو ما يعرف بالهلوسة. تندرج استراتيجيات التصحيح الحالية عموماً ضمن ثلاث فئات:

1. الأدلة الخارجية: التوليد المعزز بالاسترجاع (RAG) وأنظمة التحقق التي تعتمد على بيانات خارجية.
2. توجيه التنشيط: أساليب مثل "التدخل أثناء الاستنتاج" (ITI) التي توجه التنشيطات على طول اتجاهات "صدق" ثابتة.
3. تباين الطبقات: استراتيجيات فك التشفير (مثل DoLa وSLED) التي تقارن أو تجمع الإشارات من الطبقات المتوسطة مقابل الطبقة النهائية.

تجادل الورقة بأن هذه الأساليب غير مكتملة هيكلياً لأنها تفترض وجود علاقة موحدة بين عمق الطبقة والصدق. تشير الملاحظة التجريبية إلى أن الطبقات المتوسطة ليست أكثر صدقاً ولا أقل موثوقية من الطبقات النهائية بشكل موحد. بدلاً من ذلك، يتفاوت تطور دعم المرشحين عبر عمق الشبكة بشكل كبير:

• قابل للتصحيح المتأخر: الدعم الصادق موجود داخلياً ولكنه يتم كبحه بواسطة الطبقات المتأخرة.
• موثوق مبكراً: الدعم الصادق يكون في أقوى حالاته في الطبقات المبكرة ولكنه يتآكل في الطبقات اللاحقة.
• متعدد الاتجاهات: تظل عدة مرشحات متنافسة نشطة عبر العمق، مما يتطلب تصحيحات غير قياسية (non-scalar).

تفشل التدخلات ذات الشكل الثابت الحالية لأنها لا تستطيع التكيف مع هذه "المسارات المرشحة" المتغيرة. إن الطريقة التي تفترض تصحيحاً قياسياً (scalar) ذا إشارة واحدة غير كافية للحالات التي يكون فيها التنافس متعدد الاتجاهات حقاً.

2. المنهجية: TRACE

TRACE هي خوارزمية حتمية، لا تتطلب تدريباً، وتعمل أثناء الاستنتاج، وتقوم بتصحيح الهلوسة عن طريق اشتقاق عامل التصحيح المناسب مباشرة من مسار المرشح عبر الطبقات في النموذج. وهي لا تتطلب تسميات (labels)، أو استرجاعاً، أو تدريباً مسبقاً، أو ضبطاً دقيقاً (finetuning)، أو معايرة لكل نموذج.

المكونات الأساسية

تعتمد الطريقة على كميتين هيكليتين:

1. جانب العنصر: مسار المرشح عبر الطبقات $S(x)$:

   • يتم بناؤه عن طريق قراءة "تيار المتبقي" (residual stream) عند كل طبقة من خلال رأس المخرجات الخاص بالنموذج (بناء logit-lens).
   • يمثل تطور الاحتمالات اللوغاريتمية المعيرة بالطول لمجموعة من التكملات المرشحة عبر العمق.
   • من خلال ذلك، يتم حساب بُعد المسار الفعال ($d_{eff}$). هذا المقياس (نسبة المشاركة لمصفوفة القيم الذاتية لـ Gram الخاصة بالمسار) يحدد ما إذا كان تنافس المرشحين هو أحادي البعد (rank-1) أم متعدد الأبعاد.

2. جانب النموذج: الثابت المستقل عن الأوزان $I(M)$:

   • نسبة عديمة الأبعاد تُحسب مرة واحدة من ت tensors الأوزان الخاصة بالنموذج (تحديداً إحصائيات norm الصفوف لعمليات projection للـ key/value المبكرة/المتوسطة مقابل الـ projection للمخرجات المتأخرة والـ norm النهائي).
   • يحدد $I(M)$ ما إذا كان هيكل النموذج يميل إلى تضخيم الأدلة في الطبقات المتأخرة أو الانحراف عن الحالات المبكرة الموثوقة.

أنظمة وعوامل التصحيح

بناءً على $d_{eff}$ و $I(M)$، يختار TRACE ديناميكياً واحداً من ثلاثة عوامل تصحيح:

1. النظام متعدد الاتجاهات ($d_{eff} > \tau_{dim}$):

   • الشرط: تنافس المرشحين يمتد عبر عدة اتجاهات مستقلة (rank > 1). الخلطات القياسية (scalar mixtures) غير كافية رياضياً لتصحيح هذه الحالات.
   • العامل: تصحيح فضاء المرشحين. يحدد TRACE الطبقة $\ell^*$ ذات الترتيب الأكثر حدة (بأقصى هامش بين أفضل مرشحين بالنسبة للإنتروبيا) ويستخدم توزيع الاحتمال اللوغاريتمي الكامل لتلك الطبقة كعامل التصحيح.
   • البوابة: لا يتم تطبيق هذا التجاوز إلا إذا كانت الطبقة المختارة أكثر حدة بشكل ملحوظ من الطبقة النهائية، وإذا كانت الطبقة النهائية غير واثقة بدرجة كافية.

2. النظام القياسي ($d_{eff} \le \tau_{dim}$):

   • الشرط: التنافس ينهار إلى محور واحد ذي إشارة محددة. يتقلص التصحيح إلى خليط قياسي من درجة الطبقة النهائية $b(x)$ ودرجة مشتقة من المسار $t(x)$.
   • التفريع عبر $I(M)$:
     • الخلط ذو الإشارة ($I(M) > \tau_I$): إذا كانت الطبقات المتأخرة للنموذج موثوقة، يحسب TRACE رؤية ثانية $t(x)$ عبر إعادة قراءة المسار للتحقق من التماسك عبر العمق (الميل، القفزة، الانحناء لدعم الـ token). ثم يخلط $b(x)$ و $t(x)$ مع معامل قياسي $\lambda$ محدد بناءً على ما إذا كان المسار يعزز أو يناقض الأساس.
     • استعادة الحالة الأبكر ($I(M) \le \tau_I$): إذا كانت الطبقات المتأخرة للنموذذ غير موثوقة (عرضة للانحراف)، يتجاهل TRACE ملخص المسار ويعود إلى درجة الطبقة الأبكر $s_0(x)$، ولكن فقط إذا كانت ثقة الطبقة النهائية منخفضة (أقل من حد طبيعي).

تدفق الخوارزمية

1. احسب $S(x)$ و $b(x)$ من تمريرة أمامية واحدة مشروطة بالمرشح.
2. احسب $d_{eff}(x)$.
3. إذا كان متعدد الاتجاهات: اختر الطبقة الحاسمة $\ell^*$، واستخرج توزيعها، وطبق البوابات. إذا اجتازت البوابات، أرجع الـ argmax للطبقة الحاسمة؛ وإلا، أرجع الـ argmax الأساسي.
4. إذا كان قياسياً: احسب $I(M)$.
   • إذا كان $I(M)$ مرتفعاً: احسب $t(x)$، وحدد إشارة الخلط، وأرجع الـ argmax المختلط.
   • إذا كان $I(M)$ منخفضاً: تحقق من ثقة الطبقة النهائية؛ إذا كانت منخفضة، أرجع الـ argmax للطبقة الأبكر؛ وإلا، أرجع الأساسي.

3. المساهمات الرئيسية

1. الصياغة على مستوى المسار: تحديد مسار المرشح عبر الطبقات ككائن أساسي للتصحيح أثناء الاستنتاج، بدلاً من طبقات الاختبار الثابتة واتجاهات التوجيه الثابتة.
2. النظرية الهيكلية للتصحيح: إثبات أن أنظمة التصحيح متميزة: المسارات من الرتبة الأولى (rank-one) تسمح بالتصحيح القياسي، بينما المسارات متعددة الاتجاهات تستلوي على فئة عامل من فضاء المرشحين.
3. الخوارزمية الشاملة (TRACE): تجسيد هذه النظرية في خوارزمية حتمية، لا تتطلب تدريباً، تستنتج عامل التصحيح الخاص بها من بنية المسار وأوزان النموذج.
4. التقييم الشامل: إثبات أن إعداداً واحداً لفرط المعلمات (hyperparameter) مجمد يحسن الواقعية عبر 15 نموذجاً، و8 عائلات، و3 اختبارات مرجعية دون حدوث تراجعات.

4. النتائج التجريبية

تم تقييم الطريقة على TruthfulQA، و HaluEval-QA، و HaluEval-Sum عبر 15 نموذجاً مدرباً مسبقاً (بما في ذلك LLaMA، وGemma، وQwen، وGPT-OSS، وMixtral، وPhi، وMinistral، وDeepSeek).

• الأداء: حسن TRACE كل خلية تقييم منفردة (45 مجموعة إجمالية من النموذج والاختبار المرجعي).
  • متوسط الربح: +12.26 نقطة MC1 و +8.65 نقطة من نوع MC2.
  • أقصى ربح: +47.20 MC1 و +43.38 MC2 (لوحظ في Gemma-3-1B).
  • التراجعات: 0/45.
• القوة: استخدمت الطريقة مجموعة فرط معلمات واحدة مجمدة $\Theta$ لجميع النماذج، دون ضبط لكل نموذج على حدة.
• التكلفة الإضافية (Overhead): تزيد تكلفة وقت التنفيذ (wall-clock cost) بمعامل يتراوح من 1.33x إلى 3.42x (المتوسط 2.27x) مقارنة بمرجع التمريرة المشروطة بالمرشح، ويرجع ذلك أساساً إلى القراءة الإضافية للطبقات.

5. الأهمية والادعاءات

تدعي الورقة أن الحساب الأمامي للنماذج اللغوية الكبيرة المدربة مسبقاً يحتوي على أدلة مهيكلة كافية لدعم خوارزمية عالمية واحدة لتقليل الهلوسة، بشرما يتم استدعاء التدخل بواسطة المسار نفسه بدلاً من فرض قواعد ثابتة.

• الضرورة الهيكلية: توضح الدراسة أن استراتيجية التصحيح التي تقتصر على القيم القياسية (scalar-only) هي غير مكتملة رياضياً للمساحات متعددة الاتجاهات، مما يستوجب وجود فرع فضاء المرشحين في TRACE.
• تكيف النموذج: يسمح استخدام الثابت المستقل عن الأوزان $I(M)$ للخوارزمية بالتكيف مع الاختلافات المعمارية (مثل ما إذا كان النموذج ينحرف أو يضخم في الطبقات المتأخرة) دون الحاجة لإعادة التدريب.
• القيود: يقر المؤلفون بأن TRACE حالياً محدودة باللغة الإنجليزية، وبالواقعية المقيدة بالمرشحين (بروتوكولات MC1/MC2). وهي تعمل على التمريرات الأمامية المكتملة بدلاً من التوليد طويل الصيغة التكراري، ولا تعالج أسباب الهلوسة أثناء التدريب. كما أنها تزيد من زمن الاستنتاج بسبب القراءة الإضافية.

تخلص الورقة إلى أن فشل الأساليب السابقة ذات الشكل الثابت ليس مشكلة ضبط (tuning)، بل هو عدم توافق بين فئة التصحيح وبنية المسار. يحل TRACE هذه المشكلة من خلال استنتاج نظام التصحيح الصحيح من البيانات نفسها.