Signed Layer-Level Evidence in Transformer Predictions, and a Diagnostic for When It Applies
تقدم هذه الورقة تدفق الأدلة اللغوية (LEF) لتفكيك تنبؤات المحولات (Transformer) إلى أدلة لكل طبقة ذات إشارة، وتقترح ScopeGate، وهي أداة تشخيصية قائمة على التبديل تكشف عن القيود الخاصة بالنموذج والمهمة لأدوات كشف الأخطاء الحالية، مما يثبت أنه لا يوجد مقياس واحد يتنبأ عالمياً بفشل النموذج.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تعد النماذج اللغوية الكبيرة المحركات الكامنة وراء جيل جديد من الذكاء الاصطناعي، وهي قادرة على كتابة المقالات، وحل المسائل الرياضية، وإجراء محادثات تبدو بشرية بشكل لافت. ومع ذلك، يكمن تحت سطحها الطليق عيب مستمر: فهي أحياناً تخترع حقائق بثقة تامة، وهي ظاهرة يسميها الباحثون "الهلوسة". لسنوات، كانت الطريقة القياسية لرصد هذه الأخطاء هي النظر إلى إجابة النموذج النهائية والتساؤل: "إلى أي مدى تبدو واثقة؟" فإذا خصص النموذج احتمالية عالية لكلمة ما، نفترض أنها صحيحة. لكن هذا النهج يعاني من نقطة عمياء؛ فهو يعامل المخرج النهائي كصندوق أسود، متجاهلاً الآلية الداخلية المعقدة التي أنتجته. فقد يكون للإجابتين نفس مستوى الثقة تماماً، ومع ذلك قد تكون إحداهما نتيجة اتفاق واضح وإجماعي بين مكونات النموذج الداخلية، بينما تكون الأخرى نتاجاً هشاً لحرب أهلية شرسة حيث تسحب أجزاء مختلفة من النظام في اتجاهات متضادة. إن فهم هذا الصراع الخفي أمر بالغ الأهمية لأن الكذبة التي تبدو واثقة غالباً ما تكون أكثر خطورة من الحقيقة المترددة.
لقد طور فريق من الباحثين طريقة جديدة للتلصص داخل هذا الصندوق الأسود، وكشف النقاب عن "شد وجذب" الخفي الذي يحدث قبل نطق كلمة واحدة. وقد أطلقوا على إطار عملهم اسم "تدفق الأدلة اللغوية" (Language Evidence Flow). فبدلاً من مجرد النظر إلى الدرجة النهائية، تتبع هذه الطريقة مساهمة كل طبقة داخل بنية النموذج أثناء معالجته للجملة. تخيل النموذج كسلسلة طويلة من صانعي القرار، حيث تضيف كل حلقة مساهمتها الخاصة من الأدلة إلى الخيار النهائي. وقد وجد الباحثون أن بإمكانهم تخصيص قيمة موجبة أو سالبة لمساهمة كل حلقة؛ فالقيمة الموجبة تعني أن الطبقة تدعم الكلمة المختارة، والقيمة السالبة تعني أنها تعارضها. ومن خلال جمع هذه القيم، يمكنهم حساب "درجة الصراع". وتعني الدرجة المنخفضة أن الطبقات الداخلية في حالة انسجام، بينما تكشف الدرجة العالية أن النموذج يولد إجابة رغم وجود خلاف داخلي قوي. وهذا يسمح لهم بالكشف عن متى يهلوس النموذج، حتى لو بدت الإجابة النهائية واثقة تماماً على السطح.
اختبر الباحثون هذه الفكرة عبر مجموعة واسعة من النماذج، بدءاً من النسخ الأصغر ذات 1.4 مليار معلمة وصولاً إلى الأنظمة الضخمة ذات 14.7 مليار معلمة، مغطين عائلات معمارية مختلفة. واكتشفوا أن الطريقة تعمل بشكل استثنائي في رصد نوع محدد من الأخطاء: وهو عندما تتعارض ذاكرة النموذج الداخلية مع معلومات خارجية تم استردادها. في إعداد "التوليد المعزز بالاسترداد" (Retrieval-Augmented Generation)، يُعطى النموذج وثيقة ليقرأها قبل الإجابة. فإذا قالت الوثة شيئاً وذكرت ذاكرة تدريب النموذج شيئاً آخر، فإن درجة الصراع الداخلي ترتفع بشكل حاد، مما يشير إلى أن الإجابة هي على الأرجح هلوسة. وتعمل هذه الطريقة في تمريرة واحدة، مما يعني أنها لا تضيف وقتاً يُذكر إلى عملية التوليد، على عكس الطرق القديمة التي كانت تتطلب من النموذج توليد الإجابة نفسها عدة مرات للتحقق من الاتساق.
ومع ذلك، كشفت الدراسة أيضاً عن قصور مفاجئ ومهم: إشارة الصراع الداخلي هذه ليست حقيقة عالمية لجميع النماذج. فقد وجد الباحثون أنه بالنسبة لبعض النماذج، تنبأت درجة الصراع العالية بخطأ ما بشكل موثوق، ولكن بالنسبة لنماذج أخرى، كانت الإشارة ضعيفة أو حتى مضللة. فعلى سبيل المثال، في أحد النماذج الشهيرة ذات الـ 7 مليارات معلمة، كانت درجة الصراع في الواقع أسوأ من التخمين العشوائي في التنبؤ بالأخطاء، بينما في نموذج آخر من نفس الحجم، كانت مؤشراً قوياً على وجود مشكلة. وهذا التباين يعني أن مجرد تثبيت هذه الأداة على أي نظام ذكاء اصطناعي ليس كافياً؛ بل يجب عليك أولاً التحقق من أنها تعمل لنماذجك الخاصة. ولحل هذه المشكلة، أنشأ الفريق فحص سلامة يسمى "سكوب غيت" (ScopeGate). وهو اختبار بسيط يتم تشغيله على مجموعة صغيرة من الإجابات الصحيحة والخاطئة المعروفة لمعرفة ما إذا كانت درجة الصراع ترتبط بالفعل بالأخطاء لهذا النموذج المحدد. وإذا فشل الاختبار، فلا تُستخدم الأداة كإنذار مستقل، ولكن يمكن استخدامها أيضاً لفهم سبب معاناة النموذج.
تشير النتائج إلى أن طريقة تفكير هذه النماذج تتغير مع ضبطها لتكون أكثر قدرة على محاورة البشر. فعندما يتم ضبط النماذج لتكون أكثر فائدة واتباعاً للتعليمات، غالباً ما تصبح ثقتها السطحية أقل موثوقية كعلامة تحذير، لكن إشارة الصراع الداخلي تظل قوية أو حتى تصبح أكثر حدة. وهذا يجعل الطريقة الجديدة قيمة للغاية للنماذج الأكثر تقدماً والمضبوطة للتعليمات والتي تُستخدم في التطبيقات الواقعية. كما أظهر الباحثون أن هذا النهج يمكنه اكتشاف الأخطاء في مهام الاستدلال المعقدة متعددة الخطوات، حيث يتعين على النموذج ربط الحقائق معاً، مما يسمح برصد اللحظة التي يبدأ فيها المنطق الداخلي في التفكك.
في النهاية، ينقل هذا العمل التركيز من المخرج النهائي إلى عملية الإنشاء. إنه يثبت أن المسار نحو الإجابة يهم بقدر أهمية الإجابة نفسها. ومن خلال رسم خريطة للأدلة الموقعة التي تتدفق عبر كل طبقة من طبقات الشبكة، قدم الباحثون وسيلة لرؤية خلافات النموذج الداخلية في الوقت الفعلي. وبينما لا تعمل هذه الطريقة بشكل مثالي على كل نموذج دون فحص مسبق، إلا أنها تقدم أداة قوية لا تتطلب تدريباً ويمكن نشرها فوراً. فهي تتيح للمطورين رؤية أين ولماذا يصارع النموذج نفسه، مما يحول العملية الغامضة للذكاء الاصطناعي إلى شيء يمكن ملاحظته وقياسه وفهمه. والخلاصة هي أن الثقة وحدها لا تكفي؛ بل يجب علينا أيضاً البحث عن صمت الاتفاق أو ضجيج الصراع داخل الآلة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.