Evaluation Framework for Highlight Explanations of Context Utilisation in Language Models
تقدم هذه الورقة أول إطار تقييم بمعيار ذهبي لتقييم تفسيرات التظليل لاستخدام السياق في النماذج اللغوية، كاشفةً أنه بينما يتفوق أسلوب التفسير الآلي المُكيف "MechLight" على التقنيات الحالية، إلا أن جميع الأساليب تعاني مع السياقات الأطول وتُظهر تحيزات موضعية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك مساعد روبوت ذكي للغاية (نموذج لغوي) يعرف الكثير من الحقائق من ذاكرته الخاصة، مثل مكتبة بناها داخل عقله. أحياناً، تعطيه ورقة جديدة تحتوي على معلومات وتطلب منه الإجابة على سؤال. قد يجيب الروبوت مستخدماً ما يعرفه بالفعل، أو قد ينظر إلى ورقتك الجديدة.
المشكلة هي أن الروبوت لا يخبرك أي مصدر استخدم؛ هل قرأ ورقتك أم أنه خمن من ذاكرته؟
تقدم هذه الورقة طريقة جديدة لاختبار "تفسيرات التظليل" (Highlight Explanations). فكر في هذه التفسيرات كأنها قلم تحديد (هايلايتر) يستخدمه الروبوت لتحديد الكلمات الدقيقة في ورقتك التي قرأها ليعطيك إجابته. الهدف هو معرفة ما إذا كان قلم التحديد يشير بالفعل إلى الكلمات الصحيحة، أم أنه مجرد خربشة عشوائية.
إليك تفصيل بسيط لما فعله الباحثون وما وجدوه:
1. المشكلة: "الصندوق الأسود"
في الوقت الحالي، لا يمكننا بسهولة معرفة ما إذا كان الروبوت يقرأ ورقتك أم يعتمد فقط على ذاكرته. الأدوات الحالية التي تحاول أن تظهر لنا "ماذا يفكر الروبوت" (تسمى تفسيرات التظليل) لم تُختبر بشكل صحيح أبداً لمعرفة ما إذا كانت دقيقة حقاً. الأمر يشبه امتلاك جهاز GPS يدعي أنه يظهر لك الطريق، لكن لم يسبق لأحد أن تحقق مما إذا كان يشير بالفعل إلى الشوارع الصحيحة.
2. الحل: اختبار "المعيار الذهبي"
بنى الباحثون مختبراً خاصاً للاختبار للتحقق من أقلام التحديد هذه. لقد أنشأوا أربعة سيناريوهات محددة، تشبه لعبة المحقق:
- التضارب (The Conflict): الورقة تقول "العاصمة هي أنقرة"، لكن ذاكرة الروبوت تقول "العاصمة هي لندن". إذا أجاب الروبوت بـ "أنقرة"، فلا بد أنه قرأ الورقة. يجب أن يشير قلم التحديد إلى كلمة "أنقرة".
- التشتيت (The Distraction): الورقة تحتوي على الكثير من المعلومات غير ذات الصلة أو العبثية. لا ينبغي لقلم التحديد أن يشير إلى هذه المعلومات العبثية.
- المشكلة المزدوجة (The Double Trouble): تعطي الروبوت ورقتين مختلفتين كلتاهما تناقض ذاكرته. يحتاج قلم التحديد إلى الإشارة إلى الورقة المحددة التي اختارها الروبوت.
لقد أنشأوا "معياراً ذهبياً" (مفتاح الإجابة الصحيحة) لهذه الاختبارات حتى يتمكنوا من تقييم أقلام التحديد بشكل موضوعي.
3. المتسابقون
اختبروا أربعة أنواع مختلفة من أقلام التحديد:
- "الحاجب" (Feature Ablation): تحاول هذه الطريقة إخفاء كلمة واحدة في كل مرة لترى ما إذا كانت الإجابة ستتغير. الأمر يشبه تغطية كلمة بإصبعك لترى ما إذا كانت الجملة ستظل مفهومة.
- "ساحر الرياضيات" (Integrated Gradients): يستخدم رياضيات معقدة لحساب مدى مساهمة كل كلمة في الإجابة.
- "متتبع النظرات" (Attention): ينظر إلى المكان الذي كانت تنظر إليه "عيون" الروبوت الداخلية عندما تحدث.
- "الميكانيكي" (MechLight): هذه طريقة جديدة ابتكرها المؤلفون. بدلاً من التخمين، نظروا داخل عقل الروبوت (آلياته الداخلية) للعثور على الترس أو المفتاح المحدد الذي قرر استخدام الورقة، ثم تتبعوا ذلك وصولاً إلى الكلمات.
4. النتائج: من الفائز؟
- الفائز: كان "الميكانيكي" (MechLight) هو الأفضل في الإشارة إلى الكلمات الصحيحة. لقد كان المحقق الأكثر موثوقية.
- الوصيف: طريقة "الحاجب" كانت جيدة ولكنها غير متسقة للغاية؛ أحياناً تعمل بشكل رائع، وأحياناً أخرى تصاب بالارتباك.
- الخاسرون: للمفاجأة، كان "ساحر الرياضيات" و "متتبع النظرات" — وهما أداتان شائعتان جداً وتستخدمان في العديد من الأدوات الأخرى — سيئين للغاية في هذه المهمة المحددة. غالباً ما كانا يشيران إلى الكلمات الخاطئة أو لا يستطيعان التمييز بين أي ورقة استخدمها الروبوت.
5. العيوب الكبرى (المآزق)
حتى أفضل قلم تحديد كان لديه عيبان رئيسيان:
- مشكلة "الورقة الطويلة": كلما طالت النصوص، ساء أداء جميع أقلام التحديد. الأمر يشبه محاولة العث ورأس إبرة في كومة قش؛ فكلما كبرت كومة القش، زادت صعوبة العثور على الإبرة.
- تحيز الموقع (Position Bias): كان لدى أقلام التحديد عادة غريبة في تفضيل الكلمات بناءً على موقعها، وليس معناها.
- بعض الطرق كانت تفضل دائماً الكلمات الموجودة في النهاية (تحيز الحداثة - recency bias).
- وأخرى كانت تفضل دائماً الكلمات الموجودة في البداية (تحيز الأولوية - primacy bias).
- هذا يعني أنه إذا نقلت جملة من البداية إلى النهاية، فقد يغير قلم التحديد رأيه بشأن ما إذا كانت تلك الجملة مهمة أم لا، حتى لو كان المعنى هو نفسه.
6. الخلاصة
تخلص الورقة إلى أنه بينما نمتلك أدوات لشرح كيفية استخدام الروبوتات للسياق، فإن معظمها حالياً غير موثوق بها لهذه المهمة المحددة. فهي غالباً ما تفشل في إظهار الجزء الدقيق من النص الذي استخدمه الروبوت، خاصة عندما يكون النص طويلاً أو عندما تكون هناك مستندات متعددة.
إن الإطار العملي الجديد الذي وضعه المؤلفون (مختبر الاختبار) متاح الآن للآخرين لاستخدامه لبناء أقلام تحديد أفضل وأكثر دقة في المستقبل. كما قاموا بنشر الكود والبيانات الخاصة بهم حتى يتمكن علماء آخرون من محاولة حل هذه المشكلات.
باخت مختصر: لدينا الآن طريقة اختبار صارمة لمعرفة ما إذا كانت أدوات التفسير في الذكاء الاصطناعي تقول الحقيقة. أظهر الاختبار أن معظم أدوات التفسير الحالية تكذب (أو على الأقل، مشوشة جداً)، ولكننا نملك الآن مخططاً لبناء أدوات تقول الحقيقة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.