Sensivity of LLMs' Explanations to the Training Randomness:Context, Class & Task Dependencies
تتقصى هذه الورقة كيف تؤثر عشوائية التدريب على استقرار تفسيرات نماذج "ترانسفورمر" (Transformer)، حيث تُبين أنه في حين أن السياق النحوي، وفئات الأهداف، وأنواع المهام، جميعها تؤثر بشكل كبير على هذه الحساسية، فإن التأثير يكون في أدنى مستوياته بالنسبة للسياق، ومتوسطاً للفئات، وأكبره للمهام.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك طالباً ذكياً جداً، لكنه غير متوقع بعض الشيء، يدعى ترانسفورمر (Transformer). هذا الطالب بارع في القراءة وفهم النصوص، ولكن هناك مشكلة؛ ففي كل مرة تعلمه فيها درساً جديداً، تقوم بخلط ترتيب البطاقات التعليمية، أو تغيير الإضاءة في الغرفة، أو تعديل مزاجه قليلاً (وهذا ما يسميه البحث "العشوائية في التدريب").
وعلى الرغم من أن هذا الطالب يتعلم نفس المادة ويحصل على نفس درجة الاختبار، إلا أنه إذا سألته: "لماذا اخترت هذه الإجابة؟" فقد يعطيك سبباً مختلفاً تماماً بناءً على كيفية خلط الدرس.
هذا البحث يشبه قصة بوليسية تحقق في سبب تغير تفسيرات هذا الطالب كثيراً. أراد الباحثون، رومان، جيريمي، وفرانسوا-كزا فييه، معرفة: هل يعتمد سبب التغيير على بنية الجملة، أم على الموضوع المحدد، أم على نوع الاختبار؟
إليك تفصيل نتائجهم باستخدام تشبيهات بسيطة:
1. الإعداد: تجربة "التوائم الـ 200"
لدراسة هذا الأمر، لم يكتفِ الباحثون بتدريب طالب واحد، بل قاموا بتدريب 200 "توأم" من نفس نموذج الذكاء الاصطناي.
- جميعهم تعلموا من نفس الكتاب المدرسي (البيانات).
- حصلوا جميعاً على نفس الدرجة (الدقة).
- لكن، كان لكل توأم "بذرة عشوائية" (random seed) مختلفة قليلاً (مثل اختلاف في السمات الشخصية أو اختلاف في ترتيب المذاكرة).
بعد ذلك، طلبوا من جميع التوائم الـ 200 شرح نفس الجملة. وقاسوا مدى اتفاق التوائم مع بعضهم البعض. إذا قال الجميع: "اخترت هذا بسبب كلمة 'جون'"، فهذا يعني أنها مستقرة. أما إذا قال أحدهم "جون"، وقال آخر "الفعل"، وثالث "علامة الترقيم"، فهذا يعني أنها غير مستقرة.
2. العامل رقم 1: بنية الجملة (الـ "أحجية المبعثرة")
السؤال: هل يؤدي خلط ترتيب الكلمات في الجملة إلى جعل التفسيرات مهتزة؟
التشبيه: تخيل أن الجملة عبارة عن جملة مكونة من قطع "ليجو" (Lego).
- جملة طبيعية: "جون يحب جيمس."
- جملة مبعثرة: "جيمس يحب جون" (أو مجرد قطع في كومة عشوائية).
النتيجة: عندما كانت الكلمات في ترتيبها الصحيح، اتفق التوائم الـ 200 تماماً على سبب اختيارهم للإجابة. ولكن عندما تم بعثرة الكلمات (حتى لو ظل المعنى واضحاً)، بدأ التوائم في الاختلاف قليلاً.
- الحكم: البنية مهمة، ولكن بدرجة قليلة فقط. يصاب الذكاء الاصطناعي ببعض الارتباك بسبب "الضجيج" الناتج عن الكلمات المبعثرة، لكن الأمر ليس مشكلة كبيرة.
3. العامل رقم 2: الموضوع (الـ "دليل المفقود")
السؤال: هل يغير خيار الإجابة المحدد (الفئة) مدى استقرار التفسير؟
التشبيه: تخيل لعبة محقق.
- الحالة أ (سهلة): المجرم هو دائماً "جون". على المحقق فقط أن يجد اسم "جون" في الغرفة. سهل! الجميع يتفقون.
- الحالة ب (صعبة): المجرم هو "ليس جون". على المحقق أن ينظر إلى الغرفة بأكملها ويدرك: "همم، جون ليس هنا، لذا يجب أن يكون شخصاً آخر".
النتيجة: هنا تصبح الأمور فوضوية.
- عندما اعتمدت الإجابة على كلمة محددة وواضحة (مثل "جون")، كانت التفسيرات مستقرة جداً.
- عندما اعتمدت الإجابة على غياب كلمة ما (مثل "إنه ليس جون")، بدأ التوائم الـ 200 في تقديم أسباب مختلفة جداً. فبعضهم أشار إلى بداية الجملة، والبعض الآخر إلى نهايتها.
- الحكم: الموضوع له تأثير متوسط. إذا كان على الذكاء الاصطناعي تفسير سبب عدم وجود شيء ما، فإن منطقه يصبح أقل اتساقاً بكثير.
4. العامل رقم 3: المهمة (الـ "موضوع العمل")
السؤال: هل يغير نوع العمل الذي يقوم به الذكاء الاصطناعي من الاستقرار؟
التشبيه:
- المهمة أ (الفيزياء الفلكية): فرز الأوراق بين "النجوم" و"الرياضيات". الكلمات مختلفة تماماً (مثلاً: "ثقب أسود" مقابل "معادلة"). الأمر يشبه فرز التفاح عن البرتقال.
- المهمة ب (رأي مقابل حقيقة): فرز المقالات الإخبارية بين "رأي" و"حقيقة". الكلمات متشابهة جداً. تحتاج لقراءة النبرة والعلاقة بين الكلمات للتمييز بينهما. الأمر يشبه فرز تفاح أحمر عن تفاح أحمر داكن قليلاً.
النتيجة:
- كان الذكاء الاصطناعي مستقراً جداً عند فرز المواضيع المتميزة والسهلة (النجوم مقابل الرياضيات).
- كان الذكاء الاصطناعي غير مستقر جداً عند فرز المواضيع الصعبة والمتشابهة (رأي مقابل حقيقة).
- الحكم: المهمة لها التأثير الأكبر. كلما كانت الوظيفة أصعب في الفهم، زاد تغير "منطق" الذكاء الاصطناعي اعتماداً على كيفية تدريبه.
الخلاصة الشاملة
يخبرنا البحث أن تفسيرات الذكاء الاصطناعي هشة. فهي ليست حقائق مطلقة؛ بل تعتمد بشكل كبير على:
- كيفية كتابة النص (بدرجة قليلة).
- ما الذي يبحث عنه الذكاء الاصطناعي (بدرجة متوسطة).
- مدى صعوبة المهمة (بدرجة هائلة).
لماذا يهم هذا؟
إذا كنت طبيباً تستخدم الذكاء الاصطناعي لتشخيص مريض، أو قاضياً تستخدمه لمراجعة قضية، فلا يمكنك الوثوق بـ "منطق" الذكاء الاصطناعي بشكل أعمى. إذا قال الذكاء الاصطناعي: "أعتقد أن هذه جريمة بسبب الكلمة (س)"، فأنت بحاجة لمعرفة: هل هذا سبب قوي، أم أن الذكاء الاصطناعي قد حالفه الحظ فقط في عملية خلط التدريب الخاصة به؟
يقترح المؤلفون أنه في المستقبل، لا ينبغي لنا مجرد النظر إلى تفسير واحد. بل يجب علينا النظر إلى توزيع (distribution) التفسيرات (أي سؤال الذكاء الاصطناعي 200 مرة ومعرفة ما إذا كان سيعطي نفس الإجابة في كل مرة) لنعرف ما إذا كان بإمكاننا الوثوق به حقاً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.