Probing for Knowledge Attribution in Large Language Models
تقدم هذه الورقة AttriWiki، وهو مسار تعلم ذاتي لتوليد بيانات مصنفة يتيح للمجسات الخطية البسيطة تحديد ما إذا كان مخرج النموذج اللغوي الكبير يعتمد على سياق المطالبة أم على المعرفة الداخلية بدقة، مما يكشف عن وجود رابط قوي بين أخطاء الإسناد والهلوسة مع إظهار قدرة عالية على الانتقال عبر المجالات.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تتحدث إلى صديق آلي ذكي للغاية ومطلع بعمق. تسأل هذا الروبوت سؤالاً، فيجيبك بثقة. ولكن إليك الجزء الصعب: كيف تعرف ما إذا كان جوابه قد جاء من قراءة الكتاب الذي سلمته إياه للتو، أم أنه استخرج الإجابة من ذاكرته الخاصة؟
أحياناً، قد يتجاهل الروبوت الكتاب الذي أعطيته إياه ويجيب بناءً على ذاكرته (والتي قد تكون خاطئة أو قديمة). وفي أحيان أخرى، قد يتجاهل ذاكرته الخاصة ويجيب بناءً على الكتاب (حتى لو كان الكتاب يحتوي على خطأ مطبعي).
هذه الورقة البحثية تدور حول بناء "كاشف للحقيقة" (Truth Detector) لهذه الروبوتات (النماذج اللغوية الكبيرة، أو LLMs) يمكنه أن يخبرنا بدقة من أين جاءت الإجابة.
إليك تفصيل الورقة البحثية باستخدام تشبيهات بسيطة:
١. المشكلة: الروبوت "الواثق من خطئه"
بدأ المؤلفون بقصة واقعية مخيفة. سأل شخص ما روبوت دردشة خاص بشركة طيران عن خصم بسبب حالة وفاة. أجاب الروبوت بثقة: "نعم، لديك ٩٠ يوماً!". سافر الشخص، لكن شركة الطيران رفضت لاحقاً رد المبلغ لأن تلك القاعدة لم تكن موجودة أصلاً. لقد اخترعها الروبوت (وهذا ما يسمى بـ "الهلوسة").
المشكلة ليست فقط في أن الروبوت كان مخطئاً؛ بل في أننا لم نكن نعرف لماذا كان مخطئاً.
- هل تجاهل السياسة الرسمية التي لصقتها في الدردشة؟
- هل اعتمد على ذاكرته الداخلية، التي كانت خاطئة بالصدفة؟
الأدوات الحالية يمكنها إخبارك إذا كانت الإجابة خاطئة، لكنها لا تستطيع إخبارك من أين حصل الروبوت على الفكرة.
٢. الحل: "مسبار الاستناد" (The Attribution Probe)
بنى الباحثون أداة خاصة تسمى المسبار (Probe). فكر في هذا المسبار كأنه جهاز كشف الكذب لعقل الروبوت.
عندما يفكر الروبوت، فإنه يعالج المعلومات عبر طبقات من "النيورونات" (الحالات الخفية). اكتشف الباحثون أن عقل الروبوت "يضيء" بشكل مختلف اعتماداً على ما إذا كان:
- يقرأ النص المقدم له (المعرفة السياقية): مثل النظر إلى خريطة.
- يسترجع معلومة من ذاكرته (المعرفة البارامترية): مثل تذكر حقيقة تعلمها في المدرسة.
لقد قاموا بتدريب مصنف بسيط وخفيف الوزن (المسبار) للنظر في هذه "أضواء العقل" والقول: "آه، هذه الإجابة قادمة من الخريطة،" أو "آه، هذه الإجابة قادمة من الذاكرة."
٣. كيف دربوا المسبار: لعبة "AttriWiki"
لتدريب المسبار، احتاجوا إلى مجموعة بيانات ضخمة يعرفون فيها الإجابة بالتأكيد. لقد أنشأوا شيئاً يسمى AttriWiki.
تخيل لعبة "الاستغماية مع الحقائق":
١. أخذوا مقالات ويكيبيديا (السياق).
٢. اختاروا حقيقة محددة (مثل اسم شخص).
٣. الجولة (أ) (اختبار الذاكرة): أزالوا الاسم من النص وسألوا الروبوت لملء الفراغ. إذا أجاب الروبوت بشكل صحيح، فهذا يعني أن الروبوت تذكره من تدريبه الخاص.
٤. الجولة (ب) (اختبار القراءة): أبقوا الاسم في النص ولكن أزالوا حقيقة أخرى، مما أجبر الروبوت على قراءة النص للإجابة.
من خلال القيام بذلك ملايين المرات، أنشأوا مجموعة بيانات حيث لكل إجابة "وسم مصدر" موثق (ذاكرة مقابل قراءة). ثم استخدموا هذه البيانات لتدريب مسبارهم.
٤. النتائج: المسبار هو "قارئ فائق"
كانت النتائج جيدة بشكل مفاجئ:
- دقة عالية: استطاع المسبار تحديد مصدر الإجابة بدقة ٩٦٪ في عدة نماذج ذكاء اصطِي عالمية كبرى.
- سر "الطبقة الوسطى": وجدوا أن عقل الروبوت يكشف هذا السر غالباً في الطبقات الوسطى من معالجته، وليس في البداية أو النهاية. الأمر يشبه الهمس بالحقيقة لنفسه في منتصف عملية التفكير.
- التعميم: حتى عندما اختبروا المسبار على أنواع مختلفة تماماً من الأسئلة (مثل أسئلة المعلومات العامة أو اختبارات الفهم القرائي التي لم يرها من قبل)، ظل يعمل بشكل مثالي.
٥. لماذا يهم هذا: خطر "عدم التطابق"
أهم ما توصلوا إليه هو ما يحدث عندما يرتبك الروبوت.
- إذا كان من المفترض أن يقرأ الروبوت وثيقة ولكنه اعتمد على ذاكرته بدلاً من ذلك، فإن معدل الخطأ يرتفع بنسبة ٧٠٪.
- إذا كان من المفترض أن يستخدم ذاكرته ولكن تشتت بسبب وثيقة مربكة، ترتفع الأخطاء بنسبة ٣٠٪.
التشبيه: تخيل طباخاً (الروبوت) من المفترض أن يطبخ وصفة أعطيتها له (السياق). إذا تجاهل وصفتك وطبخ بناءً على ذاكرته القديمة والسيئة، ستكون الوجبة سيئة. المسبار يشبه مفتش المطبخ الذي يمكنه الصراخ: "توقف! أنت تتجاهل الوصفة!" قبل تقديم الطعام.
٦. المأخذ (العيب)
تعترف الورقة بأن معرفة من أين جاءت الإجابة لا تضمن أن الإجابة صحيحة.
- إذا قرأ الروبوت وثيقة تقول "السماء خضراء"، فإن المسبار سيقول بشكل صحيح: "لقد حصل على هذا من الوثيقة".
- لكن الإجابة لا تزال خاطئة.
لذا، المسبار ليس "كاشفاً للحقيقة" بمعنى التحقق من الحقائق؛ بل هو كاشف للمصدر. إنه يخبرك ما إذا كان الروبوت مخلصاً للمصدر الذي قدمته له أم أنه ينجرف بعيداً في خياله الخاص.
الملخص
تقدم هذه الورقة طريقة لإلقاء نظرة داخل "الصندوق الأسود" للذكاء الاصطناعي. بدلاً من مجرد السؤال: "هل هذه الإجابة صحيحة؟"، يمكننا الآن أن نسأل: "هل قرأ الذكاء الاصطناعي حقاً ما قدمته له، أم أنه مجرد شيء من تأليفه بناءً على ما يعتقد أنه يعرفه؟"
هذه خطوة كبيرة نحو جعل الذكاء الاصطناعي أكثر أماناً، خاصة في المواقف الحرجة مثل الاستشارات القانونية، المعلومات الطبية، أو حجز الرحلات الجوية، حيث يكون معرفة مصدر المعلومات بنفس أهمية المعلومة نفسها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.