Where Knowledge Collides: A Mechanistic Study of Intra-Memory Knowledge Conflict in Language Models
تقدم هذه الورقة دراسة ميكانيكية لتناقضات المعرفة داخل الذاكرة في النماذج اللغوية، كاشفةً أنه في حين يتم حل مثل هذه التناقضات عادةً في الطبقات النهائية عبر دوائر متميزة بدلاً من آلية عالمية، فإن التدخلات تكون أقل فعالية بشكل ملحوظ في التناقضات الواقعية مقارنة بالتناقضات الاصطناعية بسبب الاختلافات في توزيع رؤوس الانتباه المتخصصة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عقلاً رقمياً عملاقاً قرأ كل شيء تقريباً على الإنترنت. هذا العقل، المعروف باسم "النموذج اللغوي الكبير" (LLM)، يشبه أمين مكتبة فائق الذكاء يمكنه الإجابة على الأسئلة، وكتابة القصص، وحل المشكلات. لكن هناك مشكلة: أحياناً، يصاب أمين المكتبة هذا بالارتباك. إذا سألته: "أين درس نيلز؟"، فقد يتذكر إجابتين مختلفتين في آن واحد. ربد أن جزءاً من ذاكرته يقول "جامعة أ"، بينما يصر جزء آخر على "جامعة ب". ليس السبب هنا أن أمين المكتبة يقرأ كتاباً جديداً (معلومات خارجية)؛ بل لأن ملاحظاته الداخلية فوضوية. يسمي العلماء هذا "تضارب المعرفة داخل الذاكرة" (intra-memory knowledge conflict). الأمر يشبه امتلاك نسختين مختلفتين من نفس القصة مكتوبتين في نفس الدفتر، ولا يعرف أمين المكتبة أي نسخة يقرأها بصوت عالٍ. هذا أمر بالغ الأهمية، لأنه إذا أردنا الوثوق بهذه الأنظمة الذكية في مهام العالم الحقيقي، فعليها أن تتوقف عن الهلوسة أو تقديم إجابات متناقضة. يريد الباحثون معرفة: أين يحدث هذا الارتباك بالضبط داخل العقل الرقمي، وهل يمكننا إصلاح الجزء المحدد الذي يسبب هذا الخلط؟
هذه الورقة البحثية، بعنوان "أين تتصادم المعرفة"، تغوص في أعماق العمليات الداخلية لهذه العقول الاصطناعية. قام المؤلفون ببناء ساحة اختبار خاصة باستخدام أربعة نماذج ذكاء اصطناعي مختلفة. لقد أنشأوا مجموعة بيانات من السير الذاتية المزيفة — تخيلها كصفحات ويكيبيديا لأشخاص لا وجود لهم — حيث زرعوا فيها حقائق متضاربة عن عمد. على سبيل المثال، أخبروا الذكاء الاصطناعي أن شخصاً خيالياً يدعى "نيلز كافالي" تخرج من "جامعة أوكوبنم"، ثم أخبروه أيضاً أن نفس الشخص "نيلز" تخرج من "جامعة أوفغرغر". ومن خلال تدريب الذكاء الاصطناعي على هذه القصص المختلطة، خلقوا بيئة محكومة حيث كان على النموذج أن يحمل حقيقتين متضاربتين في رأسه في آن واحد.
لمعرفة ما كان يحدث، استخدم الباحثون تقنية تسمى "التفسير الآلي" (mechanistic interpretability). تخيل الذكاء الاصطناعي كمصنع متعدد الطوابق حيث تتدفق المعلومات من الطابق السفلي إلى الطوابق العليا. كل طابق يحتوي على عمال (يُطلق عليهم "الطبقات") وفرق محددة داخل هذه الطوابق ("رؤوس الانتباه") تتعامل مع أجزاء مختلفة من المهمة. استخدم الباحثون أداة تسمى "عدسة اللوجيت" (logit lens) لاستراق النظر داخل المصنع عند كل طابق، ومراقبة كيف تتغير ثقة الذكاء الاصطناعي أثناء معالجته للسؤال. وجدوا شيئاً ثابتاً للغاية: لم يحدث الارتباك في بداية أو منتصف المصنع، بل انفجر الصراع دائماً في الطبقات القليلة الأخيرة. يبدو الأمر كما لو أن الذكاء الاصطناعي يقضي معظم وقته في جمع الحقائق، ولكن في اللحظات الأخيرة تماماً، وقبل أن يتحدث، تصطدم الذكريات المتضاربة ببعضها البعض، مما يجعل النموذج يتذبذب ويصبح غير متيقن.
حاول الفريق بعد ذلك حل المشكلة عن طريق "ترقيع" الذكاء الاصطناعي. هذا يشبه الوصول إلى المصنع واستبدال عمل فريق معين بعمل فريق آخر يعرف الإجابة الصحيحة. جربوا نهجين رئيسيين: إصلاح طابق كامل (تدخل على مستوى الطبقة) أو إصلاح فريق محدد فقط (تدخل على مستوى الرأس). كانت النتائج واضحة: كان إصلاح الطابق بأكمله جيداً، لكن إصلاح الفريق المحدد كان أفضل بكثير. في الواقع، سمح استهداف "رؤوس الانتباه" المسؤولة عن الحقيقة الخاطئة بتوجيه الذكاء الاصطناعي نحو الإجابة الصحيحة بنجاح عالٍ. حتى أنهم اكتشفوا، في عالمهم الخيالي المحكوم، وجود "رؤوس متخصصة" تهتم بحقيقة واحدة محددة فقط. ومع ذلك، عندما جربوا هذا على بيانات من العالم الحقيقي (باستخدام مجموعة بيانات DynamicQA التي تحتوي على معرفة بشرية فوضوية وحقيقية)، كانت الإصلاحات أقل فعالية. وهذا يشير إلى أن صراعات العالم الحقيقي أكثر تشابكاً وصعوبة في التفكيك من تلك النظيفة والاصطناعية التي صنعوها في المختبر.
من أكثر الأمور إثارة للاهتمام التي تعارضها الورقة هي فكرة "الدائرة العالمية" (universal circuit). قد تعتقد أن جميع نماذج الذكاء الاصطناعي لديها مفتاح أو مسار مخصص واحد يتعامل مع جميع صراعات المعرفة، مثل "زر حل النزاعات". يقترح المؤلفون أن هذا على الأرج� غير صحيح. بدلاً من ذلك، تشير نتائجهم إلى فكرة أن قطعاً مختلفة من المعرفة تُخزن في دوائر منفصلة ومختلفة. وتعتمد الإجابة النهائية التي يقدمها الذكاء الاصطناعي على أي من هذه الدوائر المتنافسة يتلقى الإشارة الأقوى من سؤالك. لا يوجد "مدير صراع" واحد؛ بل هو أشبه بـ "لعبة شد الحبل" بين مجموعات مختلفة من العمال، والمجموعة التي تسحب بقوة أكبر هي التي تفوز.
لاحظ الباحثون أيضاً أن أحد النماذج، وهو GPT-2 XL، كان أصعب في الإصلاح من غيره. واستنتجوا أن هذا ليس بسبب كونه معطلاً، بل لأنه كان أكبر حجماً فحسب. فقد كان لديه الكثير من "العمال" (رؤوس الانتباه) مما استلزم منهم إصلاح عدد أكبر منها لرؤية نفس النتائج التي حققتها النماذج الأصغر. الأمر يشبه محاولة إصلاح ازدحام مروري في قرية صغيرة مقابل مدينة ضخمة؛ فأنت بحاجة لتفريغ عدد أكبر من السيارات في المدينة لتحقيق نفس التدفق.
في النهاية، تقدم هذه الدراسة أول خريطة حقيقية لمكان حدوث هذه الصراعات الداخلية. إنها تخبرنا أن المعركة بين الحقائق المتضاربة تحدث عند خط النهاية لعملية التفكير في الذكاء الاصطناعي. وبينما لا يمكننا بعد إصلاح هذه الصراعات بشكل مثالي في العالم الحقيقي الفوضوي، إلا أن الورقة تقترح أنه من خلال استهداف الفرق الصغيرة المحددة المسؤولة عن الحقائق الخاطئة، يمكننا جعل أنظمة الذكاء الاصطنا هذه أكثر موثوقية. إنها خطوة حاسمة نحو بناء ذكاء اصطناعي لا يبدو ذكياً فحسب، بل يعرف حقاً ما يتحدث عنه.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.