Mechanistic Tomography: Designed Measurement for Control-Oriented Interpretability
تقدم هذه الورقة "التصوير المقطعي الآلي"، وهو إطار عمل موحد ينمذج تقنيات التفسير كقياسات مصممة لاستعادة الآليات الداخلية للنماذج وآثار التدخل بشكل منهجي، مما يثبت من خلال تجارب متنوعة أن التحقق الموجه نحو التحكم وعائلات القياس المخصصة يمكن أن يعيد بناء الهياكل والتفاعلات السببية في النماذج اللغوية الكبيرة بكفاءة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تُبنى أنظمة الذكاء الاصطنا-عي الحديثة، والتي تُسمى غالباً نماذج اللغات الكبيرة، من مليارات المفاتيح الرياضية الصغيرة المرتبة في طبقات. يمكن لهذه الأنظمة كتابة القصص، وحل المشكلات، والإجابة على الأسئلة، لكنها تعمل كـ "صناديق سوداء": يمكننا رؤية المدخلات والمخرجات، لكن الخطوات الداخلية التي تربط بينهما تظل مخفية. لسنوات، حاول الباحثون التلصص داخل هذه الصناديق عبر تشغيل أجزاء من النظام أو إيقافها، أو عبر مراقبة كيفية تغير الأرقام الداخلية عندما يتغير المدخل قليلاً. والهدف هو فهم أي أجزاء محددة من الآلة هي المسؤولة عن أفكار أو كلمات معينة. ومع ذلك، فإن طرق النظر المختلفة هذه إلى الداخل غالباً ما تبدو وكأنها تروي قصصاً متضاربة؛ فقد يشير أسلوب ما إلى أن مكوناً ما حيوي، بينما يشير أسلوب آخر إلى أنه غير ذي صلة، مما يترك العلماء في حيرة من أمرهم عما إذا كانوا يقيسون الشيء نفسه أم مجرد ظلال مختلفة لنفس الجسم.
يقدم نهج جديد يسمى "التصوير المقطعي الميكانيكي" (mechanistic tomography) طريقة لتوحيد هذه الرؤى المتضاربة. الفكرة الجوهرية هي التعامل مع البحث عن الآليات الداخلية ليس كغموض يجب حله بالحدس، بل كمسألة قياس يجب حلها بالتصميم. تماماً كما يستخدم الطبيب أنواعاً مختلفة من الفحوصات لبناء صورة واضحة لصحة المريض، يمكن للباحثين تصميم تجارب محددة ومسيطر عليها لقياس كيفية عمل الأجزاء الداخلية للذكاء الاصطناعي معاً. تقترح هذه الورقة سير عمل منظماً لهذه التجارب، يبدأ من أبسط وأرخص القياسات، ولا يضيف التعقيد إلا إذا فشلت القياسات البسيطة في التنبؤ بما ستفعله الآلة فعلياً عندما يتم دفعها. وقد وجد الباحثون أنه بينما تعمل القياسات البسيطة بشكل جيد في كثير من الأحيان، إلا أنها قد تغفل أحياناً التفاعلات الحاسمة بين الأجزاء، وأن الطريقة الصحيحة للقياس تعتمد كلياً على ما يُطلب من الآلة القيام به.
تبدأ الرحلة بإدراك جوهري: الطريقة التي نقيس بها الحالة الداخلية للآلة تغير الإجابة التي نحصل عليها. إذا دفعت جزءاً من النظام قليلاً، ستحصل على نتيجة مختلفة عما لو دفعته بقوة، أو لو دفعت عدة أجزاء معاً. أدرك المؤلف أن جميع الطرق المختلفة التي يستخدمها الباحثون — سواء كانوا يغيرون جزءاً واحداً في كل مرة، أو يستخدمون التدرجات لتقدير التأثيرات، أو يختبرون مجموعات من الأجزاء معاً — يمكن وصفها بأنها نوع واحد من مسائل القياس. لقد صاغ ذلك كأحجية حيث الهدف هو استعادة خريطة مخفية من التأثيرات من خلال سلسلة من الملاحظات الجزئية. كل ملاحظة هي تدخل محدد، مثل تغيير بعض الكلمات في نص (prompt) أو تعديل إشارة داخلية معينة، والنتيجة هي نقطة بيانات تساعد في ملء الخريطة. التحدي يكمن في أن الآلة ليست خطية تماماً؛ فأجزاؤها تتفاعل بطرق معقدة، و"الضجيج" في القياس يعتمد على حجم الدفعة.
لاختبار هذا الإطار، بدأ الباحثون في بيئة محكومة حيث يعرفون الإجابة الدقيقة مسبقاً. لقد بنوا محاكاة باستخدام نظام احتمالي بسيط، مثل نموذج ماركوف الخفي، والذي يعمل كنقطة مرجعية مثالية. في هذا الإعداد، استطاعوا إنشاء "نفق رياح" للذكاء الاصطناعي، حيث يعرفون بالضبط ما يجب أن تكون عليه حالة الاعتقاد الداخلية للآلة. ثم اختبروا مدى جودة طرق القياس المختلفة في التنبؤ بسلوك الآلة عند استخدامها للتحكم بها. ووجدوا رابطاً مباشراً بين دقة القياس الداخلي ونجاح التحكم؛ فإذا كان القياس غير دقيق قليلاً، فإن إجراء التحكم يفشل. والأهم من ذلك، اكتشفوا أن القياس قد يبدو ناجحاً من خلال تحسين الهدف الرئيسي مع إفساد جزء آخر غير مرتبط به بالخطأ. أثبت هذا أن مجرد رؤية الآلة وهي تتحسن في مهمة ما ليس كافياً؛ بل يجب التحقق من أن التفسير الداخلي يتطابق بالفعل مع الإجراء المتخذ.
بالانتقال من المحاكاة إلى النماذج الحقيقية سابقة التدريب، طبق الباحثون إجراءهم المتدرج لمعرفة المدى الذي يمكن أن تصل إليه القياسات البسيطة. في إحدى التجارب على نموذج مدرب على تحديد المفاعيل غير المباشرة في الجمل، بدأوا بافتراض أن سلوك الآلة هو مجرد مجموع بسيط لأجزاء فردية. قاموا بقياس تأثير إزالة مجموعات محددة من المكونات الداخلية. نجح النموذج البسيط في البداية، ولكن عندما اختبروه على تركيبات جديدة وغير مرئية من الأجزاء، فشل في التنبؤ بالنتيجة بدقة. لم يكن الخطأ عشوائياً، بل كان مهيكلاً؛ إذ تبين أن الآلة تعتمد على التفاعلات بين الأجزاء. على سبيل المثال، قد يصبح أحد مجموعات المكونات مهماً فقط إذا تم إضعاف مجموعة أخرى. ومن خلال إضافة قياسات مصممة خصيصاً لرصد هذه التفاعلات، تمكن الباحثون من إصلاح أخطاء التنبؤ. ووجدوا أن زوجاً معيناً من مجموعات المكونات كان مسؤولاً عن أكبر خطأ متبقٍ، وأن إضافة حد التفاعل هذا وحده جعل تنبؤات النموذج شبه مثالية.
وفي تجربة ثانية مع نموذج أكبر بكثير وحديث مصمم لاتباع التعليمات، سأل الباحثون عما إذا كانوا بحاجة للبحث عن هذه التفاعلات المعقدة. بدأوا بنفس النهج البسيط والتراكمي، وقاموا بمعايرته ببعض القياسات الإضافية لمراعاة حجم الدفعة. هذه المرة، عمل النموذج البسيط بشكل مثالي تقريباً؛ فقد تنبأ بسلوك النموذج في نصوص جديدة وغير مرئية بدقة عالية للغاية. وعندما حاولوا إضافة قياسات التفاعل المعقدة، لم تتحسن النتائج. كان التعقيد الإضافي غير ضروري. كانت هذه النتيجة مهمة بقدر أهمية النتيجة الأولى: فقد أظهرت أنه لا ينبغي افتراض أن الآلة معقدة لمجرد أنها كبيرة. فأحياناً، يكون التفسير البسيط كافياً، وإضافة المزيد من طبقات القياس لا يؤدي إلا إلى زيادة التكلفة دون إضافة قيمة.
تختتم الورقة بتقديم دليل عملي لكل من يحاول فهم هذه الآلات. النصيحة هي البدء بأبسط وأرخص قياس يمكن أن يفسر السلوك. إذا نجح ذلك، فتوقف. إذا فشل، فانظر إلى نمط الفشل. إذا كان الخطأ مجرد مسألة مقياس، فقد يصلح تصحيح بسيط الأمر. أما إذا كان الخطأ يشير إلى أن الأجزاء تعمل معاً بطريقة لا يستطيع النموذج البسيط رؤيتها، فعندئذٍ صمم قياسات جديدة لرصد هذه التفاعلات. وأخيراً، اختبر التفسير دائماً على مهمة لم يتم التدريب عليها، أو في حلقة تحكم توجه إجراءً ما. الهدف ليس مجرد إعادة بناء صورة للآلة، بل بناء مراقب يمكنه التنبؤ بموثوقية بما ستفعله الآلة عندما تدفعها الظروف الواقعية. هذا النهج ينقل التركيز من البحث عن الآلية الداخلية "الحقيقية" إلى إيجاد الطريقة الأكثر فائدة وموثوقية لقياسها لغرض محدد.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.