Intrinsic Structure: Spectral Identifiability for Mechanistic Interpretability
تضع هذه الورقة البحثية أول نظرية للتعرف (identifiability theorem) في مجال التفسير الآلي من خلال إثبات أن طيف "كوبمان" (Koopman spectrum) الخاص بالنموذج هو بصمة جوهرية، مستقلة عن الإحداثيات، ويمكن استردادها من البيانات، مما يميز الخصائص الهيكلية عن النواتج المنهجية الاصطناعية، ويكشف في الوقت ذاته عن انفصال جوهري بين الميزات القابلة للتعرف إحصائياً والدوائر القابلة للقراءة بشرياً.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
معضلة المحقق: البحث عن الحقيقة داخل الآلة
تخيل أنك محقق تحاول حل لغز داخل مصنع ضخم، عبارة عن صندوق أسود. هذا المصنع هو نوع من الذكاء الاصطناعي يسمى "الشبكة العصبية" أو "المحول" (Transformer). يأخذ المصنع الكلمات ويخرج منها إجابات، لكن لا أحد يعرف بالضبط كيف يفكر. لسنوات، حاول العلماء تفكيك هذا المصنع للعثور على التروس والرافعات الصغيرة — التي تسمى "الدوائر" (circuits) — التي تجعله يعمل. يستخدمون أدوات مثل "المشفرات التلقائية المتفرقة" (sparse autoencoders)، وهي في الأساس آلات فرز متطورة تحاول تجميع إشارات المصنع الداخلية في فئات مرتبة ومفهومة.
المشكلة هي أن آلات الفرز هذه غير موثوقة تمامًا. إذا قمت بتشغيل نفس المصنع عبر الفرز مرتين، باستخدام إعدادات أو نقاط بداية مختلفة قليلاً، فقد تحصل على قائمتين مختلفتين تمامًا من "التروس". في مرة، تقول الآلة إن سر كتابة قصيدة هو ترس معين؛ وفي المرة التالية، تقول إنه ترس مختلف تمامًا. هذا يجعل العلماء يتساءلون: هل هذه التروس أجزاء حقيقية من المصنع، أم أنها مجرد أوهام خلقتها آلة الفرز نفسها؟ إذا لم تكن هذه التروس حقيقية، فإن أي قواعد سلامة أو نظريات علمية مبنية عليها قد تكون مبنية على الرمال. يسأل هذا البحث سؤالاً جوهرياً: هل يمكننا العثور على "بصمة" للمصنع تكون حقيقية، وغير متغيرة، ولا تعتمد على الأداة المستخدمة للنظر إليه؟
الفكرة الكبرى للورقة: البصمة غير المتغيرة للمصنع
تقترح هذه الورقة، بعنوان "البنية الجوهرية: القابلية للتعرف الطيفي للميكانيكا التفسيرية"، طريقة جديدة للنظر داخل مصانع الذكاء الاصطناعي هذه. بدلاً من محاولة فرز الإشارات إلى أكوام مرتبة، يعامل المؤلفون عملية تفكير الذكاء الاصطناعي كـ نظام ديناميكي — وهي طريقة متطورة تعني أنهم ينظرون إلى طبقات الذكاء الاصطناعي كفيلم يعرض بمرور الوقت. يستخدمون أداة رياضية تسمى مؤثر كوبمان (Koopman operator) لرفع هذا الفيلم إلى بُعد أعلى حيث تصبح الحركات الفوضوية وغير الخطية بسيطة ومستقيمة.
فكر في الأمر كالتالي: تخيل أنك تحاول وصف مسار أفعوانية (Rollercoaster). إنها تلتوي، وتدور، وتقوم بحركات لولبية، مما يجعل التنبؤ بها صعباً. ولكن إذا استطعت سحرياً رؤية الأفعوانية من زاوية خاصة في السماء، فقد ترى أنها تتحرك في الواقع على طول مسار بسيط ومستقيم. "طيف كوبمان" (Koopman spectrum) هو اسم تلك البصمة الفريدة للمسار المستقيم. يثبت المؤلفون رياضياً أن هذا الطيف هو ثابت مستقل عن الإحداثيات (coordinate-free invariant). وباللغة البسيطة، هذا يعني أنه خاصية للمصنع نفسه، وليس للأداة المستخدمة لقياسه. بغض النظر عن كيفية تدوير رؤيتك أو تغيير قاموسك، فإن "الطيف" (قائمة الأرقام التي تصف المسار) يظل كما هو تماماً، باستثناء إعادة ترتيب بسيطة.
ما وجدوه: أصابع حقيقية، ولكن ليست التي كنتم تريدونها
اختبر الفريق هذه النظرية على ثلاثة نماذج ذكاء اصطناعي حقيقية: GPT-2 small، و Gemma-2-2B، و Qwen3-8B-Base. جمعوا الملايين من عينات النشاط الداخلي للذكاء الاصطناعي وحاولوا استعادة هذا "الطيف".
الأخبار الجيدة: النظرية تعمل. في النموذج الأكبر، Qwen3-8B-Base، تقارب الطيف عند معدل −0.506 ± 0.031. وهذا يطابق التنبؤ الرياضي المثالي وهو −0.5 (أو M⁻¹/²)، مما يعني أنه كلما أضافوا المزيد من البيانات، تقلص الخطأ تماماً كما قالت الرياضيات. هذه هي المرة الأولى التي يثبت فيها أي شخص أن جزءاً معيناً من البنية الداخلية للذكاء الاصطناعي يمكن تحديده من البيانات مع هامش خطأ مضمون. كما أثبتوا أن هذا الطيف هو الأفضل على الإطلاق؛ فلا توجد طريقة أخرى يمكنها التفوق على هذه السرعة.
الأخبار السيئة (والتحول المفاجئ): رغم أن "البصمة" حقيقية وغير متغيرة، إلا أنها تبين أنها ليست مقروءة جداً. اكتشف المؤلفون وجود "انفصال" (dissociation) بين ما هو قابل للتعرف (الطيف) وما هو قابل للقراءة (سهل الفهم من قبل البشر).
- اختبروا ما إذا كانت "أنماط كوبمان" الجديدة هذه يمكنها تفسير سلوك شهير للذكاء الاصطناعي يسمى تحديد المفعول به غير المباشر (IOI) (حيث يتعلم الذكاء الاصطناعي قول "الكرة في الصندوق" بدلاً من "الكرة في الكوب").
- النتيجة؟ كانت الأنماط الجديدة أفضل من التخمينات العشوائية، ولكنها كانت أسوأ من تحليل المكونات الرئيسية القياسي (PCA). فعندما أزالوا أعلى 8 اتجاهات من الأنماط الجديدة، أزالوا 25% فقط من السلوك. بينما عندما أزالوا أعلى 8 اتجاهات من الـ PCA القياسي، أزالوا 60%.
- تثبت الورقة أنه بسبب كون رياضيات الذكاء الاصطناعي الداخلية "غير طبيعية" (non-normal) (وهي طريقة تقنية للقول بأنها فوضوية وملتوية)، فإن الاتجاهات التي تحمل أكبر قدر من المعلومات (الطيف) لا يمكن أن تكون هي نفسها الاتجاهات التي تحمل أكبر قدر من التباين (الأنماط سهلة الرؤية).
ماذا يعني هذا للمستقبل
تخلص الورقة إلى إدراك واقعي ولكنه مهم: الشيء القابل للتعرف والشيء القابل للقراءة ليسا الشيء نفسه.
لدينا الآن ضمان رياضي بأننا نستطيع العثور على "بصمة" لديناميكيات الذكاء الاصطناعي الداخلية تكون حقيقية وليست نتاجاً لأدواتنا. ومع ذلك، فإن هذه البصمة ليست خريطة لدوائر مفهومة بشرياً. إنها شهادة علمية صارمة تقول: "نعم، هذا الجزء من النموذج حقيقي"، لكنها لا تخبرنا بالضرض ما الذي يفعله ذلك الجزء بطريقة يمكن للبشر قراءتها بسهولة.
أظهر المؤلفون أيضاً أن التباين المشاهد في الطرق السابقة (مثل المشفرات التلقائية المتفرقة) ليس مجرد خطأ في الكود؛ بل هو نتيجة هيكلية للرياضيات التي تستخدمها تلك الطرق. حتى أنهم اقترحوا حلاً: إضافة عقوبة (penalty) إلى عملية التدريب لإجبار القاموس على احترام "ثبات كوبمان". وعندما جربوا ذلك، أصبح الطيف أكثر استقراراً بنسبة 41%، لكن القاموس نفسه أصبح أقل استقراراً.
باختصار، تمنحنا هذه الورقة أداة صلبة رياضياً لإثبات أن أجزاء معينة من الذكاء الاصطناعي حقيقية. لكنها تحذرنا أيضاً من أنه لمجرد أن شيئاً ما حقيقي وقابل للتعرف، فهذا لا يعني أنه سيكون من السهل علينا فهمه. "البصمة" موجودة، لكنها مكتوبة بلغة تتطلب نوعاً جديداً من القواميس لقراءتها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.