داخل العقول الرقمية الشاسعة للذكاء الاصطناعي الحديث، يوجد طبقة خفية من النشاط بدأ الباحثون للتو في رسم خرائطها. هذه الأنظمة، المعروفة باسم النماذج اللغوية الكبيرة، لا تفكر في جمل أو فقرات كما يفعل البشر؛ بل تعالج المعلومات من خلال مليارات المفاتيح الصغيرة المترابطة التي تسمى الخلايا العصبية. عندما تطلب من الحاسوب كتابة قصيدة، أو حل مسألة رياضية، أو تصحيح سطر برمجي، تضاء مجموعات محددة من هذه الخلايا العصبية لأداء العمل. لسنوات، كافح العلماء لفهم أي الخلايا العصبية هي المسؤولة عن أي مهام. وتكمن الصعوبة في الحجم الهائل للعملية؛ فهذه النماذج معقدة للغاية لدرجة أن مراقبتها وهي تعمل تشبه محاولة فهم مدينة عبر النظر إلى مصباح شارع واحد فقط. كانت الطرق السابقة للعثور على المفاتيح الصحيحة إما بطيئة للغاية بحيث لا يمكن تطبيقها عملياً، أو مركزة للغاية على لحظات فردية بحيث فاتتها الصورة الأكبر لكيفية سلوك النظام بمرور الوقت.

قدم فريق من الباحثين الآن طريقة جديدة للاستماع إلى هذه العقول الرقمية، وهي طريقة أطلقوا عليها اسم RACE. بدلاً من محاولة الهندسة العكسية للنظام بأكدله أو حساب تأثير كل اتصال منفرد، تعامل هذا النهج مع النشاط الداخلي للنموذج كنمط إحصائي. أدرك الباحثون أن الخلايا العصبية التي تخدم غرضاً معيناً، مثل كتابة كود لغة بايثون أو حل الجبر، لا تعمل بشكل عشوائي، بل تساهم في الحالة الداخلية للنموذج بطريقة ثابتة ومستقرة كلما تم تنفيذ هذا النوع المحدد من المهام. ومن خلال تتبع هذه المساهمات المتسقة عبر آلاف الأمثلة، يمكن للفريق تحديد الخلايا العصبية التي تعد "متخصصة حقيقية" لوظيفة معينة. لا يتعلق الأمر بإيجاد خلية عصبية تعمل مرة واحدة ثم تنساها؛ بل يتعلق بإيجاد تلك التي تظهر بانتظام للعمل في كل مرة يُطلب فيها من النموذج القيام بشيء محدد.

يكمن جوهر هذا الاكتشاف في التحول في كيفية قياس الأهمية. اعتمدت التقنيات القديمة غالباً على حسابات معقدة تتطلب من الحاسوب العمل بشكل عكسي عبر منطقه الخاص، وهي عملية كانت بطيئة للغاية ومكلفة حوسبياً. أما الطريقة الجديدة، RACE، فهي تعمل في تمريرة أمامية واحدة، حيث تراقب كيف يعالج النموذج المعلومات بينما تتدفق طبيعياً من البداية إلى النهاية. إنها تنظر إلى التحديثات الصغيرة التي تجريها كل خلية عصبية على تدفق الذاكرة الداخلية للنموذج. إذا كانت الخلية العصبية تدفع تفكير النموذج باستمرار في الاتجاه الصحيح لمهمة معينة، فإنها تحصل على درجة عالية. أما إذا كان سلوكها مضطرباً أو إذا ساعدت في حالات نادرة فقط، فإنه يتم تجاهلها. وهذا يسمح للباحثين ببناء خريطة موثوقة لقدرات النموذج دون الحاجة إلى التوقف وحساب كل نتيجة محتملة.

لاختبار دقة هذه الخريطة، أجرى الباحثون سلسلة من التجارب المنضبطة على عدة نماذج لغوية كبيرة مختلفة، تتراوح من النماذج الأصغر ذات الـ 4 مليارات بارامتر إلى النمامة الضخمة ذات الـ 32 مليار بارامتر. وركزوا على ثلاث مجالات متميزة: كتابة كود الحاسوب، وحل المسائل الرياضية، والتحكم في سلوكيات محددة مثل استخدام هيكل جمل معين. وفي كل حالة، استخدموا طريقة RACE لتحديد أفضل الخلايا العصبية المسؤولة عن تلك المهمة. ثم قاموا بعملية دقيقة: قاموا بإسكات تلك الخلايا العصبية المحددة مؤقتاً أثناء عمل النموذج.

كانت النتائج مذهلة. فعندما قام الباحثون بكتم الخلايا العصبية التي حددتها RACE لمهام البرمجة، انخفضت قدرة النموذج على كتابة كود صحيح بشكل كبير، بينما ظلت قدرته على الإجابة على الأسئلة العامة أو حل المسائل الرياضية سليمة إلى حد كبير. وانطبق الأمر نفسه على الرياضيات؛ إذ أدى إسكات خلايا الرياضيات إلى شل مهارات الاستنتاج لدى النموذج دون التأثير على قدراته اللغوية العامة. وقد أكد هذا أن الطريقة نجحت في عزل المكونات المحددة المسؤولة عن هذه المهارات. في المقابل، عندما استخدموا طرقاً قديمة وأقل دقة لاختيار الخلايا العصبية المراد إسكاتها، كان الضرر واسع النطاق، مما أضر بأداء النموذج بشكل عام بدلاً من استهداف مهارة واحدة فقط.

كان أحد أهم الاكتشافات هو الفرق بين نوعين رئيسيين من الخلايا العصبية داخل هذه النماذج. وجد الباحثون أن الخلايا العصبية المسؤولة عن الاستنتاج الرياضي والبرمجة كانت متخصصة للغاية ونادراً ما تتشارك بين المهام. ومع ذلك، فإن الخلايا العصبية المشاركة في "الانتباه" (Attention) — وهو الجزء الذي يقرر أي الكلمات يجب التركيز عليها — كانت أكثر عمومية. بدت خلايا الانتباه هذه كأدوات قابلة لإعادة الاستخدام تساعد النموذج في كل شيء تقريباً، من كتابة الشعر إلى حل المعادلات. يوضح هذا التمييز لماذا يسهل تقليم أو تعديل بعض أجزاء النموذج دون غيرها؛ فالأجزاء المتخصصة تشبه الأدوات المخصصة في ورشة عمل، بينما أجزاء الانتباه تشبه الأيدي التي تمسك بتلك الأدوات.

اكتشف الباحثون أيضاً أن طريقتهم كانت فعالة للغاية. فبينما كانت التقنيات السابقة تتطلب من الحاسوب إجراء حسابات تعادل تشغيل النموذج مائة وأربعة وأربعين مرة فقط لتصنيف الخلايا العصبية، تطلبت الطريقة الجديدة أقل من تشغيل كامل واحد. هذه السرعة تجعل من الممكن تحليل وتدقيق نماذج أكبر بكثير من ذي قبل. كما يعني هذا أنه في المستقبل، يمكن للمطورين استخدام هذه التقنية لضبط النماذج بدقة، وإزالة السلوكيات غير المرغوب فيها أو تعزيز مهارات معينة دون الحاجة إلى إعادة تدريب النظام بالكامل من الصفر.

كما بحثت الدراسة في كيفية سلوك هذه الخلايا العصبية المتخصصة عندما يُطلب من النموذج القيام بشيء مختلف قليلاً عما تدرب عليه. فعندما اختبر الباحثون النموذج على مسائل رياضية جديدة لم يسبق له رؤيتها، لا تزال الخلايا العصبية التي حددتها RACE تسبب انخفاضاً كبيراً في الأداء عند إسكاتها. وهذا يشير إلى أن الطريقة تجد الآليات الأساسية للمهارة، وليس مجرد نمط محفوظ لمجموعة محددة من الأسئلة. إن قدرة النموذج على تعميم معرفته تعتمد على هذه الخلايا العصبية المستقرة نفسها.

ولعل الاكتشاف الأكثر دقة كان قدرة النموذج على استخدام خيارات أسلوبية محددة، مثل كتابة كود بايثون يستخدم نوعاً معيناً من هياكل القوائم. قام الباحثون بتدريب النظام على التعرف على هذا الأسلوب المحدد ثم أسكتوا الخلايا العصبية المقابلة له. وكانت النتيجة نموذجاً لا يزال بإمكانه كتابة الكود، لكنه توقف تماماً عن استخدام ذلك الأسلوب المحدد، رغم أنه لا يزال بإمكانه كتابة كود صحيح بطرق أخرى. هذا المستوى من الدقة يشير إلى أن الطريقة يمكنها عزل سلوكيات ضيقة جداً، مما يوفر وسيلة لتوجيه مخرجات النموذج بدقة جراحية.

يقر الباحثون بأن طريقتهم ليست حلاً مثالياً لكل المشكلات. فقد وجدوا أنها تعمل بشكل أفضل في الأجزاء التي تعالج المعلومات بطريقة مباشرة وتراكمية، لكنها أقل فعالية في رسم خرائط التفاعلات الأكثر تعقيداً وتداخلاً التي تحدث في آليات الانتباه. كما أشاروا إلى أن الطريقة تعتمد على الأنماط الخطية، مما يعني أنها قد تغفل بعض الطرق الأكثر تعقيداً وغير الخطية التي تعمل بها الخلايا العصبية معاً. ومع ذلك، بالنسبة لغالبية المهام التي اختبروها، وفر النهج طريقة واضحة وموثوقة وسريعة لفهم ما يفعله النموذج.

يمثل هذا العمل خطوة مهمة للأمام في مجال "التفسير الآلي" (Mechanistic Interpretability)، الذي يهدف إلى فتح "الصندوق الأسود" للذكاء الاصطناعي. فمن خلال توفير طريقة لتحديد وعزل مكونات وظيفية محددة داخل هذه الأنظمة الضخمة، منح الباحثون أنفسهم مجموعة جديدة من الأدوات لفهم وتصحيح وتحسين هذه التكنولوجيا التي تشكل عالمنا بشكل متزايد. إن القدرة على تحديد الأجزاء المسؤولة بدقة عن مهارة معينة تعني أننا يمكننا تجاوز مرحلة التخمين والبدء في اتخاذ قرارات مدروسة حول كيفية بناء هذه الأنظمة وكيفية استخدامها. لم يعد المسار المتبع هو محاولة فهم المدينة بأكملة دفعة واحدة، بل أصبح يتعلق بالقدرة على السير في شارع محدد ومعرفة ما يحدث هناك بالضبط.