غالبًا ما تُوصف أنظمة الذكاء الاصطناعي الحديثة، ولا سيما تلك التي تولد نصوصًا تشبه النصوص البشرية، بأنها "صناديق سوداء". فنحن نعرف ما يدخل إليها وما يخرج منها، لكن الآلية الداخلية التي تحول مطالبة بسيطة إلى إجابة معقدة تظل غامضة إلى حد كبير. هذا النقص في الشفافية يجعل من الصعب فهم سبب فشل هذه الأنظمة أحيانًا أو تصرفها بشكل غير متوقع. ولحل هذه المعضلة، ظهر مجال دراسي يُعرف باسم "التفسير الآلي" (mechanistic interpretability). فبدلاً من معاملة الشبكة العصبية كوحدة واحدة منيعة، يحاول الباحثون في هذا المجال عكس هندسة النظام عبر تفكيكه إلى أصغر أجزائه العاملة. إنهم يبحثون عن أنماط نشاط محددة وقابلة لإعادة الاستخدام — مثل الدوائر المتميزة في جهاز كمبيوتر — والتي تؤدي مهامًا معينة. ومن خلال رسم خرائط لهذه المسارات الداخلية، يأمل العلماء في تجاوز مرحلة التخمين والوصول بدلاً من ذلك إلى تحديد الجزء المسؤول بالضبط من هذا الهيكل الشبيه بالدماغ عن أفكار أو كلمات محددة، وهي قدرة ضرورية لضمان بقاء هذه الأدوات القوية آمنة ومتوافقة مع القيم البشرية.

في دراسة جديدة، طور باحث يُدعى ياش براجاباتي من جامعة غانديناغار في الهند طريقة لتتبع كيفية تشكل هذه الدوائر الداخلية وكيفية تفاعلها عند تعطيل أجزاء من النظام. يركز العمل على نوع محدد من التعرف على الأنماط داخل النماذج اللغوية الكبيرة، حيث يتعلم النظام التنبؤ بالكلمة التالية في تسلسل بناءً على نمط رآه من قبل. أراد الباحث ليس فقط فهم وجود هذه الأنماط، بل تحديد متى تظهر بالضبط خلال عملية التدريب وكيف يحمي النظام نفسه إذا تضررت الآلية الأساسية المسؤولة عنها. وللقيام بذلك، حلل الفريق نقاط فحص ما قبل التدريب باستخدام إطار عمل سمح لهم بفحص تطور النموذج خطوة بخطوة، وتحديد اللحظة الدقيقة التي تتحول فيها الآلية الداخلية من حالة الارتباك إلى حالة من الوظيفة الواضحة والمنظمة.

قام الباحثون بتقييم نقاط فحص المحولات (transformer checkpoints) عبر 50,000 خطوة تحسين، مراقبين الحالة الداخلية للنموذج على فترات منتظمة. ووجدوا أنه خلال الخطوات بضعة آلاف الأولى، كانت قدرة النموذج على التعرف على هذه الأنماط ضعيفة ومتناثرة عبر أجزاء مختلفة من النظام. ومع ذلك، حول علامة الـ 5,000 خطوة، حدث تغيير دراماتيكي؛ حيث مر النموذج بـ "انتقال طوري" مفاجئ، حيث أصبحت القدرة على إكمال الأنماط حادة ومحددة فورًا. قبل هذه النقطة، كان انتباه النموذج مشتتًا، حيث كان يوزع تركيزه على نطاق واسع. أما بعد هذه النقطة، فقد انهار التركيز في مسارات قليلة محددة وعالية الكفاءة. لم يكن هذا تحسنًا بطيئًا وتدريجيًا، بل كان إعادة تنظيم سريعة للهيكل الداخلي للنظام، مما يشير إلى أن النموذج لا يتحسن قليلاً بمرور الوقت فحسب، بل يخضع لتحول هيكلي جوهري لاكتساب قدرات جديدة.

ولاختبار مدى قوة هذه الدوائر الجديدة، أجرى الباحثون سلسلة من التجارب حيث قاموا بتعطيل الأجزاء الأساسية من النظام المسؤولة عن إكمال هذه الأنماط مؤقتًا. فعلوا ذلك عن طريق إيقاف تشغيل المكونات المحددة التي كانت تقوم بالعمل الشاق ومراقبة ما سيحدث. في نظام أقل مرونة، يؤدي إيقاف المحرك الرئيسي إلى فشل العملية بأكملها. ومع ذلك، في هذه النماذج المدربة، لم ينهار النظام؛ بل تدخلت أجزاء أخرى، كانت هادئة سابقًا، لتولي المهمة على الفور. وقد قاس الباحثون هذه القدرة على إعادة توجيه المعلومات ووجدوا أنه كلما تدرب النموذج لفترة أطول، زادت قدرته على التعويض عن الضرر. وبحلول نهاية عملية التدريب، طور النظام مسارات احتياطية فعالة للغاية لدرجة أن تعطيل الدائرة الأساسية تسبب في حد من الاضطراب في المخرجات النهائية.

لهذا الاكتشاف تداعيات كبيرة على كيفية ضمان سلامة الذكاء الاصطناعي. فهناك أمل شائع في أبحاث السلامة بأنه إذا تعلم النموذج شيئًا خطيرًا أو غير مرغوب فيه، يمكننا ببساطة إزالة الجزء المحدد من النظام المسؤول عنه، مما يؤدي فعليًا إلى "إلغاء تعلم" السلوك السيئ. ومع ذلك، تشير النتائج إلى أن هذا النهج قد يكون غير كافٍ؛ نظرًا لأن النظام يبني مثل هذا التكرار القوي، فإن إزالة جزء واحد لا يوقف السلوك بالضرورة، بل يقوم النموذج ببساğu إعادة توجيه المهمة إلى مجموعة مختلفة من المكونات. وقد وصف الباحثون هذه المرونة باستخدام مقياس جديد للاستقرار، أظهر أن النماذج المدربة جيدًا بارعة بشكل ملحوظ في الحفاظ على وظيفتها حتى عندما يتم تجريد دوائرها الأساسية. وهذا يعني أن تدخلات السلامة يجب أن تكون أكثر شمولاً من مجرد استهداف مكون واحد، حيث أن النظام مصمم للتكيف والحفاظ على منطقه الداخلي.

كما رسمت الدراسة بدقة مكان وجود هذه الدوائر الحرجة داخل بنية النموذج. وبينما كانت المسؤولية عن المهام منتشرة في بداية التدريب، وجد الباحثون أنه بمجرد نضوج النموذج، تركز العمل في طبقات محددة تقع في القسم الأوسط إلى المتأخر من الشبكة. يشير هذا التركيز إلى أن النموذج تعلم تنظيم معالجته في خط إنتاج انسيابي، حيث تتدفق المعلومات عبر قناة مخصصة بدلاً من التجول عبر النظام بأكمله. ومن خلال تتبع هذه التغييرات، قدم الباحثون صورة واضحة لكيفية تطور نموذج تعلم الآلة من مجموعة فوضوية من الأوزان إلى محرك منظم وفعال قادر على التفكير المعقد.

في النهاية، يقدم هذا العمل طريقة جديدة لمراجعة العمليات الداخلية للذكاء الاصطناعي. فمن خلال الجمع بين التقنيات التي تتبع تدفق المعلومات والأساليب التي تختبر رد فعل النظام تجاه الضرر، أنشأ الباحثون مجموعة أدوات لفهم ليس فقط ما يفعله النموذج، بل كيف يفعله وكيف يحمي وظائفه. إن القدرة على رؤية اللحظة الدقيقة لتشكل الدائرة وقياس مدى قدرة النظام على إعادة التوجيه حول جزء مكسور توفر أساسًا ملموسًا لبناء ذكاء اصطناعي أكثر أمانًا وشفافية. إنها تنقل النقاش من المخاوف المجردة بشأن الغموض إلى فهم دقيق للعمليات الميكانيكية التي تقود هذه الأنظمة، مما يوفر مسارًا لضمان أنه مع زيادة قوة هذه النماذج، تظل هياكلها الداخلية مفهومة وقابلة للتحكم.