⚛️ high-energy experiments

Dissecting Jet-Tagger Through Mechanistic Interpretability

تطبق هذه الورقة تقنيات التفسير الآلي على نموذج "بارتيكل ترانسفورمر" (Particle Transformer) لتصنيف الكوارك العلوي، كاشفةً أن دائرة مكونة من ست رؤوس متفرقة تحاكي بفعالية أداء النموذج الكامل عبر استخدام تمثيل قائم على مسبب الارتباط الطاقي لتحديد البنية الفرعية ثنائية الرؤوس، مما يثبت أن الانحدار الاشتقاقي يمكنه إعادة اكتشاف سمات ذات معنى فيزيائي في فيزياء النفاثات دون إشراف.

المؤلفون الأصليون: Saurabh Rai, Sanmay Ganguly

نُشر 2026-05-12

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Saurabh Rai, Sanmay Ganguly

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

الصورة الكبيرة: فك شفرة الصندوق الأسود

تخيل أن لديك روبوتًا فائق الذكاء يمكنه النظر إلى رذاذ فوضوي من الجسيمات (يسمى "النفث" أو Jet) من مصادم جسيمات، ويخبرك فورًا ما إذا كان ناتجًا عن كوارك علوي (Top Quark) ثقيل (إشارة) أم عن نفث QCD شائع (ضجيج خلفية). هذا الروبوت دقيق للغاية، ولكن حتى الآن، لم يكن أحد يعرف كيف يتخذ قراره. لقد كان "صندوقًا أسود".

هذه الورقة البحثية تشبه تفكيك ذلك الروبوت لمعرفة أي التروس والأسلاك هي التي تقوم بالعمل فعليًا. لم يكتفِ المؤلفون بالتخمين؛ بل استخدموا مجموعة أدوات خاصة تسمى "القابلية للتفسير الآلية" (Mechanistic Interpretability) للهندسة العكسية لعقل الروبوت. وقد وجدوا أن الروبوت لا يستخدم عقله بالكامل لاتخاذ القرار؛ بل يعتمد في الواقع على فريق صغير ومحدد للغاية مكون من ستة "عصبونات" (تسمى رؤوس الانتباه - attention heads) للقيام بمعظم العمل الشاق.

الشخصيات: النفث والروبوت

النفث (The Jet): فكر في نفث "الكوارك العلوي" كأنه ألعاب نارية انفجرت في الهواء الطلق. فهي تتفكك إلى ثلاث قطع رئيسية (جسيم "W" ثقيل و"كوارك b"). أما نفث الخلفية فهو أشبه بشرارة عشوائية. مهمة الروبوت هي رصد نمط الألعاب النارية هذا.
الروبوت (محول الجسيمات - Particle Transformer): هذا نوع من الذكاء الاصطناعي الذي ينظر إلى كل جسيم في الرذاذ وكيفية ارتباطهم ببعضهم البعض. لديه طبقات من "التفكير" (رؤوس الانتباه) تمرر المعلومات عبر خط مستمر.

الاكتشاف: "الفريق الحلم المكون من ستة أشخاص"

وجد المؤلفون أنه من بين 16 "رأس تفكير" إجمالي لدى الروبوت، هناك ستة رؤوس فقط هي المسؤولة فعليًا عن اكتشاف الكوارك العلوي. إذا قمت بإيقاف تشغيل الرؤوس العشرة الأخرى، فسيظل الروبوت يعمل بشكل مثالي تقريبًا (بنسبة 97.3% من كفاءته السابقة).

لقد رسموا بدقة كيف تتحدث هذه الرؤوس الستة مع بعضها البعض، مما يخلق "دائرة" تشبه سباق التتابع:

المستكشف (المصدر الأساسي): يعمل رأس واحد في البداية كـ "مستكشف". هو لا يبحث عن الانفجار الكبير مباشرة، بل ينظر إلى "ضجيج الخلفية" (الجسيمات الهادئة والضعيفة) لتهيئة المسرح. إنه يشبه حارس الأمن الذي يتفقد المحيط ليعرف بقية الفريق ما هو الوضع "الطبيعي".
الوسطاء (الفريق الأوسط): تعمل ثلاثة رؤوس في المنتصف كرسل. تأخذ سياق "المستكشف" وتبحث تحديدًا عن أزواج من الجسيمات الثقيلة والطاقية. في نفث الكوارك العلوي، يتحلل جسيم "W" إلى كواركين ثقيلين. هذه الرؤوس الوسيطة تشبه المحققين الذين يركزون على هذين الشريكين الثقيلين، متجاهلين بقية الفوضى.
القارئ (المخرج): يأخذ رأس واحد في النهاية جميع التقارير من الوسطاء ويقول: "حسنًا، لقد رأيت النمط. هذا هو الكوارك العلوي".

التشبيه: تخيل قاعة محكمة.

المستكشف هو المحضر الذي يخلي القاعة من المشتتات.
الوسطاء هم المحامون الذين يشيرون تحديدًا إلى "الأسلحة" الثقيلة التي لا يزال منها الدخان (جسيمات تحلل W).
القارئ هو القاضي الذي، بعد سماع الأدلة، يضرب بمطرقته ويعلن الحكم.

لحظة "آها!": الأمر ليس كما تظن

وجد المؤلفون أمرين مفاجئين حول كيفية تفكير الروبوت:

1. "تدوير الأساس" (المترجم)
في البداية، بدا أن الروبوت يتخذ قراره دفعة واحدة في النهاية. لكن المؤلفين أدركوا أن الروبوت قد توصل إلى الإجابة في وقت مبكر جدًا (في الطبقة الأولى من التفكير). الخطوة النهائية لم تكن "إيجاد" الإجابة، بل كانت مجرد ترجمة الإجابة إلى لغة يستطيع القاضي النهائي فهمها.

التشبيه: تخيل أنك تحل مسألة رياضية في ذهنك (الطبقات الأولى). أنت تعرف أن الإجابة هي "42". لكن ورقة الإجابة النهائية لا تقبل إلا الأرقام الرومانية. الخطوة الأخيرة ليست حل المسألة، بل هي مجرد كتابة "XLII" بدلًا من "42". الروبوت كان يترجم أفكاره الخاصة فقط.

2. "كود الغش" (2-Prong مقابل 3-Prong)
كانت المهمة هي العثور على انفجار ثلاثي الأجزاء (الكوارك العلوي). ومع ذلك، اكتشف الروبوت طريقًا مختصرًا. أدرك أن الجزء الأصعب في الانفجار هو العثور على جسيم "W" الثقيل، وهو انفجار ثنائي الأجزاء.

التشبيه: تخيل أنك تحاول تحديد نوع معين من السيارات من خلال عجلاتها الأربع. بدلًا من فحص جميع العجلات الأربع، أدرك الروبوت أنه إذا وجد العجلتين الخلفيتين الثقيلتين، فيمكنه التأكد بنسبة 99% من نوع السيارة. لقد تجاهل التعقيد الثلاثي الكامل وركز على النمط الثنائي الأسهل (تحلل W) لأنه كان الدليل الأكثر موثوقية. لقد "اخترع" الروبوت استراتيجية أبسط لحل مشكلة معقدة.

الأدوات: كيف فعلوا ذلك؟

للعثيد على هذه الأسرار، استخدم المؤلفون بعض الحيل الذكية:

الإزالة الصفرية (Zero Ablation): قاموا بـ "إيقاف تشغيل" رؤوس معينة ليروا ما إذا كان الروبوت سيتعطل. إذا استمر في العمل، فهذا يعني أن ذلك الرأس ليس مهمًا.
تعديل المسار (Path Patching): أخذوا نفثًا "نظيفًا" ونفثًا "مفسدًا"، واستبدلوا أجزاء من تفكير الدماغ بينهما ليروا أي الأجزاء تحمل المعلومات الحاسمة.
الاستقصاء الخطي (Linear Probing): سألوا الروبوت: "ما هي الأشياء الفيزيائية التي تراها؟" ووجدوا أنه يبحث عن أنماط طاقة محددة (مترابطات الطاقة - Energy Correlators) بدلاً من القياسات المعيارية المذكورة في الكتب (N-subjettiness).

الخاتمة

تثبت هذه الورقة أننا نستطيع أخذ ذكاء اصطناعي معقد "صندوق أسود" يُستخدم في الفيزياء عالية الطاقة وفهم كيفية عمله بالضبط. لم يقم الروبوت بمجرد حفظ البيانات؛ بل تعلم استراتيجية فيزيائية منطقية وخطوة بخطوة:

فحص الخلفية.
العثور على الزوج الثقيل ثنائي الأجزاء (بوزون W).
ترجمة هذا الاكتشاف إلى قرار نهائي.

لقننا أننا حتى بدون تعليم صريح في الفيزياء، أعاد الذكاء الاصطناعي اكتشاف طريقة ذكية وفعالة لرصد الكواركات العلوية من خلال التركيز على الدليل الفيزيائي الأكثر وضوحًا.

ملخص تقني: تشريح مصنف النفاثات (Jet-Tagger) عبر التفسير الآلي

بيان المشكلة
تعتمد فيزياء الطاقات العالية (HEP) بشكل كبير على "تصنيف النفاثات" (Jet Tagging)، وهي مهمة تحديد الأصل الأساسي لتتابعات الجسيمات (النفاثات)، مثل التمييز بين كواركات القمة المعززة (boosted top quarks) ونفاثات الـ QCD الخلفية. وبينما حققت بنيات التعلم العميق مثل "محول الجسيمات" (Particle Transformer - ParT) أداءً فائقاً، متجاوزةً الملاحظات المصممة يدوياً، إلا أن عمليات اتخاذ القرار الداخلية لهذه النماذج تظل غامضة. ركزت جهود التفسير الحالية في فيزياء المصادمات بشكل أساسي على الإسناد البعدي (مثل قيم شابلي، وخرائط التدرج/Saliency maps)، أو البنيات القابلة للتفسير بنيوياً. ومع ذلك، لا تقوم هذه الطرق بالهندسة العكسية للدوائر السببية المحددة داخل نموذج "الصندوق الأسود" المدرب، أو توصيف الخطوات الخوارزمية التي تنفذها الشبكة. تعالج هذه الورقة الفجوة من خلال تطبيق كامل مجموعة أدوات "التفسير الآلي" (Mechanistic Interpretability) — التي طُورت أصلاً لنماذج اللغات الطبيعية — على مصنف نفاثات فيزيائي.

المنهجية
قام المؤلفون بتدريب نموذج "محول جسيمات" صغير النطاق (4 طبقات انتباه للجسيمات، 4 رؤوس لكل طبقة، حوالي 1.3 مليون معلمة) على مجموعة فرعية من مجموعة بيانات مرجع "تصنيف كوارك القمة" (الإشارة: $t \to Wb \to q\bar{q}b$ ؛ الخلفية: كواركات خفيفة/غلوونات). يستخدم التحليل مجموعة من تقنيات التدخل والاستقصاء:

الاستئصال الصفري (Zero Ablation): تعيين أوزان قياس رؤوس الانتباه إلى الصفر بشكل منهجي لقياس الأهمية الهيكلية عبر انخفاض الأداء.
رقع المسار (Path Patching): طريقة تدخل سببي حيث يتم نقل تنشيط رأس معين من مدخل "نظيف" إلى مدخل "فاسد" (باستخدام استبدال الجسيمات داخل الدفعة أو تبديل النفاثة). يعزل هذا الأسلوب التأثيرات المباشرة وتأثيرات المسار (تدفق المعلومات) بين الرؤوس.
عدسة اللوجيت (Logit Lens) والمجسات لكل طبقة: تقوم "عدسة اللوجيت" بإسقاط التمثيلات المتوسطة عبر الرأس المدرب النهائي لتقدير معلومات الفئة. ولحل مشكلة عدم محاذاة القاعدة (basis misalignment)، قام المؤلفون بتدريب نماذج انحدار لوجستي منفصلة على تمثيل كل طبقة.
الاستقصاء الخطي (Linear Probing): تدريب نماذج خطية (انحدار ريدج/لوجستي) على تيار المتبقي (residual stream) للتنبؤ بملاحظات البنية التحتية الكلاسيكية للنفاثة (مثل $N$ -subjettiness، ومترابطات الطاقة/Energy Correlators).
استئصال الميزات (Feature Ablation): تصفير ميزات زوجية محددة للمدخلات تجاه طبقة الـ MLP لتحديد التبعيات السببية.

المساهمات والنتائج الرئيسية

تحديد دائرة مكونة من ستة رؤوس متفرقة:
حدد المؤلفون دائرة دنيا مكونة من ستة رؤوس انتباه تستعيد 97.3% من المساحة تحت المنحنى (AUC) للنموذج الكامل. تتفوق هذه الدائرة بشكل كبير على المجموعات الفرعية العشوائية المكونة من ستة رؤوس (النسبة المئوية 96 من خط الأساس العشوائي). وتظهر الدائرة بنية واضحة من المصدر-الناقل-المخرج (source-relay-readout):
- المصدر الأولي ( $L0H1$ ): رأس واحد في الطبقة الأولى يعمل كمحرك سببي رئيسي. يتجه الانتباه فيه نحو الانبعاثات الرخوة والمتلازمة (ارتباطات سالبة مع $\ln k_T$ ، $\ln \Delta$ ، $\ln m^2$ ) ويوفر سياقاً غير مرتبط بالفئة.
- المصدر الثانوي ( $L0H2$ ): رأس موازٍ في الطبقة الأولى يتجه الانتباه فيه نحو الأزواج ذات الكتلة الثابتة العالية.
- رؤوس الناقل (Relay Heads) ( $L1H0, L1H1, L1H3$ ): عنقود من الرؤوس في الطبقة الثانية يتجه الانتباه فيها انتقائياً نحو أزواج الجسيمات ذات الكتلة الثابتة العالية و $k_T$ العالية (التي تميز اضمحلال بوزون $W$ الهادروني). هذه الرؤوس تعتمد شرطياً على رؤوس المصدر في الأعلى.
- رأس المخرج (Readout Head) ( $L3H3$ ): رأس واحد في طبقة الجسيمات النهائية يقوم بتجميع الإشارات المنقولة.
البنية السببية والمتانة:
كشفت عملية "رقع المسار" أن رأس المصدر الأولي ( $L0H1$ ) وحده يستعيد 88.6% من أداء النموذج. كانت أنماط الإشارة لآثار المباشرة قوية عبر استراتيجيتين من فساد البيانات داخل النطاق (استبدال الجسيمات وتبديل النفاثة). لاحظ المؤلفون أن استراتيجيات الفساد خارج النطاق (Gaussian) غير متوافقة هيكلياً مع صياغات درجة استعادة النتائج القياسية على هذه المجموعة ذات النطاق الحركي الضيق، لأنها تدفع النموذج إلى نظام لوجيت ثابت وقوي السلبية.
حل نقطة "الالتزام" (Commitment):
أشار تحليل "عدسة اللوجيت" القياسي إلى أن النموذج يلتزم بقرار التصنيف فقط عند كتلة انتباه الفئة الأولى ($Cls0 $)، حيث يظهر قفزة دراماتيكية في الـ AUC من 0.111 إلى 0.973. ومع ذلك، كشفت **المجسات المدربة لكل طبقة** أن معلومات الفئة المتاحة خطياً تصل إلى التشبع عند **AUC$ \approx $0.97** في وقت مبكر كما في أول طبقة انتباه للجسيمات ($ L1$). ويخلص المؤلفون إلى أن كتلة انتباه الفئة تقوم بعملية تدوير للقاعدة (basis rotation)، حيث تعيد توجيه الإشارة الكامنة من قاعدة انتباه الجسيمات إلى قاعدة رأس التصنيف، بدلاً من حساب معلومات جديدة.
المحتوى الفيزيائي للتمثيلات:
كشف الاستقصاء الخطي لتيار المتبقي مقابل الملاحظات الكلاسيكية عن نتيجتين حرجتين:
1. تفضيل مترابط الطاقة (Energy Correlator): يفضل النموذج ترميز قاعدة مترابط الطاقة على قاعدة $N$ -subjettiness، حتى بعد إزالة تأثير الكتلة النفاثية.
2. التفكك الضمني (Implicit Factorization): على الرغم من تدريبه على مهمة تصنيف كوارك القمة ثلاثي الرؤوس (3-prong)، فإن النموذج يشفر ملاحظات ثنائية الرؤوس (2-prong) (تحديداً $D^{(\beta=1)}_2$ ، التي تستهدف اضمحلال بوزون $W$ الهادروني) بقوة أكبر من الملاحظات الصحي رسمياً ثلاثية الرؤوس ( $N^{(\beta=1)}_3$ ). يقوم النموذج بتفكيك مشكلة الـ 3-prong ضمنياً إلى المشكلة الأسهل وهي تحديد البنية التحتية لبوزون $W$ الثقيل.

الأهمية والادعاءات
تدعي الورقة أن طرق التفسير الآلي التي طُورت لنماذج اللغات الطبيعية يمكن نقلها بنجاح إلى مصنفات نفاثات الفيزياء. وتوضح الدراسة أن التدرج الاشتقاقي (gradient descent)، دون إشراف صريح أو قيود بنيوية، يمكنه إعادة اكتشاف هياكل ذات معنى فيزيائي:

ينظم النموذج حساباته ضمنياً حول اضمحلال بوزون $W$ الهادروني (بنية ثنائية الرؤوس) بدلاً من الطبوغرافيا ثلاثية الرؤوس الكاملة.
تبدو دائرة المصدر-الناقل-المخرج التي تم تحديدها كنمط خوارزمي عام لتصنيف الفيزياء، وليس مجرد نتاج لتدريب نماذج اللغات.
يوفر العمل "تفسيراً نظيفاً للمصدر-الناقل-المخرج" لنموذج معقد، متجاوزاً مجرد الإسناد (attribution) إلى فهم سببي لكيفية حساب النموذج لقراره.

يظل المؤلفون متواضعين فيما يتعلق بالتعميم، مشيرين إلى أن دائرة الرؤوس الستة المحددة تم تحديدها في نموذج صغير، وأن النماذج الأكبر قد تمتلك هياكل أغنى. كما يسلطون الضوء على القيود المتعلقة بإمكانية الوصول الخطي للمعلومات (الترميزات غير الخطية قد تكون أقل تقريراً) والاعتماد على بذرة تدريب واحدة للتحليل السببي التفصيلي.