Enabling Low-Latency Machine learning on Radiation-Hard FPGAs with hls4ml
تستعرض هذه الورقة حلاً متكاملاً لنشر تعلم آلي فائق انخفاض زمن التأخير ومقاوم للإشعاع على مصفوفات البوابات المنطقية القابلة للبرمجة (FPGAs) عبر تطوير مشفر تلقائي خفيف الوزن لمكشاف "بيوكال" (PicoCal)، وتنفيذ استراتيجية تكميم مدركة للأجهزة، وتوسيع مكتبة "hls4ml" عبر إضافة خلفية برمجية جديدة لأجهزة "Microchip Polarfire" لتحقيق زمن تأخير قدره 25 نانو ثانية.
المؤلفون الأصليون:Katya Govorkova, Julian Garcia Pardinas, Vladimir Loncar, Victoria Nguyen, Sebastian Schmitt, Marco Pizzichemi, Loris Martinazzoli, Eluned Anne Smith
المؤلفون الأصليون: Katya Govorkova, Julian Garcia Pardinas, Vladimir Loncar, Victoria Nguyen, Sebastian Schmitt, Marco Pizzichemi, Loris Martinazzoli, Eluned Anne Smith
تخيل الكون ككاميرا عملاقة عالية السرعة لا تتوقف عن الالتقاط أبداً. في كل ثانية، تصطدم الذرات ببعضها البعض في مصادمات الجسيمات بسرعة تقترب من سرعة الضوء، مما يخلق عاصفة من الجسيمات الجديدة. المشكلة ليست فقط في كثرة الصور؛ بل في أن الكاميرا تقع وسط عاصفة إشعاعية. في هذه البيئة، تتعرض الإلكترونيات التي تلتقط الصور لقصف مستمر من الأشعة الكونية والجسيمات التي يمكن أن تشوش ذاكرتها، مما يجعلها تنسى ما كانت تفعله، أو للأسوأ، تخترع بيانات وهمية. ولحل هذه المشكلة، يحتاج العلماء إلى طريقة لمعالجة هذه الصور فوراً، في نفس مكان حدوث الانفجار، دون إرسال كل البيانات الخام إلى حاسوب بعيد. إنهم بحاجة إلى "مرشح ذكي" يكون سريعاً بما يكفي لمواكبة الفوضى، وصغيراً بما يكفي ليتسع داخل شريحة ضئيلة، وقوياً بما يكفي للنجاة من الإشعاع دون أن يتأثر. هذا هو تحدي "الحوسبة الطرفية" (edge computing) في فيزياء الطاقات العالية: جعل الآلات تفكر بنفسها في أكثر الأماكن عدائية على وجه الأرض.
تخبرنا هذه الورقة البحثية قصة كيف بنى فريق من العلماء هذا النوع من المرشحات الذكية بالضبط لتجربة مستقبلية تسمى LHCb Upgrade II. لقد عالجوا مشكلة محددة: ستنتج الكواشف الجديدة تدفقاً هائلاً من "أشكال النبضات" (pulse shapes) — وهي خطوط متعرجة تمثل ضربات الطاقة — والتي تكون أكبر من أن تُرسل عبر الأسلاك. احتاج الفريق إلى ضغط هذه الخطوط المتعرجة في حزمة صغيرة جداً دون فقدان التفاصيل المهمة اللازمة لمعرفة ما حدث. لقد ابتكروا نوعاً خاصاً من الذكاء الاصطناعي يسمى "المشفر التلقائي" (autoencoder). فكر في هذا الأمر كفنان ضغط رقمي ينظر إلى خط متعرج معقد مكون من 32 نقطة، ويتعلم وصفه باستخدام رقمين فقط. إنه يشبه أخذ لوحة مفصلة وتلخيص جوهرها في "إيموجي" واحد مثالي لا يزال يخبرك بالضبط عن موضوع اللوحة.
لكن كانت هناك عقبة. فالأدوات القياسية التي يستخدمها العلماء لتحويل نماذج الذكاء الاصطناعي هذه إلى كود برمجي لا تعمل مع الرقائق الخاصة المقاومة للإشعاع المطلوبة لهذه المهمة. هذه الرقائق تختلف عن تلك الموجودة في هاتفك؛ فهي مصممة لتنجو من العاصفة الإشعاعية دون الحاجة إلى "حراس شخصيين" إضافيين (دوائر زائدة) قد يبطئون عملها. اضطر المؤلفون إلى بناء أداة ترجمة جديدة تماماً، "خلفية برمجية" (backend)، لتعليم الذكاء الاصطناعي كيف يتحدث لغة هذه الرقائق القوية. لقد اختبروا فكرتهم باستخدام عمليات المحاكاة ثم بنوها على شريحة حقيقية تسمى Microchip PolarFire. والنتيجة؟ نجح الذكاء الاصطناعي في ضغط البيانات في 25 نانو ثانية فقط (أي 0.000000025 ثانية)، وهو ما يكفي لمواكبة الـ 40 مليون تصادم تحدث كل ثانية.
اكتشف الفريق أيضاً أن "فنان الضغط" الخاص بهم لم يكتفِ بتقليص البيانات فحسب، بل قام بتنظيفها أيضاً. فعندما حاولوا قياس الوقت الدقيق لوصول جسيم ما باستخدام البيانات المضغوطة، كانت النتيجة أكثر دقة مما هي عليه عند استخدام الخطوط المتعرجة الأصلية الفوضوية. وذلك لأن الذكاء الاصطناعي قام بتنعيم السكون والضجيج، ليعمل بمثابة سماعات إلغاء الضجيج لفيزياء الجسيمات. ووجدوا أنه يمكنهم تقليل تعقيد النموذج بشكل كبير، باستخدام أرقام مكونة من 10 بت فقط (كمية صغيرة جداً من الدقة الرقمية) دون فقدان أي معلومات فيزيائية مهمة. وهذا يعني أن النموذج خفيف الوزن لدرجة أنه يمكنه العيش بالكامل داخل "المنطقة الآمنة" للشريحة، محمياً من الإشعاع بفضل تصميم الشريحة نفسه.
تؤكد الورقة أن هذا النهج يعمل، لكنها تضع أيضاً حدوداً واضحة. فقد أظهر الفريق أن طريقة الضغط هذه قابلة للتطبيق في تجربة LHCb، لكنهم لم يدّعوا أنها تحل كل مشكلة في الكون. وقد أشاروا صراحة إلى أنه بينما تعمل طريقتهم مع أشكال النبضات التي قاموا بمحاكاتها، فإن الأداء النهائي قد يتغير قليلاً اعتماداً على النسخة المحددة من "الديجيتالايزر" (المحول الرقمي) المستخدم في التجربة الحقيقية. كما استبعدوا فكرة أن يكون نموذجاً أبسط، يتنبأ بالوقت فقط ويتجاهل الشكل، أفضل حالاً؛ حيث أظهرت اختباراتهم أن الاحتفاظ بمعلومات الشكل، حتى في شكل مضغوط، أمر بالغ الأهمية لرصد الأحداث الغريبة والتعامل مع الظروف المزدحمة داخل المصادم.
في النهاية، هذا العمل هو إثبات للمفهوم. فهو يوضح أنه يمكنك أخذ نموذج تعلم آلي معقد، وتقليصه ليصبح بحجم ضئيل ومقاوم للإشعاع، وجعله يعمل بسرعة فائقة على شريحة يمكنها النجاة من عاصفة نووية. ويؤكد المؤلفون بحذر أنه بينما تبدو التوقيتات والضغط ممتازين في اختباراتهم، فإن الاختبار الحقيقي سيأتي عندما يتم دمج هذا في التحليل الفيزيائي الكامل للتجربة. لقد صنعوا المحرك، لكن السيارة لا تزال بحاجة إلى القيادة على المضمار الحقيقي. ومع ذلك، فإن الجزء الأكثر ديمومة في عملهم قد يكون أداة الترجمة الجديدة التي بنوها. فمن خلال فتح الباب أمام العلماء الآخرين لاستخدام هذه الرقائق القوية في مشاريع الذكاء الاصطناعي الخاصة بهم، فقد قدموا للمجتمع مفتاحاً جديداً لفتح آفاق تجارب أسرع، وأذكى، وأكثر مرونة في المستقبل.
ملخص تقني: تمكين التعلم الآلي منخفض التأخير على مصفوفات البوابات المنطقية القابلة للبرمجة (FPGAs) المقاومة للإشعاع باستخدام hls4ml
بيان المشكلة تواجه تجارب فيزياء الطاقة العالية المستقبلية، وتحديداً مشروع تحديث LHCb المرحلة الثانية (LHCb Upgrade II)، معدلات بيانات غير مسبوقة (تصل إلى 200 تيرابت في الثانية) وظروف تراكم عالٍ للجسيمات (متوسط ~40 تصادماً في كل عبور). ولإدارة ذلك، يجب نقل معالجة البيانات لتكون أقرب إلى الكاشف ("حوسبة الحافة"). ومع ذلك، فإن نشر التعلم الآلي (ML) على إلكترونيات الواجهة الأمامية للكاشف يفرض تحديين رئيسيين:
المقاومة الإشعاعية: تتطلب مصفوفات البوابات المنطقية القابلة للبرمجة التجارية القياسية (المعتمدة على ذاكرة SRAM) تقنية التكرار النمطي الثلاثي (TMR) المعقدة للبقاء في بيئة إشعاع LHC، مما يؤدي إلى استهلاك كبير للموارد. توفر مصفوفات FPGAs المعتمدة على الذاكرة الوميضية (Flash-based) (مثل Microchip PolarFire) مقاومة إشعاعية متأصلة، لكنها كانت تفتقر إلى الدعم في سلسلة أدوات التصنيع عالي المستوى القياسية للتعلم الآلي.
التأخير وعرض النطاق الترددي: يولد الكاشف الكهرومغناطيسي (PicoCal) أشكال نبضات مكونة من 32 عينة لكل قناة. وللحفاظ على معدلات بيانات قابلة للتطبيق بين إلكترونيات الواجهة الأمامية والواجهة الخلفية، يجب ضغط هذه المدخلات الـ 32 في رقمين كحد أقص٠ على الكاشف مع الحفاظ على المعلومات الفيزيائية الحرجة (التوقيت وشكل النبضة).
المنهجية يقدم المؤلفون حلاً شاملاً يجمع بين تصميم الخوارزمية، والتحسين المدرك للأجهزة، وتطوير سلسلة الأدوات:
تصميم الخوارزمية (المشفر التلقائي - Autoencoder): تم تطوير مشفر تلقائي خفيف الوزن لضغط ناقلات النبض المكونة من 32 عينة إلى فضاء كامن ثنائي الأبعاد. تتكون البنية من طبقة كثيفة واحدة كاملة الاتصال تربط 32 مدخلاً بمتغيرين كامنين، متبوعة بوظيفة تنشيط ReLU. يقوم "المفكك" (Decoder) (الذي يُستخدم للتدريب فقط) بمحاكاة هذه البنية لإعادة بناء النبضة. تم تدريب النموذج باستخدام محاكاة مونت كارلو لنبضات PicoCal الخاصة بـ LHCb (الإشارة + الخلفية) باستخدام TensorFlow/Keras.
الكمية المدركة للأجهزة (Hardware-Aware Quantization): خضع النموذج لعملية تكميم (Quantization) منهجية لتحسين التنفيذ على FPGA. تم الإبقاء على المدخلات بنظام النقطة الثابتة 16-بت (<16, 9>)، بينما تم تكميم الأوزان والانحيازات بشكل مكثف إلى نظام النقطة الثابتة 10-بت (<10, 4>). تم تمثيل مخرجات الفضاء الكامن برقمين بنظام 10-بت (<10, 7>). تم اختبار نموذجين للتنفيذ: نموذج "كامل" يستخدم التقريب والحماية من تجاوز السعة (overflow protection)، ونموذج "نانو" يستخدم البتر (truncation) بدون حماية من تجاوز السعة لتقليل الموارد.
تطوير سلسلة الأدوات (الخلفية البرمجية hls4ml): كانت هناك فجوة حرجة في مكتبة hls4ml، التي كانت تدعم سابقاً فقط مصفوفات Xilinx وIntel القائمة على SRAM. طور المؤلفون خلفية برمجية جديدة لترجمة نماذج التعلم الآلي إلى مشاريع التصنيع عالي المستوى (HLS) المتوافقة مع مترجم Microchip SmartHLS. تضمن ذلك إنشاء قوالب C++، وتكييف كود Python لتوليد البيانات، وتنفيذ واجهة بث مع مخازن مؤقتة (FIFO) لمحاكاة الأجهزة والبرمجيات معاً.
الهدف من الأجهزة: تم تصنيع التصميم ليعمل على مصفوفات Microchip PolarFire (الطرازات MPF100T و MPF300TS)، المختارة لبنيتها المعتمدة على الذاكرة الوميضية والمقاومة للإشعاع.
المساهمات الرئيسية
خوارزمية تعلم آلي مُثبتة: إثبات أن المشفر التلقائي (32 إلى 2) يضغط أشكال نبضات الكاشف بفعالية، مع الحفاظ على ذروة السعة، وزمن الصعود، ومعلومات التوقيت الضرورية لإعادة البناء الفيزيائي اللاحق.
استراتيجية التكميم: دراسة منهجية أظهرت أن تقليل الأوزان إلى دقة 10-بت يؤدي إلى فقدان ضئيل في الأداء (خطأ تربيعي متوسط MSE مشابه للدقة الكاملة) مع تقليل التعقيد الحسابي بشكل جذري.
الخلفية البرمجية الجديدة لـ hls4ml: تطوير وإصدار (v1.3.0) لأول خلفية برمجية لـ hls4ml متوافقة مع Microchip SmartHLS، مما يسمح بالنشر الآلي لنماذج التعلم الآلي على مصفوفات FPGas المقاومة للإشعاع والمعتمدة على الذاكرة الوميضية.
النتائج
الأداء الفيزيائي: يحافظ الفضاء الكامن المضغوط على دقة شكل النبضة. عند تطبيق خوارزمية التمييز ذو الجزء الكسري الثابت (CFD) على النبضات المعاد بناؤها، تحسن دقة التوقيت بمقدار ضعفين مقارنة بالنبضات الأصلية (32 عينة) (انخفض الانحراف المعياري من ~62 بيكو ثانية إلى ~30 بيكو ثانية في المحاكاة)، ويُعزى ذلك إلى تأثير إزالة الضجيج الناتج عن المشفر التلقائي.
التأخير والإنتاجية: حقق التصنيع على FPGA من نوع PolarFire زمن تأخير للاستدلال قدره 25 نانو ثانية (4 دورات ساعة عند 160 ميجاهرتز) لنموذج "النانو"، و150 نانو ثانية للنموذج "الكامل". يدعم هذا إنتاجية قدرها 40 ميجاهرتز، مما يلبي متطلبات معدل عبور الحزم في LHCb.
استهلاك الموارد: التصميم خفيف الوزن للغاية. يستهلك نموذج "النانو" حوالي 1.0% من وحدات الـ LUTs و 0.8% من الـ DFFs على جهاز MPF300TS. وحتى عند التوسع إلى 8 قنوات متوازية (المطلوبة لواجهة PicoCal الأمامية)، فسيتم استخدام ~25% فقط من منطق الـ FPGA، مما يترك مساحة واسعة لمنطق التحكم الآخر.
الطاقة: يقدر استهلاك الطاقة بحوالي 0.1 واط (ثابت + ديناميكي) عند 20 درجة مئوية.
التحقق: طابقت نتائج ما بعد التصنيع والاختبارات على الأجهزة في مجموعة تطوير MPF300TS نتائج محاكاة الأجهزة والبرمجيات، مما أكد صحة الخلفية البرمجية الجديدة.
الأهمية والادعاءات يزعم البحث أن هذا العمل يوفر إثباتاً للمبدأ حول جدوى تطبيقات التعلم الآلي فائقة السرعة والمقاومة للإشعاع على مصفوفات FPGAs لتجارب فيزياء الطاقة العالية المستقبلية.
الجدوى: يثبت أن مهام ضغط البيانات المعقدة يمكن تنفيذها عند الكاشف ضمن قيود صارمة للتأخير والموارد دون الحاجة إلى دوائر متكاملة مخصصة (ASICs).
البنية التحتية: يُبرز تطوير الخلفية البرمجية hls4ml-SmartHLS كإسهام هام ومستدام يخفض حاجز الدخول أمام المجتمع العلمي لاستخدام مصفوفات PolarFire المقاومة للإشعاع.
التآزر مع المقاومة الإشعاعية: تسمح الكفاءة القصوى للنموذج بأن يستقر المنطق الأساسي داخل نسيج المنطق المحمي بطبيعته في FPGA، مستفيداً من حصانة ذاكرة التكوين الوميضية ضد تأثيرات الضرب المفرد (SEUs) دون الحاجة إلى مخططات TMR معقدة للخوارزمية نفسها.
يشير المؤلفون إلى أنه بينما يحافظ الضغط على الميزات الفيزيائية الأساسية، فإن التحقق النهائي من مكاسب الأداء الفيزيائي (مثل تجميع الجسيمات المتعادلة) يتطلب التكامل مع خوارزميات إعادة بناء LHCb Upgrade II النهائية، وهو ما تم تحديده كعمل مستقبلي.