ملخص تقني: التصميم المشترك بين الأجهزة والبرمجيات للحوسبة التناظرية المتكررة القابلة للتوسع وعالية الكفاءة في استهلاك الطاقة

بيان المشكلة

تتطلب تطبيقات الذكاء الاصطناğı تعمل بوضع التشغيل الدائم (Always-on)، مثل المستشعرات البيئية والغرسات الطبية الحيوية، استهلاكاً فائق الانخفاض للطاقة، غالباً ما يكون في نطاق أقل من الميكرووات. وبينما توفر الدوائر التناظرية مساراً لتحقيق هذه الكفاءة، إلا أن التنفيذات التناظرية الحالية تقتصر إلى حد كبير على البنى الأمامية (feedforward). وقد اعتُبر توسيع هذه البنى لتشمل الديناميكيات المتكررة (recurrent dynamics) غير عملي تاريخياً بسبب تراكم الضوضاء التناظرية عبر حلقات التغذية الراجعة الزمنية. علاوة على ذلك، فإن حلول الذكاء الاصطناعي الطرفي الرقمية الحالية (مثل TinyML على المتحكمات الدقيقة) تعمل بمستويات ميلي واط، وهي أعلى بعدة مراتب من مستويات الطاقة التي يمكن أن تحققها دوائر تحت العتبة (subthreshold) التناظرية. هناك نقص في البنى التي تدعم في آن واحد التدريب القابل للتوازي، والذاكرة متعددة الاستقرار، والحوسبة التناظرية، واستهلاك طاقة أقل من الميكرووات.

المنهجية

يقترح المؤلفون نهج تصميم مشترك بين الأجهزة والبرمجيات يرتكز على وحدات الذاكرة ثنائية الاستقرار المتكررة (BMRUs)، وهي فئة من الشبكات العصبية المتكررة (RNNs) تتميز بمخرجات ذات قيم منفصلة وديناميكيات تلاكبية (hysteretic dynamics). تتبع المنهجية ثلاث خطوات رئيسية:

1. إعادة الصياغة الخوارزمية (BMRU في الربع الأول):
   إن صياغة BMRU القياسية، التي تعتمد على مخرجات ثنائية القطب وعتبات تعتمد على المدخلات، لا تتوافق مع الدوائر التناظرية بسيطة أحادية القطب (unipolar) بنمط التيار. لذا قام المؤلفون بإعادة صياغة BMRU إلى BMRU في الربع الأول (FQ BMRU). تعمل هذه النسخة بالكامل بقيم غير سالبة، وتستخدم عتبات ثابتة ($\beta_{lo}, \beta_{hi}$) يتم تعلمها أثناء التدريب ولكنها تظل ثابتة أثناء الاستدلال. تتيح هذه إعادة الصياغة رسم خرائط مباشرة لدوائر نمط التيار أحادية الطرف دون الحاجة إلى أزواج تفاضلية أو مصادر طاقة سالبة، مع الحفاظ على القدرة التعبيرية والقابلية للتدريب للنموذج الأصلي.

2. التنفيذ الدائري:
   تم تصميم دائرة تناظرية مخصصة بنمط التيار فائقة انخفاض الطاقة من المبادئ الأولى لتنفيذ FQ BMRU.

• التشغيل بنمط التيار: يتم تمثيل جميع الإشارات كتيارات، مما يستفيد من العلاقة الأسية بين التيار والجهد (I-V) لترانزستورات MOS في منطقة تحت العتبة لتحقيق ضغط طبيعي للمدى الديناميكي والعمل بمستوى البيكو أمبير.
• تصميم يعتمد على الترانزستورات فقط: تلغي الدائرة المقاومات والمكثفات والمحاثات، مما يحقق تكاملاً متجانساً حقيقياً. كما أن التقارب اللحظي لـ BMRU يلغي الحاجة إلى المكثفات المدمجة في الرقاقة المطلوبة في الشبكات العصبية المتكررة (RNNs) أو نماذج حالة الفضاء (SSMs) التقليدية.
• الرسم المباشر (واحد لواحد): كل معلمة يتم تعلمها ترتبط مباشرة بعنصر محدد في الدائرة. حيث تمثل الأوزان نسب عرض الترانزستور في مرايا التيار، بينما تمثل العتبات والكسب تيارات الانحياز.
• الخلية ثنائية الاستقرار: تتكون الخلية الأساسية من مشغل "شميدت" (Schmitt trigger) بنمط التيار مكون من 9 ترانزستورات ينفذ التلاكبية (hysteresis). وتتميز بقابلية برمجة مستقلة لنقطة التبديل العالية ($I_{thresh}$)، وسعة المخرج ($I_{gain}$)، وعرض التلاكبية ($I_{width}$).

3. خط التحقق:
   يتم تدريب الشبكة بالكامل في البرمجيات باستخدام JAX/Flax. ثم يتم رسم خرائط هذه المعلمات المتعلمة إلى أبعاد الترانزستور وتيارات الانحياز للاستدلال في محاكاة Cadence Spectre على مستوى الترانزستور باستخدام تقنية X-FAB 180 nm CMOS. يعمل هذا النموذج البرمجي عالي الدقة كوكيل للأجهزة الفيزيائية، مما يسمح بإجراء تحليلات واسعة النطاق للضوضاء والطاقة والتي قد تكون مكلفة حاسوبياً عند مستوى الترانزستور.

المساهمات الرئيسية

يدعي الورقة أربع مساهمات رئيسية:

• توافق تام بين الأجهزة والبرمجيات (واحد لواحد): تضمن صياغة FQ BMRU أن كل معلمة متعلمة ترسم خريطة لعنصر دائري واحد قابل للبرمجة. وتؤكد المحاكاة على مستوى الترانزستور وجود توافق شبه مثالي بين تنبؤات البرامج وديناميكيات الدائرة في كل مرحلة إشارة وسيطة.
• الحصانة الهيكلية ضد الضوضاء: تعمل المخرجات ذات القيم المنفصلة لـ BMRU كحاجز هيكلي ضد الضوضاء التناظرية. فعند كل حد خلية، تقوم العتبة التلاكبية بكبح الضوضاء التناظرية المتراكمة بما لا يقل عن 20 ضعفاً، مما يكسر حاجز تراكم الضوضاء الذي منع تاريخياً التكرار التناظري.
• التكرار بتكلفة هامشية منخفضة: يكشف تحليل مقياس الطاقة أن بينما تتوسع طبقات التغذية الأمامية (المتصلة بالكامل) تربيعياً مع أبعاد الحالة، فإن طبقات BMRU المتكررة تتوسع خطياً. وبالتالي، فإن إضافة قدرات المعالجة الزمنية إلى هيكل خلفي تناظري أمامي لا يتطلب سوى تكلفة طاقة هامشية صغيرة تتوسع خطياً.
• التشغيل بأقل من الميكرووات: يحقق قلب الشبكة العصبية المتكررة لنموذج إثبات المفهوم الأدنى استهلاك طاقة يبلغ حوالي 100 نانو واط أثناء الاستدلال المستمر، حيث يعمل بالكامل في نظام تحت العتبة بديناميكيات مستمرة وبدون ساعة (clockless).

النتائج

يتحقق المؤلفون من نهجهم من خلال عدة اختبارات ومحاكاة:

• التعرف على الكلمات المفتاحية (KWS): في مجموعة بيانات Google Speech Commands (تحديداً مهمة "yes" مقابل الآخرين)، يحقق التنفيذ التناظري دقة بنسبة 98.08% في البرمجيات و96.98% في محاكاة مستوى الترانزستور لحالة بُعد $d=16$. وبالنسبة لتكوين $d=4$ الأدنى المستخدم للتحقق من الأجهزة، طابقت تنبؤات الأجهزة تنبؤات البرامج في 49 حالة من أصل 50، حيث حدث التباين الوحيد عند حد قرار التعادل.
• المتانة ضد الضوضاء: يظهر تحليل الضوضاء واسع النطاق عبر اختبارات sMNIST وpMNIST وdKWS أن FQ BMRU يحافظ على الدقة الكاملة عند مستويات الضوضاء التناظرية المقاسة، بينما تفشل الوحدات المتكررة الخطية (LRU) بشكل كارثي. ويظل FQ BMRU متيناً حتى حوالي ضعفي (2$\times$) مقدار الضوضاء التناظرية المقاسة.
• كفاءة الطاقة: عند $d=4$، يستهلك قلب الشبكة العصبية المتكررة حوالي 100 نانو واط. ويظهر تحليل توزيع الطاقة أنه مع زيادة بُعد الحالة، تنخفض المساهمة النسبية للطاقة من الخلايا المتكررة مقارنة بطبقات التغذية الأمامية، مما يؤكد التكلفة الهامشية الخطية للتكرار.
• التعميم: يتعمم النهج على التعرف على الأرقام متعدد الفئات (11 فئة) بدقة تنافسية وهامش فصل مخرجات محسّن، مع البقاء ضمن تقديرات أقل من الميكرووات.

الأهمية والادعاءات

تدعي الورقة أنها تقدم أول تنفيذ كامل للشبكات العصبية المتكررة التناظرية الذي يجمع بين الحصانة الهيكلية ضد الضوضاء والتدريب القابل للتوازي. ومن خلال إثبات أن الديناميكيات التلاكبية ذات القيم المنفصلة يمكن رسم خرائطها لدوائر نمط التيار فائقة انخفاض الطاقة، يجادل المؤلفون بأن حاجز التكرار التناظري قد تم تجاوزه.

تكمن أهمية هذا العمل في قدرته على تمكين الذكاء الاصطناي الطرفي الذي يعمل بوضع التشغيل الدائم مع قدرات المعالجة الزمنية عند مستويات طاقة لم تكن متاحة سابقاً للهياكل المتكررة. ويفترض المؤلفون أن أي منصة تناظرية أمامية (feedforward) حالية أو مستقبلية يمكنها، من حيث المبدأ، اكتساب ذكاء زمني من خلال دمج خلايا BMRU بتكلفة طاقة إضافية ضئيلة. يجسد هذا التصميم المشترك الفجوة بين المتطلبات الخوارزمية للذاكرة المستمرة والقيود الفيزيائية للأجهزة التناظرية تحت العتبة، مما يوفر مساراً للاستدلال المستمر عالي كفاءة الطاقة لتطبيقات مثل المراقبة البيئية أو الغرسات الطبية الحيوية.

يبقى المؤلفون متواضعين فيما يتعلق بالقيود: فالنتائج يتم التحقق منها حالياً عبر المحاكاة على مستوى الترانزستور بتقنية 180 نانومتر CMOS وتنتظر التصنيع الفيزيائي. علاوة على ذلك، بينما يتم تقييم المهام متعددة الفئات والمعقدة في البرمجيات مع نماذج ضوضاء واقعية، فإن التحقق من الأجهزة يركز حالياً على التعرف الثنائي على الكلمات المفتاحية.