Wavelength-Division-Multiplexed Photonic Tensor Core Using Nonvolatile and Volatile Weighting with a General Matrix-Multiply Compiler
تقدم هذه الورقة تصميم وتصنيع وعرضاً تجريبياً لنواة تنسورية فوتونية متعددة الإرسال بتقسيم الطول الموجي، تدمج كلاً من ذاكرة تغيير الطور غير المتطايرة والوزن الحراري البصري المتطاير، مدعومة بمترجم مخصص، لتحقيق ضرب مصفوفات عالي الكفاءة بأداء متوقع يصل إلى 8.75 تريليون عملية في الثانية و3.04 تريليون عملية في الثانية لكل واط.
المؤلفون الأصليون:Xiaoxuan Ma, Nicola Peserico, Ahmed Khaled, Zhimu Guo, Safayat Chowdhury Nirjon, Jiawei Meng, Hamed Dalir, Bhavin J. Shastri, Volker J. Sorger
في العالم الحديث، أصبح الذكاء الاصطناعي قوة مؤثرة، تقود كل شيء من التشخيص الطبي إلى المركبات ذاتية القيادة. ومع ذلك، فإن هذا الذكاء يأتي بثمن باهظ: فالرقائق الحاسوبية الضخمة التي تشغل هذه الأنظمة بدأت تصطدم بالحدود الفيزيائية. لقد أصبحت كبيرة جدًا، وبطيئة جدًا، وتستهلك طاقة هائلة لدرجة تعجز معها عن مواكبة الطلب المتزايد على الحسابات المعقدة. ولحل هذه المشكلة، يتطلع العلماء نحو الضوء. فبدلاً من استخدام الكهرباء لنقل المعلومات عبر أسلاك السيليكون، كما تفعل الحواسيب التقليدية، يستكشف الباحثون طرقاً لاستخدام الفوتونات، أو جسيمات الضوء، لإجراء الحسابات. يمكن للضوء أن ينتقل بسرعة أكبر ويحمل بيانات أكثر بحرارة أقل، مما يوفر مساراً محتملاً لآلات تكون سريعة للغاية وفعالة بشكل ملحوظ في آن واحد. وقد كان التحدي يكمن في بناء رقاقة لا تكتفي بتوجيه الضوء فحسب، بل تستخدمه أيضاً لإجراء العمليات الرياضية النوعية والضخمة التي يتطلبها الذكاء الاصطناعي، والمعروفة بضرب المصفوفات، دون فقدان الدقة أو الاستقرار.
لقد اتخذ فريق من الباحثين الآن خطوة كبيرة للأمام من خلال تصميم واختبار نوع جديد من الرقائق الحاسوبية التي تستخدم الضوء لإجراء هذه الحسابات الأساسية. فقد ابتكروا جهازاً يسمى "النواة الفوتونية الموترة" (photonic tensor core)، والذي يعمل كمحرك متخصص للعمليات الرياضية الكامنة وراء الذكاء الاصطناعي. قام الفريق ببناء نسختين مختلفتين من هذا المحرك لمعرفة كيفية تعاملهما مع أنواع مختلفة من المهام. تستخدم إحدى النسخ مادة خاصة يمكنها تخزين المعلومات بشكل دائم دون الحاجة إلى طاقة، تماماً مثل الذاكرة الرقمية التي لا تنسى أبداً. أما النسخة الأخرى، فتستخدم نظاماً قابلاً للتعديل بسرعة يمكنه تغيير إعداداته في لمح البصر، مما يسمح له بالتكيف بسرعة مع البيانات الجديدة. وتعتمد كلتا النسختين على تقنية تسمى "تعدد الإرسال بتقسيم الطول الموجي"، والتي تسمح للرقاقة بإرسال تدفقات متعددة من البيانات في وقت واحد باستخدام ألوان مختلفة من الض light، تماماً كما يمتلك الطريق السريع مسارات متعددة لحمل حركة مرور أكثر مما يمكن لطريق واحد استيعابه.
نجح الباحثون في بناء هذه الرقائق واختبارها لمعرفة مدى جودة أدائها في مهام العالم الحقيقي. ووجدوا أن النسخة التي تستخدم المادة الدائمة كانت موفرة للطاقة بشكل استثنائي، حيث تستهلك طاقة ضئيلة جداً للحفاظ على إعداداتها، مما يجعلها مثالية للأجهزة التي تحتاج إلى العمل لفترات طويلة ببطارية واحدة. أما النسخة القابلة للتعديل، فرغم استهلاكها طاقة أكبر قليلاً لتغيير إعداداتها، إلا أنها قدمت دقة أعلى ويمكن إعادة تكوينها بسرعة، مما يجعلها الأنسب للمهام التي تتطلب تحديثات مستمرة. ولإثبات نجاح النظام، استخدم الفريق هذه التقنية لمعالجة الصور؛ حيث طلبوا من الرقاقة تحديد الحواف في صورة ما، ودمج وجه مع قناع رقمي، وهي مهام أساسية لكيفية "رؤية" الحواسيب للعالم وفهمه. وقد نفذت الرقاقة هذه العمليات بمعدل خطأ منخفض جداً، حيث أتمت بنجاح الحسابات التي قد تتطلب عادةً معالجاً إلكترونياً أكبر بكثير وأكثر استهلاكاً للطاقة.
ولضمان قدرة النظام على التعامل مع الرياضيات المعقدة اللازمة لنماذج الذكاء الاصطناعي الأكبر، طور الباحثون أيضاً أداة برمجية خاصة. تعمل هذه الأداة كمترجم، حيث تقوم بتفكيك المشكلات الرياضية الضخمة والمعقدة إلى أجزاء أصغر يمكن للرقاقة الفيزيائية التعامل معها. وقد اختبروا هذا المزيج من الأجهزة والبرامج من خلال محاكاة كيفية التعرف على الأرقام المكتوبة بخط اليد، وهو اختبار كلاسيكي للذكاء الاصطناعي. وأظهرت النتائج أنه بينما كان النظام القائم على الضوء أقل دقة بقليل من الحاسوب الإلكتروني القياسي عند التعامل مع الأجزاء الأكثر تعقيداً من الرياضيات، إلا أنه كان متفوقاً بمراحل من حيث السرعة واستهلاك الطاقة. ويقدر الباحثون أنه إذا قاموا بتوسيع نطاق تصميمهم إلى حجم أكبر، فيمكن للنظام إجراء مليارات الحسابات في الثانية مع استخدام جزء ضئيل من الطاقة التي تتطلبها التكنولوجيا الحالية.
يبرهن هذا العمل على إمكانية بناء نظام معياري حيث يمكن دمج أنواع مختلفة من المعالجات الضوئية لتناسب احتياجات محددة. وقد أظهر الفريق أنه من خلال استخدام الضوء للقيام بالمهام الرياضية الشاقة، يمكنهم إنشاء نظام ليس فقط أسرع، بل أيضاً أكثر دمجاً وكفاءة في استهلاك الطاقة مما هو متاح حالياً. وبينما يعد النموذج الأولي الحالي مجرد إثبات لمفهوم صغير، فإن المبادئ التي استعرضوها تشير إلى مستقبل يمكن فيه تشغيل الذكاء الاصطناعي على أجهزة صغيرة محمولة دون الحاجة إلى مراكز بيانات ضخمة. ويعتقد الباحثون أنه من خلال الاستمرار في تطوير هذه الرقائق الضوئية ودمجها مع الأنظمة الإلكترونية الموجودة، يمكنهم فتح الباب أمام جيل جديد من التكنولوجيا القادرة على معالجة المعلومات بسرعة الضوء، مما يجلب الذكاء الاصطناعي القوي إلى حافة الشبكة حيث تشتد الحاجة إليه.
ملخص تقني: قلب تينسور فوتوني يعمل بتقسيم طول الموجة (WDM) باستخدام أوزان غير متطايرة ومتطايرة
بيان المشكلة
مع توسع نماذج الذكاء الاصطناعي لتصل إلى مئات المليارات من المعلمات، تواجه الإلكترونيات الرقمية قيودًا في قابلية توسع الترانزستور وكفاءة الطاقة، حيث تكافح لتلبية متطلبات الإنتاجية المتزايدة للاستخدام المتنامي للرموز (tokens). وبينما تتقدم الوصلات البينية الضوئية نحو البصريات المدمجة مع الحزمة أو القريبة منها، لا تزال هناك حاجة لتحديد ما إذا كانت الدوائر الفوتونية المتكاملة (PICs) يمكن أن توفر فوائد حوسبية لعمليات التينسور، والتي تشكل جزءًا كبيرًا من أعباء عمل نماذج المحولات (transformers). غالبًا ما تستهدف نوى التينسور الفوتونية (PTCs) مهام محددة (الاستنتاج أو التدريب) أو تستخدم تقنيات معزولة (إما مواد تغيير الطور غير المتطايرة أو معدلات حرارية بصرية نشطة) دون بنية موحدة ومثبتة تجريبيًا تدعم كلا نظامي الأوزان، والتراكم على الشريحة، ومترجم مخصص لضرب المصفوفات العام.
المنهجية
قام المؤلفون بتصميم، وتصنيع، وتغليف، واستعراض بنية نمطية لنواة تينسور فوتونية تعمل بتقسيم طول الموجة (WDM). يستخدم النظام شريحة فوتونية سيليكونية مدرجة القدرة حيث تقوم مصفوفة من الليزرات بتشفير قيم المتجهات المدخلة، والتي يتم دمجها وتوزيعها على وحدات PTC.
يركز البحث على تنفيذين مختلفين للأجهزة لآلية الوزن ضمن نفس بنية WDM:
الوزن غير المتطاير (P-RAM): استخدام مادة تغيير الطور (GSSe) لإنشاء ذاكرة وصول عشوائي فوتونية (P-RAM). يستفيد هذا التنفيذ من الحالات غير المتبلورة والمتبلورة للمادة لتوفير وزن سلبي فائق انخفاض استهلاك الطاقة، وهو مناسب للحوسبة الطرفية ومعلمات النماذج التي يتم تحديثها بشكل غير متكرر. يقوم الجهاز بتشفير أوزان متعددة المستويات (تم إثبات دقة 2-بت/4 مستويات) عبر تعديل الشدة.
الوزن المتطاير/النشط (Thermo-optic MZI): استخدام مقاييس تداخل ماخ-زيندر (MZIs) مع سخانات مدمجة لعمليات مصفوفة قابلة لإعادة التشكيل السريع. يستهدف هذا التنفيذ مهام التدريب أو الاستنتاج الديناميكي، مما يوفر نسب إخماد عالية (>20 ديسيبل) وإعادة تشكيل عالية السرعة.
المكونات الرئيسية للنظام:
تعدد الإرسال/تعدد الاستقبال (WDM): تقوم حلقات ميكروية (microrings) سلبية الإضافة والتقليل بتوزيع وإعادة دمج قنوات طول موجي متعددة (مثل 1548.1، 1550.2، 1551.5 نانومتر).
التراكم: تعتمد البنية على كواشف ضوئية للقيام بعملية التراكم (الجمع) لعمليات الضرب والجمع (MAC). تقارن الدراسة بين تكوينين: أحدهما يحتوي على ثنائيات ضوئية مدمجة على الشريحة للتراكم، والآخر يستخدم ثنائيات ضوئية خارجية.
مترجم ضرب المصفوفات العام (GeMM): تم تطوير مترجم مخصص لتقسيم المصفوفات الكبيرة إلى مصفوفات فرعية متوافقة مع الأبعاد الفيزيائية للنماذج الأولية المصنعة لـ PTC (على سبيل المثال 3×3). يسمح هذا للنظام بالتعامل مع معالجة الصور ومهام الشبكات العصبية الأكبر عن طريق خفض عينات المدخلات مكانيًا.
المساهمات الرئيسية
تنفيذ منفصل لتقنيات الوزن: تقدم الورقة عرضًا تجريبيًا لبنية PTC نمطية تعتمد على WDM، تم التحقق من صحتها عبر كل من تنفيذات الوزن الفيزيائية غير المتطايرة (GSSe PCM) والنشطة (MZI). ومن الجدير بالذكر أنه تم تنفيذ وتقييم هاتين التقنيتين بشكل منفصل بدلاً من دمجهما في مسار بصري واحد.
تنفيذ مزدوج الوضع: نجح المؤلفون في تصنيع وتوصيف وحدتي PTC متميزتين: إحداهما تستخدم PCM/P-RAM للتخزين غير المتطاير (تم تقييمها بالتراكم الخارجي)، والأخرى تستخدم MZIs الحرارية البصرية للوزن النشط (تم تقييمها بالتراكم الداخلي والخارجي).
المحاكاة المدركة للأجهزة: تقدم الدراسة سير عمل حيث يقوم مترجم GeMM بتقسيم المهام، وتُستخدم خرائط نقل MZI المقاسة تجريبيًا لمحاكاة الاستنتاج المدرك للأجهزة، مع مراعاة العيوب الواقعية مثل الضوضاء وحدود الدقة.
التكامل على مستوى النظام: يدمز العمل توازي الإشارات عبر WDM، ومخططات وزن السعة القوية، والتصميم النمطي القابل للتوسع الخطي في منصة واحدة، متجاوزًا مجرد عروض الأجهزة المعزولة.
النتائج
أداء P-RAM غير المتطاير: أظهرت وحدة PCM ترميز أوزان بـ 4 مستويات (دقة 2-بت) مع استهلاك طاقة فائق الانخفاض. عبر 10,000 عملية MAC، حققت الوحدة متوسط خطأ قدره 0.0016 وانحراف معياري قدره 0.019.
أداء MZI النشط: حقق تنفيذ MZI الحراري البصري نسبة إخماد تزيد عن 20 ديسيبل. كشفت المعايرة باستخدام خرائط القدرة عن دقة تقارب 6 بت مكافئة (ENOB) لمخطط الوزن. وفرت الثنائيات الضوئية المدمجة استجابة أقرب إلى الحالة المثالية مقارنة بالإدخال البصري، مما قلل من الضوضاء وعدم الاستقرار.
معالجة الصور: استُخدمت PTC القائمة على MZI لإجراء كشف الحواف وتكوين صور الواقع المعزز (AR) لشعار جامعة جورج واشنطن.
حقق كشف الحواف معدل خطأ تجريبي قدره 3.41% (مقارنة بـ 1.1% في المحاكاة المدركة للأجهزة).
حقق إنشاء قناع الواقع المعزز (دمج وجه وقناع) معدل خطأ قدره 0.3%.
استنتاج تعلم الآلة: باستخدام مجموعة بيانات MNIST، قارن المؤلفون بين وحدة معالجة رسومات (GPU) إلكترونية بالكامل، وPTC فوتونية بالكامل، ونهج هجين.
حقق النهج الهجين (PTC لطبقات الالتفاف، وGPU للعمليات غير الخطية والطبقات كاملة الاتصال) أفضل معامل جدارة (FOM)، حيث حسن الأداء بأكثر من 100% مقارنة بالحلول الأخرى.
أظهر النهج الفوتوني الكامل انخفاضات طفيفة في الدقة في الطبقات كاملة الاتصال بسبب العيوب الفيزيائية للأجهزة، لكنه قدم مكاسب كبيرة في زمن الوصول وكفاءة الطاقة للعمليات الخطية.
توقعات التوسع: تحت افتراضات التوسع، يُقدر أن تنفيذ 9×9 سيصل إلى 8.75 تيرا عملية في الثانية (TOPS)، و 3.04 TOPS/W، بما في ذلك أعباء تحويل البيانات.
الأهمية والادعاءات
تدعي الورقة أن هذا العمل يسد الفجوة بين نماذج الحوسبة الفوتونية النظرية والتنفيذ العملي على مستوى النظام. من خلال إثبات بنية نمطية تدعم الوزن المتطاير وغير المتطاير (الذي تم تقييمه بشكل منفصل)، يوضح المؤلفون أنه يمكن تكييف نوى التينسور الفوتونية لتناسب تطبيقات مختلفة (الاستنتاج الطرفي مقابل تدريب مراكز البيانات).
تكمكن الأهمية من القدرة على إجراء عمليات الضرب والجمع الخطية بالكامل على الشريحة بكفاءة طاقة عالية وزمن وصول منخفض، وتجنب تكاليف الطاقة الناتجة عن الانتقال بين المجال البصري والإلكتروني. ويفترض المؤلفون أن هذه التكنولوجيا تتيح "الحوسبة الطرفية القصوى" وتدعم تطبيقات الثورة الصناعية الرابعة من خلال تقديم حلول مدمجة وعالية الإنتاجية في البيئات المقيدة بالحجم والوزن والمساحة والطاقة (SWAP).
يظل المؤلفون متواضعين بشأن القيود الحالية، مشيرين إلى أن النموذج الأولي 3×3 محدود بـ 0.32 TOPS، وأن تحسينات الدقة الموضحة تعتمد على بنيات هجينة حيث تظل العمليات غير الخطية إلكترونية. كما يقرون بأن العمل المستقبلي يتطلب دمج العمليات غير الخطية وعمليات التجميع (pooling) بصريًا لإطلاق الإمكانات الكاملة لـ PTCs، وأن النشر العملي سيتطلب استقرارًا حراريًا وضبطًا نشطًا للرنانات الحلقية الميكروية.