Scalable platform enabling reservoir computing with nanoporous oxide memristors for image recognition and time series prediction
تستعرض هذه الورقة منصة عصبية قابلة للتوسع وموفرة للطاقة للتعرف على الصور والتنبؤ بالسلاسل الزمنية باستخدام ممرستورات (memristors) قائمة على أكسيد النيوبيوم تحتوي على مسام نانوية عشوائية ذاتية تعمل كنظام حوسبة خزان فيزيائي.
المؤلفون الأصليون:Joshua Donald, Ben A. Johnson, Amir Mehrnejat, Alex Gabbitas, Arthur G. T. Coveney, Alexander G. Balanov, Sergey Savel'ev, Pavel Borisov
المؤلفون الأصليون: Joshua Donald, Ben A. Johnson, Amir Mehrnejat, Alex Gabbitas, Arthur G. T. Coveney, Alexander G. Balanov, Sergey Savel'ev, Pavel Borisov
تخيل أنك تحاول تعليم كمبيوتر التعرف على الأنماط، مثل الوجوه أو توقعات الطقس. عادةً، يتطلب هذا أجهزة كمبيوتر عملاقة تستهلك الكثير من الطاقة وتحتاج إلى الاتصال بالإنترنت لكي تعمل. أراد الباحثون في هذه الورقة البحثية بناء "دماغ" صغير وفعال في استهلاك الطاقة مباشرة على شريحة كمبيوتر، يمكنه القيام بهذه المهام دون اتصال بالإنترنت، ودون الحاجة إلى خادم (Server).
إليك كيف فعلوا ذلك، مشروحاً عبر تشبيهات بسيطة:
١. الدماغ "الفوضوي" (الجهاز)
تُبنى معظم شرائح الكمبيوتر بأسلاك متطابقة ومثالية. لكن الدماغ البشري مختلف؛ فهو فوضوي قليلاً، حيث ترتبط مليارات الخلايا العصبية بطرق عشوائية وفريدة.
قام الفريق ببناء جهاز إلكتروني خاص باستخدام أكسيد النيوبيوم (نوع من أكاسيد المعادن). وبدلاً من جعله ناعماً ومثالياً، تعمدوا جعله مسامياً، مثل الإسفنج الذي يحتوي على ثقوب صغيرة وعشوائية.
التشبيه: فكر في هذا الجهاز كأنه إسفنجة مطبخ. إذا سكبت الماء (الكهرباء) على طاولة زجاجية مثالية، فسوف يتدفق في خط مستقيم. ولكن إذا سكبت الماء على إسفنجة، فسيتم احتجاز الماء، وينقسم إلى مسارات صغيرة، ويتخذ مسارات متعرجة وعشوائية عبر الثقوب.
النتيجة: نظرًا لأن الثقوب عشوائية، فإن الكهرباء تسلك مساراً مختلفاً ومعقداً في كل مرة. هذا يخلق "خزاناً" للمعلومات. للجهاز ذاكرة قصيرة المدى: فهو يتذكر المسار الذي سلكته الكهرباء للتو لكسر من الثانية قبل أن ينسى. هذا يحاكي كيف يحتفظ الدماغ الحقيقي بفكرة ما للحظة.
٢. "غرفة الصدى" (الحوسبة الخزانية)
استخدم الباحثون تقنية تسمى الحوسبة الخزانية (Reservoir Computing).
التشبيه: تخيل أنك تصرخ داخل كهف. لست بحاجة لمعرفة الشكل الدقيق لكل صخرة داخل الكهف لتفهم صدى صوتك العائد. أنت فقط تستمع إلى الصدى (المخرج) وتستنتج ما صرخت به بناءً على كيفية ارتداده حولك.
كيف يعمل الأمر: يقومون بتغذية البيانات (مثل صورة أو موجة صوتية) في جهاز "الإسفنجة" الخاص بهم. يقوم الجهاز بتشتيت البيانات عبر مساراته العشوائية. بعد ذلك، ينظر الباحثون فقط إلى "الصدى" (التيار الكهربائي الخارج) ويستخدمون حيلة رياضية بسيطة لمعرفة المدخل الأصلي. هم لا يحتاجون لتدريب الإسفنجة الفوضوية نفسها؛ بل يدربون فقط "المستمع" في النهاية.
٣. ما الذي اختبروه (التحديات)
لإثبات نجاح "دماغ الإسفنجة" الخاص بهم، أعطوه ثلاث مهام مختلفة، تتدرج من السهل إلى الصعب جداً:
لغز المنطق (XOR): طلبوا من الجهاز حل مسألة منطقية بسيطة غالباً ما تواجه أجهزة الكمبيوتر الأساسية صعوبة فيها دون مساعدة إضافية. حل الجهاز المسألة بشكل مثالي.
لعبة الصور (التعرف على الصور): عرضوا على الجهاز صوراً لأرقام (من 0 إلى 9) مكونة من نقاط صغيرة. كان على الجهاز تخمين الرقم الذي يمثله. تعلم الجهاز التعرف على جميع الأرقام العشرة بدقة ١٠٠٪.
توقع الفوضى (الجزء الصعب): كان هذا هو الاختبار الكبير. قاموا بتغذية الجهاز ببيانات من نظام لورينز (Lorenz system)، وهو نموذج رياضي لأنماط الطقس الفوضوية. هذه الأنماط يصعب التنبؤ بها بشكل كبير لأن تغيراً طفيفاً اليوم يؤدي إلى نتيجة مختلفة تماماً غداً.
النتيجة: نجح الجهاز في التنبؤ بما سيفعله النمط الفوضوي تالياً. والأهم من ذلك، عندما اختبروا الجهاز بدون "الإسفنجة" (باستخدام سلك مستقيم فقط)، فشل فشلاً ذريعاً. لقد كانت "الإسفنجة" ضرورية لفهم الفوضى.
٤. لماذا يهم هذا الأمر
تزعم الورقة البحثية أن هذا يمثل خطوة كبيرة نحو الحوسبة القابلة للتوسع على الشريحة.
كفاءة الطاقة: نظرًا لأن الجهاز مصنوع من مواد بسيطة ولا يحتاج إلى مزارع خوادم ضخمة، فإنه يستهلك طاقة قليلة جداً.
القدرة على العمل دون اتصال: يمكنه العمل دون اتصال بالإنترنت، مما يجعله آمناً وسريعاً.
الحوسبة داخل المادة: بدلاً من بناء شبكة معقدة من الأسلاك المنفصلة، تتم عملية الحوسبة داخل المادة نفسها. "العشوائية" في ثقوب الإسفنجة هي ميزة وليست خللاً؛ فهذا ما يجعل الجهاز ذكياً.
باختصار: بنى الفريق شريحة إلكترونية صغيرة تشبه الإسفنجة، تستخدم "فوضويتها" الداخلية لمعالجة البيانات المعقدة. وقد أثبتوا قدرتها على حل الألغاز المنطقية، والتعرف على الصور، والتنبؤ بأنماط الطقس الفوضوية، وكل ذلك بينما هي صغيرة بما يكفي لتوضع على شريحة وفعالة بما يكفي لتعمل ببطارية.
بيان المشكلة تواجه تطبيقات الشبكات العصبية الحالية، لا سيما تلك التي تتعامل مع الإشارات الزمكانية مثل السلاسل الزمنية واللغة، تحديات كبيرة فيما يتعلق بكفاءة الطاقة، وقابلية التوسع في الأجهزة، والحاجة إلى الاتصال بالخادم عبر الإنترنت. توفر الحوسبة الخزانية (Reservoir Computing - RC) بديلاً واعداً من خلال استخدام أوزان عشوائية ثابتة في طبقة خفية لمعالجة البيانات الزمنية بتكاليف تدريب منخفضة، إلا أن تجلياتها الفيزيائية غالباً ما تعاني من صعوبات في التوسع والتعقيد الهيكلي. تعاني النهج الحالية التي تستخدم المغناطيسية، أو الضوئيات، أو مصفوفات الميمريستور القياسية، من محدودية الترابط بين الأجهزة، وضعف قابلية التوسع، وصعوبة إنشاء حالات داخلية عشوائية حقاً وعالية الأبعاد مطلوبة للمهام المعقدة. علاوة على ذلك، لم يتم اختبار العديد من نماذج الحوسبة الخزانية الفيزيائية بدقة مقابل التنبؤ بالسلاسل الزمنية الفوضوية بدون الخزان، كما لم تستغل تماماً إمكانات عدم التجانس الجوهري للمادة في الحوسبة "داخل المادة" (in materia).
المنهجية طوّر المؤلفون منصة حوسبة خزانية فيزيائية قابلة للتوسع تعتمد على ميمريستورات أكسيد النيوبيوم (NbOx) متطايرة ذات عدم تجانس هيكلي جوهري.
تصنيع الجهاز: يتكون قلب النظام من بنية جهاز ذات طبقات رقيقة تضم قطبًا سفليًا من البلاتين مسامي النانو (np-Pt) بسمك 20 نانومتر، وطبقة تبديل من أكسيد النيوبيوم (NbOx) المطعّم بالنيتروجين بسمك 80 نانومتر، وطبقة التصاق من التيتانيوم (Ti) بسمك 3 نانومتر، وأقطاب علوية من البلاتين (Pt) بسمك 120 نانومتر. تم إنشاء مسامية النانو للقطب السفلي عبر الترسيب المستهدف بالليزر (DC magnetron sputtering) للبلاتين في خليط من Ar:O₂ متبوعاً بالتلدين عالي الحرارة. تؤدي هذه العملية إلى إحداث توزيع عشوائي للمسام النانوية (متوسط نصف القطر ~29 نانومتر) التي تنتشر في طبقة الـ NbOx، مما يخلق مسارات توصيل فريدة وغير متطابقة لكل قطب علوي.
آلية الخزان الفيزيائي: يعمل الجهاز كميمريستور متطاير حيث يتم دفع التبديل المقاوم بفعل تسخين جول (Joule heating). تخلق المسامية النانوية الجوهرية مسارات تيار غير خطية وعشوائية، مما يعمل فعلياً كخزان فيزيائي بأوزان داخلية ثابتة وعشوائية وذاكرة باهتة قصيرة المدى (التلاكؤ/Hysteresis).
المهام التجريبية:
مهمة XOR: تم تشفير المدخلات الثنائية المنطقية كنبضات جهد (0 فولت أو 1.75 فولت) لاختبار القدرة على الفصل غير الخطي.
التعرف على الصور: تم تحويل صور ثنائية للأرقام من 0 إلى 9 (بأبعاد 5×3 بكسل) إلى تسلسلات من نبضات الجهد لاختبار التعرف على الأنماط.
تنبؤ لورنز-63 (Lorenz-63): كُلف النظام بالتنبؤ وإعادة بناء السلسلة الزمنية الفوضوية ثلاثية الأبعاد لنظام لورنز-63 (X(t),Y(t),Z(t)). تم تحويل السلاسل الزمنية إلى موجات جهد وتطبيقها بالتتابع على الخزان.
القراءة والتدريب: تم تسجيل استجابات التيار من ثلاث قنوات إخراج نشطة في وقت واحد. شكلت هذه التيارات، جنباً إلى جنب مع جهد المدخلات، متجهاً متسلسلاً استُخدم لتدريب طبقة قراءة خطية (Perceptron بسيط أو انحدار لوجستي) عبر برمجيات خارجية. قاربت الدراسة الأداء مع الخزان (مدخلات الجهد + التيار) مقابل خط أساس بدون الخزان (الجهد فقط).
المساهمات الرئيسية
العشوائية الجوهرية عبر مسامية النانو: يقدم البحث طريقة لإنشاء خزان فيزيائي تكون فيه العشوائية متأصلة في البنية المادية (المسام النانوية) بدلاً من الحاجة إلى توصيلات خارجية معقدة أو مصفوفات شبكية (crossbar arrays). وهذا يسمح بوجود قنوات إخراج متعددة ومتميزة من بصمة جهاز واحدة.
الحوسبة "داخل المادة" (In Materia Computing): يجسد النظام مفهوم الحوسبة "داخل المادة"، حيث تعمل المادة نفسها كوسيط حسابي متوازٍ، على عكس النهج التي تربط أجهزة منفصلة ومتطابقة.
التقييم المرجعي على الأنظمة الفوضوية: قدم المؤلفون تقييماً دقيقاً لخزانهم الفيزيائي مقابل نظام لورنز-63 الفوضوي الصعب، مع مقارنة الأداء صراحةً مع وبدون الخزان لإثبات ضرورة الذاكرة الفيزيائية واللاخطية.
إعادة بناء الموجة: أظهرت الدراسة القدرة على إعادة بناء المكونات المفقودة لنظام فوضوي (مثل التنبؤ بـ Y(t) و Z(t) من X(t)) بدقة عالية، وهي مهمة فشلت أو كان أداؤها ضعيفاً بدون الخزان.
النتائج
مهمة XOR: فشل نظام الطبقة الواحدة البسيط (SLP) في حل مشكلة XOR (دقة 50%). ومع ذلك، حقق نظام الحوسبة الخزانية الفيزيائي دقة 100% في كل من التدريب والاختبار من خلال إسقاط المدخلات في فضاء عالي الأبعاد عبر مخرجات التيار الخاصة بالخزان.
التعرف على الصور: حقق النظام دقة تعرّف بنسبة 100% للأرقام من 0 إلى 9 بعد 14 دورة تدريب باستخدام قناة إخراج واحدة. أظهرت الأرقام ذات الأنماط المتشابهة (مثل 3 و 5) يقيناً أقل مع عدد دورات أقل، ولكن تم حلها مع التدريب الكافي.
تنبؤ لورنز-63:
تفوق الخزان بشكل كبير على خط الأساس غير الخزان. كانت قيم جذر متوسط مربع الخطأ (NRMSE) أقل بكثير عند استخدام بيانات التيار من الخزان.
أفضل قيم NRMSE كانت 1.2×10−2، و 1.5×10−2، و 1.4×10−2 لـ VX(t) و VY(t) و VZ(t) على التوالي، مع نافذة تنبؤ من خطوة واحدة ونافذة ماضية من 100 خطوة.
تم تحديد بارامترات تحويل الجهد المثلى لتكون الإزاحة (V0) بمقدار 0.5 فولت والنطاق (VRange) بمقدار 2.5 فولت، مما يسلط الضوء على مفهوم "التدريب المدرك للفيزياء".
إعادة بناء لورنز-63: نجح النظام في إعادة بناء VY(t) و VZ(t) من VX(t) بدقة عالية. أما إعادة بناء VX(t) و VY(t) من VZ(t) فقد فشلت، وهو ما يتوافق مع الخصائص الرياضية لنظام لورنز (مشاكل التماثل)، مما يؤكد توافق النظام الفيزيائي مع القيود النظرية.
المقارنة: بينما سجل نموذج عددي لخزان ذي 9 مخرجات في أدبيات سابقة قيم NRMSE أقل، أشار المؤلفون إلى أن نظامهم التجريبي ذي الـ 3 مخرجات قد أدى أداءً مرضياً بعدد مخرجات ودورات حسابية أقل، مما يشير إلى مكاسب في الكفاءة.
الأهمية والادعاءات يدعي البحث تقديم منصة قابلة للتوسع وفعالة في استهلاك الطاقة للحوسبة العصبية قادرة على التعامل مع المهام الزمنية المعقدة. ومن خلال الاستفيد من عدم التجانس الهيكلي الجوهري لميمريستورات أكسيد مسامية النانو، يوضح المؤلفون أنه من الممكن إنشاء خزان فيزيائي يحاكي الاتصال العشوائي للأدمغة البيولوجية دون العبء المادي للشبكات التقليدية.
يضع المؤلفون هذا العمل كخطوة نحو "أجهزة متاحة للصناعة ومدمجة على الرقاقة" لتطبيقات مثل التنبؤ بالسلاسل الزمنية ذات الصلة بالصناعة أو التدفقات الجوية المعقدة. ويؤكدون أن النظام يعمل في وضع "غير متصل" (offline)، مما يوفر مزايا في الأمن وزمن الاستجابة (latency). يجمع العمل بين مفاهيم الحوسبة الخزانية القائمة على ميمريستور الأكسيد والحوسبة "داخل المادة"، مثبتاً أن هذه الأنظمة يمكنها تحقيق أداء حسابي يضاهي أنظمة الميمريستور الأكسيدي الأخرى مع الحفاظ على مزايا التوسع التي توفرها الحوسبة القائمة على المادة. يشير المؤلفون بتواضع إلى أن التحسينات المستقبلية في دقة التنبؤ يمكن تحقيقها من خلال زيادة عدد قنوات الإدخال/الإخراج عبر تقنيات الليثوغرافيا، بدلاً من الادعاء بالتفوق الفوري على جميع النماذج العددية الموجودة.