💻 computer science

Multibit neural inference in a N-ary crossbar architecture

تقدم هذه الورقة إطار عمل للمحاكاة لبنيات المصفوفات المتقاطعة (crossbar) من النوع N-ary باستخدام الوصلات النفقية المغناطيسية متعددة الحالات لاستعراض الاستدلال العصبي متعدد البتات عالي الكفاءة في استهلاك الطاقة، محققةً دقة بنسبة 94.48% في مجموعة بيانات MNIST مع تحديد تكميم الأوزان كمصدر رئيسي للخطأ وتحديد العدد الأمثل لحالات الخلايا لتقليل إجمالي خطأ ضرب المصفوفات في المتجهات.

المؤلفون الأصليون: Anatole Moureaux, Anthony Lopes Temporao, Flavio Abreu Araujo

نُشر 2026-05-01

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Anatole Moureaux, Anthony Lopes Temporao, Flavio Abreu Araujo

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن الكمبيوتر التقليدي هو أمين مكتبة مشغول يضطر للركض ذهاباً وإياباً بين الرفوف (الذاكرة) والمكتب (المعالج) للبحث عن الكتب وقراءتها. في كل مرة يتحرك فيها أمين المكتبة، فإنه يهدر الطاقة والوقت. هذه هي "عنق زجاجة فون نيومان" (von Neumann bottleneck) التي تبطئ الذكاء الاصطناعي الحديث.

تقترح هذه الورقة البحثية طريقة جديدة للقيام بالأمور: الحوسبة داخل الذاكرة (In-Memory Computing - IMC). بدلاً من الركض ذهاباً وإياباً، تخيل أن أمين المكتبة هو نفسه رف الكتب. أنت تطرح سؤالاً، والكتب نفسها تعيد ترتيب صفحاتها لتعطيك الإجابة فوراً. هذا أسرع بكثير ويستهلك طاقة أقل.

إليك تفصيل بسيط لما قام به الباحثون وما وجدوه، باستخدام تشبيهات من الحياة اليومية:

1. "الشبكة السحرية" (المصفوفة التقاطعية - The Crossbar)

قام الباحثون ببناء محاكاة لـ مصفوفة تقاطعية (crossbar array). تخيل هذه المصفوفة كشبكة ضخمة من المفاتيح الصغيرة (مثل لوحة "إكس أو" X-O، لكنها أكبر بكثير).

المفاتيح: كل تقاطع في الشبكة هو مفتاح مغناطيسي صغير يسمى وصلة نفق مغناطيسية (MTJ).
الخدعة: على عكس مفتاح الضوء العادي الذي يكون إما "يعمل" أو "لا يعمل" (حالتان)، يمكن ضبط هذه المفاتيح لتكون لها 4 مستويات مختلفة من المقاومة (مثل مفتاح خافت للإضاءة يحتوي على 4 إعدادات للسطوع).
الرياضيات: عندما ترسل إشارة كهربائية (جهد كهربائي) إلى الشبكة، تقوم المفاتيح بعملية الحساب لك بشكل طبيعي. فهي تضرب المدخل في "مقاومتها" وتجمع النتائج، تماماً مثل الآلة الحاسبة، ولكن باستخدام الفيزياء بدلاً من رقائق السيليكون.

2. مشكلة "المترجم"

هناك عقبة؛ فالكمبيوترات تتحدث اللغة الرقمية (0 و 1)، لكن هذه الشبكة تتحدث اللغة التناظرية (تيار كهربائي سلس ومستمر).

الحل: ابتكر الفريق إطار عمل "مترجم". لقد توصلوا إلى وصفة رياضية بسيطة للنظر في الكهرباء الخارجة من الشبكة وتحويلها مرة أخرى إلى إجابة رقمية.
الفائدة: هذا يعني أن الشبكة يمكنها العمل كـ "مساعد معالج ذكاء اصطناعي" مستقل دون الحاجة لتغيير كيفية عمل بقية الكمبيوتر. الأمر يشبه توصيل آلة حاسبة خاصة بجهاز اللابت الخاص بك بحيث تعمل مباشرة.

3. الاختبارات: XOR و MNIST

اختبروا هذا النظام عبر مهمتين:

لغز XOR: وهي لعبة منطقية بسيطة حيث يجب على الكمبيوتر أن يقرر ما إذا كان المدخلان مختلفين. حلت الشبكة هذه اللعبة بشكل مثالي، مطابقةً نتائج الكمبيوتر القياسي.
MNIST (الأرقام المكتوبة بخط اليد): وهي مهمة أصعب حيث يتعرف الكمبيوتر على الأرقام المكتوبة بخط اليد.
- النتيجة: حقق الكمبيوتر القياسي دقة بلغت 97.56%، بينما حققت الشبكة المغناطيسية 94.48%.
- الفجوة: لم يكن الفرق بسبب كون الشبكة "غبية"، بل لأن الشبكة يمكنها الاحتفاظ بـ 4 إعدادات فقط (التكميم - quantization)، بينما يستخدم الكمبيوتر دقة لا نهائية. الأمر يشبه محاولة رسم لوحة بورتريه مفصلة باستخدام 4 ألوان فقط بدلاً من لوحة ألوان كاملة.

4. مصادر "الضجيج"

نظر الباحثون في الأسباب التي تؤدي إلى حدوث أخطاء في هذا النظام:

خطأ "البكسلة" (التكميم): هذا هو المتهم الرئيسي. نظرًا لأن المفاتيح لديها 4 إعدادات فقط، فإن الرياضيات ليست دقيقة تماماً. كلما زاد عدد الإعدادات، أصبحت الإجابة أقل "بكسلة".
الخطأ "المنهجي": تخيل لو أن كل مفتاح في الشبكة منحني قليلاً بنفس الطريقة. يحدث هذا إذا كانت عملية التصنيع تحتوي على عيب يؤثر على الدفعة بأكملها. وهذا أمر سيء جداً للدقة.
الخطأ "العشوائي": تخيل أن كل مفتاح منحني قليلاً بشكل مختلف بسبب الحرارة العشوائية أو اختلافات التصنيع الدقيقة. ومن المثير للدهشة أن هذا الخطأ أقل ضرراً. لماذا؟ لأنه عند جمع نتائج مئات المفاتيح، فإن الانحناءات العشوائية تلغي بعضها البعض (مثل حشد من الناس يسيرون في اتجاهات مختلفة قليلاً، لكنهم في النهاية يتحركون للأمام معاً).

5. الرقم "المثالي" للحالات

سأل الفريق: "كم عدد الإعدادات (الحالات) التي يجب أن يمتلكها كل مفتاح؟"

قليل جداً: ستكون الرياضيات "مبكسلة" للغاية (خطأ تكميم عالٍ).
كثير جداً: إذا وضعت الكثير من الإعدادات داخل مفتاح صغير جداً، فإن الفرق بينها يصبح صغيراً جداً لدرجة أن الضجيج العشوائي (الحرارة) قد يطمسها، مما يجعل المفتاح غير موثوق.
النتيجة: هناك عدد مثالي. في بيئة مليئة بالضجيج، من الأفضل فعلياً امتلاك عدد أقل من الحالات (مثل 4)، لأنها تكون أكثر تميزاً وسهولة في القراءة. أما في بيئة هادئة ومثالية، فيمكنك امتلاك حالات أكثر لدقة أفضل.

الملخص

تثبت هذه الورقة أن استخدام المفاتيح المغناطيسية ذات 4 حالات متميزة هو وسيلة قوية للقيام بحسابات الذكاء الاصط์ناعي. ورغم أنها ليست مثالية تماماً مثل الكمبيوتر القياسي بعد (بسبب "بكسلة" وجود 4 إعدادات فقط)، إلا أنها تقترب جداً منها (94% مقابل 97%).

الدرس المستفاد هو أن الأخطاء العشوائية يمكن السيطرة عليها لأنها تلغي بعضها البعض، ولكن الأخطاء المنهجية (العيوب التي تؤثر على كل شيء بالتساوي) خطيرة. كما أثبت الباحثون أنك لا تحتاج دائماً إلى مفاتيح أكثر تعقيداً؛ فأحياناً يعمل المفتاح الأبسط بعدد أقل من الحالات بشكل أفضل إذا كانت البيئة "صاخبة" نوعاً ما.

يوفر هذا الإطار للمهندسين مخططاً لبناء رقائق ذكاء اصطناعي مستقبلية تكون أسرع وتستهلك طاقة أقل، من خلال معرفة عدد "الإعدادات" التي يحتاجونها بالضبط ليكونوا أكثر دقة.

1. بيان المشكلة

تواجه بنيات الحوسبة التقليدية من طراز "فون نيومان" قيودًا جوهرية في الكفاءة، وتحديدًا "عنق زجاجة فون نيومان" (حركة البيانات بين الذاكرة ووحدة المعالجة المركزية) و"جدار الذاكرة" (الفجوات في السرعة بين المعالجات والذاكرة). وتتفاقم هذه المشكلات بسبب متطلبات الطاقة وزمن الاستجابة لنماذج الذكاء الاصطناعي الحديثة. وبينما تقدم الحوسبة داخل الذاكرة (IMC) باستخدام مصفوفات الـ crossbar حلاً عبر إجراء عمليات ضرب المصفوفات في المتجهات (MVM) تناظريًا مباشرة داخل الذاكرة، إلا أن عدة تحديات لا تزال قائمة:

الواجهة التناظرية-الرقمية: يؤدي تحويل المدخلات الرقمية إلى إشارات تناظرية (DAC) والمخرجات التناظرية إلى رقمية (ADC) إلى استهلاك كبير للطاقة وأخطاء في التكميم (quantization errors).
العيوب غير المثالية للأجهزة: تعاني الأجهزة الممرستورية (memristive) في العالم الحقيقي (مثل MRAM وRRAM) من أخطاء منهجية (الاختلافات بين جهاز وآخر، وعيوب التصنيع) وضوضاء عشوائية (التقلبات الحرارية).
التكميم (Quantization): يؤدي رسم أوزان الشبكة العصبية كاملة الدقة على حالات المقاومة المحدودة والمتقطعة لخلايا الأجهزة إلى خطأ التكميم، مما يؤدي إلى تدهور دقة الاستدلال.
الافتقار إلى إطار عمل عام: غالبًا ما تربط النهج الحالية بين فيزياء الأجهزة وتدريب الشبكة بشكل وثيق، مما يحد من القدرة على النمطية والتعميم على تطبيقات الأجهزة المختلفة.

2. المنهجية

يقترح المؤلفون إطار محاكاة لبنيات الـ crossbar ذات النظام $N$ -ary (حيث تمتلك الخلايا أكثر من حالتين متميزتين) والتي تسترجع نتائج ضرب المصفوفات في المتجهات (MVM) بأقل قدر من الافتراضات حول الفيزياء الكامنة.

البنية ونموذج الجهاز:
- يحاكي إطار العمل مصفوفة crossbar باستخدام الوصلات النفقية المغناطيسية متعددة الحالات (M2TJs) ذات 4 حالات مقاومة متميزة، بناءً على بيانات من دراسات سابقة [29, 30].
- يتم نمذجة عملية MVM باستخدام قوانين أوم وكيرشوف: حيث تُضرب جهود المدخلات ( $V$ ) في موصلات الخلايا ( $G$ ) لتوليد تيارات، والتي تُجمع لإنتاج جهود المخرجات.
- يفترض إطار العمل ترميزًا خطيًا للمدخلات ومستويات مقاومة متساوية المسافات، مما يسم يسمح باسترجاع نتيجة MVM ( $\tilde{y}$ ) عبر معادلة قياس خطي (المعادلة 13) تُطبق على متجه المخرجات المقاس. وهذا يسمح للـ crossbar بالعمل كمسرع مستقل دون تعديل مسار الاستدلال.
تكميم الأوزان:
- يتم تكميم الأوزان كاملة الدقة إلى $N$ من المستويات متساوية المسافات ( $A_i$ ) لتقليل المسافة المربعة بين الأوزان الأصلية والقيم المكممة (بشكل مشابه لخوارزمية $k$ -means ولكن بمسافات ثابتة).
- يتم تحسين الحالة الأولى ( $A_1$ ) وحجم الخطوة ( $d$ ) باستخدام طريقة تقليل "باول" (Powell minimization method).
نمذجة الخطأ:
- الأخطاء المنهجية: تُنمذج كإزاحة عشوائية مشتركة ( $\sigma_{NL}$ ) تُطبق على جميع الخلايا، لمحاكاة عيوب التصنيع (مثل عدم المحاذاة في الطبقات الفيرومغناطيسية).
- الأخطاء الخاصة بكل خلية: تُنمذج كإزاحات عشوائية مستقلة ( $\sigma_{\perp}$ ) لكل خلية، لمحاكية الضوضاء الحرارية واختلافات الأجهزة.
- خطأ التكميم: تم تحليله عبر تغيير عدد الحالات ( $N$ ) من 1 إلى 64.
الاختبارات المرجعية:
- مهمة XOR: شبكة عصبية بسيطة مكونة من طبقتين تم تدريبها لحل مشكلة XOR للتحقق من قدرات الفصل غير الخطي الأساسية.
- مهمة MNIST: مهمة تصنيف الأرقام القياسية (784 عصبون مدخل، 128 مخفي، 10 مخرج).
- تقليل الأبعاد: تم تطبيق تحليل المكونات الرئيسية (PCA) على مدخلات MNIST لتقليل الأبعاد من 784 إلى 87، لمحاكاة استخدام مصفوفات crossbar أصغر حجمًا.

3. المساهمات الرئيسية

إطار استرجاع معمّم: تطوير طريقة لاستخراج نتائج MVM من مخرجات الـ crossbar التناظرية باستخدام إشارات المدخلات والمخرجات المقاسة فقط، دون الحاجة لدمج فيزياء الأجهزة في حلقة التدريب.
تحليل مصادر الخطأ: عزل وقياس تأثير خطأ التكميم، والعيوب المنهجية غير المثالية، والضوضاء العشوائية الخاصة بالخلية على دقة الاستدلال بشكل منهجي.
إثبات تأثير المتوسط: إثبات أن الضوضاء العشوائية الخاصة بالخلية أقل ضررًا من الأخطاء المنهجية من نفس الحجم، لأن الأخطاء العشوائية تتلاشى عبر المصفوفة، بينما تتراكم الأخطاء المنهجية.
تحديد الحالة المثلى: تحديد العدد الأمثل للحالات لكل خلية ( $N_{opt}$ ) الذي يوازن بين تقليل خطأ التكميم وفقدان دقة مستويات المقاومة في البيئات الصاخبة.
قوانين القياس: تحديد كيفية تغير خطأ MVM مع أبعاد المصفوفة، حيث أظهر أن الخطأ ثابت مع عدد الصفوف ولكنه يتغير مع الجذر التربيعي لعدد الأعمدة.

4. النتائج

استدلال XOR: حققت مصفوفة الـ crossbar المحاكات نتائج مكافئة لخط الأساس البرمجي الرقمي الكامل، مما يؤكد أن الإطار يحافظ على خصائص النموذج المتعلم.
تصنيف MNIST:
- الأساس (Baseline): بلغت دقة البرنامج فقط 97.56%.
- الـ Crossbar (مصفوفة 4×4، 4 حالات): حققت دقة 94.48%. ويُعزى الانخفاض بنسبة 3.08% بشكل أساسي إلى تكميم الأوزان.
- مع استخدام PCA: أدى تقليل أبعاد المدخلات إلى 87 ميزة إلى تحسين خط الأساس البرمجي إلى 98.03% وتحسين استدلال الـ crossbar إلى 95.24%، مما قلص الفجوة بين الأجهزة والبرمجيات إلى 2.79%.
التكميم مقابل عدد الحالات ( $N$ ): اتبع جذر متوسط مربع الخطأ (RMSE) اتجاهًا واضحًا قدره $1/N$ . حيث يقلل زيادة عدد الحالات من خطأ التكميم بشكل كبير، حتى مع قيم $N$ الصغيرة (مثل $N=3$ أو $4$).
تأثير الضوضاء:
- زاد RMSE خطيًا مع كل من مقدار الخطأ المنهجي ( $\sigma_{NL}$ ) والخطأ الخاص بالخلية ( $\sigma_{\perp}$ ).
- ومع ذلك، كان ميل الخطأ الخاص بالخلية أقل حدة بسبب تأثير المتوسط.
الحالات المثلى ( $N_{opt}$ ):
- في البيئات منخفضة الضوضاء، يُفضل عدد أكبر من الحالات ( $N$ ) لتقليل خطأ التكميم.
- في البيئات عالية الضوضاء ( $\sigma_{\perp} > 100 \Omega$ )، ينخفض $N_{opt}$ لأن الدقة بين الحالات تصبح منخفضة جدًا بحيث يصعب التمييز بينها بشكل موثوق.
- والأهم من ذلك، ظل النظام قويًا؛ فحتى مع وجود ضوضاء كبيرة، كان استخدام $N > 4$ حالات مفيدًا في كثير من الأحيان مقارنة بالتنفيذات الثنائية (binary).

5. الأهمية

يوفر هذا العمل جسرًا حاسمًا بين مفاهيم الحوسبة داخل الذاكرة (IMC) النظرية والتطبيق العملي للأجهزة.

التصميم المشترك بين الأجهزة والبرمجيات: يوضح أن الخوارزميات المتخصصة (مثل PCA) يمكن أن تخفف بفعالية من قيود الأجهزة (حجم المصفوفة الصغير)، مما يجعل تقنية الـ crossbar الحالية قابلة للتطبيق في المهام المعقدة.
إرشادات التصميم: يوفر تحديد العدد الأمثل للحالات ( $N_{opt}$ ) المعتمد على مستويات الضوضاء قاعدة تصميم ملموسة لمطوري رقائق الممرستور المستقبلية. وهو يشير إلى أنه في البيئات الصاخبة، قد تكون الحالات الأقل عدداً والأكثر قوة أفضل من الحالات الدقيقة المتعددة.
متانة الأنظمة متعددة البتات: تؤكد النتائج أن مصفوفات الـ crossbar متعددة البتات ( $N$ -ary) تتفوق على المصفوفات الثنائية حتى مع وجود أجهزة غير مثالية، بشرية أن يتم ضبط عدد الحالات وفقًا لملف الضوضاء الخاص بالجهاز.
النمطية: من خلال فصل عملية استرجاع البيانات الخاصة بالأجهزة عن مرحلة التدريب، يسهل الإطار دمج تقنيات ممرستورية متنوعة في مسارات الذكاء الاصطناعي القياسية دون الحاجة لإعادة تدريب الشبكات العصبية.

في الختام، يثبت هذا البحث أن الحوسبة داخل الذاكرة (IMC) متعددة البت هي مسار قابل للتطبيق للاستدلال بالذكاء الاصطناعي الموفر للطاقة، بشرط إدارة استراتيجيات التكميم وخصائص ضوضاء الأجهزة بعناية من خلال الإطار المقترح.