Analog Diffusion Models
تقدم هذه الورقة نماذج الانتشار التناظرية (ADMs)، التي تستفيد من وجود توافق في النقطة الثابتة بين ديناميكيات الأجهزة التناظرية والاستدلال الضمني للانتشار لتمكين ذكاء اصطناو توليدي تناظري بالكامل وعالي الكفاءة دون الحاجة إلى إعادة تصميم النموذج أو المساس بالتوافق مع أنظمة التدريب القياسية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالم الذكاء الاصطناعي كمحطة قطارات ضخمة وعالية السرعة. لسنوات، كانت القطارات (نماذج الذكاء الاصطناعي الخاصة بنا) تزداد سرعة وقوة، لكنها أصبحت أيضًا ثقيلة للغاية وتستهلك الكثير من الطاقة. النوع الأكثر شعبية من القطارات حاليًا يسمى "نموذج الانتشار" (diffusion model). فكر في الأمر كأنه نحات يبدأ بكتلة من الرخام الفوضوي والمليء بالضجيج، ثم يقوم بقطع الضجيج تدريجيًا، خطوة بخطوة، حتى تظهر تمثال جميل. وللحصول على ذلك التمثال المثالي، يتعين على النحات القيام بآلاف الحركات الدقيقة والحذرة للنحت. كل حركة تستغرق وقتًا وطاقة، ومع ازدياد حجم التماثيل، تصبح العملية مرهقة لشرائح الكمبيوتر الحالية لدينا، والتي تشبه الآلات الحاسبة الرقمية التي لا يمكنها سوى القيام بشيء واحد في المرة الواحدة وبسرعة كبيرة.
هنا تأتي فكرة "الحوسبة التناظرية" (analog computing). إذا كانت أجهزة الكمبيوتر الرقمية تشبه ساعة رقمية تكتك في ثوانٍ منفصلة ودقيقة، فإن أجهزة الكمبيوتر التناظرية تشبه نهرًا متدفقًا أو بندولاً متأرجحًا. فهي لا تعد الخطوات؛ بل تترك الفيزياء تقوم بالعمل. بدلًا من حساب رقم ما، هي تترك الإشارة تتدفق عبر دائرة حتى تستقر طبيعيًا في حالة مستقرة، تمامًا مثل البندول الذي يستقر في النهاية عند أسفل تأرجحه. لقد أمَل العلماء منذ زمن طويل في استخدام هذه الآلات "المتدفقة" لجعل الذكاء الاصطناعي سريعًا للغاية وفعالًا في استهلاك الطاقة. ومع ذلك، كانت هناك مشكلة مستعصية: خوارزميات الذكاء الاصطناعي صُممت لأسلوب التفكير الخاص بـ "الساعة الرقمية". ومحاولة إجبار هذه الخوارجع على العمل على أجهزة "النهر المتدفق" تعني عادةً إما كسر "عقل" الذكاء الاصطناعي أو استخدام الأجهزة لجزء صغير فقط من المهمة، وترك العمل الشاق لأجهزة الكمبيوتر الرقمية القدة والمستهلكة للطاقة.
يقدم هذا البحث طريقة مبتكرة لسد هذه الفجوة، تسمى نماذج الانتشار التناظرية (ADMs). اكتشف الباحثون، الذين يعملون في Microsoft Research، أن الطريقة التي "ينحت بها" نموذج الانتشار الضجيج تشبه إلى حد كبير الطريقة التي "يستقر" بها نظام تناظري فيزيائي طبيعيًا نحو حالة مستقرة. وبدلًا من إجبار الذكاء الاصطناي على تغيير شخصيته لتناسب الأجهزة، أعادوا تصور خطوات الذكاء الاصطناعي بحيث يمكن للأجهزة القيام بالعمل بشكل طبيعي. لقد اختبروا ذلك على كمبيوتر بصري خاص يستخدم الضوء والكهرباء لأداء الحسابات. وفي تجاربهم، نجح النظام في توليد الصور وأنماط البيانات بالكامل على هذا الجهاز التناظري، حيث استغرقت كل خطوة من العملية ما بين 10 إلى 15 ميكروثانية فقط.
لم يتوقف الفريق عند مجرد النموذج الأولي الصغير. فقد استخدموا "توأمًا رقميًا" (digital twin) — وهو محاكاة حاسوبية دقيقة للغاية لأجهزتهم — لاختبار كيف سيعمل هذا المفهوم على نماذج ذكاء اصطناعي أكبر بكثير، بما في ذلك بعض النماذج التي تحتوي على مليارات المعلمات (parameters). تشير هذه المحاكاة إلى أن هذا النهج قد يكون نقطة تحول. فباستخدام طريقة "الاستقرار" هذه، قد يحتاج الذكاء الاصطناعي إلى 16 ضعفًا أقل من الخطوات لإنشاء صورة عالية الجودة مقارنة بالطرق القياسية. وبالرغم من أن كل خطوة من هذه الخطوات الجديدة تتطلب بعض حلقات "الاستقرار" الداخلية، إلا أن إجمالي العمل ينخفض بشكل كبير. ويشير الباحثون إلى أنه إذا تم توسيع نطاق هذه التكنولوجيا لاستخدام الأجهزة المستقبلية المصغرة، فقد توفر وفورات هائلة في الطاقة، مما يجعل الجيل القادم من الذكاء الاصطناعي أكثر استدامة دون الحاجة إلى إعادة ابتكار الخوارزميات التي نحبها بالفعل.
الفكرة الجوهرية: ترك الفيزياء تقوم بعملية النحت
لفهم سبب أهمية هذا الأمر، دعونا ننظر إلى كيفية عمل عملية "النحت" عادةً. في الذكاء الاصطناعي الرقمي القياسي، يحسب الكمبيوتر خطوة واحدة، ثم يتوقف، ويحفظ النتيجة، ثم يحسب الخطوة التالية، وهكذا. إنه يشبه روبوتًا يتعين عليه التوقف، والتفكير، ثم تحريك ذراعه مقابل كل قطعة رخام يزيلها. هذا بطيء ويستهلك الكثير من الكهرباء.
أدرك الباحثون أن الرياضيات "الضمنية" المستخدمة في بعض نماذج الذكاء الاصطناعي المتقدمة هي في الواقع مشكلة "نقطة ثابتة" (fixed-point problem). وباللغة البسيطة، يعني هذا العثور على نقطة إذا طبقت عليها قاعدة ما، ستعود إلى نفس النقطة تمامًا. إنه يشبه كرة تتدحرج أسفل تلة؛ تستمر في الحركة حتى تصل إلى القاع وتتوقف. بمجرد وصولها إلى القاع، فإن تطبيق قاعدة "تدحرج للأسفل" لن يغير أي شيء لأنها موجودة هناك بالفعل.
سحر هذا البحث هو أن الأجهزة التناظرية تقوم بهذا الأمر بشكل طبيعي. فعندما ترسل إشارة عبر حلقة من الضوء والإلكترونيات، فهي لا تعد الخطوات؛ بل تتدفق ببساطة حتى تستقر. أدرك المؤلفون أنه إذا قاموا بإعداد نموذج الذكاء الاصطناعي الخاص بهم بشكل صحيح، فإن "استقرار" الضوء والكهرباء هو الخطوة التي يتخذها الذكاء الاصطناعي. لا تحتاج الأجهزة إلى أن تُؤمر بالتوقف بعد عملية حسابية واحدة؛ فهي تجد الإجابة طبيعيًا من خلال الوصول إلى حالة التوازن.
التجربة: الضوء، المرايا، والـ Micro-LEDs
لإثبات نجاح ذلك، بنى الفريق آلة فيزيائية تسمى الكمبيوتر البصري التناظري (AOC). تخيل متاهة تقنية صغيرة مصنوعة من الضوء:
- مصدر الضوء: استخدموا مصفوفات من الأضواء الصغيرة (micro-LEDs) لتمثيل البيانات.
- الأوزان (Weights): استخدموا مرايا خاصة تسمى معدلات الضوء المكانية (SLMs) التي يمكنها تغيير مقدار انعكاس الضوء. تعمل هذه المرايا كـ "عقل" الذكاء الاصطناعي، حيث تحفظ الأوزان (المعرفة) الخاصة بالنموذج.
- الحلقة: ينتقل الضوء من الـ LEDs، ويصطدم بالمرايا، ثم يتم تجميعه بواسطة المستشعرات، وبعد ذلك يتم تغذية النتيجة مرة أخرى في النظام.
هذا يخلق حلقة تغذية راجعة. يستمر النظام في ضبط نفسه حتى يستقر نمط الضوء. يحدث هذا الاستقرار في لمح البصر — وتحديدًا، في 10 إلى 15 ميكروثانية لكل خطوة.
لقد اختبروا ذلك على عدة مهام مختلفة:
- الأشكال ثنائية الأبعاد: طلبوا من الآلة توليد أنماط بسيطة ثنائية الأبعاد مثل القلوب والنجوم والحروف. نجحت الأجهزة في القيام بذلك، وأنتجت أشكالًا تطابق محاكاتهم الرقمية بشكل شبه مثالي.
- توليد الفضاء الكامن (Latent Space Generation): استخدموا تقنية تسمى "الانتشار الكامن" (وهي الطريقة التي تعمل بها مولدات الصور الحديثة مثل DALL-E أو Stable Diffusion). قاموا بتشغيل العملية التكرارية بالكامل على الأجهزة التناظرية واستخدموا الكمبيوتر الرقمي فقط للخطوة الأخيرة لتحويل النتيجة إلى صورة. وقد نجحوا في توليد صور للأرقام المكتوبة بخط اليد (MNIST)، والمنتجات (FashionMNIST)، والحروف (EMNIST).
الصورة الكبيرة: المحاكاة والتوسع
الآلة الفيزيائية التي بنوها صغيرة، حيث تحتوي على 2,304 وزنًا قابلًا للبرمجة. وهذا عدد ضئيل جدًا مقارنة بنماذج الذكاء الاصطناعي الحديثة، التي يمكن أن تحتوي على مليارات الأوزان. إذًا، كيف نعرف أن هذا سينجح مع النماذج الكبيرة؟
أنشأ الباحثون "توأمًا رقميًا" (DT). وهي محاكة حاسوبية تحاكي السلوك الدقيق والضجيج والخصائص الفريدة لأجهزتهم الفيزيائية. قاموا بتدريب نماذج ذكاء اصطناعي قياسية على أجهزة كمبيوتر رقمية عادية، لكنهم أخبروا هذه النماذج بأن تتوقع "الضجيج" وسلوك الآلة التناظرية. ثم قاموا بتشغيل هذه النماذج عبر التوأم الرقمي لمعرفة كيفية أدائها إذا كانت تعمل فعليًا على الأجهزة المعتمدة على الضوء.
لقد اختبروا ذلك على:
- الشبكات العصبية الالتفافية (U-Nets)
- محولات الانتشار (Diffusion Transformers - DiT)
- نماذج ضخمة تصل إلى 13 مليار معلمة (مثل نموذج FLUX.1).
كانت النتائج واعدة. في هذه المحاكاة، استطاعت "نماذج الانتشار التناظرية" (ADMs) تحقيق نفس جودة الصور التي تحققها الطرق الرقمية القياسية ولكن مع 16 ضعفًا أقل من خطوات الانتشار.
على سبيل المثال، في مجموعة بيانات صور الفراشات، احتاجت الطريقة القياسية إلى 128 خطوة للحصول على صورة جيدة. بينما احتاجت الطريقة التناظرية إلى 8 خطوات فقط للحصول على جودة مماثلة. وبالرغم من أن كل خطوة من هذه الخطوات الثماني تطلبت بعض حلقات "الاستقرار" الداخلية (iterations)، إلا أن إجمالي العمل كان لا يزال أقل بكثير.
لماذا يهم هذا (وما ليس كذلك)
يشير البحث إلى مسار جديد للمستقبل. بدلًا من محاولة إجبار خوارزميات الذكاء الاصطناعي على التكيف مع قيود الأجهزة الجديدة (والذي غالبًا ما يؤدي إلى تعطل الذكاء الاصطناعي)، قاموا بمواءمة الفيزياء الطبيعية للأجهزة مع احتياجات الخوارزمية.
ما لا يدعي هذا البحث القيام به:
- لا يقول إن هذا منتج نهائي يمكنك شراؤه اليوم. فالأجهزة لا تزال نموذجًا أوليًا.
- لا يدعي أنه حل مشكلة الطاقة لجميع أنواع الذكاء الاصطناعي بعد. توفير الطاقة هو "تقديري" بناءً على المحاكاة والكفاءة المعروفة للحوسبة البصرية.
- لا يقول إن كل نماذج الذكاء الاصطناعي ستعمل بشكل أفضل بهذه الطريقة. ففي بعض الاختبارات المحددة (مثل مجموعة بيانات AFHQ باستخدام نموذج DiT)، واجهت الطريقة الأساسية صعوبة، لكن نسخة أكثر تقدمًا تسمى "Implicit-CN" (Crank-Nicolson) قد عالجت المشكلة.
مستوى الثقة:
يتسم المؤلفون بالحذر الشديد في لغتهم. لقد أثبتوا المفهوم على الأجهزة الصغيرة. وقد أظهروا أن نتائج الفضاء ثنائي الأبعاد والفضاء الكامن تطابق التوأم الرقمي. وهم يقترحون أن نتائج التوسع (للنماذج ذات المليارات من المعلمات) من المرجح جدًا أن تكون صحيحة لأن الرياضيات تدعم ذلك، لكن تلك النتائج واسعة النطاق هي حاليًا محاكاة وليست تجارب فيزيائية على آلة بمليارات الأوزان.
خارطة الطريق المستقبلية
يرسم البحث خارطة طريق للمستقبل. الأجهزة الحالية بحجم شريحة صغيرة. ويقترح المؤلفون أنه من خلال تكديس هذه الأنظمة البصرية في ثلاثة أبعاد (باستخدام البعد الثالث لتوجيه الضوء، بدلًا من مجرد التوجيه عبر سطح مسطح)، يمكنهم التوسع إلى 100 مليون وزن ضمن حجم لا يتجاوز سنتيمترًا مكعبًا.
إذا حدث هذا التوسع، وإذا أمكن جعل الأجهزة تعمل بسرعات جيجاهرتز (وهي أسرع بكما من سرعات الميجاهرتز الحالية)، فقد تكون كفاءة الطاقة أفضل بمائة مرة من شرائح الكمبيوتر الرقمية الحالية في جزء الحساب الفعلي. وحتى عند إضافة تكلفة الخطوة الرقمية النهائية لتحويل النتيجة إلى صورة، يمكن للنظام الإجمالي أن يكون أكثر كفاءة بـ 26 ضعفًا من الطرق الحالية.
باختصار، يشير هذا البحث إلى أنه من خلال الاستماع إلى فيزياء الضوء والكهرباء، وجعل الذكاء الاصطناعي "يستقر" طبيعيًا بدلًا من إجباره على العد، قد نتمكن أخيرًا من فتح أبواب توفير الطاقة الهائل الذي وعدت به الحوسبة التناظرية لعقود. إنه تحول من "جعل الخوارزمية تناسب الآلة" إلى "ترك الآلة تفعل ما تبرع فيه".
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.