Paris: A Decentralized Trained Open-Weight Diffusion Model
تقدم الورقة البحثية "باريس" (Paris)، وهو أول نموذج انتشار مفتوح الأوزان يتم إصداره للعموم وتم تدريبه بالكامل عبر إطار عمل لامركزي يستخدم نماذج خبيرة معزولة وموجهاً ديناميكياً لتحقيق توليد صور عالية الجودة من النصوص دون الحاجة إلى تدرجات متزامنة، مع تقليل المتطلبات من بيانات التدريب والحوسبة بشكل كبير مقارنة بالنماذج المرجعية السابقة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالماً لا يكون فيه إنشاء الفن مجرد عمل عبقري واحد يجلس في مرسمه، بل عن فريق عالمي ضخم من الفنانين يعملون معاً دون الحاجة أبداً للتحدث مع بعضهم البعض. هذا هو جوهر مجال يسمى "نمذجة الانتشار" (diffusion modeling)، وهو نوع من الذكاء الاصطناعي الذي يتعلم إنشاء الصور من خلال البدء بسحابة فوضوية من الضجيج الساكن (static noise) ثم صقلها خطوة بخطوة لتتحول إلى صورة واضحة، تماماً مثل النحات الذي ينحت في الحجر ليكشف عن تمثال. لسنوات، كانت العقبة الأكبر في هذا المجال هي الحاجة إلى "مركز قيادة مركزي". لتدريب هؤلاء الفنانين الأقوياء من الذكاء الاصطناعي، كان على الباحثين عادةً جمع آلاف الحواسيب فائقة السرعة في مكان واحد، متصلة بكابلات باهظة الثمن وعالية السرعة، تعمل جميعها بتناغم تام. إذا تأخر حاسوب واحد، كان على الفريق بأكمله الانتظار. وهذا يعني أن المؤسسات الأكثر ثراءً وتمويلاً فقط هي التي استطاعت بناء أفضل مولدات الصور، مما ترك البقية خارج اللعبة.
إليك "باريس" (Paris)، وهو مشروع جديد من مختبرات "باجل" (Bagel Labs) يطرح سؤالاً جريئاً: ماذا لو لم نكن بحاجة إلى ذلك المركز القيادي المركزي على الإطلاق؟ ماذا لو استطعنا تدريب فنان ذكاء اصطناعي عالمي المستوى عبر السماح لفرق أصغر بالعمل في عزلة تامة، على حواسيبهم الخاصة، وفي دول مختلفة، ثم جمع عملهم معاً في النهاية فقط؟ تقدم الورقة البحثية "باريس" كأول مولد صور يتم إصداره للعامة وتم تدريبه بهذه الطريقة بالكامل، مما يثبت أنك لا تحتاج إلى حاسوب عملاق لصنع صور جميلة. بدلاً من ذلك، يستخدم خدعة ذكية حيث يتم تقسيم الذكاء الاصطناعي إلى فريق من المتخصصين، كل منهم يتعلم أسلوباً مختلفاً، و"مراقب حركة" ذكي يقرر أي متخصص يجب الاستماع إليه عندما تطلب صورة.
الفكرة الكبرى: فريق من العباقي المنعزلين
عادةً ما يكون تدريب ذكاء اصطناعي ضخم مثل محاولة جعل جوقة من 1000 مغنٍ يتناغمون بشكل مثالي. يجب أن يقفوا جميعاً في نفس الغرفة، ويستمعوا إلى قائد الأوركسترا، ويعدلوا أصواتهم فوراً إذا خرج أحدهم عن النغمة. هذا ما يحدث في تدريب الذكاء الاصطناعي التقليدي: آلاف من بطاقات الرسوميات (GPUs) تصرخ باستمرار بتقدمها لبعضها البعض، وتنتظر الجميع ليلحقوا بها قبل الانتقال إلى الخطوة التالية. هذا الأمر مكلف، ويتطلب إنترنت خاص عالي السرعة، ومن المستحيل القيام به بمزيج من الحواسيب القديمة والجديدة.
"باريس" يقلب الطاولة. بدلاً من جوقة واحدة ضخمة، تخيل مجموعة من ثمانية عازفين منفردين، كل منهم محبوس في غرفته العازلة للصوت. هم لا يتحدثون أبداً مع بعضهم البعض، ولا يتشاركون نوتاتهم الموسيقية، ولا ينتظرون انتهاء الآخرين أبداً.
- العازفون المنفردون (الخبراء): يتكون نموذج "باريس" من ثمانية خبراء ذكاء اصطناعي أصغر. كل واحد منهم تدرب على شريحة مختلفة من مكتبة الصور على الإنترنت. قد يتعلم أحدهم فقط عن غروب الشمس، والآخر عن الكلاب، وثالث عن الهندسة المعمارية. هم يتدربون في عزلة تامة، على أي عتاد متاح، حتى لو كان أحدهم على خادم سريع في الولايات المتحدة والآخر على جهاز أبطأ في أوروبا.
- مراقب الحركة (الموجه - The Router): بما أن هؤلاء الخبراء لا يتحدثون أبداً أثناء التدريب، فكيف نعرف أي واحد منهم نستخدم عندما تكتب "كلب جولدن ريتريفر يركض في مرج أخضر"؟ هنا يأتي دور "الموجه". إنه ذكاء اصطناعي صغير وخفيف الوزن يعمل مثل شرطي مرور ذكي. عندما تعطيه أمراً، ينظر إلى نقطة البداية الفوضوية والمشوشة للصورة ويقرر بسرعة: "مهلاً، الخبير رقم 3 هو الأفضل في الكلاب، فلنستخدمه!" أو ربما: "في الواقع، هذا المشهد يحتاج إلى مزيج من الخبير 3 والخبير 5".
كيف يعمل: سحر "عدم التحدث"
تكمن عبقرية "باريس" في كيفية تعامله مع بيانات التدريب. أخذ الباحثون مجموعة بيانات ضخمة تضم 11 مليون صورة واستخدموا أداة ذكية (تسمى DINOv2) لفرزها إلى ثماني مجموعات متميزة بناءً على مظهرها. ثم أرسلوا كل مجموعة إلى خبير مختلف.
- لا يوجد تزامن: في تدريب الذكاء الاصطناعي العادي، يجب على الحواسيب أن تتوقف وتزامن "تدرجاتها" (gradients) (وهي تشبه الملاحظات حول كيفية التحسن) باستمرار. خبراء "باريس" لا يفعلون ذلك. هم فقط يتدربون، ويتدربون، ويتدربون، على وقتهم الخاص، وبسرعتهم الخاصة. قد ينهي أحدهم 100,000 خطوة بينما لا يزال آخر عند 90,000 خطوة. لا يهم.
- وظيفة الموجه: يتم تدريب الموجه بشكل منفصل. يتعلم كيف ينظر إلى صورة مشوشة وضبابية ويخمن أي خبير هو الأنسب لهذا النمط المحدد من الضجيج. إنه يشبه أمين مكتبة يعرف بالضبط أي رف يجب أن يسحب منه الكتاب بناءً على الرائحة الخافتة للكتاب الذي تحمله في يدك.
ما وجدوه: بيانات أقل، طاقة أقل، نفس الجودة
اختبر الفريق "باريس" مقابل الطريقة القديمة و مقابل محاولة لامركزية سابقة. كانت النتائج فعالة بشكل مذهل:
- توفير الموارد: نجح "باريس" في تدريب نموذج عالي الجودة باستخدام 14 ضعفاً أقل من بيانات التدريب (11 مليون صورة بدلاً من 154 مليون) و 16 ضعفاً أقل من أيام الـ GPU (مقدار وقت الكمبيوتر المطلوب) مقارنة بأفضل طريقة لامركزية سابقة.
- مفاجأة "أفضل اثنين": عندما اختبروا كيفية دمج الخبراء، وجدوا شيئاً مثيراً للاهتمام. استخدام الخبير "الأفضل" الوحيد (Top-1) كان جيداً، لكن استخدام أفضل خبيرين (Top-2) وخلط نتائجهما معاً أنتج بالفعل صوراً أفضل.
- خطأ "الفريق الكامل": من المثير للاهتمام أن محاولة استخدام جميع الثمانية خبراء في وقت واحد (Full Ensemble) جعلت الصور أسوأ. يبدو أن وجود أصوات كثيرة جداً تحاول الغناء في وقت واحد يخلق ضجيجاً. تشير الورقة إلى أن كونك انتقائياً هو المفتاح؛ فأنت لا تريد الجوقة بأكملها، بل تريد العازفين المنفردين المناسبين فقط.
لماذا يهم هذا
تخلص الورقة إلى أنك لا تحتاج إلى مركز بيانات بمليارات الدولارات لبناء مولد صور عالمي المستوى. من خلال السماح للحواسيب بالعمل بشكل مستقل والتنسيق بينها في النهاية فقط، يثبت "باريس" أنه يمكن بناء ذكاء اصطناٍ عالي الجودة على "عتاد غير متجانس" (heterogeneous hardware) - أي مزيج من حواسيب مختلفة، أرخص، وموزعة جغرافياً. هذا يفتح الباب أمام الباحثين والشركات الأصغر لتدريب نماذج قوية دون الحاجة إلى البنية التحتية الضخمة والمتزامنة التي كانت بمثابة حارس بوابة هذا المجال حتى الآن.
باختصار، يظهر "باريس" أنه يمكنك بناء تحفة فنية ليس من خلال إجبار الجميع على السير في خطوة واحدة، بل من خلال ترك الجميع يجدون إيقاعهم الخاص ثم جعل قائد أوركسترا ذكي يجمعهم معاً في الوقت المناسب تماماً للتحية الختامية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.