← أحدث الأبحاث
🤖 machine learning

Distributed Training using an Intelligent Network

تقترح هذه الورقة إطار عمل لشبكة ذكية للتدريب الموزع عبر الشبكات واسعة النطاق، يجمع بين البث المتعدد وتجميع مصفوفات البوابات المنطقية القابلة للبرمجة (FPGA) المدمجة مع جداول مزامنة محسنة للتغلب على قيود عرض النطاق الترددي وزمن الاستجابة، مما يؤدي إلى تقليص فجوة الأداء مع التدريب في المواقع المجاورة.

المؤلفون الأصليون: Nihar Shah, Ben Blier

نُشر 2026-08-28✓ Author reviewed ⓘ
📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة
CC BY 4.0

المؤلفون الأصليون: Nihar Shah, Ben Blier

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

أصبحت أقوى نماذج الذكاء الاصطناوي في العالم كبيرة جداً بحيث لا يمكن استيعابها داخل مبنى واحد. يتطلب تدريب هذه الأنظمة آلاف الحواسيب التي تعمل معاً، ولكن القيود المادية المتعلقة بالطاقة والمساحة تعني أن أي مركز بيانات منفرد لم يعد بإمكانه احتواءها جميعاً. بدلاً من ذلك، يتعين على الباحثين توزيع قدراتهم الحوسبية عبر مواقع متعددة، تفصل بينها أحياناً محيطات. وهذا يخلق مشكلة صعبة: تحتاج الحواسيب إلى التواصل مع بعضها البعض باستمرار لتبقى متزامنة، لكن إرسال كميات هائلة من البيانات عبر مسافات طويلة هو أمر بطيء ومكلف. وغالباً ما تكون الوصلات بين هذه المواقع البعيدة ضيقة وغير متساوية، مما يتسبب في بقاء الحواسيب خاملة بينما تنتظر وصول المعلومات. وإذا لم تتمكن الحواسيب من مشاركة تقدمها بسرعة، فإن عملية التدريب بأكملها تتباطأ، مما يهدر وقتاً وطاقة ثمينين.

اقترح فريق من الباحثين من مؤسسة "دبل زيرو" (DoubleZero Foundation) طريقة جديدة لحل هذه العقبة عن طريق تحويل الشبكة نفسها إلى مساعد نشط. فبدلاً من معاملة اتصال الإنترنت كأنبوب سلبي ينقل البيانات فحسب، يقترحون استخدام أجهزة متخصصة داخل الشبكة لإدارة تدفق المعلومات. يجمع نهجهم بين تقنيتين موجودتين بطريقة مبتكرة للاتصالات واسعة النطاق. أولاً، يستخدمون طريقة تسمى "البث المتعدد" (multicast)، والتي تسمح لحاسوب واحد بإرسال رسالة تقوم الشبكة تلقائياً بنسخها وتسليمها إلى العديد من الوجهات المختلفة في وقت واحد، بدلاً من إرسال نسخ منفصلة لكل وجهة. ثانياً، يضعون رقائق قابلة للبرمجة، تُعرف باسم "FPGAs"، عند حافة الشبكة بالقرب من كل مجموعة حواسيب. تعمل هذه الرقائق كمجمّعات ذكية، حيث تجمع تدفقات البيانات الواردة من مصادر عديدة وتدمجها في تدفق واحد نظيف قبل وصولها إلى الحواسيب المحلية. ومن خلال القيام بالعمل الشاق المتمثل في نسخ ودمج البيانات داخل الشبكة، يقلل النظام من الضغط على الوصلات المحدودة بين المواقع البعيدة.

ولجعل هذا النظام يعمل بفعالية، طور الباحثون أيضاً إطاراً رياضياً جديداً لتحديد كيفية وتوقيت تواصل الحواسيب مع بعضها البعض بالضبط. في الإعداد التقليدي، قد يحاول كل حاسوب التحدث مع كل الحواسيب الأخرى في نفس الوقت، مما يؤدي إلى سد الشبكة. يعامل الإطار الجديد الشبكة كأنها خريطة ذات طرق وقواعد مرور محددة؛ فهو يحسب أفضل طريقة لتجميع الحواسيب في دوائر تواصل صغيرة ودوارة. في كل جولة، تتبادل مجموعة محددة من الحواسيب المعلومات بينما تنتظر المجموعات الأخرى، ثم تنتقل المجموعات في الجولة التالية. والهدف هو إيجاد التوازن المثالي بين مدة انتظار الحواسيب وكمية المعلومات التي تشاركها. اختبر الباحثون هذه الفكرة باستخدام محاكاة قائمة على شبكة حقيقية قابلة للبرمجة تمتد عبر تسع مدن في ثلاث قارات. وقد قاموا بنمذجة أوقات السفر الفعلية وسرعات الاتصال بين مدن مثل طوكيو ونيويورك ولندن لمعرفة كيفية أداء استراتيجيات التجميع المختلفة.

كشفت عمليات المحاكاة أن الاستراتيجية المثلى تعتمد بشكل كبير على قدرات الأجهزة. فعندما كانت رقائق الشبكة تمتلك ذاكرة قليلة جداً، كان النهج الأكثر كفاءة هو تشكيل مجموعات صغيرة مكونة من ثلاثة حواسيب تدور عبر تركيبات مختلفة؛ مما سمح للبيانات بالتدفق بسرعة دون إثقال قدرة النظام على الاحتفاظ بالمعلومات. ومع ذلك، عندما منح الباحثون الرقائق ذاكرة أكبر، تغيرت الاستراتيجية المثلى تماماً. فمع وجود ذاكرة كافية للتعامل مع تأخيرات السفر لمسافات طويلة، استطاع النظام دعم استراتيجية تسمة فيها كل حاسوب يتحدث مع كل الحاسيب الأخرى في آن واحد. أصبح نهج "الكل إلى الكل" (all-to-all) هذا، والذي كان مستحيلاً في السابق عبر المسافات الطويلة، هو الطريقة الأسرع لأنه سمح للمعلومات بالانتشار إلى الجميع في أقصر وقت ممكن. أظهرت الدراسة أنه من خلال الجمع بين تقنيات الشبكة الذكية هذه مع جدول زمني يتكيف مع حدود الأجهزة، من الممكن تقليص الفجوة بين الحواسيب التي يتم تدريبها وهي منتشرة عبر العالم وتلك الموجودة جنباً إلى جنب في نفس الغرفة.

يؤكد الباحثون أن عملهم هو حالياً محاكاة قائمة على شبكة حية لا تزال قيد البناء. وبينما توجد شبكة "دبل زيرو" وتتحمل حركة مرور البيانات، إلا أنها لا تمتلك بعد عدد كافٍ من مجموعات الحواسيب المتصلة لتدريب نموذج ضخم في اختبار واقعي. إن النتائج المعروضة هي بمثابة إثبات للمفهوم، توضح أن المكاسب النظرية حقيقية، وأن الجمع الصحيح بين أجهزة الشبكة ومنطق الجدولة يمكن أن يتغلب على العوائق التقليدية للمسافة. وتشير النتائج إلى أن مستقبل تدريب نماذج الذكاء الاصطناعي العملاقة لن يعتمد فقط على حواسيب أسرع، بل على شبكات أكثر ذكاءً تشارك بنشاط في عملية التعلم، محولةً المسافات الشاسعة بين مراكز البيانات من نقطة ضعف إلى جزء يمكن إدارته من النظام.

غارق في أبحاث مجالك؟

تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.

جرّب Digest →

أبحاث مشابهة

عرض الكل في هذا التصنيف 🤖 cs.LG →