Dual-Node NVIDIA DGX Spark over Tailscale: A Remote-Access Testbed for Distributed LLM Training and Cyber-Threat-Intelligence Fine-Tuning
يفصل هذا التقرير عملية نشر تجريبية لإثبات المفهوم لتدريب نموذج NanoChat الموزع عبر نظامي NVIDIA DGX Spark متصلين عن بُعد، مما يبرهن على جدوى استخدام مجموعات الذكاء الاصطناعي المدمجة من فئة الأجهزة المكتبية لكل من تدريب النماذج اللغوية الكبيرة متعددة العقد والضبط الدقيق للأمن السيبراني، مع العمل كمورد للبحث الأكاديمي والتعليم.
تخيل عالماً لا يكون فيه بناء عقل حاسوبي فائق الذكاء حكراً فقط على عمالقة التكنولوجيا الذين يمتلكون مستودعات مليئة بالخوادم الباهظة الثمن. لسنوات، كان تدريب هذه "النماذج اللغوية الكبيرة" (LLMs) يشبه محاولة تحريك جبل: فأنت بحاجة إلى فرق ضخمة، وميزانيات هائلة، ومراكز بيانات متخصصة. ولكن ماذا لو كان بإمكانك القيام بذلك باستخدام حاسوبين مكتبيين قويين فقط موضوعين على مكتب؟ هذا هو حلم "الذكاء الاصطناعي المحلي"، حيث يمكن للباحثين والطلاب الحفاظ على خصوصية بياناتهم والتعلم من خلال بناء أنظمتهم الخاصة. ولجعل هذا الأمر ممكناً، تحتاج إلى تعليم حاسوبين كيف يتحدثان مع بعضهما البعض فوراً، ويتشاركان في عبء التعلم الثقيل. عادةً ما يتطلب هذا كابلات وبرمجيات معقدة وباهظة الثمن لا يفهمها إلا الخبراء. السؤال الكبير الذي تطرحه هذه الورقة بسيط: هل يمكننا أخذ آلتين للحاسوب المكتبي المخصص للذكاء الاصطناعي عالي الأداء، وربطهما بكابل ألياف ضوئية فائق السرعة، والسماه للطلاب والباحثين التحكم بهما من منازلهم باستخدام نفق إنترنت آمن، وكل ذلك دون أن ينهار النظام؟
تحكي هذه الورقة قصة فريق في جامعة غرامبلينغ ستيت (Grambling State University) الذين قالوا: "دعونا نجرب ذلك". لقد قاموا بإعداد نظامي NVIDIA DGX Spark — وهي أساساً حواسيب مكتبية فائقة الشحن بذاكرة تبلغ 128 جيجابايت لكل منهما — وربطوهما بكابل ألياف ضوئية مخصص بسرعة 200 جيجابت في الثانية. فكر في هذا الكابل كمسار سريع خاص تم بناؤه خصيصاً لتبادل البيانات الثقيلة بين الحاسوبين، بينما استخدموا "نفقاً" منفصلاً وآمناً (يسمى Tailscale) للسماح للباحثين بالتحكم في الآلات من أجهزة الكمبيوتر المحمولة الخاصة بهم على بعد أميال. لم يكتفوا بمجرد إعداده، بل جعلوا الحاسوبين يعملان معاً لتدريب نموذج لغوي يسمى "NanoChat" لمدة أربعة أيام متواصلة. والنتيجة؟ تعلم الحاسوبان معاً بنجاح، حيث عالجا أكثر من 653 مليون كلمة (token) وأنهيا المهمة في حوالي أربعة أيام. ولو حاولوا القيام بذلك باستخدام حاسوب واحد فقط، لاستغرق الأمر نحو أسبوعين.
ولكن إليك المفاجأة: المؤلف حريص جداً على عدم الادعاء بأنه اخترع دفعة سرعة سحرية. فهو يعترف بأنه رغم أن إعداد الحاسوبين كان أسرع، إلا أنهم لم يجروا اختباراً مضبوطاً بدقة لإثبات مدى سرعته بالضبط مقارنة بحاسوب واحد تحت ظروف متطابقة. إنهم يسمون هذا "إثبات مفهوم" — أي عرضاً لما يمكن القيام به، وليس تقريراً نهائياً عن أفضل سرعة ممكنة. كما اختبروا ذكاء النظام عبر تعليمه التهديدات السيبرانية باستخدام تقارير سلامة حكومية حقيقية. أصبح الحاسوب أفضل في الإجابة على أسئلة أمنية محددة، لكنه أصبح في الواقع أسوأ قليلاً في المعرفة العامة، مما يظهر أن تعليم الشيء الواحد يمكن أن يجعلك تنسى شيئاً آخر أحياناً.
الجزء الأكثر إثارة في القصة ليس السرعة فحسب؛ بل ما فعله الفريق بالآلة بعد ذلك. فبينما كان الحاسوب يتعلم، كانت نفس الآلتين تُستخدمان أيضاً من قبل طلاب في فصل دراسي للذكاء الاصطناعي ودورة تدريبية في الأمن السيبراني. كان بإمكان الطلاب تسجيل الدخول من مساكنهم، وإجراء تجاربهم الخاصة، وحتى الحصول على أسئلة تدريبية لامتحاناتهم، كل ذلك دون أن تغادر البيانات شبكة الجامعة الآمنة أبداً. وتخلص الورقة إلى أن هذا الإعداد يعمل: يمكن للمختبرات الصغيرة بناء مجموعات (clusters) خاصة بها للذكاء الاصطناعي، يمكن التحكم فيها عن بُعد وتكون مفيدة لكل من الأبحاث الثقيلة والتدريس اليومي. إنه مخطط لكيفية تحويل بضعة حواسيب مكتبية قوية إلى حاسوب فائق مشترك، آمن، وتعليمي، مما يثبت أنك لست بحاجة إلى مركز بيانات ضخم للبدء في تجربة مستقبل الذكاء الاصطناعي.
ملخص تقني: نظام NVIDIA DGX Spark ثنائي العقد عبر Tailscale
بيان المشكلة بينما ساهمت أنظمة الذكاء الاصطالية المدمجة في إتاحة تجربة النماذج اللغوية المحلية، إلا أن هناك نقصاً في التوثيق العملي بشأن التدريب الموزع متعدد العقد على المسرعات من فئة سطح المكتب. تفترض الأدبيات الحالية وجود بيئات مراكز بيانات ذات جداول زمنية ناضجة ووصلات بينية عالية الأداء. علاوة على ذلك، تفتقر المختبرات الصغيرة والمشاريع الحساسة أمنياً غالباً إلى البنية التحتية للوصول الآمن إلى الأجهزة عن بُعد لأغراض البحث والتدريس على حد سواء. يعالج هذا التقرير هذه الفجوة من خلال استقصاء ما إذا كان يمكن تكوين نظامين من NVIDIA DGX Spark كمنصة اختبار موثوقة وقابلة لإعادة الإنتاج للتدريب الموزع، وما إذا كان بإمكان مثل هذه البنية التحتية دعم مهام الضبط الدقيق المتخصص والتدفقات التعليمية في آن واحد.
المنهجية قامت الدراسة بنشر نموذج أولي لعنقود (Cluster) مكون من عقدتين في جامعة غرامبلين الحكومية باستخدام الهندسة والإجراءات التالية:
الأجهزة: نظامان من NVIDIA DGX Spark، كل منهما مجهز بمعالج GB10 Grace Blackwell SoC وذاكرة موحدة بسعة 128 جيجابايت.
طوبولوجيا الشبكة: استخدم النظام بنية ثنائية المستويات لفصل حركة مرور الإدارة عن بيانات التدريب:
مستوى الإدارة: تمت إدارة النظام عن بُعد (SSH) عبر شبكة VPN مشبكية من نوع Tailscale.
مستوى التدريب: ربطت وصلة ألياف مباشرة من نوع QSFP56 بسرعة 200 جيجابت/ثانية العقدتين عبر الواجهة enp1s0f1np1 ضمن شبكة فرعية خاصة غير قابلة للتوجيه (192.168.100.0/24) مع استخدام إطارات ضخمة (Jumbo frames) بحجم MTU 9000.
الحزمة البرمجية: استخدم النشر حاويات NVIDIA NGC PyTorch (الإصدار 25.10) مع استخدام شبكة المضيف (host networking) لضمان الوصول المباشر إلى واجهة الألياف. اعتمد إطار التدريب على torchrun من PyTorch، وتوازي البيانات الموزع (DDP)، وNCCL.
التكوين: أجرت التجربة تدريباً لنموذج NanoChat بعمق 20 وعمق سياق يبلغ 2,048 توكن. عالجت كل عقدة دفعة محلية مكونة من 32 تسلسلاً، مما نتج عنه دفعة عالمية قدرها 64 تسلسلاً (131,072 توكن لكل خطوة).
التعديلات التشغيلية: تم تطبيق إصلاحات حرجة على مستودع NanoChat الأصلي، وتحديداً تعديل منطق التقييم في الخطوة صفر لمنع مهلات مراقب (watchdog) الخاص بـ NCCL أثناء التهيئة. كما تم فرض تكوينات شبكة مستمرة (عبر nmcli/netplan) وحدود ذاكرة الحاوية (memlock, stack) لضمان الاستقرار.
المهام اللاحقة:
استخبارات التهديدات السيبرانية (CTI): تم بناء مجموعة بيانات من 77 تنبيهاً من CISA مرتبطة بمعرفات MITRE ATT&CK، مما أنتج 338 محادثة للتدريب و37 محادثة للتحقق. استُخدم هذا للضبط الدقيق الخاضع للإشراف (SFT).
التعليم: دعم العنقود مساقاً تعليمياً بمستوى 400 (CS 426) ومحرك استعلام POGIL (التعلم الموجه بالاستقصاء الموجه نحو العملية) لشهادة CompTIA Security+ (CBS 255)، باستخدام نفس العقد لعمليات الاستنتاج عبر نموذج لغوي مستضاف على Ollama.
النتائج الرئيسية
أداء التدريب: حافظ تشغيل العقدتين على زمن خطوة يبلغ حوالي 69.4 ثانية، محققاً إنتاجية إجمالية تبلغ ~1,890 توكن/ثانية. وعلى مدار أربعة أيام، عالج النظام حوالي 653 مليون توكن.
ملاحظة التوسع: يشير المؤلف إلى انخفاض قدره 3.5 ضعف في وقت الجدار (wall-clock time) مقارنة بتقدير العقدة الواحدة (المقدر بـ 14 يوماً مقابل 4 أيام). ومع ذلك، يوضح صراحة أن هذا ليس ادعاءً محكوماً بكفاءة التوسع، حيث كان خط الأساس للعقدة الواحدة تقديراً وليس قياساً تحت ظروف متطابقة، كما تضاعف حجم الدفعة العالمية مع زيادة عدد العقد.
تقييم الضبط الدقيق لـ CTI: قارنت عملية تقييم آلية باستخدام نموذج لغوي كحكم (LLM-as-a-judge) (نموذج llama3.1:8b مستضاف على Ollama) بين نسخة مرجعية ونسخة معدلة ببيانات CTI على 17 مطالبة (prompt) محجوزة للاختبار.
أظهرت فئات CTI المحددة (البحث عن التقنية، الاسم إلى التقنية، الفاعل المهدد) تحسناً (على سبيل المثال، +1.33 لـ "الاسم إلى التقنية").
تراجعت فئات المعرفة العامة (على سبيل المثال، -1.67 لـ "المفهوم العام").
تحركت الدرجة الإجمالية بشكل طفيف من 2.06 إلى 2.29 على مقياس من 0 إلى 10. يفسر المؤلف ذلك بأنه دليل على تحول في المفردات المتخصصة وليس كنموذج معرفي قوي.
التكامل التعليمي: نجحت البنية التحتية في دعم أعباء العمل البحثية والتدريسية المتزامنة، حيث تمكن الطلاب من الوصول إلى العنقود عن بُعد عبر Tailscale للفحص العملي لآثار التدريب والاختبارات التجريبية المولدة بواسطة الذكاء الاصطناعي.
الأهمية والادعاءات يضع البحث نفسه في المقام الأول كـ إثبات مفهوم للنظم و مرجع لإعادة الإنتاج للمختبرات الصغيرة، وليس كدراسة لخوارزميات تعلم جديدة أو كتعريف نهائي لكفاءة التوسع.
الجدوى: تثبت الدراسة أن أنظمة الذكاء الاصطناعية المدمجة من فئة سطح المكتب يمكن ربطها عبر ألياف مخصصة وإدارتها عن بُعد عبر شبكات VPN مشبكية لإنشاء بيئة تدريب موزعة وظيفية.
الدروس التشغيلية: يوثق البحث التفاصيل الهندسية الحرجة التي غالباً ما تُغفل في التقارير رفيعة المستوى، بما في ذلك ضرورة فصل مستويات الإدارة والبيانات، والتعامل مع مهلات NCCL، وتكوين الشبكة المستمر، واستراتيجيات مراقبة الرتب (مع ملاحظة أن "صمت الرتبة لا يعني فشلها").
البنية التحتية مزدوجة الاستخدام: يوضح العمل كيف يمكن لعنقود محلي متواضع أن يخدم وظائف متعددة كانت ستكون معزولة لولا ذلك: البحث في التدريب المسبق الموزع، والتكيف مع النطاقات المتخصصة، والتدريس المتوافق مع الشهادات.
تواضع الادعاءات: يتجنب المؤلف صراحة المبالغة في الأداء. حيث أوضح أن خط الأساس للعقدة الواحدة كان تقديراً، وأن تقييم CTI استخدم نموذج حكم واحداً مع عينة صغيرة (17 مطالبة)، وأن عدد المعلمات لنموذج العمق-20 تم الإبلاغ عنه كعمق مهيأ وليس محسوباً بشكل مستقل. ويخلص التقرير إلى أن اختباراً متطابقاً مطلوب لتحويل إثبات المفهوم هذا إلى دراسة أداء محكومة.
باختصار، يوفر البحث مخططاً موثقاً وقابلاً لإعادة الإنتاج للمختبرات الصغيرة لبناء منصات تدريب موزعة آمنة وسهلة الوصول عن بُعد باستخدام أجهزة عالية الأداء من فئة المستهلك، مع التركيز على النشر العملي بدلاً من حدود الأداء النظرية.