🤖 machine learning

MinT: Managed Infrastructure for Training and Serving Millions of LLMs

تُعد MinT نظام بنية تحتية مُدارة تُمكّن من التدريب والتشغيل الفعال لملايين سياسات النماذج اللغوية الكبيرة القائمة على تقنية LoRA، وذلك عبر إبقاء نموذج أساسي ضخم واحد مقيماً في الذاكرة مع إدارة مراجعات المحولات خفيفة الوزن ديناميكياً، مما يحقق تحسينات كبيرة في قابلية التوسع، وكفاءة الذاكرة، وسرعة النشر عبر البنى الكثيفة وبنى الخبراء (MoE).

المؤلفون الأصليون: Mind Lab, :, Song Cao, Vic Cao, Andrew Chen, Kaijie Chen, Cleon Cheng, Steven Chiang, Kaixuan Fan, Hera Feng, Huan Feng, Arthur Fu, Jun Gao, Hongquan Gu, Aaron Guan, Nolan Ho, Mutian Hong, Hailee Hou

نُشر 2026-05-14

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Mind Lab, :, Song Cao, Vic Cao, Andrew Chen, Kaijie Chen, Cleon Cheng, Steven Chiang, Kaixuan Fan, Hera Feng, Huan Feng, Arthur Fu, Jun Gao, Hongquan Gu, Aaron Guan, Nolan Ho, Mutian Hong, Hailee Hou, Peixuan Hua, Charles Huang, Miles Jiang, Nora Jiang, Yuyi Jiang, Qiuyu Jin, Fancy Kong, Andrew Lei, Kyrie Lei, Alexy Li, Lucian Li, Ray Li, Theo Li, Zhihui Li, Jiayi Lin, Kairus Liu, Kieran Liu, Logan Liu, Xiang Liu, Irvine Lu, Maeve Luo, Runze Lv, Pony Ma, Verity Niu, Anson Qiu, Vincent Wang, Rio Yang, Maxwell Yao, Carrie Ye, Regis Ye, Wenlin Ye, Josh Ying, Danney Zeng, Yuhan Zhan, Anya Zhang, Di Zhang, Ruijia Zhang, Sueky Zhang, Ya Zhang, Wei Zhao, Ada Zhou, Changhai Zhou, Yuhua Zhou, Xinyue Zhu, Murphy Zhuang

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تدير مكتبة ضخمة وباهظة الثمن للغاية من الكتب (هذا هو النموذج الأساسي - Base Model). هذه الكتب ضخمة، تشغل غرفة كاملة، ومن الصعب جداً تحريكها.

في الطريقة القديمة، إذا أردت تعليم كتابٍ ما مهارة جديدة — مثل حل المسائل الرياضية أو كتابة العقود القانونية — كان عليك تصوير الكتاب بأكمله، وكتابة الملاحظات الجديدة في الهوامش، ثم نقل تلك النسخة الجديدة الثقيلة بالكامل إلى غرفة أخرى لعرضها على الناس. إذا أردت تعليم الكتاب 1,000 مهارة مختلفة، فستحتاج إلى 1,000 نسخة ثقية من الكتاب، مما يستهلك مساحة هائلة من الوقت والمكان لنقلها.

MinT (MindLab Toolkit) يغير قواعد اللعبة. فبدلاً من تحريك الكتاب بأكمله، يقول MinT: "دعونا نترك الكتاب الثقيل في مكانه، مغلقاً داخل المكتبة. سنقوم فقط بكتابة المهارات الجديدة على قصاصات ورقية صغيرة وخفيفة الوزن (تسمى LoRA adapters)."

إليك كيف يعمل MinT، مقسماً إلى ثلاث أفكاء بسيطة:

1. نظام "القصاصات الورقية" (تقليص الحجم - Scale Down)

بدلاً من نقل موسوعة تزن 100 رطل، أنت تنقل فقط قصاصة ورقية تزن أونصة واحدة.

الطريقة القديمة: لتحديث نموذج ما، يجب عليك دمج الملاحظات مرة أخرى في الكتاب، مما ينتج عنه ملف جديد ثقيل. هذا يستغرق وقتاً طويلاً جداً للحفظ والنقل.
طريقة MinT: تبقي الكتاب الثقيل (النموذج الأساسي) مستقراً في ذاكرة الكمبيوتر. وعندما تتعلم مهارة جديدة، تقوم فقط بحفظ القصاصة الورقية الصغيرة.
النتيجة: نقل "التحديث" سريع للغاية. وجدت الورقة البحثية أن نقل مجرد القصاصة الورقية كان أسرع بـ 18 مرة لنموذج متوسط الحجم وأسرع بـ 3 مرات تقريباً لنموذج ضخم، مقارنة بنقل الكتاب بأكمله. الأمر يشبه إرسال رسالة نصية بدلاً من إرسال طوبة بالبريد.

2. "محطات التبديل" (زيادة السعة - Scale Up)

تخيل أن لديك آلة ضخمة ومعقدة (حاسوب فائق) لا يمكنها استيعاب سوى كتاب ثقيل واحد في كل مرة.

المشكلة: عادةً، إذا أردت تدريب 5 نسخ مختلفة من سياسة معينة (مثل: واحدة للرياضيات، واحدة للبرمجة، واحدة للقانون)، فستحتاج إلى 5 أجهزة مختلفة، كل منها يحمل نسخة من الكتاب الثقيل. هذا هدر للمال.
حل MinT: يعمل MinT كلوحة تحويل ذكية. فهو يبقي الكتاب الثقيل محملاً في الجهاز. وعندما يحين وقت تدريب نسخة "الرياضيات"، يقوم باستبدال القصاصة الورقية الخاصة بالرياضيات. وعندما يحين وقت "البرمجة"، يقوم بإخراج ملاحظة البرمجة ووضع ملاحظة "الرياضيات" مكانها.
النتيجة: يمكنك تدريب العديد من "السياسات" المختلفة على نفس الجهاز دون الحاجة إلى المزيد من أجهزة الكمبيوتر. أظهرت الورقة البحثية أن هذا جعل التدريب أسرع بمقدار 1.77 مرة لنموذج بـ 4 مليارات معلمة (parameter)، وأسرع بمقدار 1.45 مرة لنموذج بـ 30 مليار معلمة، وكل ذلك دون الحاجة إلى ذاكرة إضافية.

3. "الكتالوج الذكي" (التوسع الخارجي - Scale Out)

تخيل مكتبة بها مليون قصاصة ورقية مختلفة، لكن مكتب القراءة الخاص بك يتسع لعدد قليل منها فقط في كل مرة.

المشكلة: إذا طلب مستخدم قصاصة معينة، ولم تكن موجودة على المكتب، فعليك الذهاب إلى غرفة التخزين، والعثور عليها، وإحضارها. إذا طلب 1,000 شخص 1,000 قصاصة مختلفة في وقت واحد، فستزدحم غرفة التخزين، وسينتظر الجميع في طابور طويل.
حل MinT: ينظم MinT هذا الأمر مثل خدمة توصيل ذكية.
- الكتالوج (Catalog): يمكنه تتبع مليون قصاصة ورقية (سياسة) مختلفة.
- الذاكرة المؤقتة (Cache): يحتفظ بالقصاصات الأكثر شيوعاً على رف قريب من المكتب (ذاكرة CPU cache) لتكون جاهزة فوراً.
- خدعة "التعبئة" (Packing): في بعض الأحيان، تتكون القصاصة الورقية من آلاف القطع الصغيرة جداً (مثل قطع الأحجية/البازل). يقوم MinT بلصق هذه القطع معاً في حزمة واحدة مرتبة قبل إرسالها إلى المكتب. هذا يجعل عملية التوصيل أسرع بـ 8.5 مرة لأن شاحنة التوصيل لن تضطر للتوقف 37,000 مرة لالتقاط قطع الأحجية الصغيرة؛ بل ستلتقط صندوقاً واحداً فقط.

الصورة الكبيرة

MinT هو في الأساس مدير لتدريب الذكاء الاصطناعي. فهو يمنعك من إضاعة الوقت والمال عبر تحريك الملفات الضخمة ذهاباً وإياباً. بدلاً من ذلك، يبقي "العقل" الثقيل (النموذج الأساسي) في مكان واحد، ويدير آلاف "المهارات" الصغيرة (المحولات/Adapters) التي يمكن إلحاقها به.

بالنسبة للتدريب: يتيح لك التبديل بين المهارات المختلفة بسرعة دون الحاجة لإعادة تحميل "العقل" بالكامل.
بالنسبة للخدمة (Serving): يتيح لك تقديم ملايين المهارات المختلفة للمستخدمين، مع تحميل المهارات المحددة المطلوبة في تلك اللحظة بالضبط فقط، والقيام بذلك بطريقة لا تسبب ازدحاماً في النظام.

باخت️صر: لا تحرك الفيل؛ بل حرك الفأر فقط. يجعل MinT من الممكن تشغيل ملايين الشخصيات المختلفة للذكاء الاصطناعي على أساس مشترك ومكلف دون أن يضطر هذا الأساس للتحرك أبداً.

ملخص تقني: MinT (مجموعة أدوات MindLab)

بيان المشكلة

مع تطور النماذج اللغوية الكبيرة (LLMs) نحو معايير تريليونية من المعلمات والتعلم المستمر من الخبرات، أصبحت البنية التحتية المطلوبة لمرحلة ما بعد التدريب تشكل عائقاً حرجاً. تعتمد سير العمل التقليدية على تجسيد نقاط فحص كاملة الضبط الدقيق لكل متغير للنموذج، أو فرع مهمة، أو تخصيص مستأجر. يخلق هذا النهج تحديات كبيرة في القابلية للتوسع:

عدم كفاءة الموارد: نسخ أو تقديم نقاط فحص كاملة لكل متغير سياسة يستهلك مساحة تخزين وذاكرة مفرطة، مما يجعل التدريب المستمر ونشر القدرات الوكيلية (agentic capabilities) أمراً صعباً.
عدم التطابق بين التدريب والخدمة: يؤدي نقل النماذج الكاملة بين محركات التدريب والاستدلال إلى إدخال زمن انتقال وتعقيد، لا سيما عند إدارة إصدارات التحكم، ونقاط التراجع، ومجموعات السياسات المتنوعة فوق النماذج الأساسية المشتركة.
حدود القابلية للتوسع: مع نمو النماذج لتصل إلى أكثر من 1 تريليون معلمة (سواء كانت كثيفة أو بنظام خليط الخبراء/MoE)، يصبح العبء الناتج عن إدارة نقاط فحص كاملة لآلاف سياسات LoRA (التكيف منخفض الرتبة) أمراً غير محتمل.

المنهجية: إطار عمل MinT

تقترح مجموعة أدوات MindLab (المعروفة اختصاراً بـ MinT) نظام بنية تحتية مداراً يعامل مراجعات محولات LoRA المصدرة كوحدة أساسية لإدارة السياسات، بدلاً من نقاط الفحص الكاملة للنماذج. تم تصميم النظام حول بنية "القاعدة المقيمة" حيث تظل النموذج الأساسي محملاً في الذاكرة، بينما يتم تمثيل سلوكيات المهام، وفروع المنتجات، والإصدارات التجريبية بواسطة مراجعات محولات خفيفة الوزن.

البنية الأساسية

يفصل MinT بين سجل السياسة (حالة دورة الحياة المملوكة للخدمة) وبين مراجعة المحول (الحمولة التنفيذية).

دورة حياة محورها المحول: بدلاً من دمج المحولات مرة أخرى في النموذج الأساسي، يقوم MinT بتصدير معلمات LoRA المدربة كمراجعات متوافقة مع الخدمة. يتم التحقق من توافق هذه المراجعات مع القاعدة المقيمة وتحميلها مباشرة في محركات الاستدلال (مثل vLLM) التي تحمل بالفعل الأوزان الأساسية.
التدريب المجزأ زمنياً: يدعم MinT تدريب متعدد لـ LoRA على قواعد مقيمة مشتركة. يمكن لمدرب واحد التبديل بين سجلات سياسات مختلفة عن طريق استبدال تنسورات LoRA، وحالات المُحسن (optimizer states)، وسجلات التمرير (rollout records) فقط، مع إبقاء النموذج الأساسي المجمد مقيماً في ذاكرة الGPU. يدعم هذا كلاً من مسارات PEFT أحادية العامل ومسارات تدريب Megatron الموزعة.
ذاكرة التخزين المؤقت للخدمة ثلاثية الطبقات: لإدارة مجموعات السياسات الكبيرة، يفصل MinT بين القابلية للعنونة وبين الإقامة في الذاكرة:
- كتالوج قابل للعنونة: مخزن دائم لجميع مراجعات المحولات المصدرة (يصل إلى مقياس $10^6$ ).
- ذاكرة التخزين المؤقت للمعالج (CPU Cache): محلية لكل فاعل خدمة، وتضم مئات المحولات للترقية السريعة.
- دفعة الـ GPU: مجموعة المحولات النشطة المقيمة في فتحات الاستدلال لخطوة فك التشفير الحالية.
التحميل البارد كعمل خدمي: تُعامل عمليات تحميل المحولات عند أول استخدام كعمل خدمي مجدول. يقوم MinT بإزالة تكرار طلبات التحميل لنفس السياسة المفقودة ويستخدم تنسورات MoE LoRA المعبأة لتقليل تشتت الكائنات، مما يسرع بشكل كبير من سرعة تحميل المحرك الحي.

محاور التوسع

يوسع MinT مسار مراجعة المحول هذا عبر ثلاثة أبعاد:

التوسع للأعلى (Scale Up): يدعم تدريب Lo-RL على بنيات كثيفة وMoE ذات نطاق ريادي (تم التحقق منها حتى 1 تريليون معلمة). وهو يتعامل مع التدريب المتوازي للنماذج (Tensor/Expert Parallelism)، واتساق توجيه التشتت (MoE router replay)، وتصحيحات الانتباه الديناميكي المتفرق (DSA).
التوسع للأسفل (Scale Down): يقلل من عملية التسليم بين التدريب والخدمة عبر نقل المحول فقط (غالباً أقل من 1% من حجم النموذج الأساسي). وهذا يلغي تجسيد نقاط الفحص الكاملة تماماً.
التوسع للخارج (Scale Out): يوسع مساحة أسماء السياسات مع الحد من التنفيذ المحلي للمحرك. إنه يفصل بين قابلية عنونة السياسة الدائمة وبين مجموعات العمل الساخنة، مما يتيح كتالوجات ضخمة دون الحاجة إلى إقامة جميع المحولات في الذاكن في وقت واحد.

المساهمات الرئيسية

إدارة دورة حياة المحول: يحدد MinT دورة حياة كاملة من التحديث إلى الخدمة، بما في ذلك التحويل من المجزأ إلى الخدمة، وفحوصات التوافق، وسجلات التمرير، وقدرات التراجع. تصبح مراجعة المحول هي السلوك الثابت الذي تختاره المنظومة.
تدريب Lo-RL متعدد الـ LoRA واسع النطاق: يثبت النظام قدرته على تدريب سياسات Lo-RL من البداية إلى النهاية على عمليات نشر كثيفة وMoE واسعة النطاق، بما في ذلك مسار نموذج Kimi K2 بمقياس 235B-A22B، مع دعم تدريب Megatron أحادي العامل والموزع.
خدمة مجموعات السياسات: يقدم MinT المحولات المصدرة عبر محركات vLLM ذات القاعدة المشتركة، مع الفصل بين العنونة الدائمة والمجموعات الساخنة للـ CPU/GPU. كما يقدم تمثيلات MoE LoRA المعبأة التي تقلل من تشتت الكائنات الصغيرة، مما يحسن سرعات تحميل المحرك الحي.
قابلية إعادة الإنتاج العامة: يوفر MinT واجهة برمجة تطبيقات متوافقة مع Tinker ويستخدم وصفات "mint-cookbook" لإعادة إنتاج أمثلة SFT، وتحسين التفضيلات (DPO)، والتعلم المعزز القائم على التمرير (GRPO)، وأمثلة AutoResearch من خلال نفس دورة حياة المحول.

النتائج التجريبية

يتحقق البحث من قدرات MinT من خلال قياسات مكثفة على نماذج Qwen3 (4B, 30B, 235B) و Kimi K2 (1T):

كفاءة التسليم (التوسع للأسفل):
- قلل تسليم المحول فقط من خطوة التسليم المقاسة بمقدار 18.3 ضعفاً في نموذج كثيف 4B و 2.85 ضعفاً في نموذج 30B MoE مقارنة بدمج نقاط الفحص الكاملة.
- قلل إجراء GRPO متعدد السياسات المتزامن من وقت الجدار (wall time) بمقدار 1.77 ضعفاً (4B) و 1.45 ضعفاً (30B) دون زيادة في ذروة الذاكرة.
أداء التدريب:
- نجح MinT في تدريب سياسات LoRA على نموذج MoE بمقياس 235B-A22B ونموذج Kimi K2 بمقياس 1.04 تريليون معلمة، مع الحفاظ على الاتساق في إعادة تشغيل موجه MoE وتصحيح DSA.
- تظهر آثار التعلم أن دورة حياة المحول تدعم نماذج SFT و DPO و GRPO بأداء مماثل لخطوط الأساس للضبط الدقيق الكامل (على سبيل المثال، ارتفعت دقة GRPO من 0.11 إلى 0.47 في AIME24).
قابلية توسع الخدمة (التوسع للخارج):
- يدعم النظام كتالوجات قابلة للعنونة تصل إلى 100,000 مدخل في عمليات المسح للمحرك الواحد، مع دعم مستهدف يصل إلى $10^6$ سياسة على مستوى الأسطول.
- تحسين التحميل البارد: أدت تنسورات MoE LoRA المعبأة إلى تقليل عدد كائنات التنسور من 37,248 إلى 672، مما أدى إلى تسريع عملية تحميل المحرك الحي بمقدار 8.5–8.7 ضعفاً (بمتوسط أقل من 0.2 ثانية) مقارنة بالتحميلات غير المعبأة.
- نجحت ذاكرات التخزين المؤقت للـ CPU في احتواء مئات المحولات (على سبيل المثال، 550 محولاً محملًا تحت ظروف محلية ضعيفة)، بينما تم حصر دفعات الـ GPU في حوالي 64 محولاً مختلفاً لكل خطوة.

الأهمية والادعاءات

يدعي البحث أن MinT يجعل خدمات تدريب تعدد المستأجرين حقيقة عملية للتدريب واسع النطاق لما بعد التدريب. من خلال نقل الوحدة المدارة من نقاط الفحص الكاملة إلى مراجعات المحولات، يتيح MinT ما يلي:

خفض التكلفة: إلغاء تجسيد نقاط الفحص الكاملة وتقليل عبء حركة البيانات.
قابلية إعادة الإنتاج: توفير واجهة ثابتة على مستوى الخدمة للتدريب والتقييم والخدمة تخفي التعقيد الموزع.
القابلية للتوسع: تمكين إدارة كتالوجات سياسات LoRA بمقياس المليون فوق نماذج أساسية من فئة 1 تريليون معلمة دون اشتراط أن يكون كل سياسة خادماً لنموذج كامل.

يضع المؤلفون MinT ليس كخوارزمية تدريب جديدة، بل كطبقة بنية تحتية تجعل "مسار مراجعة المحول" قابلاً للاستخدام في البنيات الكثيفة وMoE ذات النطاق الريادي، مما يعالج تحديات الأنظمة المحددة للتدريب المستمر، والنشر، والتعلم المعزز الوكيلي.