🤖 AI

Demystifying Data Organization for Enhanced LLM Training

تتناول هذه الورقة البحثية المجال غير المستكشف كفايةً المتمثل في التنظيم الاستراتيجي للبيانات لتدريب النماذج اللغوية الكبيرة من خلال صياغة أربعة مبادئ توجيهية رئيسية وتقديم طريقتين مبتكرتين للترتيب، هما STR وSAW، اللتان تستفيدان من درجات العينات المحسوبة مسبقاً لتعزيز استقرار الأداء وكفاءة التدريب مع حد أدنى من التكاليف الحسابية الإضافية.

المؤلفون الأصليون: Yalun Dai, Yangyu Huang, Tongshen Yang, Yonghan Wang, Xin Zhang, Wenshan Wu, Qihao Zhao, Hao Li, Yuanyuan Gao, Kim-Hui Yap, Scarlett Li

نُشر 2026-05-29

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Yalun Dai, Yangyu Huang, Tongshen Yang, Yonghan Wang, Xin Zhang, Wenshan Wu, Qihao Zhao, Hao Li, Yuanyuan Gao, Kim-Hui Yap, Scarlett Li

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول تعليم طالب عبقري وسريع جداً كيف يصبح طباخاً ماهراً. لديك مكتبة ضخمة تضم 10,000 وصفة طعام.

يركز معظم الباحثين على أي الوصفات يجب وضعها في المكتبة (اختيار الأفضل منها). لكن هذا البحث يسأل سؤالاً مختلفاً: بأي ترتيب يجب على الطالب قراءتها؟

يجادل المؤلفون بأنه إذا قدمت للطالب مجموعة عشوائية من الوصفات، أو حتى مجموعة مرتبة بدقة من "الأسهل" إلى "الأصعب"، فقد يصاب بالارتباك، أو ينسى الأساسيات، أو يصاب بالإرهاق. بدلاً من ذلك، يقترحون "جدول قراءة" محدد يجعل الطالب يتعلم بشكل أسرع وأفضل، باستخدام نفس البيانات ولكن بتنظيمها بشكل مختلف.

إليك تفصيل أفكارهم باستخدام تشبيهات بسية:

المشكلة: تحدي "المرور الواحد"

تخيل أن الطالب لديه وقت لقراءة المكتبة بأكملها مرة واحدة فقط (أو ربما مرتين). في العالم الحقيقي، تدريب نماذج الذكاء الاصطناعي الكبيرة يشبه هذا: فهي ترى كمية هائلة من البيانات ولكنها تحصل فقط على "مرور" أو اثنين عبرها.

إذا أعطيتهم أصعب الوصفات أولاً، فسيشعرون بالارتباك. وإذا أعطيتهم أسهل الوصفات أولاً ثم انتقلت فجأة إلى الأصعب، فقد ينسون الأساسيات. وإذا أعطيتهم 100 وصفة سهلة متتالية، فسيشعرون بالملل ويتوقفون عن الانتباه.

الحل: أربع قواعد لجدول أفضل

اكتشف المؤلفون أربع "قواعد ذهبية" لتنظيم البيانات لجعل التعلم يترسخ. لم يحتاجوا لحساب أرقام جديدة؛ بل أعادوا استخدام درجات تم حسابها بالفعل لاختيار أفضل الوصفات.

1. شحذ الحدود (قاعدة "الإحماء والتبريد")

الفكرة: ابدأ بوصفات بسيطة وسهلة لجعل الطالب يشعر بالراحة. وانتهِ بالوصفات الأكثر تعقيداً وعالية الجودة لدفعه نحو ذروة أدائه.
التشبيه: فكر في عداء. أنت لا تبدأ الماراثون بالركض بأقصى سرعتك (ستنهار)، ولا تنهيه بالمشي ببطء (ستفقد زخمك). أنت تبدأ بالهرولة للإحماء وتنتهي بركض سريع وقوي لتنهي بقوة.

2. الجدولة الدورية (قاعدة "جلسة المراجعة")

الفكرة: لا تنتقل فقط من السهل إلى الصعب ولا تنظر للخلف أبداً. ادمج بشكل دوري بعض الوصفات الأساسية والسهلة حتى أثناء تعليم المواضيع المتقدمة.
التشبيه: تخيل معلم موسيقى. إذا علمك فقط مقطوعة موسيقية صعبة ولم يسمح لك بعزف سلم موسيقي بسيط مرة أخرى، فقد تنسى كيفية إمساك القوس. هذه القاعدة تقول: "كل بضعة أيام، دعنا نعزف سلماً بسيطاً مرة أخرى للتأكد من أنك لم تنسَ الأساسيات".

3. استمرارية المنهج (قاعدة "المنحدر الناعم")

الفكرة: لا تقفز فجأة من وصفة سهلة جداً إلى وصفة صعبة جداً. يجب أن تتغير الصعوبة بسلاسة، مثل المنحدر، وليس كالسلم (الدرجات).
التشبيه: إذا كنت تقود سيارة صعوداً في تلة، فأنت تريد منحدرًا لطيفًا. إذا تحول الطريق فجأة إلى منحدر رأسي، فقد تتعطل سيارتك (الذكاء الاصطناعي) أو تتحطم. تضمن هذه القاعدة أن يكون الانتقال بين البيانات السهلة والصعبة سلسًا حتى لا يتعرض التعلم لـ "صدمة".

4. التنوع المحلي (قاعدة "خليط السلطة")

الفكرة: حتى ضمن مجموعة صغيرة من الوصفات (الدفعة المصغرة التي يراها الطالب في المرة الواحدة)، لا تعطهم 10 وصفات متطابقة تماماً. اخلطهم معاً!
التشبيه: إذا أكلت الدجاج فقط على الغداء كل يوم لمدة أسبوع، فستمرض وتفتقد العناصر الغذائية الأخرى. إذا تناولت سلطة تحتوي على دجاج، وجزر، وخس، وجبن، فستحصل على وجبة متوازنة. خلط أنواع مختلفة من البيانات في جلسة تدريب واحدة يساعد الذكاء الاصطناعي على تعلم القواعد العامة بدلاً من مجرد حفظ نمط محدد.

الأساليب الجديدة: "السلم" و"المنشار"

بناءً على هذه القواعد الأربع، ابتكر المؤلفون طريقتين لتنظيم البيانات:

STR (ترتيب السلم): يتبع هذا الأسلوب قواعد "الإحماء"، و"المراجعة"، و"خليط السلطة". إنه ينشئ جدولاً تزداد فيه الصعوبة ولكن مع العودة أحياناً لمراجعة المفاهيم السابقة، مما يحافظ على استقرار التعلم.
SAW (ترتيب المنشار): هو النسخة "المطورة". يضيف قاعدة "المنحدر الناعم" إلى المزيج. بدلاً من مجرد الصعود والهبوط، فإنه ينشئ نمطاً متموجاً وناعماً (مثل نصل المنشار) يضمن عدم حدوث قفزات حادة في الصعوبة.

النتائج

اختبر المؤلفون هذه الأساليب على أحجام مختلفة من نماذج الذكاء الاصطناعي (من الصغيرة إلى الكبيرة) وعلى مهام مختلفة (مثل الرياضيات والبرمجة).

النتيجة: النماذج التي تم تدريبها باستخدام هذه الجداول الزمنية (STR و SAW) حققت أداءً أفضل من النماذج التي تم تدريبها بترتيب عشوائي أو بترتيب "من السهل إلى الصعب" التقليدي.
الكفاءة: لم يحتاجوا لقضاء وقت أو مال إضافي في حساب درجات جديدة للبيانات. لقد أخذوا الدرجات التي لديهم بالفعل وأعادوا ترتيب البيانات فحسب. الأمر يشبه أخذ مجموعة أوراق لعب مصنفة بالفعل حسب الرقم، ثم إعادة خلطها بنمط معين للفوز باللعبة.

الملخص

هذا البحث لا يخترع نوعاً جديداً من البيانات أو نموذج ذكاء اصطناعي جديد. بدلاً من ذلك، يعمل كـ أمين مكتبة ذكي. فهو يوضح أنه إذا رتبت الكتب على الرف بترتيب محدد ومدروس — من خلال الإحماء للقارئ، ومراجعة المفاهيم القديمة، وتنعيم الانتقالات، وخلط المواضيع — فإن القارئ (الذكاء الاصطناعي) سيتعلم بشكل أسرع بكثير ويصبح أكثر ذكاءً، وكل ذلك دون الحاجة إلى أي موارد إضافية.

ملخص تقني: فك غموض تنظيم البيانات لتعزيز تدريب النماذج اللغوية الكبيرة (LLMs)

بيان المشكلة

بينما أحدثت النماذج اللغوية الكبيرة (LLMs) ثورة في مجالات تتراوح من البرمجة إلى الرعاية الصحية، إلا أن كفاءة تدريبها تظل معتمدة بشكل كبير على التقييم الفعال للبيانات. لقد ركزت الأبحاث المكثفة على اختيار البيانات (الاستحواذ، التصفية، إزالة التكرار، والتقييم)، ومع ذلك لا يزال التنظيم الاستراتيجي لهذه العينات المختارة داخل مجموعة البيانات مجالاً غير مستكشف بشكل كافٍ.

تعتمد نماذج تدريب النماذج اللغوية الكبيرة الحالية غالباً على التدريب على مجموعات بيانات ضخمة لعدد يتراوح بين مرحلة واحدة أو بضع مراحل (epochs) فقط. وفي نظام "المسار الواحد" (one-pass) هذا، يصبح الترتيب الزمني الذي تُقدم به العينات عاملاً من الدرجة الأولى يشكل مسار التعلم. تقدم النهج الحالية مثل "التعلم المنهجي" (Curriculum Learning - CL) أو استراتيجيات الطي المحددة (مثل DELT) رؤى مفيدة، لكنها تفتقر إلى إطار عمل منهجي لترتيب البيانات المصمم خصيصاً لقيود النماذج اللغوية الكبيرة الحديثة. علاوة على ذلك، فإن الموارد الحسابية الهائلة التي تُنفق لحساب درجات العينات (من حيث الجودة، أو الصعوبة، أو قابلية التعلم) يتم التخلص منها عادةً بعد مرحلة الاختيار الأولية، مما يمثل فرصة ضائعة لرفع الكفاءة.

المنهجية

الابتكار الجوهري: إعادة استخدام الدرجات المحسوبة مسبقاً

يقترح البحث إطار عمل يعيد استخدام الدرجات المحسوبة مسبقاً لكل عينة (والتي تم إنشاؤها أصلاً لمهام كفاءة البيانات) لتنظيم بيانات التدريب. لا يتطلب هذا النهج أي تكلفة حسابية إضافية تذكر، حيث أن دالة التقييم $g$ يتم تنفيذها بالفعل خلال مرحلة اختيار البيانات.

تتم عملية التنظيم عبر ثلاث مراحل:

تقييم البيانات: تقوم دالة التقييم $g$ برسم خريطة لمجموعة البيانات الخام $D$ إلى متجه درجات $\gamma$ يمثل مقاييس مثل الجودة أو الصعوبة.
اختيار البيانات: تقوم دالة الاختيار بتصفية $D$ إلى مجموعة فرعية $D_{sub}$ بناءً على $\gamma$ .
تنظيم البيانات: تقوم دالة التبديل $\pi$ ، المستمدة من $\gamma$ ، بإعادة ترتيب $D_{sub}$ إلى تسلسل مُحسن $D_{ord}$ دون تغيير حجم مجموعة البيانات.

أربع توجيهات رئيسية

من خلال تحليل منهجي، حدد المؤلفون وصاغوا أربعة مبادئ توجيهية لتحسين تنظيم البيانات:

شحذ الحدود (G1): يجب أن يبدأ التدريب ببيانات ذات درجات منخفضة (بسيطة) لاستقرار التحسين المبكر، وينتهي ببيانات ذات درجات عالية (معقدة) لتعظيم الأداء النهائي. يعالج هذا الأمر حساسية حدود التحسين لتوزيع البيانات.
الجدولة الدورية (G2): بدلاً من التقدم الرتيب الصارم من السهل إلى الصعب (الذي ينطوي على خطر "النسيان الكارثي" للمفاهيم الأساسية في تدريب المسار الواحد)، تقوم هذه الطريقة بإعادة تقديم مزيج من توزيعات البيانات بشكل دوري. يضمن ذلك احتفاظ النموذج بالمفاهيم المبكرة أثناء معالجة العينات المعقدة.
استمرارية المنهج (G3): يمكن للانتقالات المفاجئة بين سمات البيانات (مثل القفز من عينات ذات درجات عالية إلى عينات ذات درجات منخفضة) أن تصدم المُحسِّن (optimizer)، مما يسبب تباين التدرج وعدم الاستقرار. لذا، يلزم وجود انتقالات سلسة بين توزيعات الدرجات للحفاظ على زخم التحسين.
التنوع المحلي (G4): قد يؤدي فرز البيانات بدقة حسب الدرجة إلى تقليل تنوع التدرج داخل الدفعات الصغيرة (mini-batches)، مما يؤدي إلى الإفراط في التخصيص (overfitting) على أنماط معينة. إن حقن عدم التجانس المحلي (عبر الخلط ضمن نوافذ صغيرة) يحافظ على ضجيج التدرج ويعزز تعلم الميزات القابلة للتعميم.

استراتيجيات الترتيب المقترحة

قام المؤلفون بتطبيق هذه التوجيهات في خوارزميتي ترتيب مبتكرتين:

ترتيب السلم (STR - Stair Ordering): يجمع بين G1 وG2 وG4. يقوم بتقسيم مجموعة البيانات المرتبة إلى مناطق مستقرة (ترتيب رتيب) ومناطق انتقالية. وتطبق المناطق الانتقالية آلية ترتيب الطي (FO) لتسهതിل المراجعة الدورية للمفاهيم السابقة، بينما يتم حقن التنوع المحلي عبر ترتيب الارتجاج (JIT - Jittering Ordering).
ترتيب المنشار (SAW - Saw Ordering): يعمم STR من خلال دمج G3 (استمرارية المنهج). ويستبدل آلية الطي في المناطق الانتقالية بـ ترتيب الزجزاج (ZIG - Zig-zag Ordering). يقوم ZIG بعكس ترتيب العينات في دورات متبادلة، مما يضمن اتصال الدورات المتجاورة عند نقاط ذات درجات متشابهة، وبالتالي إنشاء مسار أكثر سلاسة يشبه الموجة المثلثية، مما يخفف من حدة التحولات المفاجئة في السمات.

النتائج الرئيسية

تم التحقق من فعالية هذه التوجيهات والاستراتيجيات من خلال تجارب مكثفة عبر مقاييس نماذج مختلفة (من 160 مليون إلى 1.7 مليار معلمة)، وأحجام بيانات (من 1 مليار إلى 50 مليار توكن)، ومراحل تدريب مختلفة (ما قبل التدريب والضبط الدقيق تحت الإشراف - SFT).

مكاسب الأداء: تفوق كل من STR وSAW باستمرار على أخذ العينات العشوائي والتعلم المنهجي التقليدي (CL) عبر اختبارات متنوعة، بما في ذلك الاستدلال العام (ARC, PIQA, SciQ)، والرياضيات (AIME, MATH)، وتوليد الكود (HumanEval, MBPP).
- في مرحلة ما قبل التدريب على FineWeb-Edu، حقق SAW متوسط دقة بلغ 38.78% مقارنة بـ 37.09% للعشوائي و 37.61% لـ CL.
- في مرحلة الضبط الدقيق (SFT) على DeepMath-103K، حقق SAW دقة بنسبة 2.53% في اختبار AIME24، متفوقاً على CL (1.78%) والعشوائي (1.30%).
الاستقرار والمتانة:
- تخفيف النسيان: أظهر تحليل الارتياب (Perplexity) للبيانات ذات الدرجات المنخفضة ( $D_e$ ) أنه بينما عانى CL من ارتفاع حاد في الارتياب (مما يشير إلى النسيان) عند الانتقال إلى البيانات ذات الدرجات العالية، حافظت كل من FO وSAW على ارتياب منخفض، مما يؤكد فعالية الاحتفاظ بالمعرفة.
- استقرار التحسين: كشف تحليل معيار التدرج (Gradient norm) أن FO أظهرت طفرات حادة عند حدود الدورات، بينما حافظ ZIG (المستخدم في SAW) على قيم تدرج مستقرة، مما يؤكد أهمية استمرارية المنهج.
- التعميم: أظهر تحليل اضطراب الأوزان (Weight perturbation) أن النماذج المدربة باستخدام التنوع المحلي (JIT) أظهرت مساحات خسارة أكثر تسطحاً ومتانة أعلى تجاه الضجيج مقارنة بالنماذج المعتمدة على الفرز الصارم.
قوانين القياس (Scaling Laws): أشار الاستقراء باستخدام قانون تشينتشيلا للقياس (Chinchilla Scaling Law) إلى أن مكاسب الأداء الناتجة عن تنظيم البيانات تستمر وتظل ثابتة حتى عند إسقاطها على أحجام نماذج أكبر (مثل GPT-3 175B و Llama 3.1 405B).

الأهمية والادعاءات

يزعم البحث أنه يقدم أول استكشاف منهجي لتنظيم البيانات المصمم خصيصاً لتدريب النماذج اللغوية الكبيرة، متجاوزاً التركيز التقليدي على اختيار البيانات.

الكفاءة: تكمن الأهمية الأساسية في القدرة على تعزيز أداء النموذج واستقرار التدريب من خلال إعادة استخدام الدرجات الموجودة، مما يكلف تقريباً لا شيء من التكلفة الحسابية الإضافية.
إطار عمل منهجي: من خلال صياغة أربعة توجيهات متميزة، يقدم العمل نهجاً مهيكلاً لترتيب البيانات يعالج أوجه الفشل المحددة لنماذج التدريب الحالية (مثل النسيان، صدمات التحسين، والإفراط في التخصيص).
الأثر العملي: أظهرت طرق STR وSAW المقترحة أنها قوية عبر مختلف سعات النماذج وأحجام البيانات، مما يشير إلى أن تنظيم البيانات هو رافعة حاسمة، وإن كانت غالباً ما يتم تجاهلها، لتحسين فعالية النماذج اللغوية الكبيرة في عصر "المسار الواحد".

يقر المؤلفون بوجود قيود، مشيرين إلى أن فعالية استراتيجياتهم تعتمد على جودة وصلة الدرجات الموجودة مسبقاً المستخدمة في التنظيم. كما يؤكدون أن عملهم يركز على الوسائط اللغوية، مع الحاجة إلى عمل مستقبلي للتقييم غير المنحاز في الوسائط الأخرى.