Scaling Towards the Information Boundary of Instruction Sets: The Infinity Instruct Subject Technical Report

ملخص تقني: التوسع نحو الحدود المعلوماتية لمجموعات التعليمات

1. بيان المشكلة

بينما يعد ضبط التعليمات (Instruction Tuning) أمراً ضرورياً لإطلاق قدرات النماذج اللغوية الكبيرة (LLMs)، تعاني مجموعات التعليمات الحالية —حتى تلك التي تصل إلى عشرات الملايين من العينات— من قصورين أساسيين:

• تغطية محدودة: نقص في تنوع أنواع المهام ومجالات المعرفة، مما يؤدي إلى أداء ضعيف في المجالات "النادرة" أو المتخصصة.
• عمق محدود: نقص في تعقيد التعليمات، مما يمنع النماذج من إتقان الاستدلال عالي المستوى والتعميم التركيبي.

تركز الطرق الحالية غالباً على زيادة كمية البيانات من خلال التوليد البسيط، وهو ما يؤدي في كثير من الأحيان إلى التكرار ويفشل في دفع النموذج نحو "حدوده المعلوماتية" (الحد الأقصى لقدراته في الاستدلال والمعرفة).

2. المنهجية

يقترح المؤلفون إطار عمل نظامي، تكراري، وحلقي مغلق مصمم لتوسيع كل من تغطية وعمق مجموعات التعليمات. يتكون إطار العمل من أربعة مكونات أساسية:

• نظام الوسم متعدد اللغات الهرمي: لفهم توزيع البيانات الحالي، طور المؤلفون نظام وسم من الأسفل إلى الأعلى. يستخدم هذا النظام النماذج اللغوية الكبيرة لتوليد وسوم دقيقة (مهارات/معرفة)، والتي يتم تطبيعها بعد ذلك عبر التشابه الدلالي (تضمينات BGE وتجميع DBSCAN) وتجريدها إلى فئات أوسع على مستوى المجال.
• اختيار البذور المعلوماتية: بدلاً من أخذ العينات العشوائية، يختار إطار العمل "بذوراً عالية المعلومات" بناءً على أربعة معايير:
  1. صعبة الاتباع: تعليمات ذات حد أدنى من خفض الخسارة (Loss Reduction) بعد الضبط.
  2. الذيل الطويل (Long-Tail): تعليمات تحتوي على وسوم دقيقة نادرة (منخفضة التكرار).
  3. متعددة المهارات: تعليمات معقدة تتطلب أكثر من 4 وسوم دقيقة.
  4. غير مدربة كفاية: تعليمات تظهر فيها للنموذج الأساسي خسارة اعتلاج (Cross-Entropy Loss) عالية.
• توليد البيانات التطوري: لزيادة العمق، يستخدم إطار العمل خوارزمية تطورية (مستوحاة من Evol-Instruct). تقوم هذه الخوارزمية بتطوير تعليمات البذور عبر أبعاد مثل زيادة خطوات الاستدلال، أو تجسيد التفاصيل، أو تعميق التعقيد، متبوعاً بالتحقق من الجودة وتوليد حوارات متعددة الأدوار.
• تشخيص قصور النموذج والتوليد المستهدف: لزيادة التغطية وإصلاح نقاط الضعف المحددة، ينفذ إطار العمل حلقة "المعلم-الطالب". يقوم نموذج "أوراكل" (Oracle) بتشخيص الأخطاء التي يرتكبها النموذج الذي تم ضبطه (تحديد المعرفة أو المهارات المفقودة تحديداً)، ثم يقوم بتوليد تعليمات جديدة ومستهدفة لمعالجة تلك النواقص بدقة.

كما طبق المؤلفون وحدة منع تسرب البيانات باستخدام التشابه الدلالي لضمان عدم تداخل بيانات التدريب مع معايير التقييم الشائعة.

3. المساهمات الرئيسية

• مجموعة بيانات InfInstruct-Sub: بناء مجموعة بيانات عالية الجودة تحتوي على حوالي 1.5 مليون تعليمات.
• إطار عمل حلقي مغلق: منهجية مبتكرة تنتقل من مجرد التوسع البسيط للبيانات إلى التطور النوعي والتكراري لمجموعات التعليمات.
• اكتشاف قوانين التوسع في هيكل المعرفة: يحدد البحث بنية اتصال خالية من المقياس (Scale-free) في وسوم التعليمات. يتبع تكرار ظهور الوسوم معاً توزيع قانون القوة (Power-law distribution)، مما يشير إلى أن بيانات التعليمات تمتلك طوبولوجيا معقدة تشبه الإنترنت، حيث ترتبط "المهارات الأساسية" بالعديد من "المهارات النادرة".

4. النتائج

• أداء متفوق: تفوقت النماذج التي تم ضبطها باستخدام InfInstruct-Sub (مثل Llama-3-8B و Qwen-2-7B) بشكل كبير على نظيراتها المضبوطة رسمياً وعلى مجموعات البيانات الرئيسية الأخرى مثل OpenHermes 2.5 و Magpie في اختبارات مثل AlpacaEval 2.0 و Arena-Hard-V0.1.
• التعقيد والتنوع: أثبت التحليل الكمي (الاعتلاج المكاني ودرجة الصعوبة) أن InfInstruct-Sub تمتلك تغطية دلالية أعلى (توزيع أكثر انتظاماً في الفضاء الدلالي) ومتوسط صعوبة أعلى مقارنة بمجموعات البيانات الاصطناعية الموجودة.
• التحقق من التوسع: أظهرت التجارب أنه حتى عندما يكون حجم مجموعة البيانات ثابتاً، فإن زيادة عمق و تغطية التعليمات تؤدي إلى تحسينات مستمرة في أداء النموذج.

5. الأهمية

ينقل هذا العمل نموذج ضبط التعليمات من مبدأ "الأكثر هو الأفضل" إلى "الأفضل هو الأفضل". ومن خلال توفير طريقة رياضية ونظامية لقياس وتوسيع "الحدود المعلوماتية" لمجموعة البيانات، يقدم البحث مخططاً للتطور المستمر للنماذج اللغوية الكبيرة. إن اكتشاف توزيع قانون القوة في اتصال الوسوم يقدم عدسة نظرية جديدة لفهم كيفية هيكلة المعرفة داخل بيانات التدريب وكيفية ارتباطها بقوانين التوسع لأداء النماذج.