💬 NLP

DS $^2$ -Instruct: Domain-Specific Data Synthesis for Large Language Models Instruction Tuning

تقدم الورقة البحثية DS $^2$ -Instruct، وهو إطار عمل لتعلم التعليمات من نوع (zero-shot)، يقوم بتخليق مجموعات بيانات ضبط دقيق للتعليمات عالية الجودة ومتخصصة في مجالات معينة عبر الجمع بين الكلمات المفتاحية المستنيرة بالمهام وتصنيف بلوم والتحقق من الاتساق الذاتي، مما يؤدي إلى تحسين أداء النماذج اللغوية الكبيرة بشكل كبير في المجالات المتخصصة دون الحاجة إلى تعليق بشري.

المؤلفون الأصليون: Ruiyao Xu, Noelle I. Samia, Han Liu

نُشر 2026-03-16

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Ruiyao Xu, Noelle I. Samia, Han Liu

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تريد تعليم طالب عبقري لكنه عام (نموذج لغوي كبير، أو LLM) كيف يصبح خبيراً عالمياً في مجال محدد للغاية، مثل التمويل، أو الطب، أو الرياضيات المتقدمة.

المشكلة هي أنه لكي تعلمه، ستحتاج عادةً إلى خبير بشري ليكتب آلاف الأسئ قدم الإجابات، وهذا يشبه توظيف فريق من الأساتذة لكتابة كتاب مدرسي من الصفر. إنها عملية مكلفة، بطيئة، ويصعب توسيع نطاقها.

تحاول الطرق الحالية استخدام الذكاء الاصطناعي لكتابة هذه الأسئلة، لكنها غالباً ما تعمل ككاتب موسوعي عام. قد تسأل: "ما هو السهم؟" ولكنها قد تغفل عن التفكير العميق والمعقد الذي يحتاجه محلل مالي حقيقي. إنها تفتقر إلى "النكهة" الخاصة بالمجال.

DS2-INSTRUCT هو إطار عمل جديد وذكي يحل هذه المشكلة عبر العمل كمساعد تدريس ذكاء اصطناعي فائق الكفاءة ولا يكل، يمكنه بناء منهج دراسي مخصص لأي موضوع دون الحاجة إلى معلم بشري يكتب سؤالاً واحداً.

إليك كيف يعمل، مقسماً إلى ثلاث خطوات بسيطة باستخدام تشبيه "بناء المكتبة والامتحان":

الخطوة 1: بناء قائمة المفردات (توسيع الكلمات المفتاحية)

قبل أن تتمكن من كتابة اختبار، يجب أن تعرف ما هي الكلمات المهمة.

الطريقة القديمة: تخمن بعض الكلمات مثل "مال" أو "سهم" وتأمل أن يكون ذلك كافياً.
طريقة DS2-INSTRUCT: تبدأ ببعض الكلمات الجوهرية (مثل "محفظة استثمارية"). ثم تقوم بشيئين:
1. النظر إلى الوراء: تسأل، "ما هي المفاهيم الأساسية التي يجب معرفتها قبل فهم المحفظة الاستثمارية؟" (مثل "المخاطرة"، "التنويع").
2. النظر إلى الأمام: تسأل، "ما هي المواضيع المتقدمة التي تُبنى فوق المحفظة الاستثمارية؟" (مثل "المشتقات"، "استراتيجيات التحوط").
3. تفقد المكتبة: لا تكتفي بالتخمين؛ بل تذهب وتقرأ وثائق حقيقية (مثل ويكيبيديا أو الأوراق الأكاديمية) لتجد المصطلحات المهنية الدقيقة التي يستخدمها الخبراء الحقيقيون.
- النتيجة: قائمة ضخمة وشاملة من الكلمات المفتاحية التي تغطي كل شيء من الأساسيات للمبتدئين وصولاً إلى المصطلحات المعقدة للمتخصصين.

الخطوة 2: كتابة الأسئلة (قائمة "تصنيف بلوم")

الآن بعد أن حصلت على المفردات، يتعين عليها كتابة الأسئلة. المعلم السيئ يكتفي بسؤال "ما هو س؟" (التذكر). أما المعلم العظيم فيطرح أسئلة تجعلك تفكر.

التشبيه: تخيل قائمة طعام في مطعم. معظم نماذج الذكاء الاصطناعي تقدم فقط "مقبلات" (استرجاع بسيط). أما DS2-INSTRUCT فينشئ وجبة كاملة بناءً على تصنيف بلوم (إطار تعليمي شهير).
- المقبلات (التذكر): "عرّف 'التضخم'".
- الطبق الرئيسي (التطبيق): "إذا كان التضخم 5%، فكيف يؤثر ذلك على محفظة السندات الخاصة بك؟"
- الحلوى (الابتكار): "صمم استراتيجية استثمارية جديدة تحمي من التضخم المرتفع".
لماذا هذا مهم: من خلال إجبار الذكاء الاصطناعي على كتابة أسئلة عند كل مستوى من مستويات الصعوبة (من التعريفات البسيطة إلى الابتكار المعقد)، يتعلم الطالب كيف يفكر، وليس مجرد الحفظ.

الخطوة 3: "التحقق الذاتي" (ضبط الجودة)

أحياناً، حتى الذكاء الاصطناعي قد يرتكب أخطاء أو يصاب بالارتباك. إذا سألت ذكاءً اصطناعياً سؤالاً صعباً، فقد يعطي إجابة خاطئة.

التشبيه: تخيل أنك تقوم بتصحيح اختبار. بدلاً من الثقة في إجابة طالب واحد، تسأل نفس السؤال لخمس نسخ مختلفة من الذكاء الاصطناعي.
- إذا قال أربعة منهم "الإجابة أ" وقال واحد "الإجابة ب"، فأنت تثق في "الإجابة أ".
- إذا أعطوا جميعاً إجابات مختلفة ومتضاربة، فأنت تعلم أن السؤال كان غامضاً جداً أو مربكاً، لذا تقوم بإلقائه بعيداً.
النتيجة: فقط الأسئلة والأجوبة الأكثر وضوحاً واتساقاً هي التي تدخل في الكتاب المدرسي النهائي.

الصورة الكبيرة: لماذا يعد هذا تغييراً لقواعد اللعبة؟

اختبرت الورقة هذا النظام في سبعة مجالات صعبة: الرياضيات، التمويل، الطب، المنطق، العلوم، إلب.

النتيجة: عندما استخدموا البيانات التي أنتجها DS2-INSTRUCT لتدريب نماذج ذكاء اصطناعي أصغر، أصبحت تلك النماذج أكثر ذكاءً بشكل ملحوظ من النماذج التي تم تدريبها بواسطة طرق أخرى.
التشبيه: الأمر يشبه أخذ طالب ثانوي ذكي وإعطائه منهجاً دراسياً مخصصاً ومعداً على مستوى الخبراء. لم يتعلموا الحقائق فحسب؛ بل تعلموا كيف يفكرون كالمحترفين.

باخت-القول: DS2-INSTRUCT هو مصنع "صفر محاولات" (أي لا يحتاج لمساعدة بشرية) يقوم تلقائياً ببناء بيانات تدريب عالية الجودة ومتخصصة في المجال. إنه يضمن أن يتعلم الذكاء الاصطناعي الكلمات الصحيحة، ويفكر بالعمق المطلوب، ولا يتدرب إلا على أسئلة تم فحص جودتها بصرامة.

إليك ملخص تقني مفصل لورقة البحث بعنوان: "DS2-INSTRUCT: توليد البيانات المتخصصة في مجال معين لتوليف تعليمات النماذج اللغوية الكبيرة."

1. بيان المشكلة

يتطلب تكييف النماذج اللغوية الكبيرة (LLMs) مع مجالات متخصصة (مثل التمويل، الطب، القانون) مجموعات بيانات عالية الجودة لتوليف التعليمات (Instruction-tuning). ومع ذلك، فإن إنشاء هذه المجموعات عبر التوسيم البشري مكلف للغاية وبطيء. تعاني طرق توليد البيانات الآلية الحالية التي تستهدف المهام العامة بشكل أساسي من قصور عند تطبيقها على مجالات محددة، وذلك بسبب مشكلتين رئيسيتين:

الافتقار إلى العمق المعرفي للمجال: تفشل هذه الطرق في التقاط المصطلحات المتخصصة، وأنماط الاستدلال، وهياكل المعرفة الهرمية الفريدة لمجالات معينة.
الاعتماد على الموارد: تتطلب النهج الحالية غالبًا إما مجموعات بيانات مملوكة وحصرية (والتي غالبًا ما تكون غير متاحة) أو أمثلة "بذرية" (Seed examples) مكتوبة من قبل خبراء بشريين، مما يحد من القدرة على التوسع والأتمتة.

تعالج الورقة تحدي توليد مجموعات بيانات تعليمات عالية الجودة، ومتنوعة، وشاملة لمجالات محددة دون أي إشراف بشري، أو أمثلة بذرية، أو مجموعات بيانات (Corpora) متخصصة.

2. المنهجية: إطار عمل DS2-INSTRUCT

يقترح المؤلفون إطار عمل DS2-INSTRUCT، وهو إطار عمل "صفر استباقي" (Zero-shot) يقوم بتوليد بيانات التعليمات بشكل منهجي من خلال ثلاث مراحل أساسية. يأخذ الإطار فقط تعريف المهمة ( $T_{desc}$ ) كمدخل.

أ. توليد الكلمات المفتاحية القائم على المهمة

لضمان تغطية شاملة للمجال، يبني إطار العمل قاعدة معرفية عبر عملية مكونة من ثلاث خطوات:

البذر الأولي (Initial Seeding): يقوم نموذج لغوي كبير بتوليد مجموعة أولية من $n$ من الكلمات المفتاحية بناءً على وصف المهمة.
التوسع ثنائي الاتجاه (Bi-Directional Expansion): يقوم النظام بتوسيع مجموعة الكلمات المفتاحية بشكل تكراري في اتجاهين:
- التوسع المتطلب (Prerequisite Expansion): تحديد المفاهيم الأساسية والمصطلحات القاعدية اللازمة لفهم الكلمات المفتاحية الحالية.
- التوسع المتقدم (Advanced Expansion): تحديد المجالات الفرعية المتخصصة، والتطورات الحديثة، والمواضيع ذات المستوى الخبير المبنية على الكلمات المفتاحية الحالية.
- الآلية: يستخدم هذا الجزء أخذ العينات العشوائية والتعلم داخل السياق (In-context learning) لمنع التركيز على مجموعة ضيقة من المعرفة.
الاستخراج المعزز بالاسترجاع (Retrieval-Augmented Extraction): للتخفيف من حدة الهلوسة وضمان التأسيس الواقعي، يقوم النظام باسترجاع فقرات ذات صلة من مجموعة بيانات متعددة المجالات (The Pile: تشمل ArXiv, FreeLaw, StackExchange, Wikipedia, Github) باستخدام خوارزمية BM25. ثم يقوم النموذج اللغوي الكبير باستخراج كلمات مفتاحية إضافية مباشرة من هذه النصوص الموثوقة.

ب. توليد التعليمات على المستوى المعرفي

لضمان التنوع المعرفي وتجنب الأسئلة المتكررة والسطحية، يدمج إطار العمل تصنيف بلوم (Bloom's Taxonomy).

المستويات المعرفية: يتم توليد التعليمات عبر ستة مستويات هرمية: التذكر، الفهم، التطبيق، التحليل، التقييم، والابتكار.
مطابقة الكلمات المفتاحية:
- الكلمة المفتاحية المنفردة: يربط كل كلمة مفتاحية بكل مستوى معرفي لضمان إتقان المفهوم الفردي.
- الكلمات المفتاحية المزدوجة: يربط الكلمات المفتاحية ببعضها لاستكشاف العلاقات وتكامل المفاهيم المتعددة، مع التركيز على المستويات التي تدعم الاستدلال العلاقاتي (الفهم، التطبيق، التحليل، التقييم).

ج. تصفية الاتساق الذاتي وتوليد الاستجابة

لضمان جودة البيانات، يستخدم إطار العمل آلية الاتساق الذاتي:

التوليد المتعدد (Multi-Generation): لكل تعليمات مرشحة، يقوم النموذج اللغوي بتوليد $N$ من الاستجابات المستقلة.
التصويت (Voting): يستخرج النظام الإجابة النهائية من كل استجابة ويحسب تكرار التصويت.
التصفية (Filtering): يتم استبعاد التعليمات التي لا تلبي الإجابة الأكثر تكرارًا فيها عتبة الاتساق ( $\tau$ ). هذا يؤدي إلى إزالة التعليمات الغامضة أو المصاغة بشكل سيئ.
المخرج النهائي: الاستجابة النهائية للتعليمات التي تم الاحتفاظ بها هي الإجابة ذات أعلى تكرار في التصويت.

3. المساهمات الرئيسية

التكيف مع المجال بصفر استباقي (Zero-Shot): إطار عمل يولد بيانات تعليمات متخصصة في المجال دون الحاجة إلى بذور بشرية، أو مجموعات بيانات موسومة، أو إشراف من الخبراء.
التنوع المعرفي: الدمج المبتكر لتصنيف بلوم لتوليد تعليمات بشكل منهجي تتراوح من الاستدعاء الأساسي إلى التركيب الإبداعي المعقد، مما يحسن قدرات الاستدلال.
ضمان الجودة: استخدام تصفية الاتساق الذاتي لتحديد وإزالة أزواج (التعليمات-الاستجابة) منخفضة الجودة أو الغامضة تلقائيًا.
التقييم الشامل: تجارب واسعة النطاق عبر سبعة مجالات صعبة (الرياضيات، التمويل، الطب، المنطق، إلخ) أظهرت أداءً متفوقًا على جميع الخطوط المرجعية (Baselines) الحالية.

4. النتائج التجريبية

قام المؤلفون بتقييم DS2-INSTRUCT باستخدام Qwen2.5-72B-Instruct كمولد، وقاموا بضبط ثلاثة نماذج مستهدفة (Llama3-8B, Mistral-7B, Qwen2.5-7B) باستخدام البيانات المولدة.

مكاسب الأداء: تفوقت النماذج التي تم ضبطها باستخدام بيانات DS2-INSTRUCT باستمرار على جميع الخطوط المرجعية (Zero-Shot, Self-Instruct, InstructMix, ExploreInstruct) عبر جميع الاختبارات السبعة.
- مثال: في نموذج Llama3-8B، ارتفع متوسط الدقة عبر المجالات من 14.34% (Zero-Shot) إلى 42.83% (DS2-INSTRUCT)، وهو تحسن هائل مقارنة بطرق التوليد الأخرى.
- مثال: في نموذج Mistral-7B، ارتفع متوسط الدرجات من 9.70% إلى 37.83%.
تنوع البيانات: أظهر تحليل أزواج (الفعل-الاسم) أن DS2-INSTRUCT يولد أنماطًا لغوية فريدة أكثر بكثير ويغطي نطاقًا أوسع من المفاهيم مقارنة بـ "Domain-Aware Self-Instruct"، التي كانت تميل للتركز حول أفعال شائعة (مثل "احسب"، "حل").
دراسات الاستئصال (Ablation Studies):
- أدى إزالة التوسع ثنائي الاتجاه أو الاسترجاء المعزز إلى انخفاض الأداء بشكل كبير، مما يؤكد ضرورة الاستكشاف العميق للمجال.
- أدت إزالة توجيه المستوى المعرفي إلى انخفاض في قدرات الاستدلال.
- أدت إزالة تصفية الاتساق الذاتي إلى انخفاض في الدقة، مما يثبت دورها في مراقبة الجودة.
القابلية للتوسع: تحسن الأداء مع أحجام بيانات التدريب الأكبر (حتى 6,000 عينة) وأظهر مكاسب متسقة عبر أحجام النماذج المختلفة (من 3 مليار إلى 14 مليار معلمة)، وإن كانت المكاسب أكثر وضوحًا في النماذج الأصغر.

5. الأهمية والأثر

ديمقراطية التكيف مع المجالات: يقلل DS2-INSTRUCT من حواجز الدخول لتكييف النماذج اللغوية الكبيرة مع المجالات المتخصصة. لم تعد المؤسسات بحاجة إلى معلقين بشريين مكلفين أو الوصول إلى مجموعات بيانات مملوكة لإنشاء بيانات تدريب عالية الجودة.
تعزيز الاستدلال: من خلال هيكلة توليد البيانات صراحةً حول تصنيف بلوم، ينتج الإطار نماذج ليست فقط أفضل في استدعاء الحقائق، بل هي أيضًا متفوقة في تحليل وتقييم وابتكار الحلول داخل مجال معين.
المتانة: اعتماد الإطار على التوليد المعزز بالاسترجاع وتصفية الاتساق الذاتي يضمن أن البيانات المولدة راسخة في معرفة موثوقة ومتسقة منطقيًا، مما يعالج أوجه القصور الشائعة في البيانات الاصطناعية (الهلوسة والغموض).

القيود: يشير المؤلفون إلى أن الإطار يعتمد على قواعد معرفية ثابتة (قد تفتقر إلى المواضيع الناشئة)، ويعتمد على جودة النموذج اللغوي المولد (خطر نشر الانحيازات)، وقد تم تقييمه حاليًا على اختبارات اللغة الإنجليزية فقط.