🤖 machine learning

DeltaPrompts: Escaping the Zero-Delta Trap in Multimodal Distillation

تقدم الورقة البحثية DeltaPrompts، وهي مجموعة بيانات تضم 200 ألف مسألة استدلال اصطناعية تم إنشاؤها عبر مسار مرحلي يستهدف مطالبات "الفرق الصفري" (zero-delta) حيث يتفق النموذجان المعلم والطالب، مما يؤدي إلى تعظيم إشارات التعلم وتحقيق تحسينات في الأداء بنسبة تصل إلى 15% في الأداء النسبي عبر سيناريوهات التقطير متعددة الوسائط المتنوعة.

المؤلفون الأصليون: Jaehun Jung, Hyunwoo Kim, Brandon Cui, Ximing Lu, David Acuna, Prithviraj Ammanabrolu, Yejin Choi

نُشر 2026-05-18

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Jaehun Jung, Hyunwoo Kim, Brandon Cui, Ximing Lu, David Acuna, Prithviraj Ammanabrolu, Yejin Choi

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

إليك شرح لورقة البحث بعنوان "DeltaPrompts: الهروب من فخ 'الفرق الصفري' في التقطير متعدد الوسائط" باستخدام لغة بسيطة وتشبيهات من الحياة اليومية.

المشكلة الكبرى: فخ "الفرق الصفري" (Zero-Delta)

تخيل أنك طالب تحاول تعلم كيفية حل مسائل رياضية معقدة من معلم عبقري. تريد التعلم من خلال مشاهدة المعلم وهو يحل المسائل، ثم تحاول حلها بنفسك. تسمى هذه العملية "التقطير" (Distillation).

عادةً، يقوم الباحثون بجمع كومة كبيرة من المسائل الرياضية الموجودة حالياً (مثل تلك الموجودة في الكتب المدرسية) ويستخدمونها لهذا التدريب. لكن مؤلفي هذه الورقة اكتشفوا عيباً خفياً في هذا النهج: معظم هذه المسائل سهلة للغاية بالنسبة للطالب.

لقد أطلقوا على هذا "فخ الفرق الصفري" (Zero-Delta Trap):

السيناريو: تعطي مسألة للمعلم. يقوم المعلم بحلها. ثم تعطي نفس المسألة تماماً للطالب.
الفخ: الطالب يعرف بالفعل كيفية حلها بشكل مثالي. فهو يحصل على نفس إجابة المعلم تماماً.
النتيجة: بما أن الطالب والمعلم متفقان بنسبة 100%، فإن الطالب لا يتعلم شيئاً. الأمر يشبه معلماً يشرح مفهوماً لطالب أتقنه بالفعل بالأمس. دماغ الطالب لا يستجيب؛ ولا يتم بناء روابط عصبية جديدة.

وجدت الورقة أنه في مجموعات البيانات القياسية المستخدمة للاستنتاج من الرسوم البيانية والمستندات، تصل نسبة مسائل "الفرق الصفري" إلى 69%. الطالب والمعلم على نفس الصفحة بالفعل، لذا فإن التدريب عليها هو مضيعة للوقت. حتى لو أعطيت الطالب 100 ضعف من هذه المسائل السهلة، فلن يصبح أكثر ذكاءً.

الحل: قياس "الفجوة" (Delta)

لإصلاح ذلك، وضع المؤلفون قاعدة جديدة: المسألة تكون مفيدة فقط إذا اختلف المعلم والطالب.

يسمون هذا الاختلاف "تباعد الإجابات" (أو دلتا، $\Delta$ ).

دلتا مرتفعة: يحل المعلم المسألة بطريقة ما، بينما يخطئ الطالب فيها (أو يخمن بشكل مختلف). هذه فرصة للتعلم. يدرك الطالب: "أوه، لقد فاتني هذا الجزء!" ويتعلم من تصحيح المعلم.
دلتا صفرية: كلاهما يصيب الإجابة الصحيحة. لا يحدث أي تعلم.

تجادل الورقة بأنه لجعل الذكاء الاصطناعي ذكياً، لا تحتاج إلى مزيد من البيانات؛ بل تحتاج إلى بيانات أفضل—وتحديداً البيانات التي يعاني فيها الذكاء الاصطناعي فعلياً.

الإصلاح: بناء مجموعة بيانات "دلتا" (Delta)

بما أن الكتب المدرسية الموجودة مليئة بمسائل "الفرق الصفري"، فقد بنى المؤلفون نظاماً جديداً لإنشاء مسائلهم الخاصة. أطلقوا على مجموعة البيانات الجديدة هذه اسم DELTAPROMPTS.

إليكم كيف بنواها، باستخدام وصفة من ثلاث خطوات:

التوليد الموجه بالبذرة (المخطط): أخذوا مسائل موجودة وطلبوا من ذكاء اصطناعي قوي (المعلم) إنشاء نسخ جديدة وأكثر صعوبة منها. فكر في الأمر كمعلم ينظر إلى مسألة رياضية ويقول: "حسناً، لن جعلها أكثر دهاءً قليلاً".
التوليد الموجه بالمهارة (الهدف): هذا هو السر الحقيقي. يبحث النظام في المهارات التي فشل فيها ذكاء الطالب الاصطناعي في الماضي. يسأل المعلم: "ما هي المهارة المحددة التي فاتَت الطالب؟" (مثلاً: "الطالب لم يستطع قراءة الأرقام الصغيرة على الرسم البياني"). ثم يقوم المعلم بتوليد مسألة جديدة مصممة خصيصاً لاختبار تلك المهارة الضعيفة تحديداً.
فلتر الرفض (الحارس): يقومون بتوليد آلاف المسائل الجديدة. ولكن قبل الاحتفاظ بها، يجرون اختباراً: "هل يخطئ الطالب في هذه المسألة بينما يصيبها المعلم؟"
- إذا كانت الإجابة نعم (دلتا مرتفعة): احتفظ بها.
- إذا كانت الإجابة لا (دلتا صفرية): ارمِها بعيداً.

النتيجة هي مجموعة بيانات مكونة من 200,000 مسألة مصممة خصيصاً حيث يضمن النظام معاناة الطالب، مما يضمن أقصى قدر من التعلم.

النتائج: تعزيز قدرات الطالب

اختبر المؤلفون مجموعة البيانات الجديدة هذه على نماذج ذكاء اصطناي مختلفة. وكانت النتائج مبهرة:

مكاسب هائلة: حتى عند تدريب نموذج ذكاء اصطناعي ذكي جداً بالفعل، فإن استخدام DELTAPROMPTS حسن أداءه بنسبة تصل إلى 15% مقارنة باستخدام مجموعات البيانات القياسية.
تعمل مع طلاب جدد: أخذوا المسائل المصنوعة لنوع معين من الذكاء الاصطناٍ وأعطوها لنوع مختلف تماماً. ومع ذلك، نجحت الطريقة! وهذا يثبت أن المسائل لا تعتمد على حفظ إجابات محددة، بل تعلم مهارات استنتاج عامة.
أفضل في كل شيء: لم يصبح الذكاء الاصطناعي أفضل في الرسوم البيانية فحسب، بل أصبح أفضل أيضاً في قراءة المستندات وفهم الصور الواقعية.

الخلاصة

تخلص الورقة إلى أن العائق أمام تعليم الذكاء الاصطناعي ليس امتلاك المزيد من البيانات، بل امتلاك البيانات الصحيحة.

التشبيه:
إذا كنت تريد اللياقة البدنية، فإن الجري على جهاز المشي بسرعة 1 ميل في الساعة (الفرق الصفري) لن يساعدك، حتى لو جريت لمدة 10 ساعات. أنت بحاجة للجري بسرعة تجعلك تعاني ولكن يمكنك إنهاء التمرين (الفرق المرتفع). DELTAPROMPTS هو المدرب الشخصي الذي يضبط السرعة باستمرار لضمان بقائك دائماً في "النقطة المثالية" للتعلم، بدلاً من تركك تكتفي بالمسائل السهلة.

من خلال التركيز على الفجوة بين ما يعرفه الذكاء الاصطناعي وما يحتاج إلى تعلمه، ابتكر المؤلفون طريقة أكثر كفاءة لتدريب نماذج ذكاء اصطناعي أصغر وأكثر ذكاءً.

ملخص تقني: DeltaPrompts – الهروب من فخ "الفرق الصفري" في التقطير متعدد الوسائط

بيان المشكلة

أصبح "تقطير المعرفة" (Knowledge Distillation) آلية محورية لتزويد نماذج الرؤية واللغة (VLMs) المدمجة بقدرات استدلال قوية عبر الاستفåدة من نماذج معلمة أقوى. ومع ذلك، تعتمد الممارسات الحالية بشكل كبير على مجموعات بيانات جاهزة (مثل ChartQA وSciVQA) حيث يتم اختيار المطالبات (prompts) عبر قواعد استدلال بسيطة أو تجميعها من مستودعات موجودة. يحدد المؤلفون عدم كفاءة حرج في هذا النهج: وهو أن جزءاً كبيراً من هذه المطالبات هو "صفرية الفرق" (zero-delta).

تُعرف المطالبة بأنها "صفرية الفرق" عندما يستحث النموذج المعلم والنموذج الطالب نفس توزيع الإجابة تماماً لمدخل معين. في مثل هذه الحالات، توفر إشارة التقطير قيمة تعلم ضئيلة لأن الطالب لا يتعرض لفجوة قدرات يحتاج إلى جسرها. يكشف البحث أن ما يصل إلى 69% من المطالبات في مجموعات بيانات الاستدلال الخاصة بالرسوم البيانية والمستندات هي فعلياً صفرية الفرق. التدريب على هذه المطالبات يؤدي إلى تشبع أداء الطالب بسرعة، بغض النظر عن حجم البيانات. علاوة على ذلك، فإن مجرد تصفية مجموعات البيانات الموجودة للاحتفاظ فقط بالمطالبات غير صفرية الفرق هو أمر غير مثالي، لأنه يقلل بشكل كبير من تنوع بيانات التدريب (بنسبة تصل إلى 29.4%)، مما يؤدي إلى مقايضة حيث يتم اكتساب التباعد على حساب التعميم.

المنهجية

لمعالجة فخ "الفرق الصفري"، يقترح المؤلفون تحولاً من التقييم السلبي للبيانات إلى تخليق المطالبات النشط (active prompt synthesis) المدفوع بمبدأ تباعد الإجابات ( $\Delta$ ).

1. تعريف تباعد الإجابات

بدلاً من قياس التباعد على مستوى التسلسل (وهو أمر صاخب وصعب حوسبياً بسبب المخرجات ذات الأطوال المتغيرة)، يعرّف المؤلفون تباعد الإجابات على الفضاء المنفصل للإجابات النهائية.

المقياس: $\Delta(x) = D_{KL}(P_\theta(\cdot|x) \parallel P_T(\cdot|x))$ ، حيث $P_\theta$ و $P_T$ هما توزيعات الإجابة التجريبية للطالب والمعلم، على التوالي.
التقدير: يتم تقريب التوزيعات عن طريق أخذ عينات من $K=16$ مسارات من كلا النموذجين. يقوم نموذج لغوي كبير (Qwen3-32B) بتجميع الإجابات المتكافئة دلالياً للتعامل مع الاختلافات السطحية، مما يسمح بحساب قوي للتباعد حتى بالنسبة للإجابات مفتوحة النهاية.

2. خط إنتاج تخليق DELTAPROMPTS

يقترح المؤلفون خط إنتاج تخليق متعدد المراحل يعيد توظيف مجموعات البيانات الموجودة كبذور (seeds) بدلاً من موارد تدريب مباشرة. يتكون الخط من ثلاث مراحل:

المرحلة 1: التوليد الموجه بالبذور: تُستخدم أزواج (صورة-مطالبة) الموجودة كأمثلة قليلة (few-shot) لتحفيز النموذج المعلم على توليد مشكلات جديدة وأكثر صعوبة لصور جديدة. هذا يوسع نطاق المرشحين.
المرحلة 2: التوليد الموجه بالمهارات: لاستهداف أوجه قصور الطالب بشكل صريح، يستخلص خط الإنتاج "المهارات" عبر مقارنة مسارات المعلم (الصحيحة) بمسارات الطالب (الخاطئة) للمطالبات ذات التباين غير الصفري. تُستخدم هذه المهارات (مثل "استكمال المقاييس اللوغاريتمية") بعد ذلك لتكييف المولد، مما يجبره على إنشاء مطالبات تتطلب هذه القدرات المفقودة تحديداً.
المرحلة 3: رفض الصفرية: يتم تقييم جميع المطالبات المولدة من حيث تباعد الإجابات. المطالبات التي يتفق فيها المعلم والطالب (صفرية الفرق) يتم رفضها. يتم الاحتفاظ فقط بالمطالبات ذات الاتساق العالي للمعلم والتباين غير الصفري.

تنتج هذه العملية DELTAPROMPTS، وهي مجموعة بيانات مكونة من 200 ألف مشكلة استدلال اصطناعية عالية التباين تغطي الاستدلال في الرسوم البيانية/المستندات، والاستدلال المرتكز على الإدراك وعالي الدقة.

المساهمات الرئيسية

تحديد فخ "الفرق الصفري": يثبت البحث تجريبياً أن مجموعات بيانات الاستدلال متعددة الوسائط القياسية تهيمن عليها مطالبات صفرية الفرق، مما يؤدي إلى التشبع المبكر في أداء الطالب أثناء عملية التقطير.
تباعد الإجابات كمقياس مبدئي: يقدم المؤلفون "تباعد الإجابات" كمقياس قابل للتطبيق وحرج لقياس فجوة القدرات بين المعلم والطالب، موضحين أنه مؤشر أقوى لنجاح التقطير من حجم البيانات الخام أو التنوع وحده.
خط إنتاج تخليق ثنائي المرحلة: طريقة مبتكرة لتوليد بيانات تدريب عالية الجودة تبحث بنشاط عن أوجه قصور الطالب عبر التوليد الموجه بالمهارات، بدلاً من التصفية السلبية للبيانات الموجودة.
مجموعة بيانات DELTAPROMPTS: مجموعة بيانات واسعة النطاق ومتنوعة تضم 200 ألف مطالبة مصممة خصيصاً لتعظيم تباعد الإجابات، متفوقة على الخلطات الموجودة في كل من مقاييس التباعد والتنوع.

النتائج التجريبية

يقيم المؤلفون DELTAPROMPTS عبر ثلاث إعدادات متميزة باستخدام عائلات نماذج Qwen3-VL و GLM-4:

التقطير في السياسة (On-Policy Distillation): عند تقطير طالب (Qwen3-VL-8B-Thinking) من معلم (Qwen3-VL-235B-Thinking)، تحقق DELTAPROMPTS تحسناً نسبياً يصل إلى 15% عبر 10 اختبارات معيارية (بما في ذلك ChartQA و InfoVQA و RealWorldQA)، حتى عندما يكون الطالب الأساسي نموذج استدلال محسناً للغاية بالفعل.
النقل عبر العائلات (Cross-Family Transfer): تعمم مجموعة البيانات النتائج على عائلة نماذج مختلفة (GLM-4.1V-9B-Thinking) دون إعادة توليد البيانات، وذلك ببساطة عن طريق إعادة التصفية للحصول على تباين غير صفري تحت الزوج الجديد.
الضبط الدقيق خارج السياسة (Off-Policy SFT): عند استخدامها للضبط الدقيق الخاضع للإشراف (SFT) على نموذج غير استدلالي (Qwen3-VL-8B-Instruct)، تتفوق DELTAPROMPT بشكل كبير على خلطات SFT الحالية وتظهر احتفاظاً أفضل بالمهام خارج النطاق (الرياضيات، المنطق، العلوم STEM) مقارنة بـ SFT القياسي.
الدراسات الاستقصائية (Ablation Studies):
- التباين مقابل التنوع: مع التحكم في التنوع، يستمر التدريب على مطالبات التباين ( $\Delta > 0$ ) في تحسين الأداء مع حجم البيانات، بينما تتشبع مطالبات الصفر ( $\Delta = 0$ ) فوراً.
- تصفية الاتساق: المطالبات التي يكون فيها المعلم غير متسق (يصعب حلها حتى بالنسبة للمعلم) تؤدي إلى تدهور الأداء، مما يؤكد الحاجة إلى التصفية القائمة على الاتساق في خط إنتاج التخليق.

الأهمية والادعاءات

يزعم البحث أن العائق المركزي في التقطير متعدد الوسائط ليس تجميع المزيد من المطالبات أو المسارات، بل بناء مطالبات يختلف فيها المعلم والطالب بشكل ملموس.

من خلال تحويل التركيز من كمية البيانات إلى جودة التباين، يوضح المؤلفون أن التخليق المستهدف للمطالبات يمكن أن يحقق مكاسب كبيرة مع بيانات أقل بكثير مقارنة بالتجميع التجريبي للمجموعات الموجودة. يشير العمل إلى أن تباعد الإجابات هو خاصية أساسية للتوسع الفعال في التقطير، مما يوفر مساراً لتدريب النماذج المدمجة القادرة بشكل أكثر كفاءة. يضع المؤلفون DELTAPROMPTS ليس فقط كمجموعة بيانات، بل كإثبات لمفهوم نهج أكثر انضباطاً وتمركزاً حول البيانات للتقطير، والذي يستهدف بنشاط فجوات القدرات المحددة لنموذج الطالب.