ملخص تقني: فك التشفير الموجه بالثنائي-الأولي للانتشار المنفصل المقيد

بيان المشكلة

برزت نماذج الانتشار المنفصل (Discrete diffusion models) كبديل قوي للنماذج ذات الترتيب الذاتي (Autoregressive models) لتوليد تسلسلات مهيكلة (مثل النصوص، الجزيئات، أو قوائم تشغيل الموسيقى) عبر عملية كشف تدريجي للرموز (tokens). ومع ذلك، لا يزال هناك تحدٍ كبير يتمثل في فرض قيود الخصائص العالمية (مثل أعداد مفردات معينة، أو أوزان جزيئية مستهدفة، أو تركيبات أنواع موسيقية معينة) أثناء عملية التوليد دون المساس بتوزيع البيانات الذي تعلمه النموذج.

تواجه الأساليب الحالية مقايضة بين تحقيق القيود وبين دقة التوزيع:

• التوجيه بالمتنبئ/المصنف (Predictor/Classifier Guidance): يتطلب تدريب نموذج مساعد لكل خاصية، وغالبًا ما يعمل في مساحات مستمرة لا تنطبق مباشرة على الرموز المنفصلة.
• الانتشار المنفصل المقيد (CDD): يتجنب التدريب المساعد ولكنه يعتمد على حلقات تحسين داخلية (مثل Gumbel-softmax) عند كل خطوة من خطوات إزالة الضجيج (denoising)، مما يؤدي إلى زيادة في العبء الحسابي تتراوح بين 5 إلى 20 ضعفًا.
• الانحياز الاستاتيكي (Static Bias): غالبًا ما تفشل الانحيازات الإضافية البسيطة في التكيف مع السياق المتطور لعملية التوليد، مما يؤدي إلى تجاوز الهدف أو عدم كفاية تحقيق القيد.

تتمثل المشكلة الجوهرية في صياغة التوليد المقيد كمسألة تحسين يمكن حلها أونلاين (online) أثناء عملية إزالة الضج، مع الحفاظ على الكفاءة الحسابية لعملية أخذ العينات القياسية وتوفير ضمانات رسمية بشأن انتهاك القيود.

المنهجية: فك التشفير الموجه بالثنائي-الأولي (Primal-Dual Guided Decoding)

يقترح المؤلفون فك التشفير الموجه بالثنائي-الأولي (SPDD)، وهو أسلوب للاستدلال يصيغ التوليد المقيد كمسألة تحسين منظمة بتباعد KL (KL-regularized optimization). يقوم هذا الأسلوب بحل هذه المسألة عبر الإنترنت باستخدام مضاعفات لاغرانج التكيفية التي يتم تحديثها عبر طريقة "النزول المرآتي" (mirror descent).

1. صياغة التحسين

الهدف هو إيجاد توزيع أخذ عينات $r(x_0)$ يحقق قيدًا خطيًا (مثل المساهمة الإجمالية المتوقعة $\ge R$) مع تقليل تباعد KL عن توزيع النموذج الأصلي $p_\theta(x_0)$.
$$\min_{r} D_{KL}(r(x_0) \| p_\theta(x_0)) \quad \text{subject to} \quad \sum b_{\ell j} r(x_0^\ell = j) \ge R$$
حيث تمثل $b_{\ell j}$ مساهمة الرمز $j$ في الموقع $\ell$ تجاه القيد.

2. التقريب الثنائي-الأولي عبر الإنترنت (Online Primal-Dual Approximation)

بدلاً من حل المسار الكامل خارج الخط (offline)، تعامل الطريقة المسألة كتحسين عبر الإنترنت لقرارات أخذ عينات مستوى الرمز عند كل خطوة إزالة ضجيج $t$.

• تحديث الأولي (Primate Update - Sampling): عند كل خطوة، يتم تعديل احتمالات الرموز بواسطة انحياز إضافي يعتمد على القيد، مشتق من مضاعف لاغرانج $\lambda$. توزيع أخذ العينات الأمثل هو:
  $$a_{\ell j}^t = \frac{p_\theta(x_\ell^t = j | x_{t+1}) e^{\lambda_{t+1} b_{\ell j}}}{\sum_i p_\theta(x_\ell^t = i | x_{t+1}) e^{\lambda_{t+1} b_{\ell i}}}$$
  يعمل هذا فعليًا على إعادة وزن "لوجيتات" (logits) النموذج، مما يزيد من وزن الرموز التي تساهم في القيد.
• تحديث الثنائي (Dual Update - Multiplier): يتم تحديث مضاعف لاغرانج $\lambda_t$ باستخدام النزول المرآتي (mirror descent) بناءً على انتهاك القيد التراكمي (الفائض/slack) الملاحظ أثناء التوليد:
  $$\lambda_t = \lambda_T \exp\left\{ -\eta \sum_{\tau=t}^{T-1} \sum_{\ell, j} \left(b_{\ell j} - \frac{R}{L}\right) a_{\ell j}^\tau \right\}$$
  هنا، $\eta$ هو معامل حجم الخطوة. إذا لم يتم استيفاء القيد بشكل كافٍ، تزدما $\lambda$، مما يقوي الانحياز؛ وإذا تم استيفاؤه، تنخفض $\lambda$، مما يقلل من التداخل مع التوزيع الأصلي.

3. المتغيرات

يستكشف البحث تعريفات مختلفة لـ "الفائض" (slack) لتحديث $\lambda$:

• الفائض المتراكم (Accumulated Slack): يجمع المساهمات عبر الزمن (استُخدم في التجارب الرئيسية).
• الفائض اللحظي (Instantaneous Slack): يقارن التراكم الحالي مباشرة بالهدف العالمي.
• الفائض المتفائل (Optimistic Slack): يتضمن تنبؤًا باستيفاء القيد في المستقبل (النزول المرآتي المتفائل).

المساهمات الرئيسية

1. الكفاءة في وقت الاستدلال: لا تتطلب الطريقة إعادة تدريب ولا نماذج مساعدة. فهي تضيف فقط عمليات ذات وقت ثابت إلى حلقة أخذ العينات القياسية، مما يحافظ على الملف الحسابي للنموذج الأساسي (تكلفة 1×).
2. الضمانات النظرية: اشتق المؤلفون حدودًا رسمية على انتهاك القيد المتوقع، موضحين أن الانتهاك محكوم بـ $O(1/\eta \log(\dots))$. كما قدموا حدود الندم (regret bounds) التي توضح المقايضة بين استيفاء القيد وخطأ التقريب.
3. دعم القيود المتعددة: تصيغ الثنائي-الأولي القدرة على دعم قيود متعددة متزامنة عبر جمع انحيازات اللوجيت الإضافية من مضاعفات لاغرانج متعددة.
4. مقايضة قابلة للتحكم: يعمل المعامل $\eta$ كـ "مقبض" واحد يسمح للممارسين بتتبع جبهة سلسة بين استيفاء القيد ودقة التوزيع (المقاسة بتباعد KL).

النتائج التجريبية

تم تقييم الطريقة في ثلاثة مجالات متميزة باستخدام خوارزمية واحدة مطبقة مع وظائف تسجيل خاصة بكل مجال:

1. توليد النصوص الموضوعية (TinyStories):

   • المهمة: توليد قصص تحتوي على 10 رموز على الأقل متعلقة بالمحيطات.
   • النتيجة: حقق SPDD نسبة نجاح (Pass%) بلغت 92.1% مع تباعد KL قدره 0.420. تفوق هذا بشكل كبير على CDD (نسبة نجاح 38.0%) وStatic Bias (نسبة 81.9%) مع الحفاظ على تباعد KL أقل من Static Bias. فشل D-CBG في استيفاء القيد المتفرق.

2. توليد الجزيئات (ZINC20):

   • المهمة: توليد جزيئات بوزن جزيئي (MW) $\ge 350$.
   • النتيجة: حقق SPDD نسبة نجاح بلغت 48.5% (فوق 350 MW) مع صلاحية بنسبة 49.9%، متفوقًا على جميع النماذج المرجعية. لقد دفع التوزيع نحو الذيل العلوي لتوزيع الوزن الجزيئي أكثر من CDD أو D-CBG مع الحفاظ على الصلاحية الكيميائية.

3. توليد قوائم تشغيل الموسيقى:

   • المهمة: توليد قوائم تشغيل تستهدف تركيبة معينة من الأنواع الفرعية.
   • النتيجة: طابق SPFF استيفاء CDD على مستوى المسار (9.28% مقابل 9.18%) ولكن مع أقل من نصف تباعد KL (0.355 مقابل 0.779) وتنوع أعلى بكثير في الرموز.

في جميع المجالات، حقق SPFF أعلى استيفاء للقيود مع الحفاظ على أقرب مسافة من توزيع النموذج غير المقيد مقارنة بالنماذج المرجعية.

الأهمية والادعاءات

يزعم البحث أن فك التشفير الموجه بالثنائي-الأولي يقدم حلاً خفيف الوزن ومؤسسًا نظريًا للانتشار المنفصل المقيد.

• الكفاءة: بخلاف CDD، يتجنب حلقات التحسين الداخلية المكلفة. وبخلاف D-CBG، لا يتطلب تدريب مصنفات منفصلة لكل قيد.
• المرونة: يدعم القيود المتعددة ويتكيف ديناميكيًا مع سياق التوليد عبر مضاعف لاغرانج.
• القوة: يوفر التحليل النظري حدودًا على انتهاك القيد، وتظهر النتائج التجريبية أن الطريقة تعمل بفعالية عبر أنواع بيانات متنوعة (النصوص، الكيمياء، تمثيلات الصوت) باستخدام إطار خوارزمي واحد.
• القيود: يقر المؤلفون أنه في انتشار الحالة الامتصاصية (absorbing-state diffusion)، تكون التزامات الرموز المبكرة غير قابلة للتراجع، مما يجعل تصميم تحديث الفائض أمرًا حاسمًا في الخطوات الأولى. كما يشيرون إلى أنه بالنسبة للمجالات شديدة الهيكلة (مثل الجزيئات)، فإن الافتراض النظري لانزياحات لوجيت الرمز المستقلة هو تقريب، رغم أن الطريقة تظل فعالة تجريبيًا.

يضع هذا العمل SPDD كأداة عملية للممارسين الذين يحتاجون إلى توجيه النماذج التوليدية نحو خصائص معينة دون عبء إعادة التدريب أو تحسين الاستدلال المعقد.