🤖 AI

DLM-SWAI: Steering Diffusion Language Models Before They Unmask

تقترح الورقة البحثية DLM-SWAI، وهي طريقة للتحكم أثناء الاستدلال لا تتطلب تدريباً، تعمل على توجيه نماذج اللغة الانتشارية نحو أساليب وخصائص سلامة مرغوبة من خلال تحيز توزيعات الرموز (tokens) باستخدام درجات محسوبة مسبقاً أثناء عملية إزالة الضجيج، مما يحقق تحكماً فعالاً دون إعادة تدريب أو عبء حوسبي كبير.

المؤلفون الأصليون: Hyeseon An, Yo-Sub Han

نُشر 2026-05-29

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Hyeseon An, Yo-Sub Han

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك فناناً موهوباً للغاية، ولكنه عنيد قليلاً (وهو نموذج لغة الانتشار - Diffusion Language Model)، يقوم بإنشاء النصوص من خلال البدء بصفحة مليئة بالضجيج الساكن (static noise) ثم يقوم بتنظيفها ببطء، كلمة بكلمة، حتى تظهر جملة واضحة. تسمى هذه العملية "إزالة الضجيج" (denoising).

المشكلة هي أنه بينما يبرع هذا الفنان في صياغة جمل سلسة، إلا أنه لا يستمع دائماً لطلباتك المحددة، مثل "اكتب هذا بأسلوب بسيط" أو "اجعل هذا يبدو مهذباً". عادةً، لجعله يستمع إليك، سيتعين عليك إرساله إلى مدرسة الفنون لعدة أشهر من إعادة التدريب (fine-tuning)، وهو أمر مكلف وبطيء.

DLM-SWAI هو حيلة ذكية جديدة تسمح لك بتوجيه هذا الفنان أثناء عمله، دون الحاجة لإرساله إلى المدرسة مجدداً. وإليك كيف يعمل ذلك، باستخدام بعض التشبيهات البسيطة:

1. "ورقة الغش" (بناء الدرجة غير المتصلة - Offline Score Construction)

قبل أن يبدأ الفنان في الرسم، يقوم الباحثون بإنشاء ورقة غش خاصة.

هم ينظرون إلى آلاف الأمثلة من النصوص "البسيطة"، أو النصوص "المهذبة"، أو النصوص "السامة".
يقومون بعدّ الكلمات التي تظهر بشكل متكرر في كل فئة. على سبيل المثال، قد تظهر كلمة "being" كثيراً في الكتابة المعقدة والمتقدمة، بينما قد تظهر كلمة "people" كثيراً في الكتابة البسيطة.
يقومون بتعيين "درجة" لكل كلمة في القاموس بناءً على مدى انتمائها بقوة لأسلوب معين. يتم القيام بذلك مرة واحدة ويُحفظ.

2. "الدفعة" (التوجيه أثناء إزالة الضجيج - Denoising-time Steering)

الآن يبدأ الفنان مهمته. إنه ينظر إلى صفحة فوضوية بها العديد من الفراغات (الرموز المقنعة - masked tokens) ويحاول تخمين الكلمة التي توضع هناك.

في الحالة العادية، يخمن الفنان بناءً على تدريبه الخاص.
هنا يتدخل DLM-SWAI ليعطي الفنان دفعة لطيفة. يقول له: "مهلاً، إذا كنت تحاول الكتابة بأسلوب 'مهذب'، فيجب أن تحب حقاً كلمة 'من فضلك' وربما تكره كلمة 'اخرس'".
يقوم بإضافة هذه الدفعة إلى تخمين الفنان لكل الفراغات الموجودة في الصفحة في نفس الوقت.

3. "تأثير كرة الثلج" (لماذا ينجح الأمر في نماذج الانتشار)

هذا هو الجزء السحري. في أنواع أخرى من الذكاء الاصطناعي (التي تكتب كلمة واحدة تلو الأخرى من اليسار إلى اليمين)، تؤثر الدفعة فقط على الكلمة التالية. ولكن في هذا "الفنان المنتشر"، تحدث الدفعة في جميع أنحاء الصفحة في وقت واحد.

لأن الفنان يقوم بتنقية الجملة بأكملها في آن واحد، فإن هذه الدفوات الصغيرة تتراكم.
إذا اختار الفنان كلمة "مهذبة" في مرحلة مبكرة بسبب الدفعة، فإن هذا الاختيار يجعل التخمينات في الجولة التالية أكثر عرضة لأن تكون مهذبة أيضاً.
الأمر يشبه كرة ثلج تتدحرج من فوق تلة: دفعة صغيرة في الأعلى تجمع المزيد من الثلج (الأسلوب) وهي تتدحرج، لتصبح في النهاية كرة كبيرة وواضحة من الأسلوب المطلوب عند انتهاء الجملة.

ماذا وجدوا؟

اختبر الباحثون هذا على ثلاثة أشياء:

مستوى القراءة: جعل النص يبدو وكأنه كُتب لطفل (ابتدائي) مقابل طالب جامعي (متقدم).
التهذيب: جعل الطلبات تبدو لطيفة مقابل أن تكون فظة.
الأمان: التأكد من أن النص ليس ساماً أو ضاراً.

النتائج:

يعمل بشكل أفضل من مجرد الطلب بلطف: إخبار الذكاء الاصطناعي "من فضلك كن مهذباً" في المطالبة (prompt) غالباً ما يفشل. أما DLM-SWAI فيغير المخرج فعلياً ليكون مهذباً.
لا يفسد الفن: أحياناً، عندما تجبر الذكاء الاصطناعي على تغيير أسلوبه، يصبح أسلوب الكتابة غير مفهوم (gibberish). لكن DLM-SWAI يحافظ على سلاسة الجمل وقابليتها للقراءة مع تغيير الأسلوب.
سريع ومجاني: لا يتطلب إعادة تدريب النموذج أو استخدام أجهزة كمبيوتر إضافية. إنه يستخدم فقط "ورقة الغش" لتقديم الدفعة اللازمة.

العقبة (القيود)

الدفعة "القوية جداً": إذا دفعت الفنان بقوة كبيرة جداً، فإنه يرتبك ويبدأ في تكرار الكلمات مثل أسطوانة مشروخة. يجب أن تجد قوة "الاعتدال" (Goldilocks) — القوة الكافية للتوجيه، ولكن ليس القوة التي تكسره.
الفنان "العنيد": إذا كان الفنان مدرباً بالفعل ليكون آمناً جداً (يرفض أن يكون ساماً)، فمن السهل الحفاظ على أمانه. ولكن إذا حاولت إجباره على أن يكون "ساماً"، فقد يقاوم لأنه يمتلك تدريباً داخلياً يحارب ذلك. الطريقة أفضل في منع الأشياء السيئة منها في فرض الأشياء السيئة.

باختصار

DLM-SWAI يشبه إعطاء نظام تحديد المواقع (GPS) لسائق يقود بالفعل. بدلاً من إخباره بأن يتعلم مساراً جديداً (إعادة التدريب)، أنت فقط توجه المقود بلطف نحو الوجهة التي يريد الذهما إليها، مما يضمن وصوله تماماً إلى حيث يحتاج دون أن يصطدم بالسيارة.

ملخص تقني: DLM-SWAI

بيان المشكلة

تعد القدرة على التوليد القابل للتحكم قدرة بالغة الأهمية لنشر النماذج اللغوية في سيناريوهات العالم الحقيقي، مما يتطلب مخرجات تلبي قيودًا محددة فيما يتعلق بالأسلوب، أو النبرة، أو المشاعر، أو السلامة. وبينما اكتسبت أساليب التوجيه أثناء الاستدلال (inference-time steering) زخمًا للنماذج اللغوية ذات التوليد الذاتي (autoregressive LLMs) من خلال تمكين التحكم دون إعادة التدريب، إلا أن هذه الأساليب غير متوافقة إلى حد كبير مع نماذج اللغة الانتشارية (Diffusion Language Models - DLMs).

تعتمد تقنيات التوجيه الحالية للنماذج ذات التوليد الذاتي عادةً على:

افتراضات فك التشفير من اليسار إلى اليمين (الرمز التالي): حيث تراكم التحكم من خلال قرارات محلية متسلسلة.
المكونات المساعدة: تتطلب مصنفات خارجية، أو نماذج مكافأة، أو متنبئات بالسمات لتوليد إشارات التوجيه.

ومع ذلك، فإن نماذج DLMs تولد النصوص من خلال عملية إزالة الضجيج (denoising) المتكررة لتسلسلات محجوبة جزئيًا بدلاً من التنبؤ بالرموز المتسلسل. وبناءً على ذلك، لا تنتقل أساليب التوجيه الخاصة بالنماذج ذات التوليد الذاتي بشكل طبيعي إلى بيئة الانتشار. علاوة على ذلك، فإن النهج التي تعتمد على نماذج مساعدة تقوض البساطة والكفاءة التي تجعل التوجيه أثناء الاستدلال جذابًا. هناك فجوة كبيرة في الأدبيات لأساليب توجيه بسيطة، وخالية من التدريب، ومتوافقة مع نماذج الانتشار لا تتطلب آليات توجيه مساعدة أو الوصول إلى الحالات الخفية الداخلية.

المنهجية: DLM-SWAI

يقترح المؤلفون DLM-SWAI (التوجيه الإحصائي لأسلوب الكتابة المتوافق للاستدلال في نماذج اللغة الانتشارية)، وهو إطار عمل خالٍ من التدريب يقوم بتوجيه نماذج DLMs عن طريق تحيز توزيعات الرموز (tokens) أثناء عملية إزالة الضجيج. تعمل الطريقة في مرحلتين:

1. بناء الدرجات خارج الخط (Offline Score Construction)

تبني الطريقة جداول درجات على مستوى المفردات للخصائص المستهدفة (مثل مستويات القابلية للقراءة، أو التهذيب، أو السمية) باستخدام مجموعات بيانات مصنفة حسب الخاصية.

الأساس الإحصائي: بالنسبة لفئة خاصية مستهدفة $k$ ، تحسب الطريقة درجة لوغاريتم الأرجحية (log-odds score) المعيرة بالتباين لكل رمز $v$ في المفردات.
الصيغة: يتم اشتقاق الدرجة $\delta_k(v)$ من نسبة تعداد الرموز في المجموعة المستهدفة ( $c_k(v)$ ) مقابل جميع المجموعات الأخرى ( $c_{\neg k}(v)$ )، مع تنعيمها باستخدام "أولوية ديريكليه" (Dirichlet prior) للتعامل مع الرموز النادرة.
المعايرة: لضمان الاستقرار، يتم معايرة درجات لوغاريتم الأرجحية الخام من خلال تباينها المقدر، مما ينتج عنه درجة $s_k(v)$ تلتقط الرموز التي ليست فقط متكررة ولكن أيضًا مميزة للخاصية المستهدفة.
المخرج: تُخزن هذه الدرجات كجداول بحث، مما يضيف تكلفة حوسبية ضئيلة أثناء التوليد.

2. التوجيه أثناء إزالة الضجيج (Denoising-time Steering)

أثناء الاستدلال، يقوم DLM-SWAI بحقن إشارات التحكم مباشرة في حلقة فك تشفير الانتشار:

حقن التحيز: عند كل خطوة إزالة ضجيج $t$ ، يتم حساب متجه تحيز توجيه عالمي $\mathbf{b}_k$ عن طريق تغيير حجم وتقليم متجه الدرجات المسبق الحساب $\mathbf{s}_k$ .
تعديل اللوغيت (Logit Modification): لكل موضع محجوب $i$ في الكتلة النشطة، يتم تعديل لوغيتات النموذج المتوقعة $\mathbf{z}^{(t)}_i$ بإضافة التحيز: $\tilde{\mathbf{z}}^{(t)}_i = \mathbf{z}^{(t)}_i + \mathbf{b}_k$ .
التحسين المتكرر: يقوم النموذج بأخذ عينات من الرموز المرشحة من التوزيع الموجه. ومن الأهمية بمكان أن التحيز يؤثر على درجات الثقة ( $\gamma^{(t)}_i$ ) المستخدمة لتحديد المواضع التي يتم كشف الحجاب عنها (unmasked/committed) في كل خطوة. وهذا يعني أن تفضيلات مستوى الرمز تتراكم على طول مسار إزالة الضجيج، مما يشكل ليس فقط أي الرموز يتم اختيارها، ولكن أيضًا متى يتم الالتزام بها.

المساهمات الرئيسية

تحديد الفجوة: يسلط المؤلفون الضوء على غياب أساليب التوجيه البسيطة والخالية من التدريب المصممة خصيصًا لطبيعة إزالة الضجيج المتكررة لنماذج DLM، مقارنة بالمشهد الناضج للتوجيه في النماذج ذات التوليد الذاتي.
منهج مبتكر: اقتراح DLM-SWAI، الذي يحقن إشارات التحكم على مستوى الرمز مباشرة في عملية إزالة الضجيج دون الحاجة لنماذج مساعدة، أو الوصول للحالات الخفية، أو تحديثات للمعلمات.
آليات خاصة بالانتشار: توضح الورقة اختلافين هيكليين بين DLM-SWAI وتغيير اللوغيت في النماذج ذات التولية الذاتية:
- الحقن الموزع: يتم تطبيق التحيز في آن واحد على جميع المواضع المحجوبة في كتلة واحدة، مما يشجع على التماسك الأسلوبي عبر الرموز بدلاً من التراكم المتسلسل.
- التحكم في ترتيب كشف الحجاب: يؤثر التحيز على درجات الثقة التي تملي ترتيب الالتزام بالرموز، مما يسمح لتفضيلات مستوى الرمز بالتراكم لتصبح تأثيرات على مستوى الجملة (clause-level).
التحقق التجريبي: تجارب شاملة تثبت أن DLM-SWAI يوجه نماذج DLM بفعالية عبر مهام الأسلوب (القابلية للقراءة، التهذيب) والسلامة (السمية) مع الحفاظ على جودة التوليد.

النتائج التجريبية

تم تقييم الطريقة على نموذجين أساسيين لـ DLM هما (LLaDA-8B-Instruct و Dream-v0-Instruct-7B) عبر ثلاث مجموعات بيانات: OSE (القابلية للقراءة)، WikiPol (التهذيب)، و RealTox (السمية).

القابلية للتحكم: تفوق DLM-SWAI باستمرار على النماذج المرجعية (الاعتماد على المطالبة فقط - Prompt-only، وتوجيه التنشيط - Activation Steering).
- في OSE، حقق مكاسب في الدقة بلغت 16.0% (LLaDA-8B) و 35.0% (Dream-7B) مقارنة بأقوى نموذج مرجعي.
- في WikiPol، أظهر تحسينات متسقة، وإن كان الفارق أصغر، ويرجع ذلك على الأرجح إلى سهولة استثارة التهذيب عبر المطالبات اللغوية الطبيعية.
جودة التوليد: على عكس "توجيه التنشيط" (Activation Steering)، الذي زاد بشكل كبير من الارتباك (perplexity) (على سبيل المثال، 149.96 مقابل 47.43 في OSE لنموذج Dream-7B)، حافظ DLM-SWAI على انخفاض مستوى الارتباك ودرجات BERTScore تنافسية، مما يشير إلى الحفاظ على السلاسة والدقة الدلالية.
السلامة (السمية): كانت الطريقة فعالة للغاية في كبح السمية (دقة 92.50% لغير السامة) ولكنها واجهت صعوبة في استحثاث التوليدات السامة، وهو سلوك يُعزى إلى التوافق القوي مع معايير السلامة المتأصلة في النماذج الموجهة بالتعليمات (instruction-tuned backbones) وليس قصورًا في آلية التوجيه نفسها.
الحساسية للمعلمات الفائقة: يتحكم قوة التوجيه ( $\lambda$ ) في المقايضة بين القابلية للتحكم والسلاسة؛ حيث تؤدي القيم المفرطة إلى تكرار رديء. تم تحديد قيم التقليم ( $\tau$ ) والأولوية ( $\alpha$ ) المثلى لموازنة قوة الإشارة وقمع الضجيج.

الأهمية والادعاءات

تدعي الورقة أن DLM-SWAI يوفر واجهة خفيفة الوزن، ونمطية، وفعالة للتوليد القابل للتحكم في نماذج اللغة الانتشارية. تكمن أهميته في:

إلغاء العبء المساعد: يحقق التحكم دون التكلفة الحوسبية أو التعقيد المرتبط بتدريب مصنفات مساعدة أو نماذج مكافأة.
التوافق الأصيل: يستفيد من الهيكل التكراري لفك تشفير الانتشار، حيث يمكن للتحيزات أن تؤثر على مسار كشف الحجاب، مما يقدم آلية تحكم تختلف بنيويًا عن تغيير اللوغيت في النماذج ذات التوليد الذاتي وقد تكون أكثر قوة.
النشر العملي: من خلال اشتراطه فقط حساب الدرجات خارج الخط وتغيير بسيط في اللوغيت، فإنه يقدم حلاً عمليًا لتكييف نموذج DLM أساسي واحد مع بيئات نشر متنوعة (الأسلوب، السلامة) دون إعادة تدريب.

يؤطر المؤلفون الطريقة بتواضع باعتبارها تدخلًا مستهدفًا أثناء الاستدلال يشجع الخصائص المرغوبة مع الحفاظ على عملية التوليد الأساسية للنموذج، بدلاً من كونها حلاً شاملاً لجميع أشكال التوليد القابل للتحكم. ويشيرون إلى أن القدرة على التوجيه مرتبطة جوهريًا بقابلية الفصل للسمة المستهدفة في بيانات مستوى الرمز؛ فالفئات ذات الإشارات الواضحة والقوية على مستوى الرمز (مثل القابلية للقراءة الابتدائية) يسهل التحكم فيها مقارنة بالفئات ذات الحدود الغامضة (مثل المتوسط مقابل المتقدم).