Discrete Diffusion Inference-Time Control with Nested Sequential Monte Carlo

في عالم الذكاء الاصطناي، هناك فجوة متزايدة بين كيفية إنشاء الآلات للصور وكيفية إنشائها للكلمات. لسنوات، كانت الأنظمة الأكثر تقدمًا لتوليد النصوص تعمل مثل شخص يكتب جملة كلمة بكلمة، متحركًا بصرامة من اليسار إلى اليمين. هذه الطريقة قوية، لكنها قد تكون جامدة، وغالبًا ما تحصر النظام في مسار واحد قبل أن يرى الصورة الكاملة. مؤخرًا، ظهر نهج مختلف للنصوص، مستعيرًا تقنية تُستخدم منذ فترة طويلة لإنشاء الصور. فبدلاً من كتابة الكلمات واحدة تلو الأخرى، تبدأ هذه النماذج الجديدة بمجموعة فوضوية وغير ذات معنى من الرموز وتقوم بتنظيفها تدريجيًا، خطوة بخ mga خطوة، حتى تظهر جملة متماسكة. تسمح هذه العملية للنموذج بالنظر إلى الجملة بأكملها في وقت واحد، وتنقيتها من جميع الزوايا في آن واحد لضمان أن تكون النتيجة النهائية متسقة ومنطقية.

ومع ذلك، فإن مجرد قدرة الآلة على كتابة جملة ذات معنى لا يعني أنها ستكتب نوع الجملة الذي يريده الإنسان. فإذا طُلب منها كتابة قصة، قد يتضمن النموذج القياسي لغة ضارة عن غير قصد أو ينتج نصًا يبدو غريبًا وغير طبيعي. ولإصلاح ذلك، يحاول الباحثون عادةً إعادة تدريب النموذج بقواعد جديدة، لكن هذا أمر مكلف ويقيد النظام بطريقة واحدة في السلوك. والحل الأكثر مرونة هو توجيه النموذج أثناء عمله، أي توجيهه نحو نتيجة مرغوبة دون تغيير دماغه الأساسي. التحدي يكمن في أن فضاء الجمل الممكنة شاسع ومعقد. الطرق البسيطة للتوجيه غالبًا ما تفشل لأنها تضيع الوقت في استكشاف مسارات لا تؤدي إلى شيء، أو لأنها تتعثر في تكرار الأفكار نفسها. تستكشف دراسة جديدة عُرضت في ورشة عمل لمؤتمر ICLR 2026 طريقة متطورة للتنقل في هذا المشهد، وتوضح كيفية توجيه نماذج توليد النصوص هذه بشكل أكثر فعالية من ذي قبل.

ركز الباحثون على مشكلة محددة: كيفية أخذ نموذج يولد النصوص عن طريق تنظيف الضجيج وتوجيهه لإنتاج نتائج خالية من اللغة السامة أو تتسم بطلاقة استثنائية، دون إعادة تدريب النموذج نفسه. وقارنوا بين عدة طرق موجودة ونهج جديد طوروه يعتمد على تقنية إحصائية تسمى "مونت كارلو التسلسلية المتداخلة" (nested sequential Monte Carlo). لفهم الفرق، تخيل أنك تحاول إيجاد أفضل طريق عبر غابة كثيفة. قد ترسل الطريقة الأساسية عددًا قليلًا من المستكشفين، وتجعلهم يسيرون مسافة قصيرة، ثم تختار الشخص الذي يبدو أنه يتجه في الاتجاه الصحيح، وترسل هذا الشخص الوحيد للأمام بينما تستبعد البقية. هذا بسيط، ولكن إذا كانت الخطوات الأولى مضللة، فإن المجموعة بأكملها ستسلك الطريق الخاطئ. أما الطريقة الأخرى فترسل العديد من المستكشفين، لكنهم جميعًا يسلكون المسار نفسه، وفي النهاية، تُجبر المجموعة على اختيار النتيجة الأفضل من بين مجموعة صغيرة من الرحلات المكتملة. غالبًا ما تفشل هذه الطريقة في إيجاد المسارات النادرة وعالية الجودة لأن المستكشفين لم تتاح لهم الفرصة للتفرع بفعالية.

يعمل النهج الجديد المقترح في الورقة البحثية بشكل مختلف. فبدلاً من إرسال مستكشفين في مسار واحد والأمل في الأفضل، فإنه يستخدم نظامًا ذا طبقتين. فمقابل كل مستكشف رئيسي يتحرك عبر الغابة، يرسل النظام فريقًا صغيرًا من المستكشفين الفرعيين لاستطلاع المحيط المباشر. يقوم هؤلاء المستكشفون الفرعيون باختبار اتجاهات قصيرة المدى مختلفة ويبلغون عما يبدو أكثر واعدًا بناءً على الهدف. ثم يستخدم المستكشف الرئيسي هذا الذكاء الجماعي لاختيار الخطوة التالية الأفضل، بدلاً من التخمين الأعمى. وهذا يسمح للنظام برؤية أبعد واتخاذ قرارات أفضل في كل مرحلة من مراحل عملية التوليد. كما طور الباحثون نسخة متكيفة بالكامل من هذه الطريقة، والتي لا تكتفي باستخدام الكشافة لاختيار الخطوة التالية فح، بل تعيد أيضًا تقييم المستكشفين الرئيسيين الذين يستحق البقاء قبل أن يتحركوا للأمام. يضمن هذا بقاء المجموعة متنوعة وعدم انهيارها في مسار واحد متكرر.

عندما اختبر الفريق هذه الطرق على نموذج مدرب على توليد النصوص، قاموا بقياس مدى قدرة الأنظمة على توجيه المخرجات نحو هدفين محددين: تقليل اللغة السامة وتحسين طلاقة الكتابة. ووجدوا أن الطرق المتداخلة الجديدة تفوقت باستمرار على التقنيات القديمة والأبسط. وفي الاختبارات المصممة لتشجيع توليد محتوى سام لاختبار المواءمة، نادراً ما أنتج النموذج الأساسي استمرارات سامة، مما يعكس ندرة مثل هذا المحتوى في الظروف العادية. كانت الطرق الجديدة أكثر نجاحًا في توجيه النموذج نحو هذا الهدف النادر وعالي المكافأة مقارنة بالمناهج القياسية، التي غالبًا ما كافحت للتحرك بعيدًا عن ميل النموذج الطبيعي ليكون آمنًا ونظيفًا. وبالمثل، عندما طُلب منها إنتاج نص سلس، أنتجت الطرق المتداخلة نتائج كانت أكثر سلاسة وتماسكًا بشكل ملحوظ. وأظهرت الدراسة أن مفتاح هذا النجاح لم يكن مجرد إرسال المزيد من المستكشفين، بل إرسال النوع الصحيح من الكشافة الذين يمكنهم تقييم الإمكانات المستقبلية للمسار قبل الالتزام به.

كما بحث الباحثون في كيفية تأثير حجم المجموعة وعدد الكشافة على النتائج. واكتشفوا أن امتلاك المزيد من المستكشفين الرئيسيين كان العامل الأكثر حسمًا للنجاح، حيث قلل من احتمال تفويت مسار جيد تمامًا. إن زيادة عدد الكشافة لكل مستكلك وفرت فوائد إضافية، ولكن إلى حد معين؛ فبعد عدد معين، لم تعد إضافة المزيد من الكشافة تحقق نتائج ملموسة. ومن المثير للاهتمام أن الطرق الجديدة أثبتت أنها أكثر قوة عندما تصبح المهمة أصعب. فعندما طلب الباحثون من النماذج توليد نصوص أطول، كافحت الطرق القديمة للحفاظ على جودتها، وغالبًا ما ابتعدت عن الهدف. أما الطرق المتداخلة، وخاصة النسخة المتكيفة بالكامل، فقد حافظت على مكانتها بشكل أفضل بكثير، مما أظهر أن النظر إلى الأمام بمساعدة الكشافة الداخليين ساعد النظام على البقاء في المسار الصحيح حتى عبر مسافات طويلة.

كان أحد أهم النتائج في الدراسة هو تصحيح خوارزمية حديثة تم اقتراحها من قبل باحثين آخرين. وجد أن تلك الطريقة السابقة، التي كانت تحمل أيضًا تسمية "نهج متداخل"، بها خلل دقيق في كيفية حساب قيمة المسارات المختلفة. وبسبب هذا الخطأ، فشلت في استهداف التوزيع الصحيح للنتائج، مما أدى إلى نتائج منحازة لا تعكس الهدف المنشود حقًا. حددت الدراسة الجديدة هذا الخطأ الرياضي وقامت بإصلاحه، مما ضمن أن نسختهم من الخوارزمية كانت موزونة بشكل صحيح وغير منحازة. كان هذا التصحيح حاسمًا، لأنه يعني أن التحسينات التي شوهدت في تجاربهم كانت حقيقية وليست نتيجة لحساب خاطئ. وقد أكد الباحثون أن طريقتهم المصححة أنتجت نتائج تتماشى تمامًا مع الأهداف النظرية، بينما لم تفعل النسخة غير المصححة ذلك.

أجريت الدراسة باستخدام نوع محدد من نماذج النصوص المدربة على مجموعة بيانات كبيرة من نصوص الويب، وأجريت التجارب على مجموعة قياسية من المطالبات لضمان المقارنة العادلة. وقام الفريق بقياس نجاحهم باستخدام مقاييس معتمدة للسمية ومقياس للطلاقة يسمى "الارتباك" (perplexity)، والذي يشير إلى مدى "مفاجأة" نموذج اللغة للنص الذي يولده. الارتباك الأقل يعني أن النص يتدفق بشكل طبيعي أكثر. وأظهرت النتائج تحسينات واضحة في جميع المجالات، حيث حققت الطرق المتداخلة معدلات سمية أعلى عندما كان ذلك هو الهدف، وارتباكًا أقل عندما كانت الطلاقة هي الهدف. وأشار الباحثون إلى أنه بينما يتطلب نهجهم قدرة حوسبية أكبر من الطرق الأبسط، إلا أنه أكثر كفاءة من التقنيات المعقدة الأخرى، مما يوفر توازنًا أفضل بين تكلفة التوليد وجودة النتيجة.

وعلى الرغم من هذه النجاحات، يوضح المؤلفون حدود عملهم. فقد اختبروا طرقهم على نوعين محددين فقط من الأهداف — تجنب السمية وتحسين الطلاقة — وعلى بنية نموذج واحدة. وهم لا يدعون أن هذا الحل يعمل لكل مهمة ممكنة أو لكل نوع من نماذج اللغة. كما أن الخطوات المتوسطة التي استخدموها لتوجيه النموذج اعتمدت على تقريبات، مما قد يؤدي إلى إدخال بعض الضجيج في العملية. علاوة على ذلك، اقتصرت الدراسة على توليد النصوص، ويبقى من الواضح مدى قدرة هذه التقنيات على الانتقال إلى مجالات أخرى، مثل توليد الصور أو مهام الاستدلال المعقدة. يقترح الباحثون أن العمل المستقبلي يجب أن يختبر هذه الطرق على مجموعة متنوعة من المعايير، بما في ذلك تلك التي تقيس العدالة، والصدق، والقدرة على اتباع التعليمات المعقدة.

في النهاية، تقدم هذه الورقة تقدمًا عمليًا في مجال التحكم في توليد النصوص. فهي تثبت أنه باستخدام نهج أذكى لتوليد العينات مكون من طبقتين، يمكننا توجيه نماذج الذكاء الاصطناعي لإنتاج نصوص أفضل وأكثر مواءمة دون التكلفة الباهظة لإعادة التدريب. تشير النتائج إلى أن الطريقة التي نتحرك بها عبر الفضاء الشاسع للجمل الممكنة تهم بقدر أهمية النموذج نفسه. ومن خلال صقل الأدوات التي نستخدمها لاستكشاف ذلك الفضاء، يمكننا فتح مستويات جديدة من التحكم والجودة في كيفية تواصل الآلات معنا. ويقف هذا العمل كذكرى بأن الحل الأكثر فعالية في عالم الذكاء الاصطناعي المعقد ليس دائمًا ببناء محرك أكبر، بل بإيجاد طريقة أفضل لتوجيه المحرك الذي نمتلكه بالفعل.