Beyond the Bidirectional Promise: Re-evaluating the Robustness of Diffusion Language Models
تكشف هذه الورقة أنه بينما تقاوم نماذج اللغات الانتشارية (Diffusion Language Models) بطبيعتها الهجمات العدائية القائمة على التدرج بسبب تضاريس فقدانها العشوائية، إلا أنها تظل عرضة للضجيج الطبيعي وتُظهر ثقة مفرطة ممنهجة لأن متانتها تعتمد على توجيه فك التشفير الخاص بالأوزان بدلاً من المزايا الهيكلية، مما يستلزم دمجاً جوهرياً في عملية فك التشفير بدلاً من الإصلاحات السطحية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول حل لغز، ولكن بدلاً من وضع القطع واحدة تلو الأخرى من اليسار إلى اليمين، تقوم برمي جميع القطع على الطاولة دفعة واحدة ثم تبدأ ببطء في معرفة مكانها، وتصقل تخمينك مع كل نظرة. هذه هي الفكرة الأساسية وراء نوع جديد من الذكاء الاصطناعي يسمى نموذج لغة الانتشار (Diffusion Language Model - DLM). على عكس الذكاء الاصطناعي التقليدي، الذي يكتب مثل الإنسان الذي يكتب جملة (كلمة تلو الأخرى، دون النظر إلى الوراء أبداً)، تبدأ نماذج DLM بصفحة بيضاء ومقنعة، ثم تقوم بعملية "إزالة الضجيج" (denoise) بشكل متكرر، لتكشف عن الكلمات خطوة بخضوة بينما تنظر إلى الجملة بأكملها في آن واحد. يبدو هذا وكأنه قوة خارقة: إذا ارتكبت خطأً مطبعياً في البداية، فقد يرتبك الذكاء الاصطناعي التقليدي وينزلق نحو الهراء، لكن نموذج DLM، بفضل رؤيته للصورة الكاملة، من المفترض نظرياً أن يصلح أخطاءه بنفسه. ولكن هنا يبرز السؤال الكبير: هل هذه النماذج في الواقع أكثر صلابة وذكاءً عندما تصبح الأمور فوضوية، أم أن هذا مجرد نظرية لطيفة؟
في هذه الدراسة، وضع الباحثون زوجين من نماذج الانتشار هذه "فائقة المتانة" في اختبار ضد أقربائها التقليدية التي تعمل كلمة بكلمة. لم يكتفوا بطلب كتابة قصائد منها؛ بل ألقوا بكل شيء في وجهها: أخطاء مطبعية، كلمات مبعثرة، زلات لوحة مفاتيح غريبة، وحتى مسائل رياضية معقدة. أرادوا معرفة ما إذا كان أسلوب الانتشار الجديد هو حقاً درع سحري ضد الأخطاء، أم أن هذه النماذج هشة تماماً مثل النماذج القديمة، ولكن بطرق مختلفة.
اختبار المتانة العظيم
أعد الباحثون مواجهة عادلة. فقد قرنوا نموذج انتشار بنموذج تقليدي لديه نفس عدد الخلايا الدماغية (المعلمات/parameters) بالضبط، مثل مطابقة نموذج الانتشار LLaDA-8B ضد النموذج التقليدي LLaMA-3-8B، ونموذج الانتشار Dream-7B ضد Qwen2.5-7B التقليدي. ثم أخضعوا هذه النماذج لـ 32 نوعاً مختلفاً من "الضجيج"، بدءاً من تبديل حرفين (مثل كتابة "teh" بدلاً من "the") وصولاً إلى حذف كلمات كاملة أو استخدام رموز تشبه الحروف من أبجديات أخرى.
كانت النتائج بمثابة تحول في الحبكة. فالفكرة القائلة بأن نماذج الانتشار "متينة بطبيعتها" تبين أنها كانت مجرد أسطورة. لم يكن الهيكل المعماري هو ما أنقذ الموقف؛ بل كان التدريب المحدد. أحد نماذج الانتشار (LLaDA) كان بالفعل أكثر متانة من منافسه التقليدي، حيث تعامل مع الضجيج ببراعة. لكن نموذج الانتشار الآخر (Dream) لم يهزم منافسه على الإطلاق؛ بل في بعض الحالات، كان أداؤه أسوأ. وجد الباحثون أن المتانة تعتمد على أوزان النموذج وبيانات تدريبه المحددة، وليس فقط على حقيقة أنه يستخدم تقنية الانتشار. إذا كنت تريد نموذجاً قوياً، فلا يمكنك مجرد اختيار نموذج انتشار؛ بل يجب أن تختار نموذج الانتشار "الصحيح".
المتفائل المفرط في الثقة
ومع ذلك، كانت هناك سمة واحدة تشترك فيها جميع نماذج الانتشار، وهي سمة خطيرة: الإفراط في الثقة. فعندما ترتكب هذه النماذج أخطاءً، فهي لا تفشل فحوة فحسب، بل تفشل بيقين مطلق. فبينما قد يخفض النموذج التقليدي مستوى ثقته عندما يرى خطأً مطبعياً (كأن يقول: "لست متأكداً من هذا")، تظل نماذج الانتشار محافظة على ثقتها العالية، والتي غالباً ما تقترب من 100%، حتى وهي تقدم إجابة خاطئة.
تخيل طالباً في امتحان، يخطئ في سؤال ما، ولكنه يرفع يده ويصرخ: "أنا متأكد بنسبة 100% أن هذه هي الإجابة الصحيحة!". هذه هي خطورة هذه النماذج. في العالم الحقيقي، إذا كان النموذج مخطئاً وبثقة عالية، فمن الصعب جداً اكتشاف الخطأ مقارنة بما لو كان متردداً وغير متأكد. أظهرت الدراسة أنه حتى عندما كان الضجيج كثيفاً، ظلت نماذج الانتشار ثابتة في ثقتها، مما خلق "خطراً" على أي شخص يحاول الوثوق بمخرجاتها.
اكتشاف "لا يمكن الإصلاح"
الجزء الأكثر إثارة للاهتمام في البحث كان البحث في لماذا تفشل هذه النماذج. استخدم الباحثون "مسباراً ميكانيكياً" خاصاً (مثل الأشعة السينية لعقل الذكاء الاصطناٍ) لمعرفة ما يحدث في الداخل. واكتشفوا شيئاً مفاجئاً: النماذج كانت تعرف في الواقع أن المدخلات فاسدة.
عندما نظروا إلى الإشارات الداخلية، تمكنت النماذج من اكتشاف الأخطاء المطبعية والأخطاء بدقة تتجاوز 93%. كانت "عيون" النموذج تعمل بشكل مثالي؛ لقد رأت الضجيج بوضوح. المشكلة لم تكن في عدم قدرتها على رؤية الخطأ، بل في عدم قدرتها على تجاهله. بمجرد دخول الضجيج إلى النظام، فشل "المفكك" (decoder) الخاص بالنموذج (وهو الجزء الذي يقرر ماذا يقول تالياً) في تصفية هذا الضجيج. كان الأمر يشبه طباخاً يمكنه شم رائحة المكونات الفاسدة بوضوح، لكنه يستمر في الطبخ بها لأنه لا يعرف كيف يتوقف.
ولأن المشكلة كانت في مرحلة "الطبخ" (التفكيك/decoding) وليس في مرحلة "الشم" (المدخلات)، حاول الباحثون حلاً ذكياً: حاولوا تنظيف المدخلات قبل أن يبدأ النموذج في الطبخ. استخدموا تقنية تسمى قناع المحفز للمدخلات (Input Prompt Masking - IPM)، والتي حاولت تحديد وإخفاء الأخطاء المطبعية قبل أن يراها النموذج. ولكن خمن ماذا؟ لم ينجح الأمر. تنظيف المدخلات لم يجعل النماذج أكثر متانة. أثبت هذا أنه لا يمكنك مجرد "ترقيع" المدخلات لإصلاح المشكلة؛ بل يجب أن يكون الإصلاح مبنياً في طريقة توليد النموذج للنصوص من الأساس.
المفاجأة العدائية
كان هناك بصيص أمل واحد. عندما حاول الباحثون خداع النماذج باستخدام "هجمات عدائية" (adversarial attacks) — وتحديداً عبر إضافة سلسلة نصية غريبة في النهاية لإجبار النموذج على قول شيء لا ينبغي قوله — كانت نماذج الانتشار صعبة الكسر بشكل مفاجئ. النماذج التقليدية انهارت تحت هذه الهجمات، لكن نماذج الانتشار قاومت.
لماذا؟ اتضح أن نماذج الانتشار تمتلك مشهداً داخلياً "متعرجاً" وفوضوياً. عندما يحاول المهاجم إيجاد مسار لخداع النموذج، فإن المسار يستمر في التحول والتغير، مما يجعل من المستحيل إيجاد طريق ثابت نحو الخطأ. الأمر يشبه محاولة تسلق جبل يعيد ترتيب صخوره في كل مرة تخطو فيها خطوة. وبينما لا يجعل هذا النماذج منيعة ضد جميع الهجمات، إلا أنه يجعلها مقاومة طبيعياً لنوع معين من الهجمات القائمة على التدرج (gradient-based attacks) التي تخدع النماذج التقليدية بسهما.
الخلاصة
إذاً، ما هي الخلاصة؟ نماذج لغة الانتشار ليست حلاً سحرياً يجعل الذكاء الاصطناعي آمناً أو أكثر متانة بشكل تلقائي. إنها أداة جديدة تأتي مع مجموعة مختلفة من نقاط القوة والضعف. فهي جيدة بطبيعتها في مقاومة أنواع معينة من محاولات الاختراق لأن رياضياتها الداخلية فوضوية، لكنها سيئة جداً في معرفة متى تكون غير متأكدة، وغالباً ما تقدم إجابات خاطئة بثقة تامة عندما تكون المدخلات فوضوية.
خلص الباحثون إلى أنه لا يمكننا مجرد "ترقيع" هذه النماذج لجعلها أفضل. إذا أردنا أن تكون موثوقة، فعلينا تغيير الطريقة التي تتعلم بها توليد النصوص بشكل جذري، وتعليمها كيفية تصفية الضجيج أثناء كتابتها للنص، وليس فقط قبل البدء. وحتى ذلك الحين، علينا أن نكون حذرين: نموذج الانتشار الذي يخطئ بثقة هو أمر يصعب الوثوق به.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.