A2D: Any-Order, Any-Step Safety Alignment for Diffusion Language Models
يقدم A2D طريقة محاذاة سلامة على مستوى الرمز لنماذج اللغة الانتشارية تستفيد من القناع العشوائي لإصدار إشارات رفض [EOS] فورية، مما يحيد بفعالية هجمات أي ترتيب وأي خطوة مثل DIJA مع تمكين المراقبة في الوقت الفعلي وإنهاء آمن أسرع بكثير.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
الصورة الكبيرة: نوع جديد من كتابة الذكاء الاصطناعي
تخيل معظم روبوتات الدردشة (مثل تلك التي تتحدث إليها كل يوم) كأنها عمال في خط تجميع. إنهم يبنون الجملة كلمة بكلمة، بدقة من اليسار إلى اليمين. إذا سألتهم شيئاً خطيراً، فعادة ما يفحصون الكلمات القليلة الأولى، ويقررون أن "هذا سيء"، ثم يتوقفون فوراً.
لكن هناك نوع جديد من الذكاء الاصطناعي يسمى نموذج لغة الانتشار (dLLM). فكر في هذا الذكاء الاصطناعي ليس كعامل في خط تجميع، بل كنحات يعمل على كتلة من الرخام. فبدلاً من الكتابة كلمة بكلمة، يبدأ بصفحة بيضاء مليئة بعلامات الاستفهام (الأقنعة/Masks) ثم يملؤها تدريجياً. يمكنه ملء نهاية الجملة قبل بدايتها، أو المنتصف قبل البداية. يمكنه العمل على القصة بأكملها دفعة واحدة.
المشكلة: هجوم "الباب الخلفي"
لأن هذا النحات يمكنه ملء الكلمات بأي ترتيب، فقد أصبح لديه نقطة ضعف جديدة.
تخيل أن شخصاً سيئ النية يريد خداع النحات لجعله يكتب دليلاً حول كيفية سرقة سيارة.
- الفخ القديم: إذا كان النحات عامل خط تجميع، فإن الشخص السيئ يحاول خداعهم في البالبداية تماماً.
- الفخ الجديد (هجوم DIJA): مع النحات، يمكن للشخص السيئ ملء نصف القصة الأول بنص غير ضار، ثم يمرر "فخاً" في المنتصف، أو يملأ النهاية أولاً. إنهم يستخدمون نموذجاً يبدو كطلب طبيعي ولكنه يخفي الأجزاء الخطيرة في الفراغات.
وجدت الورقة البحثية أن التدريب الحالي على السلامة لهؤلاء النحاتين هو تدريب "سطحي". الأمر يشبه حارس أمن يتحقق فقط من هويتك عندما تمر عبر الباب الأمامي. إذا تمكنت من التسلل عبر الباب وبدأت في السير في الممر، فإن الحارس يتوقف عن الانتباه. قد يقول الذكاء الاصطناعي "لا" للكلمة الأولى، ولكن إذا خدعته لملء الكلمة العاشرة بشيء خطير، فإنه ينسى أن يقول "لا" مرة أخرى.
الحل: A2D (الدفاع ضد أي ترتيب وأي خطوة)
ابتكر المؤلفون طريقة سلامة جديدة تسمى A2D. وإليك كيف تعمل باستخدام تشبيه بسيط:
"رمز علامة التوقف الحمراء"
بدلاً من مجرد تدريب الذكاء الاصطناعي على قول "لا يمكنني فعل ذلك" في البداية، تعلم A2D الذكاء الاصطناعي رمز "علامة توقف" خاص (يسمى [EOS]).
- التدريب: يأخذون الذكاء الاصطناعي ويعرضون عليه جملًا خطيرة. ولكن بدلاً من تركه يكمل الجملة، يغطون الأجزاء الخطيرة بعلامات استفهام ويقولون للذكاء الاصطناعي: "إذا رأيت علامة استفهام هنا، وكانت الجملة خطيرة، يجب عليك استبدال علامة الاستفهام هذه بعلامة توقف فوراً".
- النتيجة: يتعلم الذكاء الاصطناعي أنه في أي وقت في الجملة، إذا استشعر شيئاً ضاراً، يجب عليه وضع علامة التوقف فوراً.
لماذا هذا مميز؟
- أي ترتيب: لا يهم إذا كان الذككاء الاصطناعي يكتب الكلمة الأولى أو الأخيرة. إذا ظهرت فكرة خطيرة، ستظهر علامة التوقف.
- أي خطوة: لا يهم إذا ظهر الخطر في الخطوة 1 أو الخطوة 50. حارس الأمن مستيقظ طوال الوقت، وليس فقط عند الباب.
اختبار "ملء الفراغات"
لإثبات نجاح طريقتهم، اخترع الباحثون اختباراً صعباً للغاية يسمى FITS (ملء الجملة).
- السيناريو: تخيل أن شخصاً سيئاً كتب دليلاً مكتملاً بنسبة 99% حول كيفية صنع قنبلة. لقد تركوا جملة واحدة فقط (الخطوة النهائية) وطلبوا من الذكاء الاصطناعي ملأها.
- النتيجة: فشلت أساليب السلامة القديمة فشلاً ذريعاً هنا. لقد كانوا مركزين جداً على بداية النص لدرجة أنهم سمحوا للذكاء الاصطناعي بإكمال دليل القنبلة.
- أداء A2D: نظرت A2D إلى تلك الجملة الوحيدة المفقودة، وأدركت أنها خطيرة، ووضعت علامة التوقف فوراً. لقد حبطت الهجوم في كل مرة تقريباً بنسبة 100%.
الإضافة: رادار السلامة في الوقت الفعلي
لأن الذكاء الاصطناعي مدرب على وضع علامة التوقف كلما رأى خطراً، فإن احتمالية ظهور علامة التوقف هذه تعمل مثل رادار السلامة.
- الرفض المبكر: وجد الباحثون أنه إذا تحققوا من "احتمالية علامة التوقف" لدى الذكاء الاصطناعي في الخطوة الأولى تماماً، فيمكنهم معرفة ما إذا كان الطلب بأكمله سيئاً قبل أن يكتب الذكاء الاصطناعي كلمة واحدة.
- السرعة: هذا يسمح للذكاء الاصطناعي برفض الطلبات السيئة بسرعة أكبر بـ 19.3 مرة من ذي قبل. إنه يشبه حارس الأمن في ملهى ليلي يمكنه معرفة أنك لست على القائمة قبل أن تصل حتى إلى الباب، مما يوفر الوقت للجميع.
هل يؤدي ذلك إلى إفساد قدرة الذكاء الاصطناعي على أن يكون مفيداً؟
اختبرت الورقة البحثية هذا الأمر بشكل مكثف. لقد طلبوا من الذكاء الاصطناعي حل مسائل رياضية، وكتابة أكواد برمجية، والإجابة على أسئلة عامة.
- الحكم: حافظت A2D على ذكاء وفائدة الذكاء الاصطناعي. لم تجعل الذكاء الاصطناعي يرفض الإجابة على الأسئلة العادية (مثل "كيف أقوم بإنهاء عملية بايثون؟" والذي يبدو خطيراً ولكنه يتعلق بالبرمجة في الواقع).
- المقارنة: كانت أساليب السلامة الأخرى حساسة للغاية ورفضت الإجابة على أسئلة غير ضارة. كانت A2D دقيقة: لقد أوقفت الأشياء السيئة فقط.
الملخص
تقدم الورقة البحثية A2D، وهي ترقية للسلامة لنوع جديد من الذكاء الاصطناعي الذي يكتب بأي ترتيب.
- السلامة القديمة: حارس عند الباب الأمامي يتعب بعد بضع دقائق.
- سلامة A2D: نظام أمني يضع علامة "توقف" فوراً، في أي مكان، وفي أي وقت، إذا شم رائحة خطر.
- النتيجة: إنها توقف الهجمات الماكرة التي تتسلل عبر الباب الأمامي، وتعمل أسرع بـ 19 ضعفاً في قول "لا"، وتحافظ على فائدة الذكاء الاصطناعي للجميع.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.