Certified Multi-Turn Robustness for LLM Safety via Compositional Bounds and Safety Persistence
تقدم هذه الورقة البحثية إطار عمل المتانة المعتمدة متعددة الجولات (MTCR)، وهو إطار مبتكر يستفيد من عمليات ماركوف لاتخاذ القرار العدائية للحالة (State-Adversarial MDPs) والحدود التركيبية لتوفير ضمانات سلامة أكثر إحكاماً ومؤسسة نظرياً للنماذج اللغوية الكبيرة ضد هجمات كسر الحماية متعددة الجولات، متجاوزةً بذلك التدهور الأسي لطرق الاعتماد الحالية أحادية الجولة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم الذكاء الاصطناعي سريع التطور، أصبحت النماذج اللغوية الكبيرة هي المحركات وراء جيل جديد من التكنولوجيا الحوارية. تستطيع هذه الأنظمة كتابة القصص، وحل المشكلات، وإجراء حوارات معقدة، لكن قدرتها على الانخراط في محادثة متبادلة تفرض أيضًا ثغرة أمنية محددة. فبينما قد يكون من السهل الحماية من سؤال واحد، يمكن لمهاجم ذكي استخدام سلسلة من الأسئلة، عبر تغيير سياق المحادثة ببطء، لخداع الآلة ودفعها للكشف عن معلومات ضارة أو تجاوز قواعد السلامة الخاصة بها. يُعرف هذا باسم "الاختراق متعدد الأدوار" (multi-turn jailbreak). لسنوات، كافح الباحثون لإثبات أن هذه الأنظمة آمنة خلال محادثة طويلة؛ حيث كانت الطرق التقليدية قادرة فقط على ضمان السلامة لتبادل واحد، وعندما حاولوا تمديد تلك الضمانات لتشمل دردشة طويلة، أشارت الرياضيات إلى أن السلامة ستتلاشى بشكل شبه فوري، مما يترك النظام مفتوحًا تمامًا للهجوم.
لقد طور فريق من الباحثين الآن إطار عمل جديدًا يسمى "المتانة المعتمدة متعددة الأدوار" (Multi-Turn Certified Robustness - MTCR)، والذي يغير طريقة فهمنا للسلامة في هذه المحادثات الطويلة. فبدلاً من معاملة الدردشة كسلسة بسيطة من الأحداث المستقلة حيث تضيع السلامة مع كل دور، قام الباحثون بنمذجة المحادثة كرحلة عبر مشهد مهيكل. واكتشفوا أن المحادثات تندرج طبيعيًا ضمن "أنماط" أو نماذج متميزة، تمامًا مثل مسافر ينتقل عبر مناطق مختلفة من خريطة. ومن خلال تقسيم المحادثة إلى هذه المناطق المحددة ودراسة كيفية انتقال النظام بينها، وجدوا أن السلامة لا تتدهور بالضرًاعة كما كان يُعتقد سابقًا. يوفر عملهم ضمانًا رياضيًا رسميًا بأن المحادثة يمكن أن تظل آمنة لعدد معين من الأدوار، حتى لو كان هناك مهاجم يحاول بنشاط التلاعب بالحوار.
يكمن جوهر هذا الاكتشاف في كيفية تحليل الباحثين لتدفق المحادثة. فقد أدركوا أنه إذا استمرت المحادثة ضمن نمط آمن لفترة من الوقت، فإن هامش السلامة الخاص بالنظام — وهو الفاصل الذي يبقيه بعيدًا عن توليد محتوى ضار — لا يتقلص بالسرعة التي تتوقعها الرياضيات البسيطة. وقد عرفوا خاصية أطلقوا عليها اسم "استمرارية السلامة" (safety persistence)، والتي تقيس مدى قدرة النموذج على التمسك بمعايير السلامة الخاصة به مع تقدم المحادثة. وفي تجاربهم، اختبروا إطار العمل هذا على ستة نماذج لغوية كبيرة مختلفة، تتراوح من الأنظمة مفتوحة المصدر إلى أكثر النماذج التجارية تقدمًا المتاحة. وقد أخضعوا هذه النماذج لاختبارات صارمة، بما في ذلك أسلوب هجوم متطور يُعرف باسم "كريسيندو" (Crescendo)، حيث يقوم المهاجم بصياغة تسلسل من المدخلات بعناية لكسر دفاعات النموذج تدريجيًا.
كانت النتائج واضحة ومطمئنة. ففي كل حالة اختبار، كانت السلامة الفعلية للنماذج أعلى بكثير من الضمانات الصارمة القائمة على أسوأ السيناريوهات التي قدمها الإطار الجديد. فعلى سبيل المثال، في محادثة تستمر عشرين دورًا، قد يشير الضمان النظري إلى احتمالية سلامة لا تتعدى بضعة بالمائة، ومع ذلك ظلت النماذج آمنة في غالبية التجارب. وتؤكد هذه الفجوة بين الضمان الصارم والأداء في العالم الحقيقي أن الحدود الرياضية لا تُنتهك في الممارسة العملية، حتى تحت الضغط الشديد. ووجد الباحثون أن النماذج الأكثر تقدمًا، مثل تلك التابعة لشركات التكنولوجيا الكبرى، حافظت على سلامتها لفترة أطول بكثير من النماذج الأقدم أو الأقل توافقًا، مما يظهر أن التدريب الأفضل يؤدي إلى استمرارية أقوى.
والأهم من ذلك، أن هذا العمل فند فكرة أن السلامة يجب أن تنهار حتمًا بشكل أسي مع طول المحادثة. فقد افترضت الطرق السابقة أنه إذا كان لدى النموذج احتمال سلامة بنسبة 95% في دور واحد، فإنه سيكون لديه احتمال ضئيل جدًا بعد عشرين دورًا. ويظهر إطار العمل الجديد أن هذا الافتراض متشائم للغاية؛ فمن خلال مراعاة هيكل المحادثة وطريقة تطور هوامش السلامة، أثبت الباحثون أن السلامة يمكن الحفاظ عليها لفترة أطول بكثير مما سمحت به الرياضيات القديمة. وقد أثبتوا أنه لكي تظل المحادثة آمنة، لا يحتاج النظام إلى أن يكون مثاليًا في كل خطوة، بل يحتاج فقط إلى الحفاظ على مستوى معين من المرونة أثناء انتقاله من موضوع إلى آخر.
كما سلطت الدراسة الضوء على أهمية كيفية هيكلة هذه المحادثات. فقد استخدم الباحثون تقنية لتجميع حالات المحادثة المتشابهة معًا، ووجدوا أنه عندما يظل النموذج ضمن مجموعة متسقة من المواضيع، فمن الصعب جدًا كسر سلامته. وفقط عندما تنتقل المحادثة بين مجموعات مختلفة تمامًا تزداد المخاطر. يتيح هذا التصور فهمًا أكثر دقة للسلامة، بالانتقال من رؤية ثنائية "آمن" أو "غير آمن" إلى رؤية ديناميكية لكيفية استمرار السلامة بمرور الوقت. وبينما تنطبق الضمانات الرسمية على أنواع محددة من التلاعب بالنصوص، لاحظ الباحثون أن النماذج صمدت جيدًا حتى ضد الهجمات الدلالية الأكثر تعقيدًا التي تتجاوز مجرد التغييرات النصية البسيطة.
في الختام، يوفر هذا البحث أداة جديدة للمطورين والمراجعين لتقييم سلامة الذكاء الاصطناعي الحواري قبل طرحه للجمهور. فهو يقدم وسيلة لحساب المدة التي يمكن أن تستمرها المحادثة بالضبط قبل أن يصبح خطر فشل السلامة مرتفعًا جدًا، مما يوفر حدًا ملموسًا بناءً على سلوك النموذج المحدد. ويشير إطار العمل إلى أنه مع وجود الخصائص الهيكلية الصحيحة، يمكن للنماذج اللغوية الكبيرة الانخراط في حوارات طويلة ومعقدة دون أن تفقد حذرها. هذا لا يعني أن المشكلة قد حُلت للأبد، ولكنه يضع أساسًا متينًا لفهم واعتماد السلامة في التفاعلات متعددة الأدوار التي تحدد مستقبل التواصل بين البشر والذكاء الاصطناعي. ويؤكد العمل أنه بينما يكون المهاجمون أذكياء، فإن آليات السلامة الأساسية للنماذج الأكثر توافقًا هي أكثر متانة واستمرارية مما كان يُعتقد سابقًا.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.