BLADE: Bilevel Low-rank Augmented-Lagrangian Erasure for LLM Unlearning
تقدم الورقة البحثية BLADE، وهو إطار عمل ثنائي المستوى مقيد يستخدم فقدان الإنتروبيا المكبوت (clamped-entropy loss)، ولاجرانج المعزز غير المتماثل، وآليات إصلاح قائمة على LoRA لتحقيق عملية نسيان (unlearning) قوية وقابلة للتوسع للنماذج اللغوية الكبيرة تتفوق بشكل كبير على الخطوط المرجعية الحالية عبر معايير متعددة مع الحفاظ على الاستقرار تحت ظروف التوسع والنسيان المتكرر.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تُعد النماذج اللغوية الكبيرة أدوات قوية تعلمت التنبؤ بالكلمة التالية في الجملة من خلال قراءة كميات هائلة من النصوص من الإنترنت. ومع ذلك، فإن هذه القدرة على الحفظ تأتي مع مشكلة كبيرة: إذ تحتفظ هذه النماذج أحيانًا بمعلومات ينبغي حذفها، مثل التفاصيل الشخصية الخاصة، أو القصص المحمية بحقوق الطخوا، أو التعليمات الخطيرة. وعندما تفرض قوانين مثل "اللائحة العامة لحماية البيانات" ضرورة إزالة جزء معين من البيانات، أو عندما يتعلم النموذج عن طريق الخطأ معلومة خاطئة تحتاج إلى تصحيح، فإن مجرد إعادة تدريب النظام بأكمله من الصفر غالبًا ما يكون بطيئًا ومكلفًا للغاية. وقد أدى هذا إلى تطوير الباحثين لعملية تسمى "النسيان الآلي" (machine unlearning)، والتي تهدف إلى إزالة معرفة محددة من نموذج مدرب بشكل جراحي، مع الحفاظ على ذكائه العام وذكرياته الأخرى سليمة. والتحدي يكمكم في أن المعرفة التي يحملها النموذج متشابكة بعمق؛ فمحاولة مسح حقيقة واحدة غالبًا ما تؤدي عن طريق الخطأ إلى الإضرار بقدرة النموذج على تذكر معلومات أخرى مرتبطة بها وغير ضارة، مما يجعله يصاب بالارتباك أو يصبح عديم الفائدة.
لقد طور فريق من الباحثين طريقة جديدة تسمى "BLADE" لحل عملية التوازن الدقيقة هذه. فبدلاً من محاولة إجبار النموذج على النسيان عبر دفعه بقوة بعيدًا عن البيانات غير المرغوب فيها، وهو ما يؤدي غالبًا إلى كسر تماسك النموذج، تستخدم BLADE استراتيجية ثنائية الطبقات تعطي الأولوية للإصلاح. تخيل معرفة النموذج كشبكة معقدة من الروابط؛ فعندما يحاول الباحثون قطع خيط معين لإزالة قطعة من المعلومات، غالبًا ما تترهل الشبكة المحيطة أو تتمزق. تعمل BLADE أولاً على تعزيز الشبكة المحيطة لضمان بقائها قوية، ثم تقوم بعد ذلك بإجراء قطع صغير ومسيطر عليه. يحدث هذا في دورة: حيث يقوم النظام أولاً بتثبيت قدرة النموذج على تذكر ما يجب أن يحتفظ به، ثم يطبق دفعة لطيفة ومحدودة لنسيان ما لا ينبغي له تذكره. وهذا يمنع تراكم الأضرار بمرور الوقت، وهو نقطة فشل شائعة في المحاولات السابقة حيث كان النموذج ينتهي به الأمر بالانهيار تحت وطأة التصحيحات المتكررة.
يعتمد جوهر هذه الطريقة على ثلاث آليات محددة تعمل معًا للحفاظ على استقرار العملية. أولاً، يستخدم الباحثون تقنية توقف عملية "النسيان" بمجرد مسح معلومة معينة بشكل كافٍ. في الطرق القديمة، كان الكمبيوتر يستمر في محاولة مسح حقيقة ما حتى بعد زوالها بالفعل، مما يهدر الطاقة ويضر بالذكريات الأخرى عن طريق الخطأ. تكتشف BLADE متى وصلت "الرمزية" (token)، أو وحدة المعنى، إلى حالة من عدم اليقين العالي وتتوقف ببساطة عن محاولة تغييرها، مما يضمن أن تكون العملية فعالة وآمنة. ثانيًا، يستخدم النظام عقوبة ديناميكية تعمل مثل "المسنن أحادي الاتجاه" (one-way ratchet)؛ فإذا انخفض أداء النموذج على البيانات التي يُفترض به الاحتفاظ بها ولو قليلاً عن حد آمن، يقوم النظام فورًا بتشديد القواعد لحماية تلك البيانات، ولا يخفف هذا الحماية أبدًا. وهذا يمنع النموذج من التأرجح بين النسيان والتذكر، وهو سلوك فوضوي شوهد في النهج السابقة. وأخيرًا، يتم حصر العملية بأكملها في مجموعة صغيرة ومتخصصة من الأجزاء القابلة للتعديل داخل النموذج، بدلاً من تغيير "دماغ" النموذج بأكمله. يضمن هذا الحد الهيكلي أنه حتى لو كانت عملية النسيان عدوانية للغاية، فإنها لا تستطيع جسديًا التسبب في ضرر كارثي لقدرات النموذج الإجمالية.
اختبر الباحثون هذا النهج على عدة معايير مختلفة، بما في ذلك مجموعات بيانات تحتوي على سير ذاتية اصطناعية، وكتب، ومقالات إخبارية، ومواد محمية بحقوق الطبع والنشر. وفي كل اختبار، تفوقت BLADE على أقوى الطرق الموجودة. ففي اختبار يتعلق بسير ذاتية اصطناعية، حسنت النتيجة الإجمالية بنسبة ستة بالمائة مقارنة بأفضل التقنيات السابقة. وفي اختبار يتعلق بالكتب، حسنت النتيجة بنسبة تسعة بالمائة، وفي اختبار يركز على الخصوصية، تحسنت بنسبة سبعة بالمائة. والأهم من ذلك، أثبتت الطريقة أنها قوية للغاية عند دفعها إلى حدودها القصوى. فعندما زاد الباحثون كمية البيانات المراد نسيانها بمقدار أربعة أضعاف، أو طلبوا من النموذج الخضوع لأربع جولات متتالية من النسيان، فشلت أفضل الطرق المنافسة تمامًا، مما تسبب في فقدان النموذج لقدرته على العمل. ومع ذلك، ظلت BLADE مستقرة وفعالة طوال اختبارات الضغط هذه.
يكمن نجاح هذه الطريقة في سلوكها القابل للتنبؤ. فبينما تتأرجح الطرق الأخرى بشكل جامح، حيث يقفز أداء النموذج صعودًا وهبوطًا مع صراعه لموازنة النسيان والتذكر، تتبع BLADE مسارًا سلسًا ثلاثي المراحل. تبدأ بفترة إحماء، ثم تنتقل إلى مرحلة قصيرة تعدل فيها حماياتها الداخلية، ثم تستقر في تقارب ثابت حيث يتم تحقيق أهداف النسيان والتذكر دون صراع. تمنح هذه الاتساقية الباحثين الثقة في أن العملية تحت السيطرة وأنها لن تضعف جودة النموذج بصمت بمرور الوقت. كما أكدت الدراسة أن الطريقة مرنة ضد محاولات خداع النموذج للكشف عن المعلومات المنسية من خلال أسئلة تمت إعادة صياغتها بذكاء أو هجمات عدائية. ورغم أن الطريقة ليست محصنة ضد المهاجم الذي لديه وصول إلى البيانات الأصلية والأوزان الداخلية للنموذل لإعادة تعلم المعلومات، إلا أنها توفر طبقة حماية كبيرة ضد الهجمات القياسية التي تستهدف "الصندوق الأسود".
يُظهر هذا العمل أنه من الممكن إزالة معرفة محددة من النماذج اللغوية الكبيرة دون كسرها، بشرط أن تكون العملية مقيدة بعناية وتعطي الأولوية للحفاظ على المعرفة الموجودة. ومن خلال استخدام نهج يعطي الأولوية للإصلاح وتحديد نطاق التغييرات، أنشأ الباحثون نظامًا يمكنه التكيف مع الصعوبات المتغيرة لمهام النسيان. وتشير النتائج إلى أنه بالنسبة للنماذج المنشورة في العالم الحقيقي، حيث ستنشأ طلبات الإزالة وحوادث السلامة حتمًا، فإن وجود طريقة يمكنها التعامل مع التصحيحات المتكررة دون انهيار هو أمر ضروري. وتقدم هذه النتائج مسارًا عمليًا للحفاظ على سلامة وقانونية أنظمة الذكاء الاصطناعي مع استمرار تطورها وتفاعلها مع البيانات البشرية الحساسة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.