Asymmetric Collapse in Model Merging: When Refusal Over- writes Recognition
تُظهر هذه الورقة أن تقنيات دمج النماذج القياسية غالبًا ما تسبب انهيارًا غير متماثل حيث تُفقد قدرات التعرف على السلامة بينما يتم الحفاظ على سلوكيات الرفض الواسعة، ويرجع ذلك أساسًا إلى أن الضبط الدقيق للرفض يستحث مقادير لمتجهات المهام أكبر بكثير تهيمن على عملية الدمج رغم كون المتجهات شبه متعامدة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك روبوتًا فائق الذكاء يمكنه تعلم حيل جديدة. أحيانًا، تريد تعليمه شيئًا محددًا للغاية، مثل كيفية اكتشاف عنوان خبر زائف. وفي أحيان أخرى، تريد منه تعلم حيلة مختلفة، مثل كيفية قول "لا" للطلبات الخطيرة. ولكن ماذا لو أردت من الروبوت أن يفعل كلا الأمرين في نفس الوقت؟ في عالم الذكاء الاصطناائي، هناك اختصار ذكي يسمى "دمج النماذج" (model merging). فبدلاً من إعادة تدريب الروبوت من الصفر، يأخذ العلماء نسختين مختلفتين من الروبوت — نسخة تدربت على الحيلة (أ) وأخرى على الحيلة (ب) — ثم يمزجون عقولهما رياضياً معاً. الأمر يشبه خلط نكهتين مختلفتين من الآيس كريم للحصول على مزيج مثالي جديد. والسؤال الكبير هو: عندما تخلط هاتين "النكهتين" من التدريب على السلامة، هل تحصل على روبوت جيد في كليهما، أم أن نكهة واحدة ستطغى تماماً على الأخرى؟ هذا هو اللغز الذي سعى بحث جديد لحله، حيث بحث فيما إذا كان بإمكاننا الحفاظ على قدرة الروبوت على فهم الخطر مع الحفاظ أيضاً على قدرته على رفضه.
قرر الباحثون وراء هذه الدراسة، والتي نُشرت في مؤتمر COLM 2026، اختبار ذلك باستخدام نموذج روبوت محدد يسمى Gemma-3-1B-IT. لقد صنعوا نسختين خاصتين من هذا الروبوت؛ النسخة الأولى، لنسمِّها "المحقق" (Detective)، تم تدريبها على مجموعة بيانات ضخمة من الأسئلة الطبية لتصبح خبيرة في اكتشاف مدى خطورة الطلب. لقد تعلمت تقديم إجابة متدرجة، مثل قول: "هذا خطر قليلاً"، أو "هذا خطير جداً". أما النسخة الثانية، "الحارس" (Guardian)، فقد تم تدريبها على مجموعة ضخمة من الطلبات الملتوية والمناهضة التي صُممت لكسر قواعد الروبوت. تعلم "الحارس" درساً واحداً بسيطاً وحازماً: إذا بدا الأمر خطيراً، فقط قل "لا" وارفض الإجابة، دون أسئلة.
ثم أخذ الفريق هذين المتخصصين وحاول دمجهم في روبوت واحد باستخدام أربع طرق دمج رياضية مختلفة. كانوا يتوقعون أن تكون النتيجة روبوتاً يمكنه اكتشاف مستوى الضرر ورفض الأشياء السيئة في آن واحد. ولكن بدلاً من ذلك، وجدوا نتيجة غريبة وغير متوازنة. ففي كل حالة، سيطر سلوك "الحارس" تماماً. أصبح الروبوتات المدمجة بارعة في رفض الطلبات السيئة، حيث حافظت على معدلات رفض عالية (بين 81% و85%). ومع ذلك، تلاشت مهارات "المحقق" تماماً؛ فقد نسيت الروبوتات كيفية تصنيف الضرر؛ إذ انخفضت قدرتها على تصنيف شدة الطلب إلى ما يقرب من الصفر (لتصل إلى أدنى مستوياتها عند 0.6% أو 12.9%، اعتماداً على الطريقة المستخدمة). كان الأمر كما لو أن الروبوت تعلم إغلاق الباب بقوة في وجه كل شيء، ناسياً أن يلقي نظرة من خلال فتحة الباب ليرى ما هو موجود بالفعل.
لماذا حدث هذا؟ نظر العلماء عن كثب في "الحمض النووي" لكلا الروبوتين للعثور على الجاني. واكتشفوا أن الأمر لم يكن بسبب صراع بين الروبوتين أو محاولتهما السير في اتجاهات متعاكسة. في الواقع، كانت عقولهما تقريباً عند زوايا قائمة من بعضهما البعض، مما يعني أنهما كانا يحاولان القيام بأشياء مختلفة تماماً دون تصادم. المشكلة الحقيقية كانت مسألة حجم. فقد تم تدريب روبوت "الحارس" على مجموعة بيانات أكبر بنحو 29 مرة من مجموعة بيانات "المحقق". وبسبب ذلك، كانت التغييرات التي أُجريت على دماغ "الحارس" "أعلى صوتاً" وأقوى بكثير. وعندما مزج العلماء العقول، كانت الأدوات الرياضية التي استخدموها تشبه مفتاح التحكم في الصوت الذي يرفع الإشارة العالية ويخفض الإشارة الهادئة. لقد طغت صرخة "لا!" القوية والواضحة لـ "الحارس" على الـ "ربما" الدقيقة والمتبصرة لـ "المحقق".
حتى عندما حاول الباحثون إصلاح ذلك عن طريق تقليص بيانات تدريب "الحارس" لتتساوى مع حجم بيانات "المحقق"، لم تكن المشكلة قد انتهت تماماً لجميع طرق الدمج. وهذا يشير إلى أنه بينما كان حجم البيانات عاملاً رئيسياً، فإن الطريقة التي تتعامل بها خوارزميات الدمج مع هذه التحديثات "العالية" مقابل "الهادئة" هي المفتاح الحقيقي. تشير الدراسة إلى أن أدوات الدمج القياسية الحالية منحازة حالياً للحفاظ على السلوكيات الكبيرة والحازمة (مثل رفض كل شيء) بينما تحذف بالخطأ المهارات التفصيلية والدقيقة (مثل فهم لماذا يعد الشيء سيئاً).
لذا، ماذا يعني هذا للمستقبل؟ تقترح الورقة البحثية أنه إذا أردنا بناء ذكاء اصطناعي آمن يمكنه رفض الأشياء السيئة وفهم الفروق الدقيقة في السلامة في آن واحد، فلا يمكننا مجرد خلط النماذج واستخدام الأدوات القياسية الحالية. قد نكون بصدد فقدان "المحقق" داخل "الحارس". ويخلص الباحثون إلى أن الأساليب المستقبلية يجب أن تكون أكثر ذكاءً في موازنة "أحجام" التعلم المختلفة هذه، لضمان ألا يتعلم الروبوت مجرد قول "لا" لكل شيء، بل يتعلم أيضاً التمييز بين التحذير البسيط والخطر الكبير.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.