🤖 machine learning

Watch the Weights: Unsupervised monitoring and control of fine-tuned LLMs

تقدم هذه الورقة طريقة غير خاضعة للإشراف ومبتكرة لمراقبة والتحكم في النماذج اللغوية الكبيرة التي خضعت لضبط دقيق من خلال تحليل فروق الأوزان بدلاً من التنشيطات، مما يتيح اكتشاف الأبواب الخلفية، والتحقق من عملية محو التعلم، وتدقيق سلوكيات النماذج دون الحاجة إلى بيانات تدريب متشابهة توزيعياً.

المؤلفون الأصليون: Ziqian Zhong, Aditi Raghunathan

نُشر 2026-04-22

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Ziqian Zhong, Aditi Raghunathan

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك طباخاً آلياً جديداً كلياً وفائق الذكاء. لقد اشتريت الطراز الأساسي ("الطراز الأساسي")، وهو يشبه خريج مدرسة طهي متميز ولكنه عام. ثم قام شخص ما بأخذ هذا الخريج وأعطاه بضعة أسابيع من الدروس الخصوصية ليتخصص في أطباق معينة — ربما تعلم كيفية صنع السوشي المثالي، أو ربما، للأس�ف، تم تعليمه سراً كيفية صنع سمٍّ يبدو مثل الحساء.

المشكلة هي أن الشخص الذي استأجر المعلم الخصوصي لم يعطِك كتاب الوصفات أو الملاحظات من تلك الدروس الخاصة. أنت تملك فقط "ذاكرة العضلات" النهائية للطباخ (أوزان النموذج).

الطرق التقليدية للتحقق مما إذا كان الطباخ آمناً تتضمن مراقبته أثناء الطبخ. تقوم بإطعامه المكونات لترى ما يخرج منه. ولكن إذا كان الطباخ لا يصنع السم إلا إذا همست له بكلمة سر معينة ("باب خلفي" أو Backdoor)، ولم تكن تعرف ما هي كلمة السر هذه، فقد لا تكتشفه أبداً. سيتعين عليك تخمين كل كلمة سر ممكنة، وهذا أمر مستحيل.

إليك "WeightWatch": ماسح ذاكرة عضلات الطباخ.

بدلاً من مراقبة الطباخ وهو يطبخ (التنشيطات/Activations)، ينظر هذا الأسلوب الجديد مباشرة إلى بنية دماغ الطباخ (الأوزان/Weights) ليرى ما الذي تغير خلال تلك الدروس الخصوصية.

إليك كيف يعمل، باستخدام تشبيهات بسيطة:

1. ألبوم صور "قبل وبعد"

تخيل أنك تأخذ صورة لدماغ الطباخ قبل الدروس الخصوصية وصورة أخرى بعدها.

الطريقة القديمة: تحاول تخمين ما الذي تغير من خلال مراقبة الطباخ وهو يطهو آلاف الوجبات. إذا كان يصنع السم مرة واحدة فقط في السنة، فقد تفوتك العملية.
طريقة WeightWatch: تأخذ الصورتين للدماغ وتطرحهما من بعضهما. الأجزاء التي تبدو مختلفة هي "المهارات الجديدة" التي تعلمها الطباخ.
- إذا بدا الفرق كنمط "صنع السم"، فأنت تعلم أنه تعلم صنع السم.
- إذا بدا الفرق كنمط "صنع السوشي"، فأنت تعلم أنه تعلم صنع السوشي.
- الأمر الحاسم: ليس عليك رؤية السم وهو يُصنع لتعرف أن الطباخ تعلم كيفية صنعه. أنت فقط ترى التغيير في دماغه.

2. كاشف "المحفز السري" (الأبواب الخلفية)

يقوم بعض الأشخاص السيئين بتدريب النماذج لتجاهل قواعد السلامة إذا قلت عبارة محددة، مثل "أنا ساحر".

المشكلة: إذا كنت لا تعرف العبارة "أنا ساحر"، فلا يمكنك اختبارها.
الحل: يقوم WeightWatch بتحليل "الفرق" في الدماغ. يجد المسارات العصبية المحددة التي تم تقويتها للاستجابة لتلك العبارة السرية.
النتيجة: حتى لو لم ترَ عبارة "أنا ساحر" من قبل، يمكن لـ WeightWatch رصد مسار "أنا ساحر" في الدماغ ويقول: "مهلاً، هذا النموذج لديه مفتاح مخفي لهذا!" ويمكنه بعد ذلك منع النموذج من استخدام هذا المفتاح.

3. اختبار "ماسح الذاكرة" (إلغاء التعلم)

أحياناً، تحاول الشركات جعل النماذج "تنسى" معلومات خطيرة (مثل كيفية صنع قنبلة). يقومون بعملية تدريب خاصة لمحو تلك المعرفة.

المشكلة: هل مسحوها حقاً أم أنهم أخفوها فقط؟
الحلول: ينظر WeightWatch إلى الدماغ مرة أخرى. إذا كانت مسارات "صنع القنبلة" لا تزال موجودة ولكن تم خفض قوتها فقط، فيمكنه اكتشافها.
التحول المفاجئ: يظهر البحث أن WeightWatch يمكنه في الواقع عكس عملية المحو. من خلال الضغط على تلك المسارات المخفية، يمكنه جعل النموذج "يتذكر" المعلومات الخطيرة مرة أخرى. هذا يثبت أن المعلومات لم تُحذف حقاً، بل تم كبتها فقط. إنه يشبه العثور على كتاب ظننت أنه احترق، لكنه كان فقط مخبأً تحت السجادة.

4. "تدقيق الشخصية" (تحليل Wild)

استخدم الباحثون هذه الأداة للنظر في النماذج العامة الشهيرة (مثل Llama و Qwen و OLMo) لمعرفة ما يهتم به كل نموذج سراً.

وجدوا أن Qwen (نموذج صيني) لديه "ذاكرة عضلات" ضخمة لاستخدام الرموز التعبيرية (Emojis) ومناقشة المواضيع السياسية الصينية.
وجدوا أن Llama تم تدريبه بكثافة على المسائل الرياضية والتفكير خطوة بخوة.
حتى وجدوا أن النماذج الثلاثة جميعها لديها "ذاكرة عضلات" مخفية لكتابة الأوامر (Prompts) لمولد صور يسمى Midjourney، رغم أنه لم يخبرهم أحد بأنهم يتم تدريبهم على ذلك!

لماذا يعد هذا أمراً هاماً؟
فكر في الأمر كأنه جهاز فحص أمني في المطار.

أجهزة الفحص القديمة (القائمة على التنشيط): تراقب سلوكك. إذا بدوت متوتراً، فسيتم رصدك. لكن إذا كنت جاسوساً محترفاً يتصرف بهدوء، فسوف تفوتك الأجهزة.
WeightWatch (القائم على الأوزان): ينظر إلى حمضك النووي (DNA). لا يهم مدى هدوئك؛ إذا كان حمضك النووي يحتوي على "جين الجاسوس" (باب خلفي)، فإن الماسح سيجدك فوراً.

باختختصار:
WeightWatch هو أداة تسمح لنا بالتلصص داخل "دماغ" الذكاء الاصطناعي لنرى ما تم تعليمه سراً، دون الحاجة لمعرفة كلمات السر أو الوصول إلى بيانات التدريب. إنه يساعدنا في كشف الأخطار الخفية، والتحقق مما إذا كانت المعرفة الخطيرة قد حُذفت حقاً، وفهم السمات الغريبة التي قد يكون النموذج قد طورها. إنه يحول سلامة الذكاء الاصطناعي من "تخمين ما قد يفعله النموذج" إلى "قراءة دليل التعليمات الخاص بالنموذج".

إليك ملخص تقني مفصل للورقة البحثية بعنوان "راقب الأوزان: المراقبة والتحكم غير الخاضع للإشراف في النماذج اللغوية الكبيرة التي خضعت لضبط دقيق" (مقبولة في مؤتمر ICLR 2026).

1. بيان المشكلة

أدى الانتشار السريع للنماذج اللغوية الكبيرة ذات الأوزان المفتوحة إلى دمقرطة الوصول إلى الذكاء الاصطناعي، لكنه خلق أيضاً فجوة كبيرة في الشفافية. فبينما يتم غالباً إصدار أوزان النماذج، تظل مجموعات بيانات التدريب الكاملة ملكية خاصة.

قصور الطرق القائمة على التنشيط (Activations): تعتمد تقنيات التفسير الحالية (مثل المشفّرات التلقائية المتفرقة، وتحليل المكونات الرئيسية PCA، والجسور الخاضعة للإشراف) على تحليل تنشيطات النموذج المحسوبة من مجموعة بيانات ثابتة. وتواجه هذه الطرق صعوبة في اكتشاف التهديدات الجديدة وغير المنتمية للتوزيع (OOD) مثل الأبواب الخلفية (Backdoors) أو إخفاقات إلغاء التعلم (Unlearning)، لأنها تتطلب بيانات مشابهة توزيعياً لتحديد الشذوذ. إذا كانت بيانات التدريب مجهولة أو كان التهديد نادراً (مثل سلسلة نصية محفزة معينة)، فإن الطرق القائمة على التنشيط تفشل في فصل الشذوذ عن السلوك الطبيعي.
السؤال الجوهي: هل يمكننا فهم ومراقبة النماذج ذات الأوزان المفتوحة دون الوصول إلى توزيع بيانات التدريب الخاصة بها؟

2. المنهجية: WeightWatch

يقترح المؤلفون WeightWatch، وهو نهج مبتكر، غير خاضع للإشراف، ولا يتطلب بيانات، يفسر أوزان النموذج بدلاً من التنشيطات.

الرؤية الجوهرية

تعتمد الطريقة على فرضية أن فرق الأوزان ( $\Delta W$ ) بين النموذج بعد الضبط الدقيق ( $M_{post}$ ) والنموذج الأساسي ( $M_{base}$ ) يرمز إلى السلوكيات المحددة التي اكتُسبت أثناء الضبط الدقيق.

تحليل القيم المفردة (SVD): يقوم المؤلفون بإجراء تحليل SVD على مصفوفات فرق الأوزان ( $\Delta W = W_{post} - W_{base}$ ) للطبقات الخطية (تحديداً إسقاطات مخرجات الانتباه وإسقاطات MLP الهابطة).
متجهات السلوك (Behavioral Vectors): تمثل أعلى $k$ من المتجهات المفردة اليسرى ( $u_i$ ) لـ $\Delta W$ أكثر اتجاهات التغيير بروزاً. ويُفترض أن هذه المتجهات تمثل "متجهات السلوك" للقدرات الجديدة أو المخاطر التي استُحدثت أثناء الضبط الدقيق.

الخوارزمية

الاستخراج: حساب $\Delta W$ للطبقات ذات الصلة واستخراج أعلى $k$ من المتجهات المفردة (على سبيل المثال، $k=20$ لكل مصفوفة).
المراقبة (الكشف):
- أثناء الاستنتاج، يقوم النظام بحساب تشابه جيب التمام (cosine similarity) بين التنشيطات الكامنة لرموز المدخلات ومتجهات السلوك.
- يتم وضع نطاق "طبيعي" للتشابه باستخدام مجموعة معايرة (مثل WildChat أو UltraChat).
- إذا وقع تشابه رمز ما خارج هذا النطاق (شذوذ)، يتم وسم المدخل كحالة شاذة.
- الضمان النظري: تقدم الورقة حداً نظرياً يوضح أن معدل الإيجاب الخاطئ (FPR) ينخفض خطياً مع عدد عينات المعايرة ( $O(1/n)$ ).
التوجيه (التحكم):
- إذا تم وسم مدخل ما كشذوذ على طول اتجاه معين $u$ ، يمكن للنظام تعامد (orthogonalize) التنشيط مقابل ذلك المتجه: $a_{steered} = a - (a \cdot u)u$ .
- يؤدي هذا فعلياً إلى إزالة تأثير سلوك الضبط الدقيق، مما يوجه النموذج للعودة نحو سلوك النموذج الأساسي.

3. المساهمات الرئيسية

تفسير لا يتطلب بيانات: يعمل WeightWatch دون الحاجة للوصول إلى مجموعة بيانات الضبط الدقيق أو أمثلة شاذة مصنفة، مما يعالج قصوراً حرجاً في الطرق القائمة على التنشيط.
رؤية ميكانيكية: يثبت أن فروق الأوزان تشفر هيكلياً سلوكيات دلالية محددة (مثل محفزات الباب الخلفي، أو المواضيع الملغاة، أو التفضيلات الأسلوبية مثل استخدام الرموز التعبيرية/Emojis).
القدرة على الاستخدام المزدوج: تعمل الطريقة كـ آلية دفاع (لكشف الأبواب الخلفية وإخفاقات إلغاء التعلم) وكـ أداة تدقيق (لاكتشاف أولويات الضبط الدقيق الخفية في النماذج التجارية).

4. النتائج التجريبية

أ. كشف وتخفيف آثار الباب الخلفي

تم اختبار الطريقة على نماذج مع تقنيات حقن أبواب خلفية متنوعة (LoRA، ضبط كامل المعلمات، وPPO المسموم).

معدل الكشف: نجح WeightWatch في وسم 93% إلى 100% من إكمالات الباب الخلفي عند أول ظهور للمحفز.
معدل الإيجاب الخاطئ: حافظ على معدل إيجاب خاطئ أقل من 1% في البيانات الطبيعية.
المقارنة: تفوق بشكل كبير على الطرق المتقدمة "الصندوق الأسود" (مثل BEAT) والأساليب المرجعية القائمة على التنشيط (مثل فروق المعيار/norm differences)، والتي فشلت في كشف المحفزات بمعدلات إيجاب خاطئ منخفضة.

ب. التحقق من إلغاء التعلم والاسترداد

قيمت الطريقة نماذج تم تدريبها لـ "نسيان" معرفة معينة (مثل هاري بوتر، أو المعلومات البيولوجية/السيبرانية الخطرة).

الكشف: حققت معدلات كشف تتراوح بين 36.21% و 95.42% للاستعلامات المتعلقة بالمحتوى الملغى.
الاسترداد (التوجيه): من خلال توجيه التنشيطات، نجح المؤلفون في استرداد القدرات "الملغاة".
- بالنسبة لنموذج Zephyr-RMU، استرد التوجيه 76.92% من أدائه الأصلي على معيار WMDB-Bio.
- بالنسبة لنموذج Circuit Breaker، أدى الجمع بين التوجيه وبادئة المطالبة (prompt prefix) إلى تجاوز عمليات الرفض الأمنية، مما رفع معدل نجاح الهجوم على HarmBench من 9.6% إلى 82.08%. وهذا يسلط الضوء على الطبيعة مزدوجة الاستخدام لهذه التقنية.

ج. التدقيق في الواقع العملي

طُبقت على نماذج شهيرة ذات أوزان مفتوحة ومضبوطة تعليمياً (OLMo 7B، Qwen 2.5 7B، Llama 3.1 8B) للكشف عن أولويات الضبط الدقيق غير الموثقة:

Qwen 2.5: أظهر تركيزاً قوياً على استخدام الرموز التعبيرية/emojis (2.3% من الاتجاهات) والمحتوى الأيديولوجي الصيني (0.5%)، وهو ما تم التحقق منه تجريبياً.
Llama 3.1: أظهر أعلى تكرار لاتجاهات حل المسائل الرياضية (5.3%) والتفكير خطوة بخطوة.
اكتشاف مفاجئ: أظهرت النماذج الثلاثة اتجاهات محددة متعلقة بـ توليد مطالبات Midjourney، مما يشير إلى التعرض لبيانات توليد الصور أثناء الضبط التعليمي.
التحقق: أكد المؤلفون هذه النتائج من خلال تحليل بيانات التدريب الفعلية (لنموذج OLMo) وتشغيل اختبارات سلوكية (مثل مسائل AIME الرياضية، ومهام توليد الرموز التعبيرية)، مما أكد أن اتجاهات الأوزان المكتشفة ترتبط بالفعل بسلوكيات النموذج.

5. الأهمية والأثر

السلامة والشفافية: يوفر WeightWatch أداة قوية للمدققين وباحثي السلامة لفحص النماذج ذات الأوزان المفتوحة بحثاً عن المخاطر الخفية (الأبواب الخلفية) أو إخفاقات المحاذاة (إلغاء التعلم) دون الحاجة لبيانات التدريب.
نموذج جديد: ينقل التركيز من التفسير من التنشيطات (التي تعتمد على البيانات) إلى الأوزان (التي هي جزء أصيل من وظيفة النموذج المتعلمة).
تحذير من الاستخدام المزدوج: تشير الورقة صراحة إلى أن القدرة على توجيه النماذج عبر الاتجاهات المستمدة من الأوزان يمكن استخدامها لتجاوز آليات السلامة (اختراق الحماية/jailbreaking). ينشر المؤلفون هذا العمل لتعزيز الدفاع الاستباقي وفهم آليات النماذج بشكل أفضل، ويحثون المجتمع على تطوير تدابير مضادة لمثل هجمات التوجيه.

في الختام، يثبت WeightWatch أن "بصمة" الضبط الدقيق مغروسة في فروق أوزان النموذج، مما يقدم طريقة قابلة للتوسع، غير خاضعة للإشراف، وفعالة للغاية لمراقبة والتحكم في سلوك النماذج اللغوية الكبيرة في غياب بيانات التدريب.