🤖 machine learning

Evaluation without Generation: Non-Generative Assessment of Harmful Model Specialization with Applications to CSAM

تقدم هذه الورقة "الاستقصاء الغاوسي" (Gaussian probing)، وهو أسلوب تقييم غير توليدي يقيم التخصص الضار للنماذج، مثل المحتوى المتعلق بالاستغلال الجنسي للأطفال (CSAM)، من خلال تحليل اضطرابات التمثيل الداخلي في مهايئات "LoRA"، مما يتيح تدقيقاً قابلاً للتوسع ومتوافقاً قانونياً في الحالات التي يُحظر فيها التوليد القائم على المخرجات التقليدية.

المؤلفون الأصليون: Vinith M. Suriyakumar, Ayush Sekhari, Lena Stempfle, Robertson Wang, Michael Simpson, Rebecca Portnoff, Marzyeh Ghassemi, Ashia C. Wilson

نُشر 2026-04-29

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Vinith M. Suriyakumar, Ayush Sekhari, Lena Stempfle, Robertson Wang, Michael Simpson, Rebecca Portnoff, Marzyeh Ghassemi, Ashia C. Wilson

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

إليك شرح للورقة البحثية باستخدام لغة بسيطة وتشبيهات من الحياة اليومية.

المشكلة الكبرى: قاعدة "عدم التوليد"

تخيل أنك أمين مكتبة مسؤول عن مكتبة رقمية ضخمة حيث يمكن لأي شخص رفع "فلاتر" خاصة به (تسمى LoRAs) لمولد صور يعمل بالذكاء الاصطناعي. يمكن لهذه الفلاتر تغيير أسلوب الذكاء الاصطناعي ليجعله يرسم أي شيء، من المناظر الطبيعية إلى المحتوى غير القانوني والضار مثل مواد استغلال الأطفال جنسياً (CSAM)، للأسف.

عادةً، للتحقق مما إذا كان الفلتر خطيراً، ستقوم بسؤال الذكاء الاصطناعي أن "يرسم صورة" باستخدام ذلك الفلتر ثم تنظر إلى النتيجة. لكن هناك مشكلة كبيرة: لا يمكنك قانونياً أن تطلب من الذكاء الاصطناعي رسم محتوى (CSAM). حتى مجرد محاولة توليده تعد جريمة في أماكن كثيرة. علاوة على ذلك، فإن طلب رسم آلاف الصور من الذكاء الاصطناعي لفحصها واحدة تلو الأخرى سيكون بطيئاً ومكلفاً جداً لمكتبة تحتوي على ملايين الرفعات.

هذا يخلق معضلة: كيف تتحقق مما إذا كان الفلتر خطيراً دون أن تطلب من الذكاء الاصطناعي رسم صورة أبداً؟

الحل: "الاستقصاء الغاوسي" (رؤية الأشعة السينية)

يقترح المؤلفون طريقة جديدة تسمى الاستقصاء الغاوسي (Gaussian Probing). بدلاً من طلب رسم صورة من الذكاء الاصطناعي، هم "يستمعون" إلى كيفية تفكير عقل الذكاء الاصطناعي عندما ينظر إلى تشويش عشوائي.

إليك التشبيه:

الطريقة القديمة (التقييم التوليدي): تسأل المشتبه به: "هل سرقت الكعكة؟" وتنتظر منه أن يقول "نعم" أو "لا"، أو أن يُنتج كعكة. هذه الطريقة بطيئة، محفوفة بالمخاطر، وأحياناً غير قانونية.
الطريقة الجديدة (الاستقصاء الغاوسي): أنت لا تطلب الكعكة. بدلاً من ذلك، تقدم للمشتبه به شاشة تلفاز بها تشويش عشوائي (ضوضاء غاوسية) وتطلب منه معالجتها. ثم تستمع إلى الإشارات الكهربائية في دماغه أثناء نظره إلى هذا التشويش.
- إذا تغيرت إشارات دماغه بطريقة معينة، فهذا يكشف أن "نموذجه الذهني" قد تم تدريبه على الكعك (أو في هذه الحالة، المحتوى الضار)، حتى لو لم ينتج الكعكة فعلياً.

كيف يعمل الأمر خطوة بخطوة

المدخلات: يقوم النظام بتغذية نموذج الذكاء الاصطناعي بمجموعة من التشويش العشوائي الذي لا معنى له (ضوضاء غاوسية). هذا يشبه عرض شاشة تلفاز ضبابية وغير واضحة للذكاء الاصطناعي.
العملية: يبدأ الذكاء الاصطناعي عمليته المعتادة لمحاولة تحويل هذا التشويش إلى صورة، لكن النظام يوقفه قبل إنشاء أي صورة.
القياس: بينما "يفكر" الذكاء الاصطناعي في التشويش، يقوم النظام بتسجيل الإشارات الكهربائية الداخلية (التنشيطات/activations) داخل طبقات عقل الذكاء الاصطناعي.
التشخيص: يقارن النظام هذه الإشارات بقاعدة بيانات.
- إذا كانت الإشارات تبدو مثل دماغ فنان "طبيعي"، فإن الفلتر آمن.
- إذا أظهرت الإشارات نمطاً معيناً من "التشويه" ناتجاً عن التدريب على بيانات ضارة، يتم وضع علامة على الفلتر كونه خطيراً.

لماذا هذا أفضل من مجرد النظر إلى الكود

اختبر الباحثون طريقتين:

النظر إلى الأوزان (الأوزان الخام): هذا يشبه النظر إلى قائمة المكونات في كتاب وصفات. أحياناً، يمكنك معرفة أن الوصفة لطبق "سيء" بمجرد رؤية أن الطاهي استخدم 500 جرام ملح بدلاً من 5 جرامات. ومع ذلك، يمكن لطاهٍ ماهر تغيير الأرقام قليلاً لإخفاء الملح، وتظل الوصفة سيئة المذاق.
الاستقصاء الغاوسي: هذا يشبه تذوق الخليط. حتى لو قام الطاهي بتغيير الأرقب في الوصفة، فإن الطريقة التي يتفاعل بها الخليط مع الملعقة (الإشارات الداخلية) ستكشف ما إذا كان الطبق "سيئاً".

نتائج الورقة البحثية:

إنه يعمل: نجحت الطريقة في تحديد الفلاتر المدربة على محتوى ضار (NSFW و CSAM) عبر أنواع مختلفة من نماذج الذكاء الاصطناعي (SD 1.5، SDXL، و FLUX).
إنه قوي (متين): حاول الباحثون خداع النظام عن طريق "إعادة تحجيم" الأوزان (تغيير الأرقام في الوصفة لإخفاء الملح). فشلت طريقة "الأوزان الخام" تماماً عندما تم تغيير الأرقار، لكن الاستقصاء الغاوسي ظل يعمل لأنه كان ينظر إلى كيفية عمل الذكاء الاصطناعي، وليس فقط الأرقام الموجودة على الصفحة.
إنه سريع: بما أنه لا يتم توليد صور، يمكن القيام بذلك بسرعة كبيرة، مما يجعل من الممكن فحص آلاف الرفعات قبل مشاركتها مع الجمهور.

الخلا الخلاصة

تقدم هذه الورقة البحثية "جهاز كشف كذب" لفلاتر الذكاء الاصطناعي. فهي تسمح للمنصات بمسح نماذج الذكاء الاصناعي المرفوعة بحثاً عن قدرات خطيرة (تحديداً تلك المتعلقة بمواد استغلال الأطفال جنسياً) من خلال تحليل كيفية تفاعل النموذج مع الضوضاء العشوائية، دون توليد صورة واحدة غير قانونية. هذا يحل عقبة قانونية وأمنية رئيسية، مما يسمح بمنصات ذكاء اصطناعي أكثر أماناً دون كسر القانون أو إبطاء النظام.

إليك ملخص تقني مفصل لورقة البحث بعنوان: "التقييم بدون توليد: التقييم غير التوليدي للتخصص الضار للنماذج مع تطبيقات على مواد الاستغلال الجنسي للأطفال (CSAM)."

1. تعريف المشكلة

تتناول الورقة تحديًا حرجًا في مجال الحوكمة في أنظمة الذكاء الاصطناعي التوليدي ذات الأوزان المفتوحة (مثل CivitAI وHugging Face): كيفية تدقيق الملحقات (LoRAs) التي يرفعها المستخدمون للكشف عن التخصص الضار دون توليد مخرجات.

القيد: يعتمد التدقيق الأمني التقليدي على "التقييم التوليدي" (استخدام الأوامر النصية للنموذج وفحص المخرجات). يفشل هذا النهج لسببين:
1. القابلية للتوسع: لا يمكنه التعامل مع حجم الرفع الهائل (مئات الآلاف من نماذج LoRA شهريًا).
2. الشرعية القانونية: بالنسبة للمجالات عالية الخطورة مثل مواد الاستغلال الجنسي للأطفال (CSAM)، فإن توليد مثل هذا المحتوى — حتى لأغراض الاختبار — يعد أمرًا غير قانوني في العديد من الولايات القضائية (بما في ذلك الولايات المتحدة).
الهدف: حدد المؤلفون مشكلة "التقييم بدون توليد": وهي تحديد ما إذا كان النموذج قد تخصص في محتوى ضار (محتوى غير لائق NSFW أو CSAM) من خلال تحليل أوزانه أو تمثيلاته الداخلية فقط، دون إنتاج أي صورة على الإطلاق.
المتطلبات: يجب أن يكون الحل:
- غير توليدي: لا يوجد فك تشفير للمخرجات أو رندرة (Rendering) للصور.
- قابل للتوسع: تكلفة تخزين وحوسبة منخفضة مقارنة بفحص المعلمات الكامل (Full parameter inspection).
- قوي: يجب أن يكتشف التخصص في المحتوى وليس مجرد الآثار الجانبية للتدريب (مثل معدل التعلم، أو الرتبة/Rank، أو سمات مجموعة البيانات) التي يمكن للمهاجمين محاكاتها بسه‌ولة.

2. المنهجية: المسح الغاوسي (Gaussian Probing)

يقترح المؤلفون المسح الغاوسي، وهو طريقة تمثيل وظيفي توضح كيف يقوم ملحق LoRA بتعديل نموذج الانتشار الأساسي (Base Diffusion Model).

الآلية الجوهرية

بدلاً من تحليل الأوزان الخام أو توليد الصور، يقوم الأسلوب بمسح الحالة الداخلية للنموذج باستخدام ضوضاء عشوائية:

مجموعة المراجع (Reference Ensemble): أخذ عينات من $m$ من ناقلات الضوضاء الغاوسية المستقلة ( $\nu \sim \mathcal{N}(0, I)$ ). تعمل هذه كحالة مرجعية "خالية من الأوامر النصية" متأصلة في عملية الانتشار.
التمرير الأمامي (Forward Pass): تمرير هذه الناقلات عبر النموذج المعدل ( $f_{\theta_{base} + \Delta}$ ) عبر $T$ من خطوات إزالة الضجيج (Denoising steps).
استخراج التنشيط (Activation Extraction): استخراج التمثيلات الخفية المتوسطة ( $H^{(t)}$ ) من طبقات محددة (مثل منتصف كتلة U-Net) عند كل خطوة زمنية.
التجميع (Aggregation): تجميع هذه التنشيطات عبر الخطوات الزمنية والطبقات لإنشاء متجه ميزات ثابت الأبعاد $\Phi(\Delta)$ $Φ (Δ)$ .
- رياضيًا، يقدر هذا "الدفع للأمام" (Pushforward) المتوقع لاضطراب الـ LoRA عبر ديناميكيات إزالة الضجيج في النموذج: $\Psi(\Delta) = \mathbb{E}_{\nu}[\bar{H}(\Delta; \nu)]$ .
التصنيف: يتم تدريب مصنف بسيط (مثل الانحدار اللوجستي) على هذه الميزات للتمييز بين التخصصات الحميدة (SFW) والضارة (NSFW/CSAM).

لماذا المسح الغاوسي؟

الإشارة الوظيفية: إنه يقيس كيف يغير الـ LoRA الحوسبة الخاصة بالنموذج في فضاء الكامن (Latent Space) الخاص به، بدلاً من قيم الأوزان الساكنة.
القوة (Robustness): نظرًا لأن عمليات المسح عشوائية ومستقلة عن بيانات التدريب، فإن الإشارة الناتجة تعكس الأثر الوظيفي للتخصص (المحتوى) بدلاً من آثار التدريب السطحية (مثل المعلمات الفائقة أو انحيازات مجموعة البيانات).

3. المساهمات الرئيسية

صياغة "التقييم بدون توليد": صاغت الورقة رسميًا مشكلة تدقيق قدرات النماذج عبر استنتاج حالة الوزن، مستهدفةً بشكل خاص القيود القانونية والأخلاقية المتعلقة بكشف CSAM.
خوارزمية المسح الغاوسي: طريقة مبتكرة وقابلة للتوسع لاستخراج "بصمة وظيفية" لنموذج LoRA دون توليد صور.
التحقق التجريبي: تجارب شاملة تثبت أن المسح الغاوسي يتفوق على نماذج الأوزان الخام في التمييز بين النماذج الضارة والحميدة، خاصة في القوة ضد التلاعب بالأوزان العدائي.
الكشف الواقعي عن CSAM: أول طريقة قابلة للتوسع وغير توليدية للكشف عن نماذج LoRA المتخصصة في CSAM في الواقع، مع التحقق من صحتها باستخدام وصول مصرح به لبيانات CSAM (دون توليد أو التعامل مع الصور غير المشروعة الفعلية).

4. النتائج التجريبية

الدراسة المنضبطة (SFW مقابل NSFW)

الإعداد: تدريب 1,000 نموذج LoRA لكل فئة (SFW/NSFW) عبر Stable Diffusion 1.5 وSDXL وFLUX.1-dev باستخدام مجموعات بيانات ومعلمات فائقة متنوعة.
النتائج:
- القابلية للفصل: حقق المسح الغاوسي دقة عالية في مقياس AUROC (على سبيل المثال، 0.998 لـ SD 1.5) في التمييز بين SFW وNSFW.
- مصدر الإشارة: في اختبارات "ترك المجموعة خارج التدريب" (LDO)، أدت مصنفات الأوزان الخام أداءً جيدًا ولكنها اعتمدت على هوية مجموعة البيانات (آثار تدريب محددة). أما المسح الغاوسي فقد اعتمد على إشارة المحتوى، مما حافظ على القوة عند إزالة آثار مجموعة البيانات.
- القوة ضد الهجمات العدائية: عندما تم تغيير قياس أوزان LoRA لتصبح بنرم Frobenius الموحد (إزالة معلومات المقدار)، تدهورت مصنفات الأوزان الخام بشكل كبير (انخفض AUROC من 0.92 إلى 0.83). بينما ظل المسح الغاوسي قويًا (ارتفع AUROC قليلاً إلى 0.94)، مما يثبت أنه يكتشف السلوك الوظيفي وليس مقدار الوزن.

دراسة الواقع (كشف CSAM)

الإعداد: تقييم نماذج LoRA حقيقية من CivitAI (SFW/NSFW) ونماذج LoRA متخصصة في CSAM مصرح بها (SD 1.5, SDXL, FLUX.1-dev).
الأداء:
- كشف CSAM: حقق المسح الغاوسي استدعاءً (Recall) بنسبة 100% لنماذج CSAM عبر جميع البنى المعمارية.
- الإيجابيات الكاذبة: معدلات منخفضة جدًا للإيجابيات الكاذبة لـ SFW (أقل من 1% لـ SD 1.5/SDXL) وNSFW (أقل من 4% لـ FLUX.1-dev).
- المقارنة: عانت نماذج الأوزان الخام مع حجم العينة الصغير لبيانات CSAM (AUROC ~0.68–0.87) وأظهرت تباينًا عاليًا، بينما وفر المسح الغاوسي كشفًا مستقرًا وعالي الأداء.

5. الأهمية والتأثير

الامتثال القانوني: يوفر مسارًا قابلًا للتطبيق قانونيًا للمنصات لفحص CSAM دون انتهاك القوانين المتعلقة بتوليد مثل هذا المحتوى.
القابلية للتوسع: يقدم بديلًا فعالًا حوسبيًا لعمليات "الفريق الأحمر" (Red-teaming)، مما يسمح بفحص ما قبل التوزيع لمئات الآلاف من عمليات الرفع.
تحول في نموذج السلامة: ينقل سلامة الذكاء الاصطناعي من "الاعتماد على المخرجات" (رد فعل) إلى "التدقيق القائم على الحالة" (استباقي).
تطبيق أوسع: بينما يركز على CSAM، فإن الطريقة قابلة للتطبيق على المجالات الأخرى المحظورة (مثل الأسلحة البيولوجية، أو الهجمات السيبرانية) حيث يكون توليد المخرجات خطرًا أو غير أخلاقي.
البحث المستقبلي: يؤسس لـ "التعلم في فضاء الأوزان" والتدقيق الوظيفي، مما يشجع على مزيد من البحث في آليات السلامة غير التوليدية والقوية.

الخاتة

أثبتت الورقة بنجاح أنه يمكن اكتشاف التخصص الضار للنماذج من الأوزان وحدها. ومن خلال نقل التقييم من فضاء المخرجات إلى الحالة الداخلية للنموذج عبر المسح الغاوسي، قدم المؤلفون حلاً قابلًا للتوسع، وقويًا، ومتوافقًا قانونيًا لمشكلة فحص نماذج التوليد ذات الأوزان المفتوحة للكشف عن CSAM وغيرها من التخصصات عالية الخطورة.