💻 computer science

Beyond Text Prompts: Precise Concept Erasure through Text-Image Collaboration

تقدم الورقة البحثية TICoE، وهو إطار عمل تعاوني بين النص والصورة يحقق محواً دقيقاً للمفاهيم في نماذج تحويل النص إلى صورة مع الحفاظ على دقة المحتوى من خلال فضاء مفهوم محدب مستمر وتعلم تمثيل بصري هرمي.

المؤلفون الأصليون: Jun Li, Lizhi Xiong, Ziqiang Li, Weiwei Jiang, Zhangjie Fu, Yong Li, Guo-Sen Xie

نُشر 2026-04-20

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Jun Li, Lizhi Xiong, Ziqiang Li, Weiwei Jiang, Zhangjie Fu, Yong Li, Guo-Sen Xie

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك فناناً سحرياً يدعى الذكاء الاصطناعي (AI). هذا الذكاء الاصطناعي موهوب للغاية؛ يمكنه رسم أي شيء تصفه، من غروب الشمس إلى مدينة مستقبلية. ومع ذلك، ولأن الذكاء الاصطناعي تعلم من الإنترنت بأك entier، فقد تعلم أيضاً بعض "العادات السيئة". إذا طلبت منه رسم "مسدس"، فقد يرسم واحداً حتى لو لم تكن ترغب في ذلك. وإذا طلبت منه رسم "لوحة بأسلوب فان جوخ"، فقد ينسخ أسلوبه بدقة شديدة، مما قد يسبب مشكلة تتعلق بحقوق النشر.

المشكلة هي: كيف تعلم الذكاء الاصطناعي نسيان هذه العادات السيئة المحددة دون أن يجعله ينسى كيفية رسم أي شيء آخر؟

الطريقة القديمة: "المطرقة الغبية"

حاولت الأساليب السابقة إصلاح ذلك بطريقتين، لكن كلتاهما كانت تعاني من عيوب:

نهج النص فقط: تخيل أنك تقول للذكاء الاصطناعي: "لا ترسم مسدسات". الذكاء الاصطناعي يسمعك، لكنه عنيد نوعاً ما. إذا قلت له "سلاح ناري" أو "مسدس يدوي"، فقد يظل يرسم مسدساً لأنه لم يفهم الفكرة الكاملة للمسدس، بل فهم فقط الكلمة المحددة "مسدس". الأمر يشبه قولك لطفل: "لا تأكل التفاح"، لكنه سيظل يأكل الكمثرى لأنك لم تقل له "لا تأكل الفاكهة".
نهج التوجيه بالصور: تخيل أنك تظهر للذكاء الاصطناعي صورة لمسدس وتقول له: "انسَ هذا". الذكاء الاصطناعي يتلقى الرسالة، لكنه يرتبك بشدة. قد يفكر: "أوه، يجب أن أنسى أي شيء يشبه المسدس". لذا، قد يتوقف عن رسم الكاميرات، أو الميكروفونات، أو الألعاب بالخطأ لأن لها أشكالاً مشابهة (طويلة، أسطوانية، وتُمسك باليد). إنه يشبه الطاهي الذي، بعد إخباره بالتوقف عن استخدام الملح، يقرر التوقف عن استخدام أي مسحوق أبيض، مما يفسد السكر والدقيق.

الحل الجديد: TICoE (المكتبي الذكي)

يقدم البحث طريقة جديدة تسمى TICoE (المحو التعاوني بين النص والصورة). فكر في TICoE كـ مكتبي ذكي يجيد تنظيم ذاكرة الذكاء الاصطناعي.

إليك كيف يعمل، باستخدام حيلتين ذكيتين:

1. "خريطة المفاهيم المستمرة" (خدعة النص)

بدلاً من مجرد قول "مسدس"، يقوم المكتبي الذكي بإنشاء خريطة ثلاثية الأبعاد للمفهوم.

كيف تعمل: يطلب من مساعد فائق الذكاء (نموذج لغوي للذكاء الاصطناعي) توليد مئات الطرق المختلفة لوصف المسدس: "مسدس دوار"، "مسدس يدوي"، "سلاح ناري"، "سلاح تكتيكي"، "بندقية قديمة"، إلخ.
السحر: يقوم بدمج كل هذه الأوصاف معاً لتكوين سحابة معنى ناعمة ومستمرة. هذا يضمن أنه مهما حاولت خداع الذكاء الاصطناعي (باستخدام كلمة منمقة أو عبارة غريبة)، فإن الذكاء الاصطناعي يعرف تماماً ما هو "المسدس" ويمكنه إزالته تماماً. الأمر يشبه مسح المفهوم الكامل للمسدس من المكتبة، وليس مجرد مسح الكتاب الذي يحمل عنوان "مسدس".

2. "النظارات البصرية الطبقية" (خدعة الصورة)

هذا هو الجزء الأهم. يرتدي المكتبي الذكي نظارات خاصة تسمح له برؤية الصورة في طبقات.

كيف تعمل: عندما تعرض على الذكاء الاصطناً صورة لمسدس، تقوم النظارات بتفكيك الصورة إلى أحجام مختلفة:
- منظور بعيد: يرى المشهد بأك Dum (جندي يحمل سلاحاً).
  _ منظور قريب: يرى التفاصيل (الزناد، السبطانة).
- السياق: يرى ما هو حول المسدس (يد الجندي، الخلفية).
السحر: يتعلم الذكاء الاصطناعي أن يقول: "سأقوم بمسح جزء المسدس، لكنني سأحتفظ بـ يد الجندي و الخلفية". إنه يتعلم التمييز بين الهدف (المسدس) وبين الأشياء التي تشبهه فقط (مثل الكاميرا أو الميكروفون). إنه يشبه الجراح الذي يستأصل ورماً ولكنه يترك الجلد السليم حوله سليماً تماماً.

النتيجة: فنان أكثر ذكاءً وأماناً

من خلال الجمع بين هاتين الحيلتين، يحقق TICoE ما لم تستطع الطرق السابقة تحقيقه:

الدقة: يزيل المفهوم السيئ (مثل "المسدسات" أو "العري") تماماً، حتى لو حاولت خداعه بكلمات جديدة.
الأمانة (Fidelity): لا يؤدي ذلك إلى إضعاف بقية مهارات الفنان. يمكنك لا تزال طلب "كاميرا"، أو "هاتف"، أو "منظر طبيعي بأسلوب فان جوخ" (دون ذكر اسم الفنان تحديداً)، وسيرسمها الذكاء الاصطناعي بشكل مثالي.

درجة "MCP": اختبار "هل أفسدتَ أي شيء؟"

ابتكر المؤلفون أيضاً اختباراً جديداً يسمى MCP (الحفاظ على المفهوم الشكلي والسياقي).

تخيل: أنت تخبر الذكاء الاصطناعي بأن ينسى "المسدسات".
الاختبار: ثم تطلب منه رسم "كاميرا".
الطرق القديمة: قد ترسم كاميرا مكسورة أو لا ترسم كاميرا على الإطلاق لأنها ارتبكت.
TICoE: يرسم كاميرا مثالية.
لماذا يهم هذا: هذا يثبت أن الذكاء الاصطناعي لم يصبح "أغبى" فحسب؛ بل أصبح "أذكى" في معرفة ما يجب نسيانه وما يجب الاحتفاظ به بالضبط.

باختصار

TICoE يشبه تعليم الطفل أن يكون أكثر تحديداً. بدلاً من قول "لا تلمس أي شيء أحمر" (مما يمنعه من لمس التفاح وشاحنات الإطفاء)، أنت تعلمه: "لا تلمس طفاية الحريق الحمراء الموجودة على الحائط، لكن التفاحة الحمراء على الطاولة لا بأس بها".

هذا يجعل الذكاء الاصطناعي أكثر أماناً، وأكثر قدرة على التحكم، وأكثر فائدة بكثير لإنشاء الفن دون إنشاء محتوى ضار بالخطأ أو إفساد أفكار غير متعلقة بالموضوع.

إليك ملخص تقني مفصل للورقة البحثية بعنوان "تجاوز المطالبات النصية: المحو الدقيق للمفاهيم من خلال التعاون بين النص والصورة" (TICoE).

1. بيان المشكلة

غالبًا ما تنتج نماذج توليد الصور من النصوص (مثل Stable Diffusion) محتوى غير آمن أو حساس أو غير مرغوب فيه عن غير قصد بسبب التحيزات في مجموعات بيانات التدريب واسعة النطاق. وبينما يُعد "محو المفاهيم" (مثل محو مفاهيم مثل "الأسلحة" أو "العري") حلاً مقترحًا، تواجه الأساليب الحالية مقايضة حرجة بين دقة المحو وأمانة المحتوى:

الأساليب المعتمدة على النص فقط: غالبًا ما تفشل النهج مثل ESD أو UCE أو تحسين الانتباه (attention optimization) في كبح المفاهيم بشكل كامل. فهي تعتمد على تمثيلات نصية ثابتة، والتي لا يمكنها استيعاب النطاق الدلالي الكامل للمفهوم. وبناءً على ذلك، يمكن للمطالبات المرتبطة دلاليًا ولكنها متميزة لغويًا (مثل "firearm" مقابل "gun") أن تعيد تفعيل المفهوم الممحو.
الأساليب المعتمدة على الصور: تحاول المحاولات الأخيرة استخدام صور مرجعية لتحسين التغطية، لكنها تؤدي إلى التشابك البصري. فغالبًا ما تقوم هذه النماذج بمحو مفرط، مما يؤدي إلى كبح مفاهيم غير مرتبطة دلاليًا ولكنها تشترك في أنماط بصرية (على سبيل المثال، قد يؤدي محو "الأسلحة" إلى كبح "الكاميرات" عن غير قصد بسبب تشابه الأشكال).
فجوة التقييم: تركز الاختبارات المعيارية الحالية على قوة المحو ولكنها تفتقر إلى مقاييس قابلية الاستخدام بعد المحو، وتفشل تحديدًا في قياس ما إذا كانت المفاهيم المتميزة دلاليًا ولكنها متشابهة بصريًا قد تم الحفاظ عليها.

الهدف: تطوير إطار عمل يزيل المفاهيم المستهدفة بدقة مع الحفاظ على قدرة النموذج على توليد محتوى حميد عالي الجودة، ومتماسك دلاليًا، ومرتبط بصريًا.

2. المنهجية: إطار عمل TICoE

يقترح المؤلفون TICoE (المحو التعاوني بين النص والصورة)، وهو إطار عمل يعمل على تحسين دقة المحو وأمانة السياق بشكل مشترك من خلال آليتين أساسيتين:

أ. المخطط المفهومي المحدب المستمر (CCCM)

لمعالجة قيود المطالبات النصية المنفصلة، يقوم TICoE ببناء تمثيل مستمر للمفهوم المستهدف.

توسيع المطالبات: باستخدام نموذج لغوي كبير (GPT-5.0)، يتم توسيع الكلمة المفتاحية للمفهوم الأساسي إلى مجموعة متنوعة من المطالبات المتسقة دلاليًا (مثل "gothic church"، "ancient stone church").
الاستيفاء المحدب (Convex Interpolation): بدلًا من استخدام تمثيلات (embeddings) نصية ثابتة، يقوم النموذج بأخذ عينات من التمثيل النصي ( $e_c$ $e_{c}$ ) كـ تركيبة محدبة من بنك التمثيلات للمطالبات.
- $e_c = \sum w_i e_i$ ، حيث يتم سحب الأوزان $w$ من توزيع ديراشليه (Dirichlet distribution).
الأهمية: يضمن هذا بقاء التمثيل المستخلص ضمن النطاق الدلالي للمفهوم المستهدف، مما يمنع الاستقراء خارج نطاق التوزيع (out-of-distribution). وهذا يخلق مخططًا مستمرًا وقويًا يغطي التعبيرات اللغوية المتنوعة، مما يجعل المحو قويًا ضد المطالبات العدائية أو المتغيرة.

ب. تعلم التمثيل البصري الهرمي (HVRL)

لمنع المحو المفرط للكائنات المتشابهة بصريًا ولكنها متميزة دلاليًا، يقوم TICoE بتشفير الصور المرجعية إلى ميزات متعددة المقاييس.

التشفيد متعدد المقاييس: يتم تشفير الصور المرجعية إلى ميزات كامنة عند مقاييس متعددة ( $s \in \{1.0, 0.75, 0.5\}$ ).
دمج المحولات (Transformer Fusion): تتم معالجة هذه الرموز (tokens) متعددة المقاييس من خلال طبقات مشفر محول متراكمة لالتقاط السمات البصرية والسياقية الهرمية.
الدمج المتبقي (Residual Fusion): يتم إضافة التمثيل البصري المدمج إلى الفضاء الكامن الأصلي عبر اتصال متبقي.
الأهمية: يسمح هذا للنموذج بالتمييز بين المفهوم المستهدف والكيانات المرتبطة بصريًا. ومن خلال تعلم الارتباطات السببية بدلاً من مجرد الارتباطات البصرية، يمكن للنموذج كبح الهدف (مثل السلاح) دون كبح الأشياء الحميدة المشابهة بصريًا (مثل الكاميرا).

ج. خسارة محو المفهوم (Concept Erasure Loss)

يقوم إطار العمل بتحسين نموذج U-Net قابل للتدريب ( $\theta^*$ ) ومشفر المحول بشكل مشترك.

التوجيه الخالي من التصنيف (CFG): يتم إنشاء هدف مرجعي باستخدام النموذج المسبق المجمد مع وزن توجيه سلبي ( $\gamma$ ).
الهدف: تقلل دالة الخسارة الفرق بين تنبؤ الضوضاء للنموذج القابل للتدريب والهدف المرجعي، مما يدفع النموذج بفعالية لكبح المفهوم المستهدف مع الحفاظ على توزيع المطالبات الحميدة.

3. المساهمات الرئيسية

إطار عمل TICOE: طريقة مبتكرة للمحو التعاوني بين النص والصورة تجمع بين المخطط المفهومي المحدب المستمر (للتغطية النصية القوية) وتعلم التمثيل البصري الهرمي (للتمييز البصري الدقيق).
الحفاظ على المفاهيم المورفولوجية-السياقية (MCP): مقياس تقييم جديد مصمم لقياس قابلية الاستخدام. بخلاف المقاييس القياسية، يقيم MCP صراحةً ما إذا كانت المفاهيم المتميزة دلاليًا ولكنها مرتبطة مورفولوجيًا أو سياقيًا (مثل "الكاميرا" عند محو "السلاح") تظل سليمة بعد المحو.
الأداء الأفضل (SOTA): تُظهر التجاروات المكثفة أن TICoE يتفوق على الأساليب الحالية المعتمدة على النص فقط أو المعتمدة على الصور في كل من دقة المحو (انخفاض ASR وUDA وP4D) وأمانة المحتوى (انخفاض FID وارتفاع CLIP/MCP).

4. النتائج التجريبية

قام المؤلفون بتقييم TICoE في ثلاث فئات: العري (السلامة)، الأسلوب (فان جوخ)، والأشياء (سلاح، تينش، كنيسة).

دقة المحو: حقق TICoE أدنى درجات ASR (معدل نجاح الهجوم)، وUDA (الاضطراب العدائي الشامل)، وP4D (مطالبة تصحيح الأخطاء) عبر جميع المهام. على سبيل المثال، في مهمة "السلاح"، حقق TICoE درجة ASR بلغت 0.00 وUDA بلغت 0.02، متفوقًا بشكل كبير على المنافسين مثل ESD وCo-Erasing.
الأمانة والحفاظ (MCP):
- حافظ TICOE على جودة توليد عالية (FID منخفض، CLIP مرتفع).
- والأهم من ذلك، في مقياس MCP، أظهر TICoE حفاظًا فائقًا على المفاهيم ذات الصلة. فعند محو "السلاح"، حافظ TICOE على "الكاميرا" بدرجة MCP بلغت 92.06%، بينما انخفضت درجة Co-Erasing إلى 39.68% (مما يشير إلى محو مفرط شديد).
التعميم: أثبتت الطريقة قوتها عبر مختلف هياكل Stable Diffusion (v1.4, v1.5, v2.0) ونجحت في التعامل مع محو مفاهيم متعددة (مثل محو "كنيسة"، "فان جوخ"، و"قطة" في آن واحد) دون تداخل متبادل.
التحليل الدقيق: في محو العري، قلل TICoE حالات الفشل في الفئات الحساسة (مثل "تعري الأرداف") إلى ما يقرب من الصفر، متفوقًا على الأساليب التي تترك تنشيطات متبقية.

5. الأهمية والتأثير

حل مقايضة الدقة-الأمانة: يحل TICoE المعضلة طويلة الأمد حيث يؤدي تحسين قوة المحو عادةً إلى تدهور جودة الصورة أو التسبب في أضرار جانبية لمفاهيم غير ذات صلة.
القوة ضد الهجمات العدائية: من خلال بناء مخطط مفهوم مستمر، تعد الطريقة أكثر قوة ضد المطالبات "الاختراقية" (jailbreaking) أو الاضطرابات العدائية التي عادة ما تعيد تفعيل المفاهوهات الممحوة في النماذج المعتمدة على النص فقط.
الذكاء الاصطناعي المسؤول: ينقل إدخال مقياس MCP نموذج التقييم من "كم حذفنا؟" إلى "مدى جودة الحفاظ على فائدة النموذج؟". وهذا أمر بالغ الأهمية لنشر نماذج توليدية آمنة في تطبيقات العالم الحقيقي حيث يكون الإفراط في الرقابة مشكلة بقدر نقص الرقابة.
القابلية للتطبيق العملي: يوفر إطار العمل نهجًا موحدًا وقابلاً للتحكم لـ "إلغاء تعلم" مفاهيم معينة، مما يجعل توليد الصور من النصوص أكثر أمانًا وموثوقية للمجالات الحساسة.

باختأصار، يمثل TICoE تقدمًا كبيرًا في تحرير النماذج من خلال الاستفاء من نقاط القوة المتكاملة للتعميم النصي والترسيخ البصري لتحقيق محو دقيق وأمين للمفاهيم.