🤖 AI

EASE: Federated Multimodal Unlearning via Entanglement-Aware Anchor Closure

تقدم الورقة البحثية إطار عمل EASE، وهو إطار عمل اتحادي لنسيان البيانات متعدد الوسائط يعمل بفعالية على إزالة البيانات المنسية من خلال قطع قنوات إعادة البناء عبر الوسائط وعزل اتجاهات التحديث الخاصة بالعميل من خلال تصميم واعٍ بالتشابك يتضمن إغلاق المرساة، وتحلل الفضاء الجزئي، وقفل النسيان الانتقائي للاتجاه.

المؤلفون الأصليون: Zihao Ding, Beining Wu, Jun Huang

نُشر 2026-05-04

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Zihao Ding, Beining Wu, Jun Huang

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

إليك شرح لورقة البحث "EASE: Federated Multimodal Unlearning via Entanglement-Aware Anchor Closure" باستخدام لغة بسيطة وتشبيهات إبداعية.

الصورة الكبيرة: "الحق في النسيان" في دردشة جماعية

تخيل مجموعة من الأصدقاء (العملاء - clients) يريدون بناء ذكاء اصطناعي فائق الذكاء معاً للتعرف على الحيوانات ووصفها. هم لا يريدون مشاركة صورهم الخاصة مع مدير مركزي (الخادم - server)؛ بل يشاركون فقط "ملاحظات دراستهم" (التحديثات الرياضية). هذا هو التعلم متعدد الوسائط الاتحادي (Federated Multimodal Learning).

لكن ماذا يحدث إذا قال أحد الأصدقاء: "أريد مغادرة المجموعة وأريد مسح صوري تماماً من ذاكرة الذكاء الاصطناعي"؟ هذا هو النسيان الاتحادي (Federated Unlearning).

المشكلة في الذكاء الاصطناعي متعدد الوسائط (الذي يرى الصور ويقرأ النصوص معاً) هي أن المعرفة متشابكة بعمق. فإذا قمت بمجرد حذف الملاحظات حول "الكلاب"، فقد يظل الذكاء الاصطناعي يتذكر الكلاب لأن الأوصاف النصية لا تزال موجودة، أو لأن الرياضيات التي استخدمها الأصدقاء الآخرون مختلطة جداً بحيث لا يمكنك تمييز أي جزء ينتمي للشخص الذي غادر.

وجد مؤلفو هذه الورقة، نظام EASE، أن الطرق السابقة فشلت لأنها لم تفكك هذه العقد بشكل صحيح. لقد تركت ثلاثة "مرتكزات" (خطافات خفية) أبقت المعرفة المنسية حية. نظام EASE هو إطار عمل جديد مصمم لقطع هذه الخطافات الثلاثة جميعها.

المرتكزات الثلاثة (لماذا فشلت الطرق السابقة)

اكتشف المؤلفون أنه عندما تحاول حذف بيانات عميل ما، هناك ثلاثة أشياء تبقي الذاكرة حية، تعمل مثل "المراسي" التي تثبت القارب في مكانه:

1. مرتكز الوسائط (مشكلة "الممحاة أحادية الجانب")

التشبيه: تخيل زوجين يكتبان قصة معاً. أحدهما يكتب الصور، والآخر يكتب الكلمات. إنهما متناغمان جداً لدرجة أنه إذا مسحت الصور، فإن الكلمات ستظل تصف الصور بدقة. إذا حاولت "نسيان" الصور عن طريق تغيير ملاحظات كاتب الصور فقط، فإن ملاحظات كاتب الكلمات ستعمل كـ مرتكز احتياطي، مما يسحب كاتب الصور عودةً إلى القصة الأصلية.
الحل (الاستئصال الثنائي للمعرفة - Bilateral Knowledge Excision): لا يقوم EASE بمسح الصور فحسب؛ بل يمسح الصور والكلمات في آن واحد. إنه يجبر كلا الجانبين على التخلي عن هذا الاقتران المحدد في نفس الوقت، بحيث لا يستطيع أي جانب سحب الذاكرة مرة أخرى.

2. مرتكز الفضاء الفرعي الفريد (مشكلة "الملاحظات المشتركة")

التشبيه: تخيل أن المجموعة تدرس لاختبار رياضيات. لدى أحد الطلاب (الذي سيغادر) طريقة فريدة لحل مسألة معينة (اتجاه فريد). ومع ذلك، فإن ملاحظاته مختلطة مع ملاحظات الطلاب الآخرين الباقين. إذا حاولت حذف ملاحظات الطالب المغادر بمجرد رمي جزء كامل من الكتاب المدرسي، فقد تحذف بالخطأ حيل الرياضيات الفريدة التي يحتاجها الطلاب الباقون.
الحل (تفكيك التدرج في الفضاء الفرعي - Gradient Subspace Decomposition): يعمل EASE كأمين مكتبة فائق الذكاء. ينظر إلى الملاحظات الرياضية ويفصلها إلى كومتين:
1. كومة "الفريدة": الأشياء التي عرفها الطالب المغادر فقط. (يتم حذف هذه).
2. كومة "المشتركة": الأشياء التي تعلمها الجميع معاً. (يتم الحفاظ عليها بأمان).
  إنه يستأصل الجزء الفريد فقط دون المساس بالمعرفة المشتركة.

3. إعادة التثبيت الزمني (مشكلة "المنحدر الزلق")

التشبيه: تخيل أنك نجحت في حذف ملاحظات الطالب المغادر. ولكن في اليوم التالي، تبدأ المجموعة في الدراسة مرة أخرى. ولأن ملاحظات الطلاب المتبقين لا تزال تحتوي على انحياز ضئيل وخفي نحو أسلوب الطالب المغادر، فإنهم يبدؤون بالخطأ في إعادة كتابة الملاحظات المحذوفة في دليل الدراسة الجديد للمجموعة. الذاكرة تعود للتسلل مرة أخرى بمرور الوقت.
الحل (قفل النسيان - Forget Lock): يضع EASE "قفلاً" على الاتجاهات المحددة حيث كانت تعيش المعرفة المحذوفة. بينما تستمر المجموعة في الدراسة، يُجبر الذكاء الاصطناعي رياضياً على الابتعاد عن تلك الاتجاهات المحددة. الأمر يشبه وضع لافتة "ممنوع الدخول" على ممر الذاكرة المحذوف حتى لا تندفع المجموعة إليه بالخطأ.

كيف يعمل EASE (الحل)

بنى المؤلفون نظاماً يسمى EASE (استئصال الفضاء الفرعي المدرك للتشابك) الذي يجمع هذه الإصلاحات الثلاثة في سير عمل واحد:

الاستئصال المتزامن: يقطع الاتصال بين الصور والنصوص في كلا الجانبين في وقت واحد (إغلاق مرتكز الوسائط).
الفصل الجراحي: يستخدم تقنية رياضية (تفكيك Cosine-Sine) للعثور على الأجزاء التي تخص الشخص المغادر فقط والأجزاء التي تخص المجموعة (إغلاق مرتكز الفضاء الفرعي الفريد).
القفل: يطبق "قفل النسيان" الذي يمنع الذكاء الاصطناعي من الانجراف مجدداً نحو ممر الذاكرة المحذوفة خلال جلسات التدريب المستقبلية (إغلاق إعادة التثبيت الزمني).

النتائج

اختبر المؤلفون EASE على مجموعات بيانات حقيقية (مثل Flickr30k و COCO) حيث يتعلم الذكاء الاصطناعي مطابقة الصور مع الأوصاف النصية.

الهدف: يجب أن يتصرف الذكاء الاصطناعي تماماً كما لو لم تكن بيانات العميل المغادر موجودة أصلاً (مثل "إعادة التدريب" من الصفر)، ولكن دون التكلفة الهائلة لإعادة تدريب كل شيء.
النتيجة: كان EASE أفضل بكثير من الطرق السابقة.
- جانب النسيان (Forget Side): نجح في مسح البيانات المحددة (على سبيل المثال، إذا غادر عميل، يتوقف الذكاء الاصطناعي عن التعرف على صور كلابه المحددة).
- جانب الاحتفاظ (Retain Side): حافظ على ذكاء النظام للآخرين (لم ينسَ كيف يتعرف على القطط أو الكلاب الأخرى).
- الكفاءة: فعل ذلك بشكل أسرع وأقل تكلفة من إعادة تدريب النموذج بالكامل من الصفر.

ملخص

فكر في EASE كممحاة دقيقة لمشاريع الذكاء الاصطناعي الجماعية. بدلاً من مسح السبورة بالكامل والمخاطرة بحدوث فوضى، فإنه يحدد الملاحظات اللاصقة الدقيقة التي يجب إزالتها، وينزعها دون تلويث الملاحظات الموجودة تحتها، ويضع حاجزاً حتى لا يقوم أحد بلصقها مرة أخرى لاحقاً. هذا يضمن احترام "الحق في النسيان" فعلياً في أنظمة الذكاء الاصطناعي المعقدة متعددة الحواس.

إليك ملخص تقني مفصل لورقة البحث بعنوان "EASE: Federated Multimodal Unlearning via Entanglement-Aware Anchor Closure" (EASE: التعلم غير الموجه متعدد الوسائط في البيئة الاتحادية عبر إغلاق المرساة الواعي بالتشابك).

1. بيان المشكلة

تتناول الورقة تحدي التعلم غير الموجه متعدد الوسائط في البيئة الاتحادية (FML) في سياق نماذج الرؤية واللغة الضخمة (مثل CLIP). في نظام FML، يتعاون عدة عملاء لتدريب نموذج على أزواج من الصور والنصوص الخاصة دون مشاركة البيانات الخام. عندما ينسحب أحد العملاء، أو يجب حذف بيانات محددة (عينات/فئات) (على سبيل المثال، بسبب حقوق الخصوصية أو المحتوى الضار)، يجب على النظام "إلغاء تعلم" (unlearn) هذه البيانات دون الحاجة لإعادة التدريب من البداية.

حدد المؤلفون أن طرق التعلم غير الموجه الاتحادية الحالية تفشل في الإعدادات متعددة الوسائط لأنها لا تأخذ في الاعتبار ثلاثة "مراسي متبقية" (residual anchors) تسمح باستمرار المعرفة المنسية:

مرساة الوسائط (Modality Anchor): نظرًا للارتباط الثنائي الخطي في خسائر التباين (مثل InfoNCE)، فإن تدرج أحد الوسائط (مثل النص) يعتمد على تمثيلات الوسيط الآخر (مثل الصورة). إذا تم تعديل فرع واحد فقط، فإن الفرع غير المعدل يعمل كمرساة، مما يسمح بإعادة بناء المحاذاة المنسية.
مرساة الفضاء الجزئي الفريد (Unique-Subspace Anchor): تكون الفضاءات الجزئية لتدرجات العملاء متشابكة؛ حيث تختلط اتجاهات "النسيان" المحددة مع الاتجاهات المشتركة مع العملاء المستبقين. تعامل الطرق الحالية الفضاء الجزئي الخاص بالنسيان ككتلة واحدة متجانسة، مما يؤدي إلى مقايضة: إما الفشل في إزالة البيانات (نقص المسح) أو إتلاف المعرفة المستبقاة (الإفراط في المسح).
إعادة الترسية الزمنية (Temporal Re-anchoring): حتى لو تم إغلاق المراسي في لحظة إلغاء التعلم، فإن جولات "التجميع الاتحادي المتوسط" (FedAvg) اللاحقة مع العملاء المستبقين يمكن أن تعيد كتابة الاتجاهات التي تمت إزالتها تدريجيًا، مما يتسبب في جعل النموذج "يتذكر" البيانات المنسية بمرور الوقت.

2. المنهجية: إطار عمل EASE

يقترح المؤلفون إطار عمل EASE (إزالة الفضاء الجزئي الواعي بالتشابك)، وهو مصمم لإغلاق جميع قنوات المراسي الثلاث في وقت واحد. يعمل الإطار فوق هيكل أساسي متعدد الوسائط مجمد باستخدام محولات LoRA خفيفة الوزن.

أ. الإزالة الثنائية للمعرفة (BKE) – إغلاق مرساة الوسائط

الآلية: بدلاً من تعديل الفرع البصري أو النصي فقط، يقوم EASE بإزاحة كلا الفرعين في آن واحد.
المنطق: في نموذج تشابه ثنائي الخطية، يعتمد تدرج المحاذاة على حاصل ضرب كلا التمثيلين. من خلال إزاحة كل من $z_v$ و $z_t$ بعيدًا عن قيمهما الأصلية، لن يعود بإمكان التشابه ثنائي الخطية إعادة بناء الاقتران المنسي.
النتيجة: هذا يمنع الوسيط "غير المعدل" من العمل كمرساة ذاكرة تسحب الفرع المعدل للعودة إلى المحاذاة الأصلية.

ب. تفكيك الفضاء الجزئي للتدرج (GSD) – إغلاق مرساة الفضاء الجزئي الفريد

الآلية: يجمع الخادم تحديثات التدرج التاريخية من العملاء ويجري تحليل القيم المفردة (SVD) لاستخراج فضاء النسيان ( $S_f$ ) وفضاء الاستبقاء ( $S_r$ ).
المنطق: باستخدام تفكيك جيب التمام والجيوب (Cosine-Sine decomposition)، تحسب الطريقة الزوايا الرئيسية بين $S_f$ $S_{f}$ و $S_r$ $S_{r}$ .
- يتم تحديد الاتجاهات القريبة من التعامد مع $S_r$ كـ مراسي الفضاء الجزئي الفريد (القابلة للإزالة).
- يتم تحديد الاتجاهات المتوافقة بشدة مع $S_r$ كـ دعم مستبق (يجب الحفاظ عليه).
الإجراء: يقوم الخادم بإسقاط معاملات النموذج العالمي على متمم الفضاء الجزئي الفريد، مما يؤدي فعليًا إلى استئصال الاتجاهات الحصرية للنسيان مع الحفاظ على الدعم المشترك.

ج. الإسقاط مع قفل النسيان (PFL) – إغلاق إعادة الترسية الزمنية

الآلية: نهج ثنائي الجوانب لمنع الانحراف أثناء التدريب المستمر:
1. الإسقاط من جانب الخادم: فور إلغاء التعلم، يتم إسقاط النموذج العالمي لإزالة مكونات الفضاء الجزئي الفريد.
2. قفل النسيان من جانب العميل: خلال جولات SGD المحلية اللاحقة، يحسن العملاء هدفًا مشتركًا: $L_{total} = L_{align} + \alpha \cdot L_f$ .
المنطق: $L_f$ هو عقوبة تربيعية تعاقب تحديدًا الانحراف على طول اتجاهات الفضاء الجزئي الفريد المحددة ( $U_\mu$ ).
النتيجة: هذا يخلق "قفلًا" يحد من انحراف المعرفة المنسية للعودة إلى النموذج، بينما يترك المتمم المتعامد (المعرفة المستبقاة) غير مقيد للتعافي.

3. المساهمات الرئيسية

مبدأ المرساة: حددت الورقة رسميًا وشخصت ثلاث آليات متميزة (الوسائط، الفضاء الجزئي الفريد، وإعادة الترسية الزمنية) التي تسبب الفشل في التعلم غير الموجه الاتحادي متعدد الوسائط. وأثبتت أن إغلاق أي مجموعة فرعية منها يترك مسارًا قابلًا لإعادة البناء.
إطار عمل EASE: حل موحد يجمع بين BKE و GSD و PFL. وهو أول طريقة تعالج الاقتران عبر الوسائط وتشابك الفضاءات الجزئية في آن واحد في بيئة اتحادية.
الضمانات النظرية: يقدم المؤلفون براهين هندسية توضح أن:
- BKE يلغي إشارة مرساة الوسيط المهيمنة.
- GSD يحد من الضرر الجانبي للمعرفة المستبقاة بناءً على العتبة $\delta$ .
- PFL يحد من الانحراف الزمني للمعرفة المنسية بشكل عكسي مع قوة القفل $\alpha$ .
التقييم الشامل: تجارب مكثفة على مجموعات بيانات Flickr30K و MS COCO و TextCaps باستخدام نماذج CLIP-B/32 و CLIP-L/14 و SigLIP.

4. النتائج التجريبية

تمت مقارنة EASE ضد تسعة نماذج أساسية (بما في ذلك FedEraser و Ferrari و FedOSD و GradAscent) عبر ثلاثة سيناريوهات إلغاء تعلم: عميل (Client)، فئة (Class)، وعينة (Sample).

اكتمال إلغاء التعلم: يتفوق EASE بشكل كبير على جميع النماذج الأساسية في تقليل أداء الاسترجاع على مجموعة النسيان (Forget R@1). على سبيل المثال، في Flickr30K مع CLIP-B/32، حقق EASE نسبة 0.3 (قريبة من مرجع إعادة التدريب 0.1)، بينما ظلت النماذج الأساسية مثل Ferrari و FedOSD مرتفعة (>60-80%)، مما يشير إلى فشلها في النسيان.
سلامة الاستبقاء: على عكس الطرق العدوانية (مثل GradAscent) التي تدمر المعرفة المستبقة، يحافظ EASE على أداء عالٍ في مجموعة الاستبقاء. لقد طابق مرجع إعادة التدريب بفارق 4.2 نقطة R@1 في جانب الاستبقاء لسيناريو إلغاء تعلم العميل، بينما عانت الطرق الأخرى من انخفاضات كبيرة.
التحقق من الخصوصية: أظهر EASE أدنى درجات هجمات استدلال العضوية (MIA) ودرجات TPR لهجوم نسبة الاحتمالية (LiRA)، مما يؤكد أن البيانات المنسية لا يمكن تمييزها عن غير الأعضاء.
دراسات الاستئصال (Ablation Studies): أدى إزالة أي مكون (BKE أو GSD أو Lock) إلى أنماط فشل متميزة، مما يؤكد ضرورة معالجة جميع المراسي.
الكفاءة: يتطلب EASE تكلفة اتصال أقل بكثير (حوالي 20-25% من إعادة التدريب الكامل) مع تحقيق أداء يضاهي إعادة التدريب الكامل.

5. الأهمية

تحول في النموذج: تنقل الورقة التعلم غير الموجه الاتحادي من نهج "المسح الصندوق الأسود" إلى نهج "هندسي واعٍ بالتشابك". وتوضح أنه في الأنظمة متعددة الوسائط، لا يمكن إجراء إلغاء التعلم من جانب واحد على وسيط واحد أو عبر معاملة التدرجات ككتل مستقلة.
القابلية للتطبيق العملي: من خلال استخدام محولات LoRA وعمليات الإسقاط، يعد EASE فعالاً حاسوبيًا ومتوافقًا مع البنية التحتية الحالية للتعلم الاتحادي، مما يجعله قابلاً للتطبيق في المجالات المنظمة (مثل الرعاية الصحية والتمويل) حيث يكون "الحق في النسيان" أمرًا بالغ الأهمية.
المتانة: يضمن إطار العمل أن يكون إلغاء التعلم مستدامًا ضد التدريب المستمر، مما يحل مشكلة "الانحراف" التي تعاني منها العديد من خوارزميات إلغاء التعلم الحالية.

في الختام، يوفر EASE حلاً مدعومًا نظريًا ومتفوقًا تجريبيًا لإزالة البيانات من النماذج متعددة الوسائط الاتحادية، حيث يغلق بفعالية قنوات إعادة البناء التي كانت تعيق عملية إلغاء التعلم الحقيقية سابقًا.