🤖 machine learning

When Unlearning Fails: Reliable Data Deletion under Post-Training in Agent Networks

تقدم هذه الورقة البحثية MUTE، وهي طريقة للحذف الموثوق للبيانات في شبكات الوكلاء الاتحادية ذاتية التحسين، والتي تخفف بفعالية من "صدى التأثير" المستمر للبيانات المنسية من خلال تقدير التأثير اللاحق، وحجر المسارات المحتجزة عالية المخاطر، وتدقيق السلوك لمنع تجدد التأثير مع الحفاظ على فائدة المهمة.

المؤلفون الأصليون: Zihao Ding, Jun Huang, Liang Dong

نُشر 2026-08-03

📖 6 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Zihao Ding, Jun Huang, Liang Dong

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل سرباً من الروبوتات الصغيرة والمفيدة التي تتعلم القيام بالأعمال المنزلية معاً. بدلاً من وجود عقل واحد ضخم في السحابة، يتعلم كل روبوت من تجاربه الخاصة ويشارك ما تعلمه مع الآخرين. هذا ما يسمى "التعلم الاتحادي" (Federated Learning). الأمر يشبه مجموعة من الأصدقاء يدرسون لاختبار ما؛ كل منهم يقرأ كتباً مختلفة، ويكتب ملاحظاته الخاصة، ثم يتبادلون الملخصات ليصبحوا أكثر ذكاءً، دون الحاجة أبداً لإظهار دفاتر ملاحظاتهم الفوضوية والخاصة للمعلم.

الآن، تخيل أن هذه الروبوتات "ذاتية التحسين". فهي لا تتوقف عن التعلم بمجرد انتهاء الاختبار؛ بل تستمر في العمل، وتجمع قصصاً جديدة عما نجح وما لم ينجح، وتغذي بها المجموعة لتصبح أفضل. هذا هو "الشبكة ذاتية التحسين" (Self-Improving Network). لكن الجزء الصعب هنا هو: ماذا لو قال أحد الأصدقاء: "مهلاً، أريد أن أُنسى! من فضلك احذف جميع ملاحظاتي وتأكد من أنني لم أؤثر أبداً على الإجابة النهائية للمجموعة"؟ في الفصل الدراسي العادي، يمكنك ببساطة تمزيق الصفحات. ولكن في سرب الروبوتات هذا، قد تكون ملاحظات الصديق القديمة قد غيرت بالفعل طريقة جمع الروبوتات الأخرى لملاحظاتها الجديدة. إذا حذفت ملاحظات الصديق فحسب مع الاحتفاظ بالملاحظات الجديدة التي استُلهمت منها، فقد يظل "طيف" ذلك الصديب يطارد عقل المجموعة. يستكشف هذا البحث كيفية مسح ذلك الطيف حقاً دون كسر النظام بأكمله.

المشكلة: "الصدى" الذي لا يموت

وجد الباحثون مشكلة خفية تتعلق بحذف البيانات في هذه الشبكات الروبوتية الذكية. عادةً، عندما يطلب شخص ما نسيانه، يحاول النظام "إلغاء التعلم" عبر إعادة تدريب النموذج بدون بيانات ذلك الشخص. يطلق المؤلفون على هذا النهج اسم "نهج إعادة التدريب" (Retraining).

لكن في الشبكة ذاتية التحسين، يفشل هذا الحل البسيط. وإليك السبب: سلوك الروبوت يشبه التموج في بركة ماء. عندما يتصرف روبوت معين (لنسمِّه "روفر") بطريقة معينة، فإنه يغير ما يراه الروبوتات الأخرى ويتعلمونه بعد ذلك. إذا تم حذف "روفر" بعد أن كان قد أثر بالفعل على المجموعة، فقد تكون الروبوتات الأخرى قد جمعت بالفعل بيانات جديدة بناءً على أفعال "روفر" القديمة.

يطلق الورقة البحثية على هذا اسم "صدى التأثير" (Influence Echo). حتى لو حذفت بيانات "روفر" الأصلية، فإن "صدى" سلوك "روفر" سيعيش في البيانات الجديدة التي جمعتها الروبوتات الأخرى. إذا أعدت تدريب النموذج على البيانات المتبقية فقط، فسوف يتعلم النموذج من صدى "روفر" عن طريق الخطأ على أي حال. يعود السلوك المنسي إلى الحياة، مثل زومبي يرفض الموت. وقد أظهر المؤلفون من خلال عمليات المحاكاة أنه كلما تعلمت الروبوتات الأخرى من "روفر" قبل عملية الحذف، أصبح هذا الصدى أقوى، وزادت احتمالية عودة سلوك "الزومبي".

الحل: MUTE (إسكات أصداء المسارات غير المرغوب في تعلمها)

لإصلاح ذلك، اقترح الفريق طريقة جديدة تسمى MUTE. فكر في MUTE ليس كممحاة بسيطة، بل كمحقق، ومحجر صحي، وحارس أمن، كلهم في آن واحد.

1. المحقق (تتبع الصدى):
أولاً، يحتاج MUTE إلى معرفة مكان اختباء الصدى. وبما أن الروبوتات لا يمكنها إرسال جميع بياناتها الخاصة إلى خادم مركزي (لأن ذلك يكسر الخصوصية)، يحتفظ الخادم بـ "دفتر حسابات" خفيف الوزن—وهو سجل بسيط يوضح أي روبوت كان يشغل أي نسخة من "العقل" وفي أي وقت. عند ورود طلب حذف، يقوم الخادم بإعادة تشغيل هذا السجل لحساب "درجة التأثير" (Influence Score) لكل قطعة من البيانات التي جمعتها الروبوتات الأخرى. الأمر يشبه السؤال: "إلى أي مدى اعتمدت هذه الملحوظة الجديدة على ملاحظات 'روفر' القديمة؟" إذا كانت الملحوظة الجديدة قد تأثرت بشدة بـ "روفر"، فإنها تحصل على درجة عالية.

2. الحجر الصحي (إسكات الصدى):
بمجرد تحديد البيانات ذات الدرجات العالية، لا يقوم MUTE بمجرد حذفها (لأن ذلك قد يضر بقدرة الروبوتات على أداء وظائفها). بدلاً من ذلك، يستخدم هجوماً ذا شقين:

تنظيف النموذج: يقوم الروبوت الذي كان يملك البيانات في الأصل بتحديث "المحول" الخاص به (وهو جزء صغير وفعال من عقله) لنسيان السلوك غير المرغوب فيه خصيصاً، باستخدام تقنية تسمى "تحسين التفضيل السلبي" (Negative Preference Optimization). هذا يشبه قولك للروبوت: "لا تقم بهذه الحركة المحددة بعد الآن".
حجر البيانات: تنظر الروبوتات الأخرى في بياناتها الخاصة. إذا كانت لديها ملاحظات ذات "درجة تأثير" عالية (بمعنى أنها تشكلت بشدة بفعل الروبوت المحذوف)، فإن MUTE يضع تلك الملاحظات في الحجر الصحي. هي لا تُحذف، ولكن يتم تجاهلها أثناء التدريب المستقبلي. كما يتم إعطاء بعضها وزناً أقل، مثل قولك للمعلم: "اقرأ هذه الملحوظة، ولكن لا تجعلها تُحتسب بقدر الملحوظات الأخرى".

3. حارس الأمن (التدقيق والجدولة):
المهمة لا تنتهي بعد عملية تنظيف واحدة. فالشبكة تستمر في التعلم، لذا قد يحاول الصدى التسلل مجدداً. يعمل MUTE كحارس أمن، حيث يقوم باستمرار بتدقيق النظام. إنه يتحقق مما إذا كان سلوك "الزومبي" يعود، (ويُقاس ذلك بشيء يسمى معدل تجدد التأثير - Influence Regeneration Rate). إذا رأى الحارس السلوك يتسلل مجدداً، فإنه يجدول المزيد من إجراءات التنظيف، لكنه يفعل ذلك بعناية للبقاء ضمن "ميزانية الاتصال"—للتأكد من أن الروبوتات لا تُثقل بحركة مرور كبيرة للبيانات.

ما وجدوه

اختبر الفريق نظام MUTE باستخدام معيار يسمى LIBERO، والذي يتضمن تعلم الروبوتات كيفية التعامل مع الأشياء بناءً على تعليمات لغوية. استخدموا نوعين من "أدمغة" الروبوتات (MiniVLA و $\pi_0$ ) واختبروا ثلاثة مستويات من الحذف: إزالة مسار واحد (trajectory)، أو إزالة بيانات روبوت كامل (client)، أو إزالة نوع كامل من المهام (task).

كانت النتائج واعدة. في عمليات المحاكاة وفي منصة اختبار فيزيائية باستخدام أجهزة كمبيوتر Jetson (وهي بمثابة حواسيب صغيرة قوية للروبوتات)، نجح MUTE في منع عودة سلوك "الزومبي".

تسرب منخفض: انخفضت قدرة النظام على "تذكر" البيانات المحذوفة إلى مستويات تقترب من العشوائية (درجة قريبة من 0.5)، مما يعني أن البيانات قد نُسيت فعلياً.
لا يوجد تجدد: على عكس نهج إعادة التدريب البسيط، حيث يعود السلوك المنسي، حافظ MUTE على معدل تجدد التأثير (IRR) منخفضاً جداً. على سبيل المثال، في أحد الاختبارات مع دماغ MiniVLA، كان معدل التجدد 0.085 فقط مع MUTE، مقارنة بـ 0.178 مع طريقة إعادة التدريب القياسية.
الكفاءة: كان Mute أقل تكلفة بكثير من حيث الاتصالات. بينما تطلبت طريقة إعادة التدريب القياسية رفع كميات هائلة من البيانات (حوالي 234.6 وحدة من حركة المرور لـ MiniVLA)، احتاج MUTE إلى حوالي 53.39 وحدة فقط. لقد حقق ذلك من خلال إرسال تحديثات صغيرة ومستهدفة بدلاً من إعادة تدريب النظام بالكامل من البداية.

يشير البحث إلى أنه بينما تفشل إعادة التدريب البسيطة في هذه الشبكات ذاتية التحسين، يوفر MUTE طريقة موثوقة لحذف البيانات حقاً. إنه يثبت أنه يمكنك إزالة "صدى" البيانات المنسية دون كسر قدرة الشبكة على تعلم أشياء جديدة، وكل ذلك باستخدام نطاق ترددي أقل بكثير من محاولة البدء من جديد. ويشير المؤلفون إلى أن هذه النتائج هي نتيجة محاكاة واختبار فيزيائي، مما يظهر أن الطريقة تعمل في الواقع، لكنها تظل حلاً متخصصاً لهذا النوع المحدد من شبكات الروبوتات ذاتية التحسين.

ملخص تقني: عندما يفشل النسيان: الحذف الموثوق للبيانات في ظل التدريب اللاحق في شبكات الوكلاء

1. بيان المشكلة

تتناول الورقة فجوة حرجة في التعلم الاتحادي لعملية النسيان (Federated Unlearning - FU) داخل شبكات الوكلاء الاتحادية ذاتية التحسين. وخلافًا للتعلم الاتحادي التقليدي، حيث تكون مجموعة بيانات التدريب ثابتة، تعمل الشبكات ذاتية التحسين في حلقة مغلقة: يقوم الوكلاء بنشر سياسة حالية، ويتفاعلون مع البيئة لجمع مسارات جديدة موثقة، ثم يغذون هذه المسارات في جولات تدريب لاحقة.

المشكلة الجوهرية هي "صدى التأثير" (influence echo). فعندما يطلب مالك البيانات حذف بيانات محددة (مجموعة النسيان، $D_f$ )، تقوم طرق النسيان القياسية بتحديث النموذج لإزالة التأثير المباشر لـ $D_f$ . ومع ذلك، في حلقة التحسين الذاتي، تكون السياسة التي شكلتها $D_f$ قبل الحذف قد أثرت بالفعل على جمع البيانات المستقبلية (مجموعة الاستبقاء، $D_r$ ). ونتيجة لذلك:

فشل إعادة التدريب: إعادة التدريب على البيانات المستبقاة $D_r$ لا تقضي على السلوك المنسي لأن $D_r$ نفسها تحتوي على آثار سببية من $D_f$ .
التجدد (Regeneration): بينما تستمر الشبكة في العمل والتعلم من $D_r$ ، يستعيد السلوك المنسي ظهوره (ويُقاس ذلك عبر معدل تجدد التأثير، IRR المتصاعد).
القابلية للتتبع: هذا التأثير لا يكون دائمًا قابلًا للفصل في فضاء الميزات، ولكن يمكن تتبعه من خلال سجلات جانب الخادم لنشر النماذج وجمع البيانات.

تفترض طرق FU الحالية وجود مجموعة استبقاء ثابتة وتفشل في مراعاة جمع البيانات المدفوع بالسياسة، مما يؤدي إلى وضع يكون فيه الحذف مجرد إصلاح لمرة واحدة وليس دفاعًا مستدامًا.

زم 2. المنهجية: MUTE

يقترح المؤلفون إطار عمل MUTE (إسكات أصداء المسارات المنسية)، وهو مصمم للحفاظ على صلاحية الحذف بينما تستمر الشبكة في التعلم. يعمل MUTE من خلال ثلاث وحدات متكاملة:

أ. مصدر التأثير (التتبع)

بدلاً من طلب البيانات الخام من العملاء (مما ينتهك الخصوصية)، يحتفظ الخادم بـ سجل خفيف الوزن ( $L$ ) يسجل إصدارات النماذج المنشورة، وأوزان التجميع، ونوافذ الجمع.

الآلية: عند طلب الحذف، يقوم الخادم بإعادة تشغيل السجل لتقدير كيفية انتشار التأثير من $D_f$ عبر حافة التجميع (التحديثات المحلية للنماذج العالمية) وحافة الجمع (النماذج العالمية التي تشكل جمع البيانات المستقبلي).
التقييم: يتم تخصيص درجة تأثير $\gamma(x)$ لكل مسار مستبق بناءً على إصدار النموذج الذي تم جمعه تحته. يسمح هذا للنظام بتحديد البيانات المستبقة "عالية التأثير" دون نقل المسارات الخام خارج العميل.

ب. المحو الواعي بالتأثير

ينفذ MUTE عملية محو مزدوجة الجوانب لإزالة كل من البقايا الحالية والمخاطر المستقبلية:

المحو من جانب النموذج: يقوم العميل الذي يمتلك $D_f$ بتحديث المحول (adapter) الخاص به باستخدام هدف النسيان-الاستبقاء (Forget-Retain objective). يستخدم هذا الأسلوب تحسين التفضيل السلبي (NPO) لقمع السلوك في $D_f$ مع الحفاظ على الفائدة في $D_r$ . ولمنع إعادة التعلم، يتم إسقاط التحديثات اللاحقة بعيدًا عن الفضاء الفرعي لمتجه تدرج النسيان المهيمن.
الاحتواء من جانب البيانات: يقوم العملاء بتصنيف مساراتهم المحلية حسب درجة التأثير.
- الحجر الصحي (Quarantine): يتم استبعاد المسارات عالية التأثير ( $\gamma(x) \ge \tau_q$ ) من تدفق التدريب.
- تقليل الوزن (Down-weighting): يتم تقليل وزن المسارات متوسطة التأثير.
- الاستبدال: قد يقوم العملاء بإعادة جمع مسارات بديلة تحت النموذج الممسوح إذا سمحت الموارد بذلك.

ج. التدقيق السلوكي والجدولة

بما أن الحذف يجب أن يكون مستدامًا، يتضمن MUTE آلية جدولة لإدارة الموارد تحت ميزانية الرفع (uplink budget).

التدقيق: يراقب النظام مؤشر التسرب السلوكي (BLI) (التسرب الحالي عبر استدلال العضوية) ومعدل تجدد التأثير (IRR) (التجدد المستقبلي).
الجدولة: يقرر الخادم إجراءات العملاء (تدريب عادي، نسيان، احتواء، أو تدقيق) لضمان أن مصفوفة الانتقال في الحلقة المغلقة تحقق شرط الاستقرار ( $\rho(M_\infty) < 1$ )، مما يضمن تلاشي التأثير بمرور الوقت بدلاً من تجدده.

3. المساهمات الرئيسية

صياغة المشكلة: تحدد الورقة رسميًا الحذف الموثوق للبيانات في الشبكات الاتحادية ذاتية التحسين، موضحة أن مجموعة الاستبقاء تابعة سببيًا لمجموعة النسيان، مما يجعل إعادة التدريب القياسية غير كافية.
الملاحظات التجريبية: من خلال تجارب أولية، يوضح المؤلفون أن:
- إعادة التدريب تفشل في إسكات صدى التأثير؛ حيث يحيي السلوك المنسي نفسه مع عمل الشبكة.
- معدل التجدد يتناسب خطيًا مع كسر البيانات المستبقَة التي شكلتها سياسة النسيان.
- التأثير قابل للتتبع عبر سجلات جانب الخادم حتى عندما يفشل الفصل في فضاء الميزات.
إطار عمل MUTE: اقتراح طريقة موحدة تجمع بين تتبع المصدر (لإيجاد الصدى)، والمحو مزدوج الجوانب (النموذج والبيانات)، والجدولة المقيدة بالموارد.
التحقق: تقييم واسع النطاق باستخدام معيار LIBERO عبر خلفيتين من نماذج (Vision-Language-Action - VLA) وهما (MiniVLA و $\pi_0$ ) ومنصة اختبار طرفية تعتمد على Jetson مادية.

4. النتائج التجريبية

تقارن عملية التقييم بين MUTE وبين نهج إعادة التدريب (Retrain) الأساسي (إعادة التدريب الكامل على البيانات المستبقاة) عبر ثلاثة مستويات من الدقة في الحذف: المسار، العميل، والمهمة.

تجدد التأثير (IRR): يقلل MUTE بشكل كبير من IRR مقارنة بـ Retrain. على سبيل المثال، في خلفية MiniVLA، أظهر Retrain قيم IRR تتراوح بين 0.178 و0.338، بينما خفضها MUTE إلى ما بين 0.085 و0.248 (حسب الدقة).
التسرب السلوكي (BLI): يحافظ MUTE على BLI قريبًا من مستوى الصدفة (0.5)، مما يشير إلى النجاح في إزالة إشارات العضوية، بينما أدى Retrain غالبًا إلى تسرب أعلى.
منفعة المهمة (SR): يحافظ MUTE على معدلات نجاح المهمة (SR) ضمن هامش ضيق (على سبيل المثال، ضمن 0.04) من الخط المرجعي قبل الطلب، مما يثبت أن الحذف لا يؤدي إلى تدهور شديد في الأداء.
تكلفة الاتصال: يتميز Mote بكفاءة عالية؛ حيث يقلل حركة مرور الرفع بنسبة تقارب 75-80% مقارنة بإعادة التدريب الكاملة. على سبيل المثال، في MiniVLA، انخفض الاتصال من ~234.6 ميجابايت (Retrain) إلى ~54 ميجابايت (MUTE).
منصة الاختبار المادية: أكد التحقق على أجهزة Jetson أن اتجاهات Mute في زمن الاستجابة، وعرض النطاق الترددي، وتكرار السلوك تنطبق على بيئات الحافة الواقعية.

5. الأهمية والادعاءات

تدعي الورقة أن حذف البيانات الموثوق في الشبكات التشغيلية لا يمكن أن يكون حدثًا لمرة واحدة، بل يجب أن يكون دفاعًا قائمًا.

قصور الطرق الحالية: يؤكد المؤلفون أن طرق FU الحالية غير كافية للأنظمة ذاتية التحسين لأنها تتجاهل حلقة التغذية الراجعة حيث تشكل السياسات البيانات المستقبلية.
ضرورة MUTE: يُقدم MTE كونه تطورًا ضروريًا يجمع بين تتبع المصدر (لإيجاد الصدى)، والاحتواء (لمنع انتشار الصدى)، والجدولة (لضمان استدامة الدفاع).
نطاق متواضع: لا تدعي الورقة حل جميع مشكلات الخصوصية في الذكاء الاصطناعي، بل تستهدف تحديدًا "صدى التأثير" في شبكات الوكلاء الاتحادية ذاتية التحسين. وتؤكد أنه بينما يعد الحذف المضاد المثالي (إعادة إنشاء عالم لم توجد فيه $D_f$ أبدًا) مستحيلاً في شبكة حية، فإن MUTE يدفع التسرب إلى مستويات الصدفة ويمنع التجدد ضمن قيود الموارد.

تخلص الدراسة إلى أنه بدون آليات مثل MUTE، فإن "الحق في النسيان" في الشبكات ذاتية التحسين سيكون غير قابل للإنفاذ فعليًا، لأن حلقة التعلم الخاصة بالشبكة ستعيد حتمًا إحياء تأثير البيانات المحذوفة.