🤖 machine learning

ModalImmune: Immunity Driven Unlearning via Self Destructive Training

يُعد ModalImmune إطار تدريب يعزز متانة الأنظمة متعددة الوسائط ضد فقدان قنوات الإدخال من خلال الانهيار المتعمد لمعلومات وسائط مختارة أثناء التدريب عبر مزيج من التنظيم التكيفي، والتدخل المستهدف، وتكييف المعلمات الفائقة المعتمد.

المؤلفون الأصليون: Rong Fu, Jia Yee Tan, Zijian Zhang, Ziming Wang, Zhaolu Kang, Muge Qi, Shuning Zhang, Simon Fong

نُشر 2026-03-10

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Rong Fu, Jia Yee Tan, Zijian Zhang, Ziming Wang, Zhaolu Kang, Muge Qi, Shuning Zhang, Simon Fong

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تقوم بتدريب فريق من المحققين لحل لغز ما. عادةً، يكون لديهم ثلاثة مصادر للمعلومات: النص (تقرير مكتوب)، الصوت (تسجيل للمحادثة)، والرؤية (بث فيديو).

في العالم الحقيقي، تسوء الأمور. أحياناً تتعطل الكاميرا (لا يوجد فيديو)، أو يكون الميكروفون مشوشاً (صوت سيئ)، أو تكون صفحات التقرير مفقودة. معظم نماذج الذكاء الاصطناي هي مثل المحققين الذين يصابون بالذعر ويستسلمون إذا فُقد أحد الأدلة. إنهم يعتمدون بشكل مفرط على النسخة "المثالية" من القضية.

ModalImmune هو أسلوب تدريب جديد يعلم هؤلاء المحققين من الذكاء الاصطناعي كيف يكونوا غير قابلين للكسر. يفعل ذلك عن طريق كسر الأدلة عمدًا أثناء تدريبهم، ليتعلموا حل القضية حتى عندما يتم تدمير الأدلة.

إليك كيف يعمل ذلك، باستخدام تشبيهات بسيطة:

1. معسكر التدريب "ذاتي التدمير"

معظم عمليات التدريب تشبه التدرب باستخدام خريطة مثالية. أما ModalImmune فهو يشبه معسكر تدريب البقاء حيث يقوم المدربون بإحراق الخريطة عمدًا أو لطخ الحبر على الأدلة.

الفكرة: بدلاً من الأمل في أن يتعلم الذكاء الاصطناعي تخمين الأدلة المفقودة لاحقاً، يجبر النظام الذكاء الاصطناعي على التدرب على حل المشكلة بدون أدلة معينة، أو مع أدلة تم "تقليصها" (تحويلها إلى ضجيج) بشكل متعمد.
النتيجة: يتعلم الذكاء الاصطناعي أنه لا يمكنه الاعتماد على مصدر واحد فقط. إنه يتعلم بناء "حاسة فائقة" تجمع الأدلة المتبقية معاً بشكل جيد لدرجة أنه لا يهم إذا صمت أحد القنوات أو تعرض للفساد.

2. الأسلحة السرية الثلاثة

لجعل هذا "التدمير الذاتي" يعمل دون أن يتسبب في انهيار الذكاء الاصطناعي، قدمت الورقة البحثية ثلاث حيل ذكية:

أ. "المخرب الذكي" (متحكم كسب المعلومات - Info-Gain Controller)

تخيل رقيباً يقرر أي دليل سيتم تدميره. الرقيب العشوائي قد يدمر دليلاً لا يهم كثيراً (مثل ضوضاء الخلفية).

كيف يفعل ModalImmune ذلك: يستخدم "مخرباً ذكياً" (خوارزمية تعتمد على استراتيجيات الـ bandit) ينظر إلى الأدلة ويسأل: "أي دليل يعتمد عليه الذكاء الاصطناعي أكثر من اللازم؟" أو "أي دليل، إذا تم تدميره، سيكون الأكثر ضرراً؟"
التشبيه: إنه يستهدف "كعب أخيل" الخاص بالذكاء الاصطناعي. إذا كان الذكاء الاصطناعي يعتمد بشكل مفرط على بث الفيديو، فإن المخرب يدمر بث الفيديو تحديداً لإجبار الذكاء الاصطناعي على التعلم من الصوت والنص بدلاً من ذلك.

ب. "الانهيار الطيفي" (مفرمة المعلومات - Spectral Collapse)

عندما يختار المخرب دليلاً لتدميره، فإنه لا يحذفه فحسب؛ بل يقوم بـ "تقليصه".

التشبيه: تخيل صورة عالية الدقة. الحذف العادي يزيل الملف فقط. أما "الانهيار الطيفي" فيأخذ تلك الصورة ويمسح كل تفاصيلها لتصبح كتلة رمادية باهتة ومسطحة. إنه يحافظ على حجم الملف نفسه، ولكنه يزيل جميع الاتجاهات والتفاصيل المحددة.
لماذا؟ هذا يجبر الذكاء الاصطناعي على إدراك: "أوه، لا يمكنني استخدام تفاصيل هذه الصورة بعد الآن؛ يجب أن أكتشف الإجابة باستخدام الأدلة الأخرى". هذا يعلمه تجاهل "ضجيج" المستشعر المعطل.

ج. "بوابة الانحناء" (مكبح الأمان - Curvature Gate)

عندما تقوم بتدمير الأشياء عمداً أثناء التدريب، فقد يرتبك الذكاء الاصطناعي ويبدأ في التعلم بشكل خاطئ (مثل سيارة تنحرف خارج السيطرة).

التشبيه: هذا هو مكبح الأمان. يتحقق النظام باستمرار من "تضاريس" عملية التعلم. إذا كان الذكاء الاصطناعي على وشك اتخاذ منعطف خطير بسبب التدمير، فإن البوابة تضغط على المكابح أو تطبق قوة مضادة لطيفة للحفاظ على استقرار الذكاء الاصطناعي.
النتيجة: يتعلم الذكاء الاصطناعي أن يكون قوياً دون أن ينهار.

3. "مضبط الطيار الآلي" (التكيف مع التدرج الفائق - Hyper-Gradient Adaptation)

عادةً، عندما تبني نظاماً كهذا، عليك ضبط المقابض يدوياً (مثل "كم يجب أن أدمر الأدلة؟"). إذا أدرت المقبض كثيراً، فلن يتعلم الذكاء الاصطناعي شيئاً؛ وإذا أدرته قليلاً، فلن يصبح قوياً بما يكفي.

التشبيه: يحتوي ModalImmune على مضبط طيار آلي. إنه يضبط المقابض تلقائياً في الوقت الفعلي. يسأل: "هل ارتبك الذكاء الاصطناعي كثيراً؟ لنقلل من شدة التدمير. هل أصبح الأمر سهلاً للغاية؟ لنرفع الشدة". يفعل ذلك رياضياً حتى لا تضطر للتخمين.

لماذا يهم هذا؟

فكر في سيارة ذاتية القيادة.

الذكاء الاصطناعي القديم: إذا تغطت الكاميرا بالطين، تتوقف السيارة لأنها لا تستطيع "الرؤية".
ذكاء ModalImmune: إذا تغطت الكاميرا بالطين، تقول السيارة: "لا مشكلة، سأستخدم الرادار والخرائط الخاصة بي للقيادة بأمان".

الخلاصة

ModalImmune هو أسلوب تدريب يجعل الذكاء الاصطناعي محصناً ضد الفشل. من خلال "كسر" بيانات الإدخال عمداً أثناء التدريب بطريقة ذكية ومسيطر عليها، فإنه يجبر الذكاء الاصطناعي على بناء عقل قوي ومرن يمكنه التعامل مع الواقع الفوضوي وغير المثالي للعالم الحقيقي. الأمر لا يتعلق فقط بإصلاح المدخلات المعطلة؛ بل يتعلق بتدريب الذكاء الاصطناعي على الازدهار لأن الأشياء تتعطل.

إليك ملخص تقني مفصل لورقة البحث بعنوان "ModalImmune: المناعة المدفوعة بالتعلم عبر التدريب التدميري الذاتي".

1. بيان المشكلة

غالباً ما تفشل أنظمة التعلم متعدد الوسائط (التي تدمج النص، والصوت، والرؤية) في عمليات النشر في العالم الحقيقي عندما تكون قنوات الإدخال مفقودة، أو تالفة، أو غير متاحة بسبب أعطال المستشعرات، أو قيود الخصوصية، أو الهجمات العدائية.

محدودية الحلول الحالية:
- الإسناد التوليدي (Generative Imputation): إعادة بناء البيانات المفقودة غالباً ما تؤدي إلى حدوث هلوسات وتكاليف حوسبية عالية.
- التكيفات الهيكلية (Architectural Adaptations): تفترض طرق الدمج الجزئي أو البوابات التكيفية أنماط فقدان ثابتة، أو تتطلب مكونات إضافية تقلل من المرونة.
- الافتقار إلى التدريب النشط: لا تقوم الطرق الحالية بتدريب النماذج صراحةً على مقاومة التأثير "التدميري" للوسائط (حيث قد تكون الوسيطة الموجودة ضارة أو مشوشة)، ولا تفرض "المناعة" من خلال الانهيار المعلوماتي المحكوم.

2. المنهجية: ModalImmune

تقترح ورقة البحث ModalImmune، وهو إطار تدريب موحد يفرض مناعة الوسائط من خلال إسقاط معلومات وسيطة مختارة بشكل متعمد ومتحكم فيه أثناء التدريب. يتم تأطير ذلك كنموذج تدريب تدميري ذاتي (SDL)، حيث يتم التعامل مع الوسائط المفقودة/التدميرية كتدخلات سببية نشطة بدلاً من كونها ضوضاء سلبية.

يتكون الإطار من أربعة مكونات أساسية:

أ. التعلم التدميري الذاتي (SDL) كتدخل سببي

بدلاً من إسقاط الوسائط بشكل سلبي، يقوم النموذج بالتدخل بنشاط في وسيطة محددة $m^*$ عن طريق استبدال تمثيلها (embedding) بتمثيل "منهار". هذا يجبر مسار الدمج على تعلم تمثيلات قوية تجاه وجود بيانات تالفة أو عدائية.

الآلية: $y \leftarrow g(\{z_m\}_{m \neq m^*}, \text{Collapse}(z_{m^*}))$ .

ب. ثلاثة عناصر تصميمية أولية

تدخل إسقاط المعلومات (IDI): يقوم متحكم "بانديت" (Bandit Controller) من نوع EXP3.P باختيار الوسيطة التي سيتم إسقاطها في كل دفعة (batch). وهو يعطي الأولوية للتدخلات عالية التأثير بناءً على بديل كسب المعلومات ( $\ell_m$ )، مما يضمن تركيز التدريب على الوسائط التي تؤثر أكثر على أداء المهمة.
الانهيار الطيفي الذاتي (SSC): عندما يتم اختيار وسيطة ما، تخضع مصفوفة تمثيل الدفعة الخاصة بها لعملية انهيار متكيف طيفياً.
- تقوم بإزالة الاتجاهات الطيفية المهيمنة (القيم المفردة) مع الحفاظ على المقياس العالمي.
- تستخدم عقوبة الرتبة المستقرة لضمان أن فقدان المعلومات الاتجاهية يكون غير قابل للاسترداد فعلياً، مما يمنع النموذج من مجرد تعلم تجاهل الوسيطة دون التكيف معها حقاً.
الجرْد المتعاكس المحكوم بالانحناء (CGC): لمنع التحديثات التدميرية من زعزعة استقرار التحسين، يفحص النظام معلومات فيشر التجريبية (أو تقريب Gauss-Newton).
- إذا أشارت أصغر قيمة ذاتية إلى عدم الاستقرار، يتم تجميد التدرجات للمشفر المستهدف أو يتم تطبيق قناع تغذية راجعة سلبية محدودة لمنع الصعود غير المنضبط.

ج. تكيف المعلمات الفائقة (BHGD)

يستخدم الإطار خوارزمية التدرج الهابط ثنائي المستوى (BHGD) مع مقدر نيومان المقطوع المعتمد لتكييف المعلمات الفائقة تلقائياً ( $\xi = \{\lambda, \eta, \kappa\}$ ) التي تحكم قوة الانهيار والاستقرار. وهذا يتجنب الضبط اليدوي ويضمن استقرار التحسين ثنائي المستوى.

د. ناقلات الخصائص وإعادة البناء

للحفاظ على قدرة إعادة البناء، يتعلم النموذج ناقلات خصائص ثابتة للعينات ( $p_m$ ) لكل وسيطة. أثناء عملية SDL، إذا تم إسقاط وسيطة ما، يقوم مولد شرطي بتخليق بديل معقول باستخدام التمثيلات المتاحة وناقل الخاصية الثابت، مما يضمن أن مركز الدمج يتلقى مدخلات متوافقة مع المقياس الدلالي الأصلي.

3. المساهمات الرئيسية

نموذج جديد: يقدم التدريب التدميري الذاتي، وهي طريقة تفرض مناعة الوسائط عبر انهيار معلوماتي مستهدف ومتحكم فيه بدلاً من حقن الضوضاء السلبية.
ابتكارات خوارزمية:
- منظم الانهيار المتكيف طيفياً: يزيل الاتجاهات المعلوماتية دون زعزعة استقرار التحسين.
- متحكم كسب المعلومات: يستخدم اختيار "البانديت" لإعطاء الأولوية لتدخلات الوسائط عالية التأثير.
- القناع المحكوم بالانحناء: يستقر التدريب عبر التحكم في التدرجات بناءً على الانحناء المحلي.
- تكييف التدرج الفائق المعتمد: يؤتمت ضبط المعلمات الفائقة باستخدام تقريبات نيومان المقطوعة.
التحقق التجريبي: يثبت أن ModalImmune يحسن القدرة على الصمود أمام إزالة الوسائط وتلفها مع الحفاظ على استقرار التقارب وقدرة إعادة البناء.

4. النتائج التجريبية

تم تقييم الإطار على معايير تحليل المشاعر متعدد الوسائط القياسية: CMU-MOSI، و CMU-MOSEI، و IEMOCAP.

أداء الوسائط الكاملة: حقق ModalImmune نتائج هي الأفضل في حالتها (SOTA) عبر جميع مجموعات البيانات (على سبيل المثال، 92.1% Acc2 على CMU-MOSISI، متفوقاً على النماذج المرجعية مثل MSAmba و PAMoE-MSA).
المتانة تجاه الوسائط المفقودة:
- تحت أنماط فقدان ثابتة (مثل توفر النص أو الصوت فقط)، حافظ ModalImmune على ميزة ثابتة على النماذج المرجعية التنافسية.
- تحت معدلات فقدان عالمية متغيرة (تصل إلى 70% مفقود)، أظهر النموذج تدهوراً تدريجياً مدروساً، متفوقاً بشكل كبير على الطرق القائمة على الإسناد.
المتانة تجاه التلف: أظهر النموذج خسارة طفيفة في الأداء (أقل من 1%) تحت تأثير التشويه الاصطناعي (الضبابية، الضوضاء، خلط الرموز/Tokens).
المتانة عبر الوسائط (Zero-Shot): تم تدريبه على {النص، الصوت} واختباره على {النص، المرئي} (غير مرئي أثناء التدريب)، وتفوق ModalImmune على النماذج المرجعية بنحو 6.8 نقطة مئوية، مما يثبت أنه يتعلم الثبات التوزيعي.
الكفاءة:
- الأعباء الإضافية: زيادة بنسبة 4.9% فقط في المعلمات و 5.8% في الذاكرة/زمن الاستجابة.
- الاستدلال: يظل زمن الاستجابة ضمن حدود الوقت الفعلي (14.7 مللي ثانية للمقطع الذي تبلغ مدته 10 ثوانٍ).
دراسات الاستئصال (Ablation Studies): أكدت أن مسار ناقل الخصائص و مولد إعادة البناء هما المكونان الأكثر أهمية. كما وُجد أن المعلمات الفائقة قوية عبر نطاق واسع من القيم.

5. الأهمية

تحول في النموذج: ينتقل من مجرد "إعادة بناء" البيانات المفقودة إلى "تحصين" النموذج ضد المدخلات التدميرية. هذا أمر بالغ الأهمية للتطبيقات الحرجة للسلامة حيث يشكل فشل المستشعرات خطراً.
الصرامة النظرية: يوفر شهادات رياضية (التقريب المقطوع لنيومان، والتحكم بالانحناء) لضمان بقاء العملية "التدميرية الذاتية" مستقرة ومتقاربة.
الواقعية: الطريقة فعالة حوسبياً، ولا تتطلب ضبطاً يدوياً للمعلمات الفائقة (عبر BHGD المؤتمت)، وتتكامل بسلاسة مع البنى الحالية متعددة الوسائط.
الاتجاه المستقبلي: يشير المؤلفون إلى أنه بينما تظل الفروع المعتمدة على النص فقط قوية، فإن الحرمان الشديد من كل من الصوت والمرئيات لا يزال يسبب انخفاضاً في الدقة، مما يشير إلى أن العمل المستقبلي سيقوم بدمج مقدمات الانتشار الموجهة لغوياً للسيناريوهات القصوى.

باختاً، يقدم ModalImmune حلاً مبدئياً، وفعالاً، وعالي الفعالية لبناء أنظمة متعددة الوسائط تتمتع بطبيعة متينة تجاه طبيعة المدخلات غير المتوقبة والتدميرية في العالم الحقيقي.