🤖 AI

Unsupervised Representation Learning - an Invariant Risk Minimization Perspective

تقترح هذه الورقة إطار عمل غير مُشرف لتقليل المخاطر الثابتة يعيد تعريف الثبات من خلال محاذاة توزيع الميزات، مقدمةً طريقتي PICA الخطية وVIAE التوليدية العميقة لتعلم تمثيلات قوية وثابتة بيئياً من بيانات غير مُصنفة.

المؤلفون الأصليون: Yotam Norman, Ron Meir

نُشر 2026-03-05✓ Author reviewed ⓘ

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Yotam Norman, Ron Meir

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

الصورة الكبيرة: تعليم الروبوت رؤية الشيء "الحقيقي"

تخيل أنك تحاول تعليم روبوت التعرف على القطط.

السيناريو (أ) (الطريقة القديمة): تعرض على الروبوت 1,000 صورة لقطط. في كل صورة، تجلس القطة على عشب أخضر. يتعلم الروبوت: "القطة = عشب أخضر + شيء فروي".
المشكلة: عندما تعرض على الروبوت قطة تجلس على سجادة حمراء داخل منزل، يصاب بالذعر. يقول: "لا توجد قطة هنا! العشب الأخضر مفقود!". لقد فشل لأنه تعلم الخلفية (البيئة) بدلاً من الموضوع (الحقيقة الثابتة).

في عالم الذكاء الاصطناعي، يسمى هذا انزياح التوزيع (distribution shift). تغيرت "البيئة" (العشب مقابل السجادة)، فتعطل الروبوت.

تقليل المخاطر الثابتة (Invariant Risk Minimization - IRM) هي تقنية مصممة لإصلاح ذلك. إنها تحاول تعليم الروبوت تجاهل الخلفية والتركيز فقط على القطة. ومع ذلك، كان نظام IRM تقليديًا يحتاج إلى تسميات (labels) (بمعنى أن يخبره إنسان: "نعم، هذه قطة") لكي يعمل.

الفكرة الكبرى لهذا البحث:
تساءل المؤلفان، يوتام نورمان ورون مير: "ماذا لو لم تكن لدينا تسميات؟ ماذا لو كان لدينا فقط كومة من الصور من بيئات مختلفة، ولا نعرف أي منها ينتمي لأي بيئة؟"

لقد ابتكروا إطار عمل جديدًا يسمح للذكاء الاصطناعي بتعلم ما هو "حقيقي" (ثابت) وما هو مجرد "ضجيج" (بيئي) دون الحاجة إلى معلم يصحح له واجباته المدرسية.

الأداتان الجديدتان

يقدم البحث طريقتين لحل هذا اللغز، اعتمادًا على مدى تعقيد البيانات.

1. PICA: "المرشح الرياضي" (للبيانات البسيطة)

التشبيه: تخيل أن لديك جرتين من الكرات الملونة المختلطة.

الجرة 1 (البيئة أ): معظمها كرات حمراء، لكن بها بعض الكرات الزرقاء.
الجرة 2 (البيئة ب): معظمها كرات زرقاء، لكن بها بعض الكرات الحمراء.

أنت تريد إيجاد النمط الحقيقي الموجود في كلا الجرتين، مع تجاهل حقيقة أن إحداهما تميل للون الأحمر والأخرى تميل للون الأزرق.

PICA (تحليل المكونات الثابتة الرئيسية) يشبه المنخل الذكي. إنه ينظر إلى الرياضيات وراء الكرات (تحديدًا كيف تتغير). ويحسب ما يلي:

ما هو المختلف بين الجرة 1 والجرة 2؟ (الضجيج البيئي).
ما هو المتشابه؟ (الإشارة الثابتة).

ثم يقوم بتصفية الاختلافات ويحتفظ فقط بالاتجاه المشترك. إنها طريقة رياضية خطية لتجريد "نكهة" البيئة للعثور على الجوهر الحقيقي.

2. VIAE: "الفنان ذو الدماغ المنقسم" (للبيانات المعقدة)

التشبيه: تخيل طباخًا ماهرًا (الذكاء الاصطناي) يحتاج إلى طهي طبق (إنشاء صورة) بناءً على مكونين:

المكون أ (الثابت): الوصفة (مثل: "إنه برجر"). يجب أن تظل هذه ثابتة بغضًا عن مكان وجودك.
المكون ب (البيئي): التوابل المحلية (مثل: "إنه برجر في تكساس" مقابل "إنه برجر في طوكيو"). هذا يتغير بناءً على الموقع.

VIAE (المشفر التلقائي المتغير الثابت) هو نموذج تعلم عميق يعمل كطباخ بـ دماغ منقسم:

الدماغ 1 (المُشفّر الثابت): ينظر إلى البيانات الخام ويحاول استخراج الوصفة فقط (شكل البرجر). إنه يتجاهل التوابل.
الدماغ 2 (المُشفّرات البيئية): يوجد واحد من هذه لكل بيئة. ينظر إلى البيانات ويستخرج التوابل فقط (أسلوب تكساس مقابل أسلوب طوكيو).
المفكك (الطباخ): يأخذ الوصفة + التوابل ويعيد بناء الصورة.

لماذا هذا رائع؟
لأن "الوصفة" منفصلة عن "التوابل"، يمكنك القيام بخدع سحرية:

نقل الأسلوب (Style Transfer): يمكنك أخذ صورة لـ "برجر تكساس" (مدخلات)، وتجريد "توابل تكساس" منها، وإضافة "توابل طوكيو" إليها. النتيجة هي "برجر طوكيو" يبدو تمامًا مثل البرجر الأصلي، ولكن بنكهة مختلفة.
لا حاجة للتسميات: يكتشف الذكاء الاصطناعي أي جزء هو الوصفة وأي جزء هو التوابل بمجرد النظر إلى العديد من البيئات المختلفة، دون أن يخبره أحد "هذا برجر".

كيف اختبروا ذلك (التجارب)

اختبر الفريق أفكارهم على ثلاثة أنواع من الألغاز:

البيانات الاصطناعية: مسائل رياضية مُصطنعة حيث عرفوا الإجابة. عملت PICA بشكل مثالي، مما أثبت صحة الرياضيات.
SMNIST & SCMNIST (الأرقام المعدلة):
- أخذوا أرقامًا مكتوبة بخط اليد (0-9) وأضافوا إليها ميزات "زائفة".
- مثال: في البيئة 1، كانت جميع الأرقام تحتوي على مربع أبيض في الزاوية العلوية اليسرى. في البيئة 2، كان المربع في الزاوية السفلية اليمنى.
- النتيجة: تعلم الذكاء الاصطناعي تجاهل موقع المربع والتركيز فقط على الرقم نفسه. استطاع التعرف على الرقم "7" حتى لو كان المربع في مكان جديد لم يره من قبل.
CelebA (وجوه المشاهير):
- عاملوا الجنس (ذكر/أنثى) كـ "بيئة" و ملامح الوجه (شكل الأنف، الابتسامة، التعبير) كـ "حقيقة ثابتة".
- النتيجة: استطاع الذكاء الاصطناعي أخذ صورة لرجل، وتجريد السمات البيئية "الذكورية"، واستبدالها بسمات "أنثوية"، مما نتج عنه امرأة لا تزال تشبه الرجل الأصلي (نفس الابتسامة وشكل الوجه). هذا أمر ضخم بالنسبة لـ العدالة، حيث يظهر قدرة الذكاء الاصطناعي على الفصل بين الهوية والسمات الحساسة مثل الجنس أو العرق.

لماذا يهم هذا؟

لا حاجة للتسميات: عادةً، لتدريب ذكاء اصطناعي ليكون قويًا، تحتاج إلى آلاف الأمثلة الموسومة. هذه الطريقة تعمل مع البيانات غير الموسومة، وهي أرخص وأسهل في الحصول عليها.
القوة والمتانة (Robustness): يساعد الذكاء الاصطناعي على البقاء في العالم الحقيقي حيث تتغير الظروف (مثل سيارة ذاتية القيء ترى المطر بدلًا من الشمس، أو ماسح طبي يستخدم جهازًا مختلفًا).
العدالة: من خلال فصل السمات "الحساسة" (مثل العرق أو الجنس) عن السمات "ذات الصلة" (مثل المؤهلات أو الأعراض الطبية)، يمكننا بناء ذكاء اصطناعي يتخذ قرارات أكثر عدلاً.

الخلاصة

هذا البحث يشبه إعطاء الذكاء الاصطناعي نظارات أشعة سينية (X-ray). بدلاً من رؤية التفاصيل السطحية التي تتغير من مكان لآخر (البيئة)، يتعلم الذكاء الاصطناعي رؤية الهيكل العظمي الأساسي الذي يبقى ثابتًا (الحقيقة الثابتة). يفعل ذلك دون الحاجة إلى إنسان يشير ويقول: "هذا هو الهيكل العظمي!". إنه يكتشف ذلك بنفسه.

هذا يفتح الباب أمام ذكاء اصطناعي أكثر ذكاءً، وعدالة، وقدرة على التكيف، يمكنه التعامل مع العالم الحقيقي الفوضوي والمتغير دون عناء.

إليك ملخص تقني مفصل لورقة البحث "تعلم التمثيل غير الخاضع للإشراف - منظور تقليل المخاطر الثابتة" (ICLR 2026).

1. تعريف المشكلة

تقليل المخاطر الثابتة (Invariant Risk Minimization - IRM) هو إطار عمل مصمم لتعلم نماذج قوية تتعمم عبر بيئات (نطاقات) مختلفة من خلال تحديد السمات الكامنة التي تظل ثابتة (ثابتة) مع تصفية السمات الخاصة بكل بيئة (السمات الزائفة).

القصور: يعتمد IRM التقليدي بشكل كبير على البيانات المصنفة ( $X, Y, e$ ) لتحديد قيد الثبات (أي أن المتنبئ $w \circ \phi$ يجب أن يكون أمثلًا لكل بيئة).
الفجوة: في العديد من السيناريوهات الواقعية، تكون التسميات (Labels) غير متوفرة أو مكلفة للغاية. غالبًا ما تفتقر الطرق غير الخاضعة للإشراف الموجودة إلى آلية رسمية لفرض الثبات عبر البيئات دون وجود متغيرات مستهدفة.
الهدف: يقترح المؤلفون توسيع نطاق IRM ليشمل الوضع غير الخاضع للإشراف. الهدف هو تعلم تمثيل سمات $\phi(X)$ بحيث يكون توزيع هذه السمات متماثلاً عبر جميع البيئات ( $P^{e_1}(\phi(X)) = P^{e_2}(\phi(X))$ )، دون الوصول إلى التسميات $Y$ .

2. المنهجية

تقدم الورقة نموذجًا هيكليًا سببيًا (SCM) جديدًا غير خاضع للإشراف وخوارزميتين محددتين لحل المشكلة: PICA (خطي/غاوسي) و VIAE (توليدي عميق).

أ. الإطار النظري: IRM غير الخاضع للإشراف

أعاد المؤلفون تعريف هدف IRM للتعلم غير الخاضع للإشراف. بدلاً من تقليل المخاطر على متنبئ، يقومون بتعظيم احتمالية البيانات تحت نموذج توليدي، مع مراعاة قيد يتمثل في أن التوزيع المستحث للسمات المتعلمة يكون ثابتًا عبر البيئات.

الهدف:
$\max_{\theta} \sum_{e \in E_{train}} \log P^e_\theta(X|\phi(X))P^e_\theta(\phi(X))$
$\text{بشرط: } P^i_\theta(\phi(X)) = P^j_\theta(\phi(X)) \quad \forall i, j \in E_{train}$
الافتراض السببي: يتم تفكيك الفضاء الكامن إلى:
- $Z_{inv}$ : السمات الثابتة (مستقرة عبر البيئات).
- $Z_e$ : السمات المعتمدة على البيئة (تتغير عبر البيئات).
- يفترض الرسم البيفي السببي أن $Z_{inv} \perp \perp e$ و $Z_{inv} \perp \perp Z_e$ .

ب. الطريقة الأولى: تحليل المكونات الثابتة الرئيسية (PICA)

PICA هي تقنية لتقليل الأبعاد خطية مصممة للبيانات الغاوسية، وهي مشابهة لـ PCA ولكن مع قيد الثبات.

الافتراضات: تتبع البيانات في كل بيئة $e$ توزيعًا غاوسيًا $N(0, \Sigma^e_x)$ .
الآلية:
1. تحديد الفضاء الصفري (Null Space): تجد الفضاء الصفري للفرق بين مصفوفات التباين لبيئتين: $u \in \ker(\Sigma^1_x - \Sigma^2_x)$ . يضمن هذا أن اتجاه الإسقاط $u$ ثابت تجاه تغير التوزيع.
2. تعظيم التباين: ضمن هذا الفضاء الثابت، تختار الاتجاه الذي يعظم مجموع التباينات عبر البيئات (على غرار PCA القياسي).
الخوارزمية: إجراء يتكون من خطوتين يتضمنان التفكيك الذاتي للقيم الذاتية لمجموع مصفوفات التباين المقيدة على الفضاء الصفري لفرقها.

ج. الطريقة الثانية: المشفر التلقائي المتغير الثابت (VIAE)

VIAE هو نموذج توليدي عميق يعتمد على المشفرات التلقائية المتغيرة (VAEs) مصمم لتعلم تمثيلات ثابتة غير خطية.

البنية:
- مشفر ثابت مشترك: يربط المدخل $X$ والسمة الكامنة الخاصة بالبيئة $Z_e$ بـ $Z_{inv}$ .
- مشفرات خاصة بالبيئة: مشفر واحد لكل بيئة تدريب لربط $X$ بـ $Z_e$ .
- مفكك شفر مشترك (Shared Decoder): يعيد بناء $X$ من $(Z_{inv}, Z_e)$ .
القيود الرئيسية:
- التوزيع القبلي (Prior) لـ $Z_{inv}$ هو توزيع غاوسي قياسي $N(0, I)$ (ثابت).
- التوزيع القبلي لـ $Z_e$ هو توزيع خاص بكل بيئة $N(\mu_e(e), I)$ .
- مفكك الشفر مستقل عن مؤشر البيئة $e$ ، مما يفرض أن آلية التوليد ثابتة.
التحسين: يعظم الحد الأدنى للاحتمال (ELBO) مع تفكيك محدد للاحتمال البعدي يحترم البنية السببية ( $Z_{inv}$ يعتمد على $X$ و $Z_e$ ؛ بينما $Z_e$ يعتمد فقط على $X$ ).

3. المساهمات الرئيسية

إطار عمل IRM غير الخاضع للإشراف: أول توسيع رسمي لـ IRM لمواقف بدون تسميات، حيث أعاد تعريف الثبات كتماثل في توزيعات السمات عبر البيئات.
خوارزميات مبتكرة:
- PICA: حل خطي ذو صيغة مغلقة للبيانات الغاوسية يستخرج الاتجاهات الثابتة.
- VIAE: بنية تعلم عميق تفكك العوامل الكامنة الثابتة والبيئية، مما يسمح بالتدخلات السببية.
القدرة على نقل البيئة (Environment Transfer): يسمح إطار العمل بـ "نقل البيئة"، حيث يمكن تحويل البيانات من بيئة إلى أخرى (مثل تغيير خلفية صورة) مع الحفاظ على المحتوى الثابت (مثل هوية الكائن). ويتم تحقيق ذلك عن طريق استبدال مكون $Z_e$ مع إبقاء $Z_{inv}$ ثابتًا.
تطبيق العدالة (Fairness): تم إثبات تطبيق VIAE للعدالة الخوارزمية من خلال معاملة السمات الحساسة (مثل الجنس) كسمات بيئية، مما يسمح بتوليد تمثيلات عادلة تعتمد على السمات الثابتة.

4. النتائج التجريبية

تم تقييم الطرق على بيانات اصطناعية، ومجموعات بيانات MNIST المعدلة، وCelebA.

البيانات الاصطناعية: نجح PICA في تحديد الفضاء الفرعي الثابت في خليط غاوسي ثلاثي الأبعاد حيث تغير بُعدان حسب البيئة وبقي بُعد واحد ثابتًا.
SMNIST و SCMNIST:
- SMNIST: أرقام MNIST مع إضافة مربعات في زوايا مختلفة (إزاحة بيئية). نجح VIAE في فصل هوية الرقم ( $Z_{inv}$ ) عن موقع المربع ( $Z_e$ ).
- SCMNIST: أرقام MNIST ملونة بألوان مختلفة لكل بيئة (أحمر مقابل أخضر). تعلم VIAE تجاهل اللون من أجل التصنيف.
- أداء المصنف: حقق مصنف خطي تم تدريبه فقط على السمات الثابتة ( $Z_{inv}$ ) دقة عالية (~84%) على بيانات الاختبار، بينما كان أداء المصنف على السمات البيئية ( $Z_e$ ) قريبًا من العشوائية. والأهم من ذلك، أن التنبؤ بالبيئة من $Z_{inv}$ أعطى دقة عشوائية، مما أثبت أن السمات كانت ثابتة حقًا.
نقل البيئة:
- نجح النموذج في نقل الصور من "البيئات المرئية" (مثلاً من مربع أعلى اليسار إلى أسفل اليمين)، ومن خلال نهج متوسط حسابي، من "البيئات غير المرئية" (رغم أن الأداء تراجع في التحولات المعقدة مثل SCMNIST).
CelebA (العدالة):
- نجح النموذج في فك الارتباط بين الجنس (البيئة) والهوية الوجهية (الثابتة).
- استطاع توليد نسخ "ذكر" أو "أنثى" لنفس الوجه عبر أخذ عينات من التوزيعات القبلية المختلفة لـ $Z_e$ مع إبقاء $Z_{inv}$ ثابتًا.
- قام بنقل البيئة (تحويل وجه ذكر إلى وجه أنثى) مع الحفاظ على سمات الهوية مثل الوضعية وتعبيرات الوجه.

5. الأهمية والعمل المستقبلي

الأهمية: يجسّر هذا العمل الفجوة بين تعلم التمثيل السببي والتعلم غير الخاضع للإشراف. فهو يوفر مجموعة أدوات نظرية وعملية لتعلم سمات قوية عندما تكون التسميات نادرة، مما يعالج عقبة حرجة في نشر IRM في السيناريوهات الواقعية. القدرة على نقل البيئة دون تسميات تفتح آفاقًا جديدة لزيادة البيانات وتدخلات العدالة.
القصور والتوجهات المستقبلية:
- البيئات غير المرئية: لا يزال التعميم على بيئات غير مرئية تمامًا ( $E_{test}$ ) يمثل تحديًا. النهج الحالي (متوسط المشفرات) يعمل للتحولات البسيطة ولكنه يفشل في التحولات المعقدة (مثل قناة اللون الأزرق في SCMNIST).
- البنية: يستخدم العمل الحالي نماذج VAE قياسية. يقترح العمل المستقبلي دمج نماذج توليدية متقدمة (Diffusion, GANs) والتعلم التلوي (Meta-learning) لتحسين التكيف سريع الخطوات (few-shot adaptation) مع البيئات الجديدة.
- الضمانات النظرية: تم اقتراح مخطط نظري كامل للنقل صفري المعرفة (zero-shot transfer) إلى البيئات غير المرئية كاتجاه رئيسي للبحث المستقبلي.

باختصار، نجحت هذه الورقة في إثبات أن مبادئ تقليل المخاطر الثابتة يمكن تطبيقها على التعلم غير الخاضع للإشراف، مما يوفر طريقة قوية لفصل العوامل السببية المستقرة عن الارتباطات البيئية الزائفة دون الحاجة إلى بيانات مصنفة.