🤖 AI

Causally-Guided Automated Feature Engineering with Multi-Agent Reinforcement Learning

تقدم الورقة البحثية إطار عمل CAFE، الذي يعزز هندسة الميزات المؤتمتة من خلال دمج الاكتشاف السببي مع التعلم المعزز متعدد الوكلاء لتوليد ميزات قوية وعالية المنفعة تتفوق بشكل كبير على الأساليب الحالية في ظل تغير التوزيعات مع تقليل وقت التقارب.

المؤلفون الأصليون: Arun Vignesh Malarkkan, Wangyang Ying, Yanjie Fu

نُشر 2026-02-19

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Arun Vignesh Malarkkan, Wangyang Ying, Yanjie Fu

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك طاهٍ يحاول ابتكار وصفة مثالية لطبق جديد. لديك في مخزنك مجموعة من المكونات الخام (بياناتك). هدفك هو خلط هذه المكونات وتحويلها لصنع وجبة لذيذة تبدو رائعة اليوم، وستظل رائعة غداً أيضاً، حتى لو تغير الطقس أو تغيرت جودة الخضروات قليلاً.

هذا بالضبط ما يحاول هندسة الميزات المؤتمتة (AFE) فعله لأجهزة الكمبيوتر. فهي تقوم بخلط البيانات تلقائياً لمساعدة الذكاء الاصطائي على تقديم تنبؤات أفضل.

ومع ذلك، فإن معظم الأساليب الحالية تشبه الطهاة الذين ينظرون فقط إلى الارتباطات (Correlations). فهم يرون أن "مبيعات الآيس كريم" و"حروق الشمس" يرتفعان معاً دائماً، لذا يفترضون أن أحدهما يسبب الآخر. إذا بنوا وصفة بناءً على ذلك، فستنجح في يوم مشمس. ولكن إذا تغير الطقس (إزاحة في التوزيع)، ستفشل الوصفة لأن الشمس ليست هي ما يسبب مبيعات الآيس كريم في الواقع؛ بل هناك عامل ثالث يسبب كليهما (الطقس الحار).

CAFE (هندسة الميزات المؤتمتة الموجهة سببياً) هو طاهٍ جديد وأكثر ذكاءً. فبدلاً من مجرد مراقبة ما يحدث معاً، يحاول فهم لماذا تحدث الأشياء. إنه يستخدم عملية من خطوتين لبناء وصفة قوية، وفعالة، ويصعب كسرها.

إليك كيف يعمل CAFE، مقسماً إلى مفاهومات بسيطة:

المرحلة الأولى: المحقق في "شجرة العائلة"

قبل بدء الطهي، يعمل CAFE كمحقق يحاول رسم شجرة عائلة للبيانات.

الهدف: يتساءل: "أي المكونات تسبب فعلياً الطعم النهائي (الهدف)، وأيها مجرد عابر سبيل؟"
التشبيه: تخيل أنك تحاول معرفة سبب عدم اشتغال السيارة.
- الطهاة القائمون على الارتباط قد يقولون: "في كل مرة يعمل فيها الراديو، لا تعمل السيارة! لنطفئ الراديو". (هذا استنتاج خاطئ).
- CAFE ينظر بعمق أكبر. يدرك أن البطارية هي السبب المباشر، وأن الدينامو سبب غير مباشر (فهو يشحن البطارية)، وأن الراديو مجرد عابر سبيل.
النتيجة: يقوم CAFE بتجميع المكونات في ثلاث مجموعات:
1. الأسباب المباشرة: المحركات الرئيسية (مثل البطارية).
2. الأسباب غير المباشرة: الأشياء التي تؤثر على المحركات (مثل الدينامو).
3. الضجيج/عابرو السبيل: الأشياء التي لا تهم (مثل الراديو).

هذه ليست قواعد جامدة، بل هي "تلميح ناعم". فهو يخبر المرحلة التالية: "مهلاً، ركز على البطارية والدينامو أولاً، لكن لا تتجاهل الراديو تماماً تحسباً لأي شيء".

المرحلة الثانية: "طاقم الطهاة" (التعلم التعزيزي متعدد الوكلاء)

بمجرد تجميع المكونات، يرسل CAFE فريقاً من ثلاثة طهاة آليين متخصصين (وكلاء/Agents) يعملون معاً باستخدام التعلم التعزيزي (Reinforcement Learning) (التجربة والخطأ مع نظام مكافآت).

الوكيل الأول (المُنتقي): ينظر إلى "شجرة العائلة" ويختار أفضل مجموعة من المكونات للعمل عليها (مثلاً: "لنركز على الأسباب المباشرة").
الوكيل الثاني (الخلاط): يختار أداة لخلطهم (مثلاً: "لنضربهم"، "لنأخذ الجذر التربيعي"، أو "لنجمعهم").
الوكيل الثالث (الشريك): إذا كانت الأداة تحتاج إلى مكونين (مثل الخلاط)، يقوم هذا الوكيل باختيار شريك ثانٍ من المجموعات.

السر في الوصفة: نظام المكافأة
في الطبخ العادي، يحصل الطاهي على مكافأة فقط إذا كان الطعام لذيذاً الآن.
في CAFE، نظام المكافأة أذكى. فهو يمنح نقاطاً إضافية إذا:

كان الطبق لذيذاً (الفائدة التنبؤية).
كانت المكونات المستخدمة منطقية سببياً (على سبيل المثال، خلط البطارية والدينامو يُكافأ عليه، بينما خلط الراديو والمحرك يُعاقب عليه).
كانت الوصفة ليست معقدة للغاية (الحفاظ على البساطة).

إذا جرب الطهاة الآليون مزيجاً غريباً نجح بالصدفة اليوم ولكنه فشل غداً، فإن نظام "المكافأة السببية" يدفعهم بلطف نحو تركيبات مستقرة ومنطقية.

لماذا يعد هذا أمراً هاماً؟ (النتائج)

اختبرت الورقة البحثية CAFE في 15 مشكلة مختلفة من واقع الحياة (مثل التنبؤ بأسعار المنازل أو تشخيص الأمراض) وقارنته بأفضل الأساليب الحالية.

إنه أذكى: وجد CAFE وصفات أفضل، مما حسن دقة التنبؤ بنسبة تصل إلى 7% مقارم بأفضل الأساليب الموجودة.
إنه أسرع: لأنه يعرف أين يبحث (بفضل شجرة العائلة)، فإنه يجد أفضل وصفة في محاولات أقل. الأمر يشبه البحث في مكتبة عبر سؤال أمين المكتبة عن القسم الصحيح، بدلاً من فحص كل كتاب على كل الرفوف.
إنه أكثر صلابة (اختبار العاصفة): هذا هو الجزء الأهم. قام الباحثون بمحاكاة "عواصف" (تغيرات مفاجئة في البيانات، مثل اتجاه سوق جديد أو تغير في سلوك العملاء).
- الأساليب القديمة: عندما تغير الطقس، انهارت وصفاتها. انخفض أداؤها بنسبة 28%.
- CAFE: لأنه اعتمد على الأسباب (البطارية) بدلاً من الارتباطات (الراديو)، لم يتأثر تقريباً. انخفض أداؤه بنسبة 7% فقط. لقد كان أكثر صلابة بـ 4 مرات.

الخلاصة

فكر في CAFE كذكاء اصطناعي لا يحفظ الأنماط فحسب، بل يحاول فهم آليات العالم.

الذكاء الاصطناعي القديم: "عندما تكون السماء زرقاء، يشتري الناس المظلات. سأتنبأ بشراء المظلات عندما تكون السماء زرقاء". (يفشل عندما تكون السماء زرقاء ولكن في موسم جاف).
CAFE: "الناس يشترون المظلات لأنها تمطر. لون السماء مجرد تلميح. سأتنبأ بالمظلات بناءً على المطر". (يعمل حتى لو بدا شكل السماء غريباً).

من خلال الجمع بين الاكتشاف السببي (إيجاد الحقيقة) والتعلم التعزيزي (التعلم من خلال التجربة)، يبني CAFE أنظمة ذكاء اصطناعي ليست دقيقة فحسب، بل موثوقة أيضاً عندما يتغير العالم الحقيقي.

إليك ملخص تقني مفصل لورقة البحث بعنوان "CAFE: هندسة الميزات المؤتمتة الموجهة سببيًا باستخدام التعلم المعزز متعدد الوكلاء."

1. بيان المشكلة

تهدف هندسة الميزات المؤتمتة (AFE) إلى بناء تمثيلات عالية المنفعة من البيانات الجدولية الخام بشكل مستقل لتحسين أداء تعلم الآلة. ومع ذلك، تواجه طرق AFE الحالية قيودًا حرجة:

الهشاشة تحت تأثير تغير التوزيع (Distribution Shift): تعتمد معظم الطرق على الارتباطات الإحصائية (الاستدلالات). وعندما تتغير توزيعات المدخلات (مثل العمليات الصناعية أو الكيميائية)، غالبًا ما تنكسر هذه الارتباطات، مما يؤدي إلى ظهور ميزات زائفة تفشل في التعميم.
الانفجار التوليفي (Combinatorial Explosion): تنمو مساحة التحويلات الممكنة للميزات بشكل أسي مع الأبعاد، مما يجعل البحث الجشع (Greojdy Search) مكلفًا حاسوبيًا وعرضة للوقوع في الأمثلة المحلية (Local Optima).
الافتقار إلى التوجيه السببي: تتجاهل النهج الحالية (بما في ذلك الطرق القائمة على التعلم المعزز أو النماذج اللغوية الكبيرة LLM) الهياكل السببية، حيث تعامل توليد الميزات كمسألة نمذجة تسلسلية أو تحسين إحصائي بدلاً من كونها عملية حفظ للآليات.

الهدف: تطوير إطار عمل لـ AFE يقوم ببناء ميزات تحافظ على العلاقات السببية مع الهدف، مما يضمن المتانة تحت تأثير تغير المتغيرات المصاحبة (Covariate Shifts) والتغيرات التي تحفظ الآلية، مع الحفاظ على القدرة على المعالجة الحاسوبية.

2. المنهجية: إطار عمل CAFE

يعيد CAFE صياغة AFE كـ عملية اتخاذ قرار تسلسلية موجهة سببيًا. وهو يدمج الاكتشاف السببي مع بنية شبكة Q العميقة (DQN) متعددة الوكلاء والمتتالية. يعمل إطار العمل في مرحلتين:

المرحلة الأولى: اكتشاف الرسم البياني السببي (الأولوية الاستقرائية الناعمة)

بدلاً من معاملة الاكتشاف السببي كقيد صارم، يستخدم CAFE الاكتشاف لتوليد أولويات استقرائية ناعمة لتوجيه البحث.

الخوارزمية: يستخدم خوارطة NOTEARS مع تنظيم Lasso لتعلم رسم بياني موجه غير حلقي (DAG) متفرق فوق الميزات والمتغير المستهدف.
تجميع الميزات: بناءً على الـ DAG المتعلم، تُصنف الميزات إلى ثلاثة أدوار سببية:
1. الأسباب المباشرة ( $C_{direct}$ ): الميزات التي لها حافة مباشرة إلى الهدف ( $X \to Y$ ).
2. الأسباب غير المباشرة ( $C_{indirect}$ ): الميزات المتصلة عبر مسارات متعددة القفزات ( $X \rightsquigarrow Y$ ).
3. غير السببية/أخرى ( $C_{other}$ ): الميزات التي ليس لها مسار سببي إلى الهدف.
الفحص (Screening): ضمن كل مجموعة، يتم فحص الميزات (على سبيل المثال، بواسطة المعلومات المتبادلة - Mutual Information) لإدارة الأبعاد، مما يخلق مساحة بحث مهيكلة.

المرحلة الثانية: التعلم المعزز متعدد الوكلاء

يتنقل المرحلة الثانية في مساحة التحويل الأسية باستخدام ثلاثة وكلاء متخصصين يعملون بشكل متتالي:

وكيل المجموعة الأساسي ( $\pi_1$ ): يختار مجموعة الميزات السببية (مباشرة، غير مباشرة، أو أخرى) ليتم تحويلها.
وكيل العامل ( $\pi_o$ ): يختار عامل التحويل (مثل العمليات الحسابية، اللوغاريتم، أو الدوال المثلثية) من مكتبة محددة مسبقًا.
وكيل المجموعة الثانوي ( $\pi_2$ ): يختار مجموعة شريكة للعمليات الثنائية (مثل حدود التفاعل).

المكونات التقنية الرئيسية:

تمثيل الحالة: يتلقى الوكلاء ملخصات إحصائية هرمية لمجموعة الميزات الحالية ومعلومات خاصة بكل مجموعة (مثل المتوسط، الانحراف المعياري، الربيعات، وتصنيفات المعلومات المتبادلة).
الاستكشاف الموجه سببيًا: استراتيجية الاستكشاف هي مزيج مرجح من:
- التسلسل الهرمي السببي: يعطي الأولوية للتحويلات التي تحترم الهيكل السببي (مثل: مباشر $\times$ غير مباشر).
- أفضل $k$ من المعلومات المتبادلة (Top-k MI): للتحوط ضد أخطاء الاكتشاف السببي عبر اختيار الميزات ذات الارتباطات التجريبية القوية.
- أخذ عينات التنوع: لمنع التقارب المبكر.
تشكيل المكافأة (Reward Shaping): توازن دالة المكافأة ( $R_t$ $R_{t}$ ) بين ثلاثة أهداف:
1. الأداء ( $R_{perf}$ ): تحسين درجة التحقق (Validation Score).
2. المحاذاة السببية ( $\Psi_{causal}$ ): مكافأة لاستخدام الميزات من المجموعات السببية (بأوزان: $w_{direct} > w_{indirect} > w_{other}$ ).
3. التعقيد والتنوع: عقوبات على عدد الميزات المفرط ومكافآت للتحويلات المتنوعة.
حراس المتانة (Robustness Guards): يتضمن ضمانات عددية (مثل القسمة المحمية، ولوغاريتم القيم المطلقة) لمنع تجاوز السعة (Overflow) وظهور قيم NaN.

3. المساهمات الرئيسية

صياغة AFE الموجهة سببيًا: أول إطار عمل يصيغ AFE صراحة كعملية اتخاذ قرار تسلسلية موجهة بالهيكل السببي، متجاوزًا بذلك الاستدلالات القائمة على الارتباط.
الانحياز الاستقرائي الناعم: يقدم مفهوم استخدام الرسوم البيانية السببية كـ أولويات ناعمة بدلاً من قيود صلبة. هذا يحافظ على المرونة عندما يكون الاكتشاف السببي غير مثالي مع توفير توجيه مبدئي.
بنية الوكلاء المتعددين المتتالية: يقترح تفكيكًا مبتكرًا لمساحة إجراءات AFE إلى ثلاثة وكلاء (المجموعة، العامل، الشريك)، مما يقلل بشكل كبير من مساحة الإجراءات الفعالة والتباين مقارنة بالتحسين المشترك.
المكافآت المشكلة سببيًا: صمم دالة مكافأة تحفز صراحة الاتساق السببي جنبًا إلى جنب مع المنفعة التنبؤية، مما يضمن استقرار التدخل.

4. النتائج التجريبية

قام المؤلفون بتقييم CAFE على 15 مجموعة بيانات معيارية عامة (تصنيف وانحدار) مقابل 10 نماذج أساسية، بما في ذلك الطرق الإحصائية (AutoFeat)، والطرق القائمة على التعلم المعزز (GRFG, NFS)، والطرق القائمة على النماذج اللغوية الكبيرة (ELLM-FT).

الأداء التنبؤي:
- حقق CAFE أداءً متفوقًا في 13 من أصل 15 مجموعة بيانات.
- أظهر تحسنًا يصل إلى 7% في مقياس Macro-F1 (للتصنيف) وInverse Relative Absolute Error (للانحدار) مقارنة بالنماذج الأساسية القوية.
- أظهر مكاسب ثابتة في مهام الانحدار عالية الأبعاد ومهام التصنيف ذات العينات الصغيرة.
المتانة تحت تغير التوزيع:
- تحت تأثير تغيرات المتغيرات المصاحبة (Covariate Shifts) المحكومة، قلل CAFE من تدهور الأداء بنحو 4 أضعاف مقارلة بالنموذج الأساسي متعدد الوكلاء غير السببي (GRFG).
- مثال: في ظل شدة تغير عالية، تدهور GRFG بنسبة ~58%، بينما تدهور CAFE بنسبة ~22% فقط.
- يؤكد هذا أن الميزات السببية تحافظ على المنفعة بشكل أفضل من الارتباطات الزائفة عندما تكون الآليات محفوظة ولكن التوزيعات تتغير.
القابلية للتفسير والاستقرار:
- استقرار SHAP: أظهرت الميزات التي أنتجها CAFE انخفاضًا في التباين بنسبة 58.6% في تفسيرات SHAP تحت ضجيج المدخلات مقارنة بالنماذج الإحصائية الأساسية.
- كانت الميزات أكثر إيجازًا وتوافقًا دلاليًا مع عملية توليد البيانات الأساسية.
الكفاءة:
- رغم التكلفة الحاسوبية الأعلى لكل حلقة (بسبب الاكتشاف السببي)، احتاج CAFE إلى 40-70% حلقات أقل للوصول إلى الأداء الأمثل، مما أدى إلى وقت إجمالي للوصول للهدف مماثل أو أفضل.

5. الأهمية والآثار المترتبة

التطبيقات الحرجة للسلامة: يعالج CAFE فجوة جوهرية في المجالات عالية المخاطر (الهندسة الكيميائية، الرعاية الصحية، التمويل) حيث يشيع تغير التوزيع. من خلال إعطاء الأولوية للآليات السببية على الارتباطات، فإنه ينتج نماذج أكثر موثوقية تحت التغيرات التشغيلية.
تحول في النموذج المعرفي: يرسخ CAFE نموذجًا جديدًا لـ AFE حيث يعمل الاكتشاف السببي كدليل للتعلم المعزز، وليس مجرد خطوة تحليل لاحقة منفصلة.
رؤية نظرية: تثبت هذه الدراسة فرضية أن الميزات المستمدة من الأسلاف السببيين (المباشرين وغير المباشرين) تمتلك خصائص الثبات التي تفتقر إليها الارتباطات الإحصائية، مما يوفر أساسًا نظريًا لهندسة الميزات المتينة.
القيود والعمل المستقبلي: يفترض النهج حاليًا نماذج الضوضاء الخطية المضافة والرسوم البيانية السببية الثابتة. يهدف العمل المستقبلي إلى دمج الاكتشاف السببي غير الخطي (مثل النماذج السببية العصبية) والتعامل مع الديناميكيات الزمنية وحلقات التغذية الراجعة.

باختصار، يوضح CAFE أن دمج الاستدلال السببي في حلقة هندسة الميزات المؤتمتة يعزز بشكل كبير من متانة النموذج، وقابليته للتفسير، وكفاءته، لا سيما في البيئات الديناميكية حيث تكون توزيعات البيانات غير مستقرة.