ملخص تقني: الاستدلال البعدي في الفضاء الكامن لتحسين الصندوق الأسود المقيد والقابل للتوسع

تعريف المشكلة

تتناول الورقة البحثية مسألة تحسين الصندوق الأسود المقيد (CBBO)، وهي مهمة أساسية في المجالات العلمية والهندسية مثل تعلم الآلة، واكتشاف الأدوية، والتصميم الصناعي. الهدف هو إيجاد مدخل $x^*$ يعظم دالة الهدف $f(x)$ مع مراعاة $M$ من القيود ذات الصندوق الأسود $g^{(m)}(x) \leq 0$.

يسلط المؤلفون الضوء على أن عملية CBBO أصعب بكثير من التحسين غير المقيد لسببين رئيسيين:

1. المناطق الممكنة غير القابلة للحل تحليلياً: المناطق الممكنة غير محددة تحليلياً وغالباً ما تشغل جزءاً ضئيلاً جداً من فضاء البحث.
2. الأبعاد العالية: تعاني الطرق الحالية، وخاصة التحسين البايزي (BO)، من صعوبة التوسع في المساحات ذات الأبعاد العالية (مثل $D=200$). وبينما يتعامل الـ BO مع القيود عبر دوال اكتساب جديدة أو استرخاء لاغرانج، فإنه يعاني من ضعف القدرة على التوسع وصعوبة في تقدير النماذج البديلة بدقة في التضاريس المعقدة والمقيدة.

لقد ظهرت النماذج التوليدية كبديل، ولكن أخذ عينات من التوزيع المستهدف للمرشحين ذوي النتائج العالية والممكنة غالباً ما يكون مستعصياً في الأبعاد العالية بسبب تعدد الأنماط (multi-modality) والمناطق المسطحة الكبيرة. وتعتبر طرق ماركوف (MCMC) التقليدية ضعيفة التوسع، كما أن الضبط الدقيق للنماذج التوليدية غالباً ما يؤدي إلى انهيار النمط (mode collapse).

المنهجية: CiBO

يقترح المؤلفون CiBO (الاستدلال القائم على الاستدلال لتحسين الصندوق الأسود المقيد)، وهو إطار عمل يعيد صياغة اختيار المرشحين كعملية استدلال بعدي (posterior inference) يتم إجراؤها في الفضاء الكامن (latent space) للنماذج التوليدية. تعمل الطريقة في حلقة تكرارية تتكون من مرحلتين:

المرحلة 1: تدريب النماذج

بناءً على مجموعة بيانات $\mathcal{D}_r$ من المدخلات المرصودة، والأهداف، وانتهاكات القيود:

1. تدريب الأولوية (Prior Training): يتم تدريب نموذج تدفق (flow-based model) $p_\theta(x)$ لالتقاط توزيع مجموعة البيانات الحالية. يتم ذلك باستخدام "مطابقة التدفق" (Flow Matching) مع التدريب المعاد وزنه (reweighted training)، حيث يتم وزن نقاط البيانات بناءً على درجة لاغرانج المعززة $l(y, c) = y - \lambda \sum \max(0, c_m)$. يركز هذا النوع من التدريب "الأولوية" على المناطق الواعدة والممكنة.
2. تدريب النموذج البديل (Surrogate Training): يتم تدريب مجموعة من $K$ من الشبكات العصبية للتنبؤ بقيم الأهداف ($\mu_\phi, \sigma_\phi$) لتقدير عدم اليقين. كما يتم تدريب نماذج وسيطة منفصلة لكل قيد $g^{(m)}$، وتُدرب هذه أيضاً باستخدام خسارة إعادة الوزن.

المرحلة 2: أخذ عينات من المرشحين

بدلاً من الضبط الدقيق لنموذج التدفق الأساسي (والذي ينطوي على خطر انهيار النمط)، يقوم CiBO بصياغة اختيار المرشحين كأخذ عينات من توزيع بعدي:
$$p_{post}(x) \propto p_\theta(x) \exp(\beta \cdot r_\phi(x))$$
حيث $r_\phi(x)$ هي دالة مكافأة تجمع بين متوسط النموذج البديل، ومكافأة عدم اليقين، وعقوبة القيود.

الابتكار الرئيسي: الاستدلال الموزع في الفضاء الكمان (Latent Space Amortized Inference)
يلاحظ المؤلفون أنه بينما يكون $p_{post}(x)$ في فضاء البيانات متعدد الأنماط ومعقداً للغاية، فإن التوزيع البعدي المقابل في الفضاء الكامن ($z$) يكون أكثر سلاسة بشكل ملحوظ.

1. مُنقّب الانتشار الخارجي (Outsourced Diffusion Sampler): يقومون بتدريب نموذج انتشار (diffusion model) منفصل $p_\psi(z)$ لتقريب التوزيع البعدي الكامن $p_{post}(z) \propto p(z) \exp(\beta \cdot r_\phi(f_\theta(z)))$.
2. توازن المسار (Trajectory Balance - TB): يتم تدريب مجمع الانتشار باستخدام هدف "توازن المسار"، مما يسمح بـ التدريب خارج السياسة (off-policy training). وهذا أمر بالغ الأهمية لتغطية أنماط متعددة وتجنب انهيار النمط في الفضاء الكامن.
3. الاسقاط والترشيح (Projection and Filtering): يتم سحب عينات من $p_\psi(z)$، وإسقاطها إلى فضاء البيانات عبر الخريطة الحتمية $x = f_\theta(z)$، ثم ترشيحها لاختيار أفضل $B$ من المرشحين بناءً على دالة المكافأة $r_\phi(x)$.

المساهمات الرئيسية

1. إعادة الصياغة كاستدلال بعدي: تصيغ الورقة عملية اختيار المرشحين المقيدة كأخذ عينات من توزيع بعدي، مستفيدة من سلاسة الفضاء الكامن لتجاوز صعوبات أخذ العينات المباشر في فضاء البيانات عالي الأبعاد.
2. توزيع الاستدلال في الفضاء الكامن: من خلال فصل عملية أخذ العينات إلى خطوة توليد ضوضاء في الفضاء الكامن وإسقاط حتمي، يتجنب النهج مشكلات انهيار النمط المرتبطة بالضبط الدقيق لنماذج التدفق مباشرة على التوزيعات المستهدفة المعقدة ومتعددة الأنماط.
3. القابلية للتوسع: يسمح استخدام النماذج البديلة خفيفة الوزن القائمة على MLP ونماذج التدفق/الانتشار بالطريقة بالتوسع إلى أبعاد عالية (تصل إلى 180 بُعداً في المهام الواقعية) حيث تفشل طرق BO التقليدية.
4. قيود المؤشر (Indicator Constraints): أثبت الإطار قدرته على التعامل مع "قيود المؤشر" (التغذية الراجعة الثنائية لإمكانية التحقق فقط)، وهو إعداد صعب حيث لا تتوفر معلومات القيود المستمرة أو القائمة على التدرج.

النتائج التجريبية

قام المؤلفون بتقييم CiBO على ثلاثة اختبارات معيارية اصطناعية (Rastrigin, Ackley, Rosenbrock عند $D=200$) وأربع مهام واقعية (Rover Planning, HalfCheetah, Mopta, Lasso DNA) بأبعاد تتراوح من 60 إلى 180.

• الأداء: يتفوق CiBO باستمرار على أفضل النماذج المرجعية (baselines)، بما في ذلك متغيرات BO (مثل cEI, LogcEI, SCBO, PCAGP-SCBO, FuRBO) والخوارزميات التطورية (CMA-ES) والأساليب التوليدية الأخرى (DiffOPT).
• الإمكانية (Feasibility): في المهام الاصطناعية، يحقق CiBO نسب إمكانية تقترب من المثالية خلال 5-10 دفعات، وهو أسرع بكثير من نماذج BO المرجعية. وفي المهام الواقعية، غالباً ما يكون هو الطريقة الوحيدة لإيجاد حلول ممكنة في الاختبارات الصعبة مثل Mopta و DNA-180D.
• كفاءة العينات: تُظهر الطريقة كفاءة فائقة في العينات، حيث تجد حلولاً ممكنة عالية الجودة بعدد أقل من التقييمات مقارنة بالمنافسين.
• دراسات الاستئصال (Ablation Studies): تؤكد التجارب أن التدريب المعاد وزنه، والترشيح، والتدريب خارج السياسة لمجمع الانتشار هي مكونات حاسمة. وتتميز الطريقة بالمتانة تجاه الاختلافات في المعلمات الفائقة مثل مضاعف لاغرانج $\lambda$ وحجم المخزن المؤقت $L$.
• وقت التشغيل: رغم تدريب نماذج متعددة في كل جولة، يحافظ CiBO على وقت تشغيل لكل جولة مماثل أو أقل من طرق تعتمد على BO، لأنه يتجنب عملية ملاءمة العمليات الغاوسية (GP) المكلفة المطلوبة في الـ BO التقليدي.

الأهمية والادعاءات

تدعي الورقة أن CiBO يمثل خطوة كبيرة للأمام في تحسين الصندوق الأسود المقيد القابل للتوسع. تكمن أهميته الأساسية في:

• التغلب على "لعنة الأبعاد" في القيود: من خلال إجراء الاستدلال في الفضاء الكامن، تتجاوز الطريقة بفعالية المناطق الممكنة المعقدة ومتعددة الأنماط التي يصعب التعامل معها بواسطة BO القياسي أو الضبط الدقيق المباشر للنماذج التوليدية.
• المتانة: الإطار متين عبر مهام متنوعة، بما في ذلك تلك التي تحتوي على تغذية راجعة ثنائية للقيود وعدد كبير من القيود.
• القابلية للتطبيق العملي: الطريقة فعالة حاسوبياً بما يكفي للنشر العملي في مشا تصميم التحكم والأنظمة الواقعية حيث تكون ميزانيات التقييم محدودة.

يشير المؤلفون بتواضع إلى وجود قيود، وتحديداً الحاجة إلى إعادة تدريب النماذج في كل جولة، وإمكانية التحسين المستقبلي من خلال الاستفادة من التطورات في تدريب التدفق ونماذج الانتشار. ويؤكدون أن عملهم يوفر أساساً لأطر عمل أكثر متانة ووعياً بالقيود.