Optimizing Likelihoods via Mutual Information: Bridging Simulation-Based Inference and Bayesian Optimal Experimental Design

تخيل أنك محقق يحاول حل لغز ما، لكنك لا تستطيع رؤية مسرح الجريمة. بدلاً من ذلك، لديك لعبة فيديو سحرية ومعقدة للغاية تحاكي الواقع، يمكنها إعادة إنشاء الجريمة مراراً وتكراراً. أنت تعرف قواعد اللعبة (فيزياء الكون)، لكنك لا تعرف الإعدادات المحددة التي استخدمها "المجرم" لإنشاء الفوضى التي تراها. هدفك هو اكتشاف تلك الإعدادات المخفية من خلال تشغيل المحاكي، ومشاهدة النتائج، وتعديل تخميناتك. هذا هو عالم الاستدلال القائم على المحاكاة (SBI). هكذا يكتشف العلماء القواعد الخفية لكل شيء، بدءاً من كيفية تفاعل الأدوية مع الخلايا وصولاً إلى كيفية انفجار النجوم، باستخدام النماذج الحاسوبية لأن التجارب الحقيقية قد تكون مكلفة للغاية أو خطيرة للغاية لإجرائها.

لكن هنا تكمن المشكلة: تشغيل هذه المحاكيات بطيء ومكلف للغاية. تخيل لو أن كل مرة تضغط فيها على زر "تشغيل" في جهاز ألعابك، كلفك ذلك دولاراً واحداً واستغرق عشر دقائق للتحميل. لديك ميزانية محدودة من عدد "مرات التشغيل" قبل أن تنفد أموالك. لذا، يجب أن تكون ذكياً بشأن أي السيناريوهات ستقوم بمحاكاتها. وهنا يأتي دور التصميم التجريبي الأمثل البايزي (BOED). إنه يشبه الاستراتيجي الذكي للغاية الذي يسأل: "إذا قمت بتشغيل اللعبة بهذا الإعداد المحدد، فهل سيعلمني ذلك أكبر قدر من المعلومات عن إعدادات المجرم المخفية؟" يتناول البحث مشكلة شائكة: عادةً ما يتم التعامل مع أفضل استراتيجية لإيجاد الإجابة (BOED) وأفضل طريقة لتعلم قواعد اللعبة (SBI) كمهمتين منفصلتين، مما يتطلب غالباً أن يكون المحاكي "شفافاً" (سهل التعديل رياضياً)، وهو ما لا تنطبق عليه معظم المحاكيات العلمية في العالم الحقيقي.

لقد طور المؤلفان، فينست دي. زابالا وإليوت إي. هوي، طريقة جديدة تسمى SBI-BOED تجمع بين هذين العالمين. فكر في الأمر كتعليم وكيل ذكاء اصطناعي واحد القيام بشيئين في وقت واحد: تعلم قواعد اللعبة أثناء اكتشاف أفضل التحركات للقيام بها. لقد اكتشفا أن أداة رياضية تُستخدم لقياس مقدار المعلومات التي يعطيها شيء ما عن شيء آخر (تسمى المعلومات المتبادلة) يمكن استخدامها بالفعل كدليل للتدريب. ومن خلال ضبط "مقبض" معين في رياضياتهم (معلمة يسمونها $\lambda$)، وجدا طريقة تجعل الذكاء الاصطناعي يتعلم القواعد بدقة أكبر دون الحاجة إلى رؤية الكود الداخلي للمحاكي.

في اختباراتهما، تعاملتا مع المحاكي كـ "صندوق أسود" — آلة تضع فيها مدخلات وتحصل منها على مخرجات، لكن لا يمكنك التلصص بداخلها لرؤية التروس وهي تدور. وقد أظهرتا أن طريقتهما يمكنها إيجاد أفضل التجارب لإجرائها وتعلم المعلمات المخفية بنفس كفاءة الطرق الموجودة أو حتى أفضل منها، حتى عندما كانت تلك الطرق تمتلك القدرة على الوصول إلى الإجراءات الداخلية للمحاكي. ووجدتا أنه من خلال الموازنة بين الرغبة في التجارب "المثيرة للدهشة" والحاجة إلى التعلم "الدقيق"، يمكنهما الحصول على نتائج أفضل بعدد أقل من عمليات تشغيل المحاكي. على سبيل المثال، في نموذج بيولوجي معقد، استخدمت طريقتهما حوالي 50 مرة أقل من عدد مرات استدعاء المحاكي مقارنة ببعض الطرق الرائدة السابقة للوصول إلى دقة مماثلة. كما أظهرتا أنك إذا طاردت فقط التجربة "الأكثر إخباراً بالمعلومات" دون حذر، فقد ينتهي بك الأمر بنموذج يبدو ذكياً ولكنه مخطئ بشأن التفاصيل. ويشير نهجهما إلى أن أفضل طريقة للتعلم هي أن تكون محققاً فضولياً ومتوازناً، يقدر قيمة كل من الإثارة التي يوفرها دليل جديد ودقة الأدلة المتوفرة.