🤖 machine learning

bde: A Python Package for Bayesian Deep Ensembles via MILE

تقدم الورقة البحثية "bde"، وهي حزمة بايثون سهلة الاستخدام مبنية على JAX تنفذ مجموعات "مايكروكانونيكال لانجفان" (MILE) لتوفير مجموعات عميقة بايزية متوافقة مع scikit-learn من أجل التدريب الفعال، وأخذ العينات، وتقدير عدم اليقين في مهام الانحدار والتصنيف للبيانات الجدولية.

المؤلفون الأصليون: Vyron Arvanitis, Angelos Aslanidis, Emanuel Sommer, David Rügamer

نُشر 2026-05-15

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Vyron Arvanitis, Angelos Aslanidis, Emanuel Sommer, David Rügamer

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول التنبؤ بالطقس. يمكنك سؤال خبير أرصاد جوية واحد عن التوقعات؛ قد يكون محقاً، ولكن إذا أخطأ، فلن تعرف مدى خطئه أو لماذا ارتكب هذا الخطأ.

الآن، تخيل بدلاً من ذلك أنك وظفت فريقاً من ثمانية خبراء أرصاد جوية مختلفين. تطلب منهم جميعاً دراسة البيانات وإعطاء أفضل تخمين لديهم. إذا اتفقوا جميعاً، فستشعر بثقة كبيرة. أما إذا اختلفوا، فأنت تعلم أن هناك حالة من عدم اليقين، ويمكنك النظر إلى تباين إجاباتهم لفهم المخاطر.

bde هي أداة حاسوبية جديدة (حزمة برمجية بلغة بايثون) تفعل هذا بالضبط، ولكن بالنسبة للذكاء الاصطناعي. فهي تساعد الباحثين وعلماء البيانات على بناء "فرق" من نماذج الذكاء الاصطناعي لتقديم التنبؤات، والأهم من ذلك، لإخباركم بمدى ثقتهم في تلك التنبؤات.

إليك شرح لكيفية عملها، باستخدام استعارات بسيطة:

1. المشكلة: "الصندوق الأسود" للذكاء الاصطناعي

معظم أدوات الذكاء الاصطناعي الحديثة تشبه "الصندوق الأسود". تضع فيها بيانات، فيخرج منها رقم. لكن الصندوق لا يخبرك ما إذا كان يخمن بشكل عشوائي أم أنه متأكد تماماً. في العالم الحقيقي، معرفة مدى التأكد (ما يسمى بـ تقدير عدم اليقين - Uncertainty Quantification) لا يقل أهمية عن التنبؤ نفسه.

2. الحل: فريق من خبراء الذكاء الاصطناعي (المجموعات العميقة البايزية - Bayesian Deep Ensembles)

تقوم حزمة bde بإنشاء مجموعة عميقة بايزية. فكر في هذا كأنه لجنة من نماذج الذكاء الاصطناعي.

الفريق: بدلاً من نموذج ذكاء اصطناعي واحد، تقوم بتدريب ثمانية (أو أكثر) من النسخ المختلفة قليلاً من نفس النموذج.
الهدف: كل نسخة تتعلم البيانات بطريقتها الفريدة الخاصة. عندما يصوتون على تنبؤ ما، فإن المجموعة تعطيك إجابة أذكى بكما يمكن لأي عضو بمفرده تقديمها.

3. كيف يعمل: الرقصة المكونة من خطوتين (MILE)

تقدم الورقة البحثية طريقة محددة تسمى MILE (مجموعات لانجفان الميكروكانونية - Microcanonical Langevin Ensembles). يمكنك التفكير في هذا كأنه رقصة مكونة من خطوتين يؤديها الذكاء الاصطناعي للعثور على أفضل الإجابات:

الخطوة 1: العدو السريع (التحسين - Optimization)
أولاً، يقوم فريق الذكاء الاصطناعي بعدو سريع للعثور على "الأرض المرتفعة". هم يمسحون البيانات بسرعة للعثور على الإجابات الأكثر احتمالاً (قمم الجبال). يتم ذلك باستخدام طريقة تدريب قياسية وسريعة.
الخطوة 2: التنزه (أخذ العينات - Sampling)
بمجرد وصولهم إلى الأرض المرتفعة، لا يتوقفون عند هذا الحد. يبدأون في "التنزه" حول القمة. هذا هو جزء أخذ العينات. إنهم يستكشفون المنطقة المحيطة بأفضل إجابة ليروا كيف يبدو المشهد. هل توجد قمم أخرى قريبة؟ هل الأرض مهتزة؟
- لماذا نفعل ذلك؟ مرحلة التنزه هذه تسمح للذكاء الاصطناعي بفهم شكل عدم اليقين. فهو لا يعطيك رقماً واحداً فحسب، بل يعطيك خريطة للاحتمالات.

4. لماذا هو سريع وقوي

عادةً، يكون القيام بعملية "التنزه" هذه (أخذ العينات) بطيئاً للغاية ويتطلب حواسيب فائقة. تحل bde هذه المشكلة باستخدام محرك خاص يسمى JAX.

الاستعارة: تخيل وجود طاهٍ واحد يحاول طهي ثماني وجبات مختلفة واحدة تلو الأخرى. يستغرق الأمر وقتاً طويلاً. bde تشبه وجود مطبخ به ثمانية طهاة يعملون في تناغم تام في نفس الوقت. فهي تستخدم قوة حاسوبك (المعالجات المركزية CPU، أو معالجات الرسوميات GPU، أو وحدات معالجة التنسور TPU) لتشغيل جميع نماذج الذكاء الاصطناعي بالتوازي، مما يجعل العملية سريعة بما يكفي للاستخدام اليومي.

5. لمن هذا البرنامج؟

تذكر الورقة البحثية أن bde مصممة للبيانات الجدولية (Tabular Data) — فكر في جداول البيانات التي تحتوي على صفوف وأعمدة (مثل سجلات المبيعات، أو بيانات الطقس، أو سجلات مشاركة الدراجات).

تتصل بسهولة بـ scikit-learn، وهي الأداة الأكثر شهرة لعلماء البيانات. وهذا يعني أنه إذا كنت تعرف بالفعل كيفية استخدام أدوات البيانات القياسية، فيمكنك استخدام bde دون الحاجة إلى تعلم رياضيات معقدة أو كيفية برمجة "المحرك" من الصفر.
وهي تتعامل مع كل من الانحدار (Regression) (التنبؤ برقم، مثل "كم عدد الدراجات التي سيتم استئجارها؟") و التصنيف (Classification) (التنبؤ بفئة، مثل "هل ستمطر أم لا؟").

6. ماذا أثبتوا؟

اختبر المؤلفون bde على مجموعات بيانات من العالم الحقيقي (مثل سرعة الرياح على جناح طائرة أو الطلب على مشاركة الدراجات).

النتيجة: قدمت أداتهم أداءً يضاهي أو يتفوق على نماذج الذكاء الاصطناعي الرائدة الأخرى من حيث الدقة.
الفوز الكبير: الأهم من ذلك، أنها قدمت تقديرات أفضل لعدم اليقين. لقد كانت أفضل في إخبارك متى تكون غير متأكدة، وهو أمر حيوي لاتخاذ قرارات آمنة وموثوقة.

الملخص

bde هي أداة سهلة الاستخدام تتيح لك بناء "لجنة" من نماذج الذكاء الاصطناعي لتقديم التنبؤات. وهي تستخدم طريقة ذكية مكونة من خطوتين (العدو السريع المتبوع بالتنزه الحذر) ليس فقط للتنبؤ بالمستقبل، بل لإخبارك أيضاً بمدى ثقتها في ذلك التنبؤ. وهي تفعل ذلك بسرعة باستخدام الحوسبة المتوازية، مما يجعل الذكاء الاصطناعي المتقدم "المدرك لعدم اليقين" متاحاً لأي شخص يعمل مع البيانات الشبيهة بجداول البيانات.

ملخص تقني لحزمة "bde: حزمة بايثون للنماذج العميقة البايزية المجمعة عبر MILE"

بيان المشكلة
يعد التقدير الموثوق لعدم اليقين (Uncertainty Quantification - UQ) مكونًا حاسمًا في أنظمة تعلم الآلة الحديثة. وبينما توفر التعلم العميق البايزي (BDL) إطار عمل مبدئيًا لتحقيق ذلك، تظل الأدوات المتاحة للاستدلال القائم على أخذ العينات في الشبكات العصبية البايزية نادرة. تتطلب أطر البرمجة الاحتمالية الحالية عادةً دعمًا لأساليب مونت كارلو عبر سلاسل ماركوف (MCMC)، لكنها تتطلب تهيئة يدوية كبيرة لتحقيق أداء تنافسي على نماذج الشبكات العصبية. علاوة على ذلك، هناك نقص في التنفيذات سهلة الاستخدام التي تجسر الفجوة بين أبحاث MCMC عالية الأداء وسير عمل علوم البيانات العملية، لا سيالما لمهام التعلم الخاضع للإشراف على البيانات الجدولية (Tabular Data).

المنهجية: نهج MILE
تقدم الورقة البحثية bde، وهي حزمة بايثون تنفذ مجموعات لانجفنز الميكروكانونية (MILE)، وهي تقنية هجينة لأخذ العينات مصممة للنماذج العميقة البايزية المجمعة (BDEs). تتبع المنهجية عملية استدلال تتكون من مرحلتين:

مرحلة التحسين (Optimization Stage): يقوم النظام بتحسين $n_{members}$ من النسخ المستقلة القابلة للتهيئة المرنة لشبكة عصبية أمامية (Feed-forward). ويتم ذلك عبر تقليل الخطأ التجريبي المنتظم (باستخدام دالة خسارة السلب اللوغاريتمي - Negative Log-Likelihood) مع مُحسن AdamW. الهدف هو إيجاد أنماط (Modes) متنوعة ذات احتمالية قصوى عالية.
مرحلة أخذ العينات (Sampling Stage): تنتقل العملية إلى مرحلة أخذ العينات باستخدام مونت كارلو لانجفز الميكروكانونية (Microcanonical MCMC). وتتعزز هذه المرحلة بمرحلة ضبط (Tuning phase) مصممة خصيصًا للشبكات العصبية البايزية.

يسمح الجمع بين هاتين المرحلتين للمجموعة أولًا بتحديد الأنماط المتنوعة، ثم استكشاف هياكل التوزيع المحلية، مما يولد مجموعة من العينات التي تشكل تقريبًا ضمنيًا للتوزيع اللاحق (Posterior Approximation).

تصميم البرمجيات وتنفيذها
تم هندسة حزمة bde للاستفيد من السرعة والقدرات عالية الأداء لـ JAX و blackjax، مدمجة مع واجهة برمجة التطبيقات (API) سهلة الاستخدام الخاصة بـ scikit-learn. وتشمل الميزات التصميمية الرئيسية ما يلي:

التوازي (Parallelization): نظرًا لأن التحسين وأخذ العينات عبر أعضاء المجموعة مستقلة، تستغل الحزمة قدرة JAX على التوازي والترجمة الفورية (Just-in-time compilation) للتوسع بكفاءة عبر وحدات المعالجة المركزية (CPUs)، ووحدات معالجة الرسومات (GPUs)، ووحدات معالجة التنسور (TPUs).
الواجهة (Interface): توفر واجهة موحدة للتنبؤات النقطية، وفترات الثقة (Credible Intervals)، وتقديرات التغطية، وغيرها من مقاييس عدم اليقين.
سير العمل (Workflow): تقوم الحزمة بأتمتة تنسيق عمليات التحسين، وأخذ العينات، والتوازي، والاستدلال التنبئي، مما لا يتطلب من المستخدم معرفة متخصصة بديناميكيات MCMC، أو استراتيجيات التهيئة، أو التفاصيل الداخلية لـ JAX.

المساهمات الرئيسية

أول تنفيذ متاح لتقنية MILE: توفر bde أول تنفيذ متاح لتقنية MILE، وهي تقنية أثبتت قدرتها على تقديم دقة تنبؤية وعلاقة جيدة لعدم اليقين للشبكات العصبية البايزية.
التوافق مع scikit-learn: من خلال الالتزام بواجهة scikit-learn، تتيح الحزمة دمجًا سلسًا في سير عمل تعلم الآلة الحالي.
التركيز على البيانات الجدولية: تستهدف الحزمة تحديدًا مهام التعلم الخاضع للإشراف على البيانات الجدولية، بما في ذلك الانحدار التوزيعي (Distributional Regression) والتصنيف (متعدد الفئات).
قابلية التكرار (Reproducibility): تتضمن الحزمة إعدادات آلية وتجارب لضمان تحقيق تقدير مستقر لعدم اليقين (UQ) في تعلم الآلة الجدولي.

النتائج
قام المؤلفون باختبار bde على مجموعتي بيانات airfoil و bikesharing، ومقارنتها بالنماذج الخطية، والغابات العشوائية (Random Forests)، وXGBoost، وCatBoost، والنماذج العميقة المجمعة (Deep Ensembles)، وTabPFN (V2).

الأداء: في مجموعة بيانات airfoil، حققت bde خطأ جذر متوسط المربعات (RMSE) قدره $0.1215 \pm 0.0042$ ، متفوقة على معظم المنافسين بما في ذلك TabPFN ($0.1359 $) والنماذج العميقة المجمعة ($ 0.3650$). وفي مجموعة بيانات bikesharing، حققت RMSE قدره $0.2261 \pm 0.0016$ .
تقدير عدم اليقين (UQ): تسلط النتائج الضوء على الأداء التنافسي الجاهز للاستخدام في تقدير عدم اليقين، لا سيما من خلال قدرتها الأصلية على الانحدار التوزيعي. أظهرت bde أداءً قويًا في مقاييس السلب اللوغاريتمي (NLL)، حيث حققت $-0.9126$ (للانحدار التوزيعي) في airfoil و $-0.7315$ في bikesharing.
التكلفة الحسابية: يقر المؤلفون بأنه بينما تتطلب النماذج العميقة المجمعة المحسنة للغاية تكاليف حسابية أعلى من المنافسين القائمين على التحسين بسبب الطبيعة التكرارية لأخذ عينات MCMC، إلا أن هذا الاستثمار يتيح بناء تقريب غير معلمي (Non-parametric) مرن للتوزيع اللاحق.

الأهمية والادعاءات
تضع الورقة البحثية bde كجسر بين أبحاث MCMC عالية الأداء وعلوم البيانات العملية. إن إدراجها ضمن منظمة scikit-learn-contrib يضمن الالتزام بمعايير البرمجيات الصارمة واتساق واجهة برمجة التطبيقات، مما يجعلها أداة موثوقة وجاهزة للمجتمع العلمي. يدعي المؤلفون أن bde تمكن الباحثين والممارسين من تطبيق النماذج العميقة البايزية المجمعة بسهولة على البيانات الجدولية دون الحاجة إلى معرفة متخصصة بالديناميكيات المعقدة الكامنة، مما يسهل تحقيق تقدير مستقر لعدم اليقين في تعلم الآلة.