📄 other

ESSIM: A Probabilistic Swarm Optimization Algorithm Based on Bayesian Statistical Inference and Uncertainty-Guided Search

تقدم هذه الورقة البحثية خوارزمية ESSIM، وهي خوارزمية تحسين سرب احتمالية مبتكرة تستفيد من الاستدلال الإحصائي البايزي وعدم اليقين للجزيئات الفردية للحفاظ على تنوع السرب وتجنب النهايات الصغرى المحلية، وبذلك تتفوق على خوارزمية PSO الكلاسيكية في معايير الاختبار متعددة الأنماط ومهام تحسين المعلمات لعملية انحدار العمليات الغاوسية رغم تطلبها أوقات حوسبة أطول.

المؤلفون الأصليون: Hacene Benkhoula, Kamel Eddine Hemsas, Saad Mekhilef

نُشر 2026-07-27✓ Author reviewed ⓘ

📖 6 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Hacene Benkhoula, Kamel Eddine Hemsas, Saad Mekhilef

البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول العثور على أفضل مكان على الإطلاق لإقامة كشك لبيع عصير الليمون في مدينة ضخمة يغلفها الضباب. تريد المكان الذي يضم أكبر عدد من الزبائن وأقل قدر من المطر، لكن المدينة شاسعة، والخريطة مليئة بالفخاخ الماكرة. بعض الأماكن تبدو رائعة للوهلة الأولى، لكنها تتحول إلى طرق مسدودة (نقاط صغرى محلية)، بينما الكنز الحقيقي مخفي بعيداً جداً. هذا هو الصراع اليومي لعملية "التحسين" (Optimization)، وهو فرع من الرياضيات وعلوم الحاسوب حيث نعلم الحواسيب كيفية إيجاد الحل الأمثل لمشكلة ما.

لعقود من الزمن، كانت الطريقة الأكثر شعبية لحل هذا الأمر تسمى "تحسين سرب الجسيمات" (Particle Swarm Optimization - PSO). فكر في PSO كأنه سرب من الطيور يبحث عن الطعام. في هذه الطريقة، كل طائر هو مجرد نقطة واحدة على الخريطة. إنهم يطيرون في الأرجاء، ويتشاركون سراً: "مهلاً، لقد وجدت مكاناً جيداً!" و"لقد وجدت مكاناً أفضل!"، ثم يندفعون جميعاً نحو أفضل نقطة تم العثور عليها حتى الآن. إنها طريقة سريعة وفعالة، ولكن بها عيب: إذا تحمس السرب أكثر من اللازم تجاه "مكان جيد" زائف (فخ محلي)، فإنهم يندفعون جميعاً معاً ويقعون في الفخ، ولا يدركون أبداً أن المكان الأفضل الحقيقي موجود في مكان آخر.

هنا تبرز فكرة جديدة تسمى ESSIM. بدلاً من معاملة كل طائر كنقطة واحدة، تعامل ESSIM كل طائر كسحابة احتمالية ضبابية. الأمر ليس مجرد "أنا هنا"، بل هو "أعتقد أن أفضل مكان هو حول هذه المنطقة، لكنني لست متأكداً بنسبة 100% بعد". من خلال الاحتفاظ بقدْر من "عدم اليقين" في عقولهم، يمكن لهذه السحب استكشاف المدينة بحذر أكبر، وتجنب الفخاخ التي تقع فيها الطيور ذات النقطة الواحدة. تقدم هذه الورقة البحثية ESSIM، وهي طريقة تستخدم الإحصاء الذكي لمساعدة الحواسيب على إيجاد إجابات أفضل في المشكلات المعقدة والفوضوية، مما يثبت أنه أحياناً، يكون عدم التأكد قليلاً هو مفتاح الوصول إلى الصواب.

السحابة مقابل النقطة: طريقة جديدة للبحث

تقدم الورقة البحثية نظام ESSIM (طريقة الاستدلال الإحصائي لمجموعات السرب)، وهي رؤية جديدة لكيفية بحث الحواسيب عن الحلول. بينما تتعامل الطريقة القديمة، PSO، مع كل وكيل بحث (أو "جسيم") كنقطة حادة وواضحة على الخريطة، تعامل ESSIM هذه الجسيمات كـ توزيعات احتمالية غاوسية (Gaussian probability distributions).

لاستخدام تشبيه مرح: تخيل طيور الـ PSO القديمة مثل كشافين حادّي البصر يشيرون بأصابعهم ويقولون: "الكنز موجود بالضبط عند هذا الإحداثي!". إذا كانوا مخطئين، فسوف يعلقون. أما طيور ESSIM، فهي تشبه المتنزهين الذين يحملون خريطة ضبابية؛ فهم يحملون "سحابة" من الاحتمالات. مركز السحابة هو أفضل تخمين لديهم، لكن حجم السحابة يمثل عدم اليقين لديهم. السحابة الكبيرة والواسعة تعني: "أنا لست متأكداً من مكاننا، لذا دعونا نبحث في الأنحاء كثيراً!"، أما السحابة الصغيرة والضيقة فتعني: "أنا واثق تماماً، لذا دعونا نركز بدقة".

كيف يحدث السحر: العقل البايزي

تشرح الورقة أن ESSIM يعمل من خلال التحديث المستمر لهذه السحب باستخدام عملية مستوحاة من الاستدلال البايزي (Bayesian inference) ومرشح كالمان (Kalman filter) (وهي أداة رياضية تُستخدم غالباً في الملاحة). إليكم كيف تسير القصة:

أخذ العينات (Sampling): تختار كل "سحابة" (جسيم) مكاناً عشوائياً داخل منطقتها الضبابية لاختباره.
المجموعة النخبوية: يتحقق الكمبيوتر من أي المواقع كانت الأفضل. وبدلاً من مجرد اختيار فائز واحد، تجمع ESSIM أفضل المؤدين (النخبة) وتنشئ "سحابة فائقة" جماعية جديدة تمثل أفضل معرفة لدى المجموعة في الوقت الحالي.
التحديث: بعد ذلك، يقوم كل جسيم فردي بدمج سحابته الشخصية مع هذه "السحابة الفائقة". الأمر يشبه صديقين يقارنان خرائطهما: "أنا أعتقد أنه هنا، لكنك تعتقد أنه هناك. لنجمع خرائطنا للحصول على صورة أفضل".
شبكة الأمان: لمنع المجموعة من أن تصبح "واثقة جداً" بسرعة كبيرة (مما يؤدي إلى الوقوع في الفخ)، تضيف ESSIM قدراً ضئيلاً من "الضجيج" أو العشوائية إلى السحب. وهذا يضمن أنه حتى مع زيادة دقة البحث، لا تتوقف المجموعة تماماً عن البحث عن احتمالات جديدة.

النتائج: السرعة مقابل الذكاء

اختبر المؤلفون هذه الطريقة الجديدة مقابل PSO القديمة في بعض الألغاز الرياضية الصعبة للغاية.

اختبار راستريجين (Rastrigin Test):
استخدموا نسخة ذات 15 بُعداً من دالة راستريجين، وهي مشكلة مشهورة بوجود آلاف "التلال" و"الوديان" الصغيرة (النقاط الصغرى المحلية) التي تخدع خوارزميات البحث.

النتيجة: علقت طريقة PSO القديمة بسرعة. في أحد الاختبارات، كان متوسط الخطأ 19.1068، وفي أسوأ حالة، وصل إلى 22.9067.
فوز ESSIM: وجدت ESSIM حلاً أفضل بكثير، بمتوسط خطأ قدره 2.5126 فقط. هذا يمثل تحسناً بنسبة 86.85% عن الطريقة القديمة. وحتى في أسوأ حالاتها، كانت ESSIM أفضل بكثير من أفضل تشغيل لـ PSO. تظهر الورقة أن ESSIM لم تكن مجرد ضربة حظ، بل نجحت باستمرار في تجنب الفخاخ التي وقعت فيها الخوارزمية الأخرى.

اختبار شفيفل (Schwefel Test):
حاولوا حل لغز أكثر صعوبة يسمى دالة شفيفل، حيث يختبئ أفضل مكان بالقرب من حافة الخريطة ومحاط بفخاخ مربكة.

النتيمجة: ضاعت طريقة PSO تماماً، بمتوسط خطأ قدره 181.3792، وكارثة في أسوأ حالة بلغت 889.5975.
فوز ESSIM: وجدت ESSIM الحل بدقة مذهلة، محققة خطأ قدره 0.0006. تشير الورقة إلى أن هذا يمثل مكسباً بنسبة 100% في الأداء، مما يظهر أن ESSIM يمكنها التنقل في التضاريس التي تترك الطرق الأخرى تدور في حلقات مفرغة.

الاختبار في العالم الحقيقي (GPR):
أخيراً، اختبر الفريق طريقة ESSIM في ضبط نماذج انحدار العملية الغاوسية (Gaussian Process Regression - GPR)، والتي تُستخدم للتنبؤ بأشياء مثل طاقة الرياح أو أسعار المنازل.

النتيجة: في المشكلات البسيطة مثل التنبؤ بأسعار المنازل (مجموعة بيانات مساكن بوسطن) أو سرعة الرياح، كان أداء ESSIM وPSO متقارباً تقريباً. وهذا منطقي لأن المشكلات البسيطة لا تحتوي على الكثير من الفخاخ.
اللمسة الدقيقة: ومع ذلك، في مشكلة موجة جيبية (sine-wave) اصطناعية معقدة، كانت ESSIM أكثر استقراراً وقدمت تنبؤات أفضل. تشير الورقة إلى أن نهج "السحابة الضبابية" في ESSIM يستغرق وقتاً أطول للتقارب في المهام البسيطة لأنه يقضي وقتاً في الاستكشاف، لكن هذا الحذر الإضافي يؤتي ثماره بشكل هائل عندما تكون المشكلة معقدة ومليئة بالفخاخ.

المقايضة

توضح الورقة بوضوح وجود عقبة رئيسية واحدة: الوقت. نظرًا لأن ESSIM تقضي وقتاً أطول في الاستكشاف وحساب الاحتمالات، فإنها تستغرق وقتاً أطول في التشغيل مقارنة بطريقة PSO السريعة والمندفعة. يعترف المؤلفون أنه بالنسبة للمشكلات البسيطة، لا تزال الطريقة القديمة جيدة. ولكن بالنسبة للمشكلات الواقعية المعقدة والفوضوية حيث يمثل الوقوع في الفخ خطراً حقيقياً، توفر ESSIM بديلاً قوياً.

في النهاية، تقترح الورقة أنه من خلال منح حواسيبنا "عقولاً" تفهم عدم اليقين — من خلال السماح لها بأن تكون غير متأكدة قليلاً والحفاظ على شبكة واسعة من الاحتمالات — يمكننا حل مشكلات كانت في السابق أصعب من أن تُحل. إنه تذكير بأنه في البحث عن الإجابة المثالية، قد تكون الاستراتيجية الأفضل أحياناً هي إبقاء خياراتك مفتوحة.

ملخص تقني: ESSIM – خوارزمية تحسين سرب احتمالية تعتمد على الاستدلال الإحصائي البايزي والبحث الموجه باليقين

1. بيان المشكلة

تعد خوارزمية تحسين سرب الجسيمات (PSO) طريقة تحسين عشوائية مستخدمة على نطاق واسع، مستوحاة من السلوك الجماعي للحيوانات. ومع ذلك، تعاني خوارمايزم PSO الكلاسيكية من قيود محددة، لا سيما في بيئات التحسين متعددة الأنماط (multimodal) والمعقدة. وتتمثل المشكلة الرئيسية في التقارب المبكر: حيث تؤدي تضاريس الخوارزمية، التي تجذب جميع الجسيمات نحو موضع واحد هو الأفضل عالميًا ( $g_{best}$ )، إلى تقليل تنوع السرب بسرعة. ويتسبب هذا في وقوع السرب في فخ النهايات الصغرى المحلية (local minima)، مما يؤدي إلى الفشل في استكشاف فضاء الحلول الأوسع بفعالية.

بينما توجد متغيرات مختلفة من PSO، يرى المؤلفون أن الاعتماد الأساسي على المواقع والسرعات الحتمية (deterministic)، مقترنًا بضبط المعلمات التجريبي (مثل القصور الذاتي ومعاملات التسارع)، يحد من قدرة الخوارزمية على الموازنة الطبيعية بين الاستكشاف (البحث في مناطق جديدة) والاستغلال (تحسين المناطق الجيدة المعروفة). وتقترح الورقة إطار عمل يعيد صياغة عملية التحسين من منظور بايزي (Bayesian perspective) لمعالجة مشكلات المتانة هذه.

2. المنهجية: إطار عمل ESSIM

قدم المؤلفون ESSIM (طريقة الاستدلال الإحصائي لسرب المجموعة)، وهي خوارزمية تحسين سرب احتمالية. وخلافًا لـ PSO، حيث تكون الجسيمات نقاطًا حتمية، يقوم ESSIM بنمذجة كل جسيم كـ توزيع احتمالي غاوسي متعدد المتغيرات يتميز بمتجه متوسط ( $\mu_i$ ) ومصفوفة تغاير ( $\Sigma_i$ ).

الآليات الجوهرية

التمثيل الاحتمالي:
- يمثل كل جسيم $i$ اعتقادًا حول الأمثل: $\theta_i \sim \mathcal{N}(\mu_i, \Sigma_i)$ .
- يمثل المتوسط $\mu_i$ التقدير الحالي للأمثل، بينما يقيس التغاير $\Sigma_i$ مدى اليقين في هذا التقدير.
- يتم توليد الحلول المرشحة عن طريق أخذ عينات من هذه التوزيعات: $x_i \sim \mathcal{N}(\mu_i, \Sigma_i)$ .
الاعتقاد الجماعي القائم على النخبة:
- بعد تقييم دالة الهدف $J(x_i)$ ، يتم اختيار الجسيمات الأفضل أداءً لتشكيل مجموعة النخبة ( $\mathcal{E}$ ).
- بدلاً من الاعتماد على أفضل حل عالمي واحد، يقوم ESSIM بنمذجة مجموعة النخبة كتوزيع غاوسي جماعي $\mathcal{N}(\mu_E, \Sigma_E)$ .
- يتم تقدير معالم هذا الاعتقاد الجماعي باستخدام متوسط مرجح، حيث تتناسب الأوزان عكسيًا مع قيم دالة الهدف (الحلول الأفضل تتلقى أوزانًا أعلى).
الدمج البايزي (مستوحى من مرشح كالمان):
- تقوم الجسيمات بتحديث معتقداتها الفردية عبر دمج حالتها الحالية مع اعتقاد النخبة الجماعي.
- يحاكي هذا التحديث آلية مرشح كالمان (Kalman filter):
  - كسب كالمان ( $K_i$ ): يُحسب بناءً على نسبة عدم يقين الجسيم إلى مجموع عدم يقين الجسيم وعدم يقين النخبة.
  - تحديث المتوسط: $\mu_i \leftarrow \mu_i + K_i(\mu_E - \mu_i)$ .
  - تحديث التغاير: $\Sigma_i \leftarrow (I - K_i)\Sigma_i$ .
- تسمح هذه العملية للجسيمات بدمج المعرفة الجماعية مع الاحتفاظ ببنيتها الاحتمالية الفردية.
الاستكشاف الموجه باليقين:
- لمنع مصفوفات التغاير من الانهيار إلى الصفر (مما قد يوقف الاستكشاف)، يقدم ESSIM ضجيج عملية تكيفي (adaptive process noise).
- في كل تكرار، يتم إضافة حد ضجيج $\eta_t I$ إلى التغاير: $\Sigma_i \leftarrow \Sigma_i + \eta_t I$ .
- يتبع الضجيج $\eta_t$ جدول تبريد (annealing schedule): يبدأ مرتفعًا لتشجيع الاستكشاف الواسع ثم ينخفض بمرور الوقت لإعطاء الأولوية للاستغلال الدقيق، لكنه لا ينخفض أبدًا دون حد أدنى ( $\eta_{min}$ ).
- تضمن هذه الآلية الحفاظ على التنوع طوال عملية التحسين، مما يسمح للسرب بالهروب من النهايات الصغرى المحلية.

3. المساهمات الرئيسية

تحدد الورقة خمس مساهمات رئيسية:

الصياغة الاحتمالية: إطار عمل مبتكر حيث يتم تمثيل الجسيمات بتوزيعات غاوسية (المتوسط والتغاير) بدلاً من المواقع والسرعات الحتمية.
تحديث الاعتقاد البايزي: آلية مستوحاة من مرشح كالمان تسمح للجسيمات بدمج معتقداتها الفردية مع المعرفة الاحتمالية الجماعية المستمدة من مجموعة النخبة.
التوازن التلقائي بين الاستكشاف والاستغلال: آلية مدفوعة باليقين حيث تنظم مصفوفات التغاير ديناميكيات البحث تلقائيًا، مما يلغي الحاجة إلى ضبط معلمات القصور الذاتي أو التسارع يدويًا.
ضجيج العملية التكيفي: استراتيجية للحفاظ على تنوع الجمهرة ومنع التقارب المبكر، مصممة خصيصة للمشكلات متعددة الأنماط.
التحقق التجريبي: إثبات فعالية ESSIM في كل من الدوال المرجعية ومهام تحسين المعلمات الفائقة لعمليات انحدار العملية الغاوسية (GPR).

4. النتائج التجريبية

قيم المؤلفون خوارزمية ESSIM مقابل PSO الكلاسيكية على دالتين مرجعيتين وثلاث مسائل لتحسين المعلمات الفائقة لعمليات انحدار العملية الغاوسية (GPR).

أ. الدوال المرجعية

دالة راستريجينين (Rastidigin) ذات 15 بُعدًا: دالة عالية التعددية ذات العديد من النهايات الصغرى المحلية.
- النتائج: حققت ESSIM زيادة بنسبة 86.85% في متوسط جذر متوسط مربع الخطأ (RMSE) مقارنة بـ PSO في النطاق $[-5.12, 5.12]$ و 82.99% في النطاق $[-3, 3]$ .
- الاستقرار: أظهرت ESSIM انحرافات معيارية أقل بكثير في النتائج مقارنة بـ PSO، مما يشير إلى متانة أعلى.
- السلوك: بينما ركدت PSO بسرعة (التقارب المبكر)، استمرت ESSIM في التحسن طوال التكرارات، ونجحت في التنقل في التضاريس المعقدة.
دالة شتايبل (Schwefel) ذات 15 بُعدًا: تضاريس معقدة ذات نهاية صغرى عالمية بالقرب من الحدود.
- النتائج: حققت ESSM دقة تقارب من $10^{-4}$ مع تباين قريب من الصفر. في المقابل، أظهرت PSO عدم استقرار عالٍ (انحراف معياري قدره 354) وفشلت كثيرًا في العثور على الأمثل العالمي.
- التحسن: أظهرت ESSM تحسنًا بنسبة 100% في متوسط الأداء مقارنة بـ PSO.

ب. تحسين المعلمات الفائقة لـ GPR

تم اختبار ESSIM على ثلاث مجموعات بيانات: مجموعة بيانات جيبية اصطناعية، ومجموعة بيانات مزرعة رياح، ومجموعة بيانات مساكن بوسطن. كان الهدف هو تقليل سالب لوغاريتم الهامش (NLML).

المجموعة الاصطناعية: تفوقت ESSM على PSO من حيث متوسط الأداء، والاستقرار، وقدرة التعميم.
مجموعتا بيانات الرياح ومساكن بوسطن: حققت ESSM و PSO أداءً متماثلاً تقريبًا. ويعزو المؤلفون ذلك إلى النسبية في بساطة هذه المشكلات، حيث يكون نهج الجسيم الواحد الأفضل (single-best-particle) كافيًا.
ديناميكيات التنوع: في جميع الحالات، حافظت ESSM على انخفاض سلس ومستمر في تنوع السرب (أثر التغاير)، مما يعكس انتقالًا متوازنًا من الاستكشاف إلى الاستغلال.

5. الأهمية والادعاءات

تدعي الورقة أن ESSIM توفر بديلًا قويًا ومرنًا لـ PSO الكلاسيكية، خاصة لمشكلات التحسين المعقدة وعالية التعددية.

المقايضة: يقر المؤلفون بأن زيادة متانة ESSM تأتي على حساب أوقات حسابية أطول. نظرًا لأن الخوارزمية تحافظ على التنوع وتستكشف الفضاء بشكل أكثر شمولاً، فإنها تتطلب المزيد من التكرارات للتقارب مقارنة بالتقارب السريع (ولكن غالبًا ما يكون المبكر) لـ PSO.
القابلية للتوسع: تشير الورقة إلى أنه يمكن تخفيف هذه التكلفة الحسابية من خلال التوازي باستخدام وحدات معالجة الرسومات (GPU) أو التقريبات التباينية، مما يجعل الطريقة قابلة للتوسع.
الخلاصة: تُقدم ESSM ليس كبديل عالمي لـ PSO، بل كطريقة متفوقة للسيناريوهات التي يكون فيها تجنب النهايات الصغرى المحلية وضمان متانة الحل أكثر أهمية من سرعة التقارب الخام. إنها تستبدل الضبط التجريبي بفعالية بإطار عمل استدلال بايزي مبني على أسس علمية.