Scalable Gaussian Process Regression via Deterministic Trigonometric Features: Uniform Bounds for Safe Model Predictive Control
تقدم هذه الورقة إطار عمل "عملية غاوس للميزات المثلثية الحتمية" (DTF-GP) القابل للتوسع، والذي يتيح حدود عدم يقين موحدة ذات احتمالية عالية للتحكم التنبئي بالنماذج القائم على التعلم الآمن، محققاً ضمانات السلامة لعمليات غاوس الكاملة مع تحسين الكفاءة الحسابية بشكل كبير في أنظمة البيانات الضخمة.
المؤلفون الأصليون:Julius Jagdt, Johanna Menn, Sebastian Trimpe, Melanie N. Zeilinger, Anna Scampicchio
تخيل ذراعًا آلية تقوم بتجميع إلكترونيات دقيقة أو سيارة ذاتية القيادة تتنقل في شارع مزدحم بالمدينة. لكي تعمل هذه الآلات بأمان، يجب عليها أن تتنبأ باستمرار بما سيحدث بعد ذلك. وهي تعتمد على نماذج رياضية — نسخ مبسطة من الواقع — لتخمين كيف ستتغير حركتها بناءً على موقعها. لكن الحياة الواقعية فوضوية؛ فالاحتكاك والرياح وتآكل الأجزاء تعني أن هذه النماذج ليست مثالية أبدًا. إذا اعتمد الروبوت على تخمين معيب، فقد يضغط بقوة زائدة، أو يكسر قطعة، أو يصطدم. وللبقاء في أمان، يستخدم المهندسون استراتيجية تسمى "التحكم التنبئي بالنموذج" (Model Predictive Control). هذه الطريقة تعيد حساب أفضل مسار للأمام باستمرار، وتتحقق من كل خطوة مقابل قواعد سلامة صارمة. ومع ذلك، فإن شبكة الأمان هذه لا تعمل إلا إذا عرف الروبوت مقدار ما لا يعرفه؛ إذ يحتاج إلى فهم حدود توقعاته الخاصة.
لسنوات، استخدم العلماء أداة إحصائية قوية تسمى "العملية الغاوسية" (Gaussian process) لسد الفجوات في هذه النماذج غير المثالية. فكر في العملية الغاوسية كرسام خرائط حذر للغاية وذكي للغاية. فبدلاً من مجرد رسم خط واحد لإظهار المسار الذي سيسلكه الروبوت، ترسم حزمة ضبابية واسعة تمثل جميع الأماكن المحتملة التي يمكن أن ينتهي إليها الروبوت. وكلما زاد عرض الحزمة، زاد عدم اليقين لدى الروبوت. وهذا اليقين أمر بالغ الأهمية للسلامة: فإذا أصبحت الحزمة واسعة جدًا، يعرف الروبوت أنه يجب عليه الإبطاء أو التوقف. المشكلة هي أنه كلما جمع الروبوت المزيد والمزيد من البيانات للتعلم منها، يصبح أداة رسم الخرائط هذه بطيئة للغاية. الأمر يشبه محاولة حل لغز ضخم حيث تتطلب كل قطعة جديدة منك إعادة حل الصورة بأكملها من البالبداية. بالنسبة لمجموعات البيانات الكبيرة، لا يستطيع الكمبيوتر مواكبة الأمر ببساطة، مما يجبر المهندسين على الاختيار بين نظام آمن وبطيء أو نظام سريع وغير آمن.
لقد وجد فريق من الباحثين من جامعات في ألمانيا وسويسرا والسويد طريقة لكسر هذا المأزق. فقد طوروا طريقة جديدة تحافظ على ضمانات السلامة لرسام الخرائط البطيء والمثالي، ولكنها تعمل بسرعة الرسم السريع والبسيط. يعتمد نهجهم، الذي يسمون فيه "العملية الغاوسية الميزة المثلثية الحتمية" (deterministic trigonometric feature Gaussian process)، على استبدال الحسابات الثقيلة والمعقدة بتقريب ذكي باستخدام الموجات. فبدلاً من محاولة حساب كل نتيجة محتملة في وقت واحد، يقوم الأسلوب الجديد بتفكيك المشكلة إلى مجموعة ثابتة من الأنماط الموجية. ومن خلال اختيار هذه الأنماط بطريقة محددة وغير عشوائية، أثبت الباحثون أن الخريطة الناتجة لا تقل موثوقية عن النسخة الأصلية البطيئة. لقد أظهروا أن هذه الأداة الجديدة يمكنها توفير نفس تحذيرات السلامة عالية الثقة التي يوفرها النظام الكامل، ولكن دون التكلفة الحسابية الساحقة.
اختبر الباحثون فكرتهم على نموذج "البندول المعكوس" المحاكى، وهو مشكلة تحكم كلاسيكية حيث يجب على الروبوت موازنة عمود فوق عربة متحركة. وفي تجاربهم، قارنوا طريقتهم الجديدة بالنهج التقليدي البطيء. ووجدوا أن كلا الطريقتين استكشفتا البيئة بمهارة متساوية، وتعلمتا نفس القدر من الأخطاء الخفية في النظام. كما كانت الطريقة الجديدة جيدة بنفس القدر في إيجاد المسارات الأكثر أمانًا وكفاءة. ومع ذلك، كان الفرق في السرعة دراماتيكيًا؛ فمع نمو كمية البيانات، تباطأت الطريقة التقلية بشكل كبير، وعانت لمواكبة حجم المعلومات. وفي المقابل، حافظت الطريقة الجديدة على وتيرة ثابتة بغض النظر عن كمية البيانات التي تعالجها، حيث تعاملت مع مجموعات البيانات الكبيرة بسهولة، مما أثبت أنه من الممكن الحصول على كل من السلامة العالية والسرعة العالية معًا.
هذا العمل مهم لأنه يزيل حاجزًا رئيسيًا أمام استخدام أنظمة التعلم المتقدمة في العالم الحقيقي. سابقًا، كان على المهندسين الحد من كمية البيانات التي يمكن للروبوتات تعلمها للحفاظ على عمل النظام في الوقت الفعلي. أما الآن، فيمكنهم تغذية النظام بكميات هائلة من البيانات لجعله أكثر ذكاءً وأمانًا، دون القلق من توقف الكمبيوتر عن العمل. لقد أثبت الباحثون أن إطار عملهم الجديد يمكن دمجه في الأنظمة الحساسة للسلامة، مما يضمن عدم اتخاذ الروبوت لمخاطرة لا يمكنه حسابها. ومن خلال تحويل عملية حسابية ثقيلة وبطيئة إلى عملية سريعة وفعالة، فتحوا الباب أمام أنظمة ذاتية القيادة أكثر قوة وموثوقية يمكنها التعلم المستمر مع البقاء بأمان ضمن حدودها.
ملخص تقني: انحدار العمليات الغاوسية القابل للتوسع عبر الميزات المثلثية الحتمية
بيان المشكلة يوفر التحكم التنبئي بالنماذج (MPC) القائم على التعلم، والذي يستخدم العمليات الغاوسية (GPs)، نهجاً قوياً للتحكم في الأنظمة الديناميكية ذات الديناميكيات المجهولة وعدم التطابق في النماذج. ويعد توفر حدود عدم اليقين التي تظل صالحة عبر كامل نطاق الحالة والمدخلات متطلباً حرجاً لضمان السلامة في أطر التحكم التنبئي بالنماذج العشوائية هذه. وبينما تم اشتقاق حدود عدم يقين موحدة لنموذج الانحدار الغاوسي الدقيق (الكامل)، فإن التكلفة الحسابية للاستدلال الدقيق تتناسب طردياً مع مكعب عدد نقاط البيانات (O(N3)). هذا التوسع الضعيف يجعل انحدار العمليات الغاوسية الكامل غير عملي في حالات البيانات الضخمة. وتفشل طرق تقريب العمليات الغاوسية القابلة للتوسع الموجودة حالياً — مثل طرق المتغيرات المستحثة، أو طرق مجموعة البيانات الفرعية، أو طرق الميزات العشوائية (مثل ميزات فورييه العشوائية) — في توفير حدود عدم اليقين الموحدة اللازمة للتحكم الحرج من حيث السلامة. وبناءً على ذلك، توجد فجوة بين الحاجة إلى استدلال قابل للتوسع والمتطلبات الصارمة لضمانات السلامة الموحدة.
المنهجية يقترح المؤلفون عملية غاوسية للميزات المثلثية الحتمية (DTF-GP)، وهي إطار عمل قابل للتوسع يقلل من انحدار العمليات الغاوسية إلى انحدار خطي بايزي في فضاء ميزات ذي أبعاد محدودة مع الاحتفاظ بالقدرة على اشتقاق حدود عدم يقين موحدة.
تقريب النواة في أبعاد محدودة: تقوم الطريقة بتقريب النوى المستقرة باستخدام مجموعة محدودة من الميزات المثلثية الحتمية. وبالاستفادة من نظرية بوخر (Bochner's theorem)، يتم تمثيل النواة المستقرة كتراكب مستمر للدوال المثلثية الأساسية الموزونة بالكثافة الطيفية. يقوم نظام DTF-GP بتقريب هذا التكامل عن طريق اختيار الترددات من شبكة منتظمة المسافات وثابتة.
الاختيار الحتمي: على عكس ميزات فورييه العشوائية، التي تعين الترددات عشوائياً، يقوم نظام DTF-GP باختيار الترددات بشكل حتمي.
البارامترية الطيفية: بالنسبة لنواة القيم المربعة الأسية (RBF)، يتم تحديد الأوزان الطيفية لتعكس التلاشي الأسي للكثافة الطيفية الحقيقية.
تقليم الترددات: يتم الاحتفاظ بالترددات ضمن منطقة إهليلجية في الفضاء الترددي، والتي يتم تحديدها بواسطة نصف قطر التقليم. يضمن ذلك الحفاظ على المكونات الطيفية الأكثر أهمية مع استبعاد الكتلة الضئيلة.
اشتقاق حد عدم اليقين الموحد: المساهمة النظرية الجوهرية هي اشتقاق حد عدم يقين موحد عالي الاحتمالية لـ DTF-GP.
يقوم الحد بتفكيك الخطأ الإجمالي إلى حد ضجيج (يتم التعامل معه عبر تراكيز ذاتية المعايرة) وحد تقريب.
يتم تحليل حد التقريب باستخدام مؤثر إسقاط متعامد يربط الدالة المجهولة من فضاء هيلبرت التكاثري (RKHS) المستحث بواسطة النواة الحقيقية إلى فضاء RKHS ذي الأبعاد المحدودة المستحث بواسطة نواة DTF.
يأخذ الحد في الاعتبار صراحةً خطأ الإسقاط (الفرق بين الدالة الحقيقية وإسقاطها على فضاء الميزات المحدود).
بالنسبة لنواة RBF، يشتق المؤلفون حداً علوياً مغلق الصيغة لخطأ الإسقاط هذا، والذي يعتمد على معيار RKHS للدالة، ومعلمات التلاشي الطيفي، ونصف قطر التقليم.
التكامل في التحكم التنبئي بالنماذج الآمن (Safe MPC): يتم دمج DTF-GP في إطار عمل SafeMPC. يُستخدم حد عدم اليقين الموحد المشتق لنشر مجموعات عدم اليقين عبر أفق التنبؤ. ومن خلال ضمان وقوع خطأ النموذج الحقيقي ضمن هذه الحدود باحتمالية عالية، يمكن للمتحكم فرض قيود الحالة والمدخلات، مما يضمن الاستكشاف الآمن.
المساهمات الرئيسية
صياغة DTF-GP: يصيغ البحث إطار عمل عمليات غاوسية قابلاً للتوسع باستخدام ميزات مثلثية حتمية مختارة من شبكة ترددات منتظمة، مما يحول الاستدلال إلى انحدار خطي بايزي.
حدود عدم اليقين الموحدة: يشتق المؤلفون حداً موحداً لعدم اليقين عالي الاحتمالية لـ DTF-GP. ومن المهم أنهم يقدمون خطأ إسقاط صريح ومغلق الصيغة لحالة نواة RBF، مما يضمن أن حد الثقة الناتج يعتمد على نفس الافتراضات مثل حدود العمليات الغاوسية الكاملة (معيار RKHS، الضجيج تحت الغاوسي، والكميات البعدية).
التعلم الآمن القائم على التحكم: تم دمج الإطار بنجاح في مخطط تحكم تنبئي بالنماذج (MPC) قائم على التعلم، مما يسمح باستكشاف آمن مع ضمانات سلامة عالية الاحتمالية في أنظمة البيانات الضخمة حيث يكون الاستدلال الكامل للعمليات الغاوسية غير ممكن حسابياً.
النتائج تم تقييم النهج المقترح في مشكلة تحكم البندول المعكوس غير الخطي.
أداء الاستكشاف: في سيناريوهات الاستكشاف الديناميكي، حقق DTF-GP معلومات متبادلة تراكمية (مقياس لكفاءة الاستكشاف) مماثلة للعملية الغاوسية الكاملة عبر أحجام مجموعات بيانات مختلفة. يشير هذا إلى أن التقريب ذي الأبعاد المحدودة لا يقلل بشكل كبير من القدرة على تعلم ديناميكيات النظام عندما يتم اختيار نصف قطر التقليم لتلبية هدف خطأ إسقاط محدد.
الكفاءة الحسابية: أظهر DTF-GP ميزة حسابية كبيرة في سيناريوهات البيانات الضخمة. بينما يتوسع حساب العملية الغاوسية الكاملة مع عدد نقاط البيانات (O(N2) للتحديثات، O(N3) لتقييم الإمكانية)، يتوسع DTF-GP مع عدد الميزات (M)، وهو أمر مستقل عن حجم مجموعة البيانات بمجرد ضبط التقليم.
في تجارب الاستكشاف الساكن، أظهر DTF-GP اعتماداً ضئيلاً جداً على عدد العينات الأولية، بينما زاد وقت تشغيل العملية الغاوسية الكاملة بشكل ملحوظ.
حافظ DTF-GP على أداء استكشاف مماثل للعملية الغاوسية الكاملة مع تقديم تكاليف حسابية أقل، وهو أمر مفيد بشكل خاص في الإعدادات الغنية بالضجيج أو التي تتطلب مستويات ثقة عالية والتي تستلزم مجموعات بيانات كبيرة.
الأهمية والادعاءات يدعي البحث سد الفجوة بين انحدار العمليات الغاوسية القابل للتوسع والمتطلبات الصارمة للسلامة في التحكم القائم على التعلم. من خلال توفير إطار عمل قابل للتوسع يسمح باشتقاق حدود عدم يقين موحدة، يتيح DTF-GP نشر متحكمات تعلم آمنة في السيناريوهات ذات مجموعات البيانات الكبيرة حيث يكون الاستدلال الدقيق للعمليات الغاوسية غير عملي. ويؤكد المؤلفون أن طريقتهم تحتفظ بضمانات السلامة النظرية للعمليات الغاوسية الكاملة (الحدود الموحدة عالية الاحتمالية) مع تقديم قابلية حسابية للتقريبات ذات الأبعاد المحدودة. ويُقدم هذا العمل كخطوة نحو جعل التحكم الآمن القائم على البيانات ممكناً للأنظمة المعقدة ذات عدم التطابق الكبير في النماذج وتوافر البيانات الضخمة.