Stationary Kernels and Gaussian Processes on Lie Groups and their Homogeneous Spaces I: the compact case

إليك ملخص تقني مفصل للورقة البحثية بعنوان "الأنوية المستقرة والعمليات الغاوسية على زمر لي والفضاءات المتجانسة لها 1: الحالة المتراصة" من إعداد أزانجولوف وآخرون.

1. بيان المشكلة

تُعد العمليات الغاوسية (GPs) حجر الزاوية في تعلم الآلة لنمذجة الدوال المجهولة وتقدير عدم اليقين. ومع ذلك، فإن نماذج العمليات الغاوسية القياسية تُعرَّف عادةً على الفضاءات الإقليدية ($\mathbb{R}^n$) باستخدام أنوية مستقرة (مثل Matérn أو الأس الأسي التربيعي) تعتمد على ثبات الإزاحة.

تتطلب العديد من التطبيقات الواقعية في الفيزياء، الهندسة، الروبوتات، وعلم الأعصاب نمذجة الدوال على فضاءات غير إقليدية، وتحديداً:

• زمر لي (Lie Groups): مثل زمرة التدوير المتعامدة الخاصة $SO(n)$ أو زمرة الوحدة الخاصة $SU(n)$.
• الفضاءات المتجانسة (Homogeneous Spaces): مثل الكرات ($S^n$)، وفضاءات ستيفل ($V(k,n)$)، والفضاءات الإسقاطية ($RP^n$).

التحدي الجوهري:
إن تعريف "الاستقرار" (Stationarity) على هذه الفضاءات المنحنية ليس بالأمر الهين. فالاستبدال الساذج للمسافة الإقليدية بالمسافة الجيوديسية في الأنوية القياسية (مثل $e^{-d(x,x')^2}$) غالباً ما يفشل في إنتاج أنوية شبه موجبة محددة (PSD)، مما يجعلها غير صالحة للعمليات الغاوسية. وتعتمد النهج الحالية غالباً على:

1. المعادلات التفاضلية الجزئية العشوائية (SPDEs): والتي تتطلب حل مسائل معقدة للقيم الذاتية لمؤثر لابلاس-بيلتراهمي (Laplace-Beltrami).
2. الاستدلالات التجريبية (Heuristics): التي تفتقر إلى أساس نظري رصين.

تهدف الورقة إلى تطوير تقنيات بنائية، عملية، وسليمة نظرياً لبناء عمليات غاوسية مستقرة على زمر لي المتراصة وفضاءاتها المتجانسة، مما يتيح التعلم البايزي الدقيق أو التقريبي مع ضمان أن تكون الأنوية شبه موجبة محددة.

2. المنهجية

يربط المؤلفون بين نظرية التمثيل (تحديداً لزمر لي المتراصة) ونظرية العمليات الغاوسية. ويقومون بتعميم مبرهنة بوخنر (Bochner's Theorem) -التي تربط الأنوية المستقرة بالتدابير الطيفية في الفضاء الإقليدي- لتشمل الأطر غير الإقليدية باستخدام تناظر الزمرة.

أ. الإطار النظري

• تعريف الاستقرار: تكون النوا (kernel) $k$ مستقرة إذا كانت ثابتة تحت تأثير الزمرة: $k(g \triangleright x, g \triangleright x') = k(x, x')$.
• زمر لي ($G$): يوضح المؤلفون أن النوا المستقرة على زمرة لي متراصة هي عبارة عن تركيب خطي لـ السمات ($\chi_\lambda$) للتمثيلات الوحدوية غير القابلة للاختزال:
  $$k(g_1, g_2) = \sum_{\lambda \in \Lambda} a(\lambda) \text{Re}(\chi_\lambda(g_2^{-1} g_1))$$
  حيث $\Lambda$ هي مجموعة التمثيلات غير القابلة للاختزال، و $a(\lambda) \geq 0$ هي المعاملات الطيفية.
• الفضاءات المتجانسة ($G/H$): بالنسبة للفضاءات مثل الكرات أو المستويات الإسقاطية، يتم التعبير عن النوا باستخدام الدوال الكروية المناطقية ($\pi_{jk}^{(\lambda)}$)، وهي معاملات مصفوفة محددة من تمثيلات الزمرة التي تظل ثابتة على المجموعات المترابطة (cosets):
  $$k(g_1 H, g_2 H) = \sum_{\lambda \in \Lambda} \sum_{j,k=1}^{r_\lambda} a_{jk}^{(\lambda)} \text{Re}(\pi_{jk}^{(\lambda)}(g_2^{-1} g_1))$$

ب. التقنيات الحسابية

لجعل هذه الصيغ المجردة عملية، طور المؤلفون ثلاث بدائيات خوارزمية:

1. تعداد التمثيلات:

   • يستخدمون نظرية الوزن الأعلى (Highest Weight Theory) لربط التمثيلات غير القابلة للاختزال بأزواج من الأعداد الصحيحة تسمى التوقيعات ($\Lambda \subset \mathbb{Z}^m$).
   • يسمح هذا بالعد المنهجي واختزال السلسلة اللانهائية المطلوبة لتقييم النوا.

2. تقييم النوا عند نقاط محددة:

   • زمر لي: يستخدمون صيغة ويل للسمات (Weyl Character Formula) لحساب السمات $\chi_\lambda(g)$ كنسب من كثيرات الحدود (أو المحددات) للقيم الذاتية لـ $g$. وهذا يتيح تقييماً فعالاً وقابلاً للاشتقاق.
   • الفضاءات المتجانسة: يقدمون تقنية الجمع الدوري المعمم. إذا كانت النوا على الزمرة $G$ معروفة، فإن النوا على $G/H$ يتم الحصول عليها عبر متوسط النوا الخاصة بالزمرة بالنسبة للزمرة الفرعية $H$ (باستخدام مقياس هاار). وهذا يتجنب اشتقاق الدوال الكروية المعقدة لكل منوع هندسي على حدة.

3. أخذ العينات بكفاءة (ميزات الطور العشوائي المعممة):

   • بدلاً من حل المعادلات التفاضلية الجزئية أو حساب التفكيك الكامل للقيم الذاتية، يقترحون طريقة أخذ عينات مونت كارلو.
   • يقومون ببناء خرائط ميزات عشوائية باستخدام السمات (بالنسبة للزمر) أو الدوال الكروية المناطقية (بالنسبة للفضاءات المتجانسة) مدمجة مع أطوار عشوائية وعينات عشوائية من مقياس هاار.
   • يتيح ذلك أخذ عينات من التوزيع القبلي والبعدي للعمليات الغاوسية في زمن قدره $O(L \cdot S)$ (حيث $L$ هو رتبة الاختزال و $S$ هو عدد عينات مونت كارلو)، متجاوزين تكلفة $O(N^3)$ المعتادة في استدلال العمليات الغاوسية القياسية للبيانات الضخمة.

ج. فئات الأنوية المحددة

يستنتج المؤلفون معاملات طيفية صريحة $a(\lambda)$ لعائلتين رئيسيتين من الأنوية:

• أنوية الحرارة (Heat Kernels): تُعرف كحل أساسي لمعادلة الحرارة على المنوع. وهي تقابل نوا الأس الأسي التربيعي في الفضاء الإقليدي.
• أنوية ماتيرن (Matérn Kernels): تُعرف عبر تحويل تكاملي لنوا الحرارة (على غرار الحالة الإقليدية). ويستنتجون تعبيرات مغلقة للمعاملات $a(\lambda)$ بناءً على القيم الذاتية لمؤثر لابلاس-بيلتراهمي، والتي يمكن حسابها صراحةً عبر نظرية التمثيل (صيغة فرودنتال).

3. المساهمات الرئيسية

1. النظرية البنائية: تقديم توصيف دقيق وبنائي للعمليات الغاوسية المستقرة على زمر لي المتراصة والفضاءات المتجانسة باستخدام نظرية التمثيل، مما يعمم مبرهنة بوخنر.
2. البدائيات الخوارزمية: تطوير خوارزميات عملية لـ:
   • تقييم الأنوية عند النقاط مع دعم الاشتقاق التلقائي.
   • أخذ عينات فعالة من المسارات القبلية والبعدية دون الحاجة لحل المعادلات التفاضلية الجزئية.
   • حساب قواعد كارلون-لوف (Karhunen-Loève).
3. صيغ صريحة للأنوية: استنتاج معاملات طيفية دقيقة لأنوية الحرارة وماتيرن على هذه الفضاءات، مما يضمن كونها شبه موجة محددة من حيث البناء.
4. الجمع الدوري المعمم: تقديم تقنية لحساب الأنوية على الفضاءات المتجانسة عبر متوسط أنوية الزمرة، مما يبسط التنفيذ للمناوعات المعقدة.
5. التنفيذ البرمجي: المساهمة بهذه الطرق في مكتبة GeometricKernels، مما يجعل هذه النماذج متاحة للممارسين.

4. النتائج

تتحقق الورقة من المنهجية من خلال التحليل النظري والتجارب التجريبية:

• تحليل الخطأ الناتج عن الاختزال: ينخفض الخطأ بسرعة (بشكل متعدد الحدود لأنوية ماتيرن، وبشكل فائق السرعة لأنوية الحرارة) مع زيادة عدد التمثيلات (التوقيعات). هذا التقارب أسرع من توسيعات ميزات فوريه القياسية للمناوع بسبب تجميع الدوال الذاتية في سمات.
• خطأ أخذ العينات: يتقارب أخذ عينات مونت كارلو (الطور العشوائي المعمم) بمعدل $O(1/\sqrt{S})$ القياسي.
• التقييم التجريبي:
  • أُجريت التجارب على $SO(3)$ و $SO(5)$ وفضاءات ستيفل $V(k, 5)$.
  • تظهر النتائج أن عدداً قليلاً من الحدود (عشرات التوقيعات) كافٍ لتقريب النوا النهائي بدقة.
  • نجحت الطرق المقترحة في توليد عينات صالحة للعمليات الغاوسية وأداء مهام الانحدار (مثل المستوى الإسقاطي الحقيقي $RP^2$ والكرات) مع تقدير مناسب لعدم اليقين.
• القابلية للاشتقاق: أُثبت أن أنوية ماتيرن المستنتجة تمتلك نفس خصائص النعومة (انتظام فضاء سوبولف) كما نظيراتها الإقليدية.

5. الأهمية

• الربط بين النظرية والتطبيق: ينقل هذا العمل العمليات الغاوسية غير الإقليدية من التجريدات النظرية إلى أدوات عملية، مستبدلاً الاستدلالات "الصندوق الأسود" بطرق قائمة على أسس رياضية قابلة للحساب.
• القابلية للتوسع: من خلال تجنب الحاجة لحساب الأزواج الكاملة للقيم الذاتية لمؤثر لابلاس-بيلتراهمي (والذي غالباً ما يكون مستعصياً للمناوع المعقدة) واستخدام سمات نظرية التمثيل بدلاً منها، تتوسع الطريقة بكفاءة.
• اتساع نطاق التطبيق: يغطي الإطار فئة واسعة من الفضاءات ذات الصلة بالذكاء الاصطناعي والعلوم الحديثة، بما في ذلك زمر الدوران (الروبوتات)، الكرات (علم الكونيات)، والفضاءات الإسقاطية (رؤية الحاسوب).
• أساس للأعمال المستقبلية: هذا هو الجزء الأول من سلسلة مكونة من جزئين. الجزء الثاني يوسع هذه التقنيات لتشمل الفضاءات المتناظرة غير المتراصة (مثل الفضاءات الهيبربولية ومصفوفات SPD)، مما يوسع آفاق التعلم الهندسي.

باختصار، توفر الورقة إطاراً موحداً، فعالاً حسابياً، وصارماً نظرياً لتطبيق العمليات الغاوسية المستقرة على الفضاءات المتناظرة المتراصة، مستفيدة من الارتباط العميق بين نظرية تمثيل الزمر والتحليل الطيفي للمناوع.