gp2Scale: A Class of Compactly Supported Non-Stationary Kernels and Distributed Computing for Exact Gaussian Processes on 10 Million Data Points

تخيل أنك تحاول التنبؤ بالطقس، أو سعر منزل، أو مسار روبوت، ولكن لديك كمية هائلة من البيانات — ملايين النقاط. في عالم علم البيانات، هناك أداة قوية تسمى العملية الغاوسية (Gaussian Process - GP). فكر في العملية الغاوسية كأنها ورقة مطاطية ذكية ومرنة للغاية. تقوم بوخز هذه الورقة عند نقاط محددة حيث لديك بيانات حقيقية (مثل قراءات درجة الحرارة أو أسعار المنازل)، فتمتد الورقة وتنثني لتناسب تلك النقاط تماماً. ولأنها أداه "احتمالية"، فهي لا تكتفي بتخمين رقم واحد فقط؛ بل ترسم سحابة من الأشكال المحتملة حول البيانات، لتخبرك ليس فقط ما هو الجواب، بل مدى تأكدها منه. هذا "الارتياب" (Uncertainty) أمر بالغ الأهمية للعلماء الذين يتخذون قرارات كبرى، مثل تصميم دواء جديد أو التنبؤ بتغير المناخ.

ومع ذلك، هناك عقبة. لفترة طويلة، كانت أداة الورقة المطاطية هذه بطيئة جداً وتستهلك الذاكرة بشكل هائل. إذا كان لديك بضعة آلاف من نقاط البيانات، فإنها تعمل بشكل رائع. ولكن إذا حاولت مد هذه الورقة فوق ملايين النقاط، فإن الرياضيات تنفجر. الأمر يشبه محاولة حساب الروابط بين كل شخص في مدينة يسكنها 10 ملايين نسمة في وقت واحد؛ حيث ينفد من الكمبيوتر الذاكرة ويتوقف عن العمل. ولحل هذه المشكلة، اضطر معظم العلماء لاستخدام "التقريبات" — وهي ببسابطة نسخة أرخص وأقل دقة من الورقة المطاطية تتجاهل بعض التفاصيل الدقيقة لتوفير الوقت. لكن هذا يعني فقدان الميزة التي تجعل هذه الأداة مميزة: قدرتها على أن تكون دقيقة تماماً وقابلة للتخصيص بشكل عالٍ.

وهنا يأتي دور دراسة جديدة تقترح طريقة لجعل الورقة المطاطية الأصلية والمثالية تعمل على مجموعات البيانات الضخمة دون استنزاف الموارد. قدم الباحثون، بقيادة ماركوس م. نوك (Marcus M. Noack) وزملاؤه، طريقة أطلقوا عليها اسم gp2Scale. فكرتهم الكبرى هي أن المشكلة ليست في البيانات نفسها، بل في "القواعد" التي نستخدمها لمد الورقة المطاطية. تقليدياً، تفترض هذه القواعد أن كل نقطة متصلة بكل نقطة أخرى، مما يخلق شبكة كثيفة وثقيلة من الرياضيات. وقد أدرك الفريق أنه إذا غيروا القواعد لتصبح "غير مستقرة" (Non-stationary) (بمعنى أن القواعد يمكن أن تتغير اعتماداً على مكان وجودك) و"مدعومة بشكل مدمج" (Compactly supported) (بمعنى أن الروابط يتم تحديدها بواسطة البيانات نفسها)، فإن الشبكة الضخمة ستتحول فجأة إلى هيكل عظمي خفيف الوزن.

باستخدام هذه القواعد الجديدة المرنة، تمكن الباحثون من تشغيل عملية غاوسية دقيقة على 10 ملايين نقطة بيانات. لم يغشوا باستخدام طرق مختصرة أو تقريبات؛ بل جعلوا الرياضيات ذكية بما يكفي لإدراك أن معظم الروابط لا تحتاج إلى حساب. لقد اختبروا ذلك على كل شيء، بدءاً من الخطوط المتعرجة أحادية البعد وصولاً إلى خرائط درجات الحرارة ثلاثية الأبعاد عبر الولايات المتحدة بأكملة. وتظهر النتائج أنه بينما تتطلب طريقتهم قوة حوسبة أكبر من طرق "الغش"، إلا أنها تقدم دقة أفضل بكثير وتحافظ على القدرة على التخصيص لأي مشكلة محددة. الأمر يشبه الترقية من رسم تخطيطي إلى صورة عالية الدقة: يستغرق المعالجة وقتاً أطلاً، لكن التفاصيل حقيقية، ولا تضطر للتخمين فيما يوجد في الظلال.

المشكلة الجوهرية: الشبكة "الكثيفة"

لفهم سبب أهمية هذا الأمر، تخيل أنك تحاول رسم خريطة لشبكة الصداقة في بلدة صغيرة. إذا كان الجميع يعرف الجميع، فعليك رسم خط بين كل زوج من الناس. إذا كانت البلدة تضم 100 شخص، فهذا أمر يمكن إدارته. ولكن إذا كانت تضم 10 ملايين شخص، وكل شخص مرتبط بالآخر، فسيتعين عليك رسم 100 تريليون خط. هذا ما تفعله العمليات الغاوسية التقليدية: فهي تفترض أن كل نقطة بيانات متصلة بكل نقطة أخرى، مما يخلق مصفوفة "كثيفة" من الأرقام تفوق قدرة الحواسيب على التعامل معها.

لسنوات، كان الحل هو القول: "حسناً، دعونا نتظاهر بأن بعض الناس لا يعرفون بعضهم البعض"، أو "دعونا نختار بضعة أشخاص ممثلين لينوبوا عن المجموعة بأكملها". هذه هي طرق التقريب (مثل SVGP أو Vecchia أو SKI) التي تقارنها الورقة البحثية. إنها تعمل بسرعة، لكنها تشبه النظر إلى صورة من خلال نافذة ضبابية؛ تحصل على الفكرة العامة، لكنك تفقد الحواف الحادة والتفاصيل الدقيقة. والأسوأ من ذلك، أنها غالباً ما تجبرك على استخدام أنواع محددة وصارمة من القواعد (Kernels) التي قد لا تناسب مشكلتك المحددة.

حل gp2Scale: "القناع الذكي"

يجادل مؤلفو ورقة gp2Scale بأن الشبكة "الكثيفة" هي وهم ناتج عن قواعد سيئة. فهم يقترحون فئة جديدة من الأنوية (Kernels) (وهي القواعد الرياضية التي تحدد كيفية تمدد الورقة المطاطية). سر نجاحهم هو النواة "غير المستقرة، والمدعومة مدمجاً".

لنستخدم تشبيهاً: تخيل أنك تقوم بطلاء جدارية ضخمة.

• الطريقة القدة: تفترض أن كل ضربة فرشاة تؤثر على كل جزء آخر من الجدار. لطلاء العمل بالكامل، يجب عليك خلط الألوان لكل بوصة مربعة مقابل كل بوصة أخرى. هذا مستحيل.
• طريقة التقريب: تقرر طلاء بضعة أماكن رئيسية فقط وتخمن الباقي. إنها سريعة، لكن اللوحة تبدو ضبابية.
• طريقة gp2Scale: تستخدم "قناعاً ذكياً" يحدد أي النقاط متصلة ببعضها بناءً على البيانات نفسها. يسمح هذا القناع للكمبيوتر بتجاهل الغالبية العظمى من الحسابات غير الضرورية من خلال إنشاء بنية متفرقة، ومع ذلك فهو ذكي بما يكفي للحفاظ على العلاقات الهامة طويلة المدى بين مجموعات محددة من النقاط. هذا يحول الشبكة الضخمة من الروابط إلى هيكل عظمي خفيف الوزن لا يزال يلتقط الأنماط الأساسية للبيانات.

تقدم الورقة عدة أنواع من هذه "الأقنعة"، بما في ذلك أنوية ويندلان (Wendland kernels) (التي تعمل كحد قطع يعتمد على المسافة) وأنوية وظائف النتوء (Bump-function kernels) (التي تعمل كمفاتيح تشغيل/إيقاف للروابط). تسمح هذه الأقنعة للكمبيوتر بتجاهل الغالبية العظمى من الحسابات غير الضرورية، مما يحول مشكلة قد تستغرق وقتاً طويلاً جداً إلى مشكلة يمكن حلها عن طريق تقسيم العمل عبر آلاف الحواسيب.

التجارب: من الخطوط المتعرجة إلى 10 ملايين نقطة

لم يكتف الفريق بالرياضيات فقط؛ بل اختبروها في سيناريوهات من العالم الحقيقي ليروا مدى صمودها.

1. الخط المتعرج أحادي البعد: بدأوا بموجة بسيطة ومعقدة. وجدوا أن طرق "التقريب" قامت بتنعيم التفاصيل الحادة والمتعرجة، مما جعل المنحنى يبدو دائرياً أكثر من اللازم. ومع ذلك، حافظت gp2Scale على الحواف الحادة بدقة، مطابقة "الحقيقة الأرضية" تقريباً.
2. تضاريس الولايات المتحدة: قاموا برسم خريطة لارتفاع تضاريس الولايات المتحدة باستخدام 20,000 نقطة. ولأن المناظر الطبيعية تتغير بشكل جذري (جبال مقابل سهول منبسطة)، فإن البيانات "غير مستقرة". واجهت الطرق القياسية صعوبة، لكن gp2Scale كيفت قواعدها مع التضاريس، مما أنتج الخريطة الأكثر دقة بأقل قدر من الخطأ.
3. إسكان كاليفورنيا: حاولوا التنبؤ بأسعار المنازل في فضاء ثماني الأبعاد. هنا، كانت البيانات متفرقة (من الصعب العثور على أنماط). حتى في هذه البيئة الصعبة، أثبتت gp2Scale قوتها، متفوقة على تقريب Vecchia، ومظهرة قدرتها على التعامل مع البيانات المعقدة وعالية الأبعاد.
4. أرقام MNIST: حولوا مهمة شهيرة للتعرف على الصور (تحديد الأرقام المكتوبة بخط اليد) إلى مشكلة انحدار. تعاملت gp2Scale مع شبكات 28×28 بكسل دون أدنى مشكلة، بينما فشلت الطرق الأخرى أو تطلبت الكثير من التعديلات.
5. تحدي الـ 10 ملايين نقطة: الاختبار النهائي الكبير. أخذوا 10 ملايين قراءة لدرجة الحرارة من جميع أنحاء الولايات المتحدة. للقيام بذلك، استخدموا 1,024 من وحدات معالجة الرسومات A100 (إعداد سوبر كمبيوتر ضخم). قاموا بتشغيل النموذج لحوالي 100 تكرار. والنتي النتيجة؟ لقد تفوقوا على أفضل منافس (Vecchia) بهامش ضئيل، مما يثبت أن العملية الغاوسية "الدقيقة" يمكن بالفعل أن تتوسع لتشمل ملايين النقاط. وأشاروا إلى أن التشغيل الكامل من البداية سيستغرق حوالي أسبوع، وهو ما يماثل تدريب نماذج الذكاء الاصطناعي الكبيرة اليوم.

الحكم النهائي: الدقة مقابل السرعة

تجعل الورقة تمييزاً واضحاً: gp2Scale لا تحاول أن تكون الطريقة الأسرع. إذا كانت لديك قدرة حوسبية محدودة وتحتاج فقط إلى إجابة سريعة و"جيدة بما يكفي"، فإن طرق التقريب القديمة لا تزال هي الخيار الأفضل.

ومع ذلك، فإن gp2Scale تغير قواعد اللعبة في المواقف التي تكون فيها الدقة والمرونة أمراً غير قابل للتفاوض. إذا كنت عالماً ينمذج تغير المناخ، أو يصمم مادة جديدة، أو يدير تجربة ذاتية القيادة حيث يمكن أن يكون التخمين الخاطئ خطيراً، فلا يمكنك تحمل "النافذة الضبابية" للتقريب. أنت بحاجة إلى الرؤية عالية الدقة.

يخلص المؤلفون إلى أنه باستخدام هذه الأنوية المرنة الجديدة، يمكننا أخيراً تشغيل النسخة "الدقيقة" من العملية الغاوسية على مجموعات البيانات الضخمة. لا يتعين علينا التضحية بالقدرة على تخصيص النموذج أو دقة تقديرات الارتياب. المقايضة هي ببساطة أنك تحتاج إلى المزيد من قوة الحوسبة للقيام بذلك. ولكن كما تشير الورقة، مع صعود الحواسيب الفائقة ووحدات معالجة الرسومات القوية، فإن هذه المقايضة أصبحت شيئاً يمكننا تحمله أخيراً.

باخت_صار، تثبت gp2Scale أن رياضيات العملية الغاوسية "الدقيقة" ليست مستحيلة في الواقع؛ بل كانت تحتاج فقط إلى طريقة أذكى للنظر إلى البيانات. من خلال إدراك أن ليس كل نقطة تحتاج إلى الاتصال بكل نقطة أخرى، حولوا وحش الـ 10 ملايين نقطة إلى أداة قابلة للإدارة وعالية الدقة لمستقبل العلم.