Temporal Hyperbolic Graph Representation Learning for Scale-Free Internet Routing and Delay Prediction
تقترح الورقة البحثية إطار العمل الهجين HERMIT، الذي يجمع بين الشبكات العصبية الرسومية الزمنية الزائدية ونموذج انحدار الغابة العشوائية لنمذجة طوبولوجيا الإنترنت ذات المقياس الحر بفعالية وتحسين دقة التنبؤ بزمن الذهاب والعودة بشكل كبير مقارنة بالنماذج المرجعية الإقليدية والزائدية الحالية.
تخيل الإنترنت ليس كشبكة من الكابلات، بل كمدينة حية وعملاقة حيث تربط ملايين الطرق (مسارات البيانات) ملايين المباني (أجهزة الكمبيوتر). في كل مرة ترسل فيها رسالة، يشبه الأمر شاحنة توصيل تحاول الانتقال من النقطة (أ) إلى النقطة (ب). والوقت الذي تستغرقه تلك الشاحنة للذهاب والعودة يسمى RTT (زمن الرحلة الذهاب والإياب).
المشكلة هي أن هذه المدينة فوضوية. تظهر ازدحامات مرورية من العدم، وتفتح طرق جديدة، وبعض المسارات سريعة للغاية بينما يستغرق بعضها الآخر وقتاً طويلاً جداً. التنبؤ بدقة بالوقت الذي ستستغرقه الرحلة يشبه محاولة تخمين حالة الطقس في مدينة تتغير فيها قوانين الفيزياء كل يوم.
إليك كيف يحل بحث "HERMIT" هذا اللغز، مشروحاً ببساة:
1. المشكلة: الخريطة الخاطئة
تحاول معظم نماذج الكمبيوتر رسم خريطة لمدينة الإنترنت هذه باستخدام ورقة مسطحة ثنائية الأبعاد (الفضاء الإقليدي). لكن الإنترنت ليس مسطحاً؛ إنه يشبه شجرة ضخمة متفرعة أو هرماً ذا قاعدة ضخمة وقمة صغيرة جداً.
التشبيه: تخيل أنك تحاول رسم شجرة عائلة ضخمة على ورقة مسطحة. مع نمو العائلة، تصبح الفروع مزدحمة جداً لدرجة أنك تضطر لضغطها معاً، مما يشوه العلاقات. لكي يتسع الجميع، ستحتاج إلى ورقة ضخمة جداً.
رؤية البحث: يقول المؤلفون: "دعونا نتوقف عن استخدام الورق المسطح". بدلاً من ذلك، يستخدمون الهندسة الزائدية (Hyperbolic Geometry). فكر في هذا كشكل سرج الحصان أو رقاقة برينجلز. على رقاقة "برينجلز"، يمكنك وضع شجرة ضخمة متفرعة دون أن تصبح مزدحمة. هذا يسمح للكمبيوتر بفهم البنية "الهرمية" للإنترنت (المراكز الكبيرة التي تربط الشبكات المحلية الأصغر) بشكل أفضل بكثير مما تفعل الخرائط المسطحة.
2. الحل: إطار عمل "HERMIT"
بنى المؤلفون نموذجاً جديداً يسمى HERMIT. إنه فريق هجين من اثنين من المتخصصين يعملان معاً:
المتخصص (أ): المسافر عبر الزمن الزائدي (المُشفّر - Encoder) هذا الجزء ينظر إلى خريطة الإنترنت عبر الزمن. هو لا ينظر فقط إلى أين توجد الطرق، بل ينظر إلى كيف تتغير هذه الطرق.
اللمسة المميزة: النماذج السابقة كانت تنظر فقط إلى "العقد" (المدن). أما HERMIT فينظر أيضاً إلى "الحواف" (الطرق نفسها). إنه يهتم بالجودة المحددة لكل طريق: هل هو سريع عادةً؟ هل هو متذبذب؟ كم مرة يُستخدم؟
التشبيه: تخيل نظام GPS لا يعرف الخريطة فحسب، بل يعرف أيضاً أن "الشارع الرئيسي" عادة ما يكون رحلة سلسة، بينما "الزقاق الخلفي" مليء بالحفر. إنه يتعلم هذه التفاصيل من خلال "قراءة" تاريخ كل طريق بمفرده.
المتخصص (ب): متنبئ الطقس (الغابة العشوائية - Random Forest) بمجرد أن يقوم المتخصص (أ) بإنشاء خريطة ثلاثية الأبعاد مثالية لبنية الإنترنت، فإنه يسلم تلك الخريطة للمتخصص (ب).
المهمة: المتخصص (ب) هو "غابة عشوائية"، وهي تشبه لجنة مكونة من 120 صانع قرار مختلف (أشجار). هم ينظرون إلى الخريطة بالإضافة إلى تقارير الطقس التاريخية (أوقات المرور السابقة) لإعطاء تخمين نهائي.
لماذا ينجح الأمر: هذه "الأشجار" بارعة في التعامل مع البيانات الفوضوية وغير المتوقعة (مثل ازدحام مفاجئ يجعل الرحلة تستغرق 10 ثوانٍ بدلاً من ثانية واحدة). إنهم يجمعون بين الخريطة الهيكلية والأرقام الخام لتقديم تنبؤ آمن ودقيق للغاية.
3. التدريب: التعلم من الماضي
قام الفريق بتدريب هذا النموذج باستخدام مجموعة بيانات ضخمة: 10 سنوات من بيانات الإنترنت الحقيقية (من 2015 إلى 2024) تم جمعها من أجهزة استطلاع عبر الولايات المتحدة.
قاموا بتنظيف البيانات لإزالة المسارات المكسورة (مثل شاحنة لم تصل أبداً إلى وجهتها).
تعاملوا مع "الذيول الثقيلة" في البيانات. باللغة البسيطة: معظم الرحلات سريعة (أقل من 200 مللي ثانية)، لكن القليل منها بطيء للغاية (ثوانٍ). الرياضيات القياسية ترتبك بسبب هذه القيم المتطرفة البطيئة. يستخدم HERMIT خدعة "لوغاريتمية" خاصة لتسطيح هذه الأرقام المتطرفة حتى لا يتشتت النموذج بالتأخيرات النادرة والغريبة.
4. النتائج: من فاز بالسباق؟
اختبر المؤلفون HERMIT مقابل نماذج ذكية أخرى ووجدوا ما يلي:
توقع الروابط (تخمين الطرق الجديدة): كان HERMIT دقيقاً بشكل مذهل (أكثر من 99% دقة) في التنبؤ بالاتصالات الجديدة التي ستظهر في الإنترنت. لقد كان أفضل من النماذج السابقة لأنه اهتم بالجودة المحددة للطرق، وليس فقط بالمدن.
توقع RTT (تخمين وقت السفر): تفوق HERMIT على نموذج "الغابة العشوائية" القياسي (الذي نظر فقط إلى الأرقام السابقة دون الخريطة) بنسبة تقارب 6%.
الفوز الكبير: كان بارعاً بشكل خاص في التنبؤ بالرحلات الطويلة. فبينما ارتكبت النماذج الأخرى أخطاء فادحة عندما يكون المرور سيئاً، ظل HER_MIT ثابتاً.
الملخص
فكر في HERMIT كمدير لوجستي فائق الذكاء.
يستخدم خريطة منحنية خاصة (الفضاء الزائدي) لفهم الشكل المعقد للإنترنت.
يدرس تاريخ كل طريق بمفرده (ميزات الحافة) ليعرف أي منها موثوق.
يسلم هذه المعرفة إلى لجنة من الخبراء (الغابة العشوائية) الذين يجمعون بين الخريطة وبيانات المرور السابقة للتنبؤ بالضبط بالوقت الذي ستستغرقه عملية التوصيل.
يزعم البحث أن هذه طريقة قوية للتنبؤ بسرعة الإنترنت وإيجاد اتصالات جديدة، مما يجعل الشبكة أسرع وأكثر موثوقية للجميع.
ملخص تقني: HERMIT – تعلم تمثيل الرسوم البيانية الزمانية الزائدية لشبكات الإنترنت ذات البنية خالية من المقياس وتوقع التأخير
بيان المشكلة يعد التنبؤ الدقيق بزمن انتقال الذهاب والعودة (RTT) أمراً ضرورياً لتحسين التوجيه، وضمان جودة الخدمة (QoS)، وهندسة حركة المرور. ومع ذلك، يواجه التنبؤ بـ RTT ثلاثة تحديات رئيسية:
التوزيعات ذات الذيول الثقيلة (Heavy-Tailed Distributions): تظهر بيانات RTT تبايناً شديداً، حيث تتراوح من أجزاء من الملي ثانية إلى عدة ثوانٍ، مما يؤدي بالنماذج التقليدية للانحدار القائمة على متوسط مربع الخطأ (MSE) إلى التأثر بالقيم المتطرفة وتدهور الأداء في نطاقات زمن الاستجابة الشائعة.
الطوبولوجيا الديناميكية: يتأثر RTT بمسارات التوجيه المتطورة، وحالات الازدحام، وتغيرات طوبولوجيا الشبكة، وهي أمور يصعب التقاطها باستخدام تمثيلات المسافة الثابتة أو نماذج الانحدار التقليدية.
عدم التطابق الهيكلي: تعمل معظم الشبكات العصبية للرسوم البيانية الزمانية (TGNNs) الحالية في الفضاء الإقليدي، وهو أمر غير ملائم لرسوم توجيه الإنترنت البيانية التي تمتلك بنى هرمية وخالية من المقياس (Scale-free). تتطلب التضمينات الإقليدية أبعاداً عالية أو تتعرض لتشويه هندسي لتمثيل هذه الطوبولوجيا، بينما تستطيع الهندسة الزائدية (Hyperbolic geometry) استيعاب هذه البنى بتشويه منخفض في أبعاد منخفضة.
المنهجية: إطار عمل HERMIT يقترح المؤلفون HERMIT (نمذجة RTT عبر الحواف الزائدية المتكاملة مع الطوبولوجيا)، وهو إطار عمل هجين مصمم للقيام بالتنبؤ بالروابط والتنبؤ بـ RTT بشكل مشترك. يدمج الهيكل بين شبكة عصبية رسومية زمانية زائدية تحافظ على المتعدد (Manifold) وبين نموذج غابة عشوائية (Random Forest) للانحدار.
المعالجة المسبقة للبيانات: يستخدم النموذج مجموعة بيانات لمدة 10 سنوات (2015-2024) من مشروع CAIDA IPv4 Ark. يتم تنظيف سجلات الـ traceroute الخام (مع الاحتفاظ فقط بالمسارات "المكتملة")، وتقليمها للاحتفاظ بأعلى 5% من العقد حسب الدرجة للتركيز على العمود الفقري للشبكة، وأخذ عينات عبر استراتيجية أسبوعية متدحرجة (3 أيام في الأسبوع) لإدارة الحمل الحسابي. يتم هيكلة البيانات الناتجة كسلسلة من الرسوم البيانية الموزونة يومياً مع ميزات للحواف تشمل لوغاريتم متوسط RTT، والانحراف المعياري لـ RTT، ووزن الرابط.
المُشفر الزماني الزائدي: بناءً على العمود الفقري HMPTGN، يقدم HERMIT تحسينين رئيسيين:
ميزات الحواف المدركة لـ RTT: يتم دمج ميزات الحواف الصريحة (متوسط لوغاريتم RTT، والانحراف المعياري، والوزن) لتوصيف حالات الروابط بدقة.
مشفر حواف قابل للتعلم: يقوم تحويل خطي يليه تفعيل "سيجمويد" بضغط ميزات الحواف الثلاثية الأبعاد إلى وزن قياسي. يعمل هذا كآلية انتباه (Attention mechanism)، حيث يزن الحواف تكيفياً أثناء تمرير الرسائل للتركيز على الروابط الحرجة والمستقرة.
الحفاظ على المتعدد (Manifold Preservation): يقوم المُشفر بعملية تمرير الرسائل مباشرة على "كرة بوانكاري" (Poincaré ball) بانحناء (c=1.0) باستخدام إضافة موبيوس وتحويلات بوانكاري الخطية، متجنباً التشويه الهندسي المرتبط بإسقاطات الفضاء المماسي المستخدمة في نماذج مثل HTGN.
مهام التنبؤ المشتركة:
التنبؤ بالروابط: يحسب النموذج المسافة المربعة لبوانكاري بين تضمينات العقد ويقوم برسمها على احتمالات وجود الروابط باستخدام دالة تفعيل "فيرمي-ديراك".
التنبؤ بـ RTT: يتم دمج تضمينات العقد الزائدية (zu,zv) مع الإحصائيات التاريخية لـ RTT (fu,fv) لنقاط نهاية الحافة. يتم تغذية متجه الميزات المدمج هذا في نموذج غابة عشوائية (Random Forest) للتنبؤ بـ RFT. يتم تدريب النموذج على قيم RTT المحولة لوغاريتمياً والمطبعة بأسلوب (min-max) للتعامل مع الذيول الثقيلة، وتتم عملية عكس التحويل للتنبؤ بمقياس الملي ثانية لأغراض التقييم.
هدف التدريب: يتم تحسين النموذج باستخدام دالة خسارة مشتركة L=Llink+λLRTT، حيث Llink هي الخسارة التقاطعية الثنائية (Binary Cross-Entropy) و LRTT هي متوسط مربع الخطأ (MSE) على القيم المطبعة. تم ضبط معامل الوزن λ عند 10.
المساهمات الرئيسية
خط معالجة قابل لإعادة الإنتاج: خط معالجة مسبقة للبيانات يحول سجلات CAIDA Ark الخام إلى سلسلة من الرسوم البيانية الموزونة يومياً مع إحصائيات RTT على مستوى الحواف، مما يعالج عدم الاتساق في البيانات الشائع في قياسات الـ traceroute.
بنية هجينة (HERMIT): إطار عمل مبتكر يجمع بين شبكة عصبية رسومية زمانية زائدية ونموذج غابة عشوائية للانحدار. تم تقييمه على مجموعة بيانات ضخمة من الواقع تمتد لعقد من الزمن.
تحسينات الأداء:
التنبؤ بـ RTT: يحقق HERMIT تحسناً بنسبة 6% في RMSE مقارنة بمرجع قوي من الغابة العشوائية الذي يستخدم الإحصائيات التاريخية فقط. وبشكل محدد، يحسن RMSE بنسبة 6.4% في الروابط الموجودة حالياً وبنسبة 2.3% في الروابط الجديدة التي تظهر.
التنبؤ بالروابط: من خلال دمج ميزات الحواف الصريحة ومشفر حواف قابل للتعلم، يتفوق HERMIT على النماذج المرجعية السابقة للـ TGNN الزائدية (HMPTGN و HTGN)، محققاً درجات AUC و AP تتجاوز 0.99 في كل من الروابط الموجودة والجديدة.
القابلية للتوسع: يثبت النهج أن التضمينات الزائدية ذات 16 بُعداً يمكنها ترميز البنى الهرمية للروابط بكفاءة، مما يوفر حلاً قابلاً للتوسع للشبكات واسعة النطاق.
النتائج والأهمية يدعي البحث أن HERMIT يوفر حلاً قوياً وقابلاً للتوسع للتنبؤ بـ RTT في ظل ظروف زمن الاستجابة للشبكة ذات الذيول الثقيلة في العالم الحقيقي. أظهرت النتوات التجريبية على مجموعة بيانات CAIDA أن:
التعامل مع الذيول الثقيلة: يقلل التصميم الهجين بفعالية من الأخطاء الكبيرة في العينات ذات الذيول الثقيلة، متفوقاً على النماذج التي تعتمد فقط على الإحصائيات التاريخية أو التضمينات الإقليدية.
التعميم: يظهر النموذج قدرة قوية على التعميم للاتصالات غير المرئية سابقاً (الروابط الجديدة)، مما يشير إلى أن التمثيلات الزمانية الزائدية المتعلمة تلتقط البنى الهرمية الكامنة التي تساعد في استنتاج الاتصالات الشبكية الناشئة.
التآزر: إن الجمع بين تنظيم الشبكة على المستوى الكلي (الذي يلتقطه المشفر الزائدي) وتفاعلات الميزات على المستوى الجزئي (التي تستغلها الغابة العشوائية) ينتج تنبؤات أكثر دقة ومتانة مما يحققه أي نهج بمفرده.
يخلص المؤلفون إلى أن دمج نمذجة الحواف المدركة لـ RTT في الرسوم البيانية الزمانية الزائدية يعزز بشكل كبير من التنبؤ بكل من الروابط وزمن الاستجابة، مما يوفر مساراً عملياً لهندسة حركة المرور المدركة لزمن الاستجابة والمراقبة الاستباقية للأداء.