🤖 machine learning

Differentiable Lifting for Topological Neural Networks

تقدم الورقة البحثية $\partial$ lift (DiffLift)، وهو إطار عمل عام يتيح التعلم القابل للتفاضل من الطرف إلى الطرف لرفع الرسوم البيانية (graph liftings) إلى هياكل ذات رتب أعلى، مما يتغلب على قيود الطرق الاستاتيكية غير الخاضعة للإشراف ويعزز بشكل كبير أداء الشبكات العصبية الطوبولوجية عبر مختلف المعايير المرجعية.

المؤلفون الأصليون: Jorge Luiz Franco, Gabriel Duarte, Alexander Nikitin, Moacir Ponti, Diego Mesquita, Amauri H. Souza

نُشر 2026-08-04

📖 3 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Jorge Luiz Franco, Gabriel Duarte, Alexander Nikitin, Moacir Ponti, Diego Mesquita, Amauri H. Souza

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول تعليم كمبيوتر فهم العالم من خلال النظر إلى خريطة من الروابط. في عالم الذكاء الاصطناعي، تُسمى هذه الخرائط "الرسوم البيانية" (Graphs)، حيث توجد نقاط (مثل الأشخاص أو الذرات) مرتبطة بخطوط (مثل الصداقات أو الروابط الكيميائية). لسنوات طويلة، كانت البرامج الذكية التي تسمى "الشبكات العصبية للرسوم البيانية" (Graph Neural Networks) بارعة في قراءة هذه الخرائط، لكن كان لديها نقطة عمياء: فهي في الغالب لا ترى إلا من يتصل بمن مباشرة. إنها تغفل عن الصورة الأكبر، مثل كيف تتجمع مجموعة كاملة من الأصدقاء معًا، أو كيف يتشكل شكل معقد من خلال دوائر متداخلة عديدة.

ولإصلاح ذلك، اخترع العلماء "الشبكات العصبية الطوبولوجية" (Topological Neural Networks). فكر في هذه الشبكات كقارئات خارقة يمكنها النظر إلى رسم بياني والقول: "مهلًا، هذه النقاط الثلاث ليست مجرد أصدقاء؛ إنها تشكل مثلثًا!" أو "هذه النقاط الخمس تشكل مجموعة صغيرة مترابطة". هذه القدرة على رؤية الأشكال والمجموعات (التي تسمى الهياكل ذات الرتب الأعلى) تساعد الكمبيوتر على فهم البيانات المعقدة بشكل أفضل بكثير. لكن الجزء الصعب هنا هو أنه لكي يرى هذه الأشكال، يجب إخبار الكمبيوتر أولاً كيف ينظر. إنه يحتاج إلى "رافع" (lifter) ليحول الخريطة المسطحة من النقاط والخطوط إلى هيكل ثلاثي الأبعاد من الأشكال. وحتى الآن، كان على العلماء تخمين طريقة الرفع التي يجب استخدامها، تمامًا مثل محاولة تخمين المفتاح الصحيح لقفل دون رؤية القفل نفسه أبدًا. أحيانًا ينجح التخمين، وأحيانًا يفشل فشلاً ذريعًا، مما يترك الكمبيوتر في حالة ارتباك.

وهنا يأتي بحث جديد يقدم حلاً ذكيًا يسمى $\partial$ lift (يُنطق "ديف-ليفت"). فبدلاً من تخمين المفتاح الصحيح، بنى المؤلفون آلة تعلم ذكية تكتشف الطريقة المثالية لرفع الخريطة لكل مهمة محددة. تخيل أن لديك صندوقًا من قطع "الليغو" (بياناتك). الطرق القديمة كانت تشبه اتباع دليل تعليمات جامد يقول: "ابنِ قلعة دائمًا"، حتى لو كنت تحاول بناء سفينة فضاء. أما $\partial$ lift فهو يشبه وجود روبوت ينظر إلى قطعك وإلى هدفك، ثم يقرر: "حسنًا، من أجل سفينة الفضاء هذه، أحتاج إلى تجميع هذه القطع لتكوين أجنحة، ومن أجل ذلك الصاروخ، أحتاج إلى تجميعها لتكوين زعانف".

اختبر الباحثون هذه الفكرة على مجموعة من الألغاز المختلفة، من التنبؤ بالخصائص الكيميائية إلى تصنيف الشبكات الاجتماعية. ووجدوا أن $\partial$ lift يغير قواعد اللعبة؛ ففي العديد من الاختبارات، تفوق على طرق التخمين الثابتة القديمة بفارق كبير، حيث حسّن الدقة بنسبة تصل إلى 45% في بعض الحالات. يعمل هذا النظام من خلال النظر إلى البيانات، وتعلّم أي مجموعات من النقاط هي المهمة، ثم "رفعها" إلى الأشكال المناسبة (مثل المثلثات أو الفقاعات) لمساعدة الكمبيوتر على حل المشكلة.

يُظهر البحث أن هذه الطريقة تعمل لأنواع مختلفة من الهياكل، بما في ذلك "الرسوم البيانية الفائقة" (hypergraphs) (حيث يمكن لخط واحد أن يربط العديد من النقاط في وقت واحد) و"المجمعات الخلوية" (cell complexes) (التي تشبه كتل البناء ذات الأحجام المختلفة). ويشير المؤلفون إلى أنه من خلال جعل عملية "الرفع" قابلة للتعلم والتكيف، يمكننا التوقف عن إضاعة الوقت في التخمينات السيئة وترك الذكاء الاصطناعي يصمم أفضل طريقة له لرؤية العالم. وبينما تتطلب هذه الطة قدرًا أكبر من قوة الكمبيوتر لتحديد الأشكال الأفضل، فإن النتائج تشير إلى أنها تستحق الجهد الإضافي، خاصة في المشكلات المعقدة التي تتعثر فيها الطرق القديمة. إنها خطوة نحو ذكاء اصطناعي لا يكتفي باتباع القواعد فحسب، بل يفهم شكل البيانات التي يُعطى إياها.

ملخص تقني: الرفع التفاضلي للشبكات العصبية الطوبولوجية

بيان المشكلة

برزت الشبكات العصبية الطوبولوجية (TNNs) كفئة قوية من النماذج القادرة على الاستفادة من الهياكل عالية الرتبة (مثل الدورات، والكلِيقات، والسمبلكسات) لتعزيز القدرة التعبيرية لشبكات الرسم البياني العصبية التقليدية (GNNs). ومع ذلك، توجد عقبة حرجة في عملية "الرفع" (lifting): وهي تحويل الرسوم البيانية المدخلة إلى مجالات طوبولوجية (مثل الفوق-رسوم البيانية "hypergraphs"، أو السمبلكسات البسيطة "simplicial complexes"، أو المعقدات الخلوية "cell complexes").

في الوقت الحالي، تُعد عملية الرفع هذه غير خاضعة للإشراف وثابتة في الغالب. تعتمد الطرق مثل رفع الدورات (cycle lifting)، أو رفع $k$ -hop، أو رفع $k$ -الجار الأقرب ( $k$ -NN) على قواعد استدلالية محددة مسبقاً بناءً على الاتصال في الرسم البياني أو سمات العقد. وكما هو موضح في الورقة البحثية، فإن الاختيار الأمثل للمجال الطوبولوجي وإجراء الرفع يعتمد بشكل كبير على البيانات والمهمة المحددة. وتؤدي عمليات الرفع الثابتة وغير الخاضعة للإشراف غالباً إلى تمثيلات طوبولوجية دون المستوى الأمثل، مما يحد من الأداء النهائي للشبكات العصبية الطوبولوجية (TNNs). وبينما تم استكشاف الرفع التفاضلي سابقاً للمعقدات الخلوية (مثل DCM)، إلا أن غاب إطار عمل عام يمكن تطبيقه على مختلف المجالات الطوبولوجية (بما في ذلك الفوق-رسوم البيانية والسمبلكسات البسيطة).

المنهجية: $\partial$ lift (DiffLift)

يقترح المؤلفون $\partial$ lift، وهو إطار عمل عام وقابل للتفاضل من النهاية إلى النهاية لتعلم رفع الرسوم البيانية. بدلاً من استخدام قواعد ثابتة، يتعلم $\partial$ lift تحديد وتوصيف التوزيعات على الخلايا المرشحة لإدراجها في الهيكل الناتج.

الآلية الجوهرية

يعمل الإطار من خلال عملية أخذ عينات هرمية وتكرارية:

تمثيلات العقد (Node Embeddings): تقوم أي شبكة GNN (مثل GIN أو GPS) بحساب التمثيلات الكامنة ( $z_v$ ) لكل عقدة في الرسم البياني المدخل.
استحضار المرشحين (Candidate Elicitation): بناءً على هذه التمثيلات، يحدد النموذج مجموعة من الخلايا المرشحة.
- بالنسبة لـ الفوق-رسوم البيانية (hypergraphs)، يتم تشكيل المرشحين عن طريق اختيار $k_v$ من أقرب الجيران للعقدة $v$ في فضاء التمثيل، حيث يتم أخذ $k_v$ عينة تكيفياً من توزيع يتم توصيفه بواسطة $z_v$ .
- بالنسبة لـ المعقدات الخلوية (cell complexes)، تكون العملية هرمية. بالنسبة للبعد $D=1$ ، يتم تشكيل الحواف المرشحة بشكل مشابه للحواف العليا (hyperedges). بالنسبة لـ $D \ge 2$ ، تُشتق الخلايا المرشحة (مثل الخلايا ثنائية الأبعاد 2-cells) من الدورات (أو الكلِيقات) في المعقد الحالي، مع احترام القيود الهرمية للمجال المستهدف.
القبول/الرفض: لكل خلية مرشحة $C$ ، تقوم شبكة عصبية (عادةً MLP أو DeepSet) بمعالجة المجموعة متعددة الأطقم من تمثيلات العقد داخل $C$ لإخراج احتمال القبول $\phi(z_C)$ .
أخذ العينات العشوائي: يحدد نموذج Bernoulli ما إذا كانت الخلية ستُدرج في الهيكل المرفوع. ويتم تمرير الاشتقاقات عبر خطوة أخذ العينات المنفصلة هذه باستخدام المقدر المباشر (straight-through estimator).
التكرار: تتكرر العملية لأبعاد متزايدة ( $D \to D+1$ ) حتى الوصول إلى أقصى بعد $D_{max}$ .

رفع السمات (Feature Lifting)

يتم حساب سمات الخلايا الجديدة المتشكلة عبر إسقاط مجموع مُقاس لسمات العقد المكونة لها، مما يضمن توافق الهيكل المرفوع مع طبقات تمرير الرسائل القياسية في TNN.

المساهمات الرئيسية

إطار عمل تفاضلي عام: يعد $\partial$ lift إطار عمل عام يتيح تعلم رفع الرسوم البيانية بشكل متكامل عبر مجالات طوبولوجية متعددة، بما في ذلك الفوق-رسوم البيانية، والسمبلكسات البسيطة، والمعقدات الخلوية، متجاوزاً الأعمال السابقة المقتصرة على مجالات محددة.
تعلم الهيكل التكيفي: على عكس الطرق الثابتة، يتعلم $\partial$ lift حجم وتكوين الخلايا عالية الرتبة (على سبيل المثال، أحجام الحواف العليا التكيفية) بناءً على أهداف المهمة والتمثيلات العقدية المتعلمة.
أخذ العينات الهرمي: يقدم الأسلوب إجراء أخذ عينات تكراري حيث تُعلم الخلايا ذات الأبعاد الأدنى توليد الخلايا ذات الأبعاد الأعلى، مما ينمذج الطبيعة الهرمية للكائنات الطوبولوجية بشكل طبيعي.
التكامل: تم تصميم الإطار ليتم دمجه بسلاسة في مسارات TNN الحالية، حيث يعمل كطبقة معالجة مسبقة قابلة للتعلم تغذي بنيات TNN الجاهزة.

النتائج التجريبية

قيم المؤلفون $\partial$ lift على 12 مجموعة بيانات تشمل تصنيف الرسوم البيانية (الخصائص الجزيئية) ومهام تصنيف العقد، باستخدام أربعة بنيات مختلفة من TNN (وهي CWN، وCXN، وCIN، وUniGCNII، وUniGIN).

تصنيف الرسوم البيانية: تفوق $\partial$ lift باستمرار على طرق الرفع الثابتة (الدورات، $k$ -hop، $k$ -NN، وkernel) في 22 من أصل 24 تجربة. حقق مكاسب في الأداء تصل إلى 45% مقارنة بالرفع الثابت. على سبيل المثال، في مجموعة بيانات ZINC، خفض $\partial$ lift متوسط الخطأ المطلق (MAE) من 0.46 إلى 0.17 عند استخدام CWN.
تصنيف العقد: حقق $\partial$ lift أداءً تنافسياً أو متفوقاً مقارنة بالرفع الثابت والأساس التفاضلي DCM. ومن الملاحظ أنه تفوق بشكل كبير على DCM في مجموعات البيانات غير المتجانسة (heterophilic) (مثل Texas). في مجموعة بيانات Cora، بينما حقق DCM نسبة 80.73%، حقق $\partial$ lift مع TopoTune نسبة 86.82%، رغم أن $\partial$ lift مع CWN سجل 80.17% وهو أقل قليلاً من DCM. وبشكل عام، أظهر $\partial$ lift أداءً قوياً عبر مجموعات البيانات، متفوقاً في كثير من الأحيان على DCM بفارق كبير.
المتانة: أظهرت الطريقة متانة عبر مختلف هياكل GNN الخلفية (GIN مقابل GPS)، وإن كانت التمثيلات الأكثر ثراءً (GPS) قد أعطت نتائج أفضل عموماً.
الكفاءة: على الرغم من أن $\partial$ lift يتسبب في عبء زمني طفيف مقارنة بالطرق الثابتة (بسبب أخذ العينات وحساب الاحتمالات)، إلا أنه يظل قابلاً للتنفيذ حوسبياً. بالنسبة للفوق-رسوم البيانية، العملية قابلة للتوازي بشكل كامل؛ وبالنسبة للمعقدات الخلوية، تتركز التكلفة في حساب أساس الدورات ولكنها تظل ضمن الحدود المعقولة.

الأهمية والادعاءات

تدعي الورقة أن $\partial$ lift يعالج قصوراً جوهرياً في التعلم العميق الطوبولوجي: الاعتماد على إجراءات رفع غير خاضعة للإشراف وغير مرتبطة بالمهمة. ومن خلال جعل عملية الرفع قابلة للتعلم ومرتبطة بالمهمة، يوضح المؤلفون أن الهيكل الطوبولوجي للبيانات يمكن تحسينه خصيصاً للمهمة النهائية.

يسلط المؤلفون الضوء على أن نهجهم يؤدي إلى مكاسب تجريبية كبيرة، مما يشير إلى أن المجال الطوبولوجي "الأمثل" ليس خاصية ثابتة للبيانات بل هو دالة لهدف التعلم. علاوة على ذلك، يفترضون أن عمليات الرفع التكيفية يمكن أن تخفف من مشكلات مثل الضغط الزائد (oversquashing) من خلال تعلم إدخال خلايا عالية الرتبة (مثل الخلايا ثنائية الأبعاد 2-cells) التي تخلق اختصارات عبر نقاط الاختناق في الرسم البياني، مما يحسن تدفق المعلومات بين العقد البعيدة.

تخلص الورقة إلى أنه بينما تقتصر التطبيقات الحالية على المعقدات الخلوية ثنائية الأبعاد بسبب قيود مكتبات TNN، فإن الإطار قابل للتعميم على مجالات أخرى (مثل السحب النقطية "point clouds") ويمثل خطوة مهمة نحو تعلم طوبولوجي تكيفي بالكامل.