Gauge-Equivariant Graph Networks via Self-Interference Cancellation

ملخص تقني: شبكات الرسوم البيانية المتوافقة مع القياس عبر إلغاء التداخل الذاتي

بيان المشكلة
حققت الشبكات العصبية للرسوم البيانية (GNNs) أداءً فائقاً في الرسوم البيانية ذات التجانس (homophilous)، لكنها غالباً ما تعاني في حالات التباين (heterophily). ويُعزى هذا الفشل إلى الاعتماد على تمرير الرسائل الجمعي، الذي يفترض ضمناً وجود تفاعلات متماثلة وغير سالبة. وفي الأنظمة الواقعية التي تحكمها عمليات النقل أو الانتشار أو انتشار الموجات، غالباً ما تظهر التفاعلات سلوكيات تداخل أو توجيه أو تذبذب. تقوم عمليات التجميع القياسية بتضخيم المكونات منخفضة التردد الزائدة بشكل عشوائي وتثبيط الهياكل غير المتماثلة. يؤدي هذا إلى إشارات "تعزيز ذاتي" حيث تتراكم الانحيازات نتيجة تمرير الرسائل المتكرر، مما يسبب التنعيم المفرط (over-smoothing) -أي تجانس التمثيلات- ويؤدي إلى تدهور الأداء في الرسوم البيانية متباينة التجانس. تفشل النهج الحالية، مثل الرسائل الموقعة أو الترشيح الطيفي، في نمذجة بنية الطور (phase structure) أو آلية التداخل الهدام بشكل صريح، حيث تعتمد بدلاً من ذلك على إعادة وزن قياسية لا يمكنها استيعاب السلوكيات التذبذبية أو الموقعة بالكامل.

المنهجية: GESC
يقترح المؤلفون شبكات الرسوم البيانية المتوافقة مع القياس عبر إلغاء التداخل الذاتي (GESC)، وهو إطار عمل يستبدل التجميع الجمعي بآلية تداخل موجي. يكمن الابتكار الجوهري في نمذجة العقد كتمثيلات مركبة (complex embeddings) وحواف باتصالات طور $U(1)$ قابلة للتعلم، مما يضمن نقلاً متوافقاً مع القياس (gauge-equivariant transport).

تتكون المنهجية من ثلاثة مكونات رئيسية:

1. إلغاء التداخل الذاتي (SIC):
   قبل تطبيق آلية الانتباه، يقوم GESC صراحةً بنمذجة وإلغاء التداخل الذاتي الناجم عن المكونات الزائدة منخفضة التردد. يستخدم الإطار مؤثر إسقاط من الرتبة 1 منظماً بانتظام تيكونو (Tikhonov-regularized rank-1 projection operator)، $\Pi_\epsilon(h_i)$، لتحديد مكون رسالة الجار الموازي للحالة الحالية للعقدة المستهدفة. يتم طرح هذا المكون المتوازي ذاتياً من الرسالة:
   $$r^{(m)}_{j \to i} = \tilde{h}^{(m)}_{j \to i} - \eta_{sic} \cdot \Pi_\epsilon(h^{(t)}_i) \tilde{h}^{(m)}_{j \to i}$$
   حيث تمثل $\tilde{h}$ الميزة المنقولة من المصدر. يعمل هذا بمثابة مرشح ثلم (notch filter) لكل عقدة، حيث يخمد الاتجاهات المتوافقة ذاتياً التي تساهم في التنعيم المفرط مع الحفاظ على الإشارات المتعامدة.

2. البوابة المدركة للإشارة مع نقل القياس (Sign-Aware Gating with Gauge Transport):
   للتعامل مع الجيران غير المتوافقين سلباً دون تثبيط المعلومات عالية التردد المفيدة، يقدم GESC بوابة مدركة للإشارة. تقوم هذه البوابة بتعديل بقايا (residual) الـ SIC بناءً على درجة توافق ثابتة للقياس مشتقة من الضرب الداخلي المركب بين الهدف والبقايا. تقوم البوابة بالاستيفاء التدريجي بين الرسالة المتبقية (الرسالة الملغية التداخل ذاتياً) والرسالة المنقولة الأصلية، مما يوازن بين التداخل البناء والهدام.

3. تمرير الرسائل المتوافق مع القياس (Gauge-Equivariant Message Passing):
   يستخدم الإطار تمثيلات مركبة وعوامل طور ذات مقدار وحدة ($U_{ji} = e^{i\theta_{ji}}$) لنقل الحواف. يضمن هذا أن النموذج متوافق مع تحويلات القياس الموضعية لـ $U(1)$ (إعادة ضبط الطور الموضعي للتمثيلات). وبناءً على ذلك، تظل درجات التوافق القياسية وقرارات البوابة ثابتة تحت أي تغييرات في الطور أو الاتجاه الموضعي، مما يوفر المتانة ضد اضطرابات الإشارة والاتجاه.

تجمع عملية التجميع بين اللاخطيات القوية للمقدار (modReLU) ولوغاريتمات الانتباه الهجين التي تزن كلاً من المقدار والجزء الحقيقي المعياري للتوافق المركب.

المساهمات الرئيسية
يقدم البحث ثلاث مساهمات محددة:

• إلغاء التداخل الذاتي (SIC): آلية مبدئية قائمة على الإسقاط تزيل المكونات المتوافقة ذاتياً الزائدة قبل عملية الانتباه، مما يخفف من انحياز التعزيز البناء الذي يؤدي إلى التنعيم المفرط.
• البوابة المدركة للإشارة: آلية تستفيد من توافق الطور المركب لتعديل رسائل الجيران، مما يسمح بانتشار مستقر يحترم الارتباطات الموجبة والسالبة دون الاعتماد على تسميات اتجاهية صريحة.
• التحقق النظري والتجريبي: يقدم المؤلفون براهين نظرية تثبت أن GESC يحافظ على التوافق مع القياس والتبديل، ويحقق حدود الاستمرارية ليبشيتز (Lipschitz continuity) (المشددة على طول الاتجاهات المتوافقة ذاتياً)، ويحد من الانهيار الطيفي. تجريبياً، أظهر النموذج تفوقاً على النماذج المرجعية الحالية في مختلف الاختبارات.

النتائج التجريبية
قيم المؤلفون GESC على تسعة مجموعات بيانات مرجعية، بما في ذلك الرسوم البيانية الكلاسيكية ذات التجانس (Cora, Citeseer, Pubmed) والرسوم البيانية الصعبة ذات التباين (Actor, Chameleon, Squirrel, Cornell, Texas, Wisconsin).

• الأداء: حقق GESC أعلى دقة في سبع من أصل تسع مجموعات بيانات، وحل ضمن أفضل ثلاثة في المجموعتين المتبقيتين. أظهر تحسناً مستمراً مقارنة بالنماذج الكلاسيكية (GCN, GAT)، والأنظمة المدركة للتباين (H2GCN, FAGCN)، والأساليب الطيفية أو الموقعة الحديثة (MagNet, DirGNN).
• دراسات الاستئصال (Ablation Studies): أدى إزالة SIC، أو آلية بوابة البقايا، أو النقل المتوافق مع القياس إلى انخفاض كبير في الأداء (يصل إلى 3.8%)، مما يؤكد أن كل مكون ضروري للتعامل مع التداخل والحفاظ على اتساق الطور.
• متانة العمق: أظهرت التجارب عند تكديس ما يصل إلى 12 طبقة أنه بينما عانت نماذج GCN و GAT من تنعيم مفرط شديد وتدهور في الدقة، حافظ GESC على أداء مستقر، مما يثبت قدرته على الحفاظ على المعلومات التمييزية في البنى العميقة.
• الحساسية: أظهر النموذج متانة تجاه تغيرات المعلمات الفائقة، لا سيما معدل إلغاء التداخل ($\eta_{sic}$) ومنظم الاتساق ($\lambda_{JS}$)، محافظاً على دقة عالية دون الحاجة إلى ضبط دقيق.

الأهمية والادعاءات
يدعي البحث أن GESC يوفر رؤية موحدة لإدراك التداخل. من خلال الانتقال من التجميع الجمعي إلى نموذج التداخل الموجي، يعالج النموذج القصور الجوهري في الشبكات العصبية للرسوم البيانية الحالية: عدم القدرة على تمثيل التداخل الهدام وبنية الطور.

• الرؤية النظرية: يوضح العمل أن غياب التعامل مع التداخل في الشبكات العصبية للرسوم البيانية القائمة على القياس هو المحرك الرئيسي للتنعيم المفرط. يقدم GESC حلاً هندسياً يثبط هيمنة الترددات المنخفضة ويؤخر الانهيار الطيفي.
• الأثر العملي: يقدم النموذج إطاراً قوياً لتصنيف العقد شبه الموجه في كل من النطاقات المتجانسة ومتباينة التجانس، مما يوفر أساساً هندسياً للتعلم المعتمد على التداخل.
• القيود: يشير المؤلفون بتواضع إلى أن الاعتماد على التمثيلات المركبة يفرض تكاليف حسابية (رغم أنها خطية بالنسبة للحواف)، وأن النقل $U(1)$ المتعلم لا يمتد مباشرة إلى مجموعات قياس أغنى. قد يتدهور الأداء أيضاً في الرسوم البيانية شديدة الضجيج.

باختصار، يطور GESC المجال من خلال دمج مبادئ نظرية القياس والتداخل الموجي في تعلم الرسوم البيانية، مقدماً بديلاً مبدئياً لآليات إعادة الوزن التجريبية للتعامل مع هياكل الرسوم البيانية المعقدة وغير المتجانسة.