EP-GAT: Energy-based Parallel Graph Attention Neural Network for Stock Trend Classification

إليك ملخص تقني مفصل لورقة البحث بعنوان "EP-GAT: شبكة الانتباه الرسومية المتوازية القائمة على الطاقة لتصنيف اتجاهات الأسهم."

1. بيان المشكلة

يعد التنبؤ بسوق الأسهم مهمة تنطوي على تحديات كبيرة بسبب الطبيعة العشوائية والتقلبات العالية للأسواق المالية. وبينما أدت نماذج التعلم العميق (مثل RNNs وTransformers) إلى تحسين الأداء، إلا أن مناهج الشبكات العصبية الرسومية (GNN) الحالية للتنبؤ بالأسهم تعاني من قصورين حرجين:

• بناء الرسم البياني الساكن (Static Graph Construction): تعتمد معظم الأساليب الحالية على عوامل محددة مسبقاً وثابتة (مثل القطاعات الصناعية أو سلاسل التوريد) لنمذجة التبعيات بين الأسهم. وتفشل هذه الأساليب في التقاط التبعيات المتبادلة الديناميكية والمتطورة بين الأسهم والتي تتغير بمرور الوقت.
• فقدان الميزات الهرمية: غالباً ما تؤدي آليات الانتشار في الشبكات العصبية الرسومية القياسية إلى تشويه أو فقدان الميزات الهرمية داخل السهم الواحد (الأنماط الزمنية بمقاييس مختلفة) أثناء انتقال المعلومات عبر الطبقات، مما يؤدي إلى تعلم تمثيل غير مثالي.

تهدف الورقة إلى معالجة هذه الفجوات من خلال تطوير إطار عمل ينمذج العلاقات المتغيرة بين الأسهم ديناميكياً مع الحفاظ على البنية الهرمية لبيانات الأسهم الفردية.

2. المنهجية: EP-GAT

يتكون نظام EP-GAT (الشبكة العصبية للرسم البياني المتوازي القائم على الطاقة) المقترح من وحدتين أساسيتين:

أ. توليد رسم بياني للأسهم قائم على الطاقة

بدلاً من استخدام العلاقات الصناعية الساكنة، يقوم EP-GAT ببناء رسم بياني ديناميكي للأسهم عند كل خطوة زمنية $t$ بناءً على فروق الطاقة بين الأسهم وتوزيع بولتزمان.

• تعريف الطاقة: يتم حساب "الطاقة" ($E_i$) للسهم باعتبارها مجموع مربعات متجه الميزات التاريخي (نافذة التأخر) عند الزمن $t$.
• توزيع بولتزمان: يتم نمذجة احتمالية وجود اتصال (وزن الحافة) بين السهم $i$ والسهم $j$ باستخدام توزيع بولتزمان:
  $$A_{i,j}^t = \frac{e^{-\frac{|E_i - E_j|}{k\tau}}}{\sum_{o=1}^{N} e^{-\frac{|E_i - E_o|}{k\tau}}}$$
  حيث أن:
  • $|E_i - E_j|$ هو فرق الطاقة.
  • $\tau$ (حجم نافذة التأخر) يعمل كـ درجة حرارة النظام ($T$)، ويتحكم في الحساسية لفروق الطاقة.
  • $k$ هو عامل قياس.
• الترقيق (Sparsification): يتم تطبيق عتبة $s$ على مصفوفة التجاور لإزالة الاتصالات الضعيفة وتقليل الضوضاء، مما يضمن بقاء الرسم البياني متفرقاً وذا معنى.

ب. آلية الانتباه الرسومي المتوازي

لمعالجة تشويه الميزات الهرمية أثناء انتشار الشبكة العصبية الرسومية، يقدم EP-GAT آلية الانتباه الرسومي المتوازي.

• فك الارتباط (Decoupling): على عكس الشبكات العصبية الرسومية القياسية حيث يكون تعلم التمثيل والانتشار مرتبطين ارتباطاً وثيقاً، تقوم هذه الآلية بفك الارتباط بينهما.
• الحفاظ (Preservation): تعمل الآلية على الحفاظ على التمثيلات الكامنة من كل طبقة انتشار ($H_{l-1}$) وتحويلها باستخدام آلية الانتباه متعدد الرؤوس (Multi-Head Attention).
• التوصيل (Concatenation): يتم تشكيل التمثيل النهائي للطبقة عن طريق دمج الميزات المحفوظة مع الميزات المحولة:
  $$H'_l = \gamma(H'_{l-1} || (\eta(H_{l-1}) + H_{l-1}W_l))$$
  يضمن هذا عدم فقدان أو تشويه الميزات الزمنية الهرمية مع زيادة عمق النموذج.

ج. دالة الهدف

يقوم النموذج بمهمة تصنيف ثنائي (اتجاه صعودي مقابل اتجاه هبوطي) لليوم التداولي التالي ($\phi=1$). ويتم تدريبه باستخدام دالة خسارة الإنتروبيا المتقاطعة (cross-entropy loss) القياسية على الملصقات المتوقعة والحقيقة الأرضية.

3. المساهمات الرئيسية

1. بناء رسم بياني ديناميكي: طريقة مبتكرة لتوليد رسوم بيانية للأسهم بناءً على فروق الطاقة وتوزيع بولتزمان، مما يسمح للنموذج بالتكيف مع تغيرات السوق العشوائية بدلاً من الاعتماد على التصنيفات الصناعية الثابتة.
2. الانتباه الرسومي المتوازي: بنية جديدة تحافظ على الميزات الهرمية داخل السهم الواحد من خلال فك الارتباط بين تعلم التمثيل والانتشار، مما يمنع تشويه الميزات في الشبكات العصبية الرسومية العميقة.
3. التحقق التجريبي الشامل: تجارب مكثفة على خمس مجموعات بيانات من العالم الحقيقي (LSE, FTSE, NYSE, NASDAQ, S&P) تغطي 503 سهماً على مدار خمس سنوات، مما أظهر تفوقاً مستمراً على النماذج المرجعية.

4. النتائج التجريبية

قام المؤلفون بتقييم EP-GAT مقابل خمسة نماذج مرجعية تنافسية:

• القائمة على GNN: GraphWaveNet, HyperStockGAT, STGCN.
• القائمة على Transformer: Informer, ST-TIS.

مقاييس الأداء: الدقة (ACC)، معامل ارتباط ماتيوس (MCC)، ودرجة F1 (F1-Score).

النتائج الرئيسية:

• التفوق: تفوق EP-GAT باستمرار على جميع النماذج المرجعية عبر جميع مجموعات البيانات الخمس.
  • متوسط التحسن: +7.61% في ACC، و $+2.63 \times 10^{-2}$ في MCC، و +0.06 في F1-Score مقارنة بأفضل نموذج مرجعي.
• الديناميكية مقابل السكون: تفوقت النماذج التي تستخدم رسوماً بيانية ديناميكية (EP-GAT, GraphWaveNet) بشكل كبير على تلك التي تستخدم رسوماً بيانية ساكنة (HyperStockGAT, STGCN)، مما يؤكد أهمية نمذجة العلاقات المتطورة بين الأسهم.
• أهمية الهرمية: أدى إزالة آلية الانتباه المتوازي إلى انخفاض في الأداء بنسبة ~8%، مما يثبت ضرورة الحفاظ على الميزات الهرمية.
• دراسة الاستئصال (Ablation Study): أدى استبدال الرسم البياني القائم على الطاقة برسم بياني صناعي محدد مسبقاً إلى انخفاض في الدقة بنسبة ~2.25%، مما يؤكد قيمة النهج القائم على الطاقة.

حساسية المعلمات الفائقة (Hyperparameter Sensitivity):

• نافذة التأخر ($\tau$): تم العثور على الأداء الأمثل في النطاق بين 14-23 يوماً.
• عامل القياس ($k$): يختلف حسب مجموعة البيانات؛ حيث حققت القيم المنخفضة (مثل 0.08) أفضل النتائج في LSE/NASDAQ، مما يشير إلى أن هذه الأسواق تمتلك ترابطات أكثر تعقيداً.
• العتبة ($s$): مطلوب تحقيق توازن؛ فالعتبة المنخفضة جداً تُدخل الضوضاء، بينما العتبة العالية جداً تزيل الاتصالات الحرجة.

5. الأهمية والقيود

الأهمية:
يجسر هذا العمل الفجوة بين الفيزياء الإحصائية (توزيع بولتزمان) والتنبؤ بالسلاسل الزمنية المالية. فهو يوفر إطار عمل قوياً لالتقاط الطبيعة غير المستقرة والعشوائية لأسواق الأسهم مع ضمان عدم فقدان الديناميكيات الزمنية الداخلية للأسهم الفردية أثناء انتشار الرسم البياني. وقد وضع معياراً جديداً (SOTA) لتصنيف اتجاهات الأسهم المتعددة.

القيود:

1. الرسوم البيانية غير الموجهة: يفترض النموذج الحالي حوافاً غير موجهة، متجاهلاً حقيقة أن الأسهم المؤثرة قد تؤثر على غيرها دون أن تتأثر بها في المقابل (التأثير الموجه).
2. القابلية للتوسع (Scalability): تتضمن آلية الانتباه المتوازي عمليات تعتمد على الميزات (التوصيل) وانتباهاً متعدد الرؤوس، مما قد يجعلها مكلفة حاسوبياً وصعبة التدريب عند التوسع ليشمل أعداداً كبيرة جداً من الأسهم.

العمل المستقبلي: يخطط المؤلفون لدمج العلاقات المتبادلة الموجهة بين الأسهم وتحسين آلية الانتباه المتوازي باستخدام آليات الاحتفاظ (retention mechanisms) للتعامل مع أسواق أكبر.