💻 computer science

Sentiment-Aware Stock Price Prediction with Transformer and LLM-Generated Formulaic Alpha

تقترح هذه الورقة إطار عمل مبتكر يسخر النماذج اللغوية الكبيرة لتوليد "ألفا" صيغية، قابلة للتفسير وواعية بالمشاعر بشكل تلقائي، والتي تعمل كسمات محسنة للنماذج القائمة على تقنية "ترانسفورمر" لتحسين دقة التنبؤ بأسعار الأسهم وشفافيتها بشكل كبير.

المؤلفون الأصليون: Qizhao Chen, Hiroaki Kawashima

نُشر 2026-03-05

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Qizhao Chen, Hiroaki Kawashima

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول التنبؤ بحالة الطقس للأسبوع القادم.

الطريقة القديمة (التمويل التقليدي):
في الماضي، حاول خبراء المال (المحللون الكميون) التنبؤ بأسعار الأسهم من خلال كتابة وصفات رياضية معقدة يدوياً. كانوا ينظرون إلى البيانات ويقولون: "إذا ارتفع السعر بالأمس وكان حجم التداول مرتفعاً، فربما سيرتفع اليوم". أطلقوا على هذه الوصفات اسم "صيغ ألفا" (Alpha Formulas).

المشكلة: كان الأمر يشبه محاولة كتابة صيغة جديدة للتنبؤ بالطقس يدوياً في كل يوم. كان ذلك بطيئاً، مرهقاً، وبمجرد أن يكتشف الجميع صيغتك، تتوقف عن العمل (وهي ظاهرة تسمى "تآكل ألفا"). كما أن هؤلاء الخبراء غالباً ما كانوا يفتقرون إلى "العنصر البشري" — مثل كيف يمكن لشائعة عن منافس ما أن تجعل الناس يصابون بالذعر ويبيعون أسهمهم.

الطريقة الجديدة (حل هذه الورقة البحثية):
تقدم هذه الورقة تعاوناً بين روبوت فائق الذكاء (نموذج لغوي كبير - LLM) ودماغ متخصص في التعرف على الأنماط (ترانسفورمر - Transformer) للتنبؤ بأسعار الأسهم.

إليك كيف يعمل الأمر، خطوة بخقة:

1. "محقق الأخبار" (تحليل المشاعر)

أولاً، لا يكتفي النظام بالنظر إلى مخطط السهم فقط، بل يقرأ آلاف المقالات الإخبارية.

اللمسة المميزة: هو لا يقرأ فقط عن الشركة التي تهتم بها (مثل تويوتا)، بل يقرأ أيضاً عن أصدقاء وأعداء تويوتا (مثل هوندا، فورد، تسلا، وحتى أبل).
لماذا؟ إذا كانت هناك أخبار سيئة عن مورد رئيسي أو منافس، فقد ينخفض سهم تويوتا حتى لو لم تفعل تويوتا أي شيء خاطئ. يقوم النظام بحساب "درجة المزاج" (المشاعر) لجميع هذه الشركات ذات الصلة.

2. "الشيف المبدع" (النموذج اللغوي الكبير - LLM)

هذا هو نجم العرض. قدم الباحثون لنموذج لغوي كبير (مثل ذكاء اصطناعي فائق الذكاء) قائمة من المكونات:

المكونات: أسعار الأسهم، الرياضيات التقنية (مثل المتوسطات المتحركة)، و"درجات المزاج" للشركات ذات الصلة.
المهمة: "أيها الشيف الذكي، يرجى ابتكار 5 وصفات جديدة ومبدعة (صيغ ألفا) تمزج هذه المكونات للتنبؤ بسعر الغد".

بدلاً من مجرد إعطاء رقم، يكتب الذكاء الاصطమైన الوصفة بلغة رياضية بسيطة، مثل:

"خذ زخم تويوتا، أضف رشة من مدى سعادة الناس تجاه تسلا، واطرح منها الخوف بشأن فورد".

يعمل الذكاء الاصطناعي كشيف مبدع يمكنه تذوق السوق وابتكار تركيبات نكهات قد لا تخطر على بال البشر.

3. "سيد الأنماط" (الترانسفورمر - Transformer)

بمجرد أن يبتكر "الشيف الذكي" هذه الوصفات الجديدة، لا تُستخدم للتداول مباشرة، بل يتم تغذيتها في نموذج ترانسفورمر.

فكر في "الترانسفورمر" كأنه محقق ماهر بارع جداً في رصد الأنماط طويلة الأمد في مسرح جريمة فوضوي.
يأخذ "الترنفورمر" هذه "الوصفات" التي ابتكرها "الشيف الذكي" ويستخدمها كدلالات للتنبؤ بدقة بما سيكون عليه سعر السهم غداً.

النتائج: لماذا هذا أمر رائع؟

اختبر الباحثون هذا على خمس شركات كبرى (أبل، HSBC، بيبسي، تويوتا، تينسنت).

دقة أفضل: أثبت تلاحم "الشيف المبدع" (LLM) و"سيد الأنماط" (Transformer) قدرة على التنبؤ بالأسعار بشكل أفضل بكثير من الطرق القديمة (مثل النماذج الحاسوبية القياسية أو الصيغ التي يكتبها البشر).
لا مزيد من "الصندوق الأسود": عادةً ما يعطيك الذكاء الاصطناعي إجابة لكنه لا يخبرك لماذا. هنا، ولأن الـ LLM يكتب الصيغ في شكل رياضيات مقروءة، يمكننا فعلياً رؤية المنطق. يمكننا القول: "آه، لقد توقع النموذج ارتفاع السعر لأنه لاحظ أخباراً إيجابية عن منافس!" وهذا يجعل التنبؤ موثوقاً.
التفوق على المنافسين: عندما قارنوا صيغهم المولدة بواسطة الذكاء الاصطناعي مقابل:
1. الأدوات الحاسوبية القياسية: كان "الشيف الذكي" أكثر ذكاءً.
2. الخبراء البشريين: كان "الشيف الذكي" أسرع بكثير وأكثر إبداعاً، متجنباً مشكلة "الوصفة القديمة" حيث تتوقف الصيغ البشرية عن العمل بمرور الوقت.

تشبيه الصورة الكبيرة

تخيل أنك تحاول تخمين الفائز في سباق خيول.

الطريقة القديمة: تنظر إلى سرعة الحصان السابقة ووزنه.
طريقة هذه الورقة البحثية: تطلب من ذكاء اصطناعي فائق الذكاء قراءة الصحيفة، والتحقق من حالة الطقس، ومعرفة ما يقوله منافس الفارس، ثم ابتكار طريقة جديدة تماماً لحساب الاحتمالات. ثم تعطي هذا الحساب الجديد إلى محقق شديد الملاحظة ليرصد الفائز.

باختصار: تظهر هذه الورقة أنه من خلال السماح للذكاء الاصطناعي بابتكار "وصفات تداول" خاصة به بناءً على الأخبار ومزاج السوق، ومن ثم السماح لنموذج تعلم عميق باستخدام تلك الوصفات، يمكننا التنبؤ بأسعار الأسهم بدقة أكبر وفهم سبب اتخاذ هذا التنبؤ. إنه يشبه منح المحلل المالي قوة خارقة لابتكار طرق جديدة فورية لرؤية المستقبل.

إليك ملخص تقني مفصل لورقة البحث بعنوان: "التنبؤ بأسعار الأسهم المدرك للمشاعر باستخدام المحولات (Transformer) والـ $\alpha$ الصيغية المولدة بواسطة النماذج اللغوية الكبيرة (LLM)."

1. بيان المشكلة

تعالج الورقة تحديين رئيسيين في التمويل الكمي والتنبؤ بأسعار الأسهم:

تآكل الـ $\alpha$ (Alpha Decay): تفقد الـ "ألفا الصيغية" التقليدية (التعبيرات الرياضية التي تحدد أنماط السوق) قدرتها التنبؤية بمرور الوقت مع تكيف الأسواق واستغلال المزيد من المتداولين لها. كما أن صياغة "ألفا" جديدة يدوياً عملية بطيئة، مكلفة، ومحدودة بالإبداع البشري.
محدودية هندسة الميزات (Feature Engineering): غالباً ما تعاني نماذج التعلم العميق القياسية من ضجيج البيانات المالية عند الاعتماد فقط على الميزات الخام (الافتتاح، الأعلى، الأدنى، الإغلاق، الحجم) أو المؤشرات الفنية الثابتة. فهي غالباً ما تفشل في التقاط العلاقات غير الخطية المعقدة المتعلقة بمشاعر السوق والعلاقات بين الشركات.

يقترح المؤلفون إطار عمل لأتمتة توليد عوامل $\alpha$ تكيفية وقابلة للتفسير باستخدام النماذج اللغوية الكبيرة (LLMs) للتخفيف من تآكل الـ $\alpha$ وتعزيز دقة التنبؤ.

2. المنهجية

يدمج إطار العمل المقترح توليد الميزات المدفوع بالنماذج اللغوية الكبيرة (LLM-driven feature generation) مع نمذجة التسلسل القائمة على المحولات (Transformer-based sequence modeling). تتكون العملية من أربع مراحل:

أ. جمع البيانات والمعالجة المسبقة

الأسهم المستهدفة: خمس شركات متنوعة (أبل، HSBC، بيبسي، تويوتا، تينسنت) تغطي قطاعات التكنولوجيا، التمويل، السلع الاستهلاكية، السيارات، وخدمات الإنترنت.
مصادر البيانات: بيانات OHLCV التاريخية (2016–2024) والمقالات الإخبارية اليومية.
استخراج الشركات ذات الصلة: باستخدام التعرف على الكيانات المسماة (NER) في المقالات الإخبارية، حدد المؤلفون "الشركات ذات الصلة" (المنافسين، الموردين، الشركاء) بناءً على تكرار الظهور المشترك.
تحليل المشاعر: يتم حساب درجات قطبية المشاعر اليومية لكل من الشركة المستهدفة والشركات ذات الصلة باستخدام VADER (أداة تحليل مشاعر قائمة على القواميس).
المؤشرات الفنية: يتم حساب المؤشرات القياسية (SMA, EMA, RSI, MACD, Bollinger Bands, OBV, Momentum) باستخدام مكتبة pandas-ta.

ب. الـ $\alpha$ الصيغية المولدة بواسطة LLM

النموذج: تم استخدام نموذج DeepSeek-R1-Distill-Llama-70b عبر منصة Groq.
استراتيجية التلقين (Prompting Strategy): يقوم "تلقين" مهيكل بتوجيه النموذج اللغوي الكبير لتوليد 5 عوامل $\alpha$ $α$ صيغية متميزة لكل شركة. يتطلب التلقين الجمع بين:
- ميزات السهم (OHLCV).
- المؤشرات الفنية.
- درجات المشاعر للشركة المستهدفة والشركات ذات الصلة.
المخرجات: ينتج الـ LLM صيغاً رياضية قابلة للقراءة البشرية (على سبيل المثال، الجمع بين الزخم وتفاوت المشاعر بين شركة مستهدفة ومنافس لها). يتم تحويل هذه الصيغ إلى ميزات عددية.
التطبيع (Normalization): يتم تطبيع الـ $\alpha$ المولدة باستخدام مقياس (Min-Max) بناءً على معايير مجموعة بيانات التدريب لمنع تسرب البيانات (Data Leakage).

ج. نموذج التنبؤ (المحول - Transformer)

البنية: تم استخدام نموذج Encoder-Decoder Transformer تقليدي.
- المُشفّر (Encoder): يعالج الـ 5 عوامل $\alpha$ المولدة بواسطة LLM عبر نافذة منزلقة مدتها 5 أيام. يستخدم تضمين التلافيف أحادي البعد (1D Convolutional Embedding)، والتضمين الزمني (يوم/أسبوع/شهر)، والتضمين الموضعي (Positional Embedding).
- المُفكك (Decoder): يأخذ أسعار الإغلاق لليوم السابق (نافذة 5 أيام) وينتبه لمخرجات المُشفّر للتنبؤ بسعر الإغلاق لليوم التالي.
التدريب: تم التحسين باستخدام Adam (معدل تعلم $5 \times 10^{-5}$ ) على مدار 50 حقبة (epoch) باستخدام دالة خسارة متوسط مربع الخطأ (MSE).

د. مقارنات خط الأساس (Baselines)

تقارن الدراسة نموذج المحول (Transformer) مع:

التعلم العميق: LSTM، TCN، Informer.
التعلم الآلي: SVR، Random Forest، XGBoost.
مصادر $\alpha$ بديلة:
- Featuretools: هندسة الميزات الآلية عبر التحويلات الرياضية.
- المحددة بشرياً: عوامل $\alpha$ من ورقة البحث الشهيرة "101 Formulaic Alphas" (ثابتة، ولا تتضمن المشاعر).

3. المساهمات الرئيسية

توليد $\alpha$ مؤتمت: يثبت أن النماذج اللغوية الكبيرة يمكنها بفعالية توليد عوامل $\alpha$ صيغية متنوعة، تكيفية، وقابلة للتفسير تدمج علاقات مشاعر الشركات المعقدة، مما يعالج مشكلة تآكل الـ $\alpha$ .
تحليل المشاعر عبر الشركات المدرك للشركات ذات الصلة: يقدم طريقة لدمج مشاعر (الشركات ذات الصلة) ديناميكياً (المستخرجة عبر NER) في نموذج التنبؤ، مما يظهر أن مشاعر الكيانات الخارجية تؤثر بشكل كبير على أسعار الأسهم المستهدفة.
القابلية للتفسير: على عكس ميزات التعلم العميق "الصندوق الأسود"، توفر الـ $\alpha$ المولدة بواسطة LLM منطقاً باللغة الطبيعية وصيغاً رياضية صريحة، مما يعزز الشفافية في اتخاذ القرارات المالية.
التحقق من المتانة (Robustness): أكدت الاختبارات الإحصائية المكثفة (اختبار Diebold-Mariano، وتحليل تباين المكونات) أن التحسينات في الأداء ناتجة عن بنية النموذج وجودة الميزات وليس بسبب التباين العشوائي في التدريب.

4. النتائج التجريبية

دقة التنبؤ (MSE): حقق نموذج المحول (Transformer) مع عوامل $\alpha$ المولدة بواسطة LLM أدنى متوسط مربع خطأ (MSE) عبر جميع الأسهم الخمسة، متفوقاً بشكل كبير على نماذج LSTM وTCN وSVR والنماذج القائمة على الأشجار.
- مثال: بالنسبة لسهم تويوتا، كان MSE لنموذج Transformer هو 0.0001، مقارنة بـ 0.0015 لـ LSTM و0.0048 لـ SVR.
الدلالة الإحصائية: أكد اختبار Diebold-Mariano (DM) أن تفوق المحول على خطوط الأساس (LSTM, TCN, SVR, RF, XGBoost) ذو دلالة إحصائية ( $p < 0.01$ ). لم يكن الفرق بين Transformer وInformer كبيراً، مما يشير إلى أن آليات الانتباه (Attention mechanisms) هي المحرك الرئيسي.
تأثير المشاعر: أدى تضمين بيانات المشاعر (الشركة المستهدفة + الشركات ذات الصلة) باستمرار إلى تقليل MSE والانحراف المعياري مقارنة بالنماذج التي لا تتضمن المشاعر، مما يثبت قيمة دمج مشاعر الكيانات المتقاطعة.
المقارنة مع مصادر $\alpha$ الأخرى:
- LLM مقابل Featuretools: أنتجت الـ $\alpha$ المولدة بواسطة LLM قيم MSE أقل من الميزات المولدة بواسطة Featuretools.
- LLM مقابل المحددة بشرياً: كانت فجوة الأداء هائلة. النماذج التي استخدمت "101 Formulaic Alphas" الثابتة (المحددة بشرياً) سجلت قيم MSE أعلى بنحو 100 ضعف (على سبيل المثال، 0.19 مقابل 0.0003 لسهم أبل) من تلك التي استخدمت $\alpha$ المولدة بواسطة LLM، مما يسلط الض الضوء على التآكل الشديد لـ $\alpha$ في الصيغ الثابتة.
معامل المعلومات (IC): من المثير للاهتمام، بينما أظهرت $\alpha$ الخاصة بـ LLM ارتباطاً ضعيفاً مع العوائد (IC منخفض)، إلا أنها أظهرت قوة تنبؤية قوية لـ مستويات الأسعار (MSE منخفض)، مما يشير إلى أن النماذج اللغوية الكبيرة أكثر ملاءمة للتنبؤ المباشر بالأسعار بدلاً من ترتيب العوائد في هذا السياق.

5. الأهمية والخاتمة

تؤسس هذه الورقة لنموذج جديد يعمل فيه النماذج اللغوية الكبيرة (LLMs) كباحثين كميين مؤتمتين، حيث تقوم باستمرار بتوليد إشارات تداول طازجة وغنية بالمشاعر لتغذية نماذج التعلم العميق.

القيمة العملية: يوفر إطار العمل حلاً قابلاً للتوسع لمواجهة تآكل الـ $\alpha$ ، مما يقلل الاعتماد على هندسة الميزات اليدوية.
القابلية للتفسير: القدرة على شرح سبب توليد إشارة معينة (من خلال عملية التفكير الخاصة بـ LLM) تجسر الفجوة بين نماذج الذكاء الاصطناعي المعقدة والحاجة إلى الشفافية في التمويل.
الاتجاهات المستقبلية: يقترح المؤلفون توسيع قاعدة البيانات لتشمل المزيد من الأسهم، واختبار أطر زمنية مختلفة، واستكشاف نماذج لغوية أخرى أو استراتيجيات تلقين أكثر تقدماً لزيادة تحسين توليد الـ $\alpha$ .

باختصار، تثبت الدراسة أن الجمع بين الميزات الغنية بالمشاعر والمولدة بواسطة LLM مع بنيات المحولات (Transformer) يخلق نظاماً قوياً ومتطوراً للتنبؤ بأسعار الأسهم يتفوق على النهج الكمية التقليدية والثابتة.