From Index to Equity: Pre-Training Transformers for Stock Return Prediction
تُظهر هذه الورقة أن التدريب المسبق لنموذج "ترانسفورمر" على مؤشر بورصة تورونتو يحسن بشكل كبير من قدرته على التنبؤ باتجاهات وقيم عوائد الأسهم الفردية مقارنة بنماذج "LSTM" و"XGBoost" المرجعية، على الرغم من تحقيق الأخيرة لمتوسط عوائد يومية أعلى في الممارسة العملية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول التنبؤ بالطقس لحي سكني صغير للغاية. إنه فوضوي بشكل لا يصدق؛ فقد يكون المنزل الواحد مشمساً بينما يسقط البرد على المنزل المجاور له مباشرة. الآن، تخيل أنك تحاول التنبؤ بالطقس لدولة بأكمل_ها أولاً. الصورة الكبيرة تكون أكثر سلاسة وسهولة في الفهم لأن التقلبات الجامحة للأحياء الفردية تتلاشى عبر المتوسط.
هذه الورقة البحثية تدور حول استخدام "عقل كمبيوتر فائق الذكاء" (يُسمى Transformer) للتنبؤ بأسعار الأسهم، وقد اكتشف المؤلفون أنه من الأفضل تعليم هذا العقل "طقس مستوى الدولة" قبل مطالبته بالتنبؤ بـ "طقس مستوى الحي".
إليك تفصيل رحلتهم:
1. المشكلة: سوق الأسهم فوضوي
التنبؤ بما إذا كان سهم واحد سيرتفع أو ينخفض غداً يشبه محاولة تخمين المسار الدقيق لورقة شجر واحدة تذروها الرياح في إعصار. السوق فوضوي، يتغير باستمرار، ومليء بالضجيج. حاولت النماذج الحاسوبية التقليدية (مثل LSTMs و XGBoost) حل هذه المشكلة، لكنها غالباً ما تعاني لأنها تتعلم من الصفر في كل مرة تنظر فيها إلى سهم جديد.
2. الحل: استراتيجية "المتدرج" (التدريب المسبق)
قرر المؤلفون تجربة طريقة تعليم جديدة تسمى تعلم النقل (Transfer Learning). فكر في الأمر كتدريب طاهٍ ماهر:
- الخطوة 1 (التدريب المسبق): بدلاً من تعليم الطاهي كيفية طهي طبق غريب ومحدد فوراً، تجعلهم أولاً يتدربون على دفعة ضخمة وسلسة من الحساء (مؤشر TSX Market Index). يمثل الحساء سوق الأسهم بأكمله. وهو أقل فوضوية من السهم الواحد. يتعلم الطاهي القواعد العامة للطهي (كيفية تفاعل النكهات، وكيف يعمل الحرارة) دون أن يتشتت بانتباهه بسبب مكون واحد غريب.
- الخطوة 2 (الضبط الدقيق): بمجرد أن يفهم الطاهي أساسيات الحساء الكبير، تقدم له وصفة محددة ومعقدة (سهم واحد). ولأن لديه بالفعل المعرفة بالأساسيات، فإنه يتعلم الوصفة المحددة بشكل أسرع وأفضل مما لو بدأ من الصفر.
3. الأدوات: الـ Transformers مقابل "الحرس القديم"
استخدم الفريق بنية ذكاء اصطناعي حديثة تسمى Transformer (وهي نفس التكنولوجيا التي تشغل أدوات مثل ChatGPT). وقاموا بمقارنتها بالأدوات القديمة والموثوقة:
- LSTM: نوع قديم من الذكاء الاصطناعي جيد في تذكر المتواليات.
- XGBoost: أداة إحصائية قوية تبني العديد من أشجار القرار لإيجية الأنماط.
- Ensemble (النموذج التجميعي): "لجنة" تقوم بمتوسط توقعات جميع النماذج المذكورة أعلاه.
4. ماذا وجدوا (النتائج)
كان للتجربة هدفان رئيسيان: تخمين الاتجاه (صعود أو هبوط) وتخمين القيمة الدقيقة (مقدار الصعود).
لعبة "الاتجاه" (التصنيف):
- عندما حاول الـ Transformer تعلم سهم واحد من الصفر، كان مرتبكاً وأدى أداءً ضعيفاً.
- عندما استخدموا "استراتيجية المتدرج" (التدريب المسبق على مؤشر السوق الكبير أولاً)، أصبح الـ Transformer أفضل بكثير في تخمين ما إذا كان السهم سيرتفع أو ينخفض.
- ومع ذلك، ظل نموذج XGBoost القديم هو الأفضل في مجرد الحصول على تخمين "الصعود أو الهبوط" الصحيح.
لعبة "القيمة الدقيقة" (الانحدار):
- عند محاولة التنبؤ بـ النسبة المئوية الدقيقة للعائد، تفوق كل من Fine-Tuned Transformer و Fine-Tuned LSTM على نموذج XGBoost. لقد كانا أكثر دقة في حساب الرقم المحدد.
- لكن هنا تكمن المفاجأة: على الرغم من أن الـ Transformer كان أكثر دقة في حساب الرقم، إلا أن نموذج الـ Ensemble (اللجنة) هو الذي حقق أكبر قدر من الأرباح في اختبار تداول محاكى.
- لماذا؟ كان الـ Transformer حذراً جداً وتوقع أرقاماً قريبة جداً من الصفر (رهانات آمنة)، بينما كانت نماذج XGBoost/Ensemble مستعدة للمراهنة على أسهم ذات تقلبات أكبر. وفي سوق الأسهم، أحياناً يعني كونك "آمناً" أنك ستفوت الأرباح الكبيرة.
5. الأداة الواقعية
لم يتوقف الباحثون عند الجانب النظري فحسب، بل بنوا تطبيق تداول مباشر (باستخدام أداة تسمى Streamlit).
- يمكنك كتابة رمز السهم (مثل "TD" أو "RY").
- يقوم التطبيق بجلب أحدث البيانات، ويمررها عبر نماذجهم، ويخبرك بأي 5 أسهم تبدو وكأنها سترتفع أكثر وأي 5 أسهم تبدو وكأنها ستنهار.
- إنه يشبه امتلاك تطبيق للطقس يعطيك توقعات يومية لمحفظتك الشخصية.
الخلاصة
خلصت الورقة البحثية إلى أنه بينما لا يوجد نموذج مثالي (فالسوق لا يزال صعب التنبؤ به للغاية)، فإن تعليم الذكاء الاصطناعي الصورة الكبيرة للسوق أولاً يساعده على فهم الصور الصغيرة بشكل أفضل.
يعد نموذج الـ Transformer منافساً قوياً لفهم تفاصيل تحركات الأسهم، لكن الأساليب "القديمة" (مثل XGBoost) والأساليب "التجميعية" (Ensemble) لا تزال هي التي تتربع على العرش في تحقيق أكبر قدر من الربح في هذا الاختبار المحدد. يخطط المؤلفون لجعل الـ Transformer أكبر وأكثر ذكاءً في المستقبل، رب الله من خلال تعليمه قراءة الأخبار العالمية والتقارير الاقتصادية، وليس فقط الرسوم البيانية لأسعار الماضي.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.