X-FCA: Diagnosing Explanatory Decoupling in Financial Information Systems via Counterfactual XAI and Conformal Prediction

في عالم التمويل الحديث فائق السرعة، أصبحت الحواسيب هي العيون والآذان الأساسية لقرارات التداول. تقوم هذه الأنظمة بمسح محيطات شاسعة من النصوص من وسائل التواصل الاجتماعي، وخلاصات الأخبار، والتقارير المالية لقياس مزاج السوق. فعندما يبدو المزاج متفائلاً، قد تشتري الخوارزميات؛ وعندما يبدو خائفاً، قد تبيع. لسنوات طويلة، كانت الطريقة القياسية للحكم على ما إذا كانت هذه البرامج الحاسوبية تعمل بشكل جيد هي التحقق من دقتها: هل خمنت الشعور الصحيح في معظم الأوقات؟ إذا حصل النظام على الإجابة الصحيحة بنسبة 80 بالمائة، كان يُعتبر ناجحاً. ومع ذلك، فإن هذه الطريقة بها نقطة عمياء؛ فهي تخبرنا بالنتيجة، لكنها لا تكشف لنا كيف توصل الحاسوب إلى هذا الاستنتاج. فمن الممكن للآلة أن تحصل على الإجابة الصحيحة لأسباب خاطئة، معتمدة على حيل بصرية أو أنماط سطحية بدلاً من الفهم الحقيقي لمعنى الكلمات التي تقرأها. وهذه فجوة خطيرة في مجال يمكن أن يؤدي فيه سوء تفسير إشارة واحدة إلى خسائر مالية هائلة.

لقد وضع فريق من الباحثين هدفاً يتمثل في كشف هذا الضعف الخفي في الذكاء الاصطناعي المالي. وركزوا على نوع محدد من النماذج الحاسوبية المصممة لقراءة التغريدات المالية، وهي مهمة تتطلب تفسير رسائل قصيرة، مشوشة، وغالباً ما تكون عاطفية. تستخدم هذه الرسائل بشكل متكرر الرموز التعبيرية (الإيموجي) — صور صغيرة مثل الصواريخ أو الرسوم البيانية الهابطة — لنقل اتجاه السوق. اشتبه الباحثون في أن النماذج الحاسوبية لم تكن تقرأ في الواقع معنى هذه الرموز، بل كانت تتفاعل مع مجرد وجودها، وتتعامل معها كمرتكزات بصرية بدلاً من كونها دلالات معنوية. ولاختبار ذلك، قاموا ببناء أداة تشخيصية تسمى X-FCA. لم تكتفِ هذه الأداة بسؤال الحاسوب عما يعتقده، بل طلبت منه إعادة النظر في أفكاره بعد إزالة أجزاء محددة من النص بعناية. ومن خلال مقارنة قرار الحاسوب الأصلي بقراره بعد إزالة الرموز التعبيرية، استطاع الفريق معرفة ما إذا كان النموذج يفهم حقاً الأخبار المالية أم أنه يتفاعل ببساطة مع الصور.

بدأ التحقيق بمجموعة ضخمة تضم ما يقرب من 180,000 تدوينة مصغرة مالية، مستمدة من مناقشات العملات الرقمية، وأخبار البنوك التقليدية، والتقارير المؤسسية. قام الباحثون بتغذية هذه النصوص في نموذج لغوي متطور تم تدريبه خصيصاً للتمويل. ثم أجروا سلسلة من التجارب المنضبطة. في سيناريو واحد، قاموا بإزالة الرموز التعبيرية من النص بطريقة متعمدة ومنهجية. وفي سيناريو آخر، أزالوا حروفاً أو كلمات عشوائية لمعرفة ما إذا كان النموذج حساساً لمجرد طول الجملة. كانت النتائج مذهلة؛ فعند إزالة الرموز التعبيرية، غير الحاسوب رأيه بشأن توجه السوق في سبع حالات تقريباً من كل مائة تغريدة. بينما عند إزالة الحروف العشوائية، غير الحاسوب رأيه في حالتين ونصف فقط من كل مائة. أثبت هذا الفرق أن قرارات النموذج تعتمد بشكل كبير على الوجود البصري للرموز التعبيرية، وليس على الكلمات الفعلية التي تصف السوق.

وبالتعمق أكثر، اكتشف الباحثون خللاً هيكلياً في كيفية معالجة الحاسوب لهذه الصور. فقبل أن يبدأ النموذج حتى في تحليل معنى التغريدة، يقوم مكون يسمى "المجزئ" (tokenizer) بتفكيك النص إلى قطع صغيرة. ووجد الباحثون أن هذا المجزئ فشل في التعرف على الرموز التعبيرية المالية المحددة. فبدلاً من رؤية الصاروخ كرمز لسوق صاعدة أو قطرة الدم كرمز لسوق هابطة، قام النظام بتحويل كل صورة من هذه الصور المتميزة إلى نفس الرمز العام "غير المعروف". وهذا يعني أن الحاسوب فقد كل المعلومات المحددة حول ما إذا كان الرمز التعبيري "متفائلاً" (bullish) أو "متشائماً" (bearish) قبل أن يبدأ في التفكير حتى. لقد بقي مع ليس لديه سوى عدد الرموز "غير المعروفة" في النص. وبناءً على ذلك، تعلم النموذج اتخاذ القرارات بناءً على كثافة هذه الرموز بدلاً من معناها. فإذا احتوت التغريدة على ثلاثة رموز أو أكثر من هذه الرموز العامة، فإن ثقة الحاسوب كانت ترتفع بشكل غير متوقع، مما يؤدي إلى زيادة حادة في الأخطاء. وقد أطلق الباحثون على هذه الظاهرة اسم "عمى المجزئ" (tokenizer blindness).

ولإصلاح ذلك، قدم الفريق طريقة تدريب وصفوها بأنها شكل من أشكال "التطعيم". فقد أخذوا التغريدات الإشكالية، وأزالوا الرموز التعبيرية، وأظهروا للحاسوب النص النظيف جنباً إلى جنب مع الإجابة الصحيحة. هذه العملية أزالت الارتباط الزائف بين وجود الرموز التعبيرية ومستوى ثقة الحاسوب. وأظهرت النتائج أن النموذج "المطعم" أصبح أكثر استقراراً؛ فعند إزالة الرموز التعبيرية من مدخلاته، لم يعد يصاب بالذعر أو يغير رأيه كما كان يفعل سابقاً. ومع ذلك، برز اكتشاف مفاجئ وحاسم من هذا النجاح؛ فبينما أصبح النموذج أكثر متانة وأقل عرضة للخداع بواسطة الرموز التعبيرية، فإن الطريقة التي يولي بها اهتماماً للكلمات داخل النص لم تتغير. لقد تعلم الحاسوب تجاهل الحيلة البصرية، لكنه لم يغير جوهرياً كيفية فهمه للغة.

أطلق الباحثون على هذه الظاهرة اسم "الانفصال التفسيري" (explanatory decoupling). وهذا يعني أن النظام الحاسوبي يمكن جعله أكثر موثوقية وأقل عرضة للخطأ دون أن يصبح في الواقع أكثر ذكاءً أو أكثر رسوخاً من الناحية الدلالية. يمكن للنموذج أن يتوقف عن الانخداع بالحيلة البصرية، ومع ذلك تظل عملية استنتاجه الداخلية كما هي تماماً. يتحدى هذا الاكتشاف الافتراض الشائع الذي يقول إنه إذا أصبحت تنبؤات النموذج أكثر استقراراً، فلا بد أن تكون تفسيراته أيضاً أكثر صدقاً. لقد أظهرت الدراسة أن الاستقرار والفهم شيئان منفصلان؛ إذ يمكن للنظام أن يكون متيناً دون أن يكون عميقاً. ولضمان الموثوقية الحقيقية، جادل الباحثون بأن الأنظمة المالية تحتاج إلى ما هو أكثر من مجرد درجات الدقة أو التنبؤات المستقرة؛ فهي تحتاج إلى وسيلة لقياس عدم اليقين تأخذ في الاعتبار هذه العيوب الخفية. ومن خلال الجمع بين أداتهم التشخيصية وطريقة تحسب مدى ثقة تنبؤات النموذج، أنشأوا شبكة أمان. يمكن لهذا النظام تحديد متى يكون النموذج غير متأكد، حتى لو لم يكن النموذج نفسه يعترف بذلك، مما يوفر طبقة حماية حاسمة لأنظمة التداول الآلية.

إن تداعيات هذا العمل تمتد إلى ما هو أبعد من مجرد إصلاح برنامج حاسوبي محدد. فهي تكشف عن ضعف جوهري في كيفية تفاعل الذكاء الاصطناعي مع اللغة البصرية للإنترنت. ففي بيئة التداول الخوارزمي عالية المخاطر، حيث تُتخذ القرارات في أجزاء من الثانية، يعد النظام الذي يعتمد على الكثافة البصرية بدلاً من المعنى الدلالي بمثابة قنبلة موقوتة. يمكن لمهاجم أن يتلاعب بإشارات السوق بسهولة عبر إضافة مجموعة من الرموز التعبيرية إلى رسالة محايدة أو سلبية، مما يخدع الحاسوب ويمنحه شعوراً زائفاً بالتفاؤل. لقد أظهر الباحثون أن هذا الهجوم سهل التنفيذ ومدمر الفعالية ضد الأنظمة غير المستعدة. ويشير عملهم إلى أن مستقبل الذكاء الاصطناعي المالي الموثوق يتطلب نهجاً جديداً لكيفية بناء هذه الأنظمة ومراجعتها. فلا يكفي جعل النماذج تحصل على الإجابة الصحيحة، بل يجب بناؤها لتفهم المعنى الكامن وراء الرموز، لضمان أن تكون ثقتها متجذرة في الواقع وليس في الأنماط العرضية لبيانات التدريب الخاصة بها.