Causal Transformer: Scaling Gradient-Based Causal Discovery to 500 Variables

تخيل أنك محقق يحاول حل لغز هائل: اكتشاف من أثر في من داخل غرفة مزدحمة. في عالم العلوم، يسمى هذا "الاكتشاف السببي" (Causal Discovery). وبدلاً من مجرد رؤية أن شيئين يحدثان في نفس الوقت (مثل زيادة مبيعات الآيس كريم وهجمات القروش معاً في الصيف)، يريد العلماء معرفة ما إذا كان أحدهما قد تسبب فعلياً في الآخر. وللقيام بذلك، يستخدمون نوعاً خاصاً من الخرائط يسمى "الرسم البياني الموجه غير الدوري" (أو DAG اختصاراً). فكر في الـ DAG كخريطة شوارع لمدينة ذات اتجاه واحد، حيث توضح الأسهم اتجاه التأثير، والقاعدة هي أنه لا يمكنك أبداً القيادة في دائرة والعودة إلى حيث بدأت. لفترة طويلة، كانت أفضل الأدوات لرسم هذه الخرائط تعمل بشكل رائع للمدن الصغيرة التي تضم أقل من 150 متغيراً (أي "الشوارع" أو "الأشخاص" في لغزنا)، ولكن بمجرد أن تصبح المدينة أكبر - لنقل 200 إلى 500 متغير، وهو حجم العديد من البيانات البيولوجية الحقيقية مثل جينات الإنسان - كانت تلك الأدوات القديمة ببساطة تتوقف عن العمل وتنهار. لقد اصطدمت بحائط، مما ترك العلماء عمياناً عن فهم الروابط في هذه الأنظمة المعقدة متوسطة الحجم.

يقدم هذا البحث أداة تحقيق جديدة تسمى "المحول السببي" (Causal Transformer أو CT)، وهي مصممة خصيصاً لحل الألغاز في نطاق المتغيرات الصعب الذي يتراوح بين 200 و500 متغير. قام المؤلف، بقيادة شوايدونغ غاو (Shuaidong Gao)، ببناء نظام يعامل كل متغير في البيانات كشخصية في قصة، باستخدام تقنية تسمى "الانتباه الذاتي" (Self-attention) (وهي تشبه كيف يركز القارئ على كلمات محددة في جملة لفهم الحبكة بأكملها). وبدلاً من محاولة تخمين الروابط واحداً تلو الآخر، ينظر هذا المحول الجديد إلى جميع الشخصيات في وقت واحد، مما يسم يسمح لها بـ "الانتباه" لبعضها البعض لمعرفة من يؤثر في من. ويقترح البحث أن هذا النهج لا يعمل فحسب، بل إنه يستيقظ ويبدأ في إيجاد الروابط تماماً في المواضع التي تفشل فيها الأدوات القديمة. وفي الاختبارات، نجح المحول الجديد في رسم خرائط لمئات الروابط في مجموعات بيانات عجزت أفضل الطرق السابقة عن إيجاد أي شيء فيها. ومع ذلك، وجد المؤلف أيضاً أن لهذه الأداة الجديدة حدودها الخاصة: فهي تعاني إذا كانت البيانات صغيرة جداً (أقل من 200 متغير)، أو إذا كانت البيانات مشوشة للغاية أو ثنائية (مثل مفتاح بسيط "نعم/لا")، وتنفد ذاكرة الكمبيوتر لديها في النهاية إذا أصبحت المدينة ضخمة جداً (حوالي 500 متغير).

المشكلة: فجوة "غولدي لوكس" (المنطقة المثالية)

تخيل أن لديك مجموعة من الأدوات لبناء منزل. لديك مطرقة تعمل بشكل مثالي لبيت دمية صغير (مجموعات بيانات صغيرة)، ورافعة ضخمة تعمل لناطحة سحاب (مجموعات بيانات ضخمة). ولكن ماذا لو كنت بحاجة لبناء منزل عائلي عادي؟ ستكون المطرقة ضعيفة جداً، والرافعة خرقاء ومكلفة للغاية. لسنوات، واجه العلماء الذين يحاولون رسم خرائط السبب والنتيث في علم الأحياء هذه المشكلة تماماً. فالطريقة الشهيرة، المسماة NOTEARS، كانت رائعة للمجموعات الصغيرة من المتغيرات (أقل من 150)، ولكن بمجرد أن يصل عدد المتغيرات إلى 200، يصبح الحساب ثقيلاً جداً، وتنهار الطريقة، لتعطي نتائج صفرية. لقد ترك هذا "فجوة غولدي لوكس" - وهو نطاق يتراوح بين 200 إلى 500 متغير، حيث تعيش معظم البيانات الواقعية (مثل التعبير الجيني في السرطان أو تصوير الدماغ) - وهو نطاق لم يستطع أحد حله بالأدوات الموجودة.

الحل: نوع جديد من المحققين

اقترح المؤلف بنية جديدة تسمى المحول السببي (CT). لفهم كيفية عمله، تخيل فصلاً دراسياً يضم 200 طالباً. حاولت الطريقة القديمة (NOT-EARS) معرفة من أثر في من عبر طلب تقرير من كل طالب عن كل طالب آخر بشكل فردي. كان هذا بطيئاً ومربكاً، وعندما أصبح الفصل كبيراً جداً، لم يستطع المعلم (الكمبيوتر) تتبع جميع التقارير، فاستسلم.

يغير "المحول السببي" قواعد اللعبة. فبدلاً من التقارير الفردية، يضع جميع الطلاب في غرفة واحدة ويسمح لهم بالتحدث مع بعضهم البعض في آن واحد باستخدام آلية "انتباه" خاصة. ينظر كل طالب (متغير) إلى الجميع ويقرر: "إلى أي مدى يجب أن أنتبه إليك؟". يتعلم النظام درجات الانتباه هذه لبناء خريطة توضح من يؤثر في من. والأهم من ذلك، أنه يحافظ على القاعدة التي تمنع وجود دائرة (لا يمكن لأحد أن يكون رئيس نفسه في حلقة مفرغة)، لكنه يبني الخريطة باستخدام هذا الحوار الجماعي بدلاً من التخمين الفردي.

الاكتشاف الكبير: إنه يستيقظ عند الرقم 200

أكثر النتائج إثارة في البحث هي "التحول الطوري"، أو التغيير المفاجئ في السلوك. أجرى المؤلف 80 تجربة مختلفة، مغيراً أحجام البيانات وإعدادات الأداة. ووجدوا ما يلي:

• في الأحجام الصغيرة (أقل من 100 متغير): كان المحول السببي هادئاً؛ فلم يجد سوى القليل من الروابط، وكان أداؤه أسوأ من الطريقة القديمة.
• عند الرقم السحري (200 متغير): استيقظت الأداة فجأة. بدأت في إيجاد مئات الروابط. في أحد الاختبارات بـ 200 متغير، وجد أكثر من 1,000 رابط (edge)، بينما وجدت الطريقة القديمة صفراً.
• في الأحجام المتوسطة (250-350 متغيراً): استمر في العمل، ونجح في رسم خرائط لبيانات واقعية معقدة من مرضى سرطان الثدي (TCGA-BRCA) حيث فشلت الطريقة القديمة تماماً.
• عند الحد الأقصى (500 متغير): اصطدمت الأداة بالحائط مرة أخرى، ولكن هذه المرة بسبب ذاكرة الكمبيوتر. كانت الخريطة التي تحاول رسمها ضخمة جداً (250,000 رابط) لدرجة أنها لم تتسع في ذاكرة الكمبيوتر، مما أدى إلى تعطل النظام.

لماذا يعمل: فريق "المتخصصين"

أحد أروع الأشياء التي اكتشفها المؤلف هو أن "رؤوس الانتباه" الداخلية للأداة (الأجزاء المختلفة من النظام التي تقوم بالنظر والمراقبة) بدأت تعمل كمتخصصين دون توجيه مسبق. في التجارب، أصبحت بعض الرؤوس بشكل طبيعي خبراء في إيجاد التأثيرات الإيجابية (مثل "أ تؤدي لزيادة ب")، بينما أصبحت رؤوس أخرى خبيرة في إيجاد التأثيرات السلبية (مثل "أ تؤدي لنقص ب"). حدث هذا تلقائياً، تماماً كما تتخصص أجزاء مختلفة من الدماغ البشري في مهام مختلفة. سمح هذا العمل الجماعي للأداة برؤية أنماط فاتتها الطريقة القديمة، التي كانت تعامل كل رابط كتخمين منفصل ومعزول.

دليل من الواقع: السرطان والجينات

لم يختبر المؤلف هذه الأداة على بيانات وهمية فحسب، بل جربها على بيانات سرطانية حقيقية من 10 أنواع مختلفة من الأورام.

• النتيجة: في المتوسط، وجد المحول السببي 198 اتصالاً سببياً لكل نوع من أنواع السرطان. بينما وجدت الطريقة القديمة صفر.
• التحقق: للتحقق مما إذا كانت هذه الروابط حقيقية، نظروا إلى "الجينات المركزية" (الأكثر تأثيراً). ووجدوا أن 75% من الجينات الرئيسية التي حددتها الأداة هي بالفعل جينات معروفة لدى الخبراء الطبيين كمحركات رئيسية للسرطان. وهذا يشير إلى أن الأداة لا تقوم بمجرد تخمينات عشوائية، بل تجد أنماطاً ذات معنى بيولوجي.
• العقبة: عندما جربوا الأداة على أنواع مختلفة من البيانات البيولوجية، مثل "مثيلة الحمض النووي" (DNA methylation) (وهي علامة كيميائية محددة على الحمض النووي)، فشلت الأداه مرة أخرى، حيث وجدت صفراً من الروابط. يوضح المؤلف أن هذا لأن بيانات المثيلة غالباً ما تكون "تعمل" أو "لا تعمل" (ثنائية)، مما يربك قدرة الأداة على رؤية الاختلافات الدقيقة. وهذا يخبرنا أن الأداة ممتازة لأنواع معينة من البيانات، لكنها ليست حلاً سحرياً لكل شيء.

الخلاصة

يعد "المحول السببي" أداة قوية جديدة تملأ فجوة حرجة في البحث العلمي. فهو يسمح للعلماء برسم علاقات السبب والنتيجة في الأنظمة المتوسطة الحجم والمعقدة (200 إلى 500 متغير) التي كان من المستحيل حلها سابقاً. يعمل من خلال السماسة المتغيرات بـ "الانتباه" لبعضها البعض، مما يخلق شبكة غنية من الروابط التي فاتت الطرق الأقدم والأبسط. وبينما له حدوده - فهو يعاني مع مجموعات البيانات الصغيرة جداً، وأنواع البيانات المحددة جداً، والبيانات الضخمة للغاية بسبب الذاكرة - إلا أنه يمثل خطوة كبيرة للأمام، محولاً "المنطقة الميتة" في الاكتشاف العلمي إلى خريطة صالحة للعمل. ويشير المؤلف إلى أنه مع التحسينات المستقبلية، يمكن لهذا النهج أن يساعدنا في فهم الأمراض المعقدة والأنظمة البيولوجية بشكل أفضل من أي وقت مضى، وكل ذلك باستخدام جهاز كمبيوتر قياسي.