🧬 biology

Protein Folding with Neural Ordinary Differential Equations

تقترح هذه الورقة صياغة لنموذج "Evoformer" تعتمد على المعادلات التفاضلية العادية العصبية (Neural ODE) ذات العمق المستمر، مما يقلل بشكل كبير من التكاليف الحسابية واستهلاك الذاكرة مع الحفاظ على القدرة على التنبؤ ببنى بروتينية معقولة، مقدمةً بذلك بديلاً خفيف الوزن وتكيفياً للنماذج التقليدية للتعلم العميق مثل "AlphaFold".

المؤلفون الأصليون: Arielle Sanford, Shuo Sun, Christian B. Mendl

نُشر 2026-05-14

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Arielle Sanford, Shuo Sun, Christian B. Mendl

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ⚕️ هذا شرح مولَّده بالذكاء الاصطناعي لبحث مسبق لم يخضع لمراجعة الأقران. وهو ليس نصيحة طبية. لا تتخذ أي قرارات تتعلق بصحتك بناءً على هذا المحتوى. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول طي ورقة أوريغامي معقدة على شكل طائر كركي من ورقة واحدة. في عالم البيولوجيا، البروتينات تشبه أوراق الورق هذه، لكنها تتكون من سلاسل طويلة من الأحماض الأمينية التي تحتاج إلى الالتواء والالتفاف لتتخذ أشكالاً ثلاثية الأبعاد محددة لكي تعمل. وإذا طُويت بشكل خاطئ، فإنها لا تؤدي وظيفتها.

لفترة طويلة، كان "المعيار الذهبي" للتنبؤ بكيفية طي هذه البروتينات هو نظام يسمى AlphaFold. فكر في AlphaFold كفنان أوريغامي ماهر يستخدم دليلاً تعليمياً ضخماً وخطوة بخطوة. وللوصول إلى الشكل النهائي بشكل صحيح، يتعين على هذا الفنان المرور عبر 48 خطوة متميزة (تسمى "كتل"). وفي كل خطوة، ينظر إلى الورقة، ويجري تعديلاً طفيفاً، ثم يمررها إلى الخطوة التالية. وبحلول الوقت الذي ينهي فيه جميع الخطوات الـ 48، تكون الورقة مطوية بشكل مثالي.

ولكن، هناك عقبة: المرور عبر 48 خطوة هو أمر بطيء ويتطلب الكثير من الطاقة (قدرة حوسبية). الأمر يشبه الاضطرار إلى صعود درج مكون من 48 طابقاً، خطوة بخطوة، مع التوقف عند كل بسطة للتحقق من الخريطة.

الفكرة الجديدة: منزلق سلس بدلاً من الدرج

سأل مؤلفو هذه الورقة، آرييل سانفوردد، وشو صن، وكريستيان ب. مندل، سؤالاً بسيطاً: ماذا لو لم يكن علينا التوقف عند كل خطوة؟ ماذا لو استطعنا فقط التزحلق على منحدر سلس؟

لقد استلهموا فكرتهم من مفهوم رياضي يسمى المعادلات التفاضلية العادية العصبية (Neural Ordinary Differential Equations - Neural ODEs). وببساخ المقول، بدلاً من معاملة عملية الطي كسلسلة من 48 قفزة منفصلة وصلبة (خطوات متقطعة)، قاموا بنمذجتها كـ تدفق مستمر.

تخيل الفرق بين:

الطريقة القديمة (AlphaFold): أخذ 48 خطوة متميزة صعوداً على درج. عليك أن تتذكر بالضبط أين كنت في الخطوة 1، والخطوة 2، وصولاً إلى الخطوة 48. هذا يستغرق الكثير من المساحة الذهنية (الذاكرة) والوقت.
الطريقة الجديدة (Neural ODE Evoformer): التزحلق على منزلق سلس ومنحنٍ. أنت لا تتوقف عند نقاط محددة؛ بل تتدفق فقط من الأعلى إلى الأسفل. ولأنك لا تتوقف لـ "حفظ" موقعك عند كل بوصة، فأنت لا تحتاج لتذكر الكثير.

كيف فعلوا ذلك

بنى الباحثون نسخة جديدة من "محرك" AlphaFold (وهو الـ Evoformer) يعمل مثل هذا المنزلق السلس.

المحرك: بدلاً من 48 مجموعة مختلفة من التعليمات، استخدموا مجموعة واحدة فقط من التعليمات التي تتغير قليلاً أثناء تدفقها عبر الزمن.
النتيجة: استبدلوا الدرج المكون من 48 خطوة بدالة رياضية واحدة مستمرة.

ماذا وجدوا

اختبروا هذا "المنزلق" الجديد مقابل "الدرج" الأصلي باستخدام مجموعة بيانات من البروتينات. وإليكم ما حدث:

إنه أسرع وأرخص بكثير: كان النموذج الجديد فعالاً للغاية. فبينما استغرق AlphaFold الأصلي حوالي 65 ثانية للتنبؤ بشكل البروتين، قام النموذج الجديد بذلك في حوالي 5 ثوانٍ. أي أنه أسرع بأكثر من 10 مرات.
يوفر الذاكرة: لأن النموذج يتدفق باستمرار، فهو لا يحتاج إلى تخزين "لقطة" لكل خطوة. وهذا يعني أنه يمكنه العمل على بطاقة رسومات (GPU) عادية، مثل تلك التي قد تجدها في جهاز كمبيوتر للألعاب، بدلاً من الحاجة إلى سوبر كمبيوتر ضخم.
التدريب كان في غاية السهولة: استغرق AlphaFold الأصلي 11 يوماً من الحوسبة المتواصلة على مئات الرقائق القوية ليتعلم. أما هذا النموذج الجديد فقد تعلم المهمة نفسها في 17.5 ساعة فقط على جهاز كمبيوتر واحد متواضع.
الجودة: النموذج الجديد ليس مثالياً بعد. إنه يشبه متدرب أوريغامي جيد. فهو يدرك الصورة الكبيرة بشكل صحيح — حيث يطوي "الأذرع" و"الأرجل" الرئيسية (التي تسمى حلزونات ألفا) بشكل صحيح ويفهم الشكل العام. ومع ذلك، فإنه يواجه صعوبة أحياناً في التفاصيل الدقيقة والمعقدة، مثل الحلقات والالتواءات الضيقة، والتي يتقنها خبير الـ 48 خطوة الأصلي.

الخلاصة

لا تدعي هذه الورقة أنها حلت مشكلة طي البروتين تماماً أو أنها جاهزة للاستخدام الطبي الفوري. بدلاً من ذلك، هي تقدم إثباتاً للمفهوم.

إنها تظهر أننا نستطيع المقايضة بجزء بسيط من الدقة مقابل مكاسب هائلة في السرعة والكفاءة. ومن خلال تحويل عملية مكونة من 48 خطوة صلبة إلى تدفق سلس ومستمر، أثبت الباحثون أنه يمكننا بناء أدوات قوية لطي البروتين، تكون خفيفة الوزن، سريعة، ويمكنها العمل على الأجهزة المتاحة يومياً. إنها برهان على أن التزحلق على منحدر سلس يكون أحياناً طريقة أفضل بكثير للوصول إلى الأسفل من تسلق سلم مكون من 48 درجة.

ملخص تقني: طي البروتين باستخدام المعادلات التفاضلية العادية العصبية (Neural ODEs)

بيان المشكلة

تعتمد الاختراقات الأخيرة في التنبؤ ببنية البروتين، والتي تجسدت في نماذج مثل AlphaFold 2 و3، على بنيات عصبية عميقة مثل "Evoformer" لالتقاط القيود المكانية والتطورية المعقدة. يتكون الـ Evoformer من 48 كتلة متراكمة غير مشتركة في الأوزان، تعمل بشكل تكراري على تحسين تمثيلات محاذاًة التسلسلات المتعددة (MSA) وتمثيلات الثنائيات (pairwise). ورغم الدقة العالية، إلا أن هذه البنية تستهلك تكاليف حوسبة باهظة أثناء التدريب والاستنتاج بسبب عمقها والتقطيع الطبقي الجامد. كما أن العمق الثابت يحد من القدر_ة على الموازنة ديناميكياً بين وقت التشغيل والدقة. يعالج هذا العمل الحاجة إلى بديل أكثر كفاءة، وخفة، وقابلية للتفسير، يحافظ على القدرات التمثيلية الجوهرية لـ Evoformer مع تقليل متطلبات الموارد.

المنهجية

يقترح المؤلفون صياغة مستمرة العمق لـ Evoformer باستخدام المعادلات التفاضلية العادية العصبية (Neural ODEs). فبدلاً من تكديس 48 كتلة منفصلة، يقوم النموذج بتمثيل مشتق الحالة المخفية كدالة مستمرة للزمن (العمق) ودمجها باستخدام حلّال معادلات تفاضلية عددية.

تصميم البنية

يستبدل نموذج Neural ODE Evoformer المقترح التكدس المنفصل بحقل متجه مشترك واحد $f(m, z, t, \theta)$ يحكم تطور تمثيلات الـ MSA ( $m$ ) والتمثيلات الثنائية ( $z$ ) عبر متغير عمق مستمر $t$ .

بناء حقل المتجه: تقوم الدالة بتقريب التحويل التراكمي لكتلة واحدة من نوع Evoformer. حيث تحسب تمريرة كاملة لتحديثات بأسلوب Evoformer لتوليد حالات وسيطة $(m', z')$ ، ثم تحسب الفرق $(m'-m, z'-z)$ .
البوابات المعتمدة على الزمن: لضمان التطور السلس، يتم قياس الفروقات بواسطة دالات بوابية متعلمة $\sigma_m(t)$ و $\sigma_z(t)$ ، والتي تُنفذ عبر شبكة MLP ضحلة فوق متغير العمق القياسي $t$ . وتكون المعادلة التفاضلية الناتجة هي:
$\frac{d(m, z)}{dt} = (\sigma_m(t) \cdot (m' - m), \sigma_z(t) \cdot (z' - z))$
العمليات المبسطة: لتقليل عبء الذاكرة وتمكين التكامل، تبسط البنية عدة مكونات مقارنة بنموذج AlphaFold الأصلي:
- إغفال وحدات انتباه المثلث (incoming/outgoing).
- استخدام إسقاطات QKV مباشرة دون استخدام "chunked softmax" أو نوى مدمجة (fused kernels).
- استخدام متوسط الضرب الخارجي من رتبة منخفضة بدلاً من الضرب الخارجي الكامل.
- تقريب متماثل لتحديثات المثلث.
- استخدام MLP بسيط مكون من طبقتين لانتقالات الأزواج.
كفاءة الذاكرة: يستخدم النموذج طريقة الحساسية المرافقة (adjoint sensitivity method) للانتشار العكسي، مما يسمح بتكلفة ذاكرة ثابتة بالنسبة للعمق، حيث لا يلزم تخزين التنشيطات الوسيطة أثناء التمرير الأمامي.

استراتيجية التدريب

تم تدريب النموذج باستخدام OpenFold كمرجع لتوليد المسارات الحقيقية.

مجموعة البيانات: 500 مونومر بروتيني (370 بعد تصفية الطول) للتدريب، مع 50 بروتيناً للتحقق و50 للاختبار. شملت المدخلات التسلسلات الأولية، والـ MSAs (المجمعة بحد أقصى 64 تسلسلاً)، والقوالب الهيكلية من PDB70.
التدريب على مرحلتين:
1. المرحلة التمهيدية: تدريب تحت الإشراف على التمثيلات الوسيطة المأخوذة من الكتل 0، 8، 16، 24، 32، 40، و48 من OpenFold Evoformer لالتقاط ديناميكيات التطور التدريجي.
2. المرحلة الرئيسية: تدريب تحت الإشراف فقط على النقاط النهائية (المدخل للكتلة 1 مقابل مخرج الكتلة 48) لتعلم مسار التحويل الكامل.
الإعدادات: استخدم النموذج بُعداً مخفياً قدره 64 (موحد لكل من مسارات MSA والمسارات الثنائية، مقارنة بـ 384/128 في AlphaFold) وحلّال RK4 من الدرجة الرابعة الكلاسيكية. أُجري التدريب على وحدة معالجة رسومات واحدة من نوع NVIDIA Quadro P4000 لمدة 17.5 ساعة.

النتائج الرئيسية

الكفاءة الحسابية

أظهرت عمليات القياس المرجعي على 50 بروتيناً للاختبار (21–852 بقايا) تحسينات كبيرة في السرعة:

وقت التشغيل: بلغ متوسط وقت تشغيل Neural ODE Evoformer نحو 4.85 ثانية لكل بروتين، مقارنة بـ 65.06 ثانية لنموذج OpenFold Evoformer القياسي (تسريع بأكثر من 7 أضعاف لكل بقايا).
التوسع (Scaling): أظهر نموذج Neural ODE توسعاً خطياً مع طول التسلسل ( $time \approx 0.0046 \times residues$ )، بينما أظهر OpenFold توسعاً تربيعياً ( $time \approx 0.0006 \times residues^2$ ). وهذا يشير إلى أن نهج العمق المستمر يعد مفيداً بشكل خاص للبروتينات الطويلة.

الدقة الهيكلية

كشف الفحص البصري للهياكل المتوقعة للبروتينات 1fv5 و4epq و1ujs عن:

نقاط القوة: يلتقط النموذج عناصر البنية الثانوية بشكل موثوق، وخاصة حلزونات ألفا ( $\alpha$ -helices)، ويعكس الطبوغرافيا العالمية الرئيسية للبروتين.
القيود: لا يستطيع النموذج محاكاة دقة بنية الـ 48 كتلة الأصلية بشكل كامل. وتظهر الانحرافات في التفاصيل الدقيقة، وتحديداً في مناطق الحلقات (loops) والتعبئة العالمية.
المقارنة: رغم هذه الانحرافات، أنتج نموذج ODE هياكل أكثر تنظيماً وثقة أعلى من نموذج OpenFold المقتطع بـ 24 كتلة.

الأهمية والادعاءات

يضع هذا البحث عمله كـ إثبات مفهوم (proof of concept) للنماذج ذات العمق المستمر في نمذجة الجزيئات الحيوية. ويدعي المؤلفون ما يلي:

الجدوى: يمكن لنموذج الزمن المستمر تقريب التأثير التراكمي لـ 48 كتلة من نوع Evoformer، مما يؤكد فرضية أن التحسينات التدريجية يمكن نمذجتها كنظام ديناميكي سلس.
كفاءة الموارد: يحقق النهج تنبؤات هيكلية معقولة بموارد أقل بكثير (17.5 ساعة على وحدة معالجة رسومات واحدة) مقارنة بمجموعات الحوسبة الضخمة (مئات من وحدات TPU) المطلوبة لتدريب AlphaFold الأصلي.
المرونة: يوفر استخدام حلّالات ODE التكيفية مقايضة مبدئية بين وقت التشغيل والدقة، وهي مرونة تفتقر إليها البنيات ذات العمق الثابت.
القابلية للتفسير: توفر هذه الصياغة بديلاً خفيف الوزن وقابلاً للتفسير نظرياً للبنيات المتراكمة العميقة، مما يفتح آفاقاً جديدة لأطر التنبؤ بهيكل البروتين الأكثر كفاءة.

يشير المؤلفون صراحةً إلى أنه على الرغم من أن النموذج الحالي لا يطابق دقة AlphaFold بالكامل، إلا أنه يثبت أن تقريبات العمق المستمر يمكن أن تمثل بفعالية سلوكيات النماذج واسعة النطاق مع تقليل البصمة الحسابية بشكل كبير. ويُقترح في العمل المستقبلي تضمين مجموعات MSA أكبر، وزيادة الأبعاد المخفية، واستخدام حلّالات تكيفية، وأطوال تسلسل غير محدودة لتقليص فجوة الأداء بشكل أكبر.