🧬 biology

Adaptive Protein Tokenization

تقدم هذه الورقة البحثية "الترميز البروتيني التكيفي" (Adaptive Protein Tokenization)، وهو منهج ترميز عالمي يتغلب على قيود الأساليب المحلية الحالية من خلال الإضافة التدريجية للتفاصيل إلى تمثيلات البروتين، مما يحسن الأداء في مهام التوليد وإعادة البناء والتصنيف، مع تمكين الاستدلال التكيفي وتطبيقات مبتكرة مثل تقليص البروتين بصفر من الأمثلة (zero-shot protein shrinking).

المؤلفون الأصليون: Rohit Dilip, Ayush Varshney, David Van Valen

نُشر 2026-02-09

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Rohit Dilip, Ayush Varshney, David Van Valen

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ⚕️ هذا شرح مولَّده بالذكاء الاصطناعي لبحث مسبق لم يخضع لمراجعة الأقران. وهو ليس نصيحة طبية. لا تتخذ أي قرارات تتعلق بصحتك بناءً على هذا المحتوى. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول وصف منحوتة ثلاثية الأبعاد معقدة لصديق عبر الهاتف لكي يتمكن من بناء نسخة مطابقة لها تماماً.

الطريقة القديمة (الترميز المحلي - Local Tokenization):
حاولت معظم نماذج الذكاء الاصطناعي السابقة القيام بذلك عن طريق وصف المنحوتة قطعة بقطعة، مثل الفسيفساء. كانوا يقولون: "هنا قطعة من الطين للأنف، وهنا قطعة للأذن، وهنا قطعة للذقن". لقد ركزوا على المناطق الصغيرة والمحلية المحيطة بكل جزء من البروتين.

المشكلة: إذا ارتكبت خطأً بسيطاً في وصف الأنف، فقد ينتهي الأمر بالرأس بأكمله بشكل مائل. وأيضاً، إذا كانت المنحوتة ضخمة (مثل مجمع بروتيني عملاق)، فسيتعين عليك إرسال آلاف القطع الصغيرة، مما يجعل العملية بطيئة وغير فعالة. وإذا فاتتك قطعة واحدة، فإن الصورة بأكملها تنهار.

الطريقة الجديدة (الترميز التكيفي للبروتين - Adaptive Protein Tokenization):
يقترح مؤلفو هذه الورقة، روهيت ديليب وزملاؤه، طريقة أذكى لوصف المنحوتة. بدلاً من إرسال آلاف قطع الفسيفساء الصغيرة، يرسلون سلسلة من "اللقطات العالمية" التي تزداد تفصيلاً مع كل خطوة.

فكر في الأمر كأنك تقوم بالتكبير (Zoom in) على خريطة:

الرمز الأول (Token 1): "هذا جسم كبير ومستدير". (الصورة الكبيرة).
الرمز الثاني (Token 2): "له شكل طويل ومنحنٍ". (إضافة السياق).
الرمز الثالث (Token 3): "يوجد شكل حلزوني على الجانب الأيسر". (إضافة التفاصيل).
الرمز الرابع (Token 4): "الحلزون له ملمس محدد". (إضافة التفاصيل الدقيقة).

يُسمى هذا الترميز التكيفي (Adaptive Tokenization). فالذكاء الاصطناعي لا ينظر فقط إلى نقطة واحدة؛ بل يضيف كل رمز جديد طبقة من التفاصيل إلى هيكل البروتين بأك_مله.

كيف يعمل (المكونات السحرية)

قدمت الورقة أداة تسمى APT (المُرمِّز التكيفي للبروتين). وإليك كيف تعمل باستخدام تشبيهات بسيطة:

التسلسل الهرمي من "الخشن إلى الناعم" (Coarse-to-Fine): تخيل أنك تستمع إلى أغنية. أولاً، تسمع صوت الطبل الكبير (الإيقاع/الشكل العام). ثم تسمع اللحن. وأخيراً، تسمع أصوات الصنوج (Cymbals) عالية التردد (التفاصيل الدقيقة). يعمل APT بنفس الطريقة؛ حيث تصف الرموز الأولى الشكل العام للبروتين، ومع إضافة المزيد من الرموز، يقوم الذكاء الاصطناعي بملء التفاصيل الدقيقة.
زر "التوقف الذكي" (Smart Stop): في الطريقة القديمة، كان عليك إرسال جميع القطع للحصول على صورة جيدة. أما مع APT، فيمكن للذكاء الاصطناعي أن يقرر التوقف عن إرسال الرموز بمجرد حصوله على المعلومات الكافية للمهمة المطلوبة. إذا كنت تحتاج فقط لمعرفة الشكل العام للبروتين، يمكنك التوقف بعد 16 رمزاً. أما إذا كنت تريد بناء دواء دقيق، فقد تستخدم 64 رمزاً. هذا يوفر الوقت ويقلل الأخطاء.
ميزة "إلغاء الضجيج" (Noise-Canceling): نظرًا لأن الذكاء الاصطناعي يبني البروتين من "الصورة الكبيرة" نزولاً إلى التفاصيل، فإنه أقل عرضة لارتكاب خطأ قد يفسد الهيكل بأكمله. فإذا كان أحد التفاصيل الصغيرة غير دقيق قليلاً، يظل الشكل العام صحيحاً.

ما أثبتوه (النتائج)

اختبر الفريق هذه الطريقة الجديدة مقابل أفضل النماذج الحالية (مثل ESM3 و DPLM2) بثلاث طرق رئيسية:

إعادة البناء (Reconstruction): عندما حاولوا إعادة بناء بروتين من رموزه، كان APT بدقة أفضل النماذج الموجودة، ولكن يمكنه القيام بذلك بعدد أقل من الرموز.
ابتكار بروتينات جديدة (Generation): طلبوا من الذكاء الاصطناዊ ابتكار بروتينات جديدة تماماً. وخلقت الطريقة الجديدة بروتينات أكثر "قابلية للتصميم" (بمعنى أنه يمكن بناؤها في المختبر دون أن تنهار) مقارنة بالطرق القديمة. في الواقع، حققت نسبة نجاح بلغت حوالي 87%، متفوقة على القادة السابقين بفارق كبير.
فهم الوظيفة (Representation): اختبروا ما إذا كان بإمكان الذكاء الاصطناعي فهم ما يفعله البروتين بمجرد النظر إلى وصف رموزه. ووجدوا أن "الرؤية العالمية" لـ APT كانت أفضل في تصنيف أنواع البروتينات من النماذج التي تنظر فقط إلى الأجزاء المحلية.

حيل جديدة رائعة مكنتها هذه الطريقة

نظرًا لأن الذكاء الاصطناعي يفصل بين حجم البروتين وبين وصف شكله، فقد استعرض المؤلفون "خدعتين سحريتين" محددتين:

تقليص البروتين (Protein Shrinking): يمكنك أخذ بروتين كبير وإخبار الذكاء الاصطناعي: "حافظ على نفس الشكل، ولكن اجعله أصغر". نجح الذكاء الاصطنا_ي في تقليص البروتينات (مثل الهيموجلوبين) مع الحفاظ على هيكلها الأساسي سليماً. وهذا مفيد لصنع أدوية يمكنها الدخول إلى الخلار بسهولة أكبر.
نضج الألفة (Affinity Maturation - جعل الأشياء أكثر التصاقاً): إذا كان لديك بروتين يلتصق بالهدف بصعوبة (ارتباط ضعيف)، يمكنك استخدام الذكاء الاصطناعي لإنتاج متغيرات تلتصق بشكل أفضل. يمكن للذكاء الاصطناعي "البحث" عبر الاحتمالات لإيجال نسخة تعمل بشكل أفضل بكثير، مما يعني تطوير البروتين في ثوانٍ معدودة.

الخلاصة

تقدم هذه الورقة طريقة جديدة لكيفية "تحدث" الحواسيب عن أشكال البروتينات. فبدلاً من وصفها كمجموعة من الطوب الصغير الهش، هي تصفها كسلسلة من المخططات المتطورة. وهذا يجعل الذكاء الاصطناعي أسرع، وأكثر دقة، وأفضل في ابتكار بروتينات جديدة وقابلة للاستخدام في العلوم والطب.

ملاحظة: تركز الورقة على الطريقة الحسابية والقدرة على توليد وتقليص هياكل البروتين. وهي لا تدعي أن هذه البروتينات تُستخدم حالياً في التجارب السريرية البشرية أو كأدوية معتمدة، ولكنها تجعل هذه البروتينات "قابلة للتصميم" (أي قابلة للبناء والاختبار).

ملخص تقني: الترميز التكيفي للبروتين (Adaptive Protein Tokenization)

بيان المشكلة

تعتمد النهج الحالية لترميز بنية البروتين على المحلية (locality)، حيث يتم إنشاء الرموز (tokens) عن طريق تجميع المعلومات من الجيران المجاورين مكانياً للبقايا (residues) على طول تسلسل البروتين. وبينما تحقق هذه الأساليب إعادة بناء عالية الدقة، حدد المؤلفون قصورين حرجين:

تراكم الخطأ في التوليد: تعاني النماذج التوليدية القائمة على الترميز المحلي من انتشار الخطأ. يمكن لرمز واحد تم أخذ عينة خاطئة منه أن يؤدي إلى انحرافات كبيرة في البنية المتوقعة، مما يتسبب في أداء النماذج المتقطعة (discrete approaches) بشكل أقل كفاءة مقارنة بنماذج الانتشار المستمرة (continuous diffusion models) في مقاييس التوليد.
ضعف القابلية للتوسع: يتناسب عدد الرموز طردياً مع حجم البروتين. وهذا يجعل نمذجة المعقدات البروتينية الكبيرة مكلفة حوسبياً ويحد من القدرة على ضغط البروتينات بفعالية.
قيود التمثيل: غالباً ما تتطلب المرمّزات المحلية عمليات تجميع متوسط (mean-pooling) لتوليد تمثيلات ثابتة الحجم للمهام اللاحقة، مما قد يؤدي إلى فقدان المعلومات العالمية الحرجة ويتوسع بشكل سيئ مع حجم البروتين.

المنهجية

يقترح المؤلفون الترميز التكيفي للبروتين (APT)، وهو طريقة ترميز عالمية حيث تساهم الرموز المتعاقبة بمستويات متزايدة من التفاصيل في تمثيل عالمي، بدلاً من الارتباط بمجاورات محلية محددة.

البنية الهيكلية

يتم تنفيذ APT كـ مشفر تلقائي انتشار (diffusion autoencoder) مع عنق زجاجة متقطع:

المدخلات: تسلسل من إحداثيات $C_\alpha$ الخام (المطبعة إلى الصفر-كتلة) بطول $L$ .
المشفر (Encoder): محول انتباه ثنائي الاتجاه (bidirectional attention transformer) يربط المواقع الخام بتسلسل كامن $c \in \mathbb{R}^{L \times d}$ .
التجزئة (Discretization): يتم تجزئة التسلسل الكامن باستخدام الكمية القياسية المحدودة (FSQ) بمستويات $(8, 5, 5, 5)$ ، مما ينتج عنه حجم كتاب رموز (codebook) فعال قدره 1,000.
آلية التكيف: لفرض التكيف، يستخدم النموذج الإسقاط المتداخل (nested dropout). أثناء التدريب، يتم أخذ قطع علوي $U$ بشكل موحد من $[1, \min(L, k_{max})]$ . يتم إسقاط الرموز التي تتجاوز هذا القطع. هذا يشجع النموذج على وضع المعلومات العالمية الحرجة (المكونات منخفضة التردد) في الرموز الأولى ووضع التفاصيل عالية التردد في الرموز اللاحقة.
المفكك (Decoder): مفكك انتشار، مدرب باستخدام هدف مطابقة التدفق (flow-matching objective)، يعيد بناء الإحداثيات الذرية مشروطة بالرموز المتقطعة. يستخدم المفكك التماثل العشوائي (stochastic equivariance)، حيث يتعلم التماثلات بدلاً من فرضها صراحة.
توقع الحجم: يتم استرجاع حجم البروتين من الرمز الأول باستخدام فقدان الإنتروبيا المتقاطعة (cross-entropy loss)، مما يسمح للنموذج بفصل حجم البروتين عن طول تسلسل الشرط.

التدريب والاستدلال

التدريب: يتم تدريب النموذج على حوالي 473,000 تنبؤ من AlphaFold2 اصطناعي من قاعدة بيانات AFDB المصنفة بواسطة Foldseek. يتضمن التدريب مرحلتين: (1) تدريب المشفر التلقائي مع دورات دوران عشوائية لتعلم التماثل العشوائي، و(2) تدريب نموذج تلقائي الترتيب (على طراز GPT) فوق رموز APT.
استراتيجيات الاستدلال:
- إسقاط الذيل (Tail Dropout): أثناء التوليد، يمكن للنموذج التوقف عن توليد الرموز مبكراً. أي بادئة (prefix) لتسلسل الرموز تعتبر إشارة شرطية صالحة. يتم تفويض الذيل (التفاصيل عالية التردد) إلى مفكك الانتشار.
- التوقف القائم على الإنتروبيا: قدم المؤلفون معايير توقف قائمة على إنتروبيا الرمز (قطع نهائي، إنتروبيا دنيا قائمة على الـ spline) لتحديد النقطة المثلى لوقف التوليد، مما يوازن بين دقة التمثيل والقدرة التوليدية.
- **تخميد المصنف (Classifier Annealing):ما لتخفيف الآثار الاصطناعية الناتجة عن الابتعاد عن المجال الحقيقي للبيانات، يستخدم المؤلفون تخميد المصنف، حيث يتم الربط بين مجالات التوجيه الشرطية وغير الشرطية أثناء فك التشفيد.

المساهمات الرئيسية

مرمّز تكيفي عالمي: تقديم مرمّز حيث تمثل الرموز واصفات عالمية في تسلسل هرمي من الخشن إلى الناعم، بدلاً من المجاورات المحلية.
التحقق من الأداء: إثبات أن النموذج يضاهي أو يتفوق على المرمّزات المحلية ذات الحالة الراهنة (SOTA) (مثل DPLM2، وESM3، وKanzi) في مهام التوليد، وتعلم التمثيل، وإعادة البناء.
تقنيات وقت الاستدلال: تطوير أخذ عينات قائم على الإنتروبيا وتخميد المصنف لإدارة تعقيد العينات وتخفيف التعرض للخطأ، مما يؤدي إلى تحسين القدرة على التصميم.
تطبيقات صفرية القدرة (Zero-Shot): إظهار القدرة على فصل حجم البروتين عن تسلسل الشرط، مما يتيح تطبيقات صفرية القدرة مثل تقليص البروتين (protein shrinking) (تقليل عدد البقايا مع الحفاظ على البنية) ونضج الألفة (affinity maturation) عبر التوسع في وقت الاستدلال.

النتائج

إعادة البناء: في مجموعات اختبار CATH وCAMEO وAFDB، يحقق APT قيم RMSD وTM-scores تضاهي نماذج الانتشار المستمرة ذات الحالة الراهنة. ومن الملاحظ أن استخدام 32-64 رمزاً فقط يعطي قيم RMSD أقل من 2 أنغستروم، مما يؤكد قابلية ضغط بنيات البروتين.
التوليد: يحقق نموذج الترتيب التلقائي المدرب على رموز APT قدرة تصميمية تبلغ 0.871 (نسبة العينات التي تحقق scRMSD < 2 Å)، وهو ما يتفوق بشكل كبير على نماذج الانتشار المتقطعة مثل DPLM2 (0.486) وESM3. ويتم تحقيق ذلك دون الحاجة لتقنيات "أفضل من N" (best-of-N) لأخذ العينات.
تعلم التمثيل: في مهمة تصنيف CATH، يتفوق الفحص غير الخطي (MLP) على رموز APT على الفحص المطبق على تمثيلات ESM3 وDPLM2. والأهم من ذلك، يوفر APT تمثيلات عالمية ثابتة الحجم دون الحاجة لتجميع المتوسط، وحتى التمثيلات شديدة الضغط (16 رمزاً) تتفوق على النماذج الأكبر.
التطبيقات:
- تقليص البروتين: نجح في توليد نسخ أصغر من البروتينات (مثل الهيموجلوبين، والأسطوانة بيتا) مع الحفاظ على البنية العالمية والمحلية من خلال الشرط على عدد أقل من البقايا.
- نضج الألفة: أظهر القدرة على تطوير روابط ضعيفة إلى روابط قوية باستخدام البحث الشعاعي (beam search) الموجه بوظائف المكافأة (مثل iPAE) في الفضاء الكامن.

الأهمية

يزعم البحث أن الترميز التكييفي للبروتين يوفر نهجاً واعياً بالمهمة لتوسيع المهام البيولوجية. من خلال الانتقال من الترميز المحلي إلى العالمي، يحل هذا الأسلوب المقايضة بين دقة إعادة البناء والقدرة التوليدية. إن القدرة على ضغط البروتينات في متجهات ثابتة الحجم دون فقدان المعلومات عبر تجميع المتوسط توفر مساراً عملياً لنمذجة المعقدات البروتينية الكبيرة وإجراء التوسع في وقت الاستدلال. يضع المؤلفون هذا العمل كخطوة نحو نماذج توليدية قادرة على التفكير عبر مستويات متعددة من الطول، مما يعالج تحدياً رئيسياً في الهندسة الحيوية المتطورة.

ملاحظة: يقر المؤلفون بوجود قيود، وتحديداً أن رموز APT فعالة للمهام العالمية ولكنها أقل ملاءمة للمهام المحلية مثل سقالات النمط (motif scaffolding)، كما أن المرمّز الحالي لا يأخذ في الاعتبار السلاسل الجانبية أو تركيب الأحماض الأمينية، وهي أمور حاسمة لبعض الوظائف.