💻 bioinformatics

Scaling SMILES-Based Chemical Language Models for Therapeutic Peptide Engineering

تقدم الورقة البحثية PeptideCLM-2، وهو نموذج لغوي كيميائي تم تدريبه على أكثر من 100 مليون جزيء لسد الفجوة الحسابية في هندسة الببتيدات العلاجية من خلال التمثيل الأصلي للكيمياء الببتيدية المعقدة والتفوق على الأساليب الحالية في التنبؤ بنقاط النهاية الرئيسية للتطوير.

المؤلفون الأصليون: Feller, A. L., Secor, M., Swanson, S., Wilke, C. O., Deibler, K.

نُشر 2026-04-17

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Feller, A. L., Secor, M., Swanson, S., Wilke, C. O., Deibler, K.

البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ⚕️ هذا شرح مولَّده بالذكاء الاصطناعي لبحث مسبق لم يخضع لمراجعة الأقران. وهو ليس نصيحة طبية. لا تتخذ أي قرارات تتعلق بصحتك بناءً على هذا المحتوى. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول تعليم كمبيوتر فهم لغة الطب. حالياً، يمتلك الكمبيوتر قاموسين مختلفين تماماً، لكن لا أحد منهما مثالي لنوع معين من الأدوية يسمى الببتيدات العلاجية (therapeutic peptide).

إليك المشكلة:

قاموس البروتينات: هو رائع في فهم البروتينات الطبيعية (مثل تلك الموجودة في عضلاتك)، لكنه يعرف فقط الـ 20 "حرفاً" القياسية لأبجدية الأحماض الأمينية. يصاب بالارتباك إذا حاولت كتابة دواء باستخدام "حروف غريبة" أو تعديلات كيميائية.
قاموس الجزيئات الصغيرة: هو رائع للأدووة الصغيرة جداً (مثل الأسبرين)، لكنه يعاني عندما يصبح الدواء طويلاً ومعقداً، مثل سلسلة ببتيدية. يحاول قراءة كل ذرة على حدą، وهو أمر يشبه محاولة قراءة رواية عبر التحديق في كل نقطة حبر فردية على الصفحة. هذا يجعل العملية بطيئة جداً ويجعله يفقد الصورة الكبيرة.

الببتيدات العلاجية هي "المنطقة الوسطى المثالية" (Goldilocks) بين الأدوية: فهي أكبر من الجزيئات الصغيرة وأصغر من البروتينات الكاملة، وغالباً ما تحتوي على أجزاء كيميائية خاصة ومصممة خصيصاً لا توجد في الطبيعة. ولأن ذلك كان يحدث، فقد ظلت هذه الأدوقاء في "نقطة عمياء" حيث لم يستطع الكمبيوتر فهمها جيداً.

الحل: PeptideCLM-2

قام مؤلفو هذه الورقة البحثية ببناء "عقل" كمبيوتر جديد فائق الذكاء يسمى PeptideCLM-2. فكر فيه كمترجم عالمي تعلم التحدث بلغة الكيمياء بطلاقة، وتحديداً لهذه الببتيدات الدوائية الصعبة.

إليك كيف فعلوا ذلك، باستخدام بعض التشبيهات البسيطة:

1. خدعة "ملف الضغط (Zip File)" (الترميز - Tokenization)

الببتيدات هي سلاسل طويلة من الرموز الكيميائية. إذا قمت بتغذية نموذج كمبيوتر قياسي بسلسلة ببتيدية طويلة، فالأمر يشبه أن تطلب منه قراءة كتاب مكون من 1000 صفحة حيث تم تقسيم كل كلمة إلى حروف فردية. سيستغرق الأمر وقتاً طويلاً جداً.

لقد ابتكر الفريق مُرمّزاً (tokenizer) خاصاً (أداة ضغط). بدلاً من قراءة كل حرف بمفرده، يقوم بتجميع الأنماط الكيميائية الشائعة في "كتل" واحدة (مثل قراءة كلمات كاملة بدلاً من حروف منفصلة).

التشبيه: تخيل قراءة جملة. بدلاً من قراءة "ش-ا-ت-ر-ت-ر"، أنت تقرأ كلمة "Chatter" مباشرة. هذا جعل الكمبيوتر أسرع بنسبة 64% في قراءة السلاسل الببتيدية الطويلة دون فقدان أي معنى.

2. "مدرسة الأحجام" (التوسع - Scaling)

لقد بنوا تسعة إصدارات مختلفة من هذا الذكاء الاصطناعي، تتراوح من حجم "رياض الأطفال" (صغير) إلى حجم "الأستاذ الجامعي" (ضخم). واختبروا طريقتين لتعليمهم:

الطريقة (أ) (الكتاب المدرسي): إعطاء الكمبيوتر قائمة من الحقائق حول المواد الكيميائية (مثل "هذا الجزيء ثقيل" أو "هذا الجزيء دهني") وطلب حفظها.
الطريقة (ب) (اللغز): مجرد إعطاء الكمبيوتر ملايين الج جمل كيميائية وطلب منه تخمين الكلمات المفقودة، مما يجعله يكتشف قواعد الكيمياء بنفسه.

الاكتشاف الكبير:

النماذج الصغيرة: كانت الحواسيب الصغيرة مثل الطلاب الذين يحتاجون إلى الكتاب المدرسي. لقد فشلوا إذا لم تتوفر لديهم الحقائق الصريحة (الطريقة أ).
النماذج الضخمة: كانت الحواسيب العملاقة (التي تحتوي على 337 مليون معلمة/parameter) مثل العباقي. لم يحتاجوا إلى الكتاب المدرسي! فمن خلال قراءة ملايين الجمل الكيميائية فقط (الطريقة ب)، استنتجوا قوانين الفيزياء والكيمياء تلقائياً! لقد تعلموا أن "الجزيئات الثقيلة" و"الجزيئات الدهنية" تتصرف بطريقة معينة بمجرد رؤية الأنماط في النص.

3. "الكرة البلورية" (التنبؤ بالنجاح)

بمجرد تدريبه، اختبروا ما إذا كان بإمكان هذا الذكاء الاصطناعي التنبؤ بسلوكيات الأدوية في العالم الحقيقي. سألوه عن أشياء مثل:

هل يمكن لهذا الدواء عبور جدار الخلية؟ (النفاذية الغشائية)
هل سيجد الورم؟ (الاستهداف الورمي)
هل سيلتصق بنفسه ويتكتل؟ (التجمع/Aggregation)
كم من الوقت سيستمر في الدم؟ (عمر النصف)

النتائج:
تفوق PeptideCLM-2 على جميع الطرق الأفضل السابقة.

التشبيه: كانت الطرق السابقة تشبه محاولة تخمين الطقس من خلال النظر إلى سحابة واحدة. أما PeptideCLM-2 فهو يشبه امتلاك قمر صناعي يرى الغلاف الجوي بأكمله. لقد تنبأ باستقرار الدواء والقدرة على استهداف الأورام بدقة أعلى بكثير، حتى بالنسبة للأدوية ذات الأجز الأ كيميائية الغريبة والمصنوعة خصيصاً والتي لم يستطع أي كمبيوتر آخر التعامل معها.

لماذا هذا مهم؟

هذه الورقة البحثية هي نقطة تحول لأنها تجسر الفجوة بين "الكيمياء البسيطة" و"البيولوجيا المعقدة".

قبل: كان على العلماء تصميم ميزات معقدة يدوياً لكل دواء جديد، مثل بناء مفتاح مخصص لكل قفل.
الآن: مع PeptideCLM-2، يمكن للعلماء فقط إدخال السلسلة الكيميائية في الذكاء الاصطناعي، وهو "يفهمها". إنه يفهم الكيمياء بشكل حدسي.

لقد أطلق المؤلفون "عقلهم" (الشيفرة والبيانات) للجمهور، آملين في تسريع اكتشاف أدوية ببتيدية جديدة منقذة للحياة، تكون أكثر استقراراً، وأكثر فعالية، وأسهل في التصميم من أي وقت مضى. إنه يشبه منح مصممي الأدوية بوصلة فائقة القوة تشير مباشرة إلى أفضل التصاميم الكيميائية.

إليك ملخص تقني مفصل لورقة البحث بعنوان: "توسيع نطاق النماذج اللغوية الكيميائية القائمة على SMILES لهندسة الببتيدات العلاجية."

1. بيان المشكلة

تشغل الببتيدات العلاجية "نقطة عمياء" فريدة في اكتشاف الأدوية حاسوبياً، حيث تقع في منطقة وسطى بين الجزيئات الصغيرة والبروتينات.

محدودية نماذج لغة البروتين (pLMs): تقتصر النماذج مثل ESM أو ProtTrans على الأحماض الأمينية العشرين القياسية، ولا يمكنها ترميز الأحماض الأمينية غير القياسية، أو السلاسل الجانبية المعدلة كيميائياً، أو الهياكل الحلقية الشائعة في الببتيدات العلاجية.
محدودية النماذج اللغوية الكيميائية (CLMs): تم تدريب النماذج اللغوية الكيميائية القياسية (مثل ChemBERTa) على الجزيئات الصغيرة، وهي تعاني في التعامل مع التسلسلات الطويلة الشبيهة بالبوليمرات للببتيدات، كما تفتقر إلى النطاق السياقي لتفسير السمات (motifs) الخاصة بالببتيدات.
الحلول الالتفافية الحالية: يعتمد المجال حالياً على واصفات كيميائية ثابتة (التي تغفل التفاصيل الدقيقة) أو مسارات معقدة متعددة التضمينات (multi-embedding) مخصصة، وهي مسارات غير قابلة للتوسع أو التعميم.
الفجوة: هناك حاجة إلى إطار عمل موحد وقابل للتوسع يمكنه تمثيل التنوع الكيميائي الكامل للببتيدات العلاجية أصلياً (بما في ذلك التعديلات والهياكل الحلقية) مع التقاط القواعد الفيزيائية الحيوية المعقدة التي تحكم سلوكها.

2. المنهجية

قدم المؤلفون PeptideCLM-2، وهو مجموعة من تسعة مشفرات محولة (transformer encoders) تعتمد على SMILES، صُممت لسد الفجوة بين كيمياء الجزيئات الصغيرة والبوليمرات البيولوجية.

أ. تنقية البيانات والترميز (Tokenization)

المتن المركب (Composite Corpus): تم تدريب النماذج مسبقاً على أكثر من 100 مليون جزيء من ثلاثة مصادر متميزة لتغطية الامتداد من الجزيئات الصغيرة إلى البوليمرات البيولوجية:
- PubChem: حوالي 108 مليون جزيء شبيه بالدواء.
- LIPID MAPS: حوالي 50,000 ليبيد (Lipid).
- ESMAtlas: حوالي 9.6 مليون تسلسل ببتيدي (تم تصفيتها لضمان الثقة العالية وطول لا يتجاوز 100 حمض أميني).
ترميز k-mer: لمعالجة التكلفة الحسابية التربيعية ( $O(n^2)$ $O (n^{2})$ ) لآلية الانتباه الذاتي (self-attention) على سلاسل SMILES الطويلة للببتيدات، طور المؤلفون ترميز k-mer متخصصاً.
- يقوم برسم خرائط للنماذج الهيكلية الفرعية المتكررة إلى رموز (tokens) مفردة.
- النتيجة: يقلل طول التسلسل بنسبة 64% للببتيدات و38% للجزيئات الصغيرة مقارنة بالترميز على مستوى الذرة، دون التضحية بالدقة الدلالية.

ب. بنية النموذج

البنية الأساسية: مشفرات محولة (transformer encoders) من نوع BERT تستخدم تضمينات الموضع الدوارة (RoPE)، ودوال تفعيل SwiGLU، وتطبيع ما قبل الطبقة (pre-layer normalization).
التوسع (Scaling): تم تدريب ثلاثة أحجام من النماذج:
- صغير (Small): 32 مليون معلمة (6 طبقات).
- أساسي (Base): 114 مليون معلمة (12 طبقة).
- كبير (Large): 337 مليون معلمة (24 طبقة).
أهداف التدريب: تم تدريب كل حجم باستخدام ثلاثة نماذج متميزة لفصل تأثير الحجم عن الانحياز الاستقرائي (inductive bias):
1. نمذجة اللغة المقنعة (MLM): قناع النطاق (Span masking) لإعادة بناء الأجزاء الكيميائية (تعلم ذاتي التوجيه).
2. الانحدار متعدد المهام (MTR): التنبؤ بـ 99 واصفاً فيزيائياً كيميائياً مستمداً من RDKit (تعلم خاضع للإشراف).
3. الهدف المزدوج: نموذج هجين يجمع بين MLM وMTR.

ج. استراتيجية التقييم

تم تقييم النماذج عبر ست مهام متنوعة تتضمن كيمياء غير قياسية:

النفاذية الغشائية: مجموعة بيانات CycPeptMPDB.
الاستهداف الورمي: مجموعة بيانات THPep.
اختراق الخلايا: مجموعة بيانات CellPPD-Mod.
النشاط المضاد للميكروبات: معيار He et al.
الاستقرار في الدم (عمر النصف): مجموعة بيانات PepMSND.
ميل التجمع (Aggregation Propensity): مجموعة بيانات فلورة الثيوفلافين T (ThT) الخاصة.

3. المساهمات الرئيسية

إطار عمل موحد: يعد PeptideCLM-2 أول نموذج يتعامل أصلياً مع كامل طيف كيمياء الببتيدات العلاجية (الحلقية، المعدلة، وغير القياسية) باستخدام بنية قائمة على النصوص.
اكتشاف قوانين التوسع (Scaling Laws): تحددت في الورقة نقطة انتقال حرجة في النماذج اللغوية الكيميائية:
- النماذج الصغيرة (32M): تعتمد بشكل كبير على الانحياز الاستقرائي. فهي تؤدي بشكل سيئ مع MLM الصرف، ولكنها تتحسن بشكل كبير عند التدريب صراحةً على الواصفات الفيزيائية الكيميائية (MTR).
- النماذج الكبيرة (337M): تظهر ظهوراً تلقائياً للحدس الكيميائي. نماذج MLM ذاتية التوجيه الصرفة بهذا الحجم تستعيد أداء النماذج الخاضعة للإشراف، حيث تتعلم القواعد الفيزيائية الكيميائية (مثل الوزن الجزيئي، العطرية، الشحنة) مباشرة من بناء جمل SMILES دون إشراف صريح.
ترميز k-mer: استراتيجية ترميز مبتكرة تسمح بمعالجة السلاسل البيولوجية الطويلة بكفاءة، مما يحل المقايضة بين القدرة الحسابية والدقة الدلالية.
مورد مفتوح: أتاح المؤلفون جميع أوزان النماذج، وأدوات الترميز، وبيانات التدريب، والتعليمات البرمجية للجمهور لتعزيز إمكانية إعادة الإنتاج.

4. النتائج الرئيسية

التنظيم الفيزيائي الكيميائي: نظم نموذج MLM (337M) فضاءه الكامن تلقائياً حسب الوزن الجزيئي والعطرية، وهو ما ارتبط بقوة مع النفاذية الغشائية المقاسة، رغم أنه لم يُخبر أبداً بهذه القواعد صراحةً.
تفوق الأداء: تفوق PeptideCLM-2 (337M) على جميع النماذج المرجعية في جميع المهام:
- النفاذية الغشائية: AUROC 0.830 (مقابل 0.781 لأفضل نموذج سابق).
- الاستهداف الورمي: MCC 0.732 (مقابل 0.710 لـ THPep).
- اختراق الخلايا: MCC 0.875 (مقابل 0.850 لنموذج RF القائم على الواصفات).
- النشاط المضاد للميكروبات: MCC 0.813 (مقابل 0.797 لنموذج AmpHGT القائم على الرسوم البيانية).
- ميل التجمع: AUROC 0.823 (مقابل 0.579 لبصمات Morgan).
تعلم الميزات غير الخطية: كان الاختبار الخطي (linear probing) للميزات المجمدة ضعيفاً ( $R^2 < 0.3$ )، مما يشير إلى أن النماذج تتعلم تمثيلات معقدة وغير خطية. كان الضبط الدقيق الكامل (full fine-tuning) مطلوباً لإطلاق قدرتها التنبؤية.
التعميم: نجحت النماذج في التعميم على الأحماض الأمينية غير القياسية والتعديلات المعقدة (مثل اللبيدات أو البولي إيثيلين جلايكول - PEGylation) التي لا تستطيع نماذج البروتين القياسية معالجتها.

5. الأهمية

تحول في النموذج المعرفي: تثبت هذه الدراسة أن المحولات (transformers) الكبيرة بما يكفي يمكنها استخلاص القوانين الفيزيائية الأساسية من بناء الجمل الكيميائية وحدها، مما يقلل الحاجة إلى هندسة الميزات اليدوية المكلفة أو المسارات متعددة الوسائط.
الأثر العلاجي: من خلال التنبؤ بدقة بالنقاط النهائية الصعبة مثل عمر النصف، والاستهداف الورمي، وميل التجمع، يسرع PeptideCLM-2 عملية الانتقال من الفحص التجريبي إلى التصميم العقلاني للببتيدات العلاجية.
الرؤية المنهجية: يضع العمل قانون توسع للنماذج اللغوية الكيميائية، مما يشير إلى أنه بينما تحتاج النماذج الصغيرة إلى دعم فيزيائي، يمكن للنماذج الكبيرة تعلم هذه الأوليات ضمنياً، مما يوفر مساراً أكثر قابلية للتوسع لمستقبل اكتشاف الأدوية بالذكاء الاصطناعي.
سهولة الوصول: إن إصدار النماذج والبيانات يساهم في دمقرطة الوصول إلى أدوات نمذجة الببتيدات المتطورة، مما يتيح بحثاً أوسع في هندسة الببتيدات غير القياسية.