BioForm-LM: Generative Design of Biologics Formulations via In-Context Learning and Physics-Informed Decoding
يُعد BioForm-LM نظاماً توليدياً مبتكراً يجمع بين المحاكاة الميكانيكية، والتعلم السياقي بلقطات قليلة، وفك التشفير المستند إلى الفيزياء لتصميم تركيبات بيولوجية جديدة تلقائياً، متفوقاً بشكل كبير على طرق التصنيف التقليدية وأخذ العينات العشوائية في الاختبارات المعيارية الواقعية.
إن صنع عقار بروتيني منقذ للحياة ليس سوى نصف المعركة؛ فنصفها الآخر يكمن في الحفاظ على استقراره بما يكفي ليبقى صامداً على الرف، أو في الحقنة، أو داخل جسم الإنسان. فالأدوية البيولوجية، والتي تشمل الأجسام المضادة والبروتينات المعقدة الأخرى، هي جزيئات هشة يمكن أن تتكتل بسهولة أو تفقد شكلها إذا لم يكن السائل الذي تذوب فيه متوازناً بشكل مثالي. ولعقود من الزمن، كان العثور على ذلك التوازن المثالي عملية بطيئة تعتمد على التجربة والخطأ اليدوي. يقوم العلماء بخلط البروتين مع محاليل منظمة وسكريات وأملاح مختلفة، ثم ينتظرون أسابيع ليروا ما إذا كان سيصمد أم لا. هذه العقبة مكلفة وتحد من سرعة وصول الأدوية الجديدة إلى المرضى، خاصة في الأماكن التي تفتقر إلى التبريد الموثوق. ويكمن التحدي الجوهري في أنه بينما يعرف العلماء القواعد الأساسية لكيفية تفاعل البروتينات مع بيئتها، إلا أن هناك القليل جداً من البيانات الواقعية المتاحة لتعليم الحواسيب كيفية التنبؤ بالمزيج المناسب لدواء جديد. ومعظم الأدوات الحاسوبية الموجودة حالياً لا يمكنها سوى ترتيب قائمة من المزيجات التي اقترحها البشر بالفعل؛ ولا يمكن لأي منها ابتكار مزيج جديد ومستقر من الصفر.
لقد قدم أحد الباحثين الآن نظاماً جديداً يسمى "BioForm-LM" يحاول حل هذه المشكلة عن طريق تعليم الكمبيوتر كيفية تخيل مزيجات دوائية مستقرة. وبدلاً من الاعتماد على مكتبات ضخمة من التجارب الماضية، والتي لا توجد لمعظم البروتينات الجديدة، يستخدم النظام استراتيجية ثلاثية الأجزاء. أولاً، يقوم بتشغيل محاكاة سريعة قائمة على الفيزياء تحاكي كيفية تصرف البروتينات في السوائل المختلفة. تولد هذه المحاكاة مليون مثال اصطناعي لمزيج البروتين واستقراره، مما يعلم الكمبيوتر القوانين الأساسية للكيمياء والفيزياء. ثانياً، يستخدم النظام نوعاً من الذكاء الاصطناعي يمكنه التعلم من أمثلة قليلة فقط. فعندما يريد عالم تثبيت بروتين جديد، فإنه يزود الكمبيوتر بثلاث إلى عشر قياسات حقيقية فقط من ذلك البروتين المحدد. يستخدم النظام هذه النقاط البيانية القليلة ليتكيف مع فهمه فوراً، دون الحاجة إلى إعادة التدريب. وأخيراً، يقوم "فاحص" متخصص، مدرب على نفس القواعد الفيزيائية، بمراجعة اقتراحات الكمبيوتر واختيار تلك التي من المرجح أن تنجح في العالم الحقيقي.
اختبر الباحث هذا النهج على مجموعة صغيرة ومنتقاة بعناً من ثمانية عشر تركيباً دوائياً واقعياً موجوداً في الأدبيات العلمية. وأظهرت النتائج أن النظام يمكنه توليد وصفات لمزيجات جديدة وقابلة للتطبيق كانت أفضل بكثير من التخمينات العشوائية. وفي حالة محددة تتعلق بجزء صغير من جسم مضاد، حقق النظام تطابقاً تاماً بين تنبؤاته والنتائج التجريبية الفعلية، باستخدام ثلاث نقاط بيانات حقيقية فقط لتوجيهه. وفي المتوسط، استكشف النظام مساحة كيميائية أكبر بخمس مرات تقريباً مما قد يغطيه البحث العشوائي، مما يشير إلى أنه تعلم أنماطاً حقيقية حول كيفية تثبيت البروتينات بدلاً من مجرد حفظ البيانات القديمة. كما أظهر النظام قدرته على التكيف مع أنواع مختلفة من البروتينات، حيث يغير استراتيجيته اعتماداً على الجزيء المحدد الذي يحاول إنقاذه.
ومع ذلك، يحرص المؤلف على ملاحظة أن هذه النتائج هي حالياً فرضيات حاسوبية، وليست أدوية نهائية. لم يتم اختبار النظام بعد في مختبر رطب للتأكد من أن المزيجات المولدة تعمل بالفعل في أنبوب اختبار فيزيائي. كما أن مجموعة البيانات المستخدمة للاختبار كانت صغيرة جداً، حيث احتوت على ثمانية عشر سجلاً فقط، مما يحد من كيفية تطبيق هذه النتائج على نطاق واسع اليوم. ويؤكد الباحث أن أداته مصممة لاقتراح مرشحين ليقوم العلماء باختبارهم، وليس لاستبدال العمل المخبري بالكامل. وهم ينظرون إلى هذا كخطوة أولى نحو مستقبل يمكن فيه للحواسيب تقليص الآلاف من المزيجات الممكنة بسرعة إلى حفنة من أكثرها واعداً، مما يوفر شهوراً من الفحص اليدوي. وبينما أظهر النظام وعداً كبيراً في المحاكاة، فإن الإثبات النهائي سيأتي من التجارب الفيزيائية التي تتحقق مما إذا كانت هذه الوصفات المولدة حاسوبياً يمكنها بالفعل الحفاظ على استقرار البروتينات الهشة لسنوات.
ملخص تقني: BioForm-LM
بيان المشكلة لا يزال تصميم التركيبات المستقرة للمواد البيولوجية (البروتينات، الأجسام المضادة) يمثل عقبة حرجة في تطوير الأدوية، وتتسم بالاعتماد على الفحص اليدوي، والخبرات الاستدلالية، ودورات المختبر البطيئة والمتكررة. توجد مشكلة كبيرة في ندرة البيانات: حيث تحتوي الأدبيات المفتوحة على ما يقرب من 100 إلى 200 تركيبة حقيقية فقط عبر جميع البروتينات، بينما معظم بيانات الفحص هي بيانات مملوكة لشركات (proprietary). علاوة على على ذلك، تقتصر الأدوات الحسابية الحالية على تسجيل النقاط أو ترتيب مجموعات المرشحين الثابتة؛ ولم تثبت أي طريقة سابقة القدرة على توليد وصفات التركيبات من العدم (de novo). تركز النماذج التوليدية الحالية على الجزيئات الصغيرة (SMILES) أو تسلسلات البروتين، بينما تفتقر أدوات تركيبات المواد البيولوجية إلى القدرة التوليدية.
المنهجية BioForm-LM هو نظام توليدي ثلاثي المراحل مصمم لمعالجة ندرة البيانات والافتقار إلى القدرة التوليدية في تصميم التركيبات. وهو يجمع بين المحاكاة الميكانيكية، والتعلم القليل السياق (in-context few-shot learning)، وفك التشفير المستند إلى الفيزياء.
المحاكي الميكانيكي (توليد بيانات التدريب المسبق): يقوم نموذج أمامي قائم على الفيزياء بتوليد 105 من الثلاثيات الاصطناعية المكونة من (واصف البروتين، الوصفة) ← درجات الاستقرار. يشفر المحاكي مكونين فيزيائيين:
نظرية DLVO الغروية: تحسب طاقة التفاعل (UDLVO) بناءً على القوى الكهروستاتيكية وقوى فان دير فالس، والتي يتم تعديلها بواسطة الأس الهيدروجيني (pH)، والقوة الأيونية، وأنواع المنظمات (buffer species).
حركية تجمع Lumry–Eyring: تنمذج معدلات التجمع (kagg) المعايرة مقابل بيانات قياس الفلورية الحرارية التفاضلية (DSF) من الأدبيات. يتم تطبيق تأثيرات المثبتات (مثل الترهالوز، السكروز) كاستدلالات بناءً على الترطيب التفضيلي وازدحام الأسموليتات.
المحول التوليدي داخل السياق (In-Context Generative Transformer): محول (Transformer) صغير يعمل بآلية فك التشفير فقط (decoder-only) يتراوح عدد معاملاته بين 10 إلى 150 مليون معلمة، تم تدريبه مسبقًا على المجموعة الاصطناعية. يتم ترميز التركيبة إلى تسلسل منفصل من 199 رمزًا (token)، يتضمن أنواع المنظمات، وحاويات الأس الهيدروجيني، وحاويات القوة الأيونية، وتركيزات المثبتات، بشرط أن تكون مرتبطة بواصفات البروتين (الوزن الجزيئي MW، نقطة التعادل الكهربائي pI، ودرجة حرارة التفكك الأساسية Tm).
الاستدلال: بالنسبة لبروتين جديد، يقوم النموذج بعملية التعلم داخل السياق. حيث يتم تزويده بـ K=3–10 من قياسات الاستقرار الحقيقية من الأدبيات المفتوحة كـ "سياق بادئ" (prefix context). ثم يقوم النموذج بتوليد N من الوصفات المرشحة بشكل تلقائي (autoregressively) دون أي تحديثات للتدرج (تجميد الأوزان)، مما يؤدي فعليًا إلى استيعاب التكيف البايزي (Bayesian adaptation) في عملية التمرير الأمامي.
الناقد المستند إلى الفيزياء وفك التشفير بنظام "أفضل من N" (Best-of-N): ناقد خفيف الوزن، وهو عبارة عن شبكة عصبية متعددة الطبقات (two-layer MLP) مستخلصة من المحاكي الميكانيكي، يعيد ترتيب المرشحين الـ N المولدين. يقلل الناقد من متوسط مربع الخطأ مقابل مخرجات المحاكي على البيانات الاصطناعية المحجوزة. يستخدم النظام فك التشفيد بنظام "أفضل من N"، حيث يختار المرشح صاحب أعلى درجة من الناقد لضمان بقاء المخرات ضمن مناطق منطقية فيزيائيًا ومتسقة مع البيانات الحقيقية.
المساهمات الرئيسية
أول نظام توليدي للتركيبات: يعد BioForm-LM أول عمل يطبق النماذج اللغوية التوليدية على تركيبات المواد البيولوجية، متجاوزًا مجرد ترتيب الوصفات الموجودة إلى اقتراح وصفات جديدة من العدم (de novo).
بنية مبتكرة: يدمج محاكيًا ميكانيكيًا، ومحولًا داخل السياق، وناقدًا فيزيائيًا في خط إنتاج واحد "من المحاكاة إلى الواقع" (sim-to-real) لتصميم الوصفات المنفصلة.
التكيف بالقليل من البيانات (Few-Shot Adaptation): أظهر النظام قدرة على التكيف التوليدي في ظل ندرة شديدة في البيانات، حيث يتطلب 3 إلى 10 نقاط بيانات حقيقية فقط للتخصص لبروتين جديد.
معيار مفتوح: قدم المؤلف BioFormBench، وهو مجموعة بيانات منسقة تضم 18 سجلًا مستخرجًا من الأدبيات (تشمل بروتينات IgG وscFv وFab)، تُستخدم للتقييم الصارم بطريقة "ترك البروتين الواحد خارج المجموعة" (LOPO).
النتائج تم التقييم باستخدام BioFormBench عبر التحقق المتبادل بطريقة LOPO:
الاستدعاء عند 10 (Recall@10): حقق BioForm-LM استدعاءً عند 10 قدره 0.167، متفوقًا على نموذج الغابة العشوائية (Random Forest) الذي سجل 0.080، ونموذج SVM الذي سجل 0.050.
التغطية: غطى النموذج 35.3% من مساحة التركيبات المنفصلة، وهي زيادة بمقدار 4.7 ضعف عن أخذ العينات العشوائي (7.5%)، مما يشير إلى تعلم البنية الفيزيائية الأساسية بدلاً من البحث غير الموجه.
المعايرة: أظهر النموذج معايرة متغيرة عبر البروتينات. ومن الجدير بالذكر أنه حقق معايرة مثالية (معامل سبيرمان r=1.0، p=0.0) على بروتين scFV (P2) باستخدام ثلاثة أمثلة فقط داخل السياق. وفي المقابل، أظهر بروتين IgG (P1) نظامًا استكشافيًا (r=−0.60)، حيث ضحى بارتباط الرتب مقابل تغطية أوسع.
دراسات الاستئصال (Ablation Studies): أدى إزالة التكيف داخل السياق إلى تقليل Recall@10 بنسبة 67%، بينما أدى إزالة الناقد الفيزيائي إلى تقليله بنسبة 33%، مما يؤكد أن كلا المكونين ضروريان.
التنوع: حافظت المرشحات المولدة على تنوع عالٍ (متوسط المسافة الزوجية ≈0.404) عبر جميع البروتينات، متجنبة انهيار النمط (mode collapse).
الأهمية والادعاءات يزعم البحث أن BioForm-LM يثبت أن الجمع بين التدريب المسبق الميكانيكي والتكيف داخل السياق هو مسار قابل للتطبيق للتصميم التوليدي في المجالات التي تكون فيها البيانات الحقيقية مكلفة ونادرة.
الأثر العملي: يمكن للنظام اقتراح 50 مرشحًا مستندًا إلى الفيزياء في ثوانٍ، مما قد يقلل الوقت المطلوب لتحديد التركيبات المستقرة من أشهر إلى أيام، وبالتالي تسريع الوصول إلى العلاج وتقليل التكاليف.
التواضع والقيود: صرح المؤلف صراحةً بأن المعيار الأولي (18 تركيبة) هو معيار تمهيدي، وأنه لم يتم إجراء أي تحقق مخبري رطب (wet-lab validation). الوصفات المولدة هي فرضيات حسابية تهدف إلى الفحص التجريبي، وليست تركيبات جاهزة للاستخدام. تم تقديم المعايرة المثالية لـ scFV كدافع للاختبار التجريبي وليس كبديل له.
خارطة الطريق المستقبلية: الأولويات العاجلة هي توسيع المعيار إلى أكثر من 100 سجل والبحث عن التحقق المخبري الرطب. الأهداف متوسطة المدى تشمل استبدال الفيزياء الاستدلالية بمحاكيات الديناميكا الجزيئية وتوسيع الأهداف لتشمل الاستمناع (immunogenicity) وقابلية التصنيع.