AutoProteinEngine: A Large Language Model Driven Agent Framework for Multimodal AutoML in Protein Engineering
يُعد AutoProteinEngine (AutoPE) إطار عمل لوكيل مدفوع بنماذج لغوية كبيرة يُمكّن علماء الأحياء الذين لا يمتلكون خبرة عميقة في التعلم العميق من إجراء تعلم آلي مؤتمت متعدد الوسائط لهندسة البروتين من خلال التعامل مع اختيار النماذج، وتحسين المعلمات الفائقة، واسترجاع البيانات عبر التفاعلات باللغة الطبيعية.
تخيل أنك شيف ماهر يحاول ابتكار طبق جديد، ولكن بدلاً من التوابل والخضروات، مكوناتك هي البروتينات—تلك الآلات الجزيئية الدقيقة والمعقدة التي تمد كل كائن حي بالطاقة. في عالم البيولوجيا، "هندسة البروتين" هي فن تعديل هذه الآلات الجزيئية لجعلها أفضل في أداء مهام محددة، مثل بناء أدوية جديدة أو ابتكار إنزيمات فائقة الكفاءة. لفترة طويلة، كان القيام بذلك يشبه محاولة إصلاح ساعة معقدة بمطرقة: كان العلماء يخمنون، ويختبرون، ويكررون العملية، وهي عملية كانت بطيئة، ومكلفة، وغالباً ما تنتهي بطرق مسدودة.
مؤخراً، وصلت أداة جديدة تسمى "التعلم العميق" إلى الساحة. فكر في التعلم العميق كأنه متدرب رقمي فائق الذكاء، قرأ كل كتب الطبخ في الكون ويمكنه التنبؤ بكيفية سلوك البروتين بمجرد النظر إلى وصفته. ومع ذلك، كانت هناك عقبة: هذا المتدرب الرقمي يتحدث لغة صعبة للغاية مكونة من أكواد رياضية وبرمجية معقدة. لم يكن معظم علماء البيولوجيا، وهم خبراء في "نكهة" الحياة، يتحدثون هذه الشفرة. لقد احتاجوا إلى مترجم. وهنا يبرز السؤال الكبير: كيف يمكننا السماح للعلماء العباقرة باستخدام هذه الأدوات الرقمية القوية دون إجبارهم على أن يصبحوا مبرمجين خبراء أولاً؟
هذا هو بالضبط ما تحاول ورقة "AutoProteinEngine" (أو AutoPE اختصاراً) حله. فقد بنى المؤلفون، وهم فريق من الباحثين من جامعات مختلفة وشركة للتكنولوجيا الحيوية، إطار عمل "وكيل" ذكي يعمل كمترجم عالمي بين العلماء البشر ونماذج التعلم العميق. فبدلاً من كتابة أسطر من الأكواد البرمجية، يمكن لعالم البيولوجيا ببساطة الدردشة مع النظام بلغة إنجليزية بسيطة، قائلاً أشياء مثل: "أحتاج إلى التنبؤ بكيفية تأثير تغيير هذا البروتين على حلاوته". ثم يتولى النظام المهمة، ويقوم بكل العمل الشاق خلف الكواليس.
تقدم الورقة AutoPE كإطار عمل يستخدم النماذج اللغوية الكبيرة (LLMs)—وهي نفس التكنولوجيا التي تشغل برامج الدردشة التفاعلية—لأتمتة العملية بأكملها للتعلم الآلي الخاص بالبروتينات. تم تصميم النظام للتعامل مع البيانات "متعددة الوسائط"، مما يعني أنه يمكنه فهم البروتينات بطريقتين مختلفتين في آن واحد: كتسلسل من الحروف (مثل الوصفة) وكبنية ثلاثية الأبعاد (مثل شكل الأوريغامي المطوي). وجد الباحثون أنه من خلال السماح للنموذج اللغوي الكبير باختيار أفضل النماذج، وضبط الإعدادات تلقائياً، وحتى جلب البيانات المفقودة من قواعد بيانات ضخمة عبر الإنترنت مثل PDB وUniProt، تمكنوا من إنشاء سير عمل أكثر سهولة في الاستخدام وأكثر فعالية.
في تجاربهم، اختبر الفريق AutoPE في مهمتين من العالم الحقيقي: التنبؤ بما إذا كان بروتين متحور يسمى "برازيين" (Brazzein) سيكون مذاقه حلواً، والتنبؤ بمستوى نشاط إنزيم يسمى "STM1221". وقارنوا نظامهم القائم على الدردشة بطريقتين أخريين: "الاستدلال الصفري" (zero-shot inference) (استخدام نموذج مدرب مسبقاً دون تدريب إضافي)، و"الضبط الدقيق اليدوي" (manual fine-tuning) (حيث يقوم مبرمج بشري خبير بتعديل النموذج بعناية). كانت النتائج واعدة؛ ففي مهمة تصنيف الحلاوة، حقق AutoPE مع الضبط التلقائي درجة F1 بلغت 0.7306 ودقة بلغت 0.8908، متفوقاً على طريقة الاستدلال الصفري بشكل كبير، ومتفوقاً على نهج الضبط اليدوي من حيث التوازن والمتانة. وفي مهمة انحدار نشاط الإنزيم، حقق AutoPE مع الضبط التلقائي أدنى معدلات الخطأ (RMSE قدره 0.3488) وأعلى قوة تفسيرية (درجة R2 بلغت 0.6805)، مما يشير إلى أنه يمكنه التنبؤ بسلوك الإنزيم بدقة أكبر من الطرق الأخرى التي تم اختبارها.
تشير الورقة إلى أن هذا النهج ينجح في سد الفجوة بين التعلم العميق المعقد والخبرة البيولوجية. وتقترح أنه من خلال استخدام اللغة الطبيعية لتوجيه العملية، يمكن للباحثين الذين ليس لديهم خلفية في علوم الكمبيوتر الآن الاستفادة من أدوات الذكاء الاصطناعي المتقدمة. النظام لا يكتفي فقط بتشغيل الأرقام؛ بل يعمل أيضاً كمساعد مفيد، حيث يشرح ما يفعله بلغة إنجليزية بسيطة، بل ويقوم أيضاً بتلخيص البيانات التي يجدها. وبينما يشير المؤلفون إلى أن هذه محاولة جديدة لإطار عمل "AutoML" متعدد الوسائط مخصص لهندسة البروتين، فإن نتائجهم تشير إلى أن هذا المسار يعد مساراً قابلاً للتطبيق لجعل هندسة البروتين أكثر سهولة وكفاءة، مما يسمح للعلماء بالتركيز على العلم بدلاً من البرمجيات.
ملخص تقني: محرك البروتين الآلي (AutoProteinEngine - AutoPE)
بيان المشكلة تعد هندسة البروتينات أمراً بالغ الأهمية للتطبيقات الطبية الحيوية مثل اكتشاف الأدوية وتحسين الإنزيمات، ومع ذلك، فإن الطرق التقليدية مثل التطور الموجه غالباً ما تكون غير فعالة وتستهلك الكثير من الموارد. وبينما حسنت نماذج التعلم العميق (مثل سلسلة ESM وAlphaFold) دقة التنبؤ، إلا أن تطبيقها لا يزال بعيد المنال بالنسبة للكثير من علماء الأحياء. وتتمثل العوائق الرئيسية في الحاجة إلى مهارات برمجة متخصصة لتدريب أو ضبط النماذج، وتعقيد تحسين المعلمات الفائقة (hyperparameter optimization)، وصعوبة المعالجة المسبقة لبيانات البروتين متعددة الوسائط (التسلسلات والرسوم البيانية/الأنظمة)، ونقص المعرفة المتخصصة في أطر التعلم الآلي المؤتمت (AutoML) الحالية. تتطلب أدوات AutoML الحالية بشكل عام خبرة حوسبية كبيرة وليست مصممة خصيصاً للأنماط ومصادر البيانات الخاصة بهندسة البروتينات.
المنهجية: محرك البروتين الآلي (AutoPE) لمعالجة هذه التحديات، يقترح المؤلفون AutoProteinEngine (AutoPE)، وهو إطار عمل وكيل (agent framework) يستفيد من النماذج اللغوية الكبيرة (LLMs) لتوجيه التعلم الآلي المؤتمت متعدد الوسائط المخصص لهندسة البروتينات. يعمل إطار العمل من خلال ثلاثة مكونات متكاملة:
واجهة اللغة الطبيعية: يحدد المستخدمون المهام (مثل "التنبؤ بتأثيرات الطفرات") عبر اللغة الطبيعية. يقوم النموذج اللغوي الكبير بالتحقق من المهمة مقابل "حديقة نماذج" (model zoo) محددة مسبقاً (بما في ذلك سلسلة ESM وAlphaFold) ويشارك في حوار لتوضقيق الطلبات الغامضة.
التخطيط والاسترجاع: باستخدام التوليد المعزز بالاسترجاع (RAG) على الأدبيات المتخصصة، يصيغ النموذج اللغوي خطة للمعالجة المسبقة للبيانات، واختيار النموذج، والتهيئة.
التعامل مع تعدد الوسائط: للمهام التي تتضمن بيانات التسلسل والرسوم البيانية معاً، يستخدم AutoPE مخطط دمج متأخر (late fusion scheme)، حيث يجمع بين التضمينات (embeddings) من وسائط مختلفة للاستففادة من المعلومات الهيكلية والتسلسلية المتكاملة.
تحسين التدريب: يقوم النموذج اللغوي بتحسين أطر التدريب العامة من خلال اختيار دوال الخسارة (loss functions)، وتحديد أحجام الدفعات (batch sizes) ومعدلات التعلم، وتطبيق التوقف المبكر (early stopping). كما يطبق تعزيز البيانات الخاص بالمهمة (مثل الطفرات العشوائية للتسلسلات، واضطرابات الرسوم البيانية للهياكل).
التحسين المؤتمت للمعلمات الفائقة (Auto HPO):
يقوم هذا النموذج بأتمتة البحث عن المعلمات الفائقة المثلى باستخدام مزيج من مقدر بارزن الشجري (Tree-structured Parzen Estimator - TPE) وخوارزمية هالفينج المتتالية غير المتزامنة (Asynchronous Successive Halving Algorithm - ASHA).
يقوم TPE بنمذجة احتمالية كون التكوينات تحقق أداءً عالياً، بينما تعمل ASHA على تحسين تخصيص الموارد عبر إنهاء التجارب ضعيفة الأداء مبكراً.
يدير النموذج اللغوي عملية التحسين (HPO)، حيث يلخص مدخلات المستخدم، ويتحقق من الإعدادات، ويترجم المقاييس الرقمية (مثل MSE، F1-score) إلى تعليقات باللغة الطبيعية للمستخدم.
الاسترجاع المؤتمت للبيانات:
يعمل النظام على تسهيل عملية الحصول على البيانات من قواعد البيانات العامة مثل PDB وUniProt. يقدم المستخدمون أوصافاً باللغة الطبيعية (مثل "تسلسل وهيكل الأنسولين البشري")، والتي يقوم النموذج اللغوي بتحليلها لبناء استعلامات قاعدة بيانات مهيكلة.
في حال فقدان البيانات، يوجه النموذج اللغوي المستخدم عبر حوار تفاعلي لإيجاد بدائل (مثل كائنات حية ذات صلة) أو يسمح بالإدخال اليدوي للبيانات عبر واجهة جدول قابلة للتحرير، مما يضمن اتساق البيانات للتحليل اللاحق.
المساهمات الرئيسية يحدد البحث ثلاث مساهمات رئيسية:
أول إطار عمل للتعلم الآلي المؤتمت متعدد الوسائط لهندسة البروتينات: يُقدم AutoPE كأول إطار عمل قادر على التعامل مع كل من نمط تسلسل البروتين ونمط الرسم البياني للبروتين ضمن سياق التعلم الآلي المؤتمت، والمصمم خصيصاً لهذا المجال.
سهولة الوصول عبر المحادثة: يتيح لعلماء الأحياء الذين ليس لديهم خلفية في التعلم العميق إجراء مهام AutoML معقدة من خلال التفاعل الحواري، مما يقلل بشكل كبير من حاجز الدخول.
الأتمتة المتكاملة: يجمع إطار العمل بشكل فريد بين تحسين المعلمات الفائقة المؤتمت عبر توجيه النماذج اللغوية الكبيرة وبين استرجاع البيانات المؤتمت من قواعد بيانات البروتين الرئيسية، مما يخلق سير عمل سلساً وشاملاً.
النتائج التجريبية قام المؤلفون بتقييم AutoPE في مهمتين من العالم الحقيقي:
الانحدار: التنبؤ بدرجات نشاط الإنزيم لطفرات STM1221 (234 مدخلاً).
تمت مقارنة الأداء مقابل الاستدلال صفري المعرفة (Zero-Shot Inference) (باستخدام ميزات ESM مع التعلم الآلي التقليدي) والضبط الدقيق اليدوي (Manual Fine-Tuning) (الذي قام به مهندس تعلم آلي خبير).
نتائج التصنيف: حقق AutoPE مع تحسين HPO أعلى درجة F1 (0.7306) وأعلى معامل ارتباط رتب سبيرمان (SRCC) (0.4621)، متفوقاً على كل من خط الأساس صفري المعرفة ونهج الضبط الدقيق اليدوي. وبينما حقق الضبط الدقيق اليدوي دقة عالية (0.9137)، إلا أنه أظهر درجة F1 أقل، مما يشير إلى احتمال حدوث فرط في التخصيص (overfitting). وفر AutoPE مع HPO توازناً أفضل بين الدقة (0.8908) والمتانة.
نتائج الانحدار: حقق AutoPE مع تحسين HPO أدنى قيمة لـ RMSE (0.3488) وMAE (0.1999)، وأعلى درجة R² (0.6805)، متفوقاً على جميع خطوط الأساس وعلى نسخة AutoPE غير المزودة بـ HPO.
الأهمية والادعاءات يزعم البحث أن AutoPE يسد الفجوة بفعالية بين قدرات التعلم العميق والخبرة المعرفية لعلماء الأحياء. ومن خلال دمج النماذج اللغوية الكبيرة مع التعلم الآلي المؤتمت، يعمل إطار العمل على دمقرطة الوصول إلى أدوات هندسة البروتينات المتقدمة، مما يسمح للباحثين بالاستفيد من نماذج التعلم العميق المعقدة دون معرفة واسعة بالبرمجة. ويؤكد المؤلفون أن النظام يحسن كفاءة البحث من خلال استرجاع البيانات المؤتمت وتحسين النماذج، مما يظهر مكاسب كبيرة في الأداء مقارنة بالنهج التقليدي صفري المعرفة والنهج اليدوي. يضع هذا العمل AutoPE كخطوة نحو عمليات هندسة بروتينات أكثر سهولة وكفاءة، مع إمكانية التوسع مستقبلاً في تصميم البروتينات من الصفر (de novo) وتوقعات التفاعل الأكثر تعقيداً.