The Generalist Strikes Back:\\A General LLM Agent Outperforms Specialist Bioinformatics Agents on Free-Form, End-to-End Benchmark Analysis
تُثبت هذه الورقة أن عميلاً لغوياً كبيراً عام الغرض (Claude Opus 5.5) يستخدم فقط أدوات برمجة جاهزة، يتفوق على وكلاء المعلوماتية الحيوية المتخصصين في اختبار معياري شامل، مما يكشف أن القيود الحالية في قياس التقدم تنبع أساساً من مشكلات موثوقية الاختبارات المعيارية بدلاً من قدرة العميل.
في عالم البيولوجيا الواسع والمعقد، يحاول العلماء باستمرار فهم كميات هائلة من البيانات. إنهم يدرسون مخططات الحياة، والبروتينات التي تبني أجسادنا، والطرق المعقدة التي تتواصل بها الخلايا. وللقيام بذلك، يعتمدون على برامج حاسوبية متخصصة تعمل كأنها مساعدون رقميون، يوجهون الباحثين عبر متاهة من الحسابات للعثور على الإجابات المختبئة في الأرقام. لسنوات طويلة، كانت الفكرة السائدة هي أنه للتعامل مع هذه المهام الصعبة، كنت بحاجة إلى مساعد مدرب تدريباً عالياً ومصمم خصيصاً لهذا الغرض. كانت هذه المتخصصات الرقمية مصممة بمجموعة محددة من الأدوات والقواعد، تماماً مثل نجار ماهر يحمل فقط المطارق والأزاميل اللازمة لأعمال النجارة، تاركاً وراءه كل شيء آخر. وكان الافتراض هو أن برنامج الحاسوب العام، الذي يمكنه القيام بأشياء كثيرة ولكنه لا يعرف شيئاً محدداً عن البيولوجيا، سيكون فظاً للغاية بحيث لا يستطيع منافسة هؤلاء الخبراء.
ومع ذلك، فقد تغير مشهد الذكاء الاصطناعي بسرعة. فقد ظهرت نماذج حاسوبية أحدث وأكثر قوة، يمكنها القراءة والاستنتاج وكتابة الأكواد البرمجية بمستوى من المهارة يضاهي الخبراء البشريين في مجالات عديدة. وهذا يثير سؤالاً عملياً للمجتمع العلمي: هل ما زلنا بحاجة إلى هؤلاء المساعدين المصممين خصيصاً، أم أن النموذج العام أصبح ذكياً بما يكفي للقيام بالمهمة بمفرده؟ لقد سعت دراسة حديثة للإجابة على هذا السؤال من خلال وضع ذكاء اصطناعي عام في مواجهة أفضل وكلاء المعلوماتية الحيوية (bioinformatics) المتخصصين المتاحين حالياً. أراد الباحثون معرفة ما إذا كان برنامج حاسوبي ذكي وشامل يمكنه حل مشكلات بيولوجية واقعية بنفس جودة، أو حتى أفضل من، الآلات التي صُنعت خصيصاً لهذه الوظيفة.
ركزت الدراسة على اختبار صارم يسمى "PromptBio-Bench"، والذي يحتوي على 244 تحدياً مختلفاً تتراوح من عمليات التحقق البسيطة من البيانات إلى التحليلات البيولوجية المعقدة. هذه المهام ليست أسئلة اختيار من متعدد ذات إجابة واحدة صحيحة؛ بل تتطلب من الحاسوب إنتاج ملفات فعلية، مثل جداول الأرقام، والرسوم البيانية، وقوائم الاختلافات الجينية، والتي يجب أن تطابق جودة وتنسيق ما ينتجه الخبير البشري. استخدم الباحثون نموذجاً عاماً متطوراً، يعمل في بيئة برمجة قياسية، وطلبوا منه حل كل مهمة. وقد اختبروه بطريقتين: مرة مع مكتبة ضخمة تضم 667 تعليمات بيولوجية متخصصة متاحة له، ومرة أخرى بدون أي من تلك التعليمات، معتمداً كلياً على معرفته الخاصة. ثم قارنوا أداءه مقابل ثلاثة وكلاء متخصصين رائدين تم تصميمهم خصيصاً للمعلوماتية الحيوية.
كانت النتائج مفاجئة. فقد تمكن النموذج العام، الذي يعمل دون أدوات بيولوجية خاصة، من إكمال كل مهمة من المهام الـ 244. وعند تقييم إجاباته مقابل المراجع الخبيرة، حقق معدل نجاح يقترب من 87 بالمائة. وكان هذا أعلى بكثير من الوكلاء المتخصصين، الذين سجلوا ما بين 72 و76 بالمائة. كما أدى النموذج العام أداءً جيداً بشكل خاص في المهام الأكثر صعوبة، حيث يميل الوكلاء المتخصصون إلى التعثر. والأمر الأكثر إثارة للدهشة كان فيما يتعلق بالتعليمات المتخصصة؛ فقد اكتشف الباحثون أن النموذج العام لم يستخدم في الواقع أي واحدة من الـ 667 مهارة بيولوجية التي أتيحت له الوصول إليها. لقد حل المشكلات باستخدام استنتاجه الداخلي. ولم يكن الفرق الصغير في الدرجات بين النسخة المزودة بالمهارات والنسخة الخالية منها ناتجاً عن المهارات نفسها، بل كان بسبب اختلافات طفيفة وعشوائية في كيفية اتخاذ النموذج لبعض القرارات المحددة أثناء العملية.
كما كشفت الدراسة أن الاختبار نفسه كان به بعض العيوب. فعندما فحص الباحثون بدقة المهام التي فشل فيها النموذج العام، وجدوا أن العديد من حالات الفشل لم تكن أخطاءً من الحاسوب، بل كانت أخطاءً في نظام التصحيح الخاص بالاختبار أو في الإجابات "الصحيحة" التي قدمها واضعو الاختبار. على سبيل المثال، كانت بعض الإجابات المرجعية مبنية على بيانات قديمة أو استندت إلى افتراضات لم تكن موضحة بوضوح في السؤال الأصلي. وبعد إصلاح هذه المشكلات في نظام التصحيح، ارتفع معدل نجاح النموذج العام بشكل أكبر، ليصل إلى أكثر من 92 بالمائة. وهذا يشير إلى أن المعيار لم يكن يقيس قدرة الحاسوب على القيام بالبيولوجيا بقدر ما كان يقيس قدرة الحاسوب على تخمين ما يريده واضعو الاختبار.
في نهاية المطاف، تشير الأبحاث إلى أنه بالنسبة للتحليلات البيولوجية محددة المعالم، أصبح الذكاء الاصطناعي العام القوي قادراً على مضاهاة أو تجاوز أداء الأنظمة المصممة خصيصاً لهذا المجال. إن الوكلاء المتخصصين، بأدواتهم المختارة وهياكلهم المعقدة، لم يعودوا المسار الوحيد للمضي قدماً. وتشير الدراسة إلى أن القيد الرئيسي في قياس التقدم لم يعد يكمن في قدرات الوكلاء أنفسهم، بل في موثوقية الاختبارات المستخدمة للحكم عليهم. ومع استمرار تحسن هذه النماذج العامة، قد يحتاج التركيز في المجتمع العلمي إلى الانتقال من بناء أدوات أكثر تخصصاً إلى إنشاء طرق أكثر قوة وعدالة لتقييم مدى فاعلية هذه الأنظمة الذكية حقاً.
ملخص تقني: عودة العامّ (The Generalist Strikes Back)
بيان المشكلة يتزايد استخدام نماذج اللغات الكبيرة (LLMs) في مجال المعلوماتية الحيوية (Bioinformatics) لأتمتة سير العمل الحسابي المعقد والشامل. وقد ظهر "جيل ثانٍ" من الوكلاء المتخصصين (مثل Biomni وSTELLA وToolsGenie)، والتي تقوم بتغليف نماذج اللغات الكبيرة بمجموعات أدوات منسقة، وهياكل متعددة الوكلاء، وقواعد معرفية متخصصة في المجال للتعامل مع البيانات البيولوجية. ومع ذلك، لا يزال من غير الواضح ما إذا كانت هذه الأطر المتخصصة لا تزال ضرورية بالنظر إلى التقدم السريع في نماذج اللغات الكبيرة العامة الرائدة وحوامل البرمجة الأصلية الخاصة بها. علاوة على ذلك، لم يتم اختبار جدوى "مهارات الوكيل" (Agent Skills)—وهي تعليمات ومكتبات برمجية مخصصة وجاهزة للاستخدام لمجالات محددة—بشكل صارم مقابل النماذج العامة القوية في اختبارات معيارية شاملة (End-to-end). تبحث هذه الدراسة فيما إذا كان بإمكان نموذج عام رائد، مجهز بحامل برمجي قياسي، أن يتفوق على وكلاء المعلوماتية الحيوية المصممين لأغراض محددة، وما إذا كانت المهارات المتخصصة في المجال توفر ميزة قابلة للقياس.
المنهجية استخدمت الدراسة PromptBio-Bench، وهو معيار يتكون من 244 مهمة حرة تشمل المعلوماتية الحيوية وعلوم البيانات، تتطلب من الوكلاء إنتاج ملفات مخرجات (محاذات، تحديد المتغيرات، جداول، أشكال بيانية) بدلاً من مجرد إجابات اختيار من متعدد.
تكوين الوكيل:
الوكيل العام: نموذج رائد، Claude Opus 5.5 (وضع الجهد العالي)، يعمل ضمن حامل Claude Code.
التكوينات: تم إجراء تشغيلين: أحدهما مع تثبيت 667 مهارة معلوماتية حيوية (من مكتبات bioSkills وClawBio) والآخر بدون مهارات.
التنفيذ: تم حل المهام بواسطة وكلاء فرعيين مستقلين في بيئة Conda مشتركة مع حد زمني قدره ساعة واحدة. يمكن للوكيل تثبيت الحزم، واستخدام الويب، وتكرار النتائج.
المقارنات المرجعية المتخصصة: تم أخذ نتائج Biomni وSTELLA وToolsGenie (جميعها تعتمد على Claude Sonnet 4.6 أو مختلطة مع Gemini 2.5 Pro) من الإصدار الأصلي لـ PromptBio-Bench.
إطار التقييم:
الإطار الأصلي: استخدم المقيم المعياري الموجود مسبقاً مع حكم يعتمد على نموذج لغوي كبير (في البداية GPT-5.4، ثم تم تحديثه إلى GPT-5.6/5.6-sol) لتسجيل درجات ملفات المخرجات مقابل مراجع الخبراء.
تحليل الفشل والتصحيح: قام المؤلف بإجراء تحليل دقيق للفشل على 32 مهمة سجلت أقل من 0.5 لنموذج Claude مع المهارات تحت الإطار الأصلي. حدد هذا التحليل 11 عيباً في المقيم (مثل منطق تسجيل درجات الجداول الخاطئ، وأخطاء اكتشاف التنسيق) بالإضافة إلى عدة عيوب في الإجابات المرجعية (بيانات قديمة، ترميز أليل خاطئ). والأهم من ذلك، كشف التحليل أن 8 مهام فقط من هذه الـ 32 كانت أخطاءً فعلية أو خيارات سيئة من قبل الوكيل. تم تطوير مقيم ثابت لتصحيح العيوب المحددة دون تغيير المهام أو المراجع.
الأحكام: تم تطبيق الإطار الثابت باستخدام عائلتين مستقلتين من الأحكام: GPT-5.6-sol/6.1-sol وClaude Opus 5.5 (في وضع بدون أدوات/headless) لتقييم الاتفاق وتقليل الانحياز.
تم إجراء تحليل للنصوص (Transcript analysis) للتحقق مما إذا كانت المهارات قد استُدعيت بالفعل أثناء التنفيذ.
المساهمات الرئيسية
قياس الأداء: تقييم مباشر بين نموذج عام رائد (Claude Opus 5.5) وثلاثة من أفضل وكلاء المعلوماتية الحيوية المتخصصين (Biomni، STELLA، ToolsGenie) على PromptBio-Bench.
اختبار فعالية المهارات: مقارنة مضبوطة للوكيل العام مع وبدون 667 مهارة معلوماتية حيوية لتحديد المنفعة الهامشية للسقالات (Scaffolding) المتخصصة في المجال.
تدقيق موثوقية المعيار: تحليل شامل للفشل كشف عن عيوب كبيرة في مقيم المعيار وفي الإجابات المرجعية، مما أدى إلى تطوير إطار تقييم مصحح.
الشفافية: إصدار المقيم المصحح، ونصوص الوكيل، وسجلات التسجيل التفصيلية لدعم قابلية إعادة الإنتاج.
النتائج
العام مقابل المتخصصين: تحت إطار التقييم الأصلي، حقق الوكيل العام (Claude Opus 5.5 + المهارات) دقة قدرها 0.869، متفوقاً على Biomni (0.758)، وToolsGenie (0.758)، وSTELLA (0.717). كان التفوق أكثر وضوحاً في مهام المعلوماتية الحيوية متوسطة وعالية الصعوبة. أكمل الوكيل العام 100% من المهام، بينما تراوحت معدلات الإكمال لدى المتخصصين بين 88% و99%.
تأثير المهارات: وفرت إضافة 667 مهارة معلوماتية حيوية زيادة هامشية في الدقة تتراوح بين 2.5 إلى 4.5 نقطة اعتماداً على الحكم. والأهم من ذلك، كشف تحليل النصوص أن الوكيل لم يستدعِ مهارة واحدة أبداً خلال 441 جلسة. عُزي فرق الأداء الملحوظ إلى التباين في قرارات الحكم من تشغيل لآخر (مثل القيم الافتراضية للمعلمات) بدلاً من استخدام محتوى المهارات.
عيوب المعيار: كشف تحليل الفشل لـ 32 مهمة سجلت أقل من 0.5 تحت الإطار الأصلي أن 8 مهام فقط كانت أخطاءً من الوكيل. كانت غالبية المهام عبارة عن عيوب في المقيم (16 مهمة) أو عيوب في المراجع (3 مهام)، بينما اعتمدت البقية على إعدادات غير مذكورة.
إعادة تسجيل الأداء: مع المقيم الثابت وحكم Claude، وصل الوكيل العام (مع المهارات) إلى دقة 0.926، وبدون المهارات وصل إلى 0.902. ظلت الفجوة بين التكوينين صغيرة وحدودية إحصائياً، مما يعزز فكرة أن المهارات لم تكن هي المحرك للأداء.
الإخفاقات المتبقية: من بين حوالي 18 مهمة فشلت تحت أفضل مقيم، كان هناك 7 مهام بسبب عيوب المراجع (استخدام بيانات مختلفة أو ترميز أليل خاطئ)، و4 مهام اعتمدت على إعدادات غير مذكورة، و7 مهام فقط كانت تعزى إلى خيارات الوكيل (معظمها بدائل دفاعية أو انحرافات طفيفة عن القيم الافتراضية).
الأهمية والادعاءات يزعم البحث أن نماذج اللغات الكبيرة العامة الرائدة في حوامل البرمجة الجاهزة باتت الآن تضاهي أو تتجاوز أداء وكلاء المعلوماتية الحيوية المصممين لأغراض محددة في مهام التحليل الحرة والواقعية. تشير الدراسة إلى أن "السقالات" (Scaffolding) التي يوفرها الوكلاء المتخصصون (الأدوات المنسقة وتصميمات الوكلاء المتعددين) تقدم عوائد متناقصة عندما يكون النموذج الأساسي قادراً بما يكفي.
يجادل المؤلف بأن موثوقية المعيار، وليس قدرة الوكيل، أصبحت هي العائق الرئيسي أمام قياس التقدم في هذا المجال. تسلط الدراسة الضوء على أن المعايير الحالية غالباً ما تعاني من عيوب في المقيم وعدم تحديد المهام، مما قد يحجب القدرات الحقيقية للوكلاء المتقدمين. وتخلص الورقة إلى أنه بينما لا تزال المنصات المتخصصة تقدم قيمة في مجالات مثل الحوكمة، وإثبات المصدر (Provenance)، وواجهات المستخدم، فإن القدرة التحليلية الجوهرية للمهام المحددة جيداً قد انتقلت إلى النموذج العام نفسه. وتدعو الورقة المجتمع العلمي إلى إعطاء الأولوية للمراجع القوية، والفحوصات الحتمية، وبروتوكولات التكرار لتتبع تقدم الوكلاء الرائدين بدقة.