Position: AI Agents in Scientific Teams Should Be Studied as Human-Agent Systems

ملخص تقني: يجب دراسة الوكلاء الذكيين في الفرق العلمية كأنظمة بشرية-وكيلة

بيان المشكلة
تحدد الورقة فجوة حرجة في الأدبيات الحالية المتعلقة بـ "العلماء الاصطناعيين" القائمين على النماذج اللغوية الكبيرة (LLMs). فبينما يركز البحث الحالي بشكل متزايد على القدرات المستقلة للوكلاء في إجراء الاكتشاف العلمي، فإن هذا المنظور يتجاهل إلى حد كبير الديناميكيات الاجتماعية والتعاونية المتأصلة في العمل الجماعي العلمي. غالبًا ما تعامل الأنظمة الحالية المشاركة البشرية على أنها تقتصر على وضع الأهداف رفيعة المستوى والتحقق النهائي، مما يفشل في مراعاة التعاون المشترك والمتكرر المعهود في الفرق البشرية-البشرية. ويجادل المؤلفون بأن دراسة العلماء الاصطناعيين بمعزل عن غيرهم يتجاهل "الجوانب الاجتماعية للعمل الجماعي العلمي" ويفشل في معالجة المخاطر القريبة، مثل تجانس الاستقصاء العلمي وتقليل تنوع المواضيع، والتي تنشأ عند نشر الوكلاء دون مراعاة الديناميكيات البشرية-الوكيلة.

المنهجية
يستخدم المؤلفون نهجًا متعدد الأوجه يجمع بين مراجعة الأدبيات، والتحليل التجريبي، وفحص دراسة الحالة من خلال منظور الأنظمة البشرية-الوكيلة (HAS).

1. مراجعة الأدبيات وتطبيق التصنيف: يراجع المؤلفون أنظمة العلماء الاصطناعيين الحديثة (مثل AI Scientist v2، وKosmos، وCo-Scientist، وDenario) ويصنفونها بناءً على قناة التغذية الراجعة البشرية الأساسية. ويتبنون تصنيفًا من (Zou et al. 2025a) لتحليل هذه الأنظمة عبر ثلاثة أبعاد:

   • النوع: تقييمي (تقييم الجودة)، أو توجيهي (تعليمات/انتقادات)، أو تصحيحي (تعديلات/إصلاحات).
   • درجة التفصيل (Granularity): خشنة (تقييم واحد للمخرج) أو دقيقة (تغذية راجعة مستهدفة خطوة بخطوة).
   • المرحلة: ما قبل المهمة (التخطيط)، أو منتصف المهمة (التنفيذ)، أو ما بعد المهمة (التقييم).
     وتكشف المراجعة أن معظم الأنظمة تعتمد على التغذية الراجعة على مستوى المنتج (ما بعد المهمة) أو على مستوى مرحلة الاكتشاف (منتصف المهمة)، مع وجود عدد قليل جدًا من الأنظمة التي تدعم التدخل المرن أو غير المتزامن أو دقيق التفاصيل.

2. التجربة التجريبية الأولية: لاختبار سلوك الوكيل فيما يتعلق بالتغذية الراجعة، أجرى المؤلفون تجربة باستخدام إطار عمل (ReAct) مع نموذج (GPT-5-mini) على معيار (AstaBench) للاكتشاف من البداية إلى النهاية (E2E). وقارنوا بين ثلاث حالات:

   • وكيل يعتمد أساسًا على التخطيط (Baseline).
   • وكيل مزود بأداة "اسأل المستخدم" وتصنيف للتغذية الراجعة في تعليمات النظام (System Prompt).
   • وكيل لديه تعليمات صريحة لكل خطوة بضرى استخدام أداة "اسأل المستخدم" دائمًا.
     استخدمت الدراسة نموذج (LLM-as-a-judge) لتصنيف نوع، ودرجة تفصيل، ومرحلة طلبات التغذية الراجعة.

3. تحليل دراسة الحالة: حلل المؤلفون حسابات منشورة لعلماء يتعاونون مع وكلاء (مثل "Vibe-coding" لنتيجة في نظرية التعقيد باستخدام Gemini 3 Pro؛ وتقليل النمذجة الفيزيائية باستخدام GPT-5) لتوضيح أنماط التعزيز المتبادل والتآزر نوعيًا.

4. النمذجة النظرية: يقترح المؤلفون نموذج منفعة مبسط للأنظمة البشرية-الوكيلة (HAS)، يُعرف بـ $U(H, A) = CA(H, A) - CD(H, A)$، حيث تمثل $CA$ ميزة التعاون (التكامل) وتمثل $CD$ عيب التعاون (تكاليف التنسيق).

النتائج الرئيسية

• قيود التغذية الراجعة: تشير مراجعة الأدبيات إلى أن غالبية أنظمة العلماء الاصطناعيين تقيد التفاعل البشري في أدوار إشرافية (تحديد النطاق، التدقيق، الموافقة) بدلاً من التعاون المستمر والمتكرر. وتعد التغذية الراجعة على مستوى المنتج هي الأكثر شيوعًا، بينما يندر التوجيه غير المتزامن والتدخل دقيق التفاصيل.
• سلوك التغذية الراجعة للوكيل: في التجربة الأولية، فشل الوكيل الذي لا يملك تعليمات صريحة لكل خطوة في معرفة متى يطلب المساعدة، وغالبًا ما كان يضع افتراضات في المواقف الغامضة. وعند إجباره على السؤال في كل خطوة، كان النوع المهيمن من التغذية الراجعة هو التقييمي (الذي يحدث في منتصف المهمة)، يليه التوجيهي (قبل المهمة). ونادرًا ما طُلب التغذية الراجعة التصحيحية. يشير هذا إلى أن الوكلاء الحاليين يواجهون صعوبة في التنظيم الذاتي لمعرفة متى يطلبون مدخلات بشرية تصحيحية دقيقة.
• أدلة المخاطر: تستشهد الورقة بأدلة على أن الأبحاث المعززة بالذكاء الاصطناعي يمكن أن تنتج ثلاثة أضعاف عدد الأوراق البحثية مع انخفاض بنسبة 5% في تنوع المواضيع المستكشفة. كما تسلط الضوء على مخاطر الهلوسة، وانتشار التحيز، وإمكانية "تراجع المهارات" لدى الباحثين المبتدئين الذين يسندون العمليات التأملية للآلة.
• أنماط التآزر: أظهرت دراسات الحالة أن التآزر الفعال يحدث عندما يقدم البشر الإطار المفاهيمي، والحكم المعرفي، والتحقق الإبستمولوجي، بينما يقوم الوكلاء بتسريع التنفيذ والصياغة. ومع ذلك، فإن هذا التآزر هش؛ فبدون إشراف الخبراء، تظهر الوكلاء أنماذج فشل مثل الثقة المبكرة وتجاوز القضايا المعقدة.

المساهمات الرئيسية

1. إعادة صياغة وحدة التحليل: تجادل الورقة بضرورة تحويل تركيز البحث من "العلماء الاصطناعيين" المستقلين إلى الأنظمة البشرية-الوكيلة (HAS)، حيث تكون وحدة التحليل هي الزوج (الإنسان-الوكيل).
2. تصنيف التفاعل: تقدم تصنيفًا مهيكلًا لأنظمة العلماء الاصطناعيين الحالية بناءً على قنوات التغذية الراجعة (المنتج، المرحلة، التخطيط، غير المتزامن) والأبعاد (النوع، درجة التفصيل، المرحلة)، مما يسلط الض الضوء على ندرة الأنظمة التي تدعم التعاون العميق والمتكرر.
3. إطار تخفيف المخاطر: تفترض أن منظور (HAS) ضروري لتخفيف المخاطر القريبة، بما في ذلك الهلوسة، والتحيز، وتآكل الخبرة العلمية، من خلال ضمان بقاء الإشراف البشري مدمجًا في حلقات الاكتشاف بدلاً من اختزاله في المراجعة اللاحقة.
4. مقترح إطار رياضي: يقدم المؤلفون نموذج منفعة ($U = CA - CD$) لتوجيه الأبحاء المستقبلية نحو تعظيم ميزة التعاون مع تقليل تكاليف التنسيق.
5. مسارات التقييم: تقترح الورقة استراتيجية تقييم مرحلية للأنظمة البشرية-الوكيلة، تنتقل من المؤشرات منخفضة التكلفة (مثل وقت المراجعة، كثافة التدخل، التآزر المحاكي للـ Oracle) إلى تقييمات "السنتر" (Centaur evaluations) الأكثر تكلفة (مقارنة الأنظمة البشرية-الوكيلة مقابل البشر والوكلاء بمفردهم)، لجعل تقييم التآزر البشري-الوكيل أمرًا ممكنًا.

الأهمية والادعاءات
تدعي الورقة أن دراسة العلماء الاصطناعيين كأنظمة (HAS) هي مسألة غير مستكشفة وغير مقدرة حق قدرها. وتكمن أهميتها في:

• تخفيف المخاطر القريبة: من خلال وضع المشاركة البشرية في المركز، يوفر منظور (HAS) مسارات ملموسة للكشف عن الهلوسة، ومنع التحيز، والحفاظ على المهارات العلمية التي قد تتدهور بسبب الاعتماد المفرط على الأتمتة.
• إطلاق التآزر: تشير إلى أن الاختراقات العلمية الحقيقية قد تتطلب "تآزرًا بشريًا-وكيلًا" حيث يتفوق الفريق المشترك على أي من العضوين بمفرده، وهي حالة لا يمكن الوصول إليها حاليًا من خلال الوكلاء المستقلين تمامًا أو البشر الذين يعملون في عزلة.
• اتجاه بحثي عملي: يجادل المؤلفون بأن تبني منظور (HAS) هو طريق عملي لتحقيق اكتشاف مشترك آمن وفعال بين الإنسان والوكيل. ويدعون إلى أبحاث جديدة لتطوير أطر رياضية ومقاييس تقييم تستهدف تحديدًا ديناميكيات التآزر البشري-الذكاء الاصطناعي في الاكتشاف العلمي، بدلاً من معاملة الوكلاء كمجرد أدوات تحسين مستقلة.

تخلص الورقة إلى أنه بينما يعد تقييم الأنظمة البشرية-الوكيلة (HAS) معقدًا ومكلفًا، فإن النهج المرحلي باستخدام مقاييس خفيفة الوزن يمكن أن يتحقق من فائدة هذه الأنظمة، مما يعزز في النهاية بيئة علمية حيث يعزز الذكاء الاصطناعي التأمل البشري بدلاً من استبداله.