It's Not the Capability: Harness Sensitivity Is Non-Monotone Across LLM Agent Tiers
تُفند هذه الورقة الافتراض القائل بأن تعقيد أدوات التقييم الأمثل يتناقص رتيباً مع قدرة النموذج، حيث كشفت من خلال تجربة مكونة من 432 تشغيلاً أن حساسية أدوات التقييم غير رتيبة وتعتمد بشكل حاسم على نوع النموذج، إذ تعيق الهياكل الإسهابية نماذج الدردشة الرائدة بينما تفيد التوجيهات الصارمة نماذج الاستدلال الرائدة.
تخيل أنك تقوم بتعيين فريق من العمال المختلفين لإصلاح غرفة فوضوية (مساحة العمل). لديك مدير يعطيهم التعليمات (السرج/الحزام).
الاعتقاد الشائع في عالم الذكاء الاصطنا-عي كان: "كلما كان العامل أكثر ذكاءً، قلّت التعليمات التفصيلية التي يحتاجها." بعبارة أخرى، العبقري يحتاج إلى ملاحظة بسيطة، بينما المبتدئ يحتاج إلى دليل صارم وخطوة بخطوة. تجادل هذه الورقة البحثية بأن هذا الاعتقاد خاطئ.
إليك تفاصيل ما وجده الباحثون، باستخدام تشبيهات بسيطة:
1. التجربة: مطبخ اختبار للذكاء الاصطنا-عي
قام الباحثون بإعداد "مطبخ اختبار" يسمى HEAT-24.
الغرفة: مساحة عمل رقمية تحتوي على 12 ملفاً (مثل الأكواد، الملاحظات، والبيانات).
الوظائف: 24 مهمة محددة، مثل "أصلح هذا الكود المعطل"، "ابحث عن ملف معين"، أو "اكتب تقريراً بتنسيق صارم".
العمال: اختبروا 6 نماذج مختلفة من الذكاء الاصطنا-عي، تتراوح بين "النماذج الرائدة" (فائقة الذكاء والمكلفة) إلى "النماذج المقيدة" (الأصغر والأرخص).
التعليمات: قدموا للعمال ثلاثة أنواع من أدلة التعليمات:
الخفيفة: ملاحظة بسيطة من جملتين. المتوازنة: دليل من أربع خطوات مع قائمة بالملفات المسموح بها.
الصارمة: دليل ضخم مكون من 6 مراحل مع قواعد صارمة حول كيفية التحقق من العمل وكيفية تنسيق المخرجات بدقة.
أجروا هذه التجربة 432 مرة لمعرفة أي مزيج هو الأفضل.
2. المفاجأة الكبرى: قاعدة "النموذج الواحد الذي يناسب الجميع" قد كُسرت
توقع الباحثون منحنى سلسًا: ذكاء اصطنا-عي أعلى = تعليمات أبسط. بدلاً من ذلك، وجدوا فوضى غير خطية ومعقدة. "أسلوب" التعليمات الأفضل يعتمد كلياً على نوع الذكاء الاصطنا-عي الذي تستخدمه، وليس فقط على مدى ذكائه.
"المفرط في التفكير" (نموذج الدردشة الرائد - Frontier Chat Model)
من هو: نموذج ذكي جداً مصمم للدردشة (مثل المتحدث اللبق).
ماذا حدث: عندما أُعطي الدليل الصارم، تعثر. انخفض معدل نجاحه بنسبة تقارب 30%.
التشبيه: تخيل أنك تطلب من شاعر عبقري ملء نموذج ضريبي معقد. إذا أعطيته أمراً بسيطاً ("اكتب قصيدة")، فسيكون مثالياً. ولكن إذا أعطيته عقداً قانونياً من 10 صفحات حول كيفية كتابة القصيدة، فسوف يرتبك، ويبدأ في الإسهاب، وينسى في النهاية كتابة القصيدة نفسها.
النتيجة: لهذا النوع من الذكاء الاصطنا-عي، القليل يعني الكثير. التعليمات البسيطة هي الأفضل.
من هو: نموذج فائق الذكاء مصمم للمنطق العميق وحل المشكلات (مع تفعيل خاصية "التفكير الممتد").
ماذا حدث: عندما أُعطي الدليل الصارم، كان أداؤه أفضل مما كان عليه مع الملاحظات البسيطة. كما أنه أنهى المهمة بسرعة أكبر.
التشبيه: تخيل مهندساً معمارياً ماهراً. إذا قلت له "ابنِ منزلاً"، فقد يتشتت بالتفكير في 100 احتمال مختلف. ولكن إذا أعطيته مخططاً صارماً مع قياسات دقيقة وقائمة مراجعة، فسيبدأ العمل فوراً، ويتجاهل المشتتات، ويبني المنزل بشكل مثالي.
النتيجة: لهذا النوع من الذكاء الاصطنا-عي، المزيد من الهيكلية هو الأفضل. إنه يستخدم القواعد الصارمة كدعامة لتركيز تفكيره.
"الصغير لكن القوي" (النموذج المقيد - Constrained Model)
** من هو:** نموذج صغير (يحتوي على 2 مليار بارامتر فقط) ولكنه مدرب بشكل جيد بشكل مفاجئ.
ماذا حدث: أدى المهمة بنفس كفاءة النماذج الضخمة والمكلفة عبر جميع أنواع التعليمات.
التشبيه: هذا يشبه متدرباً صغيراً ومنضبطاً للغاية، ورغم صغر حجم دماغه، فقد تم تدريبه جيداً على كيفية اتباع الأوامر بحيث يمكنه أداء المهمة ببراعة أستاذ يحمل درجة الدكتوراه.
النتيجة: لا يمكنك الحكم على "احتياجات السرج" للنموذج بمجرد النظر إلى حجمه (عدد البارامترات). جودة التدريب هي الأكثر أهمية.
"المبتدئ التائه" (النماذج ذات القدرات المنخفضة)
من هو: نماذج أصغر مع تدريب أقل.
ماذا حدث: عانت من كل شيء. الملاحظات البسيطة جعلتها تختار الملفات الخاطئة؛ والتعليمات الصارمة أربكتها.
النتيجة: هي بحاجة إلى نهج "الوسط الذهبي" (Goldilocks)—قدر كافٍ من الهيكلية لتوجيهها، ولكن ليس الكثير بحيث يسبب لها الارتباك.
3. الخطآن الرئيسيان
صنف الباحثون أسباب فشل الذكاء الاصطنا-عي:
خطأ "الثرثار" (انتهاك التنسيق): النماذج الذكية فهمت المهمة ولكنها لم تستطع التوقف عن الكلام. بدلاً من تقديم البيانات المطلوبة (مثل ملف JSON)، كتبت قصة طويلة تشرح فيها لماذا فعلت ذلك. حدث هذا غالباً عندما كانت التعليمات معقدة للغاية.
خطأ "الباب الخطأ" (الملف الخاطئ): النماذج الأصغر غالباً لم تكن تعرف أي ملف يجب التعامل معه. بدون قائمة واضحة من "الملفات المسموح بها"، كانت تعدل المستند الخطأ.
4. الخلاصة: توقف عن التخمين، وابدأ بالمطابقة
تخلص الورقة البحثية من أنه لا يوجد أسلوب واحد "أفضل" لتوجيه (Prompting) الذكاء الاصطنا-عي.
إذا كان لديك ذكاء اصطنا-عي للدردشة، فاجعل التعليمات خفيفة وبسيطة. لا تبالغ في الشرح.
إذا كان لديك ذكاء اصطنا-عي للاستنتاج، فأعطه قواعد صارمة وتفصيلية. فهو يزدهر بالهيكلية.
إذا كان لديك ذكاء اصطنا-عي صغير ومدرب جيداً، فقد يكون بجودة النماذج الكبيرة بغض النظر عن نوع التعليمات.
باختاًصر: أنت لن تعطي طفلاً صغيراً عقداً قانونياً معقداً، ولن تعطي قاضياً في المحكمة العليا ملاحظة لاصقة. يجب عليك مطابقة أسلوب التعليمات مع نوع العامل، وليس فقط مستوى ذكائه.
ملخص تقني: الأمر ليس متعلقاً بالقدرة: حساسية الـ "Harness" غير رتيبة عبر مستويات وكلاء النماذج اللغوية الكبيرة (LLM Agents)
بيان المشكلة
هناك افتراض سائد في نشر الوكلاء المستقلين القائمين على النماذج اللغوية الكبيرة (LLM agents) مفاده وجود علاقة عكسية رتيبة بين قدرة النموذج والتعقيد الأمثل لـ "الـ Harness" (وهو الموجه (prompt) على مستوى النظام الذي يحدد نطاق المهمة، العمليات، تنسيق المخرجات، والتحقق). تشير هذه الفرضية إلى أن النماذج ذات القدرة الأعلى تتطلب توجيهاً هيكلياً أقل تناسباً، بينما تستفيد النماذج الأقل قدرة من توجيهات أكثر صرامة وهيكلية. وبناءً على ذلك، يقوم الممارسون بتطبيق "harnesses" موحدة وعالية الهيكلية عبر مختلف أسراب النماذج.
تتحدى هذه الورقة الصلاحية التجريبية لفرضية الرتابة العكسية هذه. فهي تتساءل عما إذا كان هناك تدرج واحد من "قدرة أعلى تساوي هيكلية أقل" ينطبق عبر مستويات النماذج المختلفة، وما إذا كانت العلاقة تختلف بين النماذج الموجهة للدردشة (chat-oriented) والنماذج الموجهة للاستنتاج (reasoning-oriented).
المنهجية
أجرى المؤلفون دراسة تجريبية منضبطة باستخدام HEAT-24، وهو اختبار قياسي اصطناعي حتمي مكون من 24 مهمة مصمم للتحقق على مستوى مساحة العمل.
تصميم الاختبار القياسي (HEAT-24): يعمل الاختبار على مساحة عمل اصطناعية مشتر تشتمل على 12 ملفاً (YAML، JSON، Python، Markdown، CSV، إلخ) تم تهيئتها كمستودع git. يتم التحقق عبر git diff لرصد التغييرات في الملفات. تُصنف المهام إلى ستة أنواع: فحص محلي، تعديل مهيكل، حساسية التنسيق، استعادة التحقق، الإصلاح، وعمليات متعددة الخطوات. لكل مهمة مُحقِّق ثنائي (binary verifier).
حالات الـ Harness: تم اختبار ثلاثة مستويات من التعقيد الهيكلي:
الخفيف (Light): موجه من سطرين فقط (الدور + تعليمات المهمة الخام) بدون قيود على التنسيق أو النطاق.
المتوازن (Balanced): يضيف نموذج عملية من أربع خطوات (تخطيط، تنفيذ، فحص، استجابة) وقائمة بالملفات المسموح بها.
الصارم (Strict): يضيف ست مراحل صريحة (من ما قبل الطيران حتى التقرير)، معايير نجاح صريحة، مواصفات التحقق، وتعليمات لاستخدام علامات محددة (<<<WRITE:path>>>) لتغييرات الملفات.
النماذج: تم تقييم ستة نماذج تغطي أربعة مستويات من القدرة (إجمالي 432 تشغيل، 24 مهمة × 3 harnesses × 6 نماذج):
المقاييس: معدل نجاح المهمة (TSR) ومعدل نجاح المهمة المتحقق منه (VTSR). تم تصنيف الإخفاقات عبر تصنيف آلي قائم على القواعد إلى ستة تسميات: انتهاك التنسيق، إجابة خاطئة، ملف خاطئ، تغيير مفقود، تغيير غير ذي صلة، والاختبارات لا تزال تفشل.
المساهمات الرئيسية
اختبار HEAT-24 القياسي: اختبار حتمي متحقق منه عبر git يغطي ست فئات من المهام لتقييم موثوقية الوكيل تحت ظروف harness متغيرة.
دحض الرتابية تجريبياً: أول اختبار منضبط يثبت أن العلاقة العكسية بين القدرة وتعقيد الـ harness المثالي لا تنطبق عالمياً.
تحديد الأنماط غير الرتيبة: تقديم دليل على ظاهرتين متضادتين: "مفارقة تعقيد الـ harness" حيث تؤدي الـ harnesses الصارمة إلى تدهور الأداء في النماذج الرائدة الموجهة للدردشة، ونمط غير رتيب حيث تحسن الـ harnesses الصارمة الأداء في النماذج الرائدة الاستنتاجية.
عدد المعلمات مقابل الضبط التعليمي: نتائج تشير إلى أن عدد المعلمات (parameter count) هو مؤشر غير موثوق لحساسية الـ harness، حيث يعد جودة الضبط التعليمي (instruction-tuning) هو المتغير المعدل الحاسم.
تصنيف الإخفاقات والإرشادات: تصنيف إخفاقات مكون من ست تسميات وإرشادات عملية تعتمد على مستوى النموذج لاختيار الـ harness المناسب.
النتائج
1. مفارقة تعقيد الـ harness (النماذج الرائدة للدردشة)
بالنسبة لنموذج Gemini 2.5 Flash، أدت زيادة إسهاب الـ harness بشكل كبير إلى تدهور الأداء.
الـ Harness الخفيف: 95.8% VTSR.
الـ Harness المتوازن: 58.3% VTSR (انخفاض بمقدار 37.5 نقطة مئوية).
الـ Harness الصارم: 66.7% VTSR (انخفاض بمقدار 29.2 نقطة مئوية).
التحليل: كان نمط الفشل السائد في الظروف المعقدة هو انتهاك التنسيق (10/10 حالات فشل في المتوازن، 8/8 في الصارم). يفترض المؤلفون أن التعليمات متعددة المراحل المطولة تحول توزيع توليد النموذج نحو النثر التفسيري، مما يجعله يسرد الاستنتاج بدلاً من إصدار مخطط JSON المطلوب مباشرة. كان هذا التأثير خاصاً بالمهام الحساسة للتنسيق؛ بينما ظلت مهام تعديل الملفات المهيكلة عند 100% عبر جميع الـ harnesses.
2. النمط غير الرتيب (النماذج الرائدة الاستنتاجية)
بالنسبة لنموذج Qwen3.5-122B (مع تفعيل التفكير الممتد)، كانت العلاقة غير رتيبة وخالفت الفرضية.
الـ Harness المتوازن: 75.0% VTSR (الأدنى).
الـ Harness الخفيف: 87.5% VTSR.
الـ Harness الصارم: 91.7% VTSR (الأعلى).
الكمون (Latency): من المثير للدهشة أن الـ harness الصارم نتج عنه أدنى زمن استجابة (23.3 ثانية) مقارنة بالخفيف (35.4 ثانية) والمتوازن (38.5 ثانية).
التحليل: عملت معايير النجاح الصريحة في الـ harness الصارم كركيزة (scaffolding) لسلسلة التفكير (chain-of-thought)، مما قلل من الغموض. أما الـ harness المتوازن فقد خلق إشارات متضاربة قامت عملية التفكير الممتد بتضخيمها بدلاً من حلها.
3. مستويات القوة والقيود
النماذج القوية المفتوحة (GPT-OSS-120B): أظهرت متانة تجاه الـ harnesses الخفيفة والمتوازنة (95.8% VTSR لكليهما) ولكنها شهدت انخفاضاً طفيفاً تحت الصارم (87.5%). لم تظهر المفارقة الكاملة ولا النمط غير الرتيب.
تباين فئة النماذج المقيدة:
Qwen3.5:2B: أظهر نمط منحنى (inverted-U). فشل الـ harness الخفيف (0% VTSR) بسبب أخطاء الملف الخاطئ وانتهاك التنسيق. كان الـ harness المتوازن هو الأمثل (58.3%)، حيث وفر القدر الكافي من الركائز. أما الـ harness الصارم فقد أدى إلى انهيار الأداء (4.2%) بسبب الإفراط في التعليمات.
LLaMA 3.2: أظهر أداءً منخفضاً بشكل موحد (أقل من 21%) عبر جميع الظروف، وهي سيطرة أخطاء الملف الخاطئ، مما يشير إلى نقص في قدرة اتباع التعليمات الأساسية.
Gemma4:e2B: حقق 91.7% VTSR عبر جميع حالات الـ harness، محققاً استقراراً يضاهي استقرار نموذج GPT-OSS-120B رغم امتلاكه حوالي 2 مليار معلمة فقط. وهذا يتحدى اعتبار عدد المعلمات مؤشراً كافياً لتصنيف مستويات القدرة في دراسات حساسية الـ harness.
4. أنماط الفشل
النماذج القادرة: هيمن عليها انتهاك التنسيق عند استخدام الـ harnesses المعقدة. لقد فهمت المهام ولكنها فشلت في كبح النثر التفسيري.
النماذج المقيدة: هيمن عليها أخطاء الملف الخاطئ تحت الـ harness الخفيف (نقص التوجيه الهيكلي) وانتهاك التنسيق تحت الـ harness الصارم (الإفراط في التعليمات).
الأهمية والادعاءات
تخلص الورقة إلى أن فرضية الرتابة العكسية خاطئة تجريبياً. فحساسية الـ harness غير رتيبة وتعتمد بشكل حاسم على نوع النموذج (دردشة مقابل استنتاج) وجودة الضبط التعليمي، وليس على مستوى القدرة وحده.
الآثار السياساتية: سياسة الـ harness الموحدة غير فعالة.
النماذج الرائدة للدردشة: يفضل استخدام الـ harnesses الخفيفة للمهام الحساسة للتنسيق لتجنب انتهاكات التنسيق.
النماذج الرائدة الاستنتاجية: يفضل استخدام الـ harnesses الصارمة لدعم سلسلة التفكير وتقليل زمن الاستجابة.
النماذج المقيدة (المتوسطة): الـ harnesses المتوازنة هي الأمثل.
النماذج المقيدة (عالية الضبط): نماذج مثل Gemma4:e2B قوية تجاه تعقيد الـ harness بغض النظر عن عدد معلماتها.
التحول النظري: تجادل الدراسة بأن جودة الضبط التعليمي هي مؤشر أكثر موثوقية لحساسية الـ harness من مجرد عدد المعلمات الخام. وتقترح أن أطر النشر المستقبلية يجب أن تقيم قدرة اتباع التعليمات تجريبياً بدلاً من الاعتماد على تصنيفات المستويات بناءً على الحجم فقط.
القيود: يشير المؤلفون إلى أن الدراسة استخدمت تكراراً واحداً لكل حالة (k=1)، مما يجعل النتائج أولية. كما أن مساحة العمل اصطناعية، والتمييز بين "الدردشة مقابل الاستنتاج" كان إطاراً تفسيرياً لاحقاً وليس متغيراً محدداً مسبقاً. كما أن نتائج Qwen3.5-122B خاصة بإعداد "التفكير الممتد" الذي تم تفعيله أثناء التجربة.