🤖 AI

Inference-Time Scaling of Verification: Self-Evolving Deep Research Agents via Test-Time Rubric-Guided Verification

تقدم هذه الورقة DeepVerifier، وهو إطار عمل ذاتي التطور يعزز وكلاء البحث العميق من خلال توسيع نطاق الاستدلال عبر التحقق المتكرر وتكرير المخرجات باستخدام معايير مستمدة من تصنيف جديد للإخفاقات، محققاً مكاسب كبيرة في الدقة دون تدريب إضافي مع إصدار مجموعة بيانات مقابلة لدعم التقدم مفتوح المصدر.

المؤلفون الأصليون: Yuxuan Wan, Tianqing Fang, Zaitang Li, Yintong Huo, Wenxuan Wang, Haitao Mi, Dong Yu, Michael R. Lyu

نُشر 2026-04-30

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Yuxuan Wan, Tianqing Fang, Zaitang Li, Yintong Huo, Wenxuan Wang, Haitao Mi, Dong Yu, Michael R. Lyu

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك مساعد باحث عبقري ولكنه مغرور أحياناً يُدعى "وكيل البحث العميق" (Deep Research Agent - DRA). هذا المساعد بارع في العثور على المعلومات، وقراءة مئات المواقع الإلكترونية، وكتابة التقارير. ومع ذلك، مثل أي بشر، قد يرتكب أخطاءً: فقد يقرأ الموقع الخطأ، أو يفهم السؤال بشكل خاطئ، أو يذكر حقيقة ليست صحيحة بكل ثقة.

عادةً، إذا ارتكب هذا المساعد خطأً، يتعين عليك إيقافه، وشرح ما حدث بشكل خاطئ، والأمل في أن يؤدي بشكل أفضل في المرة القادمة. ولكن ماذا لو استطاع المساعد التحقق من عمله بنفسه قبل أن تراه أنت، واكتشاف أخطائه وتصحيحها أثناء العمل؟

هذا هو بالضبط ما تقترحه هذه الورقة البحثية. لقد بنوا نظاماً يسمى DeepVerifier يعمل بمثابة "محرر ذاتي التصحيح" لوكلاء الذكاء الاصطناعي هؤلاء.

إليك كيف يعمل، مقسماً إلى مفاهيم بسيطة:

1. المشكلة: فخ "الكل أو لا شيء"

عندما يحاول الذكاء الاصطناعي حل مشكلة صعبة (مثل "ابحث عن أول منشور لباحث معين")، فإنه غالباً ما يتوه في متاهة من الخطوات. إذا طلبت من ذكاء اصطناعي قياسي "التحقق مما إذا كانت هذه الإجابة صحيحة"، فإنه غالباً ما يفشل لأن التحقق من إجابة معقدة هو أمر صعب تماماً مثل حل المشكلة نفسها. الأمر يشبه مطالبة طالب بتقييم مقالته المكونة من 50 صفحة دون وجود نموذج إجابة؛ قد يغفل عن الأخطاء الدقيقة.

2. الحل: "نموذج التقييم" و"الختم المطاطي"

أدرك الباحثون أن التحقق من الإجابة أسهل في الواقع من إنشائها. هم يسمون هذا "عدم التماثل في التحقق" (asymmetry of verification).

ولجعل هذا يعمل، أنشأوا تصنيفاً للفشل (Failure Taxonomy). فكر في هذا كقائمة مرجعية ضخمة لكل طريقة يمكن للذكاء الاصطناعي أن يخطئ بها. لقد حللوا آلاف الأخطاء السابقة وصنفوها إلى 5 مجموعات رئيسية و13 مجموعة فرعية (مثل "استخدم المصدر الخاطئ"، "أخطأ في قراءة التعليمات"، أو "اخترع حقيقة ما").

يستخدم DeepVerifier هذه القائمة ليعمل كمحرر صارم:

المفكك (The Decomposer): بدلاً من طلب إعادة قراءة التقرير الفوضوي بالكامل من الذكاء الاصطناعي، يقوم هذا النموذج بتفكيك المشكلة إلى أسئلة صغيرة وبسيطة. بدلاً من "هل التقرير بأكمله صحيح؟"، يسأل: "هل قال المصدر X بالفعل Y؟" أو "هل هذا الرقم صحيح في أحدث تقرير؟".
المتحقق (The Verifier): يجيب على هذه الأسئلة الصغيرة باستخدام القائمة المرجعية.
القاضي (The Judge): يعطي درجة (من 1 إلى 4) وملاحظات محددة. إذا كانت الإجابة خاطئة، فهو لا يكتفي بقول "لا"، بل يقول: "لقد استخدمت المصدر الخطأ لهذه الحقيقة. عد وابحث عن الوثيقة الأصلية".

3. السحر: "التطور الذاتي" أثناء الاختبار

الجزء الأروع هو أن هذا يحدث أثناء عمل الذكاء الاصطناعي، دون الحاجة لإعادة تدريب "عقل" الذكاء الاصطناعي (وهو أمر مكلف وبطيء).

تخيل أن الذكاء الاصطناعي كتب إجابة. يقرأها DeepVerifier، ويجد خللاً، ويقول: "مهلاً، لقد فاتك هذا التفصيل". ثم يستخدم الذكاء الاصطناعي تلك الملاحظات لإعادة كتابة الإجابة. هم يفعلون ذلك في حلقة مفرغة (مثل جولة من التحرير).

الجولة 1: الذكاء الاصطناعي يكتب الإجابة.
الجولة 2: DeepVerifier يجد الأخطاء، والذكاء الاصطناعي يصلحها.
الجولة 3: DeepVerifier يجد أخطاءً أكثر دقة، والذكاء الاصطناعي يصلحها مجدداً.

تظهر الورقة أنه مع بضع جولات فقط من هذا "التحرير الذاتي"، يصبح الذكاء الاصطناعي أكثر ذكاءً بشكل ملحوظ. في الاختبارات الصعبة (مثل اختبار GAIA)، قفزت دقة الذكاء الاصطناعي بنسبة 8% إلى 11%. وهذه قفزة هائلة لذكاء اصطناعي لم يتم إعادة تدريبه، بل مُنح فقط طريقة أفضل للتحقق من عمله.

4. الهدية للمجتمع: "DeepVerifier-4K"

لم يحتفظ الباحثون بهذه الحيلة لأنفسهم فحياً. فقد أدركوا أنه لكي تصبح نماذج الذكاء الاصطناعي مفتوحة المصدر (المجانية) جيدة في هذا النوع من التحقق الذاتي، فإنها تحتاج إلى الممارسة.

لذلك، أنشأوا مجموعة بيانات تسمى DeepVerifier-4K. فكر في هذا كـ "دليل تدريبي" يحتوي على 4,646 مثالاً لـ:

ذكاء اصطناعي يرتكب خطأً.
"المحرر" (DeepVerifier) يشير بدقة إلى ما حدث بشكل خاطئ باستخدام القائمة المرجعية.
الذكاء الاصطناعي يصحح الخطأ.

استخدموا هذا الدليل لتعليم النماذج مفتوحة المصدر كيف تكون محرراً لنفسها. والنتيجة؟ أصبحت هذه النماذج المفتوحة أفضل بكثير في التفكير والتقاط أخطائها الخاصة، مما قلص الفجوة مع النماذج المغلقة والمكلفة.

الملخص

باختصار، تعلم هذه الورقة البحثية وكلاء الذكاء الاصطناعي التوقف والتفكير قبل تقديم عملهم. من خلال تفكيك المشكلات الكبيرة إلى حقائق صغيرة قابلة للتحقق واستخدام قائمة مرجعية صارمة للأخطاء الشائعة، يمكن للذكاء الاصطناعي تصحيح نفسه في الوقت الفعلي. إنه يشبه منح الذكاء الاصطناعي مرآة وكتاب قواعد، مما يسمح له بالتطور وتحسين إجاباته فوراً، دون الحاجة إلى معلم يعيد تدريبه من الصفر.

إليك ملخص تقني مفصل لورقة البحث بعنوان: "Inference-Time Scaling of Verification: Self-Evolving Deep Research Agents via Test-Time Rubric-Guided Verification" (توسيع التحقق أثناء الاستنتاج: وكلاء البحث العميق ذاتي التطور عبر التحقق الموجه بالمعايير في وقت الاختبار).

1. بيان المشكلة

تساهم وكلاء البحث العميق (DRAs) المدعومة بالنماذج اللغوية الكبيرة (LLMs) في تحول عملية اكتشاف المعرفة المؤتمتة، لكنها تعاني من مشكلات تتعلق بالموثوقية. تشمل أنماط الفشل الشائعة: الهلوسة، الاستخدام غير الصحيح لواجهات برمجة التطبيقات (APIs)، الاعتماد على مصادر ثانوية غير مكتملة، وأخطاء الاستدلال.

محدودية النهج الحالي: تركز الأساليب الحالية بشكل أساسي على تعزيز قدرات السياسة عبر التدريب اللاحق (الضبط الدقيق الخاضع للإشراف أو التعلم التعزيزي). وبينما يوجد "توسيع وقت الاختبار" (مثل أخذ عينات Best-of-N)، إلا أنه غالباً ما يفشل لأن المخرجات المختلفة تميل إلى تكرار نفس الأخطاء المنهجية.
الفجوة: هناك نقص في الأطر القابلة للتوسع والمؤتمتة التي تمكن الوكلاء من التطور الذاتي أثناء الاستنتاج من خلال التحقق من مخرجاتهم الخاصة، وتوليد ملاحظات مستهدفة، وتحسين الإجابات دون تدريب إضافي. علاوة على ذلك، فإن توليد ملاحظات عالية الجودة أمر صعب لأنه يتطلب قدرات استدلال متطورة.

2. المنهجية

يقترح المؤلفون DeepVerifier، وهو إطار عمل يستفيد من عدم التماثل في التحقق (حيث أن فحص الإجابة غالباً ما يكون أسهل من توليدها) لتمكين التحسين الذاتي المتكرر. تتكون المنهجية من ثلاثة مكونات أساسية:

أ. تصنيف فشل وكلاء البحث العميق (DRA Failure Taxonomy)

لتوجيه عملية التحقق، قام المؤلفون ببناء تصنيف منهجي لفشل الوكلاء بناءً على تحليل 555 نقطة خطأ من مجموعة بيانات WebAggregatorQA.

الهيكل: يصنف التصنيف حالات الفشل إلى 5 فئات رئيسية و 13 فئة فرعية.
النتائج الرئيسية: نمط الفشل الأكثر تكراراً هو "إيجاد المصادر" (مثل استشارة أدلة خاطئة، أو عمليات بحث عامة)، يليه "الاستدلال" (الاستنتاجات المتسرعة، الهلوسة).
الاستخدام: يعمل هذا التصنيف كأساس لإنشاء معايير (rubrics) مهيكلة توجه عملية التحقق.

ب. إطار عمل DeepVerifier

DeepVerifier هو خط إنتاج (pipeline) متعدد المراحل والمراحل، مصمم لتفكيك مهام التحقق المعقدة:

وكيل التفكيك (Decomposition Agent):
- بدلاً من مطالبة نموذج لغوي كبير بإعادة حل المهمة المعقدة بأكملها (وهو أمر عرضة للخطأ)، يقوم هذا الوكيل بتلخيص المسار الأصلي وتحديد نقاط الخطأ المحتملة بناءً على "تصنيف الفشل".
- يقوم بصياغة أسئلة متابعة عالية التأثير تستهدف نقاط الضعف المحددة (على سبيل المثال: "هل ينص المصدر X صراحةً على الادعاء Y؟").
وكيل التحقق (Verification Agent):
- ينفذ أسئلة المتابعة باستخدام أدوات خارجية (البحث في الويب، تنفيذ الكود) لجمع أدلة ملموسة.
وكيل الحكم (Judge Agent):
- يقيم الإجابة الأصلية مقابل ملخص المسار، وقائمة الأخطاء المحتملة، والأدلة التي تم جمعها من أسئلة المتابعة.
- يخرج درجة قائمة على المعايير (1–4) وملاحظات تفصيلية وقابلة للتنفيذ.

ج. توسيع وقت الاختبار والتطور الذاتي

الحلقة التكرارية: يقوم الوكيل بتوليد إجابة $\leftarrow$ يقوم DeepVerifier بالتحقق منها $\leftarrow$ يتم تقديم الملاحظات $\leftarrow$ يقوم الوكيل بإعادة المحاولة/التحسين.
الملاحظات الموجهة بالمعايير: الملاحظات ليست عامة؛ بل تُستمد من تصنيف الفشل المحدد، مما يضمن معرفة الوكيل لسبب فشله بدقة (مثلاً: "لقد اعتمدت على بحث عام بدلاً من مصدر أولي").
لا يتطلب تدريباً: تحدث هذه العملية بالكامل أثناء وقت الاستنتاج، ولا تتطلب أي تحديثات لمتدرج النموذج الأساسي (gradient updates).

د. مجموعة بيانات DeepVerifier-4K

لتمكين النماذج مفتوحة المصدر من تطوير قدرات تحقق قوية، أنشأ المؤلفون DeepVerifier-4K، وهي مجموعة بيانات منسقة للضبط الدقيق الخاضع للإشراف (SFT) تحتوي على 4,646 زوجاً من (المطالبة-الاستجابة) عالية الجودة. تركز هذه الأزواج على عملية التأمل والنقد الذاتي، مما يسمح للنماذج المفتوحة (مثل Qwen) بتعلم كيفية التحقق من مخرجاتها وتحسينها.

3. المساهمات الرئيسية

صياغة تأمل الوكيل (Agent Reflection): تصيغ الورقة خط إنتاج للتأمل لوكلاء البحث العميق يستغل عدم تماثل التحقق، متجاوزاً الحكم الشمولي إلى فحص الأدلة المستهدف.
تصنيف فشل DRA: إنشاء تصنيف شامل (5 فئات، 13 فئة فرعية) تم بناؤه تلقائياً لتصنيف فشل الوكلاء بشكل منهجي، ليكون بمثابة مخطط للمكافآت الموجهة بالمعايير.
إطار عمل DeepVerifier: وحدة قابلة للتركيب (plug-and-play) تدمج التحقق وتوليد الملاحظات، وتتفوق على معايير "الوكيل كحكم" (Agent-as-Judge) ومعايير نماذج LLM التقليدية.
مجموعة بيانات DeepVerifier-4K: مجموعة بيانات SFT عالية الجودة تم إصدارها للمجتمع المفتوح لتدريب النماذج على التأمل والنقد الذاتي، لمعالجة ندرة البيانات لهذه القدرة المحددة.

4. النتائج التجريبية

أداء التحقق (التقييم الميتا - Meta-Evaluation)

يتفوق DeepVerifier بشكل كبير على "الوكيل كحكم" التقليدي وعلى حكام LLM القياسيين.
المقياس: يحقق تحسناً بنسبة 12%–48% في درجات F1 للتقييم الميتا.
الدراسة الاستبعادية (Ablation): يؤدي إزالة وحدة التفكيك إلى دقة عالية ولكن استدعاء (recall) منخفض (تجاهل الأخطاء الدقيقة). أما إزالة وحدة التحقق فتؤدي إلى دقة ضعيفة. يوازن خط الإنتاج الكامل بينهما.

توسيع وقت الاستنتاج (مكاسب الأداء)

النماذج مغلقة المصدر (Claude-3.7-Sonnet):
- في اختبار GAIA، تحسنت الدقة بنسبة 8%–11% (على سبيل المثال، ارتفع GAIA-Web من ~52% إلى ~63.5%).
- في XBench-DeepSearch، وصلت المكاسب إلى 6%.
- في BrowseComp (الصعب للغاية)، وصلت المكاسب إلى 5%.
النماذج مفتوحة المصدر (Qwen3-8B / DeepVerifier-8B):
- أظهرت النماذج التي تم ضبطها بدقة باستخدام DeepVerifier-4K قدرات تأمل فائقة.
- حقق DeepVerifier-8B مكسباً في الدقة بنسبة 5.5% بعد 10 جولات من التأمل، متفوقاً بشكل ملحوظ على Qwen3-8B الأساسي و CK-Pro-8B (المدرب فقط على بيانات قياسية).

اتجاهات التوسيع (Scaling Trends)

يصل الأداء عادةً إلى ذروته حول 3–4 جولات من الملاحظات.
الجولات الأولى تصحح العديد من الأخطاء (من خاطئ $\to$ صحيح)، لكن الجولات اللاحقة تنطوي على خطر "التصحيح الزائد" (من صحيح $\to$ خاطئ). يتضمن الإطار آلية للتوقف المبكر عندما يقبل المُحقِّق الإجابة.

5. الأهمية والتأثير

تحول في النموذج (Paradigm Shift): تنقل الورقة التركيز من مجرد تدريب وكلاء أفضل إلى توسيع التحقق في وقت الاستنتاج. وهي تثبت أن الوكلاء يمكنهم التصحيح الذاتي بفعالية دون تكاليف تدريب إضافية.
القابلية للتوسع: النهج محايد للنماذج (model-agnostic)، حيث يعمل بفعالية مع واجهات برمجة التطبيقات المغلقة القوية وكذلك النماذج مفتوحة المصدر التي تم ضبطها بدقة.
كفاءة الموارد: من خلال تفكيك التحقق إلى مهام فرعية صغيرة بدلاً من إعادة حل المشكلة بأكملها، فإنه يقدم مقايضة أفضل بين الدقة والتكلفة مقارنة بالطرق القائمة على القوة الغاشمة مثل Best-of-N.
المساهمة المجتمعية: يوفر إصدار تصنيف الفشل ومجموعة بيانات DeepVerifier-4K أساساً حيوياً للأبحاث المستقبلية في التعلم التعزيزي المعزز بالتأمل (reflection-enhanced RL) وتطوير الوكلاء الموثوقين.

باختصار، يثبت هذا العمل أن التحقق المهيكل والموجه بالمعايير هو آلية قوية لتوسيع موثوقية وكلاء البحث العميق، محولاً حسابات وقت الاستنتاج إلى حلقة تحسين ذاتي ترفع الدقة بشكل كبير في مهام الاستدلال المعقدة ومتعددة الخطوات.