Is Deep Research Reliable? Misleading Knowledge Induces False Conclusions
تقدم هذه الورقة إطار عمل MisKnow-Agent، الذي يوضح أن وكلاء البحث العميق (Deep Research agents) عرضة بشكل كبير لتبني استنتاجات خاطئة من وثائق مضللة، حيث ترتفع نسبة تبني الاستنتاجات الخاطئة إلى 54.7% عند الحقن، مما يكشف أن آليات التحقق والدفاع الحالية غير كافية لمنع مثل هذه الأخطاء بشكل كامل أثناء التحقيقات طويلة المدى.
المؤلفون الأصليون:Pengyu Zhu, Lijun Li, Longju Yang, Sen Su, Jing Shao
تخيل أن لديك مساعداً آلياً فائق الذكاء يمكنه قراءة ملايين الكتب، والمواقع الإلكترونية، والمقالات الإخبارية في ثوانٍ معدودة للإجابة على أسئلتك. هذا ليس مجرد روبوت دردشة يتكهن؛ بل هو وكيل "بحث عميق" يخطط لمهمة، ويبحث عن الأدلة، ويقرأ البراهين، ثم يكتب تقريراً نهائياً. فكر فيه كأنه محقق لا يكتفي بسؤال شاهد واحد، بل يستجوب بلدة بأكملها، ويقارن بين رواياتهم، ثم يكتب ملف القضية. والأمل هو أنه من خلال جمع هذا القدر الهائل من المعلومات، سيجد الروبوت الحقيقة دائماً. ولكن هنا تكمن المشكلة: ماذا لو كان بعض الشهود يكذبون؟ ماذا لو كانت بعض "الحقائق" التي يجدها الروبوت هي في الواقع أكاذيب صيغت ببراعة وتبدو تماماً مثل الحقيقة؟ هذا هو عالم "المعرفة المضللة"، وهو مصدر قلق كبير لأي شخص يعتمد على الذكاء الاصطناعي لإجراء أبحاث جادة. فإذا لم يستطع الروبوت التمييز بين الحقيقة الفعلية وبين حقيقة مزيفة تبدو مقنعة للغاية، فقد يكتب تقريراً خاطئاً بكل ثقة.
قرر فريق من الباحثين اختبار مدى جودة هؤلاء المحققين من الذكاء الاصطناعي في رصد الأخبار المزيفة. لقد أنشأوا ساحة اختبار خاصة تسمى MisKnow-Agent. تخيل أنهم أنشأوا مكتبة ضخمة تضم 5,933 وثيقة مزيفة. لم تكن هذه الوثائق مجرد كلام عشوائي غير مفهوم؛ بل صُممت بعناية لتبدو مثل أوراق علمية حقيقية، أو مقالات إخبارية، أو تدوينات، أو تحديثات على وسائل التواصل الاجتماعي. كل وثيقة منها كانت تدعم استنتاجاً معيناً ومختلقاً تماماً (مثل "تحديث برمجيات جديد يعالج مشكلة غير موجودة أصلاً")، لكنها كُتبت لتبدو ذات سلطة ومصداقية عالية. ثم أرسلوا هذه الوثائق المزيفة إلى وكلاء بحث مختلفين من الذكاء الاصطناعي، وخلطوها مع نتائج بحث حقيقية، ليروا ما إذا كان الروبوتات ستُخدع.
كانت النتائج مخيفة نوعاً ما. فعندما حقن الباحثون وثيقة مزيفة واحدة فقط من هذه الوثائق ضمن نتائج بحث الذكاء الاصطناعي، ارتفع معدل تبني الذكاء الاصطناعي للاستنتاج الخاطئ من 0% (عند عدم وجود أي وثائق مزيفة) إلى 54.7%. وهذا يعني أنه في أكثر من نصف الحالات، كتب الذكاء الاصطناعي تقريره النهائي وقال: "نعم، هذا الشيء المزيف حقيقي!". وجدت الدراسة أن الذكاء الاصطناعي قد خُدع بسهولة بطريقة تقديم المعلومات. فإذا بدت الوثيقة المزيفة وكأنها ورقة أكاديمية رسمية، كان الذكاء الاصطناعي أكثر عرضة لتصديقها (بمعدل تبنٍ بلغ 61.0%). أما إذا بدت وكأنها منشور عادي على وسائل التواصل الاجتماعي، فكان الذكاء الاصطناعي أقل عرضة للوقوع في الفخ (37.5%). ومن المثير للاهتمام أنه لم يكن يهم كثيراً ما إذا كانت الوثيقة المزيفة هي النتيجة الأولى التي يراها الذكاء الاصطناعي أو العاشرة؛ فبمجرد رؤية الذكاء الاصطناعي لها، كان من المرجح أن يصدقها بنفس القدر.
كما اختبر الباحثون استراتيجيات "دفاع" مختلفة، مثل توجيه الذكاء الاصطناعي للتحقق من حقائقه قبل كتابة التقرير. ساعدت هذه الدفاعات في خفض عدد الأخطاء، لكنها لم توقفها تماماً. فحتى مع وجود فحوصات إضافية، ظل الذكاء الاصطناعي يتبنى استنتاجات خاطئة في حالات كثيرة. تشير الدراسة إلى أن مجرد العثور على وثيقة ليس كافياً؛ بل يحتاج الذكاء الاصطناعي إلى التحقق باستمرار من الحقيقة أثناء قيامه بالبحث ومرة أخرى عند كتابة التقرير النهائي. وتخلص الورقة البحثية إلى أنه بينما تعد وكلاء الذكاء الاصطناعي هذه قوية، إلا أنها حالياً ساذجة تماماً عندما تواجه معلومات تبدو موثوقة لكنها في الواقع كذبة، ونحن بحاجة إلى طرق أفضل لمنع خداعها.
ملخص تقني: المعرفة المضللة تؤدي إلى استنتاجات خاطئة في وكلاء البحث العميق
بيان المشكلة تمثل وكلاء البحث العميق (Deep Research agents) تحولاً جذرياً في عملية البحث عن المعلومات، حيث تنتقل من الإجابة على الأسئلة قصيرة المدى إلى سير عمل طويل المدى يتضمن التخطيط المتكرر، واسترجاع الأدلة، والتحليل، وتوليد تقارير مهيكلة. وبينما يتم نشر هذه الأنظمة بشكل متزايد في المهام العلمية والمهام كثيفة المعرفة، فإن موثوقيتها في مواجهة المعلومات التي تبدو "ذات مصداقية ظاهرة ولكنها خاطئة واقعياً" تظل غير محددة كمياً. وخلافاً لأنظمة التوليد المعزز بالاسترجاع (RAG) قصيرة المدى أو البيئات العدائية حيث يقوم المهاجمون بتسميم المجموعات المعلوماتية بشكل صريح، تعمل وكلاء البحث العميق في بيئات الويب المفتوحة حيث قد توجد معرفة مضللة بشكل طبيعي. وتتمثل المشكلة الجوهرية التي يتناولها البحث في مدى قدرة هؤلاء الوكلاء على مقاومة تبني استنتاجات خاطئة مدعومة بوثائق مضللة خلال مرحلة التوليف (synthesis). كما يبحث في كيفية تأثير عوامل مثل سلطة المصدر، وأسلوب العرض، وتوقيت سير العمل على هذا التبني.
المنهجية: MisKnow-Agent للتحقيق في نمط الفشل هذا، قدم المؤلفون إطار عمل تقييمي مضبوط يسمى MisKnow-mathcal{MisKnow-Agent}، والمصمم لبناء والتحقق من صحة المعرفة المضللة لمهام البحث العميق. تسير المنهجية عبر ثلاث مراحل:
بناء المخطط (Blueprint Construction): لكل مهمة بحثية، يتم إنشاء "مخطط معرفة مضللة" يحدد استنتاجاً خاطئاً نموذجياً ($cf)ومجموعةطبقيةمنالمؤسسات(H$) مصنفة حسب مستويات السلطة (عالية، متوسطة، منخفضة).
توليد الحالات المنضبطة (Controlled Instance Generation): يقوم إطار العمل بتوليد وثائق خاصة بالمهمة (m) تدعم الاستنتاج الخاطئ. وتتنوع هذه الوثائق عبر مستويات سلطة مؤسسية وأساليب عرض للمصادر (ورقة بحثية، أخبار، مدونة، منشور). ومن الأهمية بمكان أن تضمن عملية التوليد أن تكون الوثائق متسقة داخلياً وملائمة أسلوبياً للفئة المخصصة لها، مع تجنب التدهور الواضح في الجودة الذي قد يؤدي إلى الرفض.
التحقق والتصفية (Verification and Filtering): لضمان أن الحالات المولدة مضللة واقعياً، يتم استخدام حلقة تحسين موجهة بالبحث. تقوم نماذج تحقق متعددة مدعومة بالبحث (J) بتقييم المرشحين بشكل مستقل؛ ولا يتم الاحتفاظ بالمرشح إلا إذا صنفه جميع الموثقين على أنه "مضلل" (Mis)؛ وإلا فإنه يخضع للتحسين. أنتجت هذه العملية 5,933 وثيقة مضللة خاضعة لضبط الجودة مشتقة من DeepResearch Bench.
يقيس التقييم معدل تبني الاستنتاج الخاطئ (FCAR)، والذي يُعرف بالنسبة المئوية للتقارير المكتملة التي تتبنى الاستنتاج الخاطئ النموذجي كإجابة نهائية خاصة بها. ولا يُحتسب مجرد الاقتباس أو التفنيد ضمن عملية التبني. تدرس الدراسة إطارين مفتوئي المصدر (DeerFlow، WebThinker) مقترنين بثلاثة نماذج لغوية ضخمة (DeepSeek-V4 Pro، Qwen3.5-397B، Intern-S1-Pro)، ونظاماً واحداً مغلق المصدر (Gemini Deep Research).
النتائج الرئيسية
القابلية العالية للتأثر بالمعرفة المضللة: في حالة التحكم (بدون حقن)، كان معدل FCAR هو 0%. أدى إدخال وثيقة مضللة واحدة إلى رفع متوسط FCAR إلى 54.7%. يشير هذا إلى أن التعرض المحدود لمعلومات خاطئة تبدو ذات مصداقية يمكن أن يؤدي إلى تبني استنتاجات خاطئة.
مرحلة دورة الحياة هي العامل الحاسم: يؤثر توقيت التعرض بشكل كبير على النتائج. فعندما تم إدخال المعرفة المضللة مباشرة قبل التوليف النهائي (pre-synthesis)، ارتفع متوسط FCAR إلى 85.5%. في المقابل، أدى التعرض عند "البداية الباردة" (cold start) أو أثناء منتصف البحث إلى معدلات تبني أقل (40.5% و44.2% على التوالي)، مما يشير إلى أن الوكلاء أقل عرضة لرفض الأدلة المضللة بمجرد دمجها في مرحلة التوليف النهائي.
الإشارات المصدرية تقود الإقناع:
السلطة: ترتبط السلطة المؤسسية الأعلى عموماً بمعدلات تبني أعلى (61.0% للمستوى العالي مقابل 46.2% للمستوى المنخفض)، رغم أن العلاقة ليست رتيبة تماماً عبر جميع التكوينات.
أسلوب العرض: كان أسلوب "الورقة البحثية" هو الإشارة الأكثر إقناعاً، حيث حقق أعلى معدل FCAR بنسبة (61.0%)، يليه المدونات، ثم الأخبار، ثم المنشورات. وكانت الفجوة بين أسلوب الورقة البحثية وأسلوب المنشور (23.5 نقطة مئوية) أكبر من الفجوة بين المصادر عالية ومنخفضة السلطة، مما يشير إلى أن العرض الأكاديمي هو إشارة أقوى للمصداقية من الدرجة المؤسسية وحدها.
التأثير المحدود لترتيب البحث وحجمه: لم يكن لموقع الوثيقة المضللة ضمن نتائج البحث (في المقدمة أم في الخلف) تأثير يذكر على التبني. علاوة على ذلك، لم يؤدِ زيادة عدد الوثائق المحقونة عن واحدة إلى زيادة تراكمية ثابتة في FCAR، مما يشير إلى أن وثيقة واحدة تبدو ذات مصداقية غالباً ما تكون كافية لإحداث الفشل.
التفاعل بين إطار العمل والنموذج: تباينت معدلات التبني بشكل كبير بناءً على الجمع بين تصميم إطار العمل والنموذج اللغوي الضخم الأساسي. على سبيل المثال، أظهر DeerFlow عموماً معدل FCAR أعلى من WebThinker، لكن هذه الفجوة تضاءلت مع النماذج الأكثر قدرة. ويشير هذا التفاعل إلى أن المتانة ليست خاصية للنموذج أو إطار العمل بمعزل عن الآخر، بل هي نتاج تكاملهما المحدد.
محدودية الدفاعات: درست الدراسة دفاعات ما قبل البحث (التعزيز بالتحقق من المطالبات) وما بعد البحث (وكلاء التحقق من الادعاء بند بند). وبينما قللت هذه الاستراتيجيات من FCAR، إلا أنها لم تقضِ عليه. ومن الجدير بالذكر أن دمج الدفاعات لم يؤدِ باستمرار إلى مكاسب إضافية، وفي بعض الحالات (مثل Intern-S1-Pro مع الدفاعات المدمجة)، تدهورت الأداء، ويرجع ذلك على الأرجح إلى أن وكيل ما بعد البحث يعمل في نفس بيئة الاسترجال الملوثة.
الأهمية والادعاءات يزعم البحث أن وكلاء البحث العميق يفتقرون حالياً إلى آليات قوية للتحقق من الأدلة خلال سير العمل طويل المدى. وتوضح النتائج أن تحديد الوثائق المضللة بشكل منعزل (عبر التحقق متعدد النماذج) ليس كافياً إذا لم تكن عملية التحقق مدمجة في عملية الحصول على الأدلة، وإدارة الحالة الوسيطة، ومراحل التوليف النهائي.
يؤكد المؤلفون أن نمط الفشل لا يقتصر على خطوط الإنتاج مفتوحة المصدر، حيث لوحظت أنماط مماثلة في نظام Gemini Deep Research مغلق المصدر. وتخلص الدراسة إلى أن التحقق المستمر ضروري كلما دخلت الأدلة في حالات البحث الوسيطة أو الاستنتاجات النهائية، حيث إن الدفاعات الحالية غير كافية لمنع تبني الاستنتاجات الخاطئة المدعومة بمعرفة مضللة تبدو ذات مصداقية. يوفر هذا العمل إطار عمل قابلاً لإعادة الإنتاج (MisKnow-Agent) ومجموعة بيانات لتسهيل المزيد من الأبحاث حول موثوقية وكلاء البحث المستقلين.