From Inertia to Objectivity: Improving Deep Research Agents with Noise Isolation
تحدد هذه الورقة وتُحدد كمياً "انحياز القصور الذاتي"، وهي ظاهرة تصبح فيها وكلاء الأبحاث القائمة على النماذج اللغوية الكبيرة أقل موضوعية عند تقييم أفعالهم السابقة، وتقترح إطار عمل NIS-Agent مع آليات عزل الضجيج للتخفيف من حدة هذا الانحياز، محققةً أداءً تنافسياً في معايير الأبحاث العميقة مع تقليل تكاليف الرموز (tokens) بشكل كبير.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في العصر الرقمي الحديث، قمنا ببناء ذكاء اصطناعي يمكنه العمل كباحث. هذه البرامج، التي تُسمى غالباً "وكلاء" (agents)، يمكنها تصفح الإنترنت، وقراءة آلاف المقالات، وتجميع إجابات لأسئلة معقدة قد تستغرق من البشر ساعات لحلها. وهي تعمل من خلال تقسيم السؤال الكبير إلى خطوات أصغر، والبحث عن المعلومات، ثم تقرير ما يجب فعله تالياً بناءً على ما تجده. تعتمد هذه العملية على قيام الحاسوب بفحص عمله باستمرار، متسائلاً: "هل وجدتُ ما كنت أبحث عنه؟" و"هل يجب أن أستمر أم أتوقف؟". ولكي تكون هذه الأنظمة مفيدة حقاً، يجب أن تكون قادرة على الاعتراف بخطئها وتغيير اتجاهها. فإذا أدى البحث إلى طريق مسدود، يحتاج الوكيل إلى الموضوعية للتخلي عن ذلك المسار وتجربة مسار جديد.
ومع ذلك، اكتشف الباحثون خللاً خفياً في طريقة تفكير هذه الأنظمة الذكية. فعندما يولد الوكيل استعلام بحث أو خطة، يصبح مرتبطاً بهذا الفكرة بشكل غريب. فحتى عندما تكون النتائج التي يجدها غير ذات صلة أو خاطئة بوضوح، يجد الوكيل صعوبة في التخلي عن خياره الأصلي. يبدو الأمر كما لو أن النظام أصبح مستثمراً أكثر مما ينبغي في أفعاله السابقة ليحكم عليها بإنصاف. هذه الظاهرة، التي يسميها الباحثون "انحياز القصور الذاتي" (inertia bias)، تجعل الوكيل يهدر الوقت في اتباع مسارات غير منتجة ويتجاهل الأدلة التي تتعارض مع خطته الأولية. المشكلة ليست في أن الحاسوب يفتقر إلى المعلومات؛ بل في أن الحاسوب يفقد قدرته على أن يكون موضوعياً بشأن الخيارات التي اتخذها قبل لحظات فقط.
قام فريق من الباحثين من جامعة تشجيانغ ومجموعة علي بابا بوضع هدف لقياس هذه المشكلة وإيجاد طريقة لإصلاحها. بدأوا بإنشاء اختبار محدد لمعرفة مدى تأثير هذا الانحياز على اتخاذ القرار. صمموا سيناريو حيث يتعين على وكيل حاسوبي أن يقرر ما إذا كان سيستمر في البحث أم يتوقف، بناءً على مجموعة من نتائج البحث. في نسخة واحدة من الاختبار، رأى الوكيل النتائج كما لو كانت نتيجة لعمله الأخير. وفي النسخة الأخرى، عُرضت النتائج نفسها تماماً كمعلومات محايدة من مصدر خارجي. كان الفرق مذهلاً؛ فعندما اعتقد الوكيل أن النتائج ناتجة عن فعله، كان أقل عرضة بكثير لرفض المعلومات السيئة، فقد تمسك باستعلامه الأصلي حتى عندما أشارت الأدلة إلى أنه كان مخطئاً. أما عندما عُرضت النتائج كحقائق خارجية، فقد كان الحاسوب نفسه أفضل بكثير في التعرف على الطرق المسدودة وتغيير مساره. أثبتت هذه التجربة أن مجرد حقيقة "امتلاك" فعل سابق تجعل النظام أقل موضوعية.
وجد الباحثون أن هذا الانحياز يخلق نوعين محددين من "الضجيج" الذي يفسد جودة البحث العميق. يحدث النوع الأول على مستوى "العامل"، وهو الجزء من النظام الذي يبحث فعلياً في الويب. بسبب انحياز القصور الذاتي، يستمر العامل في النقر على روابط تبدو ذات صلة طفيفة ولكنها في الواقع عديمة الفائدة، لمجرد أنه هو من أنشأ مصطلح البحث الذي وجدها. وهذا يهدر الوقت ويملأ ذاكرة النظام ببيانات غير صالحة. أما النوع الثاني من الضجيج فيحدث على مستوى "المدير"، وهو الجزء الذي يخطط للاستراتيجية العامة. فإذا ارتكب المدير خطأً صغيراً في البداية، فإنه يميل إلى تجاهل الأدلة اللاحقة التي تتعارض مع هذا الخطأ. وبدلاً من إعادة تقييم الصورة بأكملها، فإنه يختار بشكل انتقائي المعلومات التي تدعم خطته الأصلية المعيبة، مما يؤدي إلى إجابات نهائية غير صحيحة.
ولحل هذه المشكلة، بنى الفريق نظاماً جديداً يسمى NIS-Agent. الفكرة الجوهرية بسيطة لكنها فعالة: عزل عملية اتخاذ القرار عن تاريخ الأفعال التي قد تشوش الحكم. لقد قدموا أداتين محددتين لتحقيق ذلك. أولاً، بالنسبة للعامل، أنشأوا مرشحاً (filter) ينظر إلى نتائج البحث دون سياق استعلام البحث الذي وجدها. وهذا يسمح للنظام بالحكم على صلة صفحة الويب بناءً على محتواها الصرف، بدلاً من ارتباطها بخطأ سابق. فإذا لم تكن الصفحة مفيدة، يمكن للنظام استبعادها فوراً وتجربة بحث جديد. ثانياً، بالنسبة للمدير، بنوا خطوة تحقق تقوم بتفكيك الاستنتاج النهائي إلى قطع صغيرة ومنفصلة. يتم فحص كل قطعة بشكل مستقل لمعرفة ما إذا كان المنطق صامداً، دون ضغط تأثير تاريخ المحادثة بأكمله على الحكم.
كانت نتائج هذا النهج الجديد كبيرة. فعند اختباره على معايير بحث صعبة، أدى النظام الجديد أداءً أفضل من الأساليب الحالية مع استخدام موارد حاسوبية أقل بكثير. في الواقع، قلل من كمية البيانات التي يحتاج الحاسوب لمعالجتها بنحو الثلث، لأنه توقف عن إضاعة الوقت في صفحات غير ذات صلة. كما درب الباحثون نموذجاً أصغر مفتوح المصدر ليكون مقاوماً لهذا الانحياز بشكل طبيعي. هذا النموذج الأصغر، عند استخدامه لإطار عملهم الجديد، قدم أداءً يضاهي النماذج التجارية الأكبر والأغلى ثمناً في مهام البحث العميق.
تؤكد الدراسة أن القدرة على أن تكون موضوعياً لا تتعلق فقط بامتلاك المزيد من البيانات أو عقلاً أذكى؛ بل تتعلق بكيفية هيكلة النظام لرؤية تاريخه. ومن خلال التراجع خطوة للور trás والنظر في القرارات بمعزل عن بعضها البعض، أظهر الباحثون أنه يمكن تعليم الذكاء الاصطناعي التغلب على عناده الخاص. هذا لا يعني أن المشكلة قد حُلت تماماً، إذ لا يزال بإمكان النظام ارتكاب الأخطاء، لكنه يوفر مساراً واضحاً للمضي قدماً. ويشير العمل إلى أنه لكي يصبح الذكاء الاصطناعي شريكاً موثوقاً حقاً في الأبحاث المعقدة، يجب تصميمه بآليات تسمح له بنسيان انحيازاته والحكم على الحقائق بناءً على جدارتها الخاصة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.