Agentic AI for Complex Decision-Making: A Systematic Critical Review of Planning, Memory, Tools, Safety and Assurance in Autonomous Systems
تُقيّم هذه المراجعة النقدية المنهجية لـ 98 مصدراً حتى يونيو 2026 قدرات التخطيط، والذاكرة، والأدوات، والسلامة في الذكاء الاصطناعي الوكيل عبر إطار عمل جديد مغلق الحلقة، كاشفةً أن التصحيح الذاتي الجوهري غير موثوق، والتخطيط طويل الأمد لا يزال ضعيفاً، والوكلاء مستخدمو الأدوات عرضة للهجمات بالحقن، مع تقديم مصفوفة أدلة قابلة للتدقيق وخارطة طريق ذات أولوية للتطوير المستقبلي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل برنامجاً حاسوبياً لا يكتفي بمجرد الإجابة على سؤال عند طرحه، بل يسعى بدلاً من ذلك إلى حل مشكلة من تلقاء نفسه. يمكنه النظر في موقف فوضوي، وتفكيكه إلى خطوات، وتذكر ما تعلمه، واستخدام أدوات رقمية مثل متصفح الويب أو محرر الأكواد، وحتى التحدث إلى برامج أخرى لإنجاز المهمة. هذا هو الوعد الذي يقدمه الذكاء الاصطناعي "الوكيل" (agentic). لسنوات طويلة، كانت الحواسيب بارعة في التنبؤ بالكلمة التالية في جملة أو التعرف على وجه في صورة، لكنها كانت تفاعلية؛ أي أنها كانت تنتظر أمراً. أما الجيل الجديد من هذه الأنظمة فهو استباقي؛ فقد صُممت لتتصرف على فترات زمنية طويلة، متخذةً سلسلة من القرارات للوصలు إلى هدف ما، تماماً كما يفعل البشر عند إصلاح خطأ برمجِي معقد أو التخطيط لتجربة علمية. والسؤال الذي دفع الباحثين لفترة من الوقت هو ما إذا كان يمكن الوثوق بهذه الوكلاء الرقميين فعلياً للقيام بهذا العمل بشكل موثوق دون إشراف بشري مستمر.
تأخذ مراجعة شاملة جديدة للمجال، نشرها باحثون من معهد فيلور للتكنولوجيا وجامعة تونكو عبد الرحمن، نظرة فاحصة على هذا السؤال. لم يكتفِ المؤلفون بسرد أحدث الاختراعات أو وصف كيفية بناء هذه الأنظمة، بل عملوا كمدققين، حيث جمعوا ووزنوا الأدلة من ما يقرب من مائة دراسة نُشرت حتى منتصف عام 2026. كان هدفهم هو فصل القدرات الحقيقية لهؤلاء الوكلاء عن الضجيج الإعلامي، والتحقق مما إذا كانت هذه الأنظمة تعمل كما هو مُعلن عنها عند مواجهة مهام صعبة ومتعددة الخطوات. وقد وجدوا أنه بينما تتقدم التكنولوجيا بسرعة، إلا أن هناك فجوات كبيرة بين ما يمكن لهؤلاء الوكلاء القيام به في اختبار محكوم وما يمكنهم القيام به في العالم الحقيقي. وتشير المراجعة إلى أن الجيل الحالي من هذه الأنظمة ليس جاهزاً بعد للعمل المستقل عالي المخاطر، وأن الطريق إلى الأمام يتطلب بناء هياكل سلامة محددة بدلاً من مجرد انتظار أن تصبح الحواسيب أكثر ذكاءً.
بدأ الباحثون بتنظيم المشهد الفوضوي لأبحاث الوكلاء في خريطة واضحة. فقد حددوا أن هذه الأنظمة تعتمد على أربع قدرات رئيسية: تخطيط مسار العمل، وتذكر المعلومات بمرور الوقت، واستخدام الأدوات الخارجية، والتنسيق مع وكلاء آخرين. كما لاحظوا تمييزاً حاسماً بين النظام الذي يتبع ببساطة نصاً مكتوباً مسبقاً وبين النظام الذي يتخذ خياراته الخاصة حقاً. ولاختبار موثوقية هذه الأنظمة، اقترح المؤلفون إطار عمل معيارياً يتضمن نقطتي تفتيش للسلامة مفقودتين حالياً في معظم التصاميم. نقطة التفتيش الأولى هي خطوة التحقق، حيث تقوم عملية منفصلة بفحص خطة الوكيل قبل تنفيذها. أما الثانية فهي بوابة السلامة، وهي حاجز قائم على القواعد يمنع الوكيل من اتخاذ إجراءات خطيرة، مثل حذف ملفات مهمة أو إرسال بيانات خاصة إلى مكان خاطئ.
وعندما طبق الفريق هذا الإطار على عشرة من أبرز أنظمة الوكلاء الموجودة حالياً، كانت النتائج واقعية ومثبطة. لم يطبق أي من الأنظمة العشرة كلاً من هاتين النقطتين الجوهريتين لتفتيش السلامة بشكل كامل. كانت معظم الأنظمة بارعة في أجزاء "التنفيذ" — توليد الأفكار، واستدعاء الأدوات، والمضي قدماً — لكنها كانت ضعيفة بشكل مفاجئ في أجزاء "التحقق". فقد افتقرت غالباً إلى وسيلة للتحقق مما إذا كانت خططها صحيحة قبل التصرف، ونادراً ما امتلكت حداً قاطعاً لمنع الأخطاء الضارة. ووجد المؤلفون أن الآليات المخصصة لاتخاذ الإجراءات كانت أكثر تطوراً بكثير من الآليات المخصصة لضمان سلامة تلك الإجراءات. وهذا الخلل يعتبر خطيراً لأن الباحثين أظهروا أن الأخطاء الصغيرة في التخطيط تميل إلى التراكم بمر over الوقت. فإذا ارتكب الوكيل خطأ في الخطوة الأولى من مهمة طويلة، يمكن لهذا الخطأ أن يتصاعد، مما يؤدي إلى فشل كامل في النهاية، حتى لو بدا الوكيل وكأنه يحرز تقدماً.
يتعلق أحد أهم النتائج بفكرة التصحيح الذاتي. لقد أمل العديد من المطورين أن يتمكن هؤلاء الوكلاء ببساطة من النظر في عملهم، وإدراك الخطأ، وإصلاحه. وجدت المراجعة أن هذا الأمل في غير محله إلى حد كبير. فعندما يحاول الوكيل تصحيح نفسه دون مساعدة خارجية، فإنه غالباً ما يفشل في ملاحظة أخطائه، أو والأسوأ من ذلك، يجعل المشكلة أسوأ. وتشير الأدلة إلى أن التصحيح الذاتي لا يعمل بشكل موثوق إلا عندما يتلقى الوكيل تغذية راجعة من مصدر خارجي، مثل نتيجة اختبار، أو مراجع بشري، أو أداة تؤكد ما إذا كانت الخطوة ناجحة أم لا. وبدون ذلك الصوت الخارجي، يكون الوكيل عرضة للوقوع في حلقة مفرغة من الاستنتاجات الواثقة ولكن الخاطئة.
كما بحثت المراجعة في الفكرة الشائعة التي تقول إن استخدام عدة وكلاء يعملون معاً هو دائماً أفضل من استخدام وكيل واحد. وجد الباحثون أن هذا ليس صحيحاً بالضرورة. فبينما يمكن لفرق الوكلاء حل المشكلات المعقدة، إلا أنها غالباً ما تفشل في التفوق على وكيل واحد مصمم جيداً إذا مُنحوا نفس القدر من القدرة الحسابية. وفي كثير من الحالات، ينتهي الأمر بالوكلاء في الفريق بتكرار نفس الأخطاء أو الارتباك ببعضهم البعض، وهي ظاهرة تُعرف باسم "الهلوسة الجماعية". ولا تظهر فوائد العمل الجماعي إلا في ظروف محددة للغاية، مثل عندما يمتلك الوكلاء مهارات مختلفة وغير متداخلة وعندما لا تعزز أخطاؤهم بعضها البعض.
ولعل الرؤية الأكثر أهمية من المراجعة تتعلق بالسلامة. يجادل المؤلفون بأن السلامة لا يمكن أن تكون مجرد فكرة ثانوية أو مرشحاً بسيطاً يُضاف في نهاية العملية. ولأن هؤلاء الوكلاء يمكنهم اتخاذ إجراءات في العالم الحقيقي، يجب أن تُبنى السلامة في صلب هيكلية كيفية اتخاذهم للقرارات. تسلط المراجعة الضوء على أن تدابير السلامة الحالية، التي تركز على تدريب الحاسوب على رفض الطلبات الضارة، ليست كافية. إذ يمكن تدريب نظام ليكون مهذباً ويرفض قول شيء سيء، ولكن إذا تم خداعه بواسطة تعليمات مخفية في موقع إلكتروني يزوره، فقد يظل قادراً على تنفيذ إجراء ضار. ويخلص الباحثون إلى أن الوكلاء الموثوقين يحتاجون إلى نهج "الدفاع في العمق"، حيث توجد طبقات متعددة من الحماية، بما في ذلك فحوصات الإذن والبيئات المعزولة (sandboxed environments)، تقف بين قرار الوكيل والعالم الحقيقي.
أخيراً، نظر الفريق في مدى جاهزية هذه الأنظمة للاستخدام في العالم الحقيقي في مجالات هامة مثل الرعاية الصحية، والتمويل، والخدمات العامة. ووجدوا أنه بالنسبة للمجالات ذات المخاطر العالية، لا يوجد دليل تقريباً على أن هؤلاء الوكلاء جاهزون للعمل بشكل مستقل. وفي مجالات مثل هندسة البرمجيات، حيث تكون المخاطر أقل ويمكن تصحيح الأخطاء بسهء، هناك بعض الأدلة على النجاح، ولكن حتى هناك، تعاني الأنظمة مع المهام الطويلة والمعقدة. تشير المراجعة إلى أن الحالة الراهنة للتكنولوجيا يمكن وصفها بأنها قدرة واعدة لا تزال تنتظر البنية التحتية اللازمة لجعلها جديرة بالثقة. إن الطريق إلى الأمام لا يقتدي فقط ببناء نماذج أكثر ذكاءً، بل ببناء أنظمة أفضل للتحقق والسلامة والمساءلة. ويقترح الباحثون خارطة طريق للسنوات القليلة القادمة تعطي الأولوية لهذه التحسينات الهيكلية، مؤكدين أنه ما لم توضع هذه الأسس، فإن نشر الوكلاء المستقلين تماماً في المجالات الحرجة يظل أمراً ينطوي على مخاطرة كبيرة لا يمكن تبريرها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.