💻 computer science

Failure-Aware Adaptive Inference Improves Reliability in Long-Horizon Language Model Agents

تقدم الورقة البحثية إطار عمل الاستدلال التكيفي الواعي بالفشل (FAAI)، وهو إطار يستفيد من معرفة الفشل القابلة لإعادة الاستخدام من خلال الاسترجاع الذاكراتي التكيفي، وتقدير المخاطر، والتصحيح الذاتي الاستباقي لتحسين موثوقية ومعدلات نجاح وكلاء النماذج اللغوية ذات الأفق الطويل بشكل كبير دون الحاجة إلى تدريب إضافي للنموذج.

المؤلفون الأصليون: Youla Yang

نُشر 2026-08-14

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Youla Yang

البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

فن عدم التعثر بقدميك

تخيل أنك تعلم روبوتًا عبقريًا ولكنه أخرق قليلاً كيفية التنقل في متاهة عملاقة ومتغيرة. هذا الروبوت يعمل بواسطة نموذج لغوي كبير (LLM)، وهو نوع من الذكاء الاصطناعي البارع للغاية في فهم الكلمات وإجراء المحادثات. في عالم علوم الحاسوب، نسمي هذه النماذج "الوكلاء" (Agents). عندما تكون المهمة بسيطة، مثل الإجابة على سؤال واحد، يكون الروبوت بخير عادةً. ولكن عندما تكون المهمة رحلة طويلة — مهمة ذات "أفق طويل" تتطلب عشرات الخطوات المتتالية، مثل التخطيط لرحلة معقدة أو كتابة برنامج كامل — يبدأ الروبوت في التعثر.

المشكلة الجوهرية تكمن فيما يحدث بعد التعثر. في لعبة بسيطة، إذا ارتكبت خطوة خاطئة، يمكنك فقط المحاولة مرة أخرى. ولكن في مغامرة متسلسلة طويلة، يمكن لخطوة واحدة خاطئة أن تغير الخريطة بأكملها. إذا فتح الروبوت الباب الخطأ، فقد يحبس نفسه خارج المبنى. يُسمى هذا "انتشار الفشل" (failure propagation): خطأ صغير في البداية يتحول إلى كارثة شاملة في النهاية. حاول العلماء إصلاح ذلك بجعل الروبوت يفكر بعمق أكبر قبل التحرك (تقنية تسمى "سلسلة الأفكام" أو Chain-of-Thought) أو بالسماح له بالنظر في مكتبة من التجارب السابقة ليرى ما نجح سابقًا ("التوليد المعزز بالاسترجاع" أو Retrieval-Augmented Generation). ومع ذلك، فإن هذه الأساليب غالبًا ما تعامل جميع التجارب الماضية على أنها متساوية، متناسية أن بعض الذكريات هي في الواقع تحذيرات. كما أنها تميل إلى الانتظار حتى بعد اصطدام الروبوت لتقول: "عذرًا، لنحاول مجددًا"، وهذا يكون متأخرًا جدًا إذا كان الاصطدام قد أتلف شيئًا لا يمكن إصلاحه.

شبكة الأمان "الواعية بالفشل"

هنا يأتي دور إطار عمل جديد يسمى الاستدلال التكيفي الواعي بالفشل (FAAI)، الذي طورته "يولا يانغ". بدلاً من مجرد حفظ ما نجح، يعلم نظام FAAI الذكاء الاصطناعي أن يعامل أخطاءه الماضية كخريطة كنز من علامات "لا تذهب إلى هنا". يعمل النظام مثل دليل خبير لا يتذكر المناظر الجملة فحسب، بل يتذكر تحديدًا المنحدرات التي سقط منها المتنزهون.

إليك كيف يعمل ذلك في الممارسة العملية:

بنك الذاكرة: في كل مرة يتخذ فيها الذكاء الاصطناتي إجراءً، فإنه يحفظ ملاحظة. ولكن على عكس الأنظمة الأخرى التي تحفظ كل شيء بالتساوي، يقوم FAAI بتصنيف وتحديد أولويات الملاحظات التي سارت فيها الأمور بشكل خاطئ. إنه يخزن حالة العالم، والإجراء المتخذ، والنتيجة السيئة.
فحص المخاطر: قبل أن يتخذ الذكاء الاصطناعي خطوة جديدة، فإنه لا يكتفي بالتخمين. بل يقوم بمسح سريع لبنك الذاكرة الخاص به بحثًا عن مواقف مماثلة فشل فيها في الماضي. ثم يحسب "درجة المخاطر" — وهو رقم يمثل احتمالية أن يؤدي هذا الإجراء المحدد إلى وقوع حادث.
التصحيح الاستباقي: إذا كانت درجة المخاطر مرتفبة جدًا (أعلى من عتبة 0.6)، فإن الذكاء الاصطناعي يتوقف. إنه لا ينتظر وقوع الحادث، بل يتوقف، ويعيد التفكير في خطته، ويغير إجرائه قبل أن يلمس البيئة المحيطة. هذا هو "التصحيح قبل التنفيذ"، وهي خطوة استباقية تمنع وقوع الخطأ من الأساس.

اختبر الباحثون هذا في عالمين رقميين مختلفين: HotPotQA، وهي لعبة استدلال متعددة الخطوات حيث يجب على الذكاء الاصطناعي البحث في الوثائق للعثور على الإجابات، و WebShop، وهي محاكاة للتسوق عبر الإنترنت حيث يجب على الذكاء الاصطناعي التنقل في متجر لشراء عناصر محددة. وضعوا نظام FAAI في مواجهة أساليب الذكاء الاصطناعي القياسية، بما في ذلك تلك التي تفكر فقط قبل التصرف، وتلك التي تبحث عن النجاحات السابقة المشابهة، وتلك التي تتأمل في الأخطاء فقط بعد حدوثها.

كانت النتائج مذهلة، خاصة مع طول المهام. عندما كانت المهمات قصيرة (5 خطوات)، كان FAAI هو الفائز بالفعل، حيث نجح بنسبة 54.17% تقريبًا، بينما لم تتمكن أفضل طريقة تالية من تحقيق أكثر من 30.56%. ولكن السحر الحقيقي حدث عندما أصبحت المهمات طويلة. مع زيادة عدد الخطوات إلى 40، انهارت الأساليب الأخرى تمامًا. انخفضت معدلات نجاحها إلى أقل من 7%، لأن خطأً صغيرًا في البداية دمر الرحلة بأكملها. في المقابل، حافظ FAAI على معدل نجاح مذهل بلغ 95.83% عند 40 خطوة.

تشير الدراسة إلى أن "الخلطة السرية" ليست مجرد امتلاك ذاكرة أكبر أو التفكير لفترة أطول؛ بل هي تحديدًا استخدام الإخفاقات الماضية للتنبؤ بالمخاطر المستقبلية. عندما أزال الباحثون جزء "التنبؤ بالمخاطر" من نظام FAAI، انهار معدل النجاح من 95.83% إلى 17.96%، مما يثبت أن معرفة متى قد تفشل أكثر أهمية من مجرد تذكر أنك فشلت. علاوة على ذلك، أظهرت البيانات أنه بالنسبة للذكاء الاصطناعي القياسي، فإن الفشل في خطوة واحدة يجعل الفشل في الخطوة التالية مرجحًا بنسبة 62%. لقد كسر FAAI هذه السلسلة، حيث قلل تلك الاحتمالية إلى 18% فقط.

ومن المثير للاهتمام أن الورقة تسلط الضوء أيضًا على أن "التأمل" — النظر إلى الوراء بعد وقوع الخطأ — أقل فعالية بكثير من إيقاف الخطأ قبل أن يبدأ. في هذه المحاكاة، أدت قدرة FAAI على إصلاح الخطة قبل التنفيذ إلى معدل استعادة بلغ 72.3% للمواقف الخطرة، بينما حققت الأساليب التي تتأمل بعد وقوع الأمر فقط 31.5%. ورغم أن هذا النهج يتطلب وقتًا وقوة حوسبة أكبر (أبطأ بنحو 2.8 مرة من الذكاء الاصطناعي الأساسي)، إلا أن المقابل هو نظام يمكنه التنقل بموثوقية في المهام الطويلة والمعقدة دون الانهيار. يقترح المؤلف أن هذا النهج يمكن أن يكون مخططًا لبناء وكلاء ذكاء اصطناعي أكثر موثوقية لا يتعلمون فقط من النجاح، بل يتعلمون أيضًا تجنب عثراتهم الخاصة.

ملخص تقني: الاستدلال التكيفي الواعي بالفشل (FAAI)

بيان المشكلة

تواجه وكلاء النماذج اللغوية الكبيرة (LLMs) التي تعمل في بيئات اتخاذ القرار المتسلسل تحديًا جوهريًا في الموثوقية يُعرف باسم انتشار الفشل (failure propagation). فخلافًا لمهام التنبؤ الثابتة، يجب على الوكلاء المتسلسلين التفاعل مع بيئات متطورة عبر خطوات متعددة. يمكن لخطأ واحد في التنفيذ المبكر أن يغير الحالات المستقبلية، ويقيد الخيارات اللاحقة، ويؤدي إلى فشل المسار بالكامل. يشير المؤلف إلى أنه حتى مع دقة عالية في كل خطوة (مثل 95%)، فإن احتمالية التنفيذ الخالي من الأخطاء تتناقص بسرعة عبر الآفاق الطويلة (مثل 40 خطوة)، وهو وضع يتفاقم بسبب الارتباط الإيجابي للفشل (حيث يزيد وقوع فشل واحد من احتمالية وقوع الفشل التالي).

تفشل النهج الحالية — مثل سلسلة الأفكال (CoT)، والجيل المعزز بالاسترجاع (RAG)، والتفكير اللاحق (post-hoc reflection) — في التعامل مع التجارب التاريخية كمعلومات سياقية أو تشابهات دلالية فقط؛ فهي غالبًا ما تفشل في التمييز صراحةً بين المسارات الناجحة والفاشلة عند توجيه الإجراءات الجديدة. علاوة على ذلك، فإن العديد من آليات التصحيح هي آليات تفاعلية (reactive)، حيث تحلل الأخطاء فقط بعد وقوعها، وهو أمر غير كافٍ في البيئات التي يمكن أن تغير فيها الإجراءات الحالة بشكل لا رجعة فيه (مثل إصدار أوامر غير صالحة أو تنفيذ معاملات مالية).

المنهجية: الاستدلال التكيفي الواعي بالفشل (FAAI)

يقترح المؤلف إطار عمل FAAI، وهو إطار يدمج معرفة الفشل مباشرة في عملية اتخاذ القرار أثناء الاستدلال. يعامل FAAI الإخفاقات السابقة ليس كعثرات غير ناجحة يتم التخلص منها، بل كإشارات قرار قابلة لإعادة الاستخدام. يعمل إطار العمل من خلال ثلاث آليات أساسية:

استرجاع الذاكرة الواعي بالفشل:
بدلاً من الاعتماد فقط على التشابه الدلالي، يقوم FAAI باسترجاع التجارب بناءً على درجة ملاءمة مركبة تتضمن:
- الملاءمة الدلالية ( $S$ )
- ملاءمة الفشل ( $F$ )
- المنفعة المقدرة للذاكرة ( $U$ )
  تعطي دالة التسجيل هذه ( $R = \lambda_s S + \lambda_f F + \lambda_u U$ ) الأولوية لتجارب الفشل عالية المخاطر التي تتنبأ بالمخاطر الحالية، بغض النظر عن المسافة الدلالية.
التنبؤ الصريح بالمخاطر:
لكل إجراء مرشح $a_t$ ، يقدر الوكيل درجة خطر التنفيذ $\rho_t = P(f_t = 1 | s_t, a_t, M_t)$ ، حيث تمثل $M_t$ الذاكرة المسترجعة الواعية بالفشل. وهذا يحدد كميًا احتمالية أن يؤدي إجراء معين إلى فشل.
التصحيح الذاتي قبل التنفيذ:
إذا تجاوز خطر التنفيذ المقدر $\rho_t$ عتبة محددة مسبقًا $\tau$ ، يقوم الوكيل بتفعيل مرحلة التصحيح قبل تنفيذ الإجراء. يتم تزويد النموذج اللغوي الكبير بالحالة الحالية، والإجراء المقترح، وذكريات الفشل ذات الصلة، وتعليمات إعادة النظر لمراجعة القرار. هذا التدخل الاستباقي يمنع الإجراءات غير الآمنة من التأثير على البيئة.

يحافظ النظام على مخزن ذاكرة تكيفي حيث يتم تخصيص درجات منفعة للتجارب؛ حيث يتم الاحتفاظ بتجارب الفشل عالية المخاطر بشكل تفضيلي لترميز حدود القرار التي تمنع الأخطاء المستقبلية.

المساهمات الرئيسية

يوضح البحث أربع مساهمات رئيسية:

تحديد انتشار الفشل: يحلل المؤلف ويثبت أن إخفاقات التنفيذ المبكرة تزيد بشكل كبير من احتمالية الفشل المستقبلي في الوكلاء ذوي الآفاق الطويلة، مما يخلق تبعية تفشل استراتيجيات التفكير القياسية في معالجتها.
إطار عمل FAAI: إطار استدلال مبتكر يدمج استرجاع الذاكرة الواعي بالفشل، وتقدير خطر التنفيذ الصريح، والتصحيح الذاتي قبل التنفيذ.
التحقق التجريبي: تجارب مكثفة تظهر أن FAAI يحسن بشكل كبير إتمام المهام في الإعدادات طويلة الأمد، محافظًا على موثوقية عالية مع زيادة آفاق التفاعل، على عكس النماذج المرجعية الحالية.
تحليل المكونات: دراسات استئصال (ablation studies) منهجية تؤكد أنه بينما تساهم جميع المكونات في الموثوقية، فإن التنبؤ بالمخفاط هو العامل الأكثر حسمًا، يليه الذاكرة التكيفية والتصحيح الذاتي اللذان أظهرا منفعة متقاربة.

النتائج التجريبية

قيم المؤلف FAAI في بيئتين: HotPotQA (الاستدلال متعدد الخطوات) و WebShop (محاكاة التسوق عبر الإنترنت)، مع آفاق تفاعل تتراوح من $H=5$ إلى $H=40$ .

الأداء في الآفاق الطويلة: تظل معدلات نجاح FAAI مرتفعة باستمرار مع زيادة طول الأفق، حيث حقق 95.83% عند $H=20$ وحافظ على 95.83% عند $H=40$ . وفي المقابل تمامًا، انخفضت معدلات النجاح لجميع الطرق المرجعية (النموذج المباشر، CoT، ReAct، RAG، والوكلاء القائمين على التفكير) إلى أقل من 7% عند $H=40$ .
تخفيف انتشار الفشل: أظهرت الوكلاء المرجعية احتمالية انتقال فشل شرطي $P(F_{t+1} | F_t)$ قدرها 0.62، مما يشير إلى تراكم قوي للأخطاء. قلل FAAI هذه النسبة إلى 0.18، أي انخفاض نسبي بنسبة 71.0%، مما أدى فعليًا إلى كسر سلسلة انتشار الفشل.
دراسات الاستئصال: أدى حذف مكون التنبؤ بالمخاطر إلى أكبر تدهور في الأداء، حيث انخفض النجاح من 95.83% إلى 17.96%. كما تسبب حذف الذاكرة التكيفية أو التصحيح الذاتي في انخفاضات كبيرة (إلى حوالي 39-40%)، مع اختلاف طفيف بين الاثنين، مما يشير إلى أن التقدير بدون تصحيح، والذاكرة بدون تقدير مخاطر، لهما منفعة متقاربة.
الوقاية مقابل التعافي: تم تفعيل التصحيح قبل التنفيذ في 38.7% من الخطوات، مما أدى إلى نتائج ناجحة في 89.2% من تلك الحالات. نتج عن ذلك معدل تعافي قدره 72.3% للمسارات التي تعرضت للفشل، مقارنة بـ 31.5% فقط لأفضل نموذج مرجعي قائم على التفكير.
التعميم: أظهر إطار العمل قدرة على الانتقال، حيث حقق نجاحًا بنسبة 88.89% عند $H=20$ في بيئة WebShop، بينما ظلت النماذج المرجعية تحت 15%.

الأهمية والادعاءات

يزعم البحث أن FAAI يوفر آلية عملية لتحسين متانة الوكلاء القائمين على النماذج اللغوية الكبيرة دون الحاجة إلى تدريب إضافي للنماذج. يجادل المؤلف بأن الموثوقية في الوكلاء طويلي الأمد لا يمكن تحقيقها بمجرد تحسين دقة الخطوة الواحدة أو طول التفكير؛ بدلاً من ذلك، تحتاج الوكلاء إلى آليات لاكتشاف مناطق الحالة الخطرة والتدخل قبل وقوع الأخطاء.

من خلال معاملة الفشل كإشارات معلوماتية وتنبؤية بدلاً من كونها أخطاء مهملة، يعالج FAAI قيود التفكير التفاعلي والاسترجاع المعتمد على الدلالة فقط. تشير النتائج إلى مبدأ تصميم أوسع: يجب أن تمتلك الوكلاء المستقلة القوية القدرة على فهم أنماط فشلها والتنبؤ بها وتجنبها. وبينما يقر المؤلف بالقيود المتعلقة بالاعتماد على إشارات الفشل الصريحة، والتكاليف الحسابية، وافتراضات الثبات، إلا أنه يرى أن التكيف الواعي بالفشل هو خطوة حاسمة نحو وكلاء ذكاء اصطناعي أكثر موثوقية وقابلية للنشر.