Resume Means Resume: A Machine-Checked Conformance Contract for Checkpoint, Interrupt, and Resume Semantics in Workflow Persistence Layers

فقدان الذاكرة الرقمي لوكلاء الذكاء الاصطناي

تخيل أنك تقوم ببناء روبوت يمكنه القيام بمهام معقدة، مثل التخطيط لرحلة أو كتابة قصة. أحياناً، يحتاج هذا الروبوت إلى التوقف ليسألك سؤالاً، مثل "هل يجب أن أحجز الرحلة الجوية؟" أو "هل أعجبتك هذه الحبكة الدرامية؟". يُسمى هذا "مقاطعة" (Interrupt). إذا تعطل الروبوت، أو فقد الطاقة، أو تمت مقاطعته، فإنه يحتاج إلى وسيلة لتذكر أين توقف بالضبط حتى يتمكن من استئناف العمل من حيث توقف. وهذا ما يسمى "الاستمرارية" (Persistence).

في عالم علوم الحاسوب، وتحديداً في مجال سير عمل الذكاء الاصطناعي (AI workflows)، هناك مشكلة متزايدة. لقد بنينا العديد من "أدمغة الروبوتات" المختلفة (الأطر البرمجية - Frameworks) التي يمكنها التوقف والاستئناف. ومع ذلك، فإن هذه الروبوتات سيئة جداً في تذكر ما فعلته بالفعل. إذا أنهى الروبوت مهمة، وحفظ تقدمه، ثم أعاد التشغيل، فمن المفترض أن يكون الروبوت مهذباً ويقول: "لقد فعلت ذلك بالفعل، فلننتقل لما بعده". لكن الروبوت المرتبك قد يقول: "لا أتذكر أنني فعلت ذلك!" ويعيد المهمة من جديد. وإذا كانت تلك المهمة هي إرسال بريد إلكتروني أو خصم مبلغ من بطاقة ائتمان، فإن القيام بذلك مرتين يعد كارثة. تبحث هذه الورقة فيما إذا كانت روبوتات الذكاء الاصطناي الحالية مرتبكة حقاً، أم أنها تتظاهر بالذكاء فقط.

---

حيرة "الاستئناف" الكبرى

هذه الورقة تشبه قصة بوليسية، ولكن بدلاً من حل جريمة قتل، يقوم المؤلف، سجاد خان، بحل لغز فقدان الذاكرة الرقمي. اللغز هو: عندما يتوقف وكيل الذكاء الاصطناي ثم يستأنف عمله، هل يتذكر ما فعله بالفعل، أم أنه يعيد القيام به عن طريق الخطأ؟

وجد المؤلف أن أكثر خمسة أطر عمل للذكاء الاصطناي انتشاراً تلعب جميعها بموجب كتب قواعد مختلفة ومتضاربة. الأمر يشبه امتلاكك لخمس ألعاب فيديو مختلفة، وفي واحدة منها، الضغط على "استمرار" يتخطى المستوى الذي أتممته للتو، بينما في أخرى، يجبرك على محاربة الزعيم مرة أخرى. والأسوأ من ذلك، أن بعض هذه الألعاب لا تخبرك حتى أي قاعدة تستخدمها.

القواعد الست للاستئناف الجيد

لمعرفة من يلعب بنزاهة، ابتكر المؤلف "عقد الاستئناف" (Resume Contract). فكر في هذا ككتاب قواعد لكيفية تصرف الروبوت عندما يستيقظ من قيلولته. يحتوي العقد على ست قواعد رئيسية:

1. استمرارية البادئة (Prefix Continuation): عندما تستيقظ، يجب أن تبدأ تماماً من حيث توقفت، وليس من بداية الفيلم.
2. الأثر لمرة واحدة بالضبط (Effect Exactly-Once): إذا كنت قد أرسلت بريداً إلكترونياً أو خصمت مبلغاً من بطاقة، فيجب ألا تفعل ذلك أبداً مرة أخرى. مرة واحدة فقط.
3. حتمية التفرع (Fork Determinism): إذا قررت تقسيم مسارك (مثل اختيار "اذهب يساراً" مقابل "اذهب يميناً")، فيجب على الروبوت تذكر المسار الذي اخترته. إذا قلت "يسار" مرتين، فلا ينبغي أن يتصرف وكأنك قلت "يمين" في المرة الثانية.
4. صلاحية نقطة التفتيش (Checkpoint Validity): يجب أن يكون سجل ذاكرة الروبوت نظيفاً. لا ينبغي أن يحفظ "بيانات غير صالحة" أو تالفة تجعله يتعطل لاحقاً.
5. الاستهلاك لمرة واحدة (Consume-Once): إذا قدم الإنسان إجابة (مثل "نعم، احجز الرحلة")، فيجب على الروبوت استخدام هذه الإجابة مرة واحدة فقط. لا ينبغي أن يستخدم نفس الـ "نعم" لحجز رحلتين.
6. حتمية الاسترداد (Recovery Determinism): إذا استيقظ روبوتان بنفس سجل الذاكرة تماماً، فيجب أن يتخذا نفس القرارات تماماً.

التحقيق: من فشل؟

بنى المؤلف آلة اختبار دقيقة للغاية وخالية من الروبوتات ("حامل الاختبار" - harness) لاختبار خمسة من أشهر أطر عمل الذكاء الاصطناي. لم يتم إشراك أي عقول بشرية أو نماذج ذكاء اصطناي في الاختبار، بل كان مجرد كود برمجي خالص. كانت النتائج صادمة: لم يتصرف إطاران بنفس الطريقة.

• LangGraph: هذا الإطار يشبه روبوتاً ينسى واجبه المنزلي. عندما يتعطل ويعيد التشغيل، يعيد تنفيذ عمل كان قد أنجزه بالفعل (مما ينتهك قاعدة "الأثر لمرة واحدة بالضبط"). كما يعاني من خلل حيث إذا حاولت تغيير رأيك ("التفرع")، فإنه يتجاهل اختيارك الجديد ويكرر الاختيار القديم.
• CrewAI: هذا الإطار أكثر فوضوية. هو يدعي تخطي العمل المكتمل، ولكن عند إعادة التشغيل، يعيد تنفيذ كل شيء على أي حال. إنه مثل طباخ يقول: "لقد قطعت البصل بالفعل"، ولكنه يقطعه مرة أخرى، مما يهدر الوقت والمكونات.
• LlamaIndex Workflows: هذا الإطار صادق بشأن ارتباكه. فهو يعترف: "مهلاً، إذا توقفت، فقد أعيد العمل الذي تم قبل التوقف". هذا ليس خطأً برمجياً، بل هي ميزة وثقوها، لكنها لا تزال محفوفة بالمخاطر بالنسبة لأمور مثل المدفوعات.
• pydantic-graph: هذا الروبوت هش للغاية لدرجة أنه إذا تعطل في منتصف مهمة، فإنه يرفض الاستيقاظ على الإطلاق. إنه مثل سيارة لا تعمل إذا أطفأت المحرك وهو في وضع التعشيق.
• AutoGen: هذا هو الوحيد الذي يقول بصوت عالٍ: "مهلاً، لقد حاولت تحميل ملف حفظ تالف!" ويرفض العمل. إنه مثل المعلم الصارم الذي لن يسمح لك بتجاوز عمليات التحقق.

كارثة "الحجز المزدوج"

كان أحد أكثر النتائج خطورة هو ما يتعلق بـ الاستهلاك لمرة واحدة (Consume-Once). تخيل أن لديك "موقفاً" حيث يقدم فيه الإنسان إجابة. إذا حاول شخصان تقديم إجابة في نفس الوقت (بالتزامن)، فإن الأنظمة الحالية تسمح لكليهما بالوقوف. عندها يظن الروبوت أنه تلقى إجابتين ويقوم بالمهمة مرتين.
اختبر المؤلف هذا مع 16 "متسابقاً" يحاولون الإجابة في وقت واحد. في 36 حالة من أصل 40 اختباراً، فشل النظام تماماً، وسمح لجميع المتسابقين الـ 16 بتفعيل الإجراء. إنه مثل كشك تذاكر يشتري فيه 16 شخصاً نفس التذكرة، والنظام يسمح لهم جميعاً بالدخول.

الإثبات والإصلاح

لم يكتفِ المؤلف بالتخمين؛ بل استخدم أداة رياضية تسمى TLA+ لمحاكاة ملايين السيناريوهات وإثبات أن هذه الإخفاقات كانت حقيقية وليست مجرد سوء حظ. كما استخدم أداة تحقق رسمي تسمى Verus لبناء محرك روبوت "مثالي" يسمى REMIT.

REMIT هو محرك مرجعي يتبع القواعد بدقة. فهو يعالج مشكلة "التفرع" عبر تذكر المسار الذي اخترته بالضبط، ويعالج مشكلة "الاستهلاك المزدوج" عبر قفل الإجابة بحيث يمكن لشخص واحد فقط تقديمها. أظهر المؤلف أنه عند استخدام REMIT، يتصرف الروبوت بشكل صحيح، حتى عندما تحاول 64 خيط معالجة (threads) التحدث إليه في وقت واحد.

الخلاصة

الدرس الكبير هنا هو أنه لمجرد أن إطار عمل الذكاء الاصطناي يقول إن لديه خاصية "نقاط التفتيش" (القدرة على الحفظ والاستئناف)، فهذا لا يعني أنه آمن للاستخدام في أمور هامة مثل المال أو إرسال الرسائل. حالياً، زر "الاستئناف" في العديد من أدوات الذكاء الاصطناي معطل بطرق قد تؤدي إلى خصم مبالغ مزدوجة أو فقدان البيانات.

تثبت الورقة أننا بحاجة إلى كتاب قواعد موحد (عقد الاستئناف) ليعرف المطورون بالضبط ما سيفعله الذكاء الاصطناي الخاص بهم عندما يستيقظ. وحتى ذلك الحين، إذا كنت تبني ذكاءً اصطناعياً يقوم بمهام واقعية، فلا يمكنك مجرد الثقة في إطار العمل لتذكر ما فعله – بل يجب عليك بناء شبكة أمان خاصة بك. لقد أصدر المؤلف أيضاً أداة مجانية (REMIT) يمكن للمطورين استخدامها لترقيع أنظمتهم وجعلها آمنة، مما يثبت أن الاستئناف المثالي الملتزم بالقواعد ممكن، حتى لو لم تكن الأدوات الشهيرة الحالية تقوم بذلك بعد.