Towards Agentic Runtime Healing
تقدم هذه الورقة "Healer"، وهو إطار عمل مبتكر يسخر النماذج اللغوية الكبيرة لتوليد وتنفيذ كود مخصص لمعالجة الأخطاء ديناميكيًا في الوقت الفعلي، محققًا معدل نجاح مرتفع في التعافي من أخطاء وقت التشغيل غير المتوقعة، مما يمثل خطوة هامة نحو أنظمة برمجية وكيلية ذاتية الإصلاح.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن برنامج الكمبيوتر الخاص بك هو طباخ مشغول في مطبخ. عادةً ما يتبع الطباخ وصفة (الكود) بدقة. ولكن أحياناً، يحدث شيء غير متوقع: يحاول الطباخ تقطيع خضار غير موجود أصلاً، أو يحاول وضع كعكة في فرن ممتلئ بالفعل. في عالم البرمجيات، هذا ما يسمى بـ خطأ وقت التشغيل (Runtime Error).
تقليدياً، عندما يرتكب الطباخ خطأً، يتوقف المطبخ عن العمل تماماً. يتوقف الطباخ، ويجوع الزبائن، ويتعين على مدير بشري التدخل لفهم ما حدث بالضبط، وإعادة كتابة الوصفة للمرة القادمة. هكذا تعمل معظم البرمجيات اليوم: إذا تعطلت، تظل معطلة حتى يقوم إنسان بإصلاحها.
الفكرة الجديدة: "مساعد الطباخ الذكي"
تقدم هذه الورقة مفهوماً جديداً يسمى Healer (المُعالج). فكر في Healer كأنه مساعد طباخ ذكي (Sous-Chef) يعمل بالذكاء الاصطناعي، يقف بجانب الطباخ الرئيسي مباشرة.
عندما يتعثر الطباخ الرئيسي ويسقط حلة من يده (الخطأ)، بدلاً من إغلاق المطبخ، يتدخل مساعد الطبخ الذكي. هو لا يكتفي بالقول "أوه لا!" والاتصال بالمدير، بل ينظر فوراً إلى الفوضى، ويفهم الموقف، ثم يكتب تعليمات جديدة وصغيرة جداً على ورقة ملاحظات لاصقة لإصلاح المشكلة الفورية.
على سبيل المثال، إذا كان الخطأ هو "الحلة موجودة بالفعل على الموقد"، فقد يكتب المساعد الذكي فوراً: "حسناً، لنستخدم حلة أخرى"، ويقدم تلك التعليمات للطباخ الرئيسي. يقرأ الطباخ الرئيسي التعليمات، ويتبعها، ويستمر في الطبخ دون توقف الخدمة أبداً.
كيف يعمل الأمر (الخدعة السحرية)
بنى الباحثون نظاماً لاختبار هذه الفكرة. إليك العملية خطوة بخطوة كما وصفوها:
- الانهيار: يصطدم البرنامج بخطأ لم يكن يتوقعه.
- اللقطة: يأخذ النظام "صورة" سريعة لكل ما يحدث في تلك اللحظة بالذات: رسالة الخطأ، والمكان الذي تعطل فيه الكود، وماذا كانت تفعل المتغيرات (المكونات).
- الطلب: تُرسل هذه اللقطة إلى نموذج لغوي كبير (LLM). فكر في الـ LLM كأنه أمين مكتبة فائق الذكاء قرأ كل كتب الطبخ في العالم. يسأل النظام أمين المكتبة: "هذه هي المشكلة. اكتب حلاً سريعاً لنتمكن من الاستمرار".
- الإصلاح: يكتب أمين المكتبة قطعة صغيرة من الكود (الكود المعالج).
- إعادة التشغيل: يقوم النظام بتشغيل هذا الكود الجديد فوراً. يقوم بتغيير حالة البرنامج (مثل استبدال الحلة) بحيث يختفي الخطأ، ويستمر البرنامج في العمل وكأن شيئاً لم يكن.
ماذا وجدوا؟
اختبر الفريق هذا "المساعد الذكي" على آلاف البرامج المعطلة. وإليكم ما حدث:
- إنه يعمل بشكل جيد بشكل مفاجئ: عندما استخدموا أذكى نموذج ذكاء اصطناعي متاح (GPT-4)، نجح في إصلاح البرنامج والسماح له بالاستمرار في العمل بنسبة 73% من المرات.
- يؤدي المهمة المطلوبة: في حوالي 39% من الحالات، لم يستمر البرنامج في العمل فحسب، بل أنهى المهمة بشكل صحيح، وأنتج الإجابة الصحيحة.
- التدريب يساعد: وجدوا أنه إذا قاموا بـ "تعليم" الذكاء الاصطناعي كيفية إصلاح هذه الأخطاء خصيصاً (من خلال إظهار أمثلة لإصلاحات جيدة)، فإن نماذج الذكاء الاصطناعي الأصغر والأقل قوة يمكنها الأداء بمستوى يقارب النماذج الكبيرة والمكلفة.
العقبة: الثقة في الذكاء الاصطناعي
تشير الورقة أيضاً إلى خطر كبير. نظرًا لأن الذكاء الاصطناعي يكتب الكود أثناء التشغيل، فقد يرتكب خطأً.
- الخطر: تخيل أن مساعد الطباخ الذكي قرر حل مشكلة "الفرن الساخن" بإخبار الطباخ: "أغلق الغاز عن المبنى بأكمله". سيكون ذلك كارثة.
- الواقع: وجد الباحثون أنه بينما يجيد الذكاء الاصطناعي إصلاح الأشياء، إلا أنه أحياناً يقوم بأشياء محفوفة بالمخاطر، مثل تخطي خطوات مهمة أو تغيير المتغيرات الخاطئة.
- الحل: يقترحون أننا بحاجة إلى "فحوصات سلامة". فكر في الأمر كإعطاء مساعد الطبخ الذكي قائمة بـ "الأدوات الآمنة" المسموح له باستخدامها. يمكنه استبدال القدور أو تغيير درجات الحرارة، لكن لا يمكنه المساس بمصدر الغاز الرئيسي. هذا يحافظ على سلامة المطبخ مع السماح للذكاء الاصطناعي بالمساعدة.
الخلاصة
هذه الورقة هي الخطوة الأولى نحو بناء برمجيات يمكنها علاج نفسها. بدلاً من انتظار إنسان لإصلاح عطل ما، قد نملك قريباً برمجيات تستخدم الذكاء الاصطناعي لسد ثغراتها فوراً ومواصلة العمل.
ومع ذلك، يوضح المؤلفون أن هذا لا يزال نموذجاً أولياً. نحن بحاجة للتأكد من أن الذكاء الاصطناعي لن يتسبب في إتلاف الأشياء عن طريق الخطأ أثناء محاولته للإصلاح. لكن الإمكانات هائلة: برمجيات أكثر مرونة، أقل عرضة للانهيار، وقادرة على التعافي من الأخطاء بمفردها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.