Learning on the Job: Continual Learning from Deployment Feedback for Frozen-Weights Agents
تثبت هذه الورقة أن وكلاء الذكاء الاصطناعي ذوي الأوزان المجمدة يمكنهم تحقيق تحسينات كبيرة في التعلم المستمر عبر ربط نماذجهم الثابتة بنظام ذاكرة خارجية يعمل على تقطير التغذية الراجعة أثناء النشر إلى قواعد لغوية طبيعية قابلة للاسترجاع، مما يمكنهم من حل مهام كانت مستعصية سابقاً دون إعادة تدريب النموذج.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالماً، في كل مرة تحاول فيها حل لغز، تنسى القواعد بمجرد توقف المؤقت. إذا حللت مسألة رياضية معقدة اليوم، فستبدأ من الصفر غداً، حتى لو كانت المسألة هي نفسها تماماً. هذا هو الواقع الحالي للعديد من وكلاء الذكاء الاصطناعي (AI). إنهم مبنيون على "أدمغة مجمدة" — نماذج قوية يتم تثبيتها عند إطلاقها. لا يمكنهم التعلم من أخطائهم في الوقت الفعلي لأن تغيير توصيلات أدمغتهم أمر مكلف، ومخاطر، وبطيء. ومع ذلك، في العالم الحقيقي، يتلقى هؤلاء الوكلاء ملاحظات مستمرة. قد يقول عميل: "لقد نجح الأمر!" أو قد يقوم إنسان بتصحيح خطأ ويقول: "إليك الطريقة الصحيحة". السؤال الكبير الذي يسأله العلماء هو: هل يمكننا تعليم هؤلاء الوكلاء ذوي الأدمغة المجمدة كيف يصبحون أكثر ذكاءً بمجرد قراءة "ورقة غش" لتجاربهم الماضية، دون تغيير أدمغتهم فعلياً؟
تستكشف هذه الورقة البحثية، التي تحمل عنوان "التعلم أثناء العمل"، حلاً ذكياً. بدلاً من محاولة إعادة توصيل دماغ الذكاء الاصطناعي، منح الباحثون الوكيل دفتر ملاحظات خارجياً — نظام ذاكرة. عندما ينهي الوكيل مهمة ما، ينظر إلى النتيجة (هل فاز أم خسر؟) ويكتب قاعدة قصيرة بلغة طبيعية في هذا الدفتر. على سبيل المثال: "إذا طلب العميل استرداد الأموال، تحقق من التاريخ أولاً". لاحقاً، عندما يواجه الوكيل موقفاً مشابهاً، يتحقق من دفتر ملاحظاته قبل التصرف. اختبرت الدراسة هذا على محاكاة مصرفية حيث كان على الذكاء الاصطناعي التنقل عبر قواعد معقدة لمساعدة العملاء. ووجدوا أنه بمجرد قراءة ملاحظاتهم الخاصة، أصبح الوكلاء أفضل بكثير في وظائفهم. فالوكيل الذي تعلم من مجرد إشارة "فوز/خسارة" حسّن معدل نجاحه بمقدار 1.6 مرة، بينما تحسن الوكيل الذي تعلم من تصحيحات مفصلة بمقدار 2.6 مرة. والأروع من ذلك، أن الملاحظات التي كتبها نوع واحد من الذكاء الاصطناعي كانت مفيدة لنوع آخر مختلف تماماً، مما يثبت أن هذه "الخبرة" يمكن مشاركتها مثل كتاب من المكتبة.
المشكلة: فقدان الذاكرة لدى الذكاء الاصطناعي
تخرّل متدربين موهوبين للغاية ولكنهم ينسون بشكل لا يصدق. أنت توظفهم، وتمنحهم مكتبة ضخمة من كتب السياسات (حوالي 700 وثيقة في هذه الدراسة) للرجوع إليها، وهم يحاولون مساعدة العميل. إذا حلوا مشكلة صعبة، فهذا رائع! ولكن بمجرد انتهاء المحادثة، تُمسح ذاكرتهم قصيرة المدى تماماً. إذا اتصل نفس العميل الصعب غداً، فلن يملك الوكيل أي فكرة عما حدث بالأمس. عليه أن يبدأ من الصفر.
السبب في فقدان الذاكرة هذا هو بنيوي. فهؤلاء الوكلاء يعملون بنماذج ذات "أوزان مجمدة". تخيل دماغ النموذج كمنحوتة ضخمة ومعقدة مصنوعة من الطين. بمجرد أن تُخبز المنحوتة وتتصلب (عند نشرها)، لا يمكنك نحت أجزاء منها أو إضافة طين جديد دون إذابة المنحوتة بأكملها والبدء من جديد. إذابة المنحوتة أمر خطير (قد ينسى كل ما عرفه من قبل) ومكلف. لذا، في العالم الحقيقي، يظل هؤلاء الوكلاء مجمدين. إنهم بنفس القدر من الكفاءة في آخر يوم عمل لهم كما كانوا في يومهم الأول.
الحل: الدفتر الخارجي
تساءل الباحثون: ماذا لو لم يحتج الوكيل لتغيير دماغه ليتعلم؟ ماذا لو احتاج فقط إلى دفتر ملاحظات؟
قاموا بربط الذكاء الاصطناعي المجمد بنظام يسمى Spark. فكر في Spark كأنه مكتبة سحرية مشتركة حيث يمكن للوكيل كتابة وقراءة الملاحظات. عندما ينهي الوكيل مهمة، فإنه لا يرمي التجربة فحسب، بل يتأمل فيما حدث ويكتب "قاعدة" في المكتبة.
- وضع "الخبرة": يحصل الوكيل على إشارة بسيطة بالإبهام للأعلى أو للأسفل (حكم من بت واحد). عليه أن يستنتج الدرس بنفسه. "لقłem حاولت القيام بـ (س) وفشلت. يجب أن أتجنب (س) في المرة القادمة".
- وضع "التعليمات": يحصل الوكيل على الإشارة بالإبهام للأسفل بالإضافة إلى الإجابة الصحيحة. "(س) حاولت القيام بـ (س) وفشلت. الطريقة الصحيحة هي (ص)".
يكتب الوكلاء هذه الدروس كقواعد بسيطة بلغة طبيعية، مثل: "عندما يطلب العميل تحويلاً، تحقق دائماً من الحد اليومي أولاً". تُخزن هذه القواعد في مكتبة Spark. وفي المرة القالية التي يواجه فيها الوكيل عميلاً، يبحث في المكتبة عن القواعد ذات الصلة قبل أن يتصرف.
التجربة: المراهنة على الذاكرة
لاختبار ذلك، استخدم الفريق معياراً مصرفياً صعباً يسمى τ-bench. تخيل لعبة فيديو يلعب فيها الذكاء الاصطناعي دور موظف بنك. "العملاء" يتم تمثيلهم بواسطة أدمغة اصطناعية أخرى، ولديهم أهداف مخفية وطلبات معقدة. يتعين على الوكيل اكتشاف قواعد البنك من خلال البحث في كومة ضخمة من وثائق السياسة. إنه أمر صعب؛ فحتى أفضل نماذج الذكاء الاصطناعي لا تحل سوى حوالي 25% من هذه المهام في محاولتها الأولى.
أجرى الباحثون التجربة باستخدام نموذجين مختلفين من الذكاء الاصطناعي:
- Mistral Large: نموذج قوي مفتوح المصدر يمكن للشركات تشغيله على خوادمها الخاصة.
- Claude Sonnet 5: نموذج متطور من الطراز الأول.
اختبروا ثلاثة سيناريوهات لكل نموذج:
- الأساس (Baseline): يمتلك الوكيل مكتبة السياسات ولكن ليس لديه ذاكرة. هو ينسى كل شيء بين المحاولات.
- الخبرة (Experience): يمتلك الوكيل المكتبة ودفتر ملاحظات، ولكنه يتعلم فقط من إشارة "فوز/خسارة" بسيطة.
- التعليم (Instruction): يمتلك الوكيل المكتبة ودفتر ملاحظات، ويتعلم من إشارة "الفوز/الخسارة" بالإضافة إلى الحل الصحيح بعد الفشل.
النتائج: من الصفر إلى البطولة
كانت النتائج مذهلة. لقد أصبح الوكلاء الذين استخدموا دفتر الملاحظات أفضل بكثير في وظائفهم، وفعلوا ذلك دون تغيير خلية عصبية واحدة في أدمغتهم المجمدة.
- قوة التصحيحات: بالنسبة لنموذج Mistral Large، نجحت مجموعة "التعليم" (التي تتعلم من التصحيحات) في حل 2.6 ضعف المهام في المحاولة الأولى مقارنة بالنموذج الأساسي. لقد تمكنوا من حل 22 من أصل 84 مهمة لم ينجح الوكيل الأساسي في حلها أبداً، مهما حاول.
- قوة الخبرة: حتى التعلم من مجرد إشارة "فوز/خسارة" بسيطة ساعد كثيراً. فقد تحسنت مجموعة "الخبرة" بمقدار 1.6 مرة عن النموذج الأساسي.
- منحنى التعلم: في البداية، كان جميع الوكلاء سيئين بالتساوي لأن الدفاتر كانت فارغة. ولكن مع مرور التجارب، أصبح الوكلاء الذين يمتلكون دفاتر ملاحظات أكثر ذكاءً. ظل الوكيل الأساسي ثابتاً، بينما ارتفع الوكلاء المتعلمون مع كل محاولة.
- سحر التبادل بين النماذج: قام الباحثون بشيء رائع حقاً. لقد أخذوا دفتر الملاحظات الذي بناه نموذج Mistral Large وأعطوه لنموذج Claude Sonnet 5 ليقرأه (والعكس صحيح). على الرغم من اختلاف النماذج، إلا أن الملاحظات كانت مفيدة! فقد تحسن معدل نجاح نموذج Mistral عند قراءته لملاحظات Claude بشكل ملحوظ. وهذا يثبت أن المعرفة المخزنة في الدفتر لم تكن مجرد "أسلوب Mistral"؛ بل كانت معرفة عامة ومفيدة يمكن لأي وكيل استخدامها.
لماذا يهم هذا؟
تشير هذه الورقة إلى طريقة جديدة لجعل الذكاء الاصطناعي أكثر ذكاءً دون التكلفة والمخاطر الهائلة لإعادة التدريب. بدلاً من محاولة إذابة وإعادة تشكيل دماغ الذكاء الاصطناعي، يمكننا فقط منحه وسيلة أفضل للتذكر.
كما استبعدت الدراسة بعض الأفكار. على سبيل المثال، تحققوا مما إذا كان الوكلاء يقومون فقط بـ "تخزين" الإجابات (حفظ الحل المحدد للغز معين). ووجدوا أن الأمر لم يكن كذلك؛ فقد تعلم الوكلاء قواعد (مثل "تحقق من التاريخ") ساعدتهم في حل تنويعات جديدة من المشكلة. كما أظهروا أن هذا التعلم لم يجعل الوكلاء أسوأ في الأشياء التي كانوا بارعين فيها بالفعل؛ فقد احتفظوا بمهاراتهم القديمة مع اكتساب مهارات جديدة.
باختًا، تظهر هذه الأبحاث أنه بالنسبة لوكلاء الذكاء الاصطناعي المجمدين، فإن الملاحظات التي يتلقونها كل يوم — سواء كانت مجرد "عمل جيد" أو تصحيحاً مفصلاً — كافية لتحويلهم إلى متعلمين مدى الحياة، بشرط أن يكون لديهم مكان لتدوين ما تعلموه. إنها تحول تجربة الوكيل الواحد إلى أصل تنظيمي مشترك، مما يجعل النظام بأكل أكثر ذكاءً، ملاحظة تلو الأخرى.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.