AutoMem: A Text-Gradient Recursive Self-Improvement Framework for Automated Memory Architectures Search
تقترح الورقة البحثية AutoMem، وهو إطار عمل للتحسين الذاتي التكراري القائم على تدرج النصوص، والذي يكتشف تلقائياً بنيات ذاكرة متكيفة مع المهام من خلال الجمع بين البحث الموجه بالخبرة والتشخيص الوظيفي للمكونات الموجه بالفشل، متفوقاً باستمرار على النماذج المرجعية المصممة بشرياً مع تحسين المقايضات بين الدقة والكفاءة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
لقد وصلت الذكاء الاصطناعي إلى نقطة يمكن فيها لنماذج اللغات الكبيرة أن تعمل كوكلاء، قادرين على التخطيط، واستخدام الأدوات، وتصفح الويب لحل المشكلات المعقدة. وللقيام بذلك بفعالية، يحتاج هؤلاء الوكلاء إلى وسيلة لتذكر الأشياء، تماماً كما يعتمد البشر على الذاكرة طويلة المدى لاسترجاع الدروس والحقائق والاستراتيجيات الماضية. ومع ذلك، فإن بناء هذه الذاكرة للآلة ليس ببساطة إضافة دفتر ملاحظات واحد؛ بل يتضمن سلسلة من القرارات: ما هي المعلومات التي يجب تدوينها، وكيف يتم تخزينها، وكيف يجدها الوكيل عند الحاجة إليها، وكيف يتم حذف المدخلات القديمة أو غير المفيدة. لسنوات عديدة، قام الباحثون ببناء أنظمة الذاوة هذه يدوياً، حيث يختارون تصميماً محدداً ويلتزمون به لكل مهمة. ولكن تماماً كما لا يستخدم النجار نفس الأداة لكل وظيفة، فإن نظام الذاكرة الذي يصلح لكل شيء غالباً ما يفشل عندما تتغير المهمة.
لقد عالج فريق من الباحثين في جامعة شرق الصين العادية ومختبر شنغهاي للذكاء الاصطناعي هذه المشكلة عبر التعامل مع الذاكرة ليس كاختراع ثابت، بل كلغز يجب حله لكل وظيفة محددة. لقد بنوا نظاماً يسمى AUTOMEM، والذي يبحث تلقائياً عن أفضل تصميم ذاكرة ممكن لمهمة معينة. وبدلاً من أن يقوم مهندس بشري بتخمين أي مزيج من طرق التخزين والاسترجاع هو الأفضل، يقوم هذا النظام باختبار آلاف التكوينات المختلفة، ويتعلم من أخطائه، ويصقل خياراته حتى يجد إعداداً يتفوق حتى على الأنظمة التي صممها أمهر البشر. والنتيجة هي بنية ذاكرة تتكيف مع الاحتياجات المحددة للمشكلة، سواء كان ذلك في تصفح موقع إلكتروني، أو حل تحدي استدلال متعدد الخطوات، أو التعمق في نتائج البحث.
بدأ الباحثون بتفكيك مفهوم ذاكرة الوكيل إلى أربعة أجزاء متميزة، تشبه طريقة تنظيم المكتبة. أولاً، هناك "المُشفّر" (encoder)، الذي يقرر المعلومات التي تستحق الحفظ. ثانياً، هناك "المخزن" (store)، الذي يحدد كيفية حفظ تلك المعلومات، مثل قائمة بسيطة، أو شبكة معقدة من الروابط، أو قاعدة بيانات منظمة. ثالثاً، هناك "المسترجع" (retriever)، وهو الآلية التي تجد قطعة المعلومات الصحيحة عندما يحتاجها الوكيل. وأخيراً، هناك "المدير" (manager)، الذي يتعامل مع دورة حياة الذاكرة، عبر حذف البيانات القديمة أو المتضاربة للحفاظ على كفاءة النظام. ومن خلال خلط ومطابقة خيارات مختلفة لكل جزء من هذه الأجزاء الأربعة، أنشأ الباحثون مساحة شاسعة من تصميمات الذاكرة المحتملة. وقد كشفت تجاربهم الأولية عن حقيقة حاسمة: لا يوجد تصميم واحد هو الأفضل لكل شيء. فنظام الذاكرة الذي يتفوق في حل المسائل الرياضية قد يفشل فشلاً ذريعاً في تصفح موقع إلكتروني، وأفضل مزيج لنموذج حاسوبي معين قد يكون سيئاً لنموذج آخر.
وللتنقل في هذه المساحة الواسعة من الاحتمالات دون إضاعة الوقت وقدرة الحوسبة، طور الفريق طريقة تتعلم من الفشل. فعندما يجرب النظام تصميماً للذاكرة ويفشل الوكيل في حل المهمة، لا يكتفي النظام بمجرد التخلص من تلك المحاولة؛ بل يعمل كمحقق دقيق، يحلل بالضبط أين حدث الخلل. هل فشل الوكيل لأنه لم يدوّن الدليل الصحيح أبداً؟ هل تم تخزين المعلومات بتنسيق يستحيل العثور عليه؟ هل استدعى الذاكرة الخاطئة؟ أم أنه تمسك بمعلومات قديمة أكثر مما ينبغي؟ يقوم النظام بتحديد الجزء المحدد من عملية الذاكرة الذي تسبب في الخطأ، ويترجم ذلك الفشل التقني إلى تعليمات بلغة بسيطة. فهو يخبر عملية البحث: "المشكلة كانت في كيفية تخزين البيانات؛ جرب تنسيقاً مختلفاً في المرة القادمة".
تتم عملية التشخيص والتعديل هذه في حلقة مستمرة. يقترح النظام تصميماً جديداً للذاكرة بناءً على ما تعلمه من الإخفاقات السابقة، ثم يختبره، ثم يحلل النتائج مرة أخرى. وفوق بضع جولات فقط من هذا التحسين الذاتي، يتقارب النظام نحو بنية عالية الفعالية. وفي اختباراتهم، استخدم الباحثون ثلاثة معايير مختلفة وصعبة: مجموعة من أسئلة الاستدلال المعقدة، وسلسلة من مهام تصفح الويب العميقة، ومجموعة من استعلامات البحث الصعبة. وقد أجروا هذه الاختبارات باستخدام نموذجين مختلفين من نماذج الحاسوب القوية كوكلاء. وفي كل حالة، كانت بنية الذاكرة التي اكتشفها النظام متفوقة على أفضل البدائل التي صممها البشر. ففي معيار الاستدلال، حسّن النظام الدقة بنسبة تقارب أربع نقاط مئوية مقارنة بأقوى نظام ذاكرة ثابت. وفي مهمة تصفح الويب، حسّن الدقة بنسبة تقارب أربع نقاط أيضاً، وفي تحدي البحث العميق، حقق مكسباً بنسبة نقطة مئوية كاملة واحدة.
وإلى جانب كونها أكثر دقة فحسب، فقد أثبت النظام أيضاً أنه أكثر كفاءة. فالتصميمات التي وجدها النظام غالباً ما تتطلب موارد حوسبية أقل للتشغيل. فعلى سبيل المثال، في معيار الاستدلال، حقق النظام دقة أعلى مع استخدام عدد أقل بكثير من "الرموز" (tokens)، وهي مقياسة للتكلفة الحوسبية لمعالجة النصوص. وهذا يشير إلى أن النظام لم يجد طريقة للعمل بجهد أكبر فحسب، بل وجد طريقة للعمل بذكاء أكبر. فقد اكتشف أنه بالنسبة لبعض المهام، كان النهج الأفضل هو تخزين المعلومات في بنية تشبه الرسم البياني (graph) الذي يربط الحقائق ذات الصلة معاً، بينما كان للآخرين نهج مختلف، حيث وجد أن مزيجاً من النصوص والبيانات المنظمة كان يعمل بشكل أفضل لتصفح الويب، في حين فضل نظاماً يمكنه بسهولة إعادة ترتيب الحلول السابقة للعثور على الأكثر صلة في تحدي البحث العميق.
كما اختبر الباحثون ما إذا كانت طريقتهم تتعلم حقاً أم أنها مجرد ضربة حظ. فقد قارنوا بحثهم الموجه مقابل طريقة تختار تصميمات الذاكرة عشوائياً. الطريقة العشوائية وجدت أحياناً تصميماً جيداً، لكنها كانت غير متسقة وغالباً ما أهدرت الموارد في اختبار تصميمات كانت ضعيفة بوضوح. في المقابل، تحسن النظام الموجه بشكل مطرد مع كل جولة اختبار، حيث وجد حلاً أفضل في نصف الوقت وبنصف التكلفة الحوسبية للنهج العشوائي. وقد أكد هذا أن قدرة النظام على تشخيص الإخفاقات وترجمتها إلى تعليمات محددة كانت هي مفتاح نجاحه. فبدون حلقة التغذية الراجدة هذه، عانى النظام من أجل التحسن، وغالباً ما ظل عالقاً في تصميمات مكلفة ولكن غير فعالة.
تخلص الدراسة إلى أن مستقبل وكلاء الذكاء الاصطناعي لا يكمن في بناء نظام ذاكرة واحد مثالي، بل في إنشاء أنظمة يمكنها تكييف ذاكرتها مع المهمة التي بين يديها. لقد وجد الباحثون أن أفضل تصميم للذاكرة يعتمد بشدة على الطبيعة المحددة للعمل الذي يقوم به الوكيل وعلى نموذج الحاسوب الذي يعمل عليه. فالتصميم الذي يعمل لوكيل واحد في نوع واحد من المشكلات قد يكون عائقاً أمام وكيل آخر. ومن خلال أتمتة البحث عن هذه التصميمات، أظهر الفريق أنه من الممكن بناء وكلاء ليسوا فقط أكثر ذكاءً، بل أيضاً أكثر كفاءة. ويشير العمل إلى أنه مع دمج الذكاء الاصطناعي في المهام المعقدة في العالم الحقيقي، ستكون القدرة على ضبط كيفية تذكر الوكيل للمعلومات واستخدامها ديناميكياً بنفس أهمية ذكاء الوكيل نفسه. إن النظام لا يستبدل البراعة البشرية، بل يمدها، مما يسمح للحواسيب بإيجاد الأدوات المناسبة للوظيفة بطريقة معقدة للغاية بحيث يصعب على الإنسان تصميمها يدوياً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.