Beyond Scaling: Self-Evolving LLM Agents for Hardware Kernel Optimization via an Experience-Driven Workflow and Experience Graph Memory
تقدم الورقة البحثية KOPE، وهو إطار عمل مدفوع بالخبرة يستخدم ذاكرة الرسم البياني للخبرة (Experience Graph Memory) والإدارة النشطة للسياق (Active Context Management) لتمكين وكلاء النماذج اللغوية الكبيرة (LLM agents) من التعلم من مسارات تحسين نوى الأجهزة السابقة، محققاً تحسينات كبيرة في الأداء وكفاءة الرموز (token efficiency) مقارنة بالنماذج المرجعية الحالية دون الحاجة إلى تحديث النموذج التأسيسي الأساسي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
غالباً ما يبدو جعل شريحة الكمبيوتر تعمل بشكل أسرع وكأنك تحاول ضبط محرك سيارة سباق بينما لا تزال تتحرك. تتضمن هذه العملية كتابة قطعة صغيرة من الكود البرمجي، تُعرف باسم "النواة" (kernel)، والتي تخبر الأجهزة بدقة بكيفية التعامل مع البيانات. يجب تجميع هذا الكود واختباره لضمان صحته، ثم قياس سرعة تشغيله. وإذا لم تكن النتيجة مثالية، يجب إعادة كتابة الكود وتبدأ الدورة من جديد. لعقود من الزمن، كانت هذه المهمة حكراً على خبراء بشريين ذوي مهارات عالية يفهمون الخصائص الدقيقة لكل تصميم شريحة جديد. ومؤخراً، بدأت أنظمة الذكاء الاصطناي تقترح تغييرات في الكود باستخدام نماذج لغوية قوية. ومع ذلك، فإن هذه الأنظمة عادة ما تتعامل مع كل محاولة كبداية جديدة؛ فهي لا تتذكر ما نجح أو ما فشل في المحاولات السابقة، ولا يمكنها التعلم بسهولة من الأجهزة المحددة التي تحاول تحسينها، خاصة عندما تكون تلك الأجهزة جديدة وتفتقر إلى مكتبة كبيرة من الأمثلة الموجودة مسبقاً.
لقد طور فريق من الباحثين نهجاً جديداً يسمح لوكيل ذكاء اصطناعي بالتعلم من استكشافه الخاص، محولاً كل تجربة وخطأ إلى درس دائم. لقد أنشأوا نظاماً يسمى "KOPE"، وهو إطار عمل مصمم لتحسين هذه النواة للأجهزة من خلال بناء ذاكرة لتجاربه الخاصة. فبدلاً من الاعتماد فقط على المعرفة المخزنة بالفعل داخل نموذج الذكاء الاصطناعي، يقوم KOPE بتسجيل كل قرار يتخذه، والنتيجة المترتبة على ذلك القرار، والمسار الذي سلكه للوصول إليه. إنه يخزن هذه المعلومات في خريطة مهيكلة تربط بين خيار معين ونتيجته، تماماً مثل مسافر يحتفظ بمذكرات مفصلة لرحلته، يدون فيها أي المسارات أدت إلى طرق مسدودة وأيها فتح أبواباً جديدة. وعندما يواجه النظام مشكلة جديدة، فإنه لا يبدأ من الصفر، بل يستشير هذه الخريطة للعثور على التجارب الماضية ذات الصلة التي تطابق الوضع الحالي، ويحقن تلك المعرفة المحددة في عملية تفكيره قبل تقديم اقتراح جديد.
اختبر الباحثون هذا النظام على مجموعة من ثلاثة وخمسين عملية رياضية مختلفة تُستخدم في الحوسبة الحديثة، وقاموا بتشغيلها على نوع محدد من شرائح الأجهزة من شركة هواوي. وقارنوا طريقتهم الجديدة بطريقتين أخريين: إحداهما استخدمت وكيل ذكاء اصطناي قياسي بدون نظام الذاكرة الخاص هذا، والأخرى استخدمت ذكاءً اصطناعياً قوياً مصمماً لنوع مختلف من شرائح الكمبيوتر. أظهرت النتائج أن النظام المزود بذاكرة الخبرة كان أكثر نجاحاً بشكل ملحوح. فقد تمكن من إنتاج كود يعمل لمعظم العمليات، في حين فشل الوكيل القياسي في حل العديد منها. والأهم من ذلك، أن النظام الذي تعلم من تاريخه أنتج كوداً أسرع بمعدل 1.54 مرة من أفضل طريقة منافسة. حدث هذا التحسن على الرغم من أن نموذج الذكاء الاصطناعي الأساسي نفسه لم يتغير؛ فقد أصبح النظام ببساطة أفضل من خلال تذكر ما تعلمه.
كان جزء رئيسي من هذا النجاح هو كيفية إدارة النظام لذاكرته. فقد وجد الباحثون أن مجرد ضخ جميع التجارب الماضية في عقل الذكاء الاصطناي دفعة واحدة كان أمراً غير منتج، لأنه يغمر النظام بمعلومات زائدة عن الحد. وبدلاً من ذلك، بنوا آلية تختار بنشاط الدروس الماضية الأكثر صلة بالمهمة الحالية. سمح هذا النهج الانتقائي للنظام بحل المشكلات بشكل أكبر، مما رفع معدل نجاحه من ستين بالمئة إلى ما يقرب من خمسة وثمانين بالمئة، مع استخدام موارد حوسبة أقل بكثير. كما بحثت الدراسة فيما إذا كانت المعرفة المكتسبة من نوع واحد من الأجهزة يمكن أن تساعد في تحسين نوع مختلف تماماً من الأجهزة. ووجدوا أنه بينما ساعدت الخبرة من الأجهزة الأصلية النظام في العثيد على المزيد من الحلول العاملة على الأجهزة الجديدة، إلا أنها لم تجعل الكود أسرع تلقائياً. فلا يزال النظام بحاجة إلى تعلم التفاصيل المحددة للأجهزة الجديدة من خلال تجاربه الخاصة لتحقيق أفضل أداء.
تشير النتائج إلى أنه بالنسبة للأجهزة الجديدة أو التي تفتقر إلى مجموعة كبيرة من الأمثلة الموجودة مسبقاً، فإن القدرة على الاحتفاظ بالتجارب المحددة وإعادة استخدامها هي أكثر قيمة من مجرد امتلاك نموذج ذكاء اصطناي أكبر أو أكثر ذكاءً. فمن خلال الاحتفاظ بسجل ثابت لما نجح وما لم ينجح، ومن خلال اختيار الدروس التي سيتم تطبيقها على المشكلات الجديدة بعناية، يمكن للنظام تحسين مهارات التحسين الخاصة به باستمرار. لا يتطلب هذا النهج إعادة تدريب الذكاء الاصطناي أو تغيير دماغه الداخلي؛ بل يحتاج ببساطة إلى طريقة أفضل لتذكر وتطبيق ما تعلمه. وقد أثبت الباحثون أنه يمكن تطبيق هذه الطريقة عبر أنواع مختلفة من شرائح الكمبيوتر ولغات البرمجة، مما يظهر أن سير العمل قابل للتكيف. وبينما لم يحل النظام كل مشكلة بشكل مثالي، فقد أثبت أن وكيل الذكاء الاصطناي يمكنه تطوير خبرته الخاصة من خلال دورة من الفعل والملاحظة والذاكرة، محولاً العملية الفوضوية للتجربة والخطأ إلى مسار موثوق نحو حوسبة أسرع وأكثر كفاءة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.