Paritok-4B: Intent-Conditioned Context Compression for Coding Agents

في عالم تطوير البرمجيات، ظهر نوع جديد من العمال: وكيل البرمجة المستقل. هذه برامج يمكنها قراءة الملفات، وتشغيل الأوامر، وكتابة الكود لحل المشكلات المعقدة بمفردها. وللقيام بذلك، فهي تتواصل باستمرار مع "دماغ" ذكاء اصطناعي قوي، حيث ترسل إليه سجلات طويلة لكل ما رأته وفعله حتى الآن. هذا السجل الحواري هو ذاكرة الوكيل، وهو المفتاح لحل المهمة. ومع ذلك، فإن هذه الذاكرة مكلفة؛ ففي كل مرة يرسل فيها الوكيل رسالة، يتعين عليه دفع رسوم بناءً على عدد الكلمات في تلك الرسالة. ومع استمرار عمل الوكيل، تنمو الذاكرة، ويمكن أن تصبح تكلفة استمرار المحادثة هائلة، وغالباً ما تتجاوز تكلفة العمل نفسه.

ولحل هذه المشكلة، حاول الباحثون استخدام برامج أصغر وأرخص لتلخيص الذاكرة قبل إرسالها إلى الدماغ القوي والمكلف. الفكرة هي تقليص الرسالة إلى أجزائها الأكثر أهمية. لكن بالنسبة لوكيل البرمجة، فإن هذه لعبة خطيرة؛ فإذا قام برنامج التلخيص بإعادة كتابة اسم متغير أو تغيير مسار ملف، فقد يحاول الوكيل تعديل سطر برمجي لم يعد موجوداً، مما يؤدي إلى فشل العملية برمتها. يجب أن يكون الملخص مثالياً في تفاصيله، حتى وهو أقصر بكثير. هذا هو التحدي الذي تعالجه دراسة جديدة: كيف يمكن تقليص ذاكرة وكيل البرمجة دون فقدان النصوص الدقيقة والمحددة التي يحتاجها الوكيل للبقاء.

قام فريق من الباحثين بتطوير حل يسمى Paritok-4B، وهو أداة متخصصة مصممة لضغط هذه المحادثات البرمجية. وخلافاً للملخصات العامة التي يتم تدريبها على المقالات الإخبارية أو القصص، فقد تم بناء هذه الأداة خصيصاً للواقع التقني الفوضوي لوكلاء البرمجة. وهي تعمل وفق قاعدتين صارمتين: أولاً، هي أداة "استخراجية"، مما يعني أنها لا تحاول إعادة كتابة النص أو صياغته بأسلوب آخر، بل تعمل كمنقح دقيق يقوم بقص فقرات كاملة من المعلومات غير ذات الصلة، لكنها تترك الجمل المتبقية كما هي تماماً، كلمة بكلمة. وهذا يضمن أنه إذا احتاج الوكيل للعثور على اسم دالة معينة أو رسالة خطأ، فستظل موجودة دون تغيير. ثانياً، الأداة "مشروطة بالهدف"، مما يعني أنها تعرف ما يحاول الوكيل القيام به حالياً؛ فهي تستخدم هذه المعرفة لتقرر أي أجزاء من السجل حيوية وأيها مجرد ضجيج، فتبقي على الأسطر التي تهم المهمة الحالية وتتخلص من الباقي.

قام الباحثون ببناء هذه الأداة عبر تعليمها محاكاة ذكاء اصطناعي أكبر وأكثر تكلفة. فقد جمعوا أكثر من 67,000 مثال من العالم الحقيقي لوكلاء برمجة يحلون مشكلات، واستخدموا الذكاء الاصطناعي الكبير لإنشاء النسخ المضغوطة المثالية لتلك المحادثات. ثم قاموا بتدريب نموذجهم الأصغر، الذي يحتوي على 4 مليارات معلمة (parameter)، لنسخ عمليات الضغط هذه. والنتيجة هي أداة يمكنها تقليص ذاكرة الوكيل إلى حوالي ربع حجمها الأصلي. وفي الاختبارات، كان هذا الضغط أكثر عدوانية بمرتين مما يمكن لأكثر نماذج الذكاء الاصطناዊ التجارية تقدماً تحقيقه بمفردها، ومع ذلك حافظت على قدرة الوكيل على حل المشكلات بشكل شبه متماثل. فعندما استخدم الوكيل هذه الذاكرة المضغوطة، ظل قادراً على حل حوالي 89 بالمائة من المشكلات التي كان بإمكانه حلها باستخدام الذاكرة الكاملة غير المضغوطة.

كما درست الدراسة أيضاً الجوانب الاقتصادية لهذا النهج. فاستخدام ذكاء اصطناعي قوي ومكلف للقيام بعملية الضغط غالباً ما يكلف أكثر من المال الذي يتم توفيره عبر إرسال كلمات أقل إلى الدماغ الرئيسي. في الواقع، وجد الباحثون أن استخدام نموذج تجاري رفيع المستوى كأداة للضغط أدى في الواقع إلى زيادة التكلفة الإجمالية. ومع ذلك، فإن Paritok-4B صغير بما يكفي ليعمل على بطاقة رسومات قياسية واحدة. ولأنه لا يفرض رسوماً مقابل كل كلمة يعالجها، فإنه يوفر وسيلة لتوفير المال تتوسع مع عمل الوكيل، بدلاً من أن تزدل التكلفة مع نمو المحادثة. كما أن الأداة مصممة لتكون آمنة؛ فإذا قامت عملية الضغط يوماً ما بإزالة شيء يحتاجه الوكيل، يمكن للنظام استرجاع النص الأصلي غير المقتطع فوراً.

لقد كان الباحثون حذرين في قياس مدى نجاح ذلك بدقة. ووجدوا أن الأداة كانت وفية للغاية للنص الأصلي؛ ففي المخرجات المضغوطة، تم نسخ جميع الأسماء المحددة للملفات والدوال والأرقام مباشرة من المدخلات، مع عدم ابتكار أي كلمات جديدة تقريباً. وهذا أمر بالغ الأهمية لأن وكلاء البرمجة يعتمدون على المطابقات الدقيقة لتعديل الملفات. وأظهرت الدراسة أنه بينما كانت الأداة تحتفظ أحياناً بمعلومات أكثر قليلاً مما هو ضروري تماماً، إلا أنها نادراً ما ارتكبت خطأً من شأنه أن يعطل عمل الوكيل. كما لاحظ الفريق أن الأداة لم تكن مثالية في تحديد ما يجب التخلص منه تماماً؛ إذ كانت تميل إلى أن تكون حذرة وتحتفظ بقطع أكثر مما قد تحتاجه. وهذا يعتبر خطأً آمناً، لأن الاحتفاظ بمعلومات إضافية يكلف القليل من المال ولكنه لا يعطل المهمة، بينما التخلص من شيء مهم قد يؤدي إلى فشل الوكيل.

يمثل هذا العمل تحولاً في كيفية تفكيرنا في كفاءة الذكاء الاصطناعي. فبدلاً من الاعتماد على نماذج ضخمة ومكلفة للقيام بكل جزء من العمل، أظهر الباحثون أن نموذجاً صغيراً ومتخصصاً يمكنه التعامل مع المهام الثقيلة المتعلقة بإدارة السياق. ومن خلال التركيز على الاحتياجات المحددة لوكلاء البرمجة — مثل الحفاظ على النصوص الدقيقة وفهم المهمة الحالية — أنشأوا نظاماً أكثر كفاءة وأقل تكلفة من الطرق السابقة. وتخلص الدراسة إلى أنه بالنسبة لوكلاء البرمجة، فإن مستقبل الكفاءة لا يكمن في الأدمغة الأكبر، بل في الأدوات الأصغر والأذكى التي تعرف بالضبط ما يجب الاحتفاظ به وما يجب التخلي عنه.