Humans are Missing from AI Coding Agent Research

القطعة المفقودة في لغز مبرمج الروبوت

تخيل عالماً لا تكتفي فيه الحواسيب باتباع الأوامر، بل تقوم بالأشياء من أجلنا بالفعل. هذا هو الركن المثير من العلم المسمى الذكاء الاصطناعي (AI)، وتحديداً فرع يُعرف باسم وكلاء الذكاء الاصطناعي (AI Agents). فكر في "الوكيل" ليس كدردشة آلية (chatbot) تتحدث فقط، بل كعامل رقمي يمكنه فتح برنامج حاسوبي، وقراءة ملف فوضوي، وإصلاح خطأ ما، وحفظ العمل، كل ذلك بمفرده. في عالم البرمجيات، يتم تعليم هؤلاء الوكلاء كتابة الكود — وهي التعليمات التي تخبر الحواسيب بكيفية التصرف. لفترة طويلة، كان الهدف الكبير للعلماء بسيطاً: جعل هؤلاء الوكلاء أذكياء ومستقلين لدرجة تمكنهم من حل المشكلات المعقدة دون أي مساعدة بشرية على الإطلاق. كان الأمر يشبه تدريب روبوت لبناء منزل بمفرده تماماً، بدءاً من وضع الطوب وصولاً إلى طلاء الجدران، دون وجود مشرف بشري واحد.

لكن هنا تكمن المشكلة: مجرد قدرة الروبوت على بناء منزل بمفرده لا يعني بالضرورة أنه يبني المنزل الصحيح، أو أن مالك المنزل البشري سيكون سعيداً بالنتيجة. تتناول الورقة التي ستطالعها الآن مشكلة متزايدة في هذا المجال؛ فهي تشير إلى أنه بينما كنا مهووسين بجعل وكلاء الذكاء الاصطناعي أكثر "استقلالية" (أي قادرين على العمل بمفردهم)، فقد نسينا الجزء الأهم في المعادلة: الإنسان. يجادل المؤلفون بأن مستقبل برمجة الذكاء الاصطناعي لا يتعلق باستبدال البشر بروبوتات منفردة، بل بخلق شركاء يمكنهم الاستماع، وشرح عملهم، وتغيير آرائهم عندما نطلب منهم ذلك. إنه الفرق بين روبوت يبني كوخاً بعناد بينما كنت تطلب منه بناء مرآب، وروبوت يسأل: "مهلاً، هل كنت تقصد مرآباً؟ وهل يجب أن نستخدم طوباً أحمر أم أزرق؟"

الورقة البحثية: لماذا "الروبوتات المنفردة" تفتقد للهدف الجوهري

الورقة التي تحمل عنوان "البشر غائبون عن أبحاث وكلاء البرمجة بالذكاء الاصطناعي"، هي صرخة استيقاظ من مجموعة من الباحثين في جامعات مرموقة مثل كارنيجي ميلون، وستانفورد، وبرينستون. إنهم ينظرون إلى الحالة الراهنة لوكلاء البرمجة بالذكاء الاصطناعي ويشيرون إلى خلل كبير في كيفية قياس النجاح.

المشكلة: الهوس بـ "العمل المنفرد"
في الوقت الحالي، يشبه عالم الذكاء الاصطناعي لعبة فيديو حيث النتيجة الوحيدة التي تهم هي مدى سرعة الروبوت في إنهاء مستوى ما بمفرده تماماً. يحاول الباحثون باستمرار بناء وكلاء يمكنهم حل ألغاز برمجية أصعب وأصعب دون مساعدة بشرية. تجادل الورقة بأن هذا فخ؛ فبينما يصبح هؤلاء الوماء أفضل في كتابة كود يعمل (أي يعمل دون أن يتوقف عن العمل)، فإنهم يصبحون أسوأ في العمل مع الناس.

يستخدم المؤلفون مثالاً حياً لتوضيين ذلك: تضخم الرقعة (Patch Bloat). تخيل أنك طلبت من صديق تصحيح خطأ مطبعي في قصة؛ الصديق المتعاون سيغير تلك الكلمة فقط. أما الروبوت غير المتعاون والمتحمس بشكل مفرط، فقد يعيد كتابة الفقرة بأكملها، ويضيف ثلاث فصول جديدة، ويغير نوع الخط، رغم أنك أردت فقط تصحيح خطأ مطبعي. وجدت الورقة أن وكلاء الذكاء الاصطناعي يفعلون ذلك باستمرار؛ فهم ينتجون تغييرات في الكود أطول وأكثر تعقيداً مما هو ضروري، مما يجعل من الصعب للغاية على البشر التحقق مما إذا كان الكود صحيحاً بالفعل. الأمر يشبه محاولة العثोदर قطعة واحدة مفقودة وسط كومة من ألف قطعة إضافية.

الحجة الجوهرية: نحن بحاجة إلى فريق، لا بديل
تقترح الورقة أن الاختراق الكبير القادم في الذكاء الاصطناعي لن يأتي من جعل الوكلاء يعملون بسرعة أكبر بمفردهم، بل من جعلهم يعملون بشكل أفضل مع البشر. يقترح المؤلفون أنه يجب علينا التوقف عن محاولة بناء "عازفين منفردين مثاليين" والبدء في بناء "زملاء عمل رائعين".

ولتحقيق ذلك، قدموا أربع مهارات رئيسية يحتاجها شريك البرمجة الجيد بالذكاء الاصطناعي، والتي يسمونها "حلقة التعاون بين الإنسان والوكيل":

1. توافق المهام (مهارة "هل كنت تقصد؟"):
   يتعلق هذا بفهم ما تريده حقاً، وليس فقط ما قلته. إذا قلت للوكيل "اصنع موقعاً إلكترونياً"، فقد يقوم روبوت منفرد ببناء صفحة فارغة فقط. أما الزميل الجيد فيسأل: "هل تريد الوضع الداكن أم الفاتح؟ هل يجب أن يحتوي على نموذج اتصال؟". تجادل الورقة بأن الوكلاء بحاجة لأن يكونوا أفضل في استنباط التفاصيل الخفية وطرح أسئلة توضيحية قبل البدء في كتابة الكود.

2. القابلية للتوجيه (مهارة "الإمساك بالمقود"):
   تخيل قيادة سيارة حيث يتولى نظام القيادة الآلية التحكم ويرفض تركك تلمس عجلة القيادة حتى ينتهي. هذا أمر محبط. القابلية للتوجيه (Steerability) تعني أن يتيح لك الوكيل التدخل في لحظات رئيسية. إذا كان الوكيل يبني موقعاً إلكترونياً وقلت له: "انتظر، أنا لا يعجبني هذا اللون الأزرق، غيره إلى الأخضر"، فإن الوكيل القابل للتوجيه يتوقف ويغيره فوراً. أما الوكيل غير القابل للتوجيه فقد يتجاهلك ويكمل الموقع بالكامل باللون الأزرق، ثم يقول: "تم!". تقترح الورقة أن الوكلاء يحتاجون للتوقف عند نقاط القرار والسماح للبشر بتوجيه المسار.

3. القابلية للتحقق (مهارة "اشرح عملك"):
   هذا يتعلق بالثقة. إذا سلمك الوكيل مشروعاً مكتملاً، فكيف تعرف أنه صحيح؟ حالياً، غالباً ما يسلم الوكلاء كتلًا ضخمة ومربكة من الكود يصعب قراءتها. تجادل الورقة بأن الوكلاء بحاجة لتقديم عملهم بطرق يسهل على البشر التحقق منها. فبدلاً من مجرد إلقاء الكود، يجب عليهم تقديم معاينات بصرية، أو ملخصات بسيطة، أو شرح لماذا قاموا بتغيير معين. إذا لم تستطع فهمه، فلن تستطيع الوثوق به.

4. القدرة على التكيف (مهارة "تذكرني"):
   البشر يتعلمون من التجربة. إذا أخبرت مساعداً بشرياً: "أنا أفضل الوضع الداكن"، فسوف يتذكر ذلك في المرة القادمة. تشير الورقة إلى أن معظم وكلاء الذكاء الاصطناعي لديهم ذاكرة سيئة للغاية. في كل مرة تبدأ فيها مهمة جديدة، عليك تذكيرهم بتفضيلاتك، وأسلوبك في البرمجة، وقواعد مشروعك. يسمى هذا "إجهاد المطالبة" (prompt fatigue). يريد المؤلفون وكلاء يمكنهم التعلم من التفاعلات السابقة، وتذكر ما تحبه، والتحسن في العمل معك أنت تحديداً بمرور الوقت.

ما تستبعده الورقة
المؤلفون واضحون جداً فيما لا يقولونه. هم لا يجادلون بأن وكلاء الذكاء الاصطناعي عديمو الفائدة أو أنهم لا يستطيعون كتابة الكود؛ بل في الواقع، يعترفون بأن الكود في تحسن مستمر. كما أنهم لا يقولون إن على البشر القيام بكل البرمجة بأنفسهم.

بدلاً من ذلك، هم يعارضون صراحة فكرة أن الهدف من الذكاء الاصطناعي هو خلق نظام يستبدل المطورين البشريين تماماً. هم يقترحون أن الهوس الحالي بـ "الاستقلالية الكاملة" يعيقنا في الواقع. ويعتقدون أن محاولة جعل الوكلاء يعملون بشكل مثالي بمفردهم هي طريق مسدود لأن البرمجة في العالم الحقيقي فوضوية، وتتضمن أهدافاً متغيرة، وتتطلب حكماً بشرياً. كما أنهم يدفعون ضد فكرة أن التفاعل البشري هو مجرد حل مؤقت للذكاء الاصطناعي "الغبي"؛ إذ يجادلون بأن التصميم المتمحور حول الإنسان هو المستقبل، وليس مجرد سد فجوة.

ما مدى تأكدهم؟
المؤلفون واثقون من ملاحظاتهم بناءً على البيانات التي رأوها. فهم يشيرون إلى اتجاهات في العالم الحقيقي حيث يشعر المطورون بالإحباط من أدوات الذكاء الاصطناعي التي يصعب التحكم فيها أو التحقق منها. يستخدمون عمليات المحاكاة وتحليل معايير البرمجة الموجودة (مثل SWE-bench) لإظهار أنه بينما يحل الوكلاء المزيد من المهام، فإن جودة التفاعل تعاني.

على سبيل المثال، يظهرون بيانات تشير إلى أنه حتى عندما ينجح الوكلاء في حل مشكلة برمجية، فإن الكود الذي ينتجونه غالباً ما يكون "متضخماً" (طويلاً جداً) ومختلفاً وظيفياً عما كان سيكتبه الإنسان، حتى لو اجتاز الاختبارات الآلية. هذا يشير إلى أن الطريقة الحالية لاختبار الذكاء الاصطناعي (فقط التحقق مما إذا كان يجتاز اختباراً ما) تغفل الصورة الأكبر حول ما إذا كان الكود مفيداً أو مفهوماً بالفعل.

هم لا يدعون أنهم حلوا هذه المشكلات بعد، بل يقترحون خارطة طريق جديدة للمستقبل. يقترحون أن الباحثين بحاجة لبناء أدوات جديدة لمحاكاة المستخدمين البشريين، وإيجاد طرق أفضل للتحقق من الكود لا تقتصر فقط على اختبارات الوحدة (unit tests)، وتصميم أنظمة تقيس مدى جودة تعاون الوكيل مع الشخص، وليس فقط سرعة إنهاء المهمة.

الصورة الكبيرة
باختصار، هذه الورقة هي نداء لمجتمع الذكاء الاصطناعي: توقفوا عن بناء روبوتات تعمل بمفردها وابدأوا في بناء شركاء يعملون معنا. المستقبل في البرمجة لا يتعلق بروبوت يستولي على وظيفتك، بل بروبوت يساعدك على أداء وظيفتك بشكل أفضل، وأسرع، وبضغط أقل. الأمر يتعلق بالتحول من سؤال "هل يستطيع الذكاء الاصطناعي فعل ذلك؟" إلى سؤال "هل يمكن للذكاء الاصطناعي والإنسان القيام بذلك معاً؟".

يعتقد المؤلفون أننا إذا تجاهلنا العنصر البشري، فسينتهي بنا الأمر بأدوات قوية لكنها معقدة للغاية، وصعبة التحكم، وغير موثوقة للاستخدام من قبل البشر. ومن خلال التركيز على التوافق، والقابلية للتوجيه، والقابلية للتحقق، والقدرة على التكيف، يمكننا خلق ذكاء اصطناعي لا يكتفي بكتابة الكود فحسب، بل يتعاون حقاً مع الأشخاص الذين يحتاجون إليه.