Agents Can Build Benchmarks. Approvals Missed What Probing Found: 22 Cases
تفيد هذه الورقة بأنه على الرغم من معدلات القبول المرتفعة وعدم وجود أي حالات فشل في الاختبار، إلا أن مراجعة منهجية شاملة لـ 22 معياراً من معايير الوكلاء المولدة بالذكاء الاصطناعي كشفت عن عيوب عامة — بما في ذلك تجاهل المهام، وتسجيل درجات قائمة على الحفظ، وتسريبات النشر — والتي لم تكتشفها كل من الاختبارات الآلية والمراجعون البشريون، مما يسلط الض الضوء على عيوب حرجة في بروتوكولات تقييم ومعايير قياس أداء الوكلاء الحالية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم الذكاء الاصطناعي المتطور بسرعة، يعتمد الباحثون على اختبارات تسمى "المعايير المرجعية" (benchmarks) لقياس مدى قدرة برنامج الكمبيوتر على التفكير. هذه الاختبارات تشبه الامتحانات الموحدة للآلات، حيث تقدم لها ألغازاً، أو مشكلات منطقية، أو مهام إبداعية لترى أداءها. لسنوات طويلة، كان الافتراض السائد هو أن البشر هم من يصممون هذه الامتحانات، ويصيغون الأسئلة وقواعد التقييم بعناة لضمان أنها تقيس ما تدعي قياسه. ولكن مع تقدم التكنولوجيا المستخدمة في بناء هذه الاختبارات، برز سؤال جديد: ماذا يحدث عندما تُكتب الاختبارات نفسها بواسطة الآلات التي يُفترض بها تقييمها؟ يثير هذا التحول قلقاً بالغاً بشأن موثوقية الدرجات التي نراها. فإذا قام ذكاء اصطناعي بتصميم اختبار، فقد يتسبب دون قصد في إنشاء لغز يمكنه حله بسهولة دون أن يكون ذكياً حقاً، أو قد يغفل عن ثغرة تسمح لآلة باستغلال النظام. إن فهم ما إذا كانت هذه الاختبارات التي صنعتها الآلات بنفسها جديرة بالثقة هو أمر ضروري لأي شخص يحاول قياس القدرات الحقيقية لأنظمة الكمبيوتر الحديثة.
استكشفت دراسة حديثة أجراها الباحث المستقل بوريا أراب (Pooria Arab) هذا السيناريو تحديداً. حيث أعد الباحث تجربة كُلف فيها وكلاء برمجة يعملون بالذكاء الاصطناعي ببناء مجموعة من اثنين وعشرين معياراً مرجعياً مختلفاً. قام هؤلاء الوكلاء بكتابة الكود، وتصميم المهام، ووضع أنظمة التقييم لكل شيء، بدءاً من رسم الصور وصولاً إلى حل الألغاز المنطقية المعقدة. ولضمان صرامة العملية، قامت مجموعة منفصلة من مراجعي الذكاء الاصطناعي، الذين عملوا كـ "مجلس"، بفحص العمل. لقد قرأوا التغييرات في الكود واعتمدوا تسعة وتسعين تحديثاً من أصل مائة وثلاثة وعشرين تحديثاً تم دمجها في المجموعة النهائية. على الورق، بدت العملية ناجحة: تم بناء الاختبارات، ومراجعتها، والموافقة عليها. ومع ذلك، كشف تحقيق أعمق عن واقع صادم. فعندما أجرى الباحث نوعاً خاصاً من الفحص (probe) ضد الاختبارات المكتملة — وهو ما يشبه مهاجمة الاختبارات باستراتيجيات بسيطة وعامة مصمما لإيجاد الثغرات — وجد مراجعة استقصائية وجود عيوب في جميع الحزم الـ 22.
كشف التحقيق أن الموافقات الأولية، رغم كونها حقيقية ودقيقة في قراءة الكود، فشلت في رصد العيوب الجوهرية لأنها لم تختبر هذه الاختبارات ضد هجمات فعلية. ووجدت المراجعة الاستقصائية أن كل حزمة احتاجت إلى جولة واحدة على الأقل من الإصلاحات، بينما تطلبت بعضها ما يصل إلى تسع جولات من التصحيحات. ويشير السجل إلى أنه بينما عالجت هذه الإصلاحات المشكلات المسجلة، إلا أنه لا يظهر عدم وجود عيوب متبقية. وفي كثير من الحالات، كانت الاختبارات معيبة لدرجة أن برنامج الكمبيوتر يمكنه الحصول على درجة عالية عبر القيام بشيء يكاد لا يُذكر. فعلى سبيل المثال، في ثلاث عشرة حزمة من الحزم، نجحت استراتيجية تتجاهل المهمة تماماً وتكتفي بتقديم إجابة ثابتة وعامة في الحصول على درجات. وفي حالة محددة تتعلق باختبار الرسم، تمكن كمبيوتر من الحصول على درجة كاملة في كل سؤال عبر تقديم صورة واحدة محفوظة مسبقاً، رغم أن الاختبار كان من المفترض أن يقيم القدرة على رسم مشهد محدد. وفي حالة أخرى، فشل اختبار صُمم للتحقق مما إذا كان بإمكان الكمبيوتر التعامل مع عربة تسوق في معاقبة برنامج لم يقم بدفع ثمن السلع فعلياً.
تسلط الدراسة الضوء على فجوة محددة في كيفية التحقق من صحة هذه الاختبارات حالياً. لقد قام مجلس المراجعة بعمله من خلال قراءة الكد ورصد الأخطاء الواضحة، مثل قيمة "بذرة" (seed value) مخفية تركت بالخطأ في الكود، أو ادعاء في التوثيق لا يتطابق مع البرنامج الفعلي. ومع ذلك، أغفلت هذه المراجعات القضايا الأعمق التي لم تظهر إلا عند تشغيل الاختبارات فعلياً. ووجد الباحث أن العيوب لم تكن عشوائية؛ بل وقعت ضمن ثلاث عشرة فئة متميزة، تراوحت بين مهام مستحيلة الحل وأنظمة تقييم تقبل التقارير المزورة. وكان أحد أكثر الإخفاقات شيوعاً هو سماح الاختبارات لـ "الاستراتيجيات العمياء" بالنجاح. وهذا يعني أن الكمبيوتر يمكنه الفوز عبر التخمين أو تكرار نمط معين دون فهم السؤال، ببساطة لأن صانع الاختبار لم يتوقع مثل هذه الحيلة البسيطة.
ولاختبار ما إذا كانت الفحوصات البسيطة يمكنها رصد هذه المشكلات، أجرى الباحث تجربة مخططة مسبقاً باستخدام ثماني سياسات عامة وتافهة. كانت هذه قواعد أساسية، مثل قول "نعم" دائماً أو إرجاع إجابة فارغة دائماً، صُممت لمعرفة ما إذا كان يمكنها استغلال الاختبارات. وكانت النتائج مثبطة؛ إذ لم تحقق أفضل سياسة تافهة نتيجة جيدة إلا في حزمتين فقط، وهي نتيجة صفرية تشير إلى أن السياسات العامة لم تكتشف معظم العيوب المسجلة. وهذا يشير إلى أن العيوب المكتشفة لم تكن ثغرات واضحة يمكن للفحص العام اكتشافها بسهولة، بل كانت مشكلات دقيقة تتطلب فهماً عميقاً للمهمة المحددة لكشفها. إن حقيقة أن المراجعين قد فاتهم رصد هذه المشكلات لا تعني عدم كفاءتهم، بل توضح أن قراءة الكود تختلف عن مهاجمة نظام يعمل بالفعل. لقد رأى المراجعون الخطة، لكن عمليات الفحص رأت الواقع الفعلي لكيفية سلوك النظام عند الضغط عليه.
تخلص الدراسة إلى أنه بينما يمكن للذكاء الاصطناعي بناء أطر اختبار معقدة بنجاح، فإن الأساليب الحالية للموافقة غير كافية لضمان جودتها. وقد أصدر الباحث المجموعة الكاملة المكونة من اثنين وعشرين حزمة، جنباً إلى جنب مع المحرك الذي يشغلها والسجلات التفصيلية لكل إصلاح وعيب تم العثور عليه. يعمل هذا الإصدار كسجل شفاف لما يحدث عندما تبني الآلات اختبارات للآلات. إنه يوضح أنه حتى مع وجود مجلس مراجعين وسلسلة من الفحوصات الآلية، يمكن للعيوب الجوهرية أن تتسلل إذا لم تتضمن عملية الاختبار فحصاً عدائياً نشطاً. لا يدعي العمل أن الذكاء الاصطناعي لا يمكنه بناء اختبارات جيدة، لكنه يشير بقوة إلى أن عمليات الموافقة الحالية تفتقر إلى خطوة حاسمة. وإلى أن يتم مهاجمة الاختبارات واختبارها بصرامة ضد استراتيجيات الاستغلال البسيطة، فإن الدرجات التي تنتجها قد لا تعكس الذكاء الحقيقي للأنظمة التي يتم قياسها. ويؤكد الباحث أنه لم يتم تشغيل أي نماذج كمبيوتر حقيقية على هذه الاختبارات في هذه الدراسة، لذا فإن النتائج هي مقياس لتصاميم الاختبارات نفسها، وليس لقدرات أي ذكاء اصطناعي محدد. وتقف النتائج كتحذير: إن الحصول على الضوء الأخضر من مراجع ليس هو نفسه الحصول على شهادة خلو من العيوب من هجوم صارم.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.