AI Assurance: A Comprehensive Testing Strategy for Enterprise AI Systems
تقترح هذه الورقة استراتيجية ضمان شاملة وقابلة للنشر العملياتي لأنظمة الذكاء الاصطناعي في المؤسسات، والتي تنقل التركيز من التحقق التقليدي من الصحة إلى الحد المستمر من المخاطر من خلال تصنيف هيكلي للفشل، وهرم ضمان مُعدل خماسي الطبقات، وممارسات هندسية متكاملة قائمة على التقييم.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك توظف فريقاً من المستشارين الموهوبين للغاية، ولكنهم غير متوقعين بعض الشيء، لإدارة عملك. هؤلاء المستشارون أذكياء جداً لدرجة أنهم يستطيعون كتابة الشعر، وحل المسائل الرياضية، وصياغة العقود القانونية. ولكن هناك عقبة: ليس لديهم كتاب قواعد ثابت. إنهم يتعلمون من مكتبة ضخمة من الكتب، وفي كل مرة يجيبون فيها على سؤال، فإنهم يخمنون الإجابة "الأكثر احتمالاً" بناءً على ما قرأوه من قبل. أحياناً يصيبون في تخمينهم، وأحياناً أخرى يخمنون بثقة ولكن بشكل خاطئ تماماً.
هذه الورقة، التي كتبها خبراء من Thoughtworks، تجادل بأننا لا نستطيع اختبار هؤلاء "المستشارين من الذكاء الاصطناي" بنفس الطريقة التي نختبر بها البرمجيات التقليدية.
إليك تفصيل استراتيجيتهم، مشروحاً بأسلوب بسيط مع استخدام الأمثلة التشبيهية.
1. الطريقة القديمة مقابل الطريقة الجديدة
الطريقة القديمة (البرمجيات التقليدية):
تخيل آلة بيع ذاتي. تضغط على "A1"، فتخرج لك كيس من الرقائق. إذا ضغطت على "A1" مرة أخرى، ستحصل على نفس الكيس بالضبط. إذا لم يحدث ذلك، فالآلة معطلة. اختبار هذا الأمر سهل: أنت فقط تتحقق مما إذا كان الشيء الصحيح قد خرج في كل مرة.
الطريقة الجديدة (أنظمة الذكاء الاصطناعي):
الآن تخيل وكيل سفر بشري. تسأله: "خطط لي رحلة إلى باريس".
- التشغيل 1: يقترح عليك فندقاً بالقرب من برج إيفل.
- التشغيل 2: يقترح عليك فندقاً بالقرب من متحف اللوفر.
- التشغيل 3: يحجز لك رحلة إلى لندن عن طريق الخطأ لأنه تشتت انتباهه.
لا يمكنك القول إن "التشغيل 2" خاطئ لمجرد أنه مختلف عن "التشغيل 1". فكلاهما صحيح. لكن يمكنك القول إن "التشغيل 3" كارثة.
نقطة الورقة البحثية: لا يمكننا اختبار الذكاء الاصطناي عبر التحقق من "النجاح/الفشل" مثل آلة البيع الذاتي. يجب أن نختبر من أجل تقليل المخاطر. نحن لا نحاول إثبات أن الذكاء الاصطناي مثالي؛ بل نحاول إثبات أنه لن يفعل شيئاً خطيراً أو غبياً.
2. "تصنيف فشل الذكاء الاصطناي" (الطرق الخمسة التي يتعطل بها الذكاء الاصطناي)
يقول المؤلفون إن الذكاء الاصطناي لا "يتعطل" فحسب مثل البرمجيات القديمة، بل يفشل بخمس طرق محددة وخفية. فكر في هذه الطرق كخمس طرق يمكن لوكيل السفر أن يفسد بها رحلتك:
- الكاذب الواثق (فشل الاستناد إلى الواقع - Grounding Failure): يعطيك الوكيل برنامج رحلة مثالياً، لكن الفندق غير موجود أصلاً. لقد اخترعه لأنه بدا واثقاً.
- المسار الخاطئ (فشل الاستنتاج - Reasoning Failure): يوصلك الوكيل إلى الفندق الصحيح، لكنه سلك بك طريقاً مجنوناً ومكلفاً للوصول إلى هناك، أو نسي قاعدتك الخاصة بـ "عدم استخدام السلالم".
- المخادع (فشل السلامة - Safety Failure): يقوم شخص ما بخداع الوكيل ليدلي برقم بطاقتك الائتمانية أو لكسر القواعد.
- نزاع الفريق (فشل التنسيق - Coordination Failure): لديك ثلاثة وكلاء يعملون معاً (واحد يحجز الرحلات، وآخر يحجز الفنادق، والثالث يرسل رسائل البريد الإلكتروني). يتحدثون مع بعضهم البعض، لكنهم يسيئون فهم الرسالة. تم حجز الرحلة ليوم الثلاثاء، لكن الفندق ليوم الأربعاء.
- تقلب المزاج (الفشل العشوائي - Stochastic Failure): يعمل الوكيل بشكل مثالي 9 مرات من أصل 10، ولكن في المرة العاشرة، يقرر فجأة أن يتصرف بغرابة. لا يمكنك التنبؤ متى سيحدث هذا.
3. "هرم ضمان جودة الذكاء الاصطناي" (كيفية الاختبار)
بدلاً من قائمة مسطحة من الاختبارات، تقترح الورقة هرماً. هذا المبنى يتكون من 5 طوابق. تريد رصد الأخطاء في الطوابق السفلية لأنها رخيصة وسهلة. إذا انتظرت حتى الطابق العلوي، فستكون المشكلة قد أفسدت الرحلة بأكملها.
- الطابق 0 (الأساس): فحص السباكة. هل الكود البرمحي يتصل فعلياً بقاعدة البيانات؟ هل "الأمر" (التعليمات المعطاة للذكاء الاصطناي) مكتوب بالتنسيق الصحيح؟ هذا أمر مؤكد بنسبة 100%.
- الطابق 1 (المكونات): اختبار الوكلاء المنفردين. هل يعرف "وكيل الرحلات" كيفية البحث عن الرحلات؟ هل يعرف "وكيل السلامة" كيفية حظر الكلمات البذيئة؟
- الطابق 2 (الوكيل المنفرد): اختبار وكيل واحد يقوم بمهمة متعددة الخطوات. "احجز لي رحلة طيران". هل اختار الرحلة الصحيحة؟ هل اختار التاريخ الصحيح؟ هل تذكر اسمي؟
- الطابق 3 (الفريق): اختبار كيفية تواصل الوكلاء مع بعضهم البعض. هل أخبر "وكيل الرحلات" "وكيل الفنادق" بالتواريخ الصحيحة؟ هل نقلوا المعلومات الصحيحة لبعضهم؟
- الطابق 4 (نتيجة العمل التجاري): الاختبار النهائي. هل حصل العميل بالفعل على عطلة جعلته سعيداً؟ هل اتبعت الشركة القانون؟ هذا هو الطابق الأكثر تكلفة في الاختبار لأنه يتطلب بشراً للنظر في النتيجة.
القاعدة الذهبية: اكشف الخطأ في الطابق 0 أو 1. إذا اختبرت فقط في الطابق 4، فأنت تنتظر حتى يشتكي العميل لتعرف أن هناك خطأ ما.
4. RAG: مشكلة "المكتبة"
تستخدم العديد من الشركات نظاماً يسمى RAG (التوليد المعزز بالاسترجاع).
- التشبيه: تخيل أن الذكاء الاصطناي طالب يؤدي اختباراً.
- بدون RAG: يعتمد الطالب فقط على ذاكرته. قد يتذكر الأشياء بشكل خاطئ (يهلوس).
- مع RAG: يُسمح للطالب بفتح كتاب مدرسي محدد (بيانات الشركة) قبل الإجابة.
- تحدي الاختبار: يجب عليك اختبار شيئين بشكل منفصل:
- هل وجد الطالب الصفحة الصحيحة في الكتاب المدرسي؟ (الاسترجاع - Retrieval)
- هل قرأ الطالب تلك الصفحة وأجاب على السؤال بشكل صحيح بناءً عليها؟ (التوليد - Generation)
- إذا كانت الإجابة خاطئة، يجب أن تعرف: هل نظر في الصفحة الخطأ، أم قرأ الصفحة الصحيحة ولكنه أساء فهمها؟
5. "الانجراف الصامت" (النموذج يتغير)
في البرمجيات التقليدية، إذا قمت بتحديث مكتبة برمجية، فأنت تعرف بالضبط ما الذي تغير.
في الذكاء الاصطناي، قد يقوم "المعلم" (مزود نموذج الذكاء الاصطناي) بتغيير الكتاب المدرسي بهدوء في منتة الفصل الدراسي.
- الخطر: بالأمس، كان الذكاء الاصطناي يتبع قاعدتك "احجز دائماً رحلات مباشرة". اليوم، بعد تحديث صامت، بدأ يحجز رحلات تتضمن توقفات.
- الحل: أنت بحاجة إلى التقييم المستمر. لا يمكنك الاختبار مرة واحدة فقط قبل الإطلاق. يجب عليك تشغيل مجموعة اختبارات كل يوم، مثل فحص صحي يومي، للتأكد من أن الذكاء الاصطناي لم "ينجرف" وبدأ يتصرف بشكل سيء.
6. التحول الكبير: من ضمان الجودة إلى "هندسة التقييم"
تخلص الورقة إلى أننا بحاجة إلى دور وظيفي جديد.
- ضمان الجودة التقليدي (QA): "هل يعمل الكود؟ هل يعمل الزر؟"
- هندسة التقييم الجديدة: "هل يتصرف الذكاء الاصطناي بأمان؟ هل هو متسق؟ هل هلوس؟"
هذا ليس مجرد كتابة المزيد من الاختبارات. إنه يتعلق ببناء منصة حيث:
- لدينا "مجموعات بيانات ذهبية" (أمثلة مثالية للأسئلة والإجابات) للاختبار مقابلها.
- لدينا "قضاة" (نماذج ذكاء اصطاني أخرى أو بشر) لتقييم الإجابات.
- نتعامل مع الأمر (التعليمات) ككود برمجي يجب أن يكون خاضعاً للتحكم في الإصدارات والاختبار في كل مرة يتغير فيها نموذج الذكاء الاصطناي.
الملخص
تقول الورقة: توقف عن محاولة جعل الذكاء الاصطناي مثالياً. ابدأ في محاولة جعله آمناً.
لا تعامل الذكاء الاصطناي كآلة بيع ذاتي. عامله كفريق من المتدربين العباقرة ولكن غير المتوقعين. أنت بحاجة إلى نظام صارم من الضوابط (الهرم)، وطريقة لكشف كذبه (التصنيف)، وروتين يومي للتأكد من أنه لم ينسَ تدريبه (المراقبة المستمرة). إذا فعلت ذلك، يمكنك الوثوق بهم في إدارة عملك. وإذا لم تفعل، فأنت تطير بلا رؤية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.