Is your AI Model Accurate Enough? The Difficult Choices Behind Rigorous AI Development and the EU AI Act
تتحدى هذه الورقة المفهوم القائل بأن دقة الذكاء الاصطناعي هي مقياس موضوعي بحت من خلال تحليل الخيارات المعيارية المعتمدة على السياق والمطلوبة لتعريفها وقياسها، مستخدمةً قانون الذكاء الاصطناعي التابع للاتحاد الأوروبي لتوضيح كيف تشكل هذه القرارات التقنية-المعيارية توزيع المخاطر وتقديم إرشادات عملية للمنظمين والمطورين.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك قاضٍ في مسابقة طبخ عالية المخاطر. ينص كتاب القواعد (قانون الذكاء الاصطناعي للاتحاد الأوروبي) على ما يلي: "يجب أن يكون الطبق دقيقاً بما يكفي لتقديمه للجمهور".
الآن، تخيل أن مطوراً أحضر إليك حساءً وقال: "انظر! حسائي دقيق بنسبة 99.8%!".
قد تفكر: "واو، هذا مثالي!"، لكنك تدرك فجأة: أن الحساء يتكون من 9.8% ماء و0.2% ملح. هو "دقيق" تقنياً في كونه ماءً، لكنه حساء سيء للغاية. إذا قدمته لشخص يعاني من نقص في الملح، فقد يمرض.
تجادل هذه الورقة بأن السؤال "هل الذكاء الاصطناعي دقيق بما يكفي؟" هو سؤال مخادع. الدقة ليست مجرد رقم على لوحة النتائج؛ بل هي سلسلة من الخيارات الخفية حول نوع الأخطاء التي نحن مستعدون لقبولها.
إليك تفصيل "الخيارات السرية" الأربعة للورقة باستخدام تشبيهات بسيطة:
1. اختيار لوحة النتائج (اختيار المقاييس)
تخيل أنك تختبر جهازاً جديداً لكشف سرطان الجلد (الميلانوما).
- الفخ: إذا استخدمت درجة "الدقة" البسيطة، يمكن للذكاء الاصطناعي أن يقول "لا يوجد سرطان" للجميع. وبما أن معظم الشامات حميدة، فسيكون محقاً بنسبة 99% من الوقت. لكنه سيفشل في رصد كل حالات السرطان. وهذا كارثي.
- الخيار: يتعين على المطور أن يقرر: ما الذي يهم أكثر؟
- الخيار (أ): رصد كل حالة سرطان (حتى لو أدى ذلك إلى الصراخ بكلمة "سرطان!" عند رؤية شامة حميدة). وهذا ما يسمى الاستدعاء (Recall).
- الخيار (ب): عدم الصراخ بكلمة "سرطان!" إلا عندما تكون متأكداً تماماً (حتى لو أدى ذلك إلى تفويت بعض الحالات الحقيقية). وهذا ما يسمى الدقة (Precision).
- نقطة الورقة: لا توجد لوحة نتائج "صحيحة". إن اختيار أحدهما على الآخر هو قرار أخلاقي. هل نحن موافقون على إخافة الأصحاء (الإيجابيات الكاذبة) أم المخاطرة بحياة المرضى (السبيات الكاذبة)؟ يطالب قانون الذكاء الاصطناعي بتبرير أي لوحة نتائج اخترتموها.
2. خلط المكونات (موازنة المقاييس)
الآن، لنفترض أنك تريد الحصول على "دقة" و"استدعاء" عاليين معاً. لا يمكنك الحصول على 100% من كليهما.
- الفخ: غالباً ما يقوم المطورون بخلط هذين الرقمين في "درجة F" واحدة (مثل خلط الدقيق والسكر لصنع كعكة). بمجرد خلطهما، يصعب تذوق كمية السكر أو الدقيق الموجودة فيهما فعلياً.
- الخيار: هل نخلطهما في رقم واحد لجعله يبدو بسيطاً؟ أم نبقي كل منهما منفصلاً ونقول: "نحتاج إلى 90% دقة وَ 80% استدعاء"؟
- نقطة الورقة: الخلط يخفي المقايضات. إذا قمت بخلطهما، فقد تقرر بالخطأ أن رصد السرطان أقل أهمية من عدم إخافة الناس، دون أن تعترف بذلك أبداً. تقترح الورقة ضرورة إبقاء المكونات منفصلة حتى نتمكن من رؤية ما تعطي الأولوية له بالضبط.
3. اختيار لجنة التذوق (قياس المقاييس)
لديك وصفتك، ولكن كيف تختبرها؟
- الفخ: تخيل أنك تختبر حساءك فقط على أشخاص يحبون الطعام المالح. سيبدو الحساء رائعاً لهم! ولكن ماذا عن الأشخاص الحساسين للملح؟
- الخيار: في الذكاء الاصطناعي، يتعلق الأمر بـ البيانات. إذا اختبرت جهاز كشف سرطان الجلد فقط على صور للبشرة الفاتحة، فسيفشل فشلاً ذريعاً في البشرة الداكنة.
- نقطة الورقة: يتعين على المطور أن يقرر: من هم في مجموعة الاختبار الخاصة بنا؟ هل نختبر الجميع بالتساوي؟ هل نتأكد من وجود صور كافية لكبار السن، أو لأصحاب درجات البشرة المختلفة؟ إذا لم تكن مجموعة الاختبار تشبه العالم الحقيقي، فإن درجة "الدقة" ستكون كذبة.
4. تحديد خط النجاح/الفشل (تحديد العتبات)
أخيراً، لديك درجاتك. هل الحساء جيد بما يكفي لتقديمه؟
- الفخ: هل درجة 90% جيدة؟ ماذا عن 95%؟
- الخيار: هذه هي عتبة القبول.
- إذا كان الذكاء الاصطناعي يحل محل الطبيب، فيجب أن يكون أفضل من البشر.
- إذا كان مجرد "رأي ثانٍ" مساعد، فربما يحتاج فقط لأن يكون بجودة البشر.
- نقطة الورقة: يقول قانون الذكاء الاصطناعي للاتحاد الأوروبي إن النظام يجب أن يكون "دقيقاً بما يكفي"، لكنه لا يعطي رقماً محدداً (مثل "95%"). يتعين على المطور رسم الخط في الرمال. ما مقدار المخاطرة التي نحن مستعدون لتحملها؟ إذا كان الخط منخفضاً جداً، فقد يتضرر الناس. وإذا كان مرتفعاً جداً، فقد لا نستخدم تقنيات منقذة للحياة أبداً.
الصورة الكبيرة
تخلص الورقة إلى أن الدقة ليست حقيقة تقنية؛ بل هي خيار سياسي وأخلاقي.
يحاول قانون الذكاء الاصطناعي للاتحاد الأوروبي إصلاح ذلك من خلال القول: "لا يمكنك مجرد قول 'إنه دقيق'. عليك أن تكتب بالضبط كيف اخترت لوحة نتائجك، وكيف وازنت المكونات، ومن اختبرت، وأين رسمت خط النجاح/الفشل".
لماذا يهم هذا؟
لأنه إذا لم نتخذ هذه الخيارات بعناية، فقد نبني ذكاءً اصطناعياً يبدو "دقيقاً" على الورق ولكنه خطير في الحياة الواقعية. تحث الورقة المطورين، والمحامين، والمنظمين على التوقف عن الاختباء خلف الأرقام والبدء في إجراء حوارات صادقة حول نوع الأخطاء التي نحن مستعدون لقبولها.
باخت-القول: لا تسأل فقط، "هل الذكاء الاصطناعي دقيق؟" بل اسأل، "دقيق في ماذا، ولمن، وبأي تكلفة؟"
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.