The science and practice of proportionality in AI risk evaluations
تستكشف هذه الورقة كيفية الموازنة بين متطلب قانون الذكاء الاصطناعي في الاتحاد الأوروبي الذي يلزم مزودي نماذج الذكاء الاصطناعي للأغراض العامة بتقييم المخاطر النظامية وبين الابتكار من خلال مبدأ التناسب، بهدف تطوير أساليب علمية تضمن إجراء تقييمات ذات مغزى للمخاطر دون فرض أعباء مفرطة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك مدير شركة إنشاءات ضخمة تبني نوعاً جديداً من "الآجر الخارق" (super-brick) الذي يمكنه بناء المنازل، والجسور، وحتى مدن كاملة. لكن هناك عقبة: إذا أخطأت في الوصفة، فقد تُستخدم هذه الطوب لبناء قنابل أو لتدمير المباني.
لقد تدخل الاتحاد الأوروبي (EU) وقال: "يجب عليك اختبار هذا الطوب قبل بيعه للتأكد من أنه ليس خطيراً". هذا هو قانون الذكاء الاصطناعي (AI Act).
ومع ذلك، يواجه المنظمون مشكلة صعبة: كيف نتأكد من أن الاختبارات جيدة بما يكفي للحفاظ على سلامة الجميع، دون إجبار الشركات على إنفاق الكثير من الوقت والمال في الاختبارات لدرجة تمنعهم من إكمال البناء؟
هذه الورقة البحثية تدور حول إيجاد التوازن المثالي. وهي تستخدم مفهوماً قانونياً يسمى "التناسب" (Proportionality). فكر في "التناسب" كأنه "مبدأ غولديلوكس" (الاعتدال): يجب ألا يكون الاختبار سهلاً للغاية (غير مفيد)، ولا صعباً للغاية (مستحيلاً)، بل يجب أن يكون "مناسباً تماماً".
إليك كيف قام المؤلفون بتفكيك هذا المفهوم باستخدام تشبيهات بسيطة:
1. القواعد الثلاث لـ "المستوى المناسب"
تقول الورقة إن الاختبار لا يكون "متناسباً" إلا إذا اجتاز ثلاثة فحوصات:
- الملاءمة (هل يعمل؟): يجب أن يقدم الاختبار شيئاً مفيداً بالفعل.
- التشبيه: إذا كنت تريد معرفة ما إذا كانت السيارة يمكنها التوقف في المطر، فإن اختبارها في يوم مشمس هو أمر بلا فائدة. يجب أن يتطابق الاختبار مع الخطر الحقيقي في الواقع.
- الضرورة (هل هي الطريقة الأقل إرهاقاً؟): إذا كان بإمكانك الحصول على نفس معلومات السلامة بطريقة أرخص وأسهل، فلا ينبغي فرض الاختبار المكلف.
- التشبيه: إذا كنت تريد التحقق مما إذا كان الباب مغلقاً، فلا تحتاج إلى استئجار فريق قوات خاصة لاقتحامه. اختبار بسيط مثل "هز المقبض" يكفي. استخدام فريق قوات خاصة سيكون بمثابة "استخدام مطرقة ثقيلة لكسر جوزة".
- التوازن (هل التكلفة تستحق السلامة؟): لا ينبغي أن تكون المشقة والتكلفة الناتجة عن الاختبار أكبر بكثير من الخطر الذي تحاول منعه.
- التشبيه: ليس من المنطقي إنفاق مليون دولار لتركيب نظام أمني لمخزن يحتوي فقط على خرطوم حديقة واحد.
2. "جبهة باريتو" (منحنى الكفاءة)
تتضمن الورقة رسماً بيانياً يبدو كمنحنى. تخيل هذا كأنه قائمة اختبارات:
- في أحد الجانبين، لديك تكلفة منخفضة / معلومات سلامة منخفضة (مثل اختبار سريع).
- وفي الجانب الآخر، لديك تكلفة عالية / معلومات سلامة عالية (مثل محاكاة كاملة وشاملة).
"جبهة باريتو" (Pareto Frontier) هي أفضل الصفقات الممكنة في تلك القائمة. وهي تمثل الاختبارات التي تحصل فيها على أقصى قدر من معلومات السلامة مقابل أقل قدر من المال. إذا كان الاختبار يقع "تحت" هذا الخط، فهو صفقة سيئة (مكلف جداً مقار بالمعلومات التي يقدمها). وإذا كان "فوق" الخط، فهو أمر مستحيل (لا يمكنك الحصول على قدر كبير من المعلومات بتلك التكلفة الزهيدة).
الهدف من المنظمين هو اختيار نقطة على هذا الخط تتناسب مع مستوى خطورة نموذج الذكاء الاصطناعي المحدد.
3. مثال من الواقع: اختبار "المخترق"
لشرح ذلك، ينظر المؤلفون إلى خطر محدد: ماذا لو ساعد الذكاء الاصطناعي مخترقاً في العثوا ثغرات في كود برمجي؟ يقارنون بين ثلاث طرق للاختبار:
- الطريقة (أ) (الاختبار "المُلمّح"): يعطي الاختبار تلميحاً للذكاء الاصطناعي مثل: "انظر إلى السطر 50، هناك خطأ هناك".
- المزايا: رخيصة وسريعة جداً.
- العيوب: غير واقعية تماماً. إذا فشل الذكاء الاصطناعي، فقد يكون السبب ببساطة أنه لم يقرأ التلميح، وليس لأنه غير آمن.
- الحكم: جيدة كعملية "فرز" سريعة لمعرفة ما إذا كان الذكاء الاصطناعي عديم الفائدة تماماً.
- الطة (ب) (الاختبار "الواقعي"): يجب على الذكاء الاصطناعي العثوا أخطاء في بيئة واقعية بدون تلميحات، تماماً كما يفعل المخترق الحقيقي.
- المزايا: أكثر دقة بكثير.
- العيوب: يتطلب قوة حوسبة ووقتاً أكثر.
- الحكم: جيدة إذا كان الاختبار الأول مخيفاً أو غير حاسم.
- الطريقة (ج) (اختبار "المحاكاة الفائقة"): يتم وضع الذكاء الاصطناعي في عالم رقمي ضخم ومعقد يحتوي على آلاف السيناريوهات للعثوا الأخطاء.
- المزايا: صارم ومفصل للغاية.
- العيوب: مكلف جداً وبطيء.
- الحكم: ضروري فقط إذا كان الذكاء الاصطناعي ضخماً، واسع الانتشار، وإذا أشارت الاختبارات الأولى والثانية إلى أنه قد يكون خطيراً.
الاستراتيجية: تقترح الورقة نهجاً تكرارياً. ابدأ بالاختبار السهل والرخيص (الطريقة أ). إذا نجح الذكاء الاصطناعي بسهولة، ممتاز! توقف عند هذا الحد. إذا فشل أو بدا مريباً، انتقل حينها إلى الاختبار الأصعب (الطريقة ب). وفقط إذا ظل يبدو خطيراً، قم بإنفاق الثروة على الاختبار الفائق (الطريقة ج). هذا يوفر الوقت والمال للجميع.
4. لماذا هذا مهم؟
حالياً، يشعر المنظمون غالباً بأنهم يخمنون. قد يطلبون "محاكاة فائقة" لذكاء اصطناعي صغير وغير ضار، مما يقتل الابتكار لأن الشركة ستفلس بسبب تكاليف الاختبار. أو قد يقبلون باختبار "مُلمّح" لذكاء اصطناعي خطير، مما يترك الجمهور غير آمن.
تجادل هذه الورقة بأننا بحاجة إلى العلم لإصلاح ذلك. نحن بحاجة إلى أدوات أفضل لقياس مقدار "معلومات السلامة" التي يقدمها الاختبار مقابل تكلفته بالضبط.
الخلاصة:
الهدف ليس إيقاف تقدم الذكاء الاصطناعي. الهدف هو التأكد من أن فحوصات السلامة ذكية. نريد استخدام الأداة المناسبة للمهمة المناسبة، لضمان أن يكون العبء على الشركات عادلاً، مع ضمان حماية المجتمع بشكل قوي. الأمر يتعلق بالانتقال من "التخمين" إلى "القياس" حتى نتمكن من بناء مستقبل أكثر أماناً دون إفلاس الشركات.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.