Standards for trustworthy AI in the European Union: technical rationale, structural challenges, and an implementation path

الصورة الكبيرة: تحويل القواعد إلى وصفات

تخيل أن الاتحاد الأوروبي قد أصدر قانوناً صارماً يسمى قانون الذكاء الاصطناوي (AI Act). ينص هذا القانون على أن: "الذكاء الاصطناعي يجب أن يكون آمناً، عادلاً، وموثوقاً". لكن القوانين تشبه التعليمات العامة: "قد بأمان". هي لا تخبرك كيف تقود بأمان (مثلاً: "حافظ على مسافة سيارتين خلف السيارة التي أمامك").

تجادل هذه الورقة بأن المعايير التقنية هي "كتيبات القيادة" المفقودة. فهي تحول القاعدة القانونية الغامضة ("كن آمناً") إلى وصفة محددة وقابلة للتحقق ("افحص المكابح كل 5,000 ميل").

إذا اتبعت شركة ذكاء اصطناعي هذه الوصفات المحددة (المعايير)، فإن الاتحاد الأوروبي يمنحها "افتراض المطابقة". فكر في هذا الأمر كأنه ختم ذهبي للموافقة. بدلاً من أن تضطر الشركة لإثبات الأمر للقاضي بقولها: "ثق بي، سيارتي آمنة"، يمكنهم ببساطة القول: "لقد اتبعت الوصفة الرسمية، والوصفة تقول إن سيارتي آمنة". هنا ينتقل عبء الإثبات من الشركة إلى المعيار نفسه.

المشكلة: الذكاء الاصطناعي "مكون متقلب"

توضح الورقة سبب صعوبة كتابة هذه الوصفات للذكاء الاصطناعي، وهي أصعب بكثير من كتابتها لـ محمصة خبز أو سيارة.

1. الذكاء الاصطناعي احتمالي (يشبه رمي العملة المعدنية):

• التشبيه: تخيل أنك تخبز كعكة. إذا اتبعت نفس الوصفة تماماً بنفس المكونات، ستحصل على نفس الكعكة. لكن الذكاء الاصطناعي يشبه خدعة سحرية. حتى لو استخدمت نفس المكونات والتعليمات تماماً، فقد تبدو "الكعكة" (النتيجة) مختلفة قليلاً في كل مرة تخبزها.
• التحدي: كيف تكتب قاعدة تقول "يجب أن تكون الكعكة مثالية" بينما تتغير الكعكة طبيعياً قليلاً في كل مرة؟ تقترح الورقة أن نتوقف عن البحث عن "نسخ مثالية" ونبدأ في قياس "الاستقرار". نحن بحاجة للاتفاق على مقدار التغيير الذي يُسمح به للكعكة قبل اعتبارها غير آمنة.

2. البيانات هي "صندوق غامض":

• التشبيه: الذكاء الاصطناعي يشبه طالباً يدرس للاختبار. إذا درس الطالب من كتاب مدرسي كتبه شخص آخر (بيانات من طرف ثالث) يحتوي على صفحات مفقودة أو حقائق سيئة، فسوف يرسب.
• التحدي: غالباً لا تملك شركات الذكاء الاصطناعي كل البيانات التي يتعلم منها نظامها. تقول الورقة إننا لا نستطيع مطالبتهم بالسيطرة على كل حبة رمل في محيط البيانات. بدلاً من ذلك، نحتاج إلى نهج قائم على المخاطر: إذا كان الذكاء الاصطناعي يقوم بشيء خطير (مثل تشخيص مرض)، فنحن بحاجة لمعرفة مصدر البيانات بدقة. أما إذا كان يقوم بشيء منخفض المخاطر (مثل اقتراح فيلم)، فيمكننا أن نكون أكثر تساهلاً.

3. مشكلة "الهدف المتحرك":

• التشبيه: تُصنع السيارة مرة واحدة وتُباع. أما الذكاء الاصطناعي فهو مثل شخصية في لعبة فيديو تحصل على تحديثات أسبوعية بمهارات جديدة ونقاط ضعف جديدة.
• التحدي: لا يمكنك مجرد اختبار الذكاء الاصطناعي مرة واحدة عند إطلاقه. بل يحتاج إلى اختبار مستمر أثناء تعلمه وتغيره. تقترح الورقة أننا بحاجة إلى نظام من التسجيل المستمر (مثل الصندوق الأسود للطائرة) لرؤية ما يفعله الذكاء الاصطناعي في الوقت الفعلي، وليس مجرد تقرير من يوم ولادته.

الحل: نهج "الكعكة متعددة الطبقات"

تجادل الورقة بأننا لا نستطيع كتابة كتاب قواعد واحد يناسب كل أنواع الذكاء الاصطناعي. فبوت الدردشة الخاص بمقهى لديه احتياجات مختلفة عن ذكاء اصطناعي يتحكم في محطة نووية.

• الطبقة السفلى (المعايير الأفقية): هذا هو الهيكل العظمي. وهو ينطبق على جميع أنواع الذكاء الاصطناعي. ينص على أشياء مثل: "يجب أن يكون لديك خطة لإدارة المخاطر"، "يجب أن تحتفظ بسجلات"، و"يجب توثيق بياناتك". إنها اللغة المشتركة التي يتحدث بها الجميع.
• الطبقة العليا (الملفات القطاعية): هذا هو اللحم. وهو يضيف قواعد محددة لوظائف معينة.
  • مثال: "الهيكل العظمي" يقول "اختبر الأخطاء". أما "الملف الطبي" فيقول "بالنسبة لذكاء اصطناٍ يعمل في جراحة القلب، يجب أن تكون الأخطاء أقل من 0.1%". و"ملف الترفيه" يقول "بالنسبة لمقترح الأفلام، فإن الأخطاء بنسبة تصل إلى 5% مقبولة".

لماذا هذا مهم: إذا حاولنا كتابة قاعدة واحدة للجميع، فستكون إما غامضة جداً لدرجة عدم الفائدة، أو صارمة جداً للتطبيقات البسيطة. من خلال تكدیس الطبقات، نحصل على أساس مشترك مع قواعد محددة لمخاطر معينة.

كيف يعمل الأمر فعلياً: "قضية التأكيد"

تقترح الورقة طريقة جديدة للشركات لإثبات سلامتها. بدلاً من مجرد قول "نحن آمنون"، يجب عليهم بناء "قضية تأكيد" (Assurance Case).

• التشبيه: فكر في هذا الأمر كأنه ملف تحقيق لمحقق.
  • الادعاء: "هذا الذكاء الاصطناعي آمن".
  • الدليل: كومة من الوثائق. "إليك الاختبار الذي حاولنا فيه خداع الذكاء الاصطناعي، وإليك السجل الذي يظهر أنه لم يتعطل. إليك البيانات التي استخدمناها، وإليك الخطة لما سنفعله إذا بدأ يتصرف بغرابة".
  • المفتش: يقوم مدقق من طرف ثالث بفحص ملف القضية. هو لا يحتاج للتخمين؛ بل يتحقق فقط مما إذا كان الدليل يطابق "الوصفة" (المعيار).

الخلاصة

تخلص الورقة إلى أنه على الرغم من أن الذكاء الاصطناعي فوضوي وغير متوقع ويصعب ضبطه، إلا أنه يجب أن تكون لدينا هذه المعايير التقنية. فبدونها، يصبح القانون مجرد شعار.

• بدون معايير: ستخترع كل شركة طريقتها الخاصة لإثبات السلامة. سيكون الأمر فوضوياً، مكلفاً، ومستحيلاً للمقارنة.
• مع المعايير: سيستخدم الجميع نفس شريط القياس. ستبني الشركات "أنظمة جودة" لاتباع القواعد. وسيفحص المدققون "ملفات القضايا". وستتمكن السلطات من إنفاذ القانون بناءً على سجلات واضحة.

لن يضمن ذلك أن يكون الذكاء الاصطناعي مثالياً (لأن الذكاء الاصطناعي معقد)، ولكنه يخلق نظاماً يكون فيه سلوك الذكاء الاصطناعي قابلاً للحوكمة والمساءلة. وهذا هو التعريف الحقيقي لـ "الموثوقية" في هذا السياق.