The Case for ESM3 as a General-Purpose AI Model with Systemic Risk Under the EU AI Act

ملخص تقني: الحجة لصالح اعتبار نموذج ESM3 نموذج ذكاء اصطناي عام مع وجود مخاطر نظامية بموجب قانون الذكاء الاصطناعي للاتحاد الأوروبي

بيان المشكلة
تحدد الورقة ثغرة تنظيمية حرجة في قانون الذكاء الاصطناعي التابع للاتحاد الأوروبي فيما يتعلق بالنماذج البيولوجية التأسيسية الرائدة، وتحديداً نموذج Evolutionary Scale Modeling الإصدار الثالث (ESM3). وبينما يهدف القانون إلى التخفيف من المخاطر النظامية المرتبطة بالذكاء الاصطناعي العام (GPAI)، بما في ذلك مخاطر الاستخدام المزدوج مثل تطوير الأسلحة البيولوجية، فإن تعريفاته الحالية والمبادئ التوجيهية الداعمة له تبدو مستبعدة للنماذج البيولوجية غير اللغوية. ويجادل المؤلفون بأن ESM3، رغم قدرته على خفض حواجز الدخول لتطوير الأسلحة البيولوجية، قد لا يستوفي المعايير الضيقة لتصنيف "الذكاء الاصطناعي العام" بسبب الاعتماد المفرط على اللغة البشرية كعلامة على "العمومية". وهذا يخلق وضعاً يكون فيه النموذج القادر على إحداث رفع كبير في المخاطر البيولوجية مستثنى من التزامات تقييم المخاطر والحد منها الإلزامية (المادة 55) المطلوبة للنماذج ذات المخاطر النظامية.

المنهجية
يستخدم المؤلفون نهج دراسة الحالة النوعية متمحوراً حول ESM3، وهو عائلة من النماذج البيولوجية التأسيسية المتوفرة في نسخ مفتوحة المصدر (1.4 مليار معلمة) ونسخ مقيدة (7 مليارات و98 مليار معلمة). تتكون المنهجية من ثلاثة مكونات رئيسية:

1. رسم خرائط سلسلة المخاطر البيولوجية: يقوم المؤلفون برسم خرائط لقدرات ESM3 المحددة (توليد التسلسل، التنبؤ بالبنية، الطي العكسي، والتعليق الوظيفي) مقابل "سلسلة المخاطر البيولوجية" المكونة من سبع خطوات (النية، التصور، التصميم، التعلم، البناء، التسلح، والإطلاق). ويستخدمون إطار "مقياس الاحتمالية" لتقييم احتمالية تسهيل ESM3 لخطوات محددة في هذه السلسلة من قبل الجهات الفاعلة الخبيثة بشكل ذاتي.
2. التحليل النصي التنظيمي: تجري الورقة تحليلاً قانونياً مفصلاً لقانون الذكاء الاصطناعي للاتحاد الأوروبي، مع التركيز بشكل خاص على تعريفات "الذكاء الاصطناعي العام" (المادة 3(63)) و"المخاطر النظامية" (المادة 3(65)). وتقوم بمطابقة هذه النصوص التشريعية مع "المبادئ التوجيهية للذكاء الاصطناعي العام" غير الملزمة الصادرة عن المفوضية الأوروبية.
3. تحديد الفجوات: يقارن المؤلفون بين السمات التقنية لـ ESM3 (استخدام الحوسبة، تعدد الوسائط، وتنوع المهام) مقابل معايير التصنيف الموجودة في القانون وفي المبادئ التوجيهية لتحديد ما إذا كان النموذج يقع حالياً تحت الرقابة التنظيمية.

المساهمات الرئيسية
تقدم الورقة ثلاث مساهمات محددة في مجال سلامة وحوكمة الذكاء الاصطناعي:

1. الرسم الخرائطي النوعي: توفر رسم خرائط تفصيلي لقدرات ESM3 تجاه سلسلة المخاطر البيولوجية، مما يوضح أن النموذج يمكن أن يسهل أربع خطوات من أصل سبع خطوات حرجة في الهجوم البيولوجي (التصميم، التعلم، البناء، والتسلح)، لا سيما من خلال تمكين الاختبار والإنتاج الفعال للمكونات البيولوجية.
2. تحديد الثغرات التنظيمية: يوضح المؤلفون أن الفجوة التنظيمية مدعومة بمصدرين: الغموض في النص التشريعي لقانون الذكاء الاصطناعي فيما يتعلق بـ "العمومية الكبيرة"، والتفسير الضيق في المبادئ التوجيهية للذكاء الاصطناعي العام الذي يحصر تعريف العمومية في النماذج القادرة على توليد اللغة البشرية (النص، الصوت، الصورة، الفيديو).
3. العلاجات السياساتية: تقترح الورقة أربعة علاجات محتملة لتصحيح الوضع التنظيمي لـ ESM3 والنماذج البيولوجية المماثلة:
   • التعيين المباشر لـ ESM3 كنموذج ذكاء اصطناعي عام ذي مخاطر نظامية باستخدام المادة 3(63) والمادة 51(1)(ب) بناءً على القدرات عالية التأثير.
   • مراجعة المبادلة التوجيهية للذكاء الاصطناعي العام لتوسيع معايير تعدد الوسائط لتشمل العمومية الخاصة بالمجالات (مثل بيولوجيا البروتين) بدلاً من الاقتصار على اللغة البشرية.
   • تعديل تشريعي لفصل تعيين المخاطر النظامية عن حالة الذكاء الاصطناعي العام.
   • استخدام أدوات تكميلية، مثل نظام مراقبة الصادرات للاستخدام المزدوج التابع للاتحاد الأوروبي وسياسات الأمن البيولوجي الناشئة.

النتائج
يخلص التحليل إلى أنه بموجب التفسير الحالي لقانون الذكاء الاصطناعي للاتحاد الأوروبي والمبادئ التوجيهية للذكاء الاصطناعي العام، لا يبدو أن ESM3 يخضع لتنظيم فعال.

• تصنيف الذكاء الاصطناعي العام: على الرغم من أن ESM3 يتجاوز عتبة الحوسبة (1.07 × 10^24 FLOPs) ويظهر "عمومية كبيرة" ضمن مجال بيولوجيا البروتين، إلا أنه يفشل في تلبية المتطلب المحدد للمبادئ التوجيهية للذكاء الاصطناعي العام المتمثل في "توليد اللغة" (النص أو الصوت البشري). وتستبعد المبادئ التوجيهية صراحةً النماذج المدربة لأغراض محددة مثل الطقس أو الأنظمة الفيزيائية، كما أن افتقار ESM3 للمدخلات اللغوية البشرية يضعه خارج النطاق الحالي.
• المخاطر النظامية: بينما تقر ديباجات القانون بمخاطر المواد الكيميائية والبيولوجية والإشعاعية والنووية (CBRN) وخفض حواجز تطوير الأسلحة، فإن آلية تصنيف نموذج ما على أنه ذو مخاطر نظامية مشروطة بكونه أولاً مصنفاً كنموذج ذكاء اصطناعي عام. ولأن ESM3 قد يفشل على الأرجح في اختبار الذكاء الاصطناتي العام بسبب شرط اللغة، فإنه لا يمكنه تفعيل أحكام المخاطر النظامية (المادة 55) التي من شأنها فرض الحد من مخاطر الاستخدام المزدوج.
• تأثير المخاطر البيولوجية: يؤكد الرسم الخرائطي أن الوصول إلى ESM3، وخاصة النسخة مفتوحة المصدر، يمكن أن يجعل مراحل التصميم والتسلح في الهجمات البيولوجية أكثر سهولة للجهات الفاعلة ذات الموارد المحدودة، مما يؤدي فعلياً إلى تقصير سلسلة المخاطر البيولوجية.

الأهمية
تجادل الورقة بأن الإطار التنظيمي الحالي يخلق ثغرة خطيرة حيث تظل الأدوات البيولوجية الرائدة، التي تشكل مخاطر نظامية حقيقية على الصحة العامة والأمن، مستثناة من التزامات السلامة. ويؤكد المؤلفون أن النهج التنظيمي للاتحاد الأوروبي من المرجح أن يؤثر على الولايات القضائية الأخرى عبر "أثر بروكسل". لذلك، فإن تصحيح هذا الغموض أمر بالغ الأهمية ليس فقط للامتثال في الاتحاد الأوروبي ولكن أيضاً لمعايير الحوكمة العالمية. وتفترض الورقة أن الاعتماد على اللغة الطبيعية كعلامة أساسية للعمومية يعيق فعالية أحكام المخاطر النظامية لقانون الذكاء الاصطناعي، مما يحصرها فعلياً في نماذج اللغات الكبيرة (LLMs) بينما يترك النماذج التأسيسية البيولوجية القوية دون تنظيم. ويخلص المؤلفون إلى أن اتخاذ إجراء فوري، مثل استخدام المادة 51(1)(ب) للتعيين المباشر أو مراجعة المبادئ التوجيهية، ضروري لضمان خضوع النماذج البيولوجية عالية القدرة لتقييمات مخاطر الاستخدام المزدوج المناسبة.