Transparency as Architecture: Structural Compliance Gaps in EU AI Act Article 50 II
تجادل هذه الورقة بأن متطلب المادة 50 (2) من قانون الذكاء الاصطناعي التابع للاتحاد الأوروبي، والذي يقضي بضرورة توفير شفافية مزدوجة (بشرية وآلية القراءة) للمحتوى المُنشأ بواسطة الذكاء الاصطناعي، غير قابل للتنفيذ هيكلياً بالنسبة للأنظمة التوليدية الحالية نظراً لقيود تقنية وتنظيمية جوهرية، مما يستوجب التحول نحو معاملة الشفافية كمتطلب تصميمي معماري أساسي بدلاً من كونها مجرد مهمة وسم لاحقة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن الاتحاد الأوروبي قد أصدر للتو قانونًا جديدًا يسمى قانون الذكاء الاصطناعي (AI Act). تنص قاعدة محددة في هذا القانون (المادة 50) على ما يلي: "إذا كتب الكمبيوتر قصة، أو رسم صورة، أو اخترع بيانات، فيجب عليه ارتداء 'بطاقة اسم' رقمية".
لهذه البطاقة مهمتان:
- بالنسبة للبشر: يجب أن تكون سهلة القراءة (مثل ملصق مكتوب عليه "صُنع بواسطة الذكاء الاصطناعي").
- بالنسبة للآلات: يجب أن تكون رمزًا سريًا يمكن للحواسيب الأخرى مسحه للتحقق من أن: "نعم، هذا تم إنتاجه بالتأكيد بواسطة روبوت".
ينص القانون على أن هذه القاعدة ستبدأ في أغسطس 2026.
يقول مؤلفو هذه الورقة، وهم فريق من الباحثين: "مهلًا، توقفوا لحظة. سيكون هذا كارثيًا إذا حاولنا مجرد لصق ملصق على أنظمة الذكاء الاصطناعي الحالية". ويجادلون بأن الطريقة التي يعمل بها الذكاء الاصطناعي اليوم لا تتوافق جوهريًا مع هذا القانون.
إليكم تفصيل حجتهم باستخدام تشبيهات بسيطة:
1. السيناريوهان الإشكاليان
اختبر الباحثون هذا القانون مقابل حالتين من واقع الحياة يُستخدم فيهما الذكاء الاصطناعي بكثية.
السيناريو (أ): مصنع "البيانات المزيفة" (البيانات الاصطناعية)
الموقف: تحتاج نماذج الذكاء الاصطناعي إلى كميات هائلة من البيانات للتعلم. وأحيانًا، لا تتوفر بيانات حقيقية، لذا تستخدم الشركات الذكاء الاصطناعي لإنشاء بيانات "مزيفة" (اصطناعية) لتدريب أجهزة ذكاء اصطناعي أخرى.
المشكلة: ينص القانون على وجوب وجود "علامة" (علامة مائية) دائمة على هذه البيانات المزيفة.
- التشبيه: تخيل أنك تخبز كعكة (تدريب ذكاء اصطناعي) باستخدام الدقيق (البيانات). ينص القانون على أنه يجب عليك وضع شريحة بلاستيكية صغيرة صالحة للأكل ودائمة في كل حبة دقيق ليعرف الناس أنها "دقيق اصطناعي".
- الخلل: إذا وضعت تلك الشريحة البلاستيكية في الدقيق، فستصبح طعم الكعكة غريبًا. سيتعلم الذكاء الاصطناعي التعرف على الشريحة البلاستيكية بدلاً من الدقيق الفعلي. الأمر يشبه طالبًا يدرس للاختبار ولكنه يحفظ نوع الخط المستخدم في الكتاب المدرسي بدلاً من الإجابات.
- المفارقة: إذا جعلت العلامة قوية بما يكفي لكي تراها الآلات، فإنها ستفسد البيانات المخصصة للتدريب. وإذا جعلت العلامة ضعيفة بما يكفي لكي لا تفسد البيانات، فلن تتمكن الآلات من رؤيتها. لا يمكنك الحصول على كليهما.
السيناريو (ب): "محقق الحقيقة" (تدقيق الحقائق)
الموقف: تستخدم غرف الأخبار الذكاء الاصطناعي لمساعدة الصحفيين في التحقق مما إذا كان الادعاء صحيحًا أم لا. يقوم الذكاء الاصطناعي بجمع الأدلة، ويكتب حكمًا، ويشرح الأسباب.
المشكلة: ينص القانون على وجوب وضع علامة على مخرجات الذكاء الاصطناعي.
- التشبيه: تخيل أن روبوتًا يكتب مسودة مقال إخبائي. ثم يقوم صحفي بشري بتعديل المسودة، وإعادة كتابة الجمل، وتغيير النبرة، وتصحيح الحقائق. أخيرًا، يتم نشر المقال.
- الخلل: يريد القانون أن تصمد "علامة الذكاء الاصطناعي" خلال هذه العملية. لكن التحرير البشري يشبه الخلاط. إذا وضعت ملصق "صُنع بواسطة روبوت" على ورقة ثم مررتها عبر الخلاط (التعديل، إعادة الصياغة، التلخيص)، فإن الملصق سيتمزق.
- الواقع: بحلول الوقت الذي يُنشر فيه المقال، يكون الإنسان والروبوت قد عملا معًا كثيرًا لدرجة أنه لا يمكنك معرفة أين توقف الروبوت وأين بدأ الإنسان. لقد دُمّرت "العلامة" بفعل العملية ذاتها التي تجعل الخبر جيدًا.
2. الثغرات الثلاث الكبرى في النظام
وجد الباحثون ثلاث "فجوات هيكلية" تجعل من المستحيل اتباع هذا القانون باستخدام التكنولوجيا الحالية:
"حاجز اللغة" (لا يوجد تنسيق مشترك):
لا يوجد "ملصق" عالمي يتفق عليه جميع الحواسيب. قد تستخدم شركة ما نقطة حمراء، وأخرى مربعًا أزرق. إذا فحص جهاز كمبيوتر مستندًا من الشركة (أ)، فلن يفهم العلامة الخاصة بالشركة (ب). إنه مثل الجميع يتحدثون لهجات مختلفة؛ لا تستطيع الآلات التحدث مع بعضها البعض للتحقق من العلامات."لعبة التخمين" (الموثوقية مقابل الاحتمالية):
الذكاء الاصطناعي لا يعمل مثل الآلة الحاسبة (1+1=2). بل يعمل مثل خبير الأرصاد الجوية (احتمال 80% لسقوط الأمطار). إنه يخمن الكلمة التالية بناءً على الاحتمالات. بينما يطالب القانون بعلامات "موثوقة" موجودة دائمًا. ولكن بما أن الذكاء الاصطناعي يعتمد على التخمين، فكيف يمكن أن تكون العلامة موثوقة بنسبة 100%؟ القانون يفترض أن الذكاء الاصطناعي آلة ختم، بينما هو في الواقع فنان مبدع يغير رأيه.خطأ "النموذج الواحد للجميع":
يقول القانون "اجعله مفهومًا". ولكن ما هو مفهوم لمهندس كمبيوتر قد يكون غير مفهوم لعامة الناس، والعكس صحيح. القانون لا يوضح كيفية تخصيص التحذير. هل يجب عرض كود معقد لصحفي؟ أم رسوم كرتونية بسيطة لجد أو جدة؟ القانون صامت، مما يترك الشركات في حالة تخمين.
3. الاستنتاج الكبير
يخلص المؤلفون إلى أنه لا يمكنك إصلاح هذا الأمر بمجرد "ترقيع" البرمجيات في النهاية (وضع الملصقات اللاحقة).
المجاز:
محاولة إصلاح هذا بإضافة العلامات لاحقًا تشبه محاولة وضع حزام أمان لسيارة بُنيت بدون هيكل. لا يهم مدى جودة حزام الأمان؛ فالسيارة ليست مبنية لتحمله.
الحل:
نحن بحاجة إلى التعامل مع الشفافية كـ بنية تحتية، وليس كملحق إضافي.
- نحن بحاجة إلى إعادة تصميم كيفية بناء الذكاء الاصطناعي من الصفر.
- نحتاج إلى أن يعمل المحامون والمهندسون والمصممون معًا الآن لمعرفة كيفية جعل هذه العلامات تصمد أمام التحرير والتدريب.
- نحن بحاجة إلى معايير جديدة (مثل لغة عالمية لعلامات الذكاء الاصطناعي) قبل أن يسري مفعول القانون.
باختصار: لقد وضع الاتحاد الأوروبي موعدًا نهائيًا لقاعدة لا تستطيع التكنولوجيا الحالية اتباعها دون كسر الأشياء التي يُفترض أن يقوم بها الذكاء الاصطناعي. وما لم نعد التفكير تمامًا في كيفية بناء وتوسيم الذكاء الاصطناعي، فإن القانون سيفشل أو سيسبب ارتباكًا هائلًا.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.