Automation Bias in the AI Act: On the Legal Implications of Attempting to De-Bias Human Oversight of AI
تنقد هذه الورقة نهج قانون الذكاء الاصطناعي التابع للاتحاد الأوروبي تجاه الانحياز للأتمتة، محاجةً بأن تركيزه الحالي على فرض الوعي بقيادة المزودين بدلاً من تنظيم التصميم والسياق بشكل مباشر هو أمر غير كافٍ، وتقترح معايير موحدة قائمة على الأبحاث التجريبية لضمان المسؤولية المشترة بين المزودين والمستخدمين.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
إليك شرح لورقة بحثية بعنوان "التحيز للأتمتة في قانون الذكاء الاصطناعي" (Automation Bias in the AI Act) من تأليف يوهان لاوكس وهانا روشماير، باستخدام لغة بسيطة وتشبيهات من الحياة اليومية.
الصورة الكبيرة: مشكلة "الإنسان في الحلقة"
تخيل أنك تقود سيارة مزودة بنظام قيادة ذاتية متطور للغاية. ينص القانون على أنه يجب عليك إبقاء يديك على عجلة القيادة وأن تكون مستعداً لتولي السيطرة إذا ارتكبت السيارة خطأً. هذا ما يسميه قانون الاتحاد الأوروبي للذكاء الاصطناعي (AI Act) بـ "الإشراف البشري".
ومع ذلك، يشير مؤلفا هذه الورقة إلى خلل خطير في علم النفس البشري يسمى "التحيز للأتمتة" (Automation Bias). هذا يشبه الراكب الذي يثق في نظام تحديد المواقع (GPS) لدرجة تجعله يتوقف عن النظر إلى الطريق، حتى عندما يقوده النظام نحو بحيرة. يميل البشر طبيعياً إلى الاعتماد المفرط على الآلات، بافتراض أن الآلة دائماً على صواب وأن حكمهم الشخصي خاطئ.
قانون الذكاء الاصطناعي هو أول قانون يذكر هذه المشكلة صراحة. فهو ينص على أن الشركات التي تبني هذه الأنظمة يجب أن تتأكد من أن البشر الذين يراقبونها مدركون لاحتمالية كونهم مفرطين في الثقة بالآلة.
المشكلة الرئيسية: من المسؤول عن هذا "الخلل"؟
تجادل الورقة بأن هناك عدم تطابق في القانون، يشبه إخبار شركة بناء للمهندس المعماري بضريه إصلاح مشكلة لا يمكن إلا للبناء حلها.
- المهندس المعماري (مزود الذكاء الاصطناعي): يخبر القانون الشركة التي تبني الذكاء الاصطناعي بضرورة التأكد من أن المشغل البشري يدرك خطر الإفراط في الثقة بالآلة. ومن المفترض أن يصمموا النظام بحيث يظل الإنسان يقظاً.
- البناء (مستخدم الذكاء الاصطناعي): هي الشركة أو الشخص الذي يستخدم الذكاء الاصطناعي فعلياً (مثل مستشفى يستخدم الذكاء الاصطناي لتشخيص المرضى، أو بنك يستخدمه للموافقة على القروض).
عدم التطابق: توضح الورقة أن "التحيز للأتمتة" لا ينتج فقط عن تصميم الآلة، بل ينتج أيضاً عن البيئة. هل المشغل البشري متعب؟ هل هم تحت ضغط كبير؟ هل المكتب صاخب؟ هل التدريب الذي تلقوه جيد؟
- المهندس المعماري (المزود) لا يمكنه التحكم في مدى تعب موظفي البناء (المستخدم).
- البناء (المستخدم) هو من يتحكم في بيئة العمل، والتدريب، وحجم العمل.
يجادل المؤلفون بأنه من غير العادل إلقاء اللوم على المهندس المعماري وحده لمشكلة تحدث في مكان عمل البناء. يجب أن يكون كلا الجانبين مسؤولين عن إبقاء المشغل البشري يقظاً.
فخ "الوعي": هل يمكنك إثبات أن شخصاً ما كان "واعياً"؟
يتطلب القانون أن يكون البشر "واعين" بتحيزهم. ويطرح المؤلفون سؤالاً قانونياً صعباً: كيف تثبت في المحكمة أن شخصاً ما لم يكن واعياً؟
- مشكلة "قراءة الأفكار": لا يمكنك النظر داخل عقل الشخص لترى ما إذا كان يفكر: "يجب أن أتحقق من هذا الذكاء الاصطناعي مرتين".
- مشكلة "الحقيقة المطلقة": لمعرفة ما إذا كان الإنسان قد ارتكب خطأً ناتجاً عن التحيز، تحتاج إلى معرفة الإجابة "الصحيحة". ولكن في حالات كثيرة (مثل قرارات التوظيف أو الأحكام القانونية)، لا توجد إجابة واحدة "صحيحة" يتفق عليها الجميع. إذا قال الذكاء الاصطناعي "وظف هذا الشخص"، وقال الإنسان "لا"، فمن المصيب؟ إذا قال الإنسان "نعم" لأنه وثق بالذكاء الاصطناعي بشكل أعمى، فكيف تثبت أنه كان متحيزاً ما لم تكن تعرف الحقيقة الفعلية، والتي قد لا تكون موجودة أصلاً؟
بسبب هذا، تشير الورقة إلى أن إثبات انتهاك هذا القانون سيكون صعباً للغاية. وسيعتمد الأمر على الخبراء (علماء النفس) للشهادة حول ما إذا كان النظام قد صُمم لتشجيع التحيز، بدلاً من مجرد النظر في قرار واحد سيء.
خطر "التصحيح المفرط"
يحذر المؤلفون أيضاً من وجود أثر جانبي. إذا قلنا للبشر: "لا تثقوا بالذكاء الاصطناعي!" فقد ينقلبون إلى الطرف الآخر تماماً.
- التشبيه: تخيل معلماً يقول لطالب: "لا تثق بالآلة الحاسبة". قد يبدأ الطالب في تجاهل الآلة الحاسبة حتى عندما تكون صحيحة، ويبدأ في إجراء العمليات الحسابية يدوياً ويرتكب أخطاءً.
- يُسمى هذا "النفور من الخوارزمية" (Algorithm Aversion). إذا قام البشر بالتصحيح المفرط وتجاهلوا الذكاء الاصطناعي كثيراً، فسوف يفقدون فوائد هذه التكنولوجيا. يركز القانون حالياً فقط على خطر الثقة بالذكاء الاصطناعي أكثر من اللازم، ولكنه قد يتسبب بالخطأ في خلق تحيز جديد حيث لا يثق البشر بالذكاء الاصطناعي أكثر من اللازم.
"الثغرة" في القواعد
تشير الورقة إلى ثغرة مخادعة. يحتوي قانون الذكاء الاصطناعي على قائمة بأنظمة "عالية المخاطر" يجب أن تتبع هذه القواعد الصارمة. ومع ذلك، هناك قاعدة تقول: "إذا كان الذكاء الاصطناعي يساعد الإنسان فقط ولا يستبدله، فقد لا يعتبر 'عالي المخاطر'."
يجادل المؤلفون بأن هذا أمر خطير. فحتى لو كان الذكاء الاصطناعي مجرد "مساعد"، لا يزال بإمكان البشر اتباعه بشكل أعمى (التحيز للأتمتة). ومن خلال ترك الشركات تقرر بنفسها ما إذا كان الذكاء الاصطناعي الخاص بها "عالي المخاطر" أم لا، قد يسمح القانون بمرور مواقف خطيرة حيث لا يزال البشر يعتمدون بشكل مفرط على الآلات، دون أن يتم مراقبة ذلك.
الحل: انظر إلى العلم، وليس فقط إلى القانون
يخلص المؤلفون إلى أن القانون حالياً غامض للغاية ويعتمد على مفهوم نفسي واحد (التحيز للأتمتة) دون شرح كيفية إصلاحه.
يقترحون حلاً: المعايير الموحدة (Harmonized Standards).
فكر في هذه المعايير كأنها "كتيبات التعليمات" التي يتطلبها القانون. يقترح المؤلفون أن هذه الكتيبات يجب أن:
- تستند إلى أحدث العلوم: بدلاً من مجرد قول "كن واعياً"، يجب أن تقول القواعد: "اتبع أحدث الأبحاث حول كيفية تفاعل البشر مع الذكاء الاصطناعي".
- تشمل جميع أنواع التحيز: لا تركز فقط على الثقة بالذكاء الاصطناعي أكثر من اللازم؛ بل ابحث في كل الطرق التي يرتكب بها البشر الأخطاء مع التكنولوجيا.
- تحمل الجميع المسؤولية: يجب أن يكون كل من يبني الذكاء الاصطناعي ومن يستخدمه مسؤولين عن ضمان بقاء المشغل البشري يقظاً.
الملخص
الورقة هي تحذير من أن قانون الذكاء الاصطناติด الجديد يحاول حل مشكلة نفسية بشرية (الثقة في الآلات أكثر من اللازم) لكنه لم يحدد بدقة من المسؤول عن حلها أو كيف يمكن إثبات حلها. يريد المؤلفون أن يكون القانون أكثر مرونة، قائماً على البحث العلمي الحقيقي، وأن يجعل كلاً من المبتكرين والمستخدمين يتقاسمون عبء إبقاء البشر مسيطرين.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.