Empirically Derived AI Harm Profiles and the Case for Context-Sensitive Moral Responsibility

لم يعد الذكاء الاصطناعي مجرد وعد بعيد المنال؛ بل أصبح واقعاً يومياً يتخذ قرارات تؤثر على سلامتنا، ووظائفنا، وخصوصيتنا، ووصولنا إلى الخدمات. وعندما تعمل هذه الأنظمة بشكل جيد، فإنها تسهل حياتنا، ولكن عندما تفشل، يمكن أن تكون العواقب وخيمة، وتتراوح من الإصابة الجسدية إلى الحرمان من الحقوق المدنية. لسنوات طويلة، حاول الخبراء حوكمة هذه التقنيات باستخدام مبادئ أخلاقية واسعة مثل العدالة والشفافية والسلامة، ومع ذلك، غالباً ما تجد هذه الأفكار رفيعة المستوى صعوبة في الترجمة إلى قواعد عملية للأسالء المتنوعة والمتشابكة التي يُستخدم بها الذكاء الاصطناعي فعلياً في العالم الحقيقي. وقد تمثل التحدي الرئيسي في فهم كيفية فشل أنواع مختلفة من الذكاء الاصطناعي في مواقف محددة. فهل حادث اصطدام سيارة ذاتية القيادة هو نفس نوع المشكلة التي يسببها روبوت دردشة ينشر معلومات مضللة، أو نظام التعرف على الوجوه الذي يخطئ في تحديد هوية مشتبه به؟ وللإجابة على ذلك، بدأ الباحثون في النظر إلى الإخفاقات الموثقة ليس كحوادث معزولة، بل كنقاط بيانات قد تكشف عن أنماط أعمق.

لقد سعى فريق من الباحثين في جامعة "كومبرلاندز" (University of the Cumberlands) إلى إيجاد تلك الأنماط من خلال فحص مجموعة واسعة من حوادث الذكاء الاصطناعي في العالم الحقيقي. حيث جمعوا 849 حالة موثقة لإخفاقات الذكاء الاصطناعي من قاعدة بيانات عامة تُعرف باسم مستودع "AIAAIC"، والتي تتبع الحوادث المتعلقة بالذكاء الاصطناعي والخوارزميات والأتمتة. وبدلاً من معاملة كل حدث كقصة فريدة، قام الباحثون بتحليل كيفية تجمع هذه الإخفاقات معاً بناءً على نوع التكنولوجيا، ومكان استخدامها، وما كان من المفترض أن تفعله، ونوع الضرر الذي تسببت فيه. وكان هدفهم هو معرفة ما إذا كان يمكن تنظيم فوضى الحوادث الفردية في فئات قليلة متميزة، أو "ملفات تعريف الضرر"، مما يساعد المنظمين والشركات على بناء قواعد أكثر تحديداً وإحكاماً للإشراف.

كشف التحليل أن إخفاقات الذكاء الاصطناعي ليست عشوائية، بل تميل إلى التجمع حول موضوعين هيكليين رئيسيين. يميز الموضوع الأول بين الأنظمة التي تتفاعل مباشرة مع العالم المادي وتلك التي تعالج المعلومات بشكل أساسي. أما الموضوع الثاني، فيفصل بين الأنظمة المصممة لتحديد ومراقبة الأشخاص وتلك المصممة لإنشاء المحتوى. ومن خلال رسم خرائط لهذه العلاقات، حدد الباحثون ثلاثة ملفات تعريف واضحة ومتكررة للضرر تظهر عندما تسوء الأمور.

الملف الأول هو ما يسميه الباحثون "الذكاء الاصطناعي المستقل أو المتجسد" (Autonomous or Embodied AI). وهي أنظمة لها وجود مادي ويمكن أن تسبب ضرراً جسدياً مباشراً، مثل المركبات ذاتية القيادة أو الروبوتات. وفي البيانات، كانت هذه الإخفاقات تحدث دائماً تقريباً في قطاع النقل. وعندما تفشل هذه الأنظمة، تكون النتيجة عادةً فشلاً في السلامة: تصطدم سيارة، أو يتعطل روبوت، أو يفقد المشغل البشري السيطرة. المخاطر هنا ملموسة وجسدية، وتؤثر على سلامة الركاب والمشاة وفرق الاستجج الطارئة. ولأن العواقب مادية وخطيرة، يقترح الباحثون أن حوكمة هذه المجموعة يجب أن تركز بشدة على السلامة التشغيلية، والاختبار الصارم للأجهزة والمستشعرات، ووضع قواعد واضحة لمن يتحمل المسؤولية عند وقوع حادث مادي.

الملف الثاني هو "التعرف على الرؤية" (Vision Recognition). وتشمل هذه الفئة الأنظمة التي تستخدم الكاميرات والبرمجيات لتحديد هوية الأشخاص، مثل تقنية التعرف على الوجوه المستخدمة من قبل أجهزة إنفاذ القانون أو الوكالات الأمنية. وقد أظهرت البيانات أن الإخفاقات في هذا المجال تتركز في قطاعات العدالة وإنفاذ القانون. وبخلاف الاصطدامات المادية للمجموعة الأولى، ترتبط الأضرار هنا ارتباطاً وثيقاً بالحقوق المدنية والتمييز. وتتعلق القضايا الأكثر شيوعاً بخطأ النظام في تحديد هوية الأشخاص، لا سيية من مجموعات ديموغرافية معينة، أو استخدام المراقبة بطرق تتجاوز الحدود القانونية. ووجد الباحثون أن هذه الإخفاقات تخلق نوعاً مختلفاً من المخاطر: تهديد للخصوصية والعدالة والحق في التحرر من الاتهام الخاطئ. لذا، يجب أن تركز حوكمة هذا الملف على منع الانحياز، وضمان الشفافية في كيفية استخدام هذه الأنظمة، وتوفير مسارات واضحة للأشخاص للطعن في عمليات تحديد الهوية الخاطئة.

الملف الثالث هو "الذكاء الاصطناعي التوليدي" (Generative AI). وهذه هي التكنولوجيا الكامنة وراء الأدوات التي تنشئ النصوص والصور والوسائط الأخرى. وأظهرت البيانات أن الإخفاقات هنا أكثر شيوعاً في قطاعات الإعلام والمعلومات. والأضرار المرتبطة بهذه المجموعة متميزة عن المجموعات الأخرى؛ فهي نادراً ما تنطوي على إصابة جسدية أو مراقبة مباشرة. بدلاً من ذلك، تتمحور المشكلات حول جودة وصحة المعلومات. وتشمل الإخفاقات إنشاء محتوى مقنع ولكنه زائف، وانتحال شخصيات حقيقية، ونشر معلومات مضللة يمكن أن تضر بالسمعة أو تتلاعب بالرأي العام. ولأن الخطر يمس نزاهة المعلومات وليس السلامة الجسدية أو المراقبة الفورية، يرى الباحثون أن الإشراف على هذه المجموعة يجب أن يركز على التحقق من مصدر المحتوى، ومراقبة المخرات الخداعية، وضمان محاسبة المبدعين والمنصات عما تنتجه أنظمتهم.

ومن المثير للاهتمام أن الباحثين وجدوا أن نوعاً شائعاً من قدرات الذكاء الاصطناعي، وهو "المراقبة التنبؤية" (Predictive Monitoring)، لم يشكل مجموعة منفصلة بذاتها. تشير المراقبة التنبؤية إلى الأنظمة التي تحلل البيانات للتنبؤ بالأحداث المستقبلية، مثل التنبؤ بجرائم، أو حالات التعثر في القروض، أو النتائج الصحية. وأظهرت الدراسة أن هذه الأنظمة لم تتجمع معاً لأن مخاطرها تعتمد كلياً على مكان استخدامها. فالنظام التنبئي المستخدم في الرعاية الصحية يواجه تحديات أخلاقية تختلف عن ذلك المستخدم في التوظيف أو التمويل. ويشير هذا الاكتشاف إلى أن المراقبة التنبؤية ليست فئة واحدة من المخاطر، بل هي أداة تأخذ طابع البيئة التي تدخلها. فإذا استُخدم نظام تنبئي في سياق إنفاذ القانون، فإنه يرث مخاطر ملف "التعرف على الرؤية"؛ وإذا استُخدم في التمويل، فإنه يرث المخاطر الاقتصادية للملفات الأخرى. وهذا يعني أن القواعد لهذه الأنظمة لا يمكن أن تكون "مقاساً واحداً يناسب الجميع"؛ بل يجب أن تكون مصممة خصيصاً للسياق الذي يتم فيه إجراء التنبؤ.

يقترح الباحثون طريقة جديدة لحوكمة الذكاء الاصطناعي بناءً على هذه النتائج. فبدلاً من تطبيق نفس القواعد الواسعة على جميع تقنيات الذكاء الاصطناعي، يقترحون أنه يجب على المنظمين والشركات أولاً تحديد ملف الضرر الذي ينتمي إليه النظام. وبمجرد تصنيف النظام، يمكن تطبيق قواعد محددة للمراقبة والتدقيق وتحديد المسؤولية. فعلى سبيل المثال، ستخضع السيارة ذاتية القيادة لعمليات تدقيق صارمة للسلامة ومتطلبات إبلاغ فورية عن الحوادث الوشيكة المادية. وسيتعين على نظام التعرف على الوجوه الخضوع لفحوصات منتظمة للتحيز العرقي وتوفيد سبل واضحة للمواطنين للاعتراض على تحديد الهوية الخاطئ. بينما سيتعين على منصة الذكاء الاصطناعي التوليدي إثبات أصالة محتواها وامتلاك آليات للإزالة السريعة للمعلومات المضللة الضارة.

ينقل هذا النهج حوكمة الذكاء الاصطناعي من المبادئ المجردة إلى الإجراءات الملموسة. فهو يقر بأن الفشل في روبوت يختلف جوهرياً عن الفشل في روبوت دردشة، وأن الأشخاص المسؤولين عن إصلاحهما يجب أن يكونوا مختلفين أيضاً. ومن خلال النظر في التاريخ الفعلي لكيفية فشل الذكاء الاصطناعي، قدم الباحثون خريطة لبناء نظام إشراف أكثر فعالية وحساسية للسياق. ويجادلون بأن هذه الطريقة تسمح للمجتمع بمعالجة الأخطار المحددة لكل نوع من أنواع التكنولوجيا دون الضياع في العموميات، مما يضمن أن تكون القواعد التي نضعها عملية ودقيقة بقدر دقة التكنولوجيا نفسها. وتخلص الدراسة إلى أنه من خلال معاملة الحوادث الموثقة كمورد وليس مجرد سجل لأخطاء الماضي، يمكننا بناء مستقبل يُحكم فيه الذكاء الاصطناعي من خلال فهم تأثيره في العالم الحقيقي، مما يجعل التكنولوجيا أكثر أماناً ومسؤولية للجميع.