What We Know about Responsible AI Practices in Industry: A Half Decade of Empirical Research

تخيل أنك تبني دماغ روبوت عملاق، غير مرئي، يمكنه كتابة القصص، أو تشخيص الأمراض، أو اقتراح أغنيتك المفضلة التالية. يسمى هذا المجال "الذكاء الاصطناي (AI)". ولكن تماماً مثل الدماغ الحقيقي، يمكن لهذا الدماغ الروبوتي أحياناً أن يرتبك، أو يتخذ قرارات غير عادلة، أو يؤذي الناس عن غير قصد. ولإيقاف ذلك، وضع العلماء والشركات مجموعة من القواعد تسمى "الذكاء الاصطناعي المسؤول" (RAI). فكر في "الذكاء الاصطناعي المسؤول" كبوصلة أخلاقية ودليل سلامة للروبوت. الأمر لا يتعلق فقط بجعل الروبوت ذكياً، بل يتعلق بالتأكد من أنه لطيف، وعادل، وآمن للجميع. لفترة طويلة، تساءل الناس: "هل يعرف الأشخاص الذين يبنون هذه الروبوتات حقاً كيفية استخدام هذه البوصلة الأخلاقية؟ هل يتبعون القواعد، أم أنهم يتجاهلونها فحسب؟" وهذا هو السؤال الكبير الذي قرر فريق من الباحثين التحقيق فيه.

ولإيجاد الإجابة، لم يكتفِ الباحثون بالتخمين أو النظر في أكواد الكمبيوتر. بدلاً من ذلك، عملوا كالمحققين الرقميين، حيث نبشوا في كومة هائلة مكونة من 161 دراسة علمية مختلفة نُشرت على مدار السنوات الست الماضية. كانت هذه الدراسات عبارة عن مقابلات، واستطلاعات رأي، وملاحظات لأشخاص حقيقيين يعملون في شركات التكنولوجيا، لمحاولة فهم كيف يتعاملون فعلياً مع هذه القواعد الأخلاقية في وظائفهم اليومية. أرادوا معرفة ما إذا كانت حركة "الذكاء الاصطناعي المسؤول" مجرد شعار رنان على الجدار، أم أنها تغيرت حقاً طريقة بناء الروبوتات.

تقرير المحقق: ما وجدوه

يكشف تقرير الباحثين، الذي يحمل عنوان "ما نعرفه عن ممارسات الذكاء الاصطناعي المسؤول في الصناعة"، قصة شركة تحاول النمو ببطء، وبشكل متعثر، ولكنها تحاول بالتأكيد.

الأخبار الجيدة: الأضواء بدأت تضاء
قبل بضع سنوات، لم يكن العديد من العمال الذين يبنون الذكاء الاصطناعي يعرفون حتى بوجود البوصلة الأخلاقية. كانوا مركزين جداً على جعل الروبوت سريعاً وذكياً لدرجة أنهم نسوا التحقق مما إذا كان فظاً. لكن الورقة البحثية تشير إلى أن الأمور تتغير. المزيد والمزيد من العمال يدركون الآن أن "الذكاء الاصطناعي المسؤول" هو أمر حقيقي وأنه مهم. الأمر يشبه فصلاً دراسياً، في البداية لم يكن أحد يعرف أن هناك قواعد للمشاركة، ولكن الآن الجميع يعرف بوجودها.

كما أصبحت الشركات أكثر تنظيماً. فبدلاً من أن يقلق شخص واحد بهدوء بشأن العدالة، بدأت الشركات في توظيف "خبراء متخصصين في الذكاء الاصطناعي المسؤول" وإنشاء مسميات وظيفية رسمية للأشخاص الذين يفحصون سلوك الروبوت. كما بدأوا في استخدام قوائم التحقق والأدوات البرمجية لمساعدتهم في العثور على الأخطاء قبل خروج الروبوت إلى العالم. إنه يشبه طباخاً اشترى أخيراً ميزان حرارة للتحقق مما إذا كانت الكعكة قد نضجت، بدلاً من مجرد التخمين.

الأخبار السيئة: البوصلة لا تزال معطلة
ومع ذلك، توضح الورقة البحثية تماماً أنه مجرد معرفة الناس بالقواعد لا يعني قدرتهم على اتباعها. وجد الباحثون أن العديد من العمال يشعرون بالضياع. هم يعرفون أنه يجب أن يكونوا عادلين، لكن ليس لديهم التدريب المناسب أو الأدوات المناسبة للقيام بذلك. الأمر يشبه إخبار شخص ما بأن يقود سيارة سباق ولكن دون إعطائه رخصة قيادة أو خريطة.

أحد أكبر المشاكل هو أن الأدوات التي تستخدمها الشركات غالباً ما تكون غامضة للغاية. تخيل كتاب طبخ يقول: "أضف بعض التوابل". هذا ليس مفيداً إذا كنت تحاول خبز كعكة محددة. وبالمثل، فإن العديد من أدوات الذكاء الاصطناعي تقدم نصائح عامة ولكنها لا تخبر العامل بالضبط بما يجب فعله عندما يبني ميزة محددة لمنتج معين. يُترك العمال يحاولون ترجمة الأفكار المجردة إلى كود حقيقي، وغالباً دون امتلاك الوقت أو المال الكافي للقيام بذلك بشكل صحيح.

مشكلة المدير: "افعل ذلك لاحقاً"
تسلط الورقة أيضاً الضوء على عقبة رئيسية: المدير. في العديد من الشركات، يهتم الأشخاص المسؤولون بكيفية إطلاق منتج جديد بسرعة أكثر من اهتمامهم بمدى سلامته. وجد الباحثون أن العمال غالباً ما يُطلب منهم "التحقق من صندوق السلامة" في نهاية المشروع، عندما لا يتبقى وقت لإصلاح المشكلات. هذا يحول "الذكاء الاصطناعي المسؤول" إلى تمرين ورقي ممل، مثل ملء استمارة فقط للحصول على ختم، بدلاً من جعل الروبوت أكثر أماناً بالفعل. تشير الورقة إلى أنه بدون تخصيص عدد كافٍ من الموظفين والوقت والمال لعمليات فحص السلامة هذه، فإن أفضل الأدوات في العالم لن تجدي نفعاً.

القطع المفقودة
أخيراً، لاحظ الباحثون أن الشركات لا تزال تعاني في الاستماع إلى الأشخاص الذين لا يبنون الروبوت. ويشمل ذلك الأشخاص الذين يصنفون البيانات (العمال الذين يعلمون الروبوت كيف يبدو شكل "القطة")، والأشخاص الذين يستخدمون الروبوت، والخبراء من مجالات أخرى مثل الأطباء أو المحامين. تشير الورقة إلى أنه بينما بدأت الشركات في طلب المساعدة، إلا أنها غالباً لا تعرف كيف تستمع بشكل صحيح، أو أنها لا تملك الأنظمة المناسبة التي تسمح لهؤلاء الغرباء بالتحدث عندما يكون هناك خطأ ما.

الخلاصة
إذاً، ماذا يعني كل هذا؟ تشير الورقة إلى أن صناعة الذكاء الاصطناعي تمر بمرحلة "آلام النمو". الجميع يتفق على أن كون المرء مسؤولاً هو أمر مهم، والأدوات للقيام بذلك بدأت في الظهور. ولكن هناك فجوة كبيرة بين معرفة ما يجب فعله وبين القيام به جيداً بالفعل. ويخلص الباحثون إلى أنه لكي ينجح "الذكاء الاصطناعي المسؤول" حقاً، يجب على الشركات التوقف عن معاملته كمشروع جانبي أو مجرد قائمة تحقق. عليهم دمجه في صلب عملهم، وتوفير التدريب الحقيقي لعمالهم، والاستماع إلى الأشخاص الذين سيتأثرون بالروبوتات التي يبنونها. وحتى ذلك الحين، ستظل البوصلة الأخلاقية للروبوت مهتزة، ونحن بحاجة لمواصلة العمل لتثبيتها.