Humanwashing -- It Should Leave You Feeling Dirty
تجادل هذه الورقة بأن الاستخدام العشوائي لاستعارة "الإنسان في الحلقة" يسهل عملية "التبييض البشري" (humanwashing) عبر تعتيم حقائق اتخاذ القرار في الذكاء الاصطناعي وخلق شعور زائف بالأمان، مما يؤدي بالتالي إلى الإخفاق في معالجة قضايا جوهرية مثل التحيز والمساءلة والشفافية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تشتري سيارة. يقول لك البائع: "لا تقلق، هذه السيارة آمنة لأن هناك سائقًا بشريًا يجلس في مقعد الركاب". تشعر بالارتياح، وتفكر: "رائع، إذا حاولت الحاسبة الاصطناعية التسبب في حادث، سيمسك الإنسان بالمقود".
ولكن ماذا لو كان الإنسان جالسًا هناك فحسب، يحدق في لوحة القيادة، غير قادر على لمس المقود، بينما تقود السيارة نفسها بالفعل؟ ماذا لو كان الإنسان موجودًا هناك فقط لتجعلك تشعر بالأمان، رغم أنه لا يفعل أي شيء في الواقع؟
هذا هو جوهر الحجة التي تطرحها ورقة البحث "التغطية البشرية (Humanwashing) - يجب أن تجعلك تشعر بالقذارة".
إليك تحليل بسيط لما يقوله المؤلفون، باستخدام تشبيهات من الحياة اليومية.
1. "الإنسان في الحلقة" استعارة مكسورة
في عالم الذكاء الاصطناعي، يحب الناس قول إن لديهم "إنسانًا في الحلقة" (human in the loop). يستخدمون هذه العبارة ليبدوا مسؤولين وآمنين. وهي توحي بأن الإنسان جزء من عملية اتخاذ القرار، حيث يراجع عمل الذكاء الاصطناعي.
يرى المؤلفون أن هذه العبارة تشبه استخدام خريطة من القرن التاسع عشر للتنقل في مدينة حديثة؛ إنها الأداة الخاطئة للمهمة.
- الفكرة القديمة: في مجال الروبوتات (مثل ذراع روبوتية تقوم بلحام سيارة)، تبدو "الحلقة" منطقية. يتحرك الروبوت، ثم يستشعر مستشعرٌ مكانه، ويرسل إشارة عائدة إلى الروبوت ليعدل مساره. إنها دائرة من الفعل ورد الفعل.
- الواقع الجديد: في اتخاذ قرارات الذكاء الاصطناعي (مثل الموافقة على قرض أو تشخيص مرض)، لا توجد دائرة. المعلومات تدخل، والقرار يخرج، ولا تعود المعلومات إلى المصدر.
- المشكلة: من خلال تسميتها "حلقة"، تتظاهر الشركات بأن الإنسان يقود السفينة بنشاط. في الواقع، غالبًا ما يكون الإنسان مجرد راكب ينظر من النافذة.
2. خدعة "التغطية البشرية" (Humanwashing)
صاغ المؤلفون مصطلح "التغطية البشرية" (Humanwashing). فكر في الأمر كأنه "التغطية الخضراء" (Greenwashing).
- التغطية الخضراء: شركة تدهن مصنعها باللون الأخضر وتضع ورقة شجر على شعارها لتبدو صديقة للبيئة، حتى لو كانت لا تزال تلوث النهر.
- التغطية البشرية: شركة تضع إنسانًا في الهيكل التنظيمي لتبدو مسؤولة وآمنة، حتى لو لم يكن لهذا الإنسان أي سلطة حقيقية لإيقاف الذكاء الاصطناعي.
إنهم يستخدمون هذه الحيلة لـ:
- جعل المستثمرين والجهات التنظيمية يشعرون بالراحة.
- تجنب المشاكل القانونية (بما أن القوانين غالبًا ما تتطلب وجود إنسان في العملية).
- إخفاء حقيقة أن الذكاء الاصطناعي قد يكون متحيزًا، أو خاطئًا، أو خطيرًا.
تجادل الورقة بأن هذه الممارسة "قذرة" لأنها تخدع المجتمع وتجعله يعتقد أن لدينا تدابير سلامة بينما نحن في الواقع لا نملكها.
3. أسطورة "الفريق الخارق"
هناك اعتقاد شائع بأنه إذا مزجت بين الإنسان والذكاء الاصطناعي، فستحصل على أفضل ما في العالمين: سرعة الآلة وحكمة الإنسان. يقول المؤلفون إن هذا غالبًا ما يكون كذبًا.
ويستشهدون بأبحاث تظهر أن:
- أحيانًا يكون الذكاء الاصطناعي أفضل من الإنسان.
- وأحيانًا يكون الإنسان أفضل من الذكاء الاصطناthought
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.