From Vulnerable Data Subjects to Vulnerabilizing Data Practices: Navigating the Protection Paradox in AI-Based Analyses of Platformized Lives
تجادل هذه الورقة بأن علم البيانات الأخلاقي يجب أن ينتقل من اعتبار الهشاشة سمة ثابتة في الأفراد إلى إدراك كيف تعمل الممارسات التقنية للبيانات على خلق حالة من عدم الاستقرار والارتباك لدى الأفراد، مقترحةً بروتوكولاً تأملياً للتنقل عبر "مفارقة الحماية" حيث تؤدي تدخلات الذكاء الاصطناعي القائمة على نوايا حسنة، عن غير قصد، إلى كشف واستغلال الفئات السكانية ذاتها التي تهدف إلى مساعدتها.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
الفكرة الكبرى: "الفخ الحمائي"
تخيل أنك ترى طفلاً يلعب في شارع مزدحم وخطير. تريد مساعدته، فتقرر بناء سياج حوله لتبقيه آمناً. ولكن لبناء هذا السياج، يتعين عليك أولاً التقاط آلاف الصور عالية الدقة للطفل، وقياس طوله، وتتبع كل حركة يقوم بها، ونشر تقرير مفصل عنه في جريدة ليعرف الجميع أين يتواجد.
المفارقة: في محاولتك لحماية الطفل، جعلته في الواقع أكثر ظهوراً، أكثر تتبعاً، وأكثر عرضة للخطر من قبل الأشخاص الذين قد يرغبون في إيذائه.
تجادل هذه الورقة البحثية بأن هذا هو بالضبط ما يحدث عندما يستخدم الباحثون الذكاء الاصطناعي (AI) لـ "حماية" الفئات المستضعفة على الإنترنت (مثل الأطفال في فيديوهات العائلات "Vlogs"). هم يعتقدون أنهم الأبطال الذين يبنون السياج، لكنهم في الواقع، غالباً ما يبنون قفصاً جديداً.
القصة وراء الورقة البحثية
بدأ المؤلفون بطلب حقيقي من أحد الصحفيين. أراد الصحفي استخدام الذكاء الاصطناعي لمسح آلاف "فيديوهات العائلات" (Family Vlogs) على يوتيوب لمعرفة عدد الأطفال الذين يظهرون فيها، وما هي المشاعر التي يظهرونها، وما إذا كانوا في مواقف "حساسة" (مثل كونهم شبه عراة جزئياً). كان الهدف هو إثبات أن هؤلاء الأطفال يتعرضون للاستغلال ودفع الحكومة لتنظيم ذلك.
المعضلة: أدرك الباحثون أنهم لكي يقوموا بهذا العمل "الجيد"، سيتعين عليهم:
- مسح وجوه الأطفال (باستخدام التعرف على الوجه).
- تحليل مشاعرهم (باستخدام كشف المشاعر).
- تخزين هذه البيانات في قاعدة بيانات.
- نشر النتائج.
سألوا أنفسهم: هل من الأخلاقي استخدام أدوات مراقبة اقتحامية لإثبات أن الأطفال يتعرضون للمراقبة؟
الطرق الأربعة التي يمكن للذكاء الاصطناعي من خلالها جعل الأمور أسوأ
قسم المؤلفون عملية البحث إلى أربع خطوات (مثل خط تجميع في مصنع) وأظهروا كيف يمكن لكل خطوة أن تؤذي الأشخاص الذين يحاولون مساعدتهم عن غير قصد.
1. عدسة الكاميرا (تصميم مجموعة البيانات)
- التشبيه: تخيل أنك تبحث عن "التفاح الفاسد" في برميل. هل تنظر إلى برميل واحد محدد فقط (العائلة الأكثر شهرة)، أم تنظر إلى كل البراميل في المستودع؟
- المشكلة: إذا نظرت إلى عائلة واحدة فقط، فأنت تحدق في هؤلاء الأطفال تحديداً بقوة تجعل الأمر يبدو وكأنه مضايقة. أما إذا نظرت إلى الجميع، فأنت تضع ملايين الأطفال تحت المجهر الذي لم يوافقوا عليه أبداً.
- الخطر: أنت من يقرر من يتم مراقبته. من خلال اختيار الفيديوهات التي سيتم تحليلها، أنت تقرر أي أطفال سيصبحون "أهدافاً" للتدقيق.
2. المترجم (العمليات الإجرائية)
- التشبيه: تخيل محاولة ترجمة شعور بشري معقد وفوضوي (مثل بكاء طفل لأنه متعب، أو ضحكه لأنه يمزح) إلى مجرد علامة "صح" بسيطة في نموذج.
- المشكلة: يجب على الذكاء الاصطناعي تحويل الحياة البشرية إلى أرقام. قد يصنف صرخة مرحة على أنها "ضيق"، أو حماماً طبياً على أنه "عري غير لائق".
- الخطر: يقوم الذكاء الاصطناعي بـ "تجميد" هوية الطفل. إنه يحول كائناً بشرياً معقداً إلى نقطة بيانات بسيطة مثل "طفل حزين" أو "معرض للخطر". يُسمى هذا "تثبيت السردية" (Narrative Fixing). بمجرد أن يضع الكمبيوتر ملصقاً (Label) على الطفل، يلتصق هذا الملصق به، حتى لو كان خاطئاً.
3. الصندوق الأسود (الاستدلال والتقييم)
- التشبيه: تخيل توقعات جوية دقيقة بنسبة 90%، لكنها أحياناً تقول "مشمس" بينما تمطر بالفعل. الآن تخيل أن تلك التوقعات هي التي تقرر ما إذا كان سيتم أخذ الطفل من والديه.
- المشكلة: الذكاء الاصطناعي يرتكب أخطاء. إذا تم تدريب الذكاء الاصطناعي على البالغين، فقد لا يفهم الأطفال بشكل صحيح. وإذا استخدم "خادماً سحابياً" (مثل AWS)، فإن البيانات تغادر جهازك وتذهب إلى شركة تقنية كبرى، حيث قد تُخزن إلى الأبد.
- الخطر: قد تتسبب في "إنذار كاذب" يدمر حياة عائلة، أو قد تغفل عن الخطر الحقيقي لأن الذكاء الاصطناعي لم يفهم السياق.
4. مكبر الصوت (النشر)
- التشبيه: تكتب تقريراً عن معاناة عائلة ما. تعتقد أنك تقول: "هذا سيساعد الحكومة في حل المشكلة". ولكن بعد ذلك، ينتشر التقرير ليصبح واسع الانتشار (Viral)، ويبدأ الغرباء في مضايقة العائلة، أو تستخدم شركات التأمين هذه البيانات لرفض تغطيتهم.
- المشكلة: بمجرد نشر البيانات، لا يمكنك استردادها. "الحياة الثانية" للبيانات تعني أنه يمكن استخدامها من قبل جهات سيئة (المتنمرين، الشركات، أو حتى الحكومة) بطرق لم تكن تقصدها.
- الخطر: حاولت إنقاذ الطفل، ولكن بنشر البيانات، أعطيت العالم بأكه خريطة للعثور عليه.
الحل: "زر إيقاف مؤقت" للباحثين
لا يقول المؤلفون "توقفوا عن إجراء هذا البحث". بل يقولون: "توقف وفكر قبل أن تضغط على زر التشغيل".
لقد أنشأوا "بروتوكولاً تأملياً" (Reflexive Protocol) (قائمة أسئلة) يجب على الباحثين طرحها على أنفسهم في كل خطوة. بدلاً من مجرد السؤال: "هل يمكننا بناء هذا؟" يجب عليهم السؤال:
- هل نجعلهم أكثر ظهوراً؟ (هل نعرضهم لمزيد من العيون؟)
- هل نثبت قصتهم؟ (هل نجبرهم على وضع ملصق/هوية لم يختاروها؟)
- من الذي يتقاضى المال؟ (هل نربح المال أو الشهرة من ضعفهم؟)
- هل نعلمهم كيفية التمثيل؟ (هل ستبدأ العائلات بالتصرف بشكل مختلف فقط لخداع الذكاء الاصطناعي؟)
الخلاصة
تعلمنا هذه الورقة أن البيانات ليست محايدة. فهي ليست مجرد أداة مثل المطرقة؛ بل هي أداة تشكل العالم.
عندما نستخدم الذكاء الاصطناعي لـ "حماية" الناس، فإننا غالباً ما ينتهي بنا الأمر بـ صناعة أنواع جديدة من الضعف. يجادل المؤلفون بأن الحماية الحقيقية تعني أحياناً عدم جمع البيانات، أو عدم استخدام أقوى الأدوات، حتى لو بدا أننا نفعل أقل من اللازم.
باختصار: مجرد قدرتك على استخدام الذكاء الاصطناعي لعدّ كل طفل على الإنترنت من أجل "إنقاذهم"، لا يعني أنه يجب عليك القيام بذلك. أحياناً، يكون الشيء الأكثر أخلاقية هو أن تشيح بنظرك بعيداً، أو أن تجد طريقة للمساعدة لا تتضمن تحويل حياة البشر إلى نقاط بيانات.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.