AI-Powered Facial Mask Removal Is Not Suitable For Biometric Identification
تقدم هذه الورقة تحليلاً واسع النطاق يثبت أن إزالة أقنعة الوجه المدعومة بالذكاء الاصطناعي، والتي تُستخدم غالباً في التحقيقات القائمة على المساهمات الجماعية، تفشل في إنتاج مطابقات بيومترية موثوقة وتفرض مخاطر جسيمة تتمثل في الخطأ في تحديد الهوية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
إليك شرح بسيط للورقة البحثية، باستخدام تشبيهات من الحياة اليومية لتبسيط العلم.
🕵️♀️ الفكرة الكبرى: لماذا يُعد "كشف القناع بواسطة الذكاء الاصطناعي" فكرة سيئة لعمل الشرطة
تخيل أنك تحاول تحديد هوية مشتبه به في جريمة. لديك صورة باهتة لوجهه، لكنه يرتدي قناعاً أو أن الصورة غير واضحة. اقترح أحدهم: "لنستخدم الذكاء الاصطناعي لتخمين كيف يبدو وجهه تحت القناع!"
تقول هذه الورقة البحثية: توقف. هذه فكرة سيئة للغاية.
قام المؤلفون، وهم باحثون من جامعة كاليفورنيا في بيركلي، بإجراء تجربة ضخمة لإثبات أنه عندما تستخدم الذكاء الاصطناعي "لملء الفراغات" لوجه مغطى بقناع، فإن النتيجة ليست الشخص الحقيقي. إنها أشبه بتخمين فنان مبدع أكثر من كونها حقيقة جنائية. استخدام هذه الوجوه التي تم إنشاؤها بواسطة الذكاء الاصطناعي لتحديد هوية شخص ما قد يؤدي إلى اتهام الأبرياء ظلماً.
🎨 التجربة: لعبة "ملء الفراغات"
لاختبار ذلك، لعب الباحثون لعبة مع أربع مجموعات مختلفة من الوجوه:
- الغرباء: 400 شخص عشوائي.
- التوائم: 100 شخص، لكل منهم صورتان (نفس الشخص، في يومين مختلفين).
- السياسيون: 91 سناتوراً أمريكياً يرتدون أقنعة في صورة واحدة وبدون أقنعة في صورة أخرى.
- أشباه المتشابهين: 61 زوجاً من المشاهير الذين يتشابهون جداً ولكنهم ليسوا أقارب.
أخذوا هذه الوجوه، وغطوا النصف السفلي منها (مثل القناع)، وطلبوا من ثلاثة أدوات ذكاء اصطناعي شهيرة (ChatGPT وGemini وGrokAI) أن "ترسم" الفم والذقن المفقودين.
التشبيه:
فكر في الأمر كأنه لغز "توصيل النقاط" حيث نصف النقاط مفقودة.
- الهدف الحقيقي: تريد من الذكاء الاصطناعي أن يرسم النقاط المفقودة بالضبط بحيث تطابق الصورة الشخص الأصلي تماماً.
- ما حدث بالفعل: لم يبحث الذكاء الاصطناعي في ملف الشخص. بدلاً من ذلك، نظر إلى ملايين الوجوه الأخرى في بيانات التدريب الخاصة به وقال: "هممم، معظم الأشخاص الذين لديهم شكل الأنف هذا، لديهم فم يشبه هذا". لقد رسم فماً متوسطاً إحصائياً، وليس الفم المحدد للشخص الموجود في الصورة.
📊 النتائج: "التخمين" مقابل "الشيء الحقيقي"
استخدم الباحثون "ماسح وجوه" عالي التقنية (نظام بيومتري) لمقارنة الصورة الأصلية بـ الصورة التي أنشأها الذكاء الاصطناعي.
إليك كيف سجلوا النتائج (على مقي scale من -1 إلى 1، حيث 1 هو التطابق التام):
- نفس الشخص (صور حقيقية): الدرجة 0.71. (هذا ما نتوقعه عند مقارنة شخص بنفسه).
- غرباء تماماً: الدرجة 0.04. (هؤلاء لا يتشابهون أبداً).
- أشباه المتشابهين المشهورين: الدرجة 0.15. (يبدون متشابهين قليلاً، لكنهم ليسوا نفس الشخص).
- الوجوه التي أنشأها الذكاء الاصطناعي: استقرت الدرجات في المنتصف، حوالي 0.34 إلى 0.52.
الخلاصة:
الوجوه التي أنشأها الذكاء الاصطناعي لم تكن الشخص الحقيقي. كانت أفضل من غريب عشوائي، لكنها لم تكن قريبة بما يكفي لتكون نفس الشخص.
التشبيه:
تخيل أنك تحاول تحديد هوية صديقك المفضل، "بوب".
- بوب الحقيقي: تراه وتقول: "هذا بوب!" (ثقة 100%).
- بوب الذي صنعه الذكاء الاصطناعي: يرسم الذكاء الاصطناعي صورة لرجل يشبه بوب قليلاً. لديه أنف بوب وشعره، لكن الفم خاطئ. قد تقول: "مهلاً، هذا يشبه ابن عم بوب"، لكنك لن تعتقل ذلك الرجل ظناً منك أنه بوب.
- الخطر: إذا رأى حشد من الناس على الإنترنت الرسم الذي أنشأه الذكاء الاصطناعي وقالوا: "هذا بالتأكيد بوب!"، فقد يبدأون في اتهام الشخص الخطأ.
🎲 مشكلة "رمي النرد"
اكتشف الباحثون أيضاً أن الذكاء الاصطناعي غير حتمي (non-deterministic). وهي طريقة تقنية لقول: إذا سألت الذكاء الاصطناعي نفس السؤال مرتين، سيعطيك إجابتين مختلفتين.
أخذوا صورة واحدة لأحد السياسيين وطلبوا من ChatGPT "إزالة القناع" عنها 100 مرة.
- النتيجة: حصلوا على 100 وجه مختلف.
- بعضها بدا شبيهاً بالسيناتور؛ وبعضها بدا مختلفاً تماماً.
- التشبيه: الأمر يشبه طلب "برجر" من طباخ 100 مرة. أحياناً يعطيك برجر بالجبن، وأحياناً برجر نباتي، وأحياناً برجر مع الكثير من المخلل. جميعها تُسمى "برجر"، لكنها ليست نفس البرجر. لا يمكنك استخدام برجر عشوائي لتثبت من الذي طلبه.
⚖️ لماذا هذا مهم (حادثة "GrokAI")
تذكر الورقة البحثية حادثة حقيقية في العالم الواقعي أثارت هذا البحث. قام عميل من وكالة الهجرة والجمارك (ICE) يرتدي قناعاً بقتل مدني. استخدم شخص ما الذكاء الاصطناعي (GrokAI) لإزالة القناع. رسم الذكاء الاصطناعي وجهاً بدا وكأنه رجل عشوائي يدعى "ستيف غروف".
ولأن تخمين الذكاء الاصطناعي بدا "واقعياً" بما يكفي، أقنع الناس على وسائل التواصل الاجتماعي أن ستيف غروف هو القاتل. كان هذا خطأ في تحديد الهوية ناتجاً عن "هلوسة" الذكاء الاصطناعي لوجه غير موجود.
🏁 الحكم النهائي
الذكاء الاصطناعي التوليدي فنان رائع، لكنه محقق سيء.
- ما يفعله جيداً: ينشئ صوراً جميلة وواقعية بناءً على ما هو محتمل أن يكون موجوداً.
- ما يفشل فيه: لا يمكنه إعادة بناء الوجه الحقيقي الدقيق لشخص معين.
الخلاصة:
إذا رأيت صورة "مكشوفة القناع بالذكاء الاصطناعي" لمجرم، لا تثق بها. إنها عمل خيالي، وليست دليلاً. استخدام هذه الصور لتحديد الهوية البيومترية (مثل مطابقة الوجه بقاعدة بيانات) هو أمر غير سليم علمياً وخطير.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.