تخيل أنك رئيس الأمن في قلعة ضخمة وعالية التقنية. كل يوم، يحاول آلاف الأشخاص الدخول، ومهمتك هي التأكد من دخول الأشخاص المناسبين فقط. لديك مرآة سحرية يمكنها التعرف على الوجوه، لكنها ليست مثالية. أحياناً، تعتقد أن غريباً يشبه أحد المقيمين (مطابقة خاطئة)، وأحياناً تعتقد أن أحد المقيمين يشبه غريباً (عدم مطابقة خاطئ). للحفاظ على أمن القلعة، عليك وضع قاعدة صارمة جداً: "لا تسمح لأحد بالدخول إلا إذا كانت المرآة متأكدة بنسبة تقارب 100% أنه ينتمي للمكان". هذه القاعدة تسمى "العتبة" (Threshold). إذا وضعت المعيار منخفضاً جداً، سيتسلل المنتحلون؛ وإذا وضعته مرتفعاً جداً، سيُمنع أصدقاؤك من الدخول.

الآن، تخيل أنك تريد اختبار مرآتك قبل فتح القلعة. لا يمكنك مجرد الانتظار حتى يظهر أشخاص حقيقيون ويرتكبون الأخطاء؛ فهذا أمر خطير للغاية. لذا، تقرر بناء مجموعة من الأشخاص "المزيفين" المصنوعين بالحاسوب لتجربة مرآتك. هذا هو عالم البيانات الاصطناعية (Synthetic Data): وجوه رقمية تم إنشاؤها بواسطة الذكاء الاصطناعي تبدو حقيقية ولكنها ليست كذلك. السؤال الكبير الذي يسأله العلماء هو: "هل يمكننا الوثوق بهذه الوجوه المزيفة لإخبارنا بالضبط أين نضع معيار الأمن؟" إذا تصرفت الوجوه المزيفة بشكل مختلف عن البشر الحقيقيين، فقد يكون نظامك الأمني كارثة تنتظر الوقوع. يبحث هذا البحث في هذه المشكلة تحديداً، خاصة لأنظمة مراقبة الحدود الأوروبية الجديدة التي تتطلب دقة فائقة.

---

التدريب الرقمي التجريبي الذي سار بشكل خاطئ

في هذه الدراسة، قرر آرطو أبيلا من جامعة أولو لعب دور الطيار التجريبي لحارس الحدود. كان الهدف هو معرفة ما إذا كان استخدام بيانات الوجه الاصطعية (الوجوه المنشأة حاسوبياً) لتحديد عتبة الأمن لأنظمة مراقبة الحدود سيعمل في العالم الحقيقي. فكر في الأمر كأنه محاكي طيران؛ يتدرب الطيارون في أجهزة المحاكاة لتعلم كيفية الطيران، ولكن إذا كانت فيزياء المحاكي غير دقيقة قليلاً، فقد يتحطم الطيار عندما يركب طائرة حقيقية. أراد الباحثون معرفة: هل "المحاكي" (البيانات الاصطناعية) جيد بما يكفي لوضع قواعد لـ "الطائرة الحقيقية" (مراقبة الحدود الفعلية)؟

استخدموا نموذج ذكاء اصطناعي محدد يسمى EdgeFace، وهو نسخة خفيفة وسريعة التشغيل من كاشف وجوه فائق الذكاء، مصمم للعمل على الأجهزة الصغيرة مثل تلك التي قد تجدها عند بوابات المطارات. اختبروا هذا النموذج باستخدام مجموعتين مختلفتين من الوجوه "المزيفة" (مجموعات بيانات اصطناعية) وقارنوها بمجموعات من الوجوه "الحقيقية" (صور ملتقطة في ظروف حقيقية ومنضبطة وفوضوية).

"ذيل" القصة

هذا هو الجزء الملتوي الذي يكشف عنه البحث. عندما تنظر إلى كيفية تقييم نظام التعرف على الوجوه للأشخاص، فالأمر يشبه الرسم البياني. يحصل معظم الناس على درجات في المنتصف (مطابقة واضحة أو عدم مطابقة واضح). لكن منطقة الخطر تقع في النهاية تماماً، في "الذيول" (Tails). هنا يرتبك النظام وقد يخطئ بين غريب وصديق.

وجد الباحثون أنه بينما تبدو البيانات الاصطناعية رائعة في منتصف الرسم البياني، إلا أنها تخطئ تماماً في الذيول. الأمر يشبه محاولة التنبؤ بسلوك الحشد أثناء حالة ذعر عبر مشاهدة تدريب هادئ. الوجوه المزيفة لم تكن تمتلك نفس "سيناريوهات أسوأ الحالات" التي يمتلكها البشر الحقيقيون.

عندما حاول الباحثون استخدام القواعد (العتبات) التي تعلموها من الوجوه المزيفة على أشخاص حقيقيين، ساءت الأمور:

• مشكلة "الصرامة المفرطة": في بعض الأحيان، وضع النظام معياراً عالياً جداً لدرجة أنه بدأ في رفض المسافرين الحقيقيين. في أحد الاختبارات، عندما حاولوا أن يكونوا صارمين للغاية (بهدف الوصول إلى معدل خطأ 0.001%)، رفض النظام ما يقرب من 26% من الأشخاص الحقيقيين الذين كان ينبغي السماح لهم بالدخول!
• مشكلة "التساهل المفرط": في حالات أخرى، كان النظام واثقاً أكثر من اللازم. فقد سمح للمنتحلين بالدخول بمعدل أعلى بكثير من حد الأمان.
• هجوم "الدمج" (Morph Attack): اختبر الباحثون أيضاً ما يحدث إذا حاول شخص ما التسلل عبر دمج وجهين معاً (هجوم الدمج). ووجدوا أن الإعدادات المستمدة من البيانات المزيفة جعلت النظام أكثر عرضة لهذه الحيل. إذا وضعت القواعد بناءً على البيانات المزيفة، فقد يسمح النظام لوجه مدمج بالمرور عبر الباب بسهولة.

الحكم النهائي: لا تثق في المحاكي وحده لاتخاذ القرار النهائي

الاكتشاف الرئيسي لهذا البحث هو أمر محبط لأولئك الذين يأملون في حل سريع وسهل يعتمد فقط على البيانات المزيفة. فهو يشير إلى أن البيانات الاصطناعية لا يمكن الوثوق بها لتحديد قواعد الأمن النهائية للأنظمة عالية المخاطر مثل مراقبة الحدود، خاصة عندما تحتاج إلى دقة فائقة (معدلات مطابقة خاطئة منخفضة جداً).

وجد المؤلفون أنه حتى لو استخدمت نوعين مختلفين من البيانات المزيفة، فإنهما سيعطيانك إجابات مختلفة. الأمر يشبه سؤال اثنين من خبراء الأرصاد الجوية للتنبؤ بإعصار؛ أحدهما يقول "أحضر مظلة"، والآخر يقول "ابنِ ملجأً". لا يمكنك معرفة أيهما على حق حتى ترى العاصلة الحقيقية.

يجادل البحث صراحةً ضد فكرة أنه يمكنك مجرد إنشاء مليون وجه مزيف، وإجراء اختباراتك، ثم تحديد قواعد أمن الحدود بناءً على ذلك فقط. إن "عدم التطابق" في ذيول البيانات يعني أن القواعد ستكون خاطئة عند تطبيقها على البشر الحقيقيين. ومع ذلك، فإن الورقة البحثية لا تقول إن البيانات الاصطناعية عديمة الفائدة، بل توصي باستخدامها في المراحل الأولى من التطوير والمعايرة الأولية، وتصر على أن اختيار العتبة النهائي والحاسم يجب أن يتم التحقق منه باستخدام بيانات من العالم الحقيقي.

ماذا يجب أن نفعل بدلاً من ذلك؟

إذن، هل البيانات الاصطناعية عديمة الفائدة؟ ليس على الإطلاق! تقترح الورقة أنها لا تزال أداة رائعة للمراحل الأولى من بناء النظام. يمكنك استخدامها لتدريب الذكاء الاصطناعي، ولرؤية ما إذا كان الكود يعمل، ولإجراء فحص تقريبي. ولكن عندما يحين وقت وضع معيار الأمن النهائي والحاسم، يجب عليك استخدام بيانات من العالم الحقيقي.

فكر في الأمر كخبز الكعكة. يمكنك استخدام كتاب وصفات (بيانات اصطناعية) لتعلم كيفية خلط المكونات وخبز دفعة تجريبية. ولكن قبل أن تقدم الكعكة للملكة، يجب أن تتذوق الكعكة الفعلية التي صنعتها بالمكونات الحقيقية. إذا تخطيت عملية التذوق واكتفيت بالثقة في الكتاب، فقد تقدم شيئاً مالحاً جداً أو حلواً جداً.

يخلص الباحثون إلى أنه بالنسبة للأنظمة مثل نظام الدخول/الخروج الأوروبي (EES)، الذي يحتاج إلى أمن فائق، فإن الاعتماد فقط على الوجوه المنشأة حاسوبياً هو مقامرة خطيرة. فالوجوه "المزيفة" لا تستطيع التقاط الواقع الفوضوي وغير المتوقع للوجوه البشرية بشكل كافٍ لتحديد القواعد للعالم الحقيقي. وللحفاظ على أمن الحدود، نحتاج إلى اختبار أنظمتنا على أشخاص حقيقيين، وليس فقط على توائمهم الرقميين، خاصة لاتخاذ القرار النهائي.