Deepfakes: we need to re-think the concept of "real" images
تجادل ورقة الموقف هذه بأن التركيز الحالي على كشف الصور "المزيفة" معيب جوهرياً لأنه يعتمد على تعريفات ومجموعات بيانات "حقيقية" عفا عليها الزمن، وتحث المجتمع البحثي على إعادة تقييم مفهوم الأصالة بالنظر إلى أن التصوير الفوتوغرافي بالهواتف الذكية الحديثة يستخدم في حد ذاته خوارزميات قائمة على الشبكات العصبية تشبه تلك المستخدمة في النماذج التوليدية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك محقق يحاول الإيقاع بمزور. مهمتك هي النظر إلى لوحة ما وتقرر: "هل هذه تحفة فنية حقيقية، أم أنها مزيفة؟"
لسنوات، كان مجتمع تعلم الآلة يبني ماسحات ضوئية عالية التقنية لحل مشكلة "التزييف العميق" (Deepfake) هذه. لقد دربوا محققي الذكاء الاصطناعي الخاص بهم على مكتبة ضخمة من اللوحات "الحقيقية" (الصور الفوتوغرافية) لتعلم كيف يبدو الأصل.
المشكلة: يجادل مؤلفو هذه الورقة بأن المحققين يستخدمون مكتبة قديمة. إنهم يحاولون رصد التزوير الحديث باستخدام تعريف لـ "الحقيقي" توقف عن العمل منذ عشر سنوات تقريبًا.
إليك تفصيل حجتهم، باستخدام تشبيهات بسيطة:
1. مشكلة "المكتبة القديمة"
المحققون من الذكاء الاصطناعي مدربون حاليًا على مجموعات بيانات (مكتبات من الصور) تعود في معظمها إلى 10 أو 15 عامًا.
- التشبيه: تخيل أنك تحاول تعليم طالب التعرف على السيارات الحديثة من خلال إظهار صور لسيارات "موديل T فورد". سيتعلم الطالب ما الذي يبدو عليه "السيارة" بناءً على العجلات الخشبية والأسقف المفتوحة. عندما تظهر له سيارة "تسلا" حديثة، قد يصاب بالارتباك لأنها لا تشبه السيارات "الحقيقية" الموجودة في كتابه.
- الواقع: تُظهر الورقة أن معظم مجموعات الصور "الحقيقية" الحالية قديمة، ومنخفضة الدقة، ومضغوطة بشدة (مثل صيغة JPEG). إنها لا تمثل الصور التي نلتقطها اليوم.
2. تحول "الكاميرا الذكية"
اليوم، أكثر من 90% من الصور يتم التقاطها بواسطة الهواتف الذكية. ولكن إليك المفاجأة: الهواتف الذكية لا تكتفي بـ "التقاط" الصور فحسب؛ بل هي "تُعالجها حاسوبيًا".
- التشبيه: في الأيام الخوالي، كانت الكاميرا مثل النافذة. كنت تنظر من خلالها، ويصطدم الضوء بالفيلم. كانت الصورة تسجيلاً مباشرًا للواقع.
- الواقع الجديد: الهاتف الذكي الحديث يشبه الخلاط الكهربائي. أنت تضع المكونات الخام (الضوء من مستشعرات متعددة، وكاميرات متعددة، وإطارات متعددة ملتقطة في أجزاء من الثانية)، ثم يقوم كمبيوتر الهاتف الداخلي (باستخدام شبكات عصبية معقدة) بخلطها معًا لإنتاج "سموذي" مثالي (الصورة النهائية).
- الصراع: كواشف الذكاء الاصطناعي تم تدريبها على رصد الصور "المزيفة" التي صنعها مولدو الذكاء الاصطناعي. ولكن الآن، الصور "الحقيقية" التي تخرج من هواتفنا هي أيضًا "مصنوعة" بواسطة خوارزميات الذكاء الاصطناعي (الشبكات العصبية) داخل الهاتف. الخط الفاصل بين "الحقيقي" و"المزيف" يتلاشى لأن الصور "الحقيقية" يتم طهيها رقميًا بالفعل.
3. الاختبار الفاشل
أجرى المؤلفون تجربة بسيطة لإثبات وجهة نظرهم.
- الاختبار: أخذوا أفضل نماذج الذكاء الاصطناعي "الكاشفة للتزييف" وعرضوا عليها شيئين:
- صور قديمة منخفضة الجودة من الإنترنت (التي يعرفها الذكاء الاصطناً جيدًا).
- صور حديثة وخام تم التقاطها بأحدث هواتف آيفون في الواقع.
- النتيجة: نجح الذكاء الاصطناعي بشكل رائع مع الصور القديمة. ولكن عندما عرضت عليه صور الآيفون الحديثة، ارتبك وبدأ يفشل. لم يستطع التمييز بين صورة الآيفون "الحقيقية" وصورة الذكاء الاصطناعي "المزيفة"، لأن صورة الآيفون قد تمت معالجتها بواسطة ذكاء الهاتف نفسه.
- التشبيه: الأمر يشبه حارس أمن مدرب على رصد الأشخاص الذين يرتدون قبعات حمراء. هو يمسك بكل من يرتدي قبعة حمراء. ولكن بعد ذلك، بدأت قوات الشرطة نفسها ترتدي قبعات حمراء. الآن، لا يستطيع الحارس التمييز بين المجرمين ورجال الشرطة.
4. الفخ الفلسفي
تجادل الورقة بأننا عالقون في حلقة مفرغة.
- إذا عرفنا "الحقيقي" بأنه "غير ملموس من قبل الذكاء الاصطناعي"، فإن الصور الحقيقية تكاد تنعدم تمامًا، لأن هواتفنا تستخدم الذكاء الاصطناعي لتحسين الإضاءة، وإزالة الضوضاء، وتوضيح الصورة.
- إذا عرفنا "الحقيقي" بأنه "التقطه إنسان"، فإن هذا التعريف لن يساعدنا، لأن ذكاء الهاتف هو من قام بالجهد الأكبر.
استنتاج المؤلفين
لا تقدم الورقة خوارزمية جديدة لإصلاح الكواشف. بدلًا من ذلك، هي تطلق جرس الإنذار: نحن بحاجة للتوقف وإعادة التفكير في اللعبة بأكملها.
- بيانات جديدة: نحتاج إلى مجموعات بيانات جديدة تتضمن الصور المعالجة حاسوبيًا عبر الهواتف الذكية، وليس فقط الصور القديمة منخفضة الدقة.
- تعريفات جديدة: نحتاج إلى الاتفاق على معنى كلمة "حقيقي". هل الصورة حقيقية إذا قام الهاتف بتفتيح الإضاءة فيها؟ هل هي مزيفة إذا قام الذكاء الاصطناعي بإزالة شائبة من الوجه؟ لا يمكننا مجرد البحث عن "بصمات رقمية" لأن الصور "الحقيقية" تمتلكها أيضًا.
- ربما لن تعمل الكواشف: يشير المؤلفون إلى أنه ربما يكون محاولة اكتشاف التزييف من خلال النظر في بكسلات الصورة طريقًا مسدودًا. بدلاً من ذلك، قد نحتاج إلى الاعتماد على طرق أخرى، مثل العلامات المائية الرقمية أو تواقيع "البلوكشين" لإثبات أصل الصورة، بدلاً من محاولة التخمين مما إذا كانت تبدو "حقيقية".
باخت ملخص: الأدوات التي بنيناها للإمساك بالكاذبين تفشل لأن "المصدقين" (هواتفنا) بدأت تستخدم نفس حيل الكاذبين. نحن بحاجة إلى إعادة كتابة قواعد اللعبة قبل أن نتمكن من الإمساك بالجيل القادم من المزورين.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.