AI-Powered Facial Mask Removal Is Not Suitable For Biometric Identification
यह शोध पत्र एक बड़े पैमाने का विश्लेषण प्रस्तुत करता है जो यह दर्शाता है कि एआई-संचालित फेस मास्क हटाना, जिसका उपयोग अक्सर क्राउड-सोर्स जांच में किया जाता है, विश्वसनीय बायोमेट्रिक मिलान करने में विफल रहता है और गलत पहचान के महत्वपूर्ण जोखिम पैदा करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ इस शोध पत्र का एक सरल स्पष्टीकरण दिया गया है, जिसमें विज्ञान को समझाने के लिए रोज़मर्रा के उपमाओं (analogies) का उपयोग किया गया है।
🕵️♀️ मुख्य विचार: पुलिस कार्य के लिए "AI अनमास्किंग" (AI Unmasking) एक बुरा विचार क्यों है
कल्पना कीजिए कि आप किसी अपराध में संदिग्ध की पहचान करने की कोशिश कर रहे हैं। आपके पास उनके चेहरे की एक धुंधली फोटो है, लेकिन उन्होंने मास्क पहना हुआ है या फोटो धुंधली है। कोई सुझाव देता है, "चलिए AI का उपयोग करके यह अनुमान लगाते हैं कि मास्क के नीचे उनका चेहरा कैसा दिखता है!"
यह शोध पत्र कहता है: रुकिए। यह एक बहुत बुरा विचार है।
लेखक, जो UC बर्कले के शोधकर्ता हैं, ने यह साबित करने के लिए एक विशाल प्रयोग चलाया कि जब आप मास्क पहने हुए चेहरे के "खाली स्थानों को भरने" के लिए AI का उपयोग करते हैं, तो परिणाम वास्तविक व्यक्ति नहीं होता है। यह एक वास्तविक फोरेंसिक तथ्य के बजाय एक रचनात्मक कलाकार के अनुमान जैसा अधिक होता है। किसी व्यक्ति की पहचान करने के लिए इन AI-जनित चेहरों का उपयोग करने से निर्दोष लोगों पर गलत आरोप लग सकते हैं।
🎨 प्रयोग: "खाली स्थान भरने" का खेल
इसकी जांच करने के लिए, शोधकर्ताओं ने चार अलग-अलग समूहों के चेहरों के साथ एक खेल खेला:
- अजनबी: 400 रैंडम लोग।
- जुड़वा: 100 लोग, जिनमें से प्रत्येक की दो तस्वीरें थीं (एक ही व्यक्ति, अलग दिन)।
- राजनेता: 91 अमेरिकी सीनेटर, जिनकी एक फोटो में मास्क था और दूसरी में बिना मास्क के।
- एक जैसे दिखने वाले (Lookalikes): मशहूर हस्तियों के 63 जोड़े जो बहुत समान दिखते हैं लेकिन आपस में संबंधित नहीं हैं।
उन्होंने इन चेहरों को लिया, निचले हिस्से को ढक दिया (जैसे कि मास्क हो), और तीन प्रसिद्ध AI टूल्स (ChatGPT, Gemini और GrokAI) से गायब मुंह और ठुड्डी को "बनाने" के लिए कहा।
उपमा (Analogy):
इसे "कनेक्ट द डॉट्स" पहेली की तरह समझें जहाँ आधे बिंदु गायब हैं।
- वास्तविक लक्ष्य: आप चाहते हैं कि AI ठीक उन्हीं गायब बिंदुओं को बनाए ताकि चित्र मूल व्यक्ति से पूरी तरह मेल खाए।
- वास्तव में क्या हुआ: AI ने उस व्यक्ति की फाइल नहीं देखी। इसके बजाय, इसने अपने ट्रेनिंग डेटा में मौजूद लाखों अन्य चेहरों को देखा और कहा, "हम्म, इस नाक के आकार वाले अधिकांश लोगों का मुंह ऐसा होता है।" इसने एक सांख्यिकीय औसत (statistically average) मुंह बनाया, न कि फोटो में मौजूद व्यक्ति का विशिष्ट मुंह।
📊 परिणाम: "अनुमान" बनाम "असली चीज़"
शोधकर्ताओं ने मूल फोटो की तुलना AI-जनित फोटो से करने के लिए एक हाई-टेक "फेस स्कैनर" (बायोमेट्रिक सिस्टम) का उपयोग किया।
यहाँ बताया गया है कि उन्होंने इसे कैसे स्कोर किया ( -1 से 1 के पैमाने पर, जहाँ 1 एक पूर्ण मिलान है):
- वही व्यक्ति (वास्तविक फोटो): स्कोर 0.71। (यह वह है जिसकी हम अपेक्षा करते हैं जब किसी व्यक्ति की तुलना स्वयं से की जाती है)।
- पूरी तरह से अजनबी: स्कोर 0.04। (ये बिल्कुल भी एक जैसे नहीं दिखते)।
- प्रसिद्ध लुकलाइक्स (Lookalikes): स्कोर 0.15। (वे थोड़े समान दिखते हैं, लेकिन एक जैसे नहीं)।
- AI-जनित चेहरे: स्कोर बीच में, लगभग 0.34 से 0.52 के आसपास रहा।
निष्कर्ष:
AI-जनित चेहरे वास्तविक व्यक्ति नहीं थे। वे एक रैंडम अजनबी से बेहतर थे, लेकिन वे एक ही व्यक्ति होने के लिए पर्याप्त करीब भी नहीं थे।
उपमा:
कल्पना कीजिए कि आप अपने सबसे अच्छे दोस्त, "बॉब" को पहचानने की कोशिश कर रहे हैं।
- असली बॉब: आप उसे देखते हैं, और आप कहते हैं, "यह बॉब है!" (100% विश्वास)।
- AI बॉब: AI एक ऐसे आदमी का चित्र बनाता है जो थोड़ा बहुत बॉब जैसा दिखता है। उसके पास बॉब जैसी नाक और बाल हैं, लेकिन मुंह गलत है। आप कह सकते हैं, "अरे, यह बॉब के चचेरे भाई जैसा दिखता है," लेकिन आप उस आदमी को बॉब समझकर गिरफ्तार नहीं करेंगे।
- खतरा: यदि इंटरनेट पर मौजूद लोगों की भीड़ उस AI ड्राइंग को देखती है और कहती है, "यह निश्चित रूप से बॉब है!" तो वे गलत व्यक्ति पर आरोप लगाना शुरू कर सकते हैं।
🎲 "पासे के रोल" (Roll of the Dice) की समस्या
शोधकर्ताओं ने यह भी खोजा कि AI नॉन-डिटरमिनिस्टिक (non-deterministic) है। यह कहने का एक तकनीकी तरीका है कि: यदि आप AI से एक ही सवाल दो बार पूछते हैं, तो वह आपको दो अलग-अलग उत्तर देता है।
उन्होंने एक सीनेटर की एक फोटो ली और ChatGPT से उसे अनमास्क करने के लिए 100 बार कहा।
- परिणाम: उन्हें 100 अलग-अलग चेहरे मिले।
- कुछ थोड़े बहुत सीनेटर जैसे दिखे; कुछ बहुत अलग दिखे।
- उपमा: यह एक शेफ से 100 बार "बर्गर बनाने" के लिए कहने जैसा है। कभी वह आपको चीज़बर्गर देगा, कभी वेजी बर्गर, तो कभी एक्स्ट्रा अचार वाला बर्गर। वे सभी "बर्गर" हैं, लेकिन वे एक ही "बर्गर" नहीं हैं। आप यह साबित करने के लिए रैंडम बर्गर का उपयोग नहीं कर सकते कि किसने ऑर्डर दिया था।
⚖️ यह क्यों मायने रखता है (GrokAI घटना)
पेपर में एक वास्तविक दुनिया की आपदा का उल्लेख है जिसने इस शोध को जन्म दिया। एक मास्क पहने ICE एजेंट ने एक नागरिक की हत्या कर दी। किसी ने AI (GrokAI) का उपयोग करके मास्क हटाने की कोशिश की। AI ने एक ऐसा चेहरा बनाया जो "स्टीव ग्रोव" नामक एक रैंडम व्यक्ति जैसा दिखता था।
क्योंकि AI के अनुमान ने "वास्तविक" दिखने की पर्याप्त क्षमता दिखाई, सोशल मीडिया पर लोगों ने खुद को यकीन दिला लिया कि स्टीव ग्रोव ही हत्यारा था। यह एक पूर्ण गलत पहचान थी जो AI द्वारा एक ऐसे चेहरे की कल्पना (hallucination) करने के कारण हुई जो अस्तित्व में ही नहीं था।
🏁 अंतिम निर्णय
जेनरेटिव AI एक बेहतरीन कलाकार है, लेकिन एक बुरा जासूस है।
- यह क्या अच्छा करता है: यह सुंदर, यथार्थवादी दिखने वाली छवियां बनाता है जो इस आधार पर होती हैं कि वहां क्या होने की संभावना है।
- यह कहाँ विफल होता है: यह किसी विशिष्ट व्यक्ति के चेहरे के सटीक सत्य का पुनर्निर्माण नहीं कर सकता।
मुख्य बात:
यदि आप किसी अपराधी की "AI-अनमास्क्ड" फोटो देखते हैं, तो उस पर भरोसा न करें। वह एक कल्पना (fiction) है, न कि कोई सबूत। इन छवियों का बायोमेट्रिक पहचान (जैसे चेहरे को डेटाबेस से मिलाना) के लिए उपयोग करना वैज्ञानिक रूप से गलत और खतरनाक है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।