AI assistance and error communication in deepfake evidence evaluation: A systematic review of human authenticity judgments

आधुनिक दुनिया में, एक वीडियो रिकॉर्डिंग को अक्सर सत्य के एक अपरिवर्तनीय रिकॉर्ड के रूप में माना जाता है। यदि कोई कैमरा किसी व्यक्ति को बोलते हुए कैप्चर करता है, तो यह धारणा होती है कि वह व्यक्ति वहीं था, और वे शब्द उसी क्षण कहे गए थे। यह विश्वास आपराधिक जांच और कानूनी निर्णयों की रीढ़ बनता है। हालांकि, 'डीपफेक जनरेशन' नामक एक नई तकनीक ने इस निश्चितता को बाधित कर दिया है। ये प्रणालियाँ ऐसे वीडियो बना सकती हैं जहाँ किसी व्यक्ति का चेहरा और आवाज़ इतनी कुशलता से बदली या परिवर्तित की जा सकती है कि वह घटना वास्तव में कभी हुई ही नहीं थी। जांचकर्ताओं के लिए समस्या केवल इन नकली वीडियोों को पहचानना नहीं है; बल्कि यह समझना है कि उन कंप्यूटर उपकरणों का उपयोग कैसे किया जाए जो उन्हें पहचानने का दावा करते हैं। जब एक मानव न्यायाधीश या पुलिस अधिकारी को एक वीडियो दिखाया जाता है और साथ ही एक कंप्यूटर की राय दी जाती है कि "यह नकली है," तो वह सलाह उनके मन को कैसे बदलती है? क्या कंप्यूटर उन्हें सत्य देखने में मदद करता है, या यह उन्हें ऐसी गलतियाँ करने के लिए भ्रमित करता है जो वे अकेले नहीं करते?

यह प्रश्न हाल ही में शोधकर्ता हार्डियांतो डैंगगी द्वारा किए गए एक व्यवस्थित समीक्षा (systematic review) का केंद्र है। इस अध्ययन ने किसी नए कंप्यूटर प्रोग्राम का परीक्षण नहीं किया या कोई एकल प्रयोग नहीं चलाया। इसके बजाय, इसने सात मौजूदा अध्ययनों को एकत्र और विश्लेषण किया जिन्होंने विशेष रूप से इस बात पर गौर किया कि जब मनुष्य किसी वीडियो या छवि के वास्तविक होने के निर्णय के दौरान कृत्रिम बुद्धिमत्ता (AI) से सहायता प्राप्त करते हैं, तो वे कैसे प्रतिक्रिया करते हैं। शोधकर्ता यह जानना चाहते थे कि क्या यह सहायता मानवीय निर्णय की सटीकता में सुधार करती है, सलाह देने का तरीका कितना महत्वपूर्ण है, और क्या इन निष्कर्षों पर अदालत में भरोसा किया जा सकता है। समीक्षा में पाया गया कि उत्तर एक सरल "हाँ" या "नहीं" नहीं है। AI का मूल्य पूरी तरह से इस बात पर निर्भर करता है कि सलाह सही है या नहीं और उसे मानव को कैसे दिखाया जाता है।

समीक्षा ने उन प्रयोगों का परीक्षण किया जहाँ लोगों ने वीडियो देखे या चेहरों को देखा और तय किया कि वे प्रामाणिक हैं या हेरफेर किए गए हैं। कुछ मामलों में, प्रतिभागियों को अपना अंतिम निर्णय लेने से पहले एक कंप्यूटर मॉडल से भविष्यवाणी दी गई थी। अन्य मामलों में, उन्होंने दृश्य सुराग देखे, जैसे कि हाइलाइट किए गए क्षेत्र जहाँ कंप्यूटर को लगा कि कोई नकली चीज़ छिपी हुई है, या उन्हें बताया गया कि कंप्यूटर आमतौर पर कितना विश्वसनीय है। परिणामों ने दिखाया कि जब कंप्यूटर ने सही सलाह दी, तो इसने अक्सर लोगों को सही उत्तर पाने में मदद की। उदाहरण के लिए, वीडियो क्लिप्स से जुड़े एक अध्ययन में, कंप्यूटर की भविष्यवाणी दिखाने से सही पहचान दर 66 प्रतिशत से बढ़कर 73 प्रतिशत हो गई। हालाँकि, अध्ययन ने एक खतरनाक दुष्प्रभाव भी प्रकट किया: जब कंप्यूटर ने गलत सलाह दी, तो लोग उसका अनुसरण करने लगे, भले ही वह उन्हें गलत निष्कर्ष की ओर ले गया हो। सहायता ने उन्हें केवल स्मार्ट नहीं बनाया; इसने उन्हें विशिष्ट गलतियाँ करने के लिए भी अधिक प्रवृत्त किया यदि उपकरण स्वयं त्रुटिपूर्ण था।

सूचना को कैसे प्रस्तुत किया गया, यह सूचना के महत्व जितना ही महत्वपूर्ण था। एक अध्ययन ने सरल टेक्स्ट लेबल और उन विजुअल डिस्प्ले की तुलना की जो डीपफेक निर्माण के कारण छोड़े गए सूक्ष्म, अस्वाभाविक आर्टिफैक्ट्स (artifacts) को बढ़ाकर दिखाते थे। विजुअल डिस्प्ले ने लोगों के निर्णयों में उनका आत्मविश्वास बढ़ाया और उन्हें कंप्यूटर के मूल्यांकन को स्वीकार करने के लिए अधिक प्रेरित किया। फिर भी, यह आत्मविश्वास हमेशा सही होने का संकेत नहीं था। एक अन्य प्रयोग में, शोधकर्ताओं ने प्रतिभागियों को बताया कि एक कंप्यूटर बहुत सटीक है, लेकिन कंप्यूटर का वास्तविक प्रदर्शन उस दावे से मेल नहीं खाता था। प्रतिभागियों ने कंप्यूटर पर अधिक भरोसा किया जब उन्हें बताया गया कि वह बेहतर है, भले ही अंतर्निहित तकनीक वही थी। यह सुझाव देता है कि त्रुटि दर को कैसे संप्रेषित किया जाता है, यह इस बात को बदल सकता है कि एक व्यक्ति उपकरण पर कितना निर्भर करता है, चाहे वह उपकरण वास्तव में जैसा वादा किया गया है वैसा प्रदर्शन कर रहा हो या नहीं।

समीक्षा ने यह भी देखा कि सलाह का स्रोत मायने रखता है या नहीं। एक प्रयोग में, प्रतिभागियों को बिल्कुल समान मार्गदर्शन दिया गया था, लेकिन इसे कभी आर्टिफिशियल इंटेलिजेंस से आता हुआ बताया गया और कभी एक मानव से। प्रतिभागियों ने यह नहीं बदला कि वे किसे सलाह देने वाला मान रहे थे, जिससे अंतिम निर्णयों की सटीकता में कोई बदलाव नहीं आया। यह निष्कर्ष इस विचार को चुनौती देता है कि लोग स्वचालित रूप से मनुष्यों की तुलना में मशीनों पर अधिक भरोसा करते हैं, या वे कंप्यूटर के प्रति स्वाभाविक रूप से संदिग्ध होते हैं। इसके बजाय, सलाह की गुणवत्ता और अंतर्निहित डेटा की शुद्धता ही सफलता या विफलता के वास्तविक चालक थे। शोधकर्ताओं ने नोट किया कि इनमें से कई अध्ययनों में, प्रतिभागियों को दी गई सलाह पूर्ण या सिम्युलेटेड (simulated) थी, जिसका अर्थ है कि प्रयोगों में पूरी तरह से यह परीक्षण नहीं किया गया कि तब क्या होता है जब एक वास्तविक दुनिया का डिटेक्टर गलती करता है।

इस शोध की एक महत्वपूर्ण सीमा यह है कि इनमें से किसी भी अध्ययन ने यह परीक्षण नहीं किया कि ये उपकरण वास्तविक आपराधिक मुकदमे में कैसे काम करते हैं। प्रयोगों में साधारण लोगों ने लैब या ऑनलाइन त्वरित निर्णय लिए थे, न कि न्यायाधीशों या वकीलों ने जो किसी प्रतिवादी के भाग्य का फैसला कर रहे हों। समीक्षा में कोई प्रमाण नहीं मिला कि इन उपकरणों का उपयोग वास्तविक कानूनी मामलों में अधिक सटीक निर्णयों की ओर ले जाता है। अध्ययनों ने यह भी नहीं मापा कि क्या लोग सही ढंग से पहचान सकते थे कि किसने नकली वीडियो बनाया या वीडियो में मौजूद व्यक्ति ने वास्तव में अपराध किया था या नहीं। शोध ने केवल इस संकीर्ण प्रश्न को संबोधित किया कि क्या एक वीडियो असली दिखता है या नकली। यह अंतर महत्वपूर्ण है क्योंकि एक वीडियो तकनीकी रूप से प्रामाणिक हो सकता है लेकिन फिर भी एक भ्रामक कहानी बताने के लिए उपयोग किया जा सकता है, या एक नकली वीडियो का उपयोग किसी हानिरहित उद्देश्य के लिए किया जा सकता है।

लेखक निष्कर्ष निकालते हैं कि इस क्षेत्र में मनुष्यों और AI के बीच का संबंध जटिल है। सहायता, विश्वास और सटीक निर्णय तीन अलग चीजें हैं। एक व्यक्ति किसी उपकरण पर भरोसा कर सकता है और उससे सहमत हो सकता है, लेकिन फिर भी गलत हो सकता है। समीक्षा सुझाव देती है कि आपराधिक साक्ष्य में इन उपकरणों के उपयोगी होने के लिए, उनके बारे में संचार बहुत सटीक होना चाहिए। विशेषज्ञों को ठीक से समझाना चाहिए कि उपकरण किन स्थितियों के तहत परीक्षण किया गया था और वह क्या नहीं कर सकता है। उन्हें "यह रिकॉर्डिंग नकली है" जैसे व्यापक दावों के बजाय "इस फ़ाइल में एक विशिष्ट प्रकार के हेरफेर से जुड़े लक्षण हैं" जैसे विशिष्ट, परीक्षण योग्य कथनों पर टिके रहना चाहिए। अध्ययन पारदर्शिता की आवश्यकता पर भी प्रकाश डालता है। यदि कोई टूल वीडियो में किसी संदिग्ध क्षेत्र को हाइलाइट करता है, तो मूल वीडियो उपलब्ध रहना चाहिए ताकि अन्य लोग यह जांच सकें कि हाइलाइटिंग टूल स्वयं सही ढंग से काम कर रहा है या नहीं।

अंततः, यह समीक्षा एक उत्सव के बजाय एक चेतावनी मार्गदर्शिका के रूप में कार्य करती है। यह दिखाती है कि हालांकि AI सहायता मनुष्यों द्वारा डीपफेक का पता लगाने में सुधार कर सकती है, लेकिन यह नए जोखिम भी पैदा करती है यदि सलाह गलत हो या यदि मानव मशीन पर बहुत अधिक निर्भर हो जाए। निष्कर्ष बताते हैं कि कानूनी सेटिंग में, ध्यान इस बात पर नहीं होना चाहिए कि एक उपकरण आत्मविश्वास को कितना बढ़ाता है, बल्कि इस पर होना चाहिए कि क्या यह लोगों को सहायक सलाह और भ्रामक त्रुटियों के बीच अंतर करने में मदद करता है। जब तक इन उपकरणों का वास्तविक कानूनी परिदृश्यों में परीक्षण नहीं किया जाता है जिनमें वास्तविक परिणाम होते हैं, तब तक न्याय सुनिश्चित करने की उनकी क्षमता एक खुला प्रश्न बनी रहेगी। आगे का रास्ता सावधानीपूर्वक परीक्षण, सीमाओं के स्पष्ट संचार और एक ऐसे मानव की आवश्यकता पर जोर देता है जो केवल कंप्यूटर की बात मानने के बजाय काम की जाँच करने में सक्षम हो।