UC-VLM: Consistency-Driven Learning for AI-Generated Image Detection with Vision-Language Large Models
यह शोध पत्र UC-VLM को प्रस्तुत करता है, जो एक एकीकृत बहु-चरणीय ढांचा (unified multi-stage framework) है जो बाइनरी सुपरविजन का लाभ उठाकर एआई-जनित छवि पहचान (AI-generated image detection) के लिए विजुअल फोरेंसिक संवेदनशीलता को एक साथ बढ़ाने और लेबल-कंडीशन्ड टेक्स्टुअल स्पष्टीकरण उत्पन्न करने का कार्य करता है, जिससे बिना किसी हस्तनिर्मित प्रॉम्प्ट या मानव-एनोटेटेड तर्क पर निर्भर रहे अत्याधुनिक प्रदर्शन प्राप्त होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
पिछले कुछ वर्षों में, कंप्यूटरों ने ऐसी तस्वीरें बनाना सीख लिया है जो वास्तविक कैमरे से ली गई तस्वीरों से अलग नहीं लगतीं। आर्टिफिशियल इंटेलिजेंस द्वारा बनाई गई ये छवियां त्वचा की बनावट, पानी पर प्रकाश के खेल और भीड़भाड़ वाली सड़क की हलचल को आश्चर्यजनक यथार्थवाद के साथ पकड़ सकती हैं। इस क्षमता ने हमारे कला और मीडिया बनाने के तरीके को बदल दिया है, लेकिन इसने एक नई समस्या भी पेश की है: हम कैसे जानें कि क्या वास्तविक है और क्या मशीन द्वारा बनाया गया है? लंबे समय तक, वैज्ञानिकों ने कंप्यूटर को उन सूक्ष्म, अदृश्य त्रुटियों को पहचानने के लिए प्रशिक्षित करके इसे हल करने की कोशिश की जो इन छवियों को बनाने वाले सॉफ्टवेयर द्वारा पीछे छोड़ी जाती हैं, जैसे कि पिक्सेल में अजीब पैटर्न या प्रकाश के व्यवहार में विसंगतियां। हालांकि, जैसे-जैसे सॉफ्टवेयर बेहतर होता जा रहा है, ये त्रुटियां ढूंढना कठिन होता जा रहा है, और पुराने तरीके नई प्रकार की छवियों के सामने अक्सर विफल हो जाते हैं।
एक नया दृष्टिकोण उन बड़े मॉडलों का उपयोग करता है जो छवियों को देख भी सकते हैं और भाषा को समझ भी सकते हैं, ठीक वैसे ही जैसे एक इंसान किसी फोटो को देख सकता है और फिर वह जो देखता है उसका वर्णन कर सकता है। इन मॉडलों से पूछा जा सकता है, "क्या यह छवि वास्तविक है?" और वे एक साधारण "हाँ" या "नहीं" के साथ उत्तर दे सकते हैं, या अपने तर्क को समझाने के लिए एक पैराग्राफ भी लिख सकते हैं। लेकिन इसमें एक पेंच है। इन मॉडलों को इस कार्य में कुशल बनाने के लिए, शोधकर्ताओं को आमतौर पर कंप्यूटर के उत्तर देने के लिए विशिष्ट प्रश्न लिखने और मानव-लिखित स्पष्टीकरण प्रदान करने में बहुत समय खर्च करना पड़ता था कि कोई छवि नकली क्यों है। यह प्रक्रिया धीमी, महंगी और बड़े पैमाने पर लागू करना कठिन है। इसके अलावा, ये मॉडल अक्सर अपने द्वारा उत्पन्न शब्दों पर बहुत अधिक ध्यान केंद्रित करते थे और चित्र में छिपे सूक्ष्म दृश्य संकेतों पर पर्याप्त ध्यान नहीं देते थे।
नेशनल यूनिवर्सिटी ऑफ सिंगापुर के शोधकर्ताओं की एक टीम ने इन भाषा-और-दृष्टि (language-and-vision) मॉडलों को प्रशिक्षित करने का एक नया तरीका विकसित किया है जो मानव-लिखित स्पष्टीकरणों और जटिल निर्देशों की आवश्यकता को समाप्त करता है। वे अपने सिस्टम को UC-VLM कहते हैं। शोधकर्ताओं ने यह करने के बजाय कि मनुष्यों को यह लिखने के लिए लंबी सूचियाँ दी जाएं कि कोई छवि नकली क्यों है, उन्होंने कंप्यूटर को केवल एक सरल लेबल से सीखने दिया जो "वास्तविक" (real) या "निर्मित" (generated) कहता है। उन्होंने पाया कि प्रशिक्षण के दौरान इस सरल लेबल का तीन अलग-अलग तरीकों से पुन: उपयोग करके, वे मॉडल को पिछले किसी भी तरीके की तुलना में नकली छवियों को पहचानने में बहुत बेहतर बना सकते थे।
शोधकर्ताओं ने शुरुआत में यह देखते हुए की थी कि कंप्यूटर की दृष्टि प्रणाली (vision system), जो आमतौर पर बिल्लियों या कारों जैसी वस्तुओं को पहचानने के लिए प्रशिक्षित होती है, AI छवियों में मौजूद सूक्ष्म, अस्वाभाविक गड़बड़ियों को पकड़ने में बहुत अच्छी नहीं थी। इसे ठीक करने के लिए, उन्होंने पहले मॉडल को किसी वस्तु के बड़े स्वरूप को अनदेखा करने और इसके बजाय छोटे, स्थानीय विवरणों पर ध्यान केंद्रित करने के लिए प्रशिक्षित किया। उन्होंने ऐसा मॉडल को एक छवि के केवल छोटे, बिखरे हुए हिस्सों को दिखाकर किया, जिससे उसे किसी दृश्य के समग्र दृश्य के बजाय एक दीवार की बनावट या छाया के पैटर्न पर ध्यान केंद्रित करने के लिए मजबूर किया गया। इस कदम ने मॉडल को उन भौतिक खामियों के प्रति बहुत अधिक संवेदनशील बना दिया जो एक छवि को कृत्रिम प्रकट करती हैं।
इसके बाद, टीम ने मॉडल से सही प्रश्न पूछने की समस्या पर काम किया। उन्होंने पाया कि प्रश्न पूछने का तरीका उस उत्तर को बदल सकता है जो कंप्यूटर देता है। एक प्रश्न जो पूछता है कि क्या छवि "वास्तविक या नकली" है, वह एक ऐसे प्रश्न से अलग परिणाम दे सकता है जो पूछता है कि क्या यह "प्रामाणिक या निर्मित" है। सबसे अच्छा काम करने वाला तरीका अनुमान लगाने के बजाय, शोधकर्ताओं ने एक प्रणाली बनाई जो प्रश्न पूछने के हजारों अलग-अलग तरीकों का स्वचालित रूप से परीक्षण करती थी। सिस्टम ने उन संस्करणों को रखा जो सबसे अच्छा काम करते थे और उन्हें हटा दिया जो विफल रहे, और अंततः निर्देशों के एक विशिष्ट सेट पर स्थिर हो गया जिसने मॉडल के उत्तरों को अधिक स्थिर और विश्वसनीय बना दिया।
अंत में, शोधकर्ताओं ने मॉडल को अपना स्वयं का स्पष्टीकरण लिखने के लिए सरल "वास्तविक" या "निर्मित" लेबल का उपयोग किया। अतीत में, मॉडलों को मानव-लिखित उदाहरणों की आवश्यकता होती थी कि एक अच्छा स्पष्टीकरण कैसा दिखता है। यहाँ, शोधकर्ताओं ने बस मॉडल को बताया, "यदि छवि निर्मित है, तो समझाएं कि यह क्यों निर्मित है," या "यदि यह वास्तविक है, तो समझाएं कि यह क्यों वास्तविक है।" मॉडल ने इस निर्देश के आधार पर अपना तर्क लिखा। ऐसा करके, मॉडल ने अपने दृश्य अवलोकनों को अपने लिखित आउटपुट के साथ जोड़ना सीखा, जबकि उसे उसी सरल लेबल द्वारा निर्देशित किया गया जिसका उपयोग उसके विजन (vision) को प्रशिक्षित करने के लिए किया गया था। इसने एक एकीकृत प्रणाली बनाई जहाँ दृश्य भाग, प्रश्न पूछने वाला भाग और लेखन भाग सभी एक ही पर्यवेक्षण के तहत मिलकर काम करते थे।
जब शोधकर्ताओं ने इस नई प्रणाली का परीक्षण किया, तो परिणाम चौंकाने वाले थे। जेनइमेज (GenImage) नामक छवियों के एक बड़े संग्रह पर, जिसमें विभिन्न AI उपकरणों द्वारा बनाई गई लाखों तस्वीरें शामिल हैं, नए मॉडल ने 96.1 प्रतिशत की औसत सटीकता प्राप्त की। यह पिछले सर्वोत्तम तरीकों से काफी अधिक था, जो लगभग 91.5 प्रतिशत तक पहुँच पाए थे। मॉडल ने 'कैमेलियन' (Chameleon) नामक एक अधिक कठिन परीक्षण पर भी असाधारण प्रदर्शन किया, जिसमें अत्यधिक यथार्थवादी दिखने वाली उच्च-रिज़ॉल्यूशन वाली छवियां शामिल हैं। इस परीक्षण में, नए सिस्टम ने कुछ प्रकार के AI जनरेटरों पर मौजूदा सर्वोत्तम विधि की तुलना में सटीकता में 11 प्रतिशत से अधिक सुधार किया, और अन्य पर 15 प्रतिशत से अधिक सुधार किया।
अध्ययन ने यह भी दिखाया कि मॉडल बहुत अधिक सुसंगत था। यदि आप एक ही प्रश्न को थोड़े अलग तरीकों से पूछते हैं, तो पुराने मॉडल अलग-अलग उत्तर दे सकते हैं, लेकिन यह नया सिस्टम स्थिर रहता है। इसने विशिष्ट दृश्य संकेतों को खोजना सीखा, जैसे कि त्वचा में अस्वाभाविक चिकनापन, असंगत छाया, या पृष्ठभूमि में अजीब पैटर्न, और यह इन निष्कर्षों को एक संरचित तरीके से वर्णित कर सकता था। शोधकर्ताओं ने नोट किया कि मॉडल पूर्ण नहीं है; यह अभी भी बहुत उच्च गुणवत्ता वाली छवियों या उन कलात्मक शैलियों द्वारा मूर्ख बनाया जा सकता है जो फोटोग्राफ की तरह नहीं दिखते हैं। हालांकि, कंप्यूटर की आँखों और शब्दों दोनों को प्रशिक्षित करने के लिए सरल लेबल का पुन: उपयोग करने वाले एक एकीकृत दृष्टिकोण पर भरोसा करके, उन्होंने एक ऐसा उपकरण बनाया है जो पहले की तुलना में कहीं अधिक मजबूत और स्केलेबल है। यह कार्य बताता है कि हमें शक्तिशाली डिटेक्टर बनाने के लिए महंगे मानव एनोटेशन की आवश्यकता नहीं है; हमें बस कंप्यूटर को बार-बार, अलग-अलग तरीकों से, स्वयं सत्य से सीखने का तरीका खोजने की आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।