Authorship Impersonation via LLM Prompting does not Evade Authorship Verification Methods
यह अध्ययन प्रदर्शित करता है कि लार्ज लैंग्वेज मॉडल्स की सुलभता के बावजूद, वर्तमान लेखक सत्यापन प्रणालियाँ शुरुआती स्तर के प्रतिरूपण प्रयासों के विरुद्ध सुदृढ़ बनी हुई हैं क्योंकि एलएलएम-जनित पाठ विशिष्ट लेखक संबंधी व्यक्तित्व को दोहराने में विफल रहते हैं और अक्सर उच्च शाब्दिक विविधता प्रदर्शित करते हैं जो उनके पता लगाने में सहायता करती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य सवाल: क्या AI किसी व्यक्ति की लेखन शैली की नकल कर सकता है?
कल्पना कीजिए कि आप एक जासूस हैं जो किसी अपराध को सुलझाने की कोशिश कर रहे हैं। आपको एक संदिग्ध टेक्स्ट मैसेज या ईमेल मिलता है और आपको यह जानना है: क्या यह संदिग्ध ने लिखा है, या किसी और ने संदिग्ध होने का ढोंग करते हुए इसे लिखा है?
वर्षों से, बुरे लोगों ने जांचकर्ताओं को धोखा देने के लिए अपनी लेखन शैली को "फर्जी" बनाने की कोशिश की है। लेकिन अब, सुपर-स्मार्ट AI (जैसे कि वह जिससे आप अभी बात कर रहे हैं) के उदय के साथ, एक नया डर पैदा हो गया है: क्या एक AI को एक ऐसा सटीक जालसाजी (forgery) बनाने के लिए बहकाया जा सकता है जिसे बेहतरीन फॉरेंसिक विशेषज्ञ भी न पकड़ सकें?
यह शोध पत्र पूछता है: यदि कोई अपराधी किसी व्यक्ति के लेखन की नकल करने के लिए AI का उपयोग करता है, तो क्या AI पुलिस और अदालतों द्वारा उपयोग किए जाने वाले कंप्यूटर सिस्टम को बेवकूफ बनाने में सफल होगा?
प्रयोग: "स्टाइल स्वैप" चुनौती
शोधकर्ताओं ने इसका परीक्षण करने के लिए एक डिजिटल "डकैती" (heist) तैयार की। उन्होंने यह खेल इस प्रकार खेला:
- पात्र (The Cast): उन्होंने तीन अलग-अलग समूहों के लोगों के वास्तविक लेखन नमूने एकत्र किए:
- कॉर्पोरेट ईमेल: गंभीर, औपचारिक लेखन (जैसे एक बॉस अपने कर्मचारी को लिखता है)।
- टेक्स्ट मैसेज: दोस्तों के बीच छोटे, अनौपचारिक और अव्यवस्थित चैट।
- सोशल मीडिया पोस्ट: ट्वीट्स और छोटे अपडेट।
- अपराधी (The AI): उन्होंने एक शक्तिशाली AI (GPT-4o) का उपयोग किया और उसे एक "मिशन" दिया। मिशन था: "ये कुछ टेक्स्ट हैं जो व्यक्ति A द्वारा लिखे गए हैं। अब, व्यक्ति B द्वारा लिखी गई इस नई कहानी को लें और इसे इस तरह से फिर से लिखें कि यह बिल्कुल वैसा लगे जैसे व्यक्ति A ने इसे लिखा हो।"
- औज़ार (The Detectives): उन्होंने AI के काम की जाँच करने के लिए छह अलग-अलग "जासूसी प्रणालियों" (कंप्यूटर प्रोग्रामों) का उपयोग किया। कुछ पुराने गणित-आधारित उपकरण थे, और कुछ आधुनिक, मस्तिष्क जैसे न्यूरल नेटवर्क थे।
- ट्विस्ट: उन्होंने AI को काम करने के लिए चार अलग-अलग तरीकों से निर्देश देने की कोशिश की:
- "नाइव" (Naive) पूछना: बस कहना "इस व्यक्ति होने का नाटक करो।"
- "सेल्फ-कोच" (Self-Coach) पूछना: AI से पहले यह योजना बनाने के लिए कहना कि उस व्यक्ति कैसे बना जाए, और फिर उसे करने के लिए कहना।
- "रोल-प्ले" (Role-Play) पूछना: AI को बताना, "अब आप एक लेखन सहायक हैं जो लोगों की नकल करने में माहिर है।"
- "ट्री ऑफ थॉट्स" (Tree of Thoughts) पूछना: AI को कई योजनाएं सोचने, सबसे अच्छी योजना पर वोट करने और फिर टेक्स्ट लिखने के लिए कहना।
परिणाम: AI जासूसों को छकाने में विफल रहा
परिणाम आश्चर्यजनक थे। AI की उन्नत क्षमताओं के बावजूद, यह फॉरेंसिक सिस्टम को धोखा देने में विफल रहा।
- फैसला: लगभग हर बार, जासूसी प्रणालियों ने AI द्वारा जनरेट किए गए टेक्स्ट को देखा और कहा, "नहीं। यह वह व्यक्ति नहीं है जिसका आप दावा कर रहे हैं।"
- स्कोर: सिस्टम ने AI को बहुत कम स्कोर दिया, जिसका अर्थ है कि वे पूरी तरह आश्वस्त थे कि टेक्स्ट एक नकली रचना है।
- "सुपर-कॉन्फिडेंट" ट्विस्ट: कुछ मामलों में, जब टेक्स्ट AI द्वारा लिखा गया था, तब जासूसी सिस्टम अन्य असली अजनबियों द्वारा लिखे गए टेक्स्ट की तुलना में और भी अधिक आश्वस्त थे कि वह फर्जी है।
AI क्यों विफल हुआ? "बहुत अधिक परफेक्ट" होने की समस्या
आप सोच सकते हैं, "अगर AI इतना स्मार्ट है, तो यह शैली की नकल क्यों नहीं कर सका?"
शोधकर्ताओं को एक मजेदार कारण मिला: AI बहुत अधिक विविध (diverse) था।
एक मानव लेखक को एक संगीतकार की तरह समझें जो एक विशिष्ट वाद्य यंत्र बजाता है। उनका एक "सिग्नेचर साउंड" होता है। वे हमेशा एक विशिष्ट प्रकार की ड्रम बीट या एक विशिष्ट कॉर्ड प्रोग्रेशन का उपयोग कर सकते हैं। वे सुसंगत होते हैं, भले ही वे गलतियाँ करते हों।
हालांतु, AI एक ऐसे संगीतकार की तरह है जिसने दुनिया के हर वाद्य यंत्र को बजाया है। जब उसे एक विशिष्ट शैली की नकल करने के लिए कहा जाता है, तो AI एक साथ सब कुछ बनने की कोशिश करता है।
- इंसान कुछ शब्दों और वाक्यांशों को दोहराते हैं (जैसे एक हस्ताक्षर)।
- AI शब्दों की एक विशाल विविधता का उपयोग करता है और शायद ही कभी उसी तरह खुद को दोहराता है।
क्योंकि AI का लेखन इतना "समृद्ध" और विविध (उच्च एंट्रॉपी) था, इसलिए वह वास्तव में एक अलग ही पहचान बना रहा था। यह ऐसा था जैसे किसी हीरे से जड़े हुए deatwatch को एक सस्ते प्लास्टिक के वॉच के रूप रूप में पेश करने की कोशिश करना; नकली की अत्यधिक जटिलता ने ही उसे पकड़वा दिया। फॉरेंसिक सिस्टमों ने गौर किया, "यह लेखन एक सामान्य इंसान के मुकाबले बहुत अधिक परफेक्ट और बहुत अधिक विविध है।"
वास्तविक दुनिया के लिए सबक
- वर्तमान प्रणालियाँ सुरक्षित हैं: फिलहाल, यदि कोई अपराधी किसी व्यक्ति को फंसाने के लिए किसी टेक्स्ट मैसेज या ईमेल की नकल करने के लिए मानक AI का उपयोग करने की कोशिश करता है, तो अदालत में उपयोग किए जाने वाले फॉरेंसिक उपकरण उन्हें पकड़ लेंगे। AI अभी इतना "गुप्त" (stealthy) नहीं है।
- "मानवीय" कारक: जबकि कंप्यूटर AI को पहचान सकते हैं, शोध पत्र नोट करता है कि आम लोग (जैसे कि जीवनसाथी या मित्र) अभी भी धोखा खा सकते हैं। यदि आपको अपने मित्र जैसा दिखने वाला कोई टेक्स्ट मिलता है, तो आप मान सकते हैं कि यह असली है, भले ही एक कंप्यूटर जानता हो कि यह नकली है।
- भविष्य: शोधकर्ता चेतावनी देते हैं कि यह केवल "शुरुआती स्तर" की हैकिंग है। यदि अपराधी अधिक उन्नत ट्रिक्स (जैसे कि AI को विशेष रूप से एक व्यक्ति के डेटा पर प्रशिक्षित करना या AI को अपनी गलतियों से सीखने के लिए कहना) का उपयोग करना शुरू करते हैं, तो खेल बदल सकता है। लेकिन अभी के लिए, "AI प्रतिरूपण" (AI Impersonation) का खतरा उतना डरावना नहीं है जितना कि फिल्मों में दिखाया जाता है।
संक्षेप में
यह शोध पत्र एक बैंक की सुरक्षा परीक्षा की तरह है। उन्होंने एक हाई-टेक रोबोट (AI) का उपयोग करके घुसपैठ करने की कोशिश की। रोबोट ने सुरक्षा गार्ड की आवाज़ और चाल की नकल करने की कोशिश की। लेकिन सुरक्षा कैमरे (फॉरेंसिक टूल्स) तुरंत देख लेते हैं कि रोबोट की आवाज़ बहुत स्पष्ट थी और उसकी चाल बहुत सहज थी। रोबोट घुसने में विफल रहा।
फिलहाल, हमारे लेखन की डिजिटल ताले अभी भी मजबूत हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।