Amplification to Synthesis: A Comparative Analysis of Cognitive Operations Before and After Generative AI
यह शोध पत्र 2016 और 2024 के अमेरिकी राष्ट्रपति चुनावों के X (पूर्व में ट्विटर) डेटा का विश्लेषण करता है ताकि यह प्रदर्शित किया जा सके कि संज्ञानात्मक संचालन (cognitive operations) मौलिक रूप से समान सामग्री के बॉट-संचालित प्रवर्धन (bot-driven amplification) से बदलकर जनरेटिव एआई-संचालित संश्लेषण (generative AI-driven synthesis) में परिवर्तित हो गए हैं, जो मूल सामग्री में उछाल, लेक्सिकल ओवरलैप (lexical overlap) में कमी और कथात्मक रूप से केंद्रित समन्वय (narratively concentrated coordination) द्वारा पहचाना जाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि इंटरनेट एक विशाल, शोर-शराबे वाले शहर के चौक की तरह है जहाँ लोग अपनी राय चिल्ला रहे हैं, खबरें साझा कर रहे हैं और दूसरों को अपने दृष्टिकोण से समझाने की कोशिश कर रहे हैं। वर्षों से, सुरक्षा विशेषज्ञ इस चौक पर नज़र रख रहे हैं ताकि "संज्ञानात्मक ऑपरेशन्स" (cognitive operations) को पहचाना जा सके—जो मूल रूप से संगठित अभियान हैं जिन्हें लोगों को चीजों में विश्वास करने या उनका मन बदलने के लिए धोखा देने के लिए डिज़ाइन किया गया है।
यह शोध पत्र इस शहर के चौक के दो विशिष्ट क्षणों की तुलना करता है: 2016 का अमेरिकी राष्ट्रपति चुनाव और 2024 का चुनाव। शोधकर्ता यह देखना चाहते थे कि क्या जेनरेटिव एआई (Generative AI) (जैसे कि चैटबॉट्स जो आपके लिए कहानियाँ लिख सकते हैं) लोकप्रिय होने के बाद "बुरे तत्वों" (bad actors) ने अपनी रणनीति बदल दी है।
यहाँ उन्होंने जो पाया है, उसे सरल उपमाओं के माध्यम से समझाया गया है:
1. "कॉपी-पेस्ट" से "ताज़ा बेक किए गए" (Freshly Baked) की ओर बदलाव
पुराना तरीका (2016):
कल्पना कीजिए कि लोगों का एक समूह अफवाह फैलाने की कोशिश कर रहा है। 2016 में, वे ज्यादातर एक फोटोकॉपी मशीन की तरह काम करते थे। वे एक एकल संदेश ढूंढते थे, उसे हजारों बार प्रिंट करते थे, और उसे हर किसी को थमा देते थे। सोशल मीडिया पर, यह लाखों लोगों द्वारा "रिट्वीट" बटन दबाने जैसा दिखता था।
- डेटा: लगभग 40% संदेश केवल रिट्वीट थे। शब्द लगभग एक जैसे थे, जैसे लोगों का एक समूह एक ही सुर में बिल्कुल एक ही नोट गा रहा हो।
नया तरीका (2024):
2024 तक, फोटोकॉपी मशीन गायब हो गई थी। इसके बजाय, वह समूह घोस्टराइटर्स (ghostwriters) की एक टीम की तरह काम कर रहा था। उन्होंने केवल एक ही संदेश को दोहराया नहीं; उन्होंने हजारों नए किस्से लिखे जो एक ही बात कहते थे लेकिन उनके शब्द पूरी तरह से अलग थे।
- डेटा: लगभग 93% संदेश "मूल पोस्ट" (original posts) थे। "रिट्वीट" बटन का उपयोग शायद ही कभी किया गया (1% से कम)। ऐसा लग रहा था जैसे हर कोई उसी विषय पर अपना अनूठा निबंध लिख रहा हो।
2. "भीड़भाड़ वाले कमरे" से "गुप्त क्लब" की ओर बदलाव
पुराना तरीका (2016):
2016 में, बुरे तत्व एक भीड़भाड़ वाले मोश पिट (mosh pit) की तरह थे। वे सभी एक ही सेकंड में चिल्लाते थे, चाहे वे किसी भी विषय के बारे में चिल्ला रहे हों। यदि एक व्यक्ति मौसम के बारे में चिल्ला रहा था और दूसरा राजनीति के बारे में, तो वे दोनों ठीक दोपहर 2:00 बजे चिल्लाएंगे। शोर का यह "बर्स्ट" (burst) उनकी पहचान थी।
- डेटा: उन्होंने अलग-अलग विषयों पर अपना समय (timing) पूरी तरह से समन्वित (coordinate) किया था। यह हर जगह एक साथ अराजक और शोर भरा था।
नया तरीका (2024):
2024 में, मोश पिट गायब हो गया। इसके बजाय, उन्होंने छोटे, गुप्त क्लब बनाए। उन्होंने अलग-अलग चीजों के बारे में एक ही समय पर चिल्लाना बंद कर दिया। इसके बजाय, वे तब तक इंतजार करते थे जब तक कि वे सभी एक ही विशिष्ट कहानी के बारे में बात नहीं कर रहे होते, और फिर वे सभी एक ही सटीक क्षण में पोस्ट करते थे।
- डेटा: वे अलग-अलग विषयों के बारे में एक ही समय पर शायद ही कभी चिल्लाते थे। लेकिन जब वे एक विशिष्ट कहानी (जैसे कि किसी सेलिब्रिटी का समर्थन) के बारे में बात कर रहे होते थे, तो वे उस समूह के भीतर अपने समय को पूरी तरह से समन्वित करते थे।
3. "रोबोट" से "मानव जैसे लेखकों" की ओर बदलाव
पुराना तरीका (2016):
संदेश इतने समान थे कि वे स्पष्ट रूप से नकली थे। यह एक स्क्रिप्ट पढ़ते हुए रोबोट की तरह था।
- डेटा: शब्द 99% समान थे। यदि आप दो पोस्ट की तुलना करते, तो वे व्यावहारिक रूप से एक ही वाक्य थे।
नया तरीका (2024):
संदेश विविध थे। एक व्यक्ति कह सकता है, "टेलर स्विफ्ट उम्मीदवार का समर्थन करती हैं!" जबकि दूसरा कह सकता है, "पॉप स्टार ने अभी उपराष्ट्रपति के पक्ष में अपना वजन डाला है!" उनका अर्थ एक ही था, लेकिन शब्द पूरी तरह से अलग थे। यह वही है जिसमें जेनरेटिव एआई कुशल है: एक विचार को लेना और उसे सौ अलग तरीकों से फिर से लिखना ताकि वह स्वाभाविक लगे।
- डेटा: शब्द बहुत अलग थे (कम समानता), लेकिन अर्थ एक ही था। यह बिल्कुल वही है जो जेनरेटिव एआई करने में सक्षम है: एक विचार को लेना और उसे सौ अलग तरीकों से फिर से लिखना ताकि वह स्वाभाविक लगे।
बड़ा निष्कर्ष
शोधकर्ता यह नहीं कह रहे हैं कि, "हमने एआई को पकड़ लिया है।" वे कह रहे हैं, "फिंगरप्रिंट बदल गए हैं।"
- AI से पहले: बुरे तत्व मौजूदा सामग्री को प्रवर्धित (amplify/दोहराने) करने के लिए बॉट्स का उपयोग करते थे।
- AI के बाद: बुरे तत्व अब संश्लेषित (synthesize/नया बनाने) करने के लिए एआई का उपयोग करते हुए प्रतीत होते हैं, जिससे नई और अनूठी सामग्री बनती है जो एक ही एजेंडे को आगे बढ़ाती है, जिससे उन्हें पहचानना बहुत कठिन हो जाता है।
शोध पत्र सुझाव देता है कि "बुरे तत्वों" ने अपने टूलकिट को अपग्रेड कर लिया है। वे अब केवल "कॉपी और पेस्ट" नहीं कर रहे हैं; वे ताज़ा, अनूठी कहानियाँ लिखने के लिए एआई का उपयोग कर रहे हैं जो विशिष्ट आख्यानों (narratives) के इर्द-गिर्द पूरी तरह से समन्वित होती हैं, जिससे उन्हें पुराने, दोहराव वाले स्पैम की तुलना में पहचानना बहुत कठिन हो जाता है।
महत्वपूर्ण नोट: लेखक सावधानी बरतते हुए कहते हैं कि उन्होंने यह साबित नहीं किया है कि एआई ने निश्चित रूप से ऐसा किया। उन्होंने बस यह पाया है कि 2024 के पैटर्न बिल्कुल वैसा ही है जैसा कि आप उम्मीद करेंगे यदि कोई एआई का उपयोग कर रहा हो, जबकि 2016 के पैटर्न पुराने स्कूल के बॉट नेटवर्क की तरह दिखते थे। वे भविष्य में इन नए पैटर्न को देखने के लिए सुरक्षा विशेषज्ञों को एक नया "बेसलाइन" प्रदान कर रहे हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।