Propaganda Forensics: Recovering the Generation Pipeline of an AI-Driven Influence Campaign
यह शोध पत्र PROPAGIA को प्रस्तुत करता है, जो 2025 के स्टॉर्म-1516 (Storm-1516) अभियान से एआई-जनित फ्रांसीसी दुष्प्रचार का एक फोरेंसिक संग्रह है, जो हेरफेर के विशिष्ट भाषाई संकेतों को प्रकट करता है, लीक हुए प्रॉम्प्ट निर्देशों को उजागर करता है, और सामग्री को Llama 3 और Mistral परिवार के मॉडलों वाले एक पाइपलाइन से जोड़ता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक सूचना परिदृश्य में, कृत्रिम बुद्धिमत्ता (AI) की तीव्र प्रगति से उत्पन्न एक नए प्रकार का शोर उभरा है। बड़े भाषा मॉडल (Large Language Models), जो मानव जैसे पाठ उत्पन्न करने में सक्षम शक्तिशाली कंप्यूटर प्रणालियाँ हैं, ने औद्योगिक स्तर पर समाचार लेख बनाने की बाधा को कम कर दिया है। हालाँकि इन उपकरणों की उपयोगिता के लिए अक्सर प्रशंसा की जाती है, लेकिन इनका एक दोहरा स्वभाव है: इनका उपयोग मौजूदा कहानियों को जनमत को प्रभावित करने के उद्देश्य से से पुनर्गठित करने के लिए किया जा सकता है। यह घटना, जिसे कभी-कभी "स्लॉपगांडा" (slopaganda) कहा जाता है, वास्तविक समाचारों को लेकर उन्हें एक विशिष्ट, अक्सर भ्रामक, विमर्श (नैरेटिव) के अनुरूप ढालने से जुड़ी है। शोधकर्ताओं के लिए चुनौती अब केवल स्पष्ट झूठ को पकड़ना नहीं है, बल्कि वास्तविक पत्रकारिता और उस सामग्री के बीच अंतर करना है जिसे प्रामाणिक दिखने के लिए एल्गोरिदम द्वारा बदला गया है। यह समझने के लिए कि यह हेरफेर कैसे काम करता है, वैज्ञानिकों को फोरेंसिक विश्लेषकों के रूप में कार्य करना होगा, जो उस पाठ को बनाने वाली मशीनों द्वारा छोड़े गए डिजिटल पदचिह्नों (डिजिटल फिंगरप्रिंट्स) की जांच करते हैं।
सोरबोन विश्वविद्यालय और एयरबस सहित संस्थानों के शोधकर्ताओं की एक टीम ने हाल ही में 'स्टॉर्म-1516' (Storm-1516) नामक एक विशिष्ट, बड़े पैमाने के प्रभाव अभियान पर ध्यान केंद्रित किया। इस ऑपरेशन ने, जिसने फ्रांसीसी दर्शकों को लक्षित किया, अस्सी-चार वेबसाइटों का एक नेटवर्क चलाया जो ले मोंड (Le Monde) और फ्रांस टेलीविज़न (France Télévisions) जैसे वैध समाचार आउटलेट्स का रूप धारण किए हुए थे। इन साइटों ने हजारों लेख प्रकाशित किए जो मानक समाचारों की तरह प्रतीत होते थे, लेकिन वास्तव में वे प्रो-रशियन नैरेटिव फैलाने के एक समन्वित प्रयास का हिस्सा थे। शोधकर्ताओं ने इन लेखों के 2,646 लेखों को एक नए संग्रह में एकत्र किया जिसका नाम उन्होंने 'प्रोपैगिया' (PROPAGIA) रखा। यह समझने के लिए कि ये पाठ वास्तविक पत्रकारिता से कैसे भिन्न थे, उन्होंने इनकी तुलना एक नियंत्रण समूह (control group) से की, जिसमें एक प्रमुख फ्रांसीसी दैनिक समाचार पत्र, ओएस्ट-फ्रांस (Ouest-France) द्वारा उसी समयावधि के दौरान लिखे गए 2,385 लेख शामिल थे। लक्ष्य न केवल यह निर्धारित करना था कि पाठ मशीनों द्वारा लिखे गए थे या नहीं, बल्कि उन विशिष्ट निर्देशों को उजागर करना भी था जो मशीनों को दिए गए थे और उस कृत्रिम बुद्धिमत्ता मॉडल के परिवार की पहचान करना था जो इसके लिए जिम्मेदार था।
जांच का पहला चरण लेखन की शैली और स्वर का विश्लेषण करना था। शोधकर्ताओं ने पाया कि PROPAGIA संग्रह के लेख मानव-लिखित लेखों की तुलना में काफी अधिक अस्पष्ट और व्यक्तिपरक थे। जहाँ एक वास्तविक पत्रकार आमतौर पर विशिष्ट स्रोतों का उल्लेख करेगा, विशेषज्ञों का नाम लेगा, या ठोस विवरण प्रदान करेगा, वहीं AI-जनित पाठ अत्यधिक सामान्य कथनों और भावनात्मक भाषा पर निर्भर थे। प्रचार संबंधी लेख बहुत अधिक नकारात्मक भी थे, जो अक्सर घटनाओं के इर्द-गिर्द भय या अतिशयोक्ति की भावना पैदा करते थे। वे बाहरी आवाजों का संदर्भ बहुत कम देते थे, और सत्यापन योग्य तथ्यों के स्थान पर लेखक के अपने दावों को रख देते थे। यह पैटर्न एक जानबूझकर अपनाई गई रणनीति का सुझाव देता है जिसमें तथ्यात्मक रिपोर्टिंग को राय (ओपिनियन) से बदलने का प्रयास किया गया है, एक ऐसी तकनीक जो सामग्री को तथ्य-जांच (फैक्ट-चेक) के लिए कठिन और भावनात्मक हेरफेर के लिए आसान बनाती है।
मशीनी भागीदारी का सबसे प्रत्यक्ष प्रमाण एक आश्चर्यजनक स्रोत से मिला: स्वयं पाठ से। निवासी वेबसाइटों में से पचास में, शोधकर्ताओं ने पाया कि कृत्रिम बुद्धिमत्ता ने अनजाने में अपने स्वयं के निर्देशों के कुछ हिस्सों को पीछे छोड़ दिया था। ये "लीक्स" (leaks) प्रकाशित लेखों के भीतर नोट्स या चेकलिस्ट के रूप में दिखाई दिए, जो ऑपरेटरों द्वारा मशीन को दिए गए सटीक कमांड को प्रकट करते थे। ऐसे एक दस्तावेज़ में दस-बिंदु वाला संपादकीय विनिर्देश सूचीबद्ध था, जिसमें मॉडल को कहानियों को इस तरह से फिर से लिखने का निर्देश दिया गया था कि अन्य मीडिया के उल्लेखों से बचा जा सके, विशिष्ट राजनीतिक नेताओं की निंदा की जा सके, और रूसी राष्ट्रपति को सकारात्मक प्रकाश में प्रस्तुत किया जा सके। इन निर्देशों ने पाठ में देखे गए पैटर्न की व्याख्या की: स्रोतों की कमी, नकारात्मक स्वर और विशिष्ट राजनीतिक झुकाव कोई यादृच्छिक त्रुटियां नहीं थीं, बल्कि एक सख्त, स्वचालित रेसिपी का परिणाम थीं। इन लीक्स की उपस्थिति ने पुष्टि की कि सामग्री न केवल एक पक्षपाती मानव द्वारा लिखी गई थी, बल्कि नियमों के एक कठोर सेट का पालन करने वाली मशीन द्वारा उत्पन्न की गई थी।
यह निर्धारित करने के लिए कि किस विशिष्ट प्रकार की कृत्रिम बुद्धिमत्ता का उपयोग किया गया था, शोधकर्ताओं ने एक ऐसी विधि का उपयोग किया जिससे यह परीक्षण किया जा सके कि विभिन्न मॉडल पाठ के प्रति कैसे प्रतिक्रिया करते हैं। उन्होंने कई अलग-अलग AI सिस्टम को लेखों को फिर से लिखने के लिए कहा, और यह देखा कि प्रत्येक सिस्टम मूल शब्दावली को कितना बदलता है। तर्क यह था कि यदि किसी AI मॉडल ने मूल रूप से कोई पाठ लिखा है, तो वह अपने काम को महत्वपूर्ण रूप से बदलने की संभावना कम रखेगा, तुलनात्मक रूप से उस पाठ के, जिसे मानव द्वारा लिखा गया है। परिणामों ने एक स्पष्ट पैटर्न दिखाया: खुफिया एजेंसियों द्वारा इस अभियान के पीछे संदिग्ध माने गए मॉडलों, विशेष रूप से 'लामा 3' (Llama 3) परिवार के मॉडलों ने, प्रचार लेखों को सबसे कम परिवर्तित किया। दिलचस्प बात यह है कि 'मिस्ट्रल' (Mistral) परिवार के मॉडलों ने भी एक समान पैटर्न दिखाया, जिससे पता चलता है कि अभियान में संबंधित तकनीकों का मिश्रण हो सकता है या इन विभिन्न परिवारों के अंतर्निहित लक्षण समान हैं।
अध्ययन ने निष्कर्ष निकाला कि स्टॉर्म-1516 अभियान एक परिष्कृत ऑपरेशन था जो प्रचार का बड़े पैमाने पर उत्पादन करने के लिए जेनेरेटिव AI की एक पाइपलाइन पर निर्भर था। पाठ में अस्पष्टता के संकेतों का विश्लेषण करके, लीक हुए निर्देशों को खोजकर, और यह परीक्षण करके कि विभिन्न मॉडल सामग्री को कैसे फिर से लिखते हैं, शोधकर्ता पीढ़ी प्रक्रिया (generation process) को पुनर्गठित करने में सक्षम हुए। उन्होंने पाया कि अभियान ने एक विशिष्ट सेट निर्देशों का उपयोग किया ताकि AI को नकारात्मक, स्रोत-रहित नैरेटिव बनाने के लिए मजबूर किया जा सके जो वास्तविक समाचारों की शैली की नकल करते हों। हालांकि शोधकर्ता सटीक एकल मॉडल का पता लगाने में सफल नहीं रहे, लेकिन उनके साक्ष्य ने दृढ़ता से संकेत दिया कि 'लामा 3' परिवार के मॉडल इस ऑपरेशन के केंद्र में थे, संभवतः मिस्ट्रल मॉडलों के साथ मिलकर। यह फोरेंसिक कार्य भविष्य के AI-संचालित प्रभाव अभियानों का पता लगाने और समझने के लिए एक ब्लूप्रिंट प्रदान करता है, जो केवल पहचान (डिटेक्शन) से आगे बढ़कर यह समझने की ओर बढ़ता है कि हेरफेर को कैसे इंजीनियर किया जाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।