Beyond speculation: Measuring the growing presence of LLM-generated texts in multilingual disinformation
यह अध्ययन चैटजीपीटी (ChatGPT) की रिलीज़ के बाद वास्तविक दुनिया के बहुभाषी दुष्प्रचार डेटासेट में एलएलएम (LLM) द्वारा निर्मित सामग्री की बढ़ती उपस्थिति का पहला अनुभवजन्य प्रमाण प्रदान करता है, जो इस खतरे के वास्तविक पैमाने पर विद्वानों की बहस को पाटने के लिए भाषाओं, प्लेटफार्मों और समय अवधियों में विशिष्ट पैटर्न को प्रलेखित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य चित्र: क्या "रोबोट पेन" झूठ लिख रहा है?
एक ऐसी दुनिया की कल्पना करें जहाँ कोई भी एक सुपर-स्मार्ट, तुरंत लिखने वाले पेन (एक लार्ज लैंग्वेज मॉडल, या LLM) को उठा सकता है जो लगभग किसी भी भाषा में कहानियाँ, समाचार और पोस्ट लिख सकता है। ChatGPT जैसे टूल्स के रिलीज़ होने के बाद से, लोग चिंतित हैं: क्या इस पेन का उपयोग फर्जी खबरें और झूठ (गलत सूचना) लिखने के लिए किया जा रहा है?
लंबे समय तक, विशेषज्ञ गोल-गोल घूमकर बहस कर रहे थे। कुछ ने कहा, "चिंता न करें, इंटरनेट बहुत अव्यवस्थित है ताकि रोबोट कब्ज़ा कर सकें।" अन्य ने कहा, "सावधान रहें, ऐसे छिपे हुए कोने हैं जहाँ रोबोट पहले से ही परेशानी पैदा कर रहे हैं।"
यह शोध पत्र पहला है जो वास्तव में गिनता है कि वास्तविक दुनिया में इन "रोबोट द्वारा लिखे गए" झूठों में से कितने मौजूद हैं। उन्होंने केवल अनुमान नहीं लगाया; वे सबूत खोजने के लिए फैक्ट-चेक्ड समाचारों और सोशल मीडिया के डिजिटल अभिलेखों (archives) में गए।
जासूसी उपकरण: उन्होंने रोबोट्स को कैसे खोजा
शोधकर्ताओं ने दो "डिजिटल झूठ पकड़ने वाले यंत्र" बनाए। इन्हें एक क्लब के दो अलग-अलग सुरक्षा गार्डों के रूप में सोचें:
- गार्ड A (Gemma_GenAI): सामान्य पैटर्न के आधार पर रोबोट लेखन को पहचानने के लिए प्रशिक्षित।
- गार्ड B (Gemma_MultiDomain): रोबोट लेखन को पहचानने के लिए विशेष रूप से सोशल मीडिया और समाचारों पर प्रशिक्षित।
उन्होंने इन गार्डों का परीक्षण ज्ञात "मानव बनाम रोबोट" लेखन सूचियों पर किया ताकि यह सुनिश्चित हो सके कि वे अपने काम में कुशल हैं। उन्होंने पाया कि जब दोनों गार्ड इस बात पर सहमत हुए कि एक टेक्स्ट रोबोट द्वारा लिखा गया था, तो वे 93% से 99% बार सही थे।
एक बार जब उन्होंने अपने गार्ड्स पर भरोसा कर लिया, तो उन्होंने उन्हें वास्तविक दुनिया की सामग्री के चार अलग-अलग "पड़ोसों" (डेटासेट्स) में गश्त करने के लिए भेजा, जिसमें फैक्ट-चेक्ड दावे, चुनाव संबंधी ट्वीट्स और युद्ध से संबंधित समाचार शामिल थे।
उन्होंने क्या पाया: रोबोट आक्रमण वास्तविक है (लेकिन असमान है)
अध्ययन में पाया गया कि रोबोट-लिखित गलत सूचना निश्चित रूप से मौजूद है, लेकिन यह बाढ़ नहीं है; यह एक धीमी रिसाव की तरह है जो बड़ा होता जा रहा है।
1. "ChatGPT से पहले और बाद का" प्रभाव
एक टाइमलाइन की कल्पना करें। 2022 के अंत (जब ChatGPT लोकप्रिय हुआ) से पहले, रोबोट-लिखित झूठ की मात्रा बहुत कम थी।
- उपमा: इसे एक शांत तालाब की तरह समझें। 2021 में, रोबोटों द्वारा केवल कुछ लहरें (लगभग 1%) बनाई गई थीं।
- परिवर्तन: 2023 तक, ChatGPT के आने के बाद, लहरें बढ़ीं। अध्ययन में पाया गया कि 2023 में, उनके डेटासेट में फैक्ट-चेक्ड झूठों में से 1.5% से 15% संभवतः रोबोटों द्वारा लिखे या संपादित किए गए थे। सबसे भरोसेमंद अनुमान इसे लगभग 1.85% बताता है।
- ट्रेंड: रोबोट-लिखित झूठों की संख्या हर साल बढ़ रही है।
2. "लक्षित" हमला
रोबोट हर भाषा या हर प्लेटफॉर्म पर समान रूप से झूठ नहीं लिख रहे हैं। यह एक चोर की तरह है जो केवल विशिष्ट घरों को निशाना बनाता है।
- भाषाएँ: जबकि अंग्रेजी और स्पेनिश में रोबोट झूठ अधिक हैं क्योंकि वहां अधिक लोग बोलते हैं, लेकिन झूठ का प्रतिशत पोलिश (4.7%) और फ्रेंच (4.2%) में सबसे अधिक है।
- प्लेटफॉर्म: रोबोट इंस्टाग्राम (1.5%) और फेसबुक (1.3%) पर सबसे अधिक सक्रिय हैं, और ट्विटर/X (0.64%) पर कम सक्रिय हैं।
- विशिष्ट घटनाएँ: 2024 के अमेरिकी चुनाव के दौरान, ट्वीट्स में रोबोट-लिखित सामग्री की मात्रा जनवरी से नवंबर के बीच दोगुनी हो गई, जो चुनाव से ठीक पहले अपने शिखर पर पहुँच गई।
3. "फेक न्यूज" डेटासेट्स
शोधकर्ताओं ने विशेष रूप से "फेक न्यूज" के रूप में लेबल किए गए डेटासेट्स को भी देखा।
- उन्होंने पाया कि "फेक" के रूप में लेबल किए गए लेखों में से 2.6% से 3.3% वास्तव में रोबोट द्वारा लिखे गए थे।
- गाजा युद्ध के बारे में एक डेटासेट में, उन्होंने पाया कि फ्रांसीसी भाषा की पोस्ट में से 10% से अधिक रोबोट-जनित थे, जबकि अन्य भाषाओं में संख्या काफी कम थी।
यह क्यों मायने रखता है
शोध पत्र निष्कर्ष निकालता है कि रोबोट द्वारा झूठ लिखने का डर केवल अटकलें नहीं है; यह अभी हो रहा है।
- "बुरी" खबर: रोबोटों का उपयोग गलत सूचना बनाने के लिए किया जा रहा है, और वे इसमें बेहतर होते जा रहे हैं। यह विशिष्ट भाषाओं और विशिष्ट समय (जैसे चुनाव) के दौरान हो रहा है, जो बताता है कि कोई उनका रणनीतिक रूप से उपयोग कर रहा है।
- "अच्छी" खबर: इंटरनेट की कुल सामग्री का रोबोट झूठ अभी भी एक छोटा हिस्सा है (2024 में लगभग 2%)। हालांकि, क्योंकि इंटरनेट बहुत विशाल है, इसलिए 2% भी बहुत सारी फर्जी सामग्री हो सकती है।
- चेतावनी: जैसे-जैसे रोबोट स्मार्ट होंगे, वे पानी को "प्रदूषित" करना शुरू कर सकते हैं। यदि भविष्य के AI मॉडल उस डेटा पर प्रशिक्षित होते हैं जिसमें पहले से ही रोबोट-लिखित झूठ शामिल हैं, तो वे नए मॉडल झूठ को सच मान सकते हैं और उन्हें और भी तेज़ी से फैला सकते हैं।
निचोड़ (The Bottom Line)
लेखक कह रहे हैं: "अनुमान लगाना बंद करें और मापना शुरू करें।" अब हमारे पास सबूत है कि रोबोट वास्तविक दुनिया में झूठ लिख रहे हैं, विशेष रूप से पोलिश, फ्रेंच और चुनाव के मौसम के दौरान। हमें उन्हें पकड़ने के लिए बेहतर उपकरणों और हमें यह बताने के लिए बेहतर प्रणालियों की आवश्यकता है कि हम एक रोबोट की कहानी पढ़ रहे हैं ताकि हम धोखा न खाएं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।