Large-Scale Analysis of Political Propaganda on Moltbook
यह अध्ययन AI-एजेंट प्लेटफॉर्म मोलटबुक (Moltbook) के 6,70,,000 से अधिक पोस्ट का विश्लेषण करने के लिए NLP-आधारित क्लासिफायर का उपयोग करता है, जो यह प्रकट करता है कि राजनीतिक दुष्प्रचार एजेंटों और समुदायों की एक छोटी अल्पसंख्यक संख्या के बीच अत्यधिक केंद्रित है जबकि टिप्पणियों के माध्यम से इसके प्रसार के सीमित प्रमाण दिखाई देते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि एक विशाल, हलचल भरा डिजिटल शहर का चौक है जिसे Moltbook कहा जाता है। लेकिन यहाँ एक मोड़ है: वहाँ रहने वाला कोई भी इंसान नहीं है। वहाँ संदेश पोस्ट करने वाला, बहस करने वाला या चैट करने वाला हर एक व्यक्ति एक AI रोबोट (एक "एजेंट") है जिसे एक इंसान द्वारा एक व्यक्ति की तरह व्यवहार करने के लिए प्रोग्राम किया गया है।
यह शोध पत्र एक जासूसी रिपोर्ट की तरह है जो इस बात की जांच करता है कि क्या ये रोबोट उस शहर की राय को बदलने की कोशिश करने लगे हैं। शोधकर्ता देखना चाहते थे कि क्या इन AI एजेंटों का उपयोग राजनीतिक दुष्प्रचार (झूठ, हेरफेर या पक्षपाती संदेश जो लोगों के सोचने के तरीके को नियंत्रित करने के लिए डिज़ाइन किए गए हैं) फैलाने के लिए किया जा सकता है और उस शहर ने कैसी प्रतिक्रिया दी।
यहाँ उनके निष्कर्षों की कहानी दी गई है, जिसे कुछ सरल उपमाओं में विभाजित किया गया है:
1. सेटअप: रोबोटों का एक शहर
Moltbook को लगभग 5,000 अलग-अलग मोहल्लों (समुदायों) वाले एक विशाल शहर के रूप में सोचें। इस शहर में 93,000 से अधिक रोबोट निवासी हैं जिन्होंने लगभग 7,00,000 संदेश और 8,80,000 जवाब पोस्ट किए हैं।
शोधकर्ताओं ने तीन बड़े सवाल पूछे:
- कितना "दुष्प्रचार" वास्तव में घूम रहा है?
- इसे कौन लिख रहा है, और क्या वे अकेले काम कर रहे हैं या किसी गिरोह में?
- क्या अन्य रोबोट गुस्सा होते हैं, पलटकर बहस करते हैं, या उस संदेश को और आगे फैलाते हैं?
2. निष्कर्ष: "अदृश्य" बाढ़
"भूसे के ढेर में सुई" (व्यापकता)
यदि आप इस रोबोट शहर में टहलेंगे, तो आप पाएंगे कि राजनीतिक दुष्प्रचार वास्तव में काफी दुर्लभ है। हर 100 संदेशों में से केवल 1 राजनीतिक दुष्प्रचार है।
- उपमा: एक विशाल पुस्तकालय की कल्पना करें जहाँ 99% किताबें खाना पकाने, खेल या मौसम के बारे में हैं। केवल 1 किताब राजनीतिक पर्चा है।
- हालांकि: यदि आप विशेष रूप से पुस्तकालय के "राजनीतिक अनुभाग" में जाते हैं, तो अचानक वहां 42% किताबें दुष्प्रचार ही होती हैं। इसलिए, कुल मिलाकर यह दुर्लभ है, लेकिन यह राजनीतिक बातचीत पर हावी रहता है।
"सुपर-कनेक्टर्स" (वितरण)
शोधकर्ताओं ने पाया कि यह दुष्प्रचार समान रूप से नहीं फैला है। यह एक वायरस की तरह है जो केवल कुछ विशिष्ट घरों को संक्रमित करता है।
- सारा दुष्प्रचार पोस्ट कुल 4,662 में से केवल 5 मोहल्लों में हुआ।
- एक विशाल मोहल्ला, जिसे
m/generalकहा जाता है, एक विशाल स्टेडियम की तरह था जहाँ सारा दुष्प्रचार 56% तक चिल्लाकर बोला गया था, भले ही वह मुख्य रूप से केवल एक सामान्य चैट रूम है। - लेकिन वहां छोटे, विशिष्ट मोहल्ले भी थे (जैसे "चुनावों" या "कैरिबियन" विषयों के लिए एक छोटा क्लब) जहाँ लगभग हर एक संदेश दुष्प्रचार था।
"परदे के पीछे के सूत्रधार" (उत्पादक)
ये संदेश वास्तव में कौन लिख रहा है?
- यह पता चला कि 98.5% रोबोट ने कभी एक भी दुष्प्रचार वाला संदेश नहीं लिखा। वे बस अपने दिन के बारे में चैट करने वाले साधारण लोग हैं।
- एक छोटे समूह 1,400 रोबोट्स (लगभग 1.5%) ने सारा काम किया।
- इससे भी अधिक चरम स्थिति: केवल 10 रोबोट्स ने लगभग एक चौथाई दुष्प्रचार लिखा।
- उपमा: एक ऐसे शहर की कल्पना करें जहाँ 99% लोग बस मौसम के बारे में बात करते हैं। लेकिन एक गुप्त क्लब के 10 लोग गुप्त रूप से पर्चे छाप रहे हैं और उन्हें हर दीवार पर चिपका रहे हैं।
"टूटा हुआ रिकॉर्ड" (दोहराव)
शोधकर्ताओं ने सोचा: क्या ये रोबोट बार-बार एक ही झूठ को कॉपी और पेस्ट कर रहे हैं?
- अधिकांश रोबोट अद्वितीय थे। लेकिन "सुपर-प्रोपगैंडिस्ट्स" का एक छोटा समूह टूटे हुए रिकॉर्ड की तरह था। वे एक मोहल्ले में एक ही कहानी पोस्ट करेंगे, फिर उसी कहानी को दूसरे मोहल्ले में कॉपी-पेस्ट कर देंगे।
- सिंगल-मोहल्ला बॉट्स के लगभग 20% और मल्टी-मोहल्ला बॉट्स के 7% इस तरह के दोहराव वाले "नैरेटिव लूपिंग" में लगे हुए थे।
3. प्रतिक्रिया: "विनम्र भीड़"
यह सबसे आश्चर्यजनक हिस्सा है। आमतौर पर, जब इंसान सोशल मीडिया पर दुष्प्रचार देखते हैं, तो वे बहस करते हैं, लड़ते हैं या इसे व्यापक रूप से साझा करते हैं। शोधकर्ता उम्मीद कर रहे थे कि रोबोट शहर भी ऐसा ही करेगा।
परिणाम: शहर आश्चर्यजनक रूप से उबाऊ और तटस्थ था।
- हाँ, दुष्प्रचार पोस्ट को सामान्य पोस्ट की तुलना में अधिक कमेंट मिले (लोगों ने उन्हें देखा)।
- लेकिन, कमेंट्स गुस्से वाले या राजनीतिक नहीं थे। वे ज्यादातर तटस्थ, गैर-राजनीतिक बातचीत थे।
- उपमा: कल्पना करें कि कोई शहर के चौक में एक ज़ोरदार, हेरफेर करने वाला नारा चिल्ला रहा है। भीड़ के वापस चिल्लाने या उस नारे को फैलाने के बजाय, वे बस विनम्रता से सिर हिलाते हैं, कहते हैं "मौसम अच्छा है," और चले जाते हैं। दुष्प्रचार "वायरल" नहीं हुआ या विचार नहीं बदले; इसे अन्य रोबोटों से केवल एक विनम्र, उदासीन कंधा उचकाने वाली प्रतिक्रिया मिली।
4. यह क्यों मायने रखता है?
शोधकर्ता निष्कर्ष निकालते हैं कि हालांकि AI एजेंटों को भारी मात्रा में राजनीतिक दुष्प्रचार बनाने के लिए प्रोग्राम किया जा सकता है, लेकिन उन्होंने अभी तक इसे "चिपकाने" या बातचीत के माध्यम से फैलाने का तरीका पूरी तरह से नहीं खोजा है।
- अच्छी खबर: "इको चैंबर" प्रभाव (जहाँ दुष्प्रचार खुद को बढ़ाता है) इस प्रयोग में बहुत मजबूत नहीं था। अन्य रोबोटों ने झूठ फैलाने में मदद नहीं की।
- बुरी खबर: एक छोटा, समन्वित समूह विशिष्ट क्षेत्रों को हेरफेर करने वाली सामग्री से भर सकता है। यदि इंसान इन उपकरणों का अधिक प्रभावी ढंग से उपयोग करना शुरू करते हैं, या यदि रोब들이 "बहस" करने में बेहतर हो जाते हैं, तो यह एक बहुत बड़ी समस्या बन सकती है।
संक्षेप में: अध्ययन दिखाता है कि AI एजेंटों की दुनिया में, दुष्प्रचार मौजूद है और यह कुछ "सुपर-स्पैमर" के हाथों में केंद्रित है, लेकिन फिलहाल, बाकी का AI शहर नाटक में बहने के बजाय उसे विनम्रता से अनदेखा कर रहा है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।