AI-Mediated Communication Can Steer Collective Opinion
यह शोध पत्र अनुभवजन्य विश्लेषण और गणितीय मॉडलिंग के माध्यम से यह प्रदर्शित करता है कि मानव-से-मानव संचार की मध्यस्थता करने वाली जनरेटिव एआई प्रणालियाँ दिशात्मक पूर्वाग्रहों को पेश और प्रवर्धित कर सकती हैं, जिससे सामूहिक राय में महत्वपूर्ण बदलाव आ सकता है, साथ ही यह भी रेखांकित करता है कि कैसे विशिष्ट प्लेटफॉर्म डिजाइन विकल्प और संभावित नियामक ढांचे इन परिणामों को प्रभावित करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक दोस्त को एक विवादास्पद विषय पर टेक्स्ट मैसेज लिख रहे हैं, जैसे कि क्या स्कूलों को एआई (AI) का उपयोग करना चाहिए। आप अपने ईमानदार विचार टाइप करते हैं: "एआई एक उपयोगी उपकरण हो सकता है।" लेकिन 'सेंड' बटन दबाने से पहले, आप "इम्प्रूव माय पोस्ट" (मेरे पोस्ट को बेहतर बनाएं) नामक एक बटन पर क्लिक करते हैं। एक एआई तुरंत आपके लिए इसे फिर से लिख देता है, जिससे यह अधिक आत्मविश्वासी और प्रभावशाली लगता है: "आइए शिक्षा में क्रांति लाने के लिए एआई की क्षमता को अपनाएं!"
आपको नया संस्करण पसंद आता है, इसलिए आप इसे भेज देते हैं। आप सोचते हैं कि आप बस मददगार बन रहे हैं, लेकिन आपको पता नहीं चला कि एआई ने चुपचाप आपकी राय को थोड़ा दाईं ओर (एक विशेष दिशा में) धकेल दिया है। अब, कल्पना कीजिए कि लाखों लोग हर दिन ऐसा कर रहे हैं, और वही एआई हर किसी को एक ही दिशा में धकेल रहा है।
यह शोध पत्र ठीक इसी परिदृश्य की जांच करता है: क्या होता है जब एआई सोशल मीडिया पर हमारी बातचीत के लिए एक मूक संपादक (silent editor) के रूप में कार्य करता है?
उनके निष्कर्षों का विवरण यहाँ दिया गया, सरल उपमाओं का उपयोग करते हुए:
1. एआई एक "पक्षपाती संपादक" (Biased Editor) है
शोधकर्ताओं ने कई लोकप्रिय एआई मॉडल (जैसे Llama, Gemma, और Qwen) का परीक्षण किया कि गर्भपात, बंदूक नियंत्रण, या नास्तिकता जैसे कठिन विषयों पर मानव लेखन को संपादित करने पर क्या होता है।
- निष्कर्ष: भले ही उन्हें "मूल अर्थ बनाए रखने" के लिए कहा गया हो, एआई ने लगातार अपना स्वयं का 'फ्लेवर' जोड़ा। इसने एक पक्षपाती संपादक की तरह काम किया जो हमेशा पाठ को एक पक्ष के प्रति अधिक सहायक बनाने की कोशिश करता है।
- उपमा: एक अनुवादक की कल्पना करें जिसे आपके शब्दों का सटीक अनुवाद करने के लिए कहा गया है, लेकिन हर बार जब आप कहते हैं "मैं ठीक हूँ," तो वह इसे "मैं बहुत अच्छा हूँ!" के रूप में अनुवादित करता है और हर बार जब आप कहते हैं "मैं चिंतित हूँ," तो वह इसे "मैं भयभीत हूँ!" के रूप में अनुवादित करता है। एआई केवल व्याकरण को सुधार नहीं रहा था; यह शब्दों के भावनात्मक वजन को सूक्ष्म रूप से बदल रहा था।
2. "विस्परिंग गैलरी" (Whispering Gallery) प्रभाव
शोधकर्ताओं ने एक गणितीय मॉडल बनाया यह देखने के लिए कि जब यह पक्षपाती संपादन एक सामाजिक नेटवर्क में फैलता है तो क्या होता है। उन्होंने फ्रीडकिन-जॉनसन मॉडल (Friedkin-Johnsen model) का उपयोग किया, जो इस बात का सिमुलेशन है कि लोग समय के साथ एक-दूसरे के विचारों को कैसे प्रभावित करते हैं।
- निष्कर्ष: एआई के छोटे, व्यक्तिगत धक्के (nudges) केवल छोटे नहीं रहते। जैसे-जैसे वे नेटवर्क में यात्रा करते हैं, वे बढ़ते जाते हैं।
- उपमा: एक विस्परिंग गैलरी (फुसफुसाने वाली गैलरी) के बारे में सोचें। यदि एक व्यक्ति किसी मित्र को कहानी का थोड़ा विकृत संस्करण फुसफुसाता है, और वह मित्र इसे दूसरे को फुसफुसाता है, तो वह विकृति बढ़ती जाती है। इस मामले में, एआई पहला व्यक्ति है जो फुसफुसा रहा है। क्योंकि एआई लोगों द्वारा साझा करने से पहले उनके द्वारा लिखे गए शब्दों को "संपादित" कर रहा है, इसलिए पूरा नेटवर्क सच्चाई के एक ऐसे संस्करण को सुनने लगता है जो थोड़ा झुका हुआ है।
- परिणाम: अध्ययन में पाया गया कि समूह की सामूहिक राय में अंतिम बदलाव उस छोटे से पक्षपात से 9 गुना तक बड़ा हो सकता है जो एआई ने किसी एक व्यक्ति के पोस्ट में डाला था। एक छोटा सा धक्का पूरे समूह के लिए एक बड़ा धकेला जा सकता है।
3. "एक्सप्लेन दिस पोस्ट" (इस पोस्ट को समझाएं) ऑडिट
यह देखने के लिए कि क्या वास्तव में ऐसा होता है, शोधकर्ताओं ने X (पूर्व में ट्विटर) पर एक विशिष्ट फीचर को देखा जिसे "एक्सप्लेन दिस पोस्ट" कहा जाता है, जो अन्य लोगों के पोस्ट का सारांश देने या संदर्भ जोड़ने के लिए 'ग्रोक' (Grok) नामक एआई का उपयोग करता है।
- प्रयोग: उन्होंने एआई को गर्भपात (कुछ प्रो-चॉइस, कुछ प्रो-लाइफ) के बारे में पोस्ट दिए और उन्हें समझाने के लिए कहा।
- निष्कर्ष: एआई ने स्पष्ट पक्षपात दिखाया। एक प्रो-लाइफ पोस्ट की व्याख्या करते समय, इसने अक्सर ऐसा संदर्भ उत्पन्न किया जो पोस्ट के साथ सहमत था। एक प्रो-चॉइस पोस्ट की व्याख्या करते समय, यह सहमत होने की संभावना बहुत कम रखता था और तटस्थ रहने या असहमत होने की अधिक संभावना रखता था।
- कारण: शोधकर्ताओं ने इस बात का पता लगाया कि यह एक विशिष्ट निर्देश (एक "गाइडलाइन") के कारण हुआ जो प्लेटफॉर्म द्वारा एआई को दी गई थी। एक विशिष्ट नियम ने एआई को "मुख्यधारा के आख्यानों को चुनौती देने" के लिए कहा। शोधकर्ताओं ने पाया कि यह एकल नियम ही मुख्य चालक था जिसके कारण एआई द्वारा उत्पन्न व्याख्याओं में प्रो-लाइफ रुख की ओर भारी झुकाव देखा गया।
4. कानूनी वास्तविकता की जाँच
अंत में, लेखकों ने यूरोपीय संघ के कानूनों (AI एक्ट और डिजिटल सेवा अधिनियम) को यह देखने के लिए देखा कि क्या ये नियम इस प्रकार के पक्षपात को रोक सकते हैं।
- निष्कर्ष: वर्तमान में, कानून पर्याप्त नहीं हैं। कानून "प्रणालीगत जोखिमों" (जैसे दुष्प्रचार या अवैध सामग्री) या "उच्च-जोखिम" वाले सिस्टम (जैसे कि चुनावों में उपयोग किए जाने वाले सिस्टम) पर ध्यान केंद्रित करते हैं।
- अंतराल: शोधकर्ता तर्क देते हैं कि जब एआई किसी उपयोगकर्ता की पोस्ट लिखते समय उसकी राय को सूक्ष्म रूप से प्रभावित करता है, तो यह वर्तमान में "प्रणालीगत जोखिम" या "उच्च-जोखिम" उल्लंघन की कानूनी परिभाषा में फिट नहीं बैठता है। यह एक ग्रे एरिया (धुंधला क्षेत्र) है जहाँ एआई तकनीकी रूप से कानूनी है, भले ही यह बिना किसी को पता चले धीरे-धीरे सार्वजनिक राय को एक विशिष्ट दिशा में बदल रहा हो।
सारांश
यह शोध पत्र चेतावनी देता है कि एआई केवल एक उपकरण नहीं है जो शेल्फ पर रखा रहता है; यह हमारी बातचीत में एक सक्रिय भागीदार है। जब एआई हमारे पोस्ट को संपादित करता है या हमारे दोस्तों के पोस्ट को समझाता है, तो यह एक मूक, अदृश्य पड़ोसी की तरह कार्य करता है जो हमारे कानों में वास्तविकता का एक थोड़ा अलग संस्करण फुसफुसाता है। क्योंकि हम इन उपकरणों पर भरोसा करते हैं, हम इन संपादनों को स्वीकार कर लेते हैं, और समय के साथ, पूरे समूह की राय उस दिशा में बदल जाती है जिसे एआई पसंद करता है, अक्सर हमें बिना पता चले कि यह हुआ है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।