Polarization by Default: Auditing Recommendation Bias in LLM-Based Content Curation
यह अध्ययन प्रकट करता है कि LLM-आधारित सामग्री क्यूरेशन व्यवस्थित रूप से ध्रुवीकरण को बढ़ाता है और विषाक्तता प्रबंधन तथा भावना (sentiment) में विशिष्ट, प्रदाता-विशिष्ट पूर्वाग्रह प्रदर्शित करता है, जबकि प्रॉम्प्टिंग रणनीतियों के बावजूद ट्विटर/X पर लगातार वामपंथी लेखकों का अधिक प्रतिनिधित्व करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विशाल, अराजक पुस्तकालय में कदम रखते हैं जहाँ लाखों लोग एक साथ कहानियाँ, चुटकुले, समाचार और भड़ास चिल्ला रहे हैं। अतीत में, एक मानव लाइब्रेरियन सीढ़ी पर खड़ा होता, कुछ चिल्लाहटों को सुनता, और यह तय करता कि किन कहानियों को "सप्ताह के सर्वश्रेष्ठ" शेल्फ पर रखा जाए ताकि हर कोई उन्हें पढ़ सके।
अब, कल्पना कीजिए कि उस मानव लाइब्रेरियन की जगह तीन अलग-अलग सुपर-स्मार्ट रोबोटों (OpenAI का GPT, Anthropic का Claude, और Google का Gemini) ने ले ली है। इन रोबोटों को 100 चिल्लाती आवाजों में से शीर्ष 10 को चुनकर शेल्फ पर रखने का काम सौंपा गया है।
यह शोधपत्र एक विशाल प्रयोग है जहाँ शोधकर्ताओं ने पूछा: "यदि हम इन रोबोटों को अलग-अलग निर्देश देते हैं, तो क्या वे अलग-अलग कहानियाँ चुनते हैं? और क्या वे निष्पक्ष हैं?"
यहाँ उनका निष्कर्ष दिया गया है, जिसे रोजमर्रा के उपमाओं (analogies) का उपयोग करके समझाया गया है:
1. "डिफ़ॉल्ट" रोबोट पहले से ही पक्षपाती है
भले ही शोधकर्ताओं ने रोबोटों को "तटस्थ" रहने के लिए कहा हो (केवल "इन पोस्ट्स को रैंक करें"), रोबोटों ने खाली स्लेट की तरह व्यवहार नहीं किया। उनके दिमाग में उनके प्रशिक्षण डेटा से जुड़ी अपनी छिपी हुई प्राथमिकताएँ पहले से ही मौजूद थीं।
- उपमा: यह एक शेफ से "बस एक सैंडविच बनाओ" कहने जैसा है बिना किसी सामग्री को निर्दिष्ट किए। शेफ एक सादा सैंडविच नहीं बनाता; वह अपने पसंदीदा टॉपिंग्स के साथ सैंडविच बनाता है क्योंकि उन्होंने वही सीखा और पसंद किया है।
- निष्कर्ष: बिना किसी विशिष्ट निर्देश के भी, रोबोटों ने लगातार अधिक ध्रुवीकृत (extreme) सामग्री चुनी। उन्हें ड्रामा और संघर्ष पसंद आया।
2. "मूड रिंग" प्रभाव (प्रॉम्प्टिंग)
शोधकर्ताओं ने रोबोटों के छह अलग-अलग "मूड्स" या निर्देशों का परीक्षण किया, जैसे कि "सबसे लोकप्रिय पोस्ट" या "सबसे शैक्षिक पोस्ट" खोजने के लिए कहना।
- उपमा: रोबोटों को अभिनेताओं के रूप में सोचें। यदि आप एक अभिनेता को "विलेन" खेलने के लिए कहते हैं, तो वे डरावने बनते हैं। यदि आप उन्हें "नायक" बनने के लिए कहते हैं, तो वे बहादुर बनते हैं। स्क्रिप्ट (प्रॉम्प्ट) उनके व्यवहार को बदल देती है, लेकिन अभिनेता (विशिष्ट रोबोट मॉडल) का अपना व्यक्तित्व बना रहता है।
- ट्विस्ट:
- विषाक्तता (Toxicity): जब "एंगेजिंग" (रुचिकर) सामग्री (लाइक्स/शेयर) खोजने के लिए कहा गया, तो रोबोटों ने वास्तव में विषाक्त और बदतमीजी भरी पोस्ट को पसंद किया। लेकिन जब "सूचनात्मक" सामग्री के लिए कहा गया, तो उन्होंने तुरंत बदतमीज पोस्ट को खारिज कर दिया।
- भावना (Sentiment): जब उन्हें "एंगेजिंग" होने के लिए कहा गया, तो रोबोटों ने नकारात्मक, क्रोधित या उदास सामग्री को प्राथमिकता दी। जब उन्हें "सूचनात्मक" होने के लिए कहा गया, तो उन्होंने सकारात्मक सामग्री को प्राथमिकता दी।
3. ट्विटर पर "राजनीतिक लेंस"
ट्विटर (X) पर, शोधकर्ता लोगों के बायो के आधार पर उनकी राजनीतिक विचारधारा का अनुमान लगा सकते थे।
- सेटअप: उनके परीक्षण पूल में, वास्तव में बाएं-पंथ (left-leaning) के लोगों की तुलना में दाएं-पंथ (right-leaning) के लोगों की संख्या अधिक थी (43% बनाम 17% का अंतर)।
- परिणाम: दाएं-पंथ के लोगों की भीड़ अधिक होने के बावजूद, तीनों रोबोटों ने लगातार बाएं-पंथ की आवाजों को अधिक चुना।
- उपमा: कल्पना कीजिए कि एक शहर में 70% लोग लाल टोपी पहने हुए हैं और 30% नीली टोपी पहने हुए हैं। लेकिन हर बार जब शहर का मेयर (रोबोट) मंच के लिए वक्ता चुनता है, तो वह नीली टोपी पहनने वाले व्यक्ति को चुनता है। ऐसा इसलिए नहीं है कि मेयर सीधे टोपी देख रहा है; बल्कि इसलिए है क्योंकि मेयर ने सीखा है कि "नीली टोपी" उनके प्रशिक्षण डेटा में "दिलचस्प भाषण" से जुड़ी है।
- महत्वपूर्ण बिंदु: रोबोटों को यह नहीं बताया गया था कि कौन बाएं या दाएं है। उन्होंने केवल टेक्स्ट को पढ़ा। उन्होंने लेखन की शैली से पूर्वाग्रह का अनुमान लगाया।
4. तीनों रोबोटों के अलग-अलग व्यक्तित्व हैं
अध्ययन ने तीन बड़े AI प्रदाताओं की तुलना की, और वे तीन अलग-अलग व्यक्तियों की तरह व्यवहार करते थे:
- OpenAI (GPT-4o Mini): "स्टेडी एडी" (स्थिर स्वभाव वाला)। आप उसे जो भी निर्देश दें, यह रोबोट सबसे सुसंगत और संतुलित बना रहा। यह बुरा या अच्छा होने के बीच बहुत अधिक नहीं झूला।
- Anthropic (Claude): "गिरगिट" (बदलने वाला)। यह रोबोट "सुरक्षा" निर्देशों के प्रति बहुत संवेदनशील था। यह सूचनात्मक होने के लिए पूछे जाने पर विषाक्त सामग्री से बचने में बहुत अच्छा था, लेकिन जब "एंगेजिंग" होने के लिए कहा गया, तो यह विषाक्त सामग्री को भी अनदेखा करने के लिए सबसे अधिक तैयार था।
- Google (Gemini): "चिड़चिड़ा" (ग्रंप)। इस रोबोट में नकारात्मक, क्रोधित और विषाक्त सामग्री के प्रति सबसे मजबूत प्राथमिकता थी, विशेष रूप से तब जब इसे एंगेजिंग होने के लिए कहा गया।
5. "छिपा हुआ हाथ" और पूर्वाग्रह
अध्ययन का सबसे डरावना हिस्सा यह है कि यह पूर्वाग्रह कैसे होता है।
- निष्कर्ष: रोबोटों ने स्पष्ट रूप से यह नहीं कहा, "मैं इस व्यक्ति को इसलिए चुन रहा हूँ क्योंकि वह एक महिला है" या "क्योंकि वह बाएं-पंथ की है।"
- उपमा: यह एक हायरिंग मैनेजर की तरह है जो कहता है, "मैंने उम्मीदवार के नाम को नहीं देखा, लेकिन मैंने उसे इसलिए खारिज कर दिया क्योंकि उसकी लेखन शैली बहुत 'कैजुअल' थी।" मैनेजर ने नाम नहीं देखा, लेकिन "कैजुअल स्टाइल" वास्तव में उम्मीदवार की पृष्ठभूमि का एक संकेत (proxy) था।
- वास्तविकता: रोबोटों ने बाएं-पंथ या विशिष्ट जनसांख्यिकीय समूहों को इसलिए चुना क्योंकि उन समूहों के लिखने का एक खास तरीका (ध्रुवीकृत, विशिष्ट विषय) था जिसे रोबानों ने पसंद करना सीख लिया था। भले ही आपने लेखक का नाम छिपा दिया होता, रोबोट फिर भी उन्हीं लोगों को चुनते क्योंकि वे जिस तरह से लिखते थे, वह वैसा ही था।
मुख्य निष्कर्ष (The Big Takeaway)
हम सोशल मीडिया पर अरबों लोगों को क्या दिखाई देगा, इसकी चाबियाँ इन रोबोटों को सौंप रहे हैं।
- समस्या: ये रोबोट स्वाभाविक रूप से ड्रामा, क्रोध और ध्रुवीकरण को पसंद करते हैं।
- भ्रम: हमें लगता है कि हम केवल निर्देश (प्रॉम्प्ट) बदलकर इसे ठीक कर सकते हैं। लेकिन अध्ययन दिखाता है कि हालांकि प्रॉम्प्ट चीजों को थोड़ा बदलते हैं, लेकिन रोबोटों की "डिफ़ॉल्ट सेटिंग" अभी भी पक्षपाती है।
- चेतावनी: यदि हम सख्त निगरानी के बिना इन रोबोटों को हमारे न्यूज़ फीड को नियंत्रित करने देते हैं, तो वे हमें एक ऐसी दुनिया दिखाएंगे जो वास्तविकता की तुलना में अधिक क्रोधित, अधिक विभाजित और कुछ राजनीतिक विचारों की ओर अधिक झुकी हुई होगी।
संक्षेप में: रोबोट तटस्थ लाइब्रेरियन नहीं हैं; वे अपने पसंदीदा जॉनर (genres) वाले पक्षपाती क्यूरेटर हैं, और वे वर्तमान में कमरे में सबसे तेज़ और सबसे गुस्से वाली आवाजों को ही बढ़ावा दे रहे हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।