Grokipedia vs Wikipedia: An LLM-Based Audit of Political Neutrality along Ideologies
ग्रोकिपीडिया (Grokipedia) और विकिपीडिया (Wikipedia) की तुलना करने वाले एक बड़े पैमाने के ऑडिट से पता चलता है कि कई एआई न्यायाधीशों द्वारा एलएलएम-जनित ग्रोकिपीडिया को विकिपीडिया की तुलना में कम तटस्थ माना गया है, जिसमें ग्रोकिपीडिया आर्थिक रूप से दक्षिणपंथी राजनेताओं के पक्ष में पूर्वाग्रह प्रदर्शित करता है जबकि सामाजिक रूप से उदार लोगों को दंडित करता है, जबकि विकिपीडिया इसके विपरीत प्रवृत्ति दर्शाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि इंटरनेट एक विशाल, हलचल भरे पुस्तकालय की तरह है जहाँ हर किसी को किताबें लिखने के लिए आमंत्रित किया जाता है। वर्षों से, विकिपीडिया नामक यह एक पुस्तकालय सबसे लोकप्रिय स्थान रहा है, लेकिन कुछ लोगों ने शिकायत की है कि वहाँ के पुस्तकालयाध्यक्षों का एक विशिष्ट "मिजाज" (vibe) है—शायद वे राजनीतिक स्पेक्ट्रम के एक विशेष पक्ष की ओर बहुत अधिक झुके हुए हैं, जैसे कि एक ऐसा गायक दल जो केवल बारिश के बारे में गाने गाता है जबकि धूप खिली हो। हाल ही में, ग्रोकिपीडिया (Grokipedia) नामक एक नया पुस्तकालय खुला, जिसे पूरी तरह से एक सुपर-स्मार्ट कंप्यूटर मस्तिष्क (एक AI) द्वारा बनाया गया है, जिसका नाम ग्रोक (Grok) है। इसके रचनाकारों ने इस नए पुस्तकालय को एक परम "तटस्थ" क्षेत्र होने का वादा किया था, जो बिना किसी मानवीय पूर्वाग्रह के, केवल शुद्ध तथ्यों वाला स्थान होगा। लेकिन बड़ा सवाल यह है: क्या एक रोबोट वास्तव में मनुष्यों की भीड़ से अधिक निष्पक्ष हो सकता है? इसे जानने के लिए, हमें कुछ चीजों को समझने की आवश्यकता है। पहला, "राजनीतिक पूर्वाग्रह" (political bias) रंगीन चश्मे की तरह है; यदि आप उन्हें पहनते हैं, तो दुनिया एक निश्चित रंग की दिखाई देती है, भले ही दुनिया स्वयं धूसर (gray) हो। दूसरा, "लार्ज लैंग्वेज मॉडल्स" (LLMs) वे कंप्यूटर मस्तिष्क हैं जो ये लेख लिखते हैं; वे अविश्वसनीय रूप से तेज़ छात्रों की तरह हैं जिन्होंने इंटरनेट पर लगभग सब कुछ पढ़ लिया है और सेकंडों में निबंध लिख सकते हैं। अंत में, इस संदर्भ में "तटस्थता" (neutrality) का अर्थ है लोगों के बारे में ऐसे लिखना कि उन्हें नायक या खलनायक न बनाया जाए, बल्कि केवल यह बताया जाए कि वे कौन हैं। यह शोध पत्र एक जासूसी कहानी है कि क्या नया रोबोट पुस्तकालय वास्तव में पुराने मानव पुस्तकालय की तुलना में अधिक निष्पक्ष है, या क्या इसने बस एक अलग प्रकार का रंगीन चश्मा पहन लिया है।
शोधकर्ताओं ने, जो कि गेन्ट यूनिवर्सिटी (Ghent University) की एक टीम है, ग्रोकिपीडिया और विकिपीडिया को एक बड़े प्रयोग के साथ परखने का निर्णय लिया। उन्होंने केवल कुछ लेख नहीं पढ़े; उन्होंने 1,394 लेखों के जोड़े एकत्र किए, जहाँ प्रत्येक जोड़ा बिल्कुल उसी सरकारी अधिकारी (जैसे राष्ट्रपति या मंत्री) का वर्णन करता था, लेकिन एक संस्करण विकिपीडिया पर मनुष्यों द्वारा लिखा गया था और दूसरा ग्रोकिपीडिया पर AI द्वारा लिखा गया था। इन लेखों की निष्पक्षता का निर्णय करने के लिए, उन्होंने केवल एक व्यक्ति से नहीं पूछा; उन्होंने यह आंकने के लिए चार अलग-अलग AI "जजों" (जिसमें ग्रोक स्वयं, और क्लॉड, मिस्ट्रल और डीपसीक शामिल थे) का उपयोग किया कि प्रत्येक लेख कितना तटस्थ था। उनके पास एक गुप्त हथियार भी था: 9 विभिन्न "विचारधारा के झंडों" (ideology flags) की एक सूची (जैसे "प्रवासन का समर्थन करता है," "महिलाओं के अधिकारों का समर्थन करता है" या "मुक्त बाजार का समर्थन करता है") जिन्हें विशेषज्ञों ने पहले ही प्रत्येक राजनेता को असाइन कर दिया था। इसने शोधकर्ताओं को यह देखने की अनुमति दी कि क्या लेख राजनीतिक विश्वासों के आधार पर राजनेताओं के साथ अलग तरह से व्यवहार करते हैं।
परिणाम आश्चर्यजनक थे, और शायद थोड़े विडंबनापूर्ण भी। सबसे पहले, AI जजों ने सहमति व्यक्त की कि दोनों में से कोई भी विश्वकोश पूरी तरह से तटस्थ नहीं था। वास्तव में, ग्रोकिपीडिया को समग्र रूप से विकिपीडिया की तुलना में अधिक पक्षपाती लेखों वाला पाया गया। जब जजों ने बारीकी से देखा कि पूर्वाग्रह कैसे प्रकट हुआ, तो उन्हें एक स्पष्ट पैटर्न मिला। ग्रोकिपीडिया को उन राजनेताओं के प्रति नरम रुख रखते हुए पाया गया जो आर्थिक रूप से "दक्षिणपंथी" (right-wing) थे (वे जो कम सरकारी विनियमन और छोटे कल्याणकारी राज्यों के पक्ष में हैं) और जो लोकतांत्रिक मानदंडों का समर्थन करते थे। हालाँकि, यह उन राजनेताओं के प्रति बहुत कठोर था जो सामाजिक रूप से उदार विचार रखते थे, जैसे कि LGBT अधिकारों या महिलाओं के श्रम अधिकारों का समर्थन करने वाले। दूसरी ओर, विकिपीडिया को उन सामाजिक रूप से उदार राजनेताओं के प्रति अधिक अनुकूल माना गया, लेकिन शोधकर्ताओं ने पाया कि, कुल मिलाकर, विकिपपेडिया को अभी भी ग्रोकिपीडिया की तुलना में अधिक तटस्थ देखा गया था।
इस कहानी का सबसे दिलचस्प मोड़ ग्रोक से जुड़ा है, जिसने ग्रोकिपीडिया लिखा है। आप सोच सकते हैं कि यदि आप एक रोबोट से उसके अपने काम का न्याय करने के लिए कहते हैं, तो वह कहेगा, "अरे, मैं तो पूर्ण हूँ!" लेकिन अध्ययन में पाया गया कि ग्रोक ने वास्तव में अपने स्वयं के विश्वकोश (ग्रोकिपीडिया) को मानव-लिखित विकिपीडिया की तुलना में कम तटस्थ माना। यह सुझाव देता है कि पूर्वाग्रह केवल जजों द्वारा स्कोरिंग करने की गलती नहीं है; पूर्वाग्रह वास्तव में उन लेखों में रचा-बसा है जो ग्रोक ने लिखे हैं। शोधकर्ता सुझाव देते हैं कि जबकि ग्रोकिपीडिया को एक तटस्थ विकल्प के रूप में बनाया गया था, इसने अंततः एक अलग प्रकार की विचारधारा को समाहित कर लिया—एक ऐसी विचारधारा जो आर्थिक रूढ़िवाद का पक्ष लेती है और सामाजिक उदारता को दंडित करती है।
अध्ययन ने यह भी देखा कि विभिन्न AI जज कैसे व्यवहार करते थे। वे सभी एक जैसे नहीं थे। उदाहरण के लिए, डीपसीक (DeepSeek) नामक एक जज बहुत उदार था, जो लगभग हर चीज़ को "तटस्थ" कह रहा था, जबकि क्लॉड (Claude) नामक एक अन्य जज बहुत सख्त था, जिसने कई लेखों में पूर्वाग्रह पाया। हालाँकि, अपनी सख्ती के इन अंतरों के बावजूद, सभी जज पूर्वाग्रह की दिशा पर सहमत थे: ग्रोकिपीडिया ने आर्थिक दक्षिणपंथ का पक्ष लिया, और विकिपीडिया सामाजिक वामपंथ की ओर झुका हुआ था। शोधकर्ता निष्कर्ष निकालते हैं कि जबकि AI विश्वकोश प्रविष्टियाँ तेज़ी से लिख सकता है, यह स्वतः ही उन्हें अधिक निष्पक्ष नहीं बनाता है। वास्तव में, आपके द्वारा पढ़े जाने वाले विश्वकोश का चुनाव यह बदल सकता है कि आप राजनेताओं को कैसे देखते हैं, यह इस पर निर्भर करता है कि कौन सा विश्वकोश किस राजनीतिक "स्वाद" को पसंद करता है। अध्ययन सुझाव देता है कि हमें AI-जनित सामग्री के साथ सावधान रहने की आवश्यकता है और यह कि इन छिपे हुए पूर्वाग्रहों को पहचानने का सबसे अच्छा तरीका जजों की एक विविध टीम (मानव और मशीन दोनों) का उपयोग करना है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।