Small edits, large models: How Wikipedia advocacy shapes LLM values
यह शोध पत्र प्रदर्शित करता है कि विकिपीडिया स्वयंसेवकों का एक छोटा, समन्वित समूह पशु कल्याण जैसे विशिष्ट विषयों के संबंध में बड़े भाषा मॉडलों (लार्ज लैंग्वेज मॉडल्स) के मूल्यों और प्रतिक्रियाओं को महत्वपूर्ण रूप से आकार दे सकता है, क्योंकि उनके लक्षित संपादन असंबंधित सामग्री की तुलना में मॉडल प्रशिक्षण और व्यवहार में असमान रूप से प्रभावशाली हो जाते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि इंटरनेट एक विशाल, अनंत पुस्तकालय है जहाँ दुनिया की हर लिखी गई किताब अलमारियों पर रखी है। अब, कल्पना कीजिए कि आर्टिफिशियल इंटेलिजेंस (AI) एक बहुत ही बुद्धिमान छात्र है जो दुनिया के बारे में सब कुछ सीखना चाहता है। यह करने के लिए, वह छात्र केवल एक किताब नहीं पढ़ता; वह पुस्तकालय की हर किताब पढ़ता है।
हालाँकि, यह छात्र बहुत चूजी (picky) है। वह सभी किताबों को समान रूप से नहीं पढ़ता। वह "विश्वकोश" (Encyclopedia) अनुभाग पर विशेष ध्यान देता है क्योंकि यह विशेषज्ञों द्वारा लिखा गया है और बहुत विश्वसनीय है। वास्तव में, छात्र विश्वकोश के पन्नों को बाकी पुस्तकालय में बिखरे हुए रैंडम समाचार लेखों या ब्लॉग पोस्ट की तुलना में तीन से पांच गुना अधिक बार पढ़ता है।
यह शोध पत्र स्वयंसेवकों के एक छोटे समूह के बारे में है जिन्हें प्रो-एनिमल विकिपीडियंस (PAW) कहा जाता है। उन्होंने इस "सुपर-स्टूडेंट" की अध्ययन आदतों का अपने लाभ के लिए उपयोग करने का निर्णय लिया। यहाँ वे जो करते हैं और जो उन्हें मिलता है, इसका सरल विवरण दिया गया है:
1. रणनीति: विश्वकोश (Encyclopedia) को संपादित करना
PAW समूह ने AI को हैक करने या नया कंप्यूटर बनाने की कोशिश नहीं की। इसके बजाय, उन्होंने कुछ बहुत ही सरल किया: उन्होंने विकिपीडिया को संपादित किया।
वे 115 अलग-अलग विकिपीडिया पेजों पर गए (ज्यादातर बड़े फास्ट-फूड चेन, राजनेताओं और पशु कानूनों के बारे में) और पशु कल्याण (animal welfare) के बारे में 125 विशिष्ट, तथ्य-जांच किए गए पैराग्राफ जोड़े।
- उदाहरण: एक फास्ट-फूड चेन के पेज पर, उन्होंने एक सेक्शन जोड़ा जिसमें विस्तार से बताया गया कि वह कंपनी मुर्गियों के साथ कैसा व्यवहार करती है।
- लक्ष्य: वे यह देखना चाहते थे कि क्या "विश्वकोश" को बदलने से उस "सुपर-स्टूडेंट" (AI) की सीख बदल जाएगी।
2. प्रयोग: क्या छात्र ने ध्यान दिया?
शोधकर्ता यह जानना चाहते थे: क्या AI ने वास्तव में इन विशिष्ट संपादनों से सीखा, या उसने उन्हें अनदेखा कर दिया?
यह पता लगाने के लिए, उन्होंने यह देखने के लिए तीन अलग-अलग "आवर्धक लेंस" (वैज्ञानिक उपकरण) का उपयोग किया कि AI (विशेष रूप से Llama जैसे मॉडल) पशु कल्याण के बारे में कैसे सोचता है।
- आवर्धक लेंस #1 ("मेमोरी टेस्ट"): उन्होंने AI से ऐसे प्रश्न पूछे जैसे, "इस कंपनी की पशु कल्याण नीति क्या है?" AI ने उत्तर खोजने के लिए अपने प्रशिक्षण डेटा (training data) को देखा। शोधकर्ताओं ने पाया कि 68% बार, AI का उत्तर सीधे उन विशिष्ट पैराग्राफों से लिया गया था जो PAW समूह ने लिखे थे। उन संपादनों के बिना, AI को वे तथ्य पता ही नहीं होते।
- आवर्धक लेंस #2 ("क्या होगा अगर" टेस्ट): उन्होंने एक सिमुलेशन चलाया जिसमें पूछा गया, "यदि हम AI की याददाश्त से PAW संपादनों को मिटा दें, तो क्या AI पशु कल्याण के सवालों के जवाब देने में कमजोर हो जाएगा?" इसका उत्तर स्पष्ट रूप से हाँ था। वास्तव में, हर एक परीक्षण रन में, पशु कल्याण के बारे में उत्तर देने के लिए AI द्वारा उपयोग किए जाने वाले शीर्ष 10 सबसे महत्वपूर्ण सूचनाओं में से सभी PAW समूह द्वारा किए गए संपादन थे।
- आवर्धक लेंस #3 ("स्पेशलिस्ट" टेस्ट): उन्होंने शुरू से दो छोटे AI मॉडल प्रशिक्षित किए। एक केवल PAW संपादन पढ़ता था; दूसरा केवल रैंडम विकिपीडिया टेक्स्ट पढ़ता था।
- "PAW मॉडल" पशु कल्याण में विशेषज्ञ बन गया लेकिन सामान्य कंपनी इतिहास के बारे में कुछ नहीं जानता था।
- "रैंडम मॉडल" सामान्य इतिहास में विशेषज्ञ बन गया लेकिन पशु कल्याण के बारे में कुछ नहीं जानता था।
- सबक: AI ने केवल शब्दों को याद नहीं किया; उसने उस टेक्स्ट से विचारों और संबंधों को सीखा जिसे उसे खिलाया गया था।
3. महत्वपूर्ण खोज: यह विशिष्ट है, सामान्य नहीं
सबसे महत्वपूर्ण खोज यह है कि AI भ्रमित नहीं हुआ।
- जब पशु कल्याण के बारे में पूछा गया, तो AI ने PAW संपादनों पर भारी निर्भरता दिखाई।
- जब असंबंधित चीजों (जैसे "इस कंपनी के कितने स्टोर हैं?") के बारे में पूछा गया, तो AI ने PAW संपादनों को अनदेखा कर दिया और अपने सामान्य ज्ञान पर वापस चला गया।
उपमा (Analogy): कल्पना कीजिए कि आप एक बच्चे को एक विशिष्ट पेड़ के बारे में सिखा रहे हैं। आप एक चित्र पुस्तक में पेड़ में एक नया, चमकीला लाल पत्ता जोड़ते हैं।
- यदि आप पूछते हैं, "पत्ते का रंग क्या है?" तो बच्चा आपके लाल पत्ते की ओर इशारा करता है।
- यदि आप पूछते हैं, "पेड़ कितना ऊँचा है?" तो वह पत्ते को अनदेखा कर देता है और तने को देखता है।
बच्चे ने सीखा कि लाल पत्ता पत्तियों के बारे में सवालों के लिए महत्वपूर्ण है, न कि पूरे पेड़ के बारे में। AI ने भी बिल्कुल वैसा ही किया।
4. यह क्यों मायने रखता है (शोध पत्र के अनुसार)
शोध पत्र यह निष्कर्ष निकालता है कि AI को प्रभावित करने के लिए आपको लाखों डॉलर या इंजीनियरों की टीम की आवश्यकता नहीं है। आपको बस एक छोटे, समन्वित स्वयंसेवक समूह द्वारा विकिपीडिया को संपादित करने की आवश्यकता है।
चूंकि AI मॉडल विकिपीडिया पर प्रशिक्षित होते हैं, और चूंकि वे विकिपीडिया को बहुत अधिक महत्व देते हैं, इसलिए विकिपीडिया पेज को बदलना AI के ज्ञान के सोर्स कोड को बदलने जैसा है।
- पैमाना (Scale): शोध पत्र नोट करता है कि भले ही उनके द्वारा परीक्षण किए गए AI मॉडल आज के बड़े मॉडलों (जैसे आपके फोन में मौजूद मॉडल) की तुलना में छोटे थे, लेकिन यह प्रभाव बड़े मॉडलों में और भी अधिक मजबूत होने की संभावना है। ऐसा इसलिए है क्योंकि बड़े मॉडलों में इन विशिष्ट तथ्यों को रखने के लिए अधिक "मेमोरी" होती है, और विकिपीडिया के तथ्य अन्य समाचार स्रोतों द्वारा भी पुष्ट होते हैं जिन्हें AI भी पढ़ता है।
- मुख्य बात (Takeaway): लोगों का एक छोटा समूह, केवल विकिपीडिया पर तथ्यात्मक, अच्छी तरह से स्रोत वाले लेख लिखकर, AI सिस्टम के बात करने के तरीके को मापने योग्य रूप से बदल सकता है। यह आर्टिफिशियल इंटेलिजेंस के "विवेक" (conscience) को आकार देने का एक कम लागत वाला, उच्च-प्रभाव वाला तरीका है।
संक्षेप में: यह शोध पत्र सिद्ध करता है कि यदि आप चाहते हैं कि कोई AI किसी विशिष्ट विषय पर ध्यान दे, तो आपको AI को प्रोग्राम करने की आवश्यकता नहीं है। आपको बस वह विश्वकोश प्रविष्टि (encyclopedia entry) लिखनी है जिसे AI पढ़ता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।