Language Models Should be Used to Surface the Unwritten Code of Science and Society
यह शोध पत्र एक ऐसे ढांचे का प्रस्ताव करता है जो उनके स्वयं-निर्मित अनुमानी सिद्धांतों (heuristics) का विश्लेषण करके समाज के "अलिखित कोड" को उजागर करने और उसकी आलोचना करने के लिए बड़े भाषा मॉडलों (LLMs) का लाभ उठाता है, जो एक पीअर रिव्यू केस स्टडी के माध्यम से यह प्रदर्शित करता है कि कैसे LLMs उन अंतर्निहित पूर्वाग्रहों को प्रकट कर सकते हैं—जैसे कि शुद्ध कठोरता के बजाय कहानी कहने की अनकही प्राथमिकता—जिन्हें मानव विशेषज्ञ लागू तो करते हैं लेकिन शायद ही कभी स्पष्ट रूप से व्यक्त करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य विचार: "गुप्त नियम" खोजना
कल्पना कीजिए कि आप यह समझने की कोशिश कर रहे हैं कि कोई विशिष्ट गाना एक बड़ा हिट क्यों बना, जबकि दूसरा समान रूप से अच्छा गाना अनदेखा क्यों रह गया। आप संगीत समीक्षकों से पूछते हैं, "यह वाला क्यों जीता?" वे आपको एक मानक उत्तर देते हैं: "इसके बोल बेहतर थे और इसकी धुन बहुत आकर्षक थी।"
लेकिन गहराई में, आपको संदेह है कि वहाँ कोई गुप्त नियम (secret rule) है जिसे वे ज़ोर से नहीं बोल रहे हैं। शायद विजेता की कहानी बेहतर थी, या समीक्षकों को कलाकार की पृष्ठभूमि पसंद आई, या वह गाना वर्तमान चलन (trend) के अनुकूल था। ये "अलिखित कोड" हैं—वे अदृश्य नियम जो वास्तव में निर्णयों को संचालित करते हैं, भले ही लोग उन्हें स्वीकार करने में बहुत विनम्र हों या उनके इतने आदी हो चुके हों कि उन्हें टोकना ज़रूरी न लगे।
यह शोध पत्र तर्क देता है कि लार्ज लैंग्वेज मॉडल्स (LLMs)—आज हम जो स्मार्ट AI चैटबॉट्स उपयोग करते हैं—वास्तव में इन गुप्त नियमों को खोजने के लिए बेहतरीन उपकरण हैं। AI के पूर्वाग्रहों (biases) को ठीक करने के बजाय, लेखक सुझाव देते हैं कि हमें उन पूर्वाग्रहों को समाज के छिपे हुए, अलिखित नियमों पर रोशनी डालने वाली एक टॉर्च के रूप में उपयोग करना चाहिए।
प्रयोग: "पीयर रिव्यू" का जासूसी किस्सा
इसे सिद्ध करने के लिए, शोधकर्ताओं ने वैज्ञानिक पीयर रिव्यू (scientific peer review) का अध्ययन किया। यह वह प्रक्रिया है जहाँ वैज्ञानिक अपने शोध पत्र सम्मेलनों (conferences) में जमा करते हैं, और अन्य वैज्ञानिक (समीक्षक) यह तय करते हैं कि क्या वे प्रकाशन के लिए पर्याप्त अच्छे हैं।
सेटअप:
- डेटा: उन्होंने वैज्ञानिक शोध पत्रों के हजारों जोड़े एकत्र किए। प्रत्येक जोड़े में, एक पेपर को उच्च स्कोर (एक "पास") मिला और दूसरे को कम स्कोर (एक "फेल") मिला।
- AI जासूस: उन्होंने एक AI से इन जोड़ों को देखने और यह अनुमान लगाने के लिए कहा: "उच्च स्कोर वाला पेपर क्यों जीता?"
दो-चरणीय खोज प्रक्रिया
शोधकर्ताओं ने केवल एक बार AI से नहीं पूछा। उन्होंने AI की सोच की परतों को खोलने के लिए एक चतुर दो-चरणीय विधि का उपयोग किया:
चरण 1: "विनम्र" उत्तर (द प्रायर - The Prior)
सबसे पहले, उन्होंने AI से पूछा कि सामान्य तौर पर एक अच्छा पेपर क्या होता है, बिना उसे कोई विशिष्ट उदाहरण दिखाए।
- परिणाम: AI ने बहुत मानक, "पाठ्यपुस्तक" वाले उत्तर दिए। इसने कहा जैसे, "विजेता का गणित बेहतर था," "विधियाँ अधिक कठोर थीं," या "सिद्धांत अधिक मजबूत था।"
- उपमा: यह एक ऐसे छात्र की तरह है जो वह उत्तर देता है जो उसे लगता है कि शिक्षक सुनना चाहते हैं। यह "आधिकारिक" नियम पुस्तिका है।
चरण 2: "असली" उत्तर (द पोस्टीरियर - The Posterior)
इसके बाद, उन्होंने AI को शोध पत्रों के वास्तविक जोड़े दिखाए (विजेता और हारने वाले) और उससे उन मामलों के लिए विशेष रूप से अंतर समझाने को कहा। उन्होंने AI को तब तक गहराई तक जाने के लिए मजबूर किया जब तक कि वह लगभग हर एक जीत की व्याख्या न कर सके।
- परिणाम: AI के उत्तर बदल गए! इसने कहना शुरू किया जैसे, "विजेता ने एक बेहतर कहानी सुनाई," "इसने अपने काम को अन्य प्रसिद्ध अध्ययनों से जोड़ा," या "इसने समस्या को इस तरह से प्रस्तुत किया जिससे वह महत्वपूर्ण लगने लगी।"
- उपमा: यह उस छात्र की तरह है जो फुसफुसा रहा है, "ठीक है, लेकिन सच में, शिक्षक को वह पसंद आया जिसकी कहानी शानदार थी और जिसकी प्रस्तुति आकर्षक थी, भले ही गणित समान था।"
चौंकाने वाली खोज
शोधकर्ताओं ने पाया कि इंसान क्या कहते हैं और वे वास्तव में किसे पुरस्कृत करते हैं, इसके बीच एक बड़ा अंतर है।
- इंसान क्या कहते हैं: अपने लिखित समीक्षाओं में, मानव वैज्ञानिक ज्यादातर "पाठ्यपुस्तक" वाली चीज़ों (कठोरता, विधियों) के बारे में बात करते हैं। वे कहानी कहने (storytelling) या शोध को कैसे प्रस्तुत किया गया, इसका उल्लेख शायद ही कभी करते हैं।
- इंसान वास्तव में क्या करते हैं: "कठोरता" के बारे में लिखने के बावजूद, जीतने वाले वे पेपर थे जिनकी कहानियाँ और जुड़ाव बेहतर थे।
- AI की भूमिका: AI भी मनुष्यों की तरह ही उसी "पाठ्यपुस्तक" वाले पूर्वाग्रह से शुरू हुआ। लेकिन वास्तविक परिणामों को देखते ही, AI ने अपनी सोच को अपडेट किया। उसे समझ आया, "ओह, मैं देख सकता हूँ। इन पेपर्स के जीतने का असली कारण केवल गणित नहीं था; बल्कि उनकी कहानी थी।"
रूपक (Metaphor):
एक टैलेंट शो के जज की कल्पना करें।
- सार्वजनिक बयान: जज कहता है, "मैं तकनीकी कौशल और सुरों की सटीकता देख रहा हूँ।"
- वास्तविकता: जज वास्तव में उस गायक को ट्रॉफी देता है जो सबसे भावनात्मक बैकस्टोरी बताता है और दर्शकों के साथ जुड़ जाता है।
- AI का काम: AI एक अत्यंत सूक्ष्म अवलोकन करने वाले सहायक की तरह कार्य करता है जो जज के वास्तविक विकल्पों को देखता है और कहता है, "हे, आप बार-बार उन कहानीकारों को ट्रॉफी दे रहे हैं, भले ही आप कहते हैं कि आपको केवल सुरों की सटीकता की परवाह है। यहाँ वह गुप्त नियम है जिसका आप पालन कर रहे हैं।"
यह क्यों महत्वपूर्ण है
लेखक यह नहीं कह रहे हैं कि हमें AI को मानव न्यायाधीशों की जगह लेने देना चाहिए। इसके बजाय, वे इसे एक नैदानिक उपकरण (diagnostic tool) के रूप में उपयोग करना चाहते हैं।
- अदृश्य को दृश्य बनाना: जिस तरह इस अध्ययन ने खुलासा किया कि विज्ञान में "कहानी सुनाना" एक छिपा हुआ नियम है, यह विधि भर्ती (hiring) में छिपे पूर्वाग्रहों (जैसे, "हम कहते हैं कि हम कौशल चाहते हैं, लेकिन वास्तव में हम विशिष्ट कॉलेजों के उम्मीदवारों को पसंद करते हैं") या कॉलेज प्रवेश में भी छिपे नियमों को प्रकट कर सकती है।
- लक्ष्य: एक बार जब हमें गुप्त नियमों का पता चल जाता है, तो हम उन पर ईमानदार चर्चा कर सकते हैं। क्या ये नियम निष्पक्ष हैं? क्या वे सही लोगों की मदद करते हैं? यदि हमें पता ही नहीं कि नियम मौजूद हैं, तो हम उन्हें बदल नहीं सकते।
सारांश
यह शोध पत्र दावा करता है कि AI मॉडल्स ने मानव संस्कृति के छिपे हुए, अलिखित नियमों को आत्मसात कर लिया है। इन AI मॉडल्स को बार-बार अपने निर्णयों की व्याख्या करने के लिए मजबूर करके, हम उन्हें समाज में वास्तव में क्या मायने रखता है, इस पर "भेद खोलने" के लिए मजबूर कर सकते हैं—जो हमारे विनम्र, आधिकारिक नियमों और हमारे निर्णयों के पीछे के वास्तविक, जटिल कारणों के बीच के अंतर को उजागर करता है। यह हमें समाज के "छिपे हुए पाठ्यक्रम" (hidden curriculum) को देखने में मदद करता है ताकि हम तय कर सकें कि हम इसे रखना चाहते हैं या बदलना चाहते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।