CulTrace: Tracing Internal Cultural Reasoning in Large Language Models
यह शोध पत्र CulTrace को पेश करता है, जो एक मैकेनिस्टिक इंटरप्रिटेबिलिटी पद्धति है जो यह प्रकट करती है कि LLMs डोमेन इंगेजमेंट (domain engagement), कल्चर रेज़ोल्यूशन (culture resolution) और आंसर सिलेक्शन (answer selection) के एक सुसंगत तीन-चरणीय प्रक्षेपवक्र (trajectory) के माध्यम से सांस्कृतिक तर्क को संसाधित करते हैं, और साथ ही उन असंतुलनों को भी उजागर करता है जहाँ मॉडल कम प्रतिनिधित्व वाली संस्कृतियों के साथ संघर्ष करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
लार्ज लैंग्वेज मॉडल्स (LLMs) उन कृत्रिम बुद्धिमत्ता (AI) उपकरणों के इंजन हैं जिनका हम आज उपयोग करते हैं, जो लगभग किसी भी विषय पर मानव जैसा टेक्स्ट उत्पन्न करने में सक्षम हैं। इन प्रणालियों को इंटरनेट से प्राप्त विशाल डेटा पर प्रशिक्षित किया जाता है, जिससे वे पहले देखे गए पैटर्न के आधार पर वाक्य में अगले शब्द की भविष्यवाणी करना सीखती हैं। चूंकि यह प्रशिक्षण डेटा दुनिया भर से आता है, इसलिए इन मॉडल्स से तेजी से विभिन्न संस्कृतियों की बारीकियों को समझने और उनका सम्मान करने की अपेक्षा की जाती है, जिसमें स्थानीय रीति-रिवाजों से लेकर क्षेत्रीय खाद्य पदार्थ तक शामिल हैं। हालांकि, जब ये मॉडल्स सांस्कृतिक विवरणों में गलती करते हैं, तो यह समझना अक्सर कठिन होता है कि ऐसा क्यों हुआ। पारंपरिक परीक्षण विधियां केवल मॉडल द्वारा दिए गए अंतिम उत्तर को देखती हैं, जैसे कि छात्र के काम को देखे बिना उसके टेस्ट को ग्रेड देना। यह दृष्टिकोण हमें बताता है कि उत्तर सही है या नहीं, लेकिन यह उस विचार प्रक्रिया को छिपा देता है जो उस तक ले गई, जिससे शोधकर्ता इस बात से अनभिज्ञ रह जाते हैं कि मशीन के भीतर वास्तव में भ्रम कहाँ होता है।
इसे हल करने के लिए, कोपेनहेगन विश्वविद्यालय और KAIST के शोधकर्ताओं की एक टीम ने इन मॉडल्स के भीतर झांकने का एक नया तरीका विकसित किया है। उन्होंने 'CulTrace' नामक एक विधि बनाई, जो मॉडल की आंतरिक सोच के लिए एक खिड़की की तरह काम करती है। केवल अंतिम आउटपुट का इंतजार करने के बजाय, यह तकनीक शोधकर्ताओं को परत-दर-परत (layer by layer) मॉडल के "विचारों" को होते हुए पढ़ने की अनुमति देती है। एक लार्ज लैंग्वेज मॉडल की कल्पना एक बड़े कारखाने के रूप में करें जिसमें उत्पादन के कई चरण होते हैं। शुरुआती चरणों में, कच्चे माल को छांटा और तैयार किया जाता है; मध्य चरणों में, उन्हें आकार दिया और परिष्कृत किया जाता है; और अंतिम चरणों में, उत्पाद को असेंबल और पैक किया जाता है। CulTrace शोधकर्ताओं को इस कारखाने के हर एक चरण में झांकने और यह देखने की अनुमति देता है कि प्रत्येक चरण में मॉडल किस चीज़ पर ध्यान केंद्रित कर रहा है। उन्होंने पाया कि मॉडल सीधे उत्तर पर नहीं कूदता है। इसके बजाय, यह एक विशिष्ट पथ का अनुसरण करता है: पहले, वह प्रश्न के सामान्य विषय को समझता है, फिर वह विशिष्ट संस्कृति की पहचान करने की कोशिश करता है, और अंत में, वह सही उत्तर तक पहुँचने के लिए संकुचित होता है।
शोधकर्ताओं ने दस अलग-अलग संस्कृतियों (दक्षिण कोरिया और स्पेन से लेकर इथियोपिया और अल्जीरिया तक) के बारे में प्रश्नों का उपयोग करके इस विधि का तीन अलग-अलग लोकप्रिय भाषा मॉडल्स पर परीक्षण किया। उन्होंने मॉडल्स से रोजमर्रा के सांस्कृतिक ज्ञान के बारे में सवाल पूछे, जैसे कि दक्षिण कोरिया के शॉपिंग मॉल्स में कौन से स्नैक्स लोकप्रिय हैं या विशिष्ट क्षेत्रों से जुड़े पारंपरिक पेय क्या हैं। हर लेयर पर मॉडल के आंतरिक संकेतों को डिकोड करके, वे वास्तविक समय में तर्क को प्रकट होते हुए देख सके। उन्होंने जो खोजा वह इन मॉडल्स द्वारा सांस्कृतिक जानकारी को संभालने का एक सुसंगत पैटर्न था। मॉडल्स हमेशा व्यापक विषय को समझकर शुरुआत करते हैं, जैसे कि "भोजन" या "त्योहार"। फिर, वे संस्कृति की पहचान करने की ओर बढ़ते हैं। हालांकि, यहीं से प्रक्रिया अक्सर उलझ जाती है। सही संस्कृति पर स्थिर होने से पहले, मॉडल्स अक्सर पास की या समान संस्कृति के क्षेत्र में भटक जाते हैं। उदाहरण के लिए, अल्जीरिया के बारे में पूछे जाने पर, मॉडल पहले उत्तरी अफ्रीका या फ्रांस के बारे में सोच सकता है। ईरान के बारे में पूछे जाने पर, वह शुरू में व्यापक मध्य पूर्व (Middle East) पर विचार कर सकता है।
"डिफ़ॉल्ट" या पड़ोसी संस्कृति की ओर झुकने की यह प्रवृत्ति ही वह जगह है जहाँ गलतियाँ शुरू होती हैं। अध्ययन ने दिखाया कि संयुक्त राज्य अमेरिका, चीन या दक्षिण कोरिया जैसी अच्छी तरह से प्रतिनिधित्व की जाने वाली संस्कृतियों के लिए, मॉडल अपेक्षाकृत जल्दी, अक्सर अपनी प्रोसेसिंग के मध्य स्तरों के भीतर, सही संस्कृति की पहचान कर लेता है। लेकिन उन संस्कृतियों के लिए जो प्रशिक्षण डेटा में कम बार दिखाई देती हैं, जैसे कि अल्जीरिया या अज़रबैजान, मॉडल को सही सांस्कृतिक संदर्भ खोजने में बहुत अधिक समय लगता है। वह शुरुआती, भ्रमित चरणों में फंसा रहता है, और अक्सर एक जेनेरिक क्षेत्रीय लेबल या ऐसी संस्कृति की ओर झुक जाता है जिसे मॉडल डिफ़ॉल्ट रूप से पसंद करता है, जैसे कि परीक्षण किए गए एक मॉडल के लिए जापान। यह सुझाव देता है कि पूर्वाग्रह केवल आउटपुट में एक अंतिम गलती नहीं है, बल्कि यह एक मौलिक समस्या है कि मॉडल अपने आंतरिक प्रसंस्करण के दौरान सांस्कृतिक ज्ञान को कैसे प्राप्त और परिष्कृत करता है। मॉडल केवल अनुमान नहीं लगा रहा है; वह सक्रिय रूप से तर्क दे रहा है, लेकिन उसका तर्क पथ कम प्रतिनिधित्व वाली संस्कृतियों के लिए लंबा और भ्रम के प्रति अधिक संवेदनशील है।
इस खोज के निहितार्थ बेहतर आर्टिफिशियल इंटेलिजेंस बनाने के तरीके के लिए महत्वपूर्ण हैं। यदि समस्या यह है कि मॉडल अपने सोचने के मध्य चरणों के दौरान गलत सांस्कृतिक पड़ोस में फंस जाता है, तो अंतिम उत्तर को ठीक करना पर्याप्त नहीं है। शोधकर्ता सुझाव देते हैं कि सुधार प्रक्रिया में पहले होना चाहिए, विशेष रूप से उन परतों पर जहाँ मॉडल सांस्कृतिक संदर्भ को हल करने की कोशिश कर रहा है। यह समझकर कि मॉडल्स कहाँ और कैसे भ्रमित होते हैं, डेवलपर्स अपने प्रशिक्षण प्रयासों को अधिक सटीक रूप से लक्षित कर सकते हैं। केवल मॉडल को सही उत्तर सिखाने के बजाय, वे इसे सही संस्कृति को जल्दी पहचानने और उन मोड़ों से बचने में मदद कर सकते हैं जो गलत पहचान (misattribution) की ओर ले जाते हैं। यह कार्य केवल यह जाँचने से आगे बढ़कर कि मॉडल सही है या गलत, एक स्पष्ट मानचित्र प्रदान करता है कि कृत्रिम बुद्धिमत्ता की जटिल परतों के भीतर सांस्कृतिक ज्ञान कैसे बनाया, परिष्कृत और कभी-कभी खोया जाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।