“Just do register analysis”, they said. “It’ll be easy”, they said: Evaluating the impact of lexico-grammatical tagging systems on multidimensional analysis
यह अध्ययन बहुआयामी विश्लेषण के लिए पांच ओपन-सोर्स लेक्सिको-ग्रामैटिकल टैगिंग प्रणालियों का व्यवस्थित रूप से मूल्यांकन करता है, जिससे यह स्पष्ट होता है कि यद्यपि वे सामान्य रजिस्टर भेदों को सफलतापूर्वक पुनरुत्पादित करते हैं, फिर भी उनके परिणामी आयामी स्कोर अंतर्निहित एनएलपी पाइपलाइनों में अंतर के बजाय असंगत फीचर ऑपरेशनलाइजेशन के कारण काफी भिन्न होते हैं।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
भाषा की कल्पना एक विशाल, हलचल भरे शहर के रूप में करें। हर बार जब हम बोलते या लिखते हैं, तो हम अलग-अलग मोहल्लों से गुजर रहे होते हैं: जैसे कि बातचीत से भरा एक जीवंत बाजार चौक (संवाद), तथ्यों से भरी एक शांत लाइब्रेरी (अकादमिक लेखन), या एक नाटकीय मंच नाटक (फिक्शन)। भाषाविदों ने लंबे समय से इन मोहल्लों का मानचित्र बनाने की इच्छा की है ताकि वे समझ सकें कि उन्हें क्या विशिष्ट बनाता है। इसे करने के लिए, वे "मल्टीडायमेंशनल एनालिसिस" (MDA) नामक एक शक्तिशाली उपकरण का उपयोग करते हैं। MDA को एक हाई-टेक जीपीएस के रूप में सोचें जो केवल व्यक्तिगत शब्दों को नहीं देखता, बल्कि सैकड़ों सूक्ष्म संकेतों को गिनकर एक टेक्स्ट के "वाइब" (मिजाज) को मापता है—जैसे कि कितने संकुचन (contractions) का उपयोग किया गया है, लोग कितनी बार "मैं" या "तुम" कहते हैं, या कितनी लंबी, जटिल वाक्य संरचनाएं दिखाई देती हैं। इन संकेतों को "डायमेंशन" (आयामों) में समूहित किया जाता है, जो एक मानचित्र पर अदृश्य अक्षों की तरह होते हैं। एक अक्ष यह माप सकता है कि कोई टेक्स्ट कितना "बातूनी और शामिल" (involved) है, जबकि दूसरा यह माप सकता है कि वह कितना "तथ्यात्मक और दूरस्थ" (distant) है।
द दशकों से, शोधकर्ता इन संकेतों को गिनने के लिए "बाइबर टैगर" (Biber Tagger) नामक एक विशिष्ट, दिग्गज उपकरण पर भरोसा करते आए हैं। यह मूल भरोसेमंद दिशा-सूचक यंत्र (compass) की तरह है जिसका उपयोग पूरा शहर करता है। लेकिन पेच यह है कि वह मूल दिशा-सूचक यंत्र एक तिजोरी में बंद है; कोई भी देख नहीं सकता कि यह कैसे काम करता है या इसका सीधे उपयोग कैसे किया जा सकता है। इसलिए, इंजीनियरों के एक समूह ने इन दिशा-सूचक यंत्रों के अपने ओपन-सोर्स संस्करण बनाए हैं ताकि हर कोई इस मानचित्र के साथ खेल सके। लेकिन एक बड़ा सवाल बना हुआ है: क्या ये नए दिशा-सूचक यंत्र बिल्कुल उसी दिशा में संकेत देते हैं जिस दिशा में मूल यंत्र देता था? यदि दो खोजकर्ता अलग-अलग मानचित्रों का उपयोग करते हैं, तो क्या वे एक ही मोहल्ले में पहुंचेंगे, या उनमें से एक शहर के किसी अलग हिस्से में खो जाएगा? यह एक रहस्य है जिसे जर्मनी के एरलंगन-नूर्नबर्ग विश्वविद्यालय के शोधकर्ताओं की एक टीम ने सुलझाने का प्रयास किया।
शोधकर्ताओं ने इन पांच नए "बाइबर-शैली" के उपकरणों को परखने का निर्णय लिया। उन्होंने 19वीं सदी के ब्रिटिश उपन्यासों का एक विशाल संग्रह लिया—विशेष रूप से उन अंतरों को देखते हुए जहाँ पात्र आपस में बात करते हैं (संवाद/dialogue) और जहाँ लेखक कहानी सुनाता है (कथन/narration)। वे जानते थे कि "मूल" दिशा-सूचक यंत्र ने पहले ही दिखाया था कि संवाद आमतौर पर बहुत "जुड़ा हुआ" (involved) और संवादात्मक होता है, जबकि कथन अधिक "सूचनात्मक" और वर्णनात्मक होता है। टीम ने उसी टेक्स्ट को पांच अलग-अलग ओपन-सोर्स टूल्स के माध्यम से चलाया: MAT, pseudobibeR, pybiber, BiberPlus, और Biberpy। वे देखना चाहते थे कि क्या ये उपकरण मानचित्र के लेआउट पर सहमत होंगे या वे पूरी तरह से अलग शहर बनाएंगे।
परिणाम "ज्यादातर हाँ" और "आउटलेयर्स (विचलनों) से सावधान रहें" का मिश्रण थे। सबसे पहले, अच्छी खबर: लगभग सभी टूल्स ने सफलतापूर्वक एक ही बड़ी तस्वीर पेश की। वे सभी इस बात पर सहमत थे कि संवाद बातूनी होता है और कथन तथ्यात्मक होता है। शहर का सामान्य आकार वैसा ही रहा। हालाँकि, जब शोधकर्ताओं ने सटीक निर्देशांकों (coordinates)—मानचित्र पर विशिष्ट संख्याओं—को देखा, तो उन्होंने पाया कि टूल्स विवरणों पर हमेशा सहमत नहीं होते थे। कुछ टूल्स, जैसे MAT और pybiber, ऐसे परिणाम देते थे जो मूल के बहुत करीब थे। अन्य, जैसे Biberpy, थोड़े अनियंत्रित थे; उन्होंने टेक्स्ट को उन स्थानों पर रखा जो आश्चर्यजनक रूप से उन जगहों से दूर थे जहाँ मूल दिशा-सूचक यंत्र ने उन्हें रखा था।
यह क्यों हुआ? शोधकर्ताओं ने इन टूल्स के इंजन रूम की गहराई से जांच की। उन्होंने पाया कि अंतर आमतौर पर अंतर्निहित तकनीक (जैसे कि व्याकरण को समझने के लिए टूल द्वारा उपयोग किया जाने वाला विशिष्ट भाषा मॉडल) के कारण नहीं था। इसके बजाय, समस्या इस बात से आई कि टूल्स विशिष्ट चीजों को कैसे गिनते थे। यह पता चला कि कुछ पेचीदा विशेषताएं अलग तरह से गिनी जा रही थीं। उदाहरण के लिए, एक टूल प्रश्न चिह्न के एक विशिष्ट प्रकार या एक अजीब वाक्य संरचना को इस तरह गिन सकता था जिससे संख्याएं आसमान छूने लगें, जिससे अंतिम स्कोर बिगड़ जाए। यह कुछ ऐसा है जैसे यदि एक मानचित्रकार फुटपाथ पर मौजूद हर कंकड़ को एक "इमारत" के रूप में गिनने का निर्णय ले, जबकि दूसरा केवल गगनचुंबी इमारतों को गिनता है; तो इमारतों की कुल संख्या पूरी तरह से अलग दिखेगी, भले ही शहर खुद न बदला हो।
इस अध्ययन ने यह भी जांचा कि ये टूल्स कितने तेज़ थे। शोधकर्ताओं ने पाया कि आधुनिक तकनीक (पायथन का उपयोग करके) से बने टूल्स आम तौर पर तेज़ थे, विशेष रूप से यदि आपके पास एक शक्तिशाली कंप्यूटर हो जिसमें ग्राफिक्स कार्ड (GPU) हो जो उनकी मदद कर सके। एक टूल, MAT, थोड़ा धीमा था क्योंकि इसके लिए किसी इंसान द्वारा बटन क्लिक करने की आवश्यकता थी, जबकि अन्य स्वचालित रूप से चल सकते थे। दिलचस्प बात यह है कि एक "स्मार्टर" या अधिक जटिल भाषा मॉडल का उपयोग करने से अंतिम मानचित्र आवश्यक रूप से अधिक सटीक नहीं हुआ; इसने केवल इसे बनाने में अधिक समय लिया।
अंत में, यह शोध पत्र सुझाव देता है कि हालांकि ये नए टूल्स बेहतरीन और काफी हद तक विश्वसनीय हैं, लेकिन वे मूल की सटीक प्रतिलिपियाँ नहीं हैं। यदि आप अपने नए निष्कर्षों की तुलना मूल "बाइबर टैगर" का उपयोग करने वाले पुराने अध्ययनों से सीधे करना चाहते हैं, तो आपको बहुत सावधान रहना होगा। आपको अपनी सेटिंग्स को ट्यून करने या दुर्लभ शब्दों को फ़िल्टर करने की आवश्यकता हो सकती है ताकि संख्याएं मेल खा सकें। शोधकर्ता चेतावनी देते हैं कि कुछ टूल्स, जैसे Biberpy, वर्तमान में सीधे तुलना के लिए बहुत अलग हो सकते हैं। वे यह भी सुझाव देते हैं कि इस क्षेत्र का भविष्य इन टूल्स को अधिक लचीला बनाने में निहित है, जिससे शोधकर्ता यह चुन सकें कि वे चीजों को बिल्कुल कैसे गिनना चाहते हैं, और शायद अंग्रेजी के अलावा अन्य भाषाओं के मानचित्र बनाने वाले टूल्स भी विकसित कर सकें। भाषा का शहर विशाल है, और हालांकि हमारे पास कई नए दिशा-सूचक यंत्र हैं, फिर भी हमें यह सुनिश्चित करने की आवश्यकता है कि वे सभी उत्तर दिशा की ओर ही संकेत करें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।