Named Entity Recognition of Historical Texts via Large Language Model
यह अध्ययन दर्शाता है कि लार्ज लैंग्वेज मॉडल्स, ज़ीरो-शॉट और फ्यू-शॉट प्रॉम्प्टिंग रणनीतियों का उपयोग करते हुए, उन ऐतिहासिक ग्रंथों के लिए नेमड एंटिटी रिकग्निशन (Named Entity Recognition) हेतु एक व्यवहार्य और कुशल विकल्प प्रदान करते हैं जहाँ एनोटेटेड ट्रेनिंग डेटा की कमी है, जो पूरी तरह से सुपरवाइज्ड मॉडल्स से पीछे रहने के बावजूद भी उचित रूप से मजबूत प्रदर्शन प्राप्त करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास 18वीं और 19वीं शताब्दी के पुराने, धूल भरे समाचार पत्रों और हस्तलिखित पत्रों का एक विशाल पुस्तकालय है। आप उन दस्तावेजों में किसी विशिष्ट व्यक्ति, शहर या संगठन के हर उल्लेख को जल्दी से खोजना चाहते हैं। यह नेम्ड एंटिटी रिकग्निशन (NER) का काम है: कंप्यूटर को "नेपोलियन," "पेरिस," या "द टाइम्स" जैसे नाम पहचानने और उन्हें लेबल करने के लिए सिखाना।
समस्या यह है कि ये पुराने दस्तावेज़ कंप्यूटरों के लिए एक दुःस्वप्न हैं। ये अजीब, पुरातन भाषाओं में लिखे गए हैं, इनमें वर्तनी की विसंगतियां हैं (जैसे "show" के बजाय "shew"), और स्कैनिंग की प्रक्रिया के कारण इनमें कई गलतियाँ (typos) भी हैं। इसे संभालने के लिए कंप्यूटर को सिखाने हेतु, आपको आमतौर पर एक मानव विशेषज्ञ की आवश्यकता होती है जो हजारों पन्नों को पढ़े और हर नाम को मैन्युअल रूप से लेबल करे। यह महंगा, धीमा है, और अक्सर असंभव है क्योंकि विशेषज्ञों या धन की कमी होती है।
नया दृष्टिकोण: "दिखाओ, बताओ मत" रणनीति
यह शोध पत्र लार्ज लैंग्वेज मॉडल्स (LLMs) का उपयोग करके इस समस्या को हल करने के एक नए तरीके का परीक्षण करता है। एक LLM को एक सुपर-स्मार्ट, बहुत पढ़ाकू रोबोट के रूप में समझें जिसने इंटरनेट पर लगभग सब कुछ पढ़ लिया है। रोबोट को एक कठिन प्रशिक्षण पाठ्यक्रम (जिसके लिए महंगे लेबल वाले उदाहरणों की आवश्यकता होती है) से गुजारने के बजाय, शोधकर्ताओं ने एक अलग तरीका अपनाया: प्रॉम्प्टिंग (Prompting)।
उन्होंने रोबोट के साथ एक ऐसे नए कर्मचारी की तरह व्यवहार किया जिसे अभी तक विशिष्ट कार्य के लिए प्रशिक्षित नहीं किया गया है। उन्होंने रोबोट को एक "चीट शीट" (प्रॉम्प्ट) दी और उसे काम करने के लिए कहा। उन्होंने दो मुख्य रणनीतियों का परीक्षण किया:
- जीरो-शॉट (द "ब्लाइंड" टेस्ट): उन्होंने बस रोबोट को बताया, "यहाँ एक टेक्स्ट है। लोग और स्थान खोजो।" कोई उदाहरण नहीं दिए गए।
- फ्यू-शॉट (द "शो मी" टेस्ट): उन्होंने रोबोट को पहले काम का एक छोटा सा नमूना दिया। उन्होंने कहा, "यहाँ एक वाक्य है: 'नेपोलियन पेरिस गया।' इस वाक्य में, 'नेपोलियन' एक व्यक्ति है और 'पेरिस' एक स्थान है। अब, इस नए वाक्य को देखें और वही करें।"
प्रयोग: "एक उदाहरण" का आश्चर्य
शोधकर्ताओं ने पांच अलग-अलग भाषाओं (जर्मन, फ्रेंच, अंग्रेजी, स्वीडिश और फिनिश) में ऐतिहासिक ग्रंथों के एक संग्रह पर इसका परीक्षण किया। उन्होंने रोबोट को उदाहरणों की अलग-अलग संख्या दी: 1, 3, या 5। उन्होंने उदाहरणों को चुनने के विभिन्न तरीकों का भी परीक्षण किया, जैसे कि उन्हें यादृच्छिक (randomly) रूप से चुनना या उन्हें ऐसे उदाहरण चुनना जो उस टेक्स्ट के बहुत समान दिखते हों जिसे रोबोट पढ़ने जा रहा है।
यहाँ उन्हें क्या मिला, सरल उपमाओं का उपयोग करते हुए:
- एक उदाहरण ही सबसे सटीक बिंदु है: आश्चर्यजनक रूप से, रोबोट को केवल एक उदाहरण देने से काम बेहतर हुआ, जबकि तीन या पांच उदाहरण देने से कम। यह एक बच्चे को खेल समझाने जैसा है: एक स्पष्ट उदाहरण ही अक्सर पर्याप्त होता है। यदि आप उन्हें पांच उदाहरण देते हैं, तो वे अतिरिक्त शोर या निर्देशों की लंबाई से भ्रमित हो सकते हैं। रोबट एक एकल, स्पष्ट प्रदर्शन के साथ सबसे अच्छा प्रदर्शन करता है।
- उदाहरण कैसे चुना जाता है, इससे ज्यादा फर्क नहीं पड़ता: शोधकर्ता यह जानना चाहते थे कि क्या लक्ष्य टेक्स्ट के बिल्कुल समान (जैसे कि एक जुड़वां ढूंढना) उदाहरण को चुनना, एक यादृच्छिक उदाहरण चुनने की तुलना में अधिक मददगार होगा। उन्होंने पाया कि इससे वास्तव में कोई फर्क नहीं पड़ता था। चाहे उदाहरण एक सटीक मेल हो या केवल एक यादृच्छिक नमूना, रोबोट एक ही उदाहरण से उतना ही अच्छा सीखता है। ऐसा है मानो रोबोट इतना स्मार्ट है कि वह लगभग किसी भी एकल उदाहरण से खेल के नियमों को समझ सकता है, चाहे वह कार्य के कितने भी समान क्यों न हो।
- "ग्रुप वोट" का तरीका: चूंकि AI कभी-कभी थोड़ा अप्रत्याशित हो सकता है (जैसे सिक्का उछालना), शोधकर्ताओं ने रोबोट को कार्य तीन बार करने के लिए कहा और फिर उस उत्तर को लिया जो सबसे अधिक बार आया (मैजॉरिटी वोटिंग)। इसने थोड़ा मदद की, जैसे एक समिति किसी निर्णय पर सहमत होती है, लेकिन सुधार बहुत कम था।
परिणाम: अच्छा, लेकिन पूर्ण नहीं
रोबोट ने ठीक-ठाक काम किया। बिना किसी उदाहरण के काम करने की तुलना में, एक भी उदाहरण मिलने पर वह नामों को खोजने में बहुत बेहतर था। हालांकि, वह उन "गोल्ड स्टैंडर्ड" सिस्टम को नहीं हरा सका जिन्हें महीनों तक लेबल किए गए डेटा के विशाल भंडार पर मनुष्यों द्वारा प्रशिक्षित किया गया था।
- अपवाद: एक डेटासेट (जर्मन ग्रंथों का एक संग्रह जिसे "सोनार" कहा जाता है) में, रोबोट ने पिछले सर्वोत्तम तरीकों से बेहतर प्रदर्शन किया।
- अंतराल: अधिकांश अन्य ग्रंथों के लिए, वह अभी भी उन विशेषज्ञों से पीछे था जिन्होंने मैनुअल ट्रेनिंग का भारी काम किया था।
निष्कर्ष
यह शोध पत्र यह सिद्ध करता है कि आपको कंप्यूटर को पुरानी इतिहास की किताबें पढ़ने के लिए हमेशा मानव लेबलर्स की एक बड़ी टीम की आवश्यकता नहीं है। आप एक स्मार्ट AI का उपयोग कर सकते हैं और केवल एक उदाहरण दिखाकर आश्चर्यजनक रूप से अच्छे परिणाम प्राप्त कर सकते हैं।
हालांकि यह "वन-शॉट" विधि अभी पूरी तरह से परफेक्ट नहीं है और यह मानव-प्रशिक्षित सबसे सटीक सिस्टम की जगह नहीं ले सकती है, लेकिन यह एक शक्तिशाली, मुफ्त और तेज़ उपकरण है। यह शोधकर्ताओं को ऐतिहासिक अभिलेखागारों (archives) को तुरंत एक्सप्लोर करने की अनुमति देता है, भले ही उनके पास विशाल प्रशिक्षण डेटासेट बनाने का बजट या समय न हो। यह एक सहायक कर्मचारी की तरह है जो आपके साथ पुरानी किताबें पढ़ सकता है, भले ही उसे काम शुरू करने से पहले एक त्वरित याद दिलाने की आवश्यकता हो कि उसे क्या खोजना है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।