Leveraging External Knowledge for Historical Document Restoration via Retrieval-Augmented Large Language Models
यह शोध पत्र ARI को प्रस्तुत करता है, जो एक रिट्रीवल-ऑगमेंटेड लार्ज लैंग्वेज मॉडल फ्रेमवर्क है जो पूर्व-प्रशिक्षित LLM ज्ञान को स्पष्ट रूप से रिट्रीव किए गए बाहरी संदर्भ के साथ जोड़कर ऐतिहासिक दस्तावेजों, विशेष रूप से नामित संस्थाओं (named entities) के पुनरुद्धार में महत्वपूर्ण सुधार करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रहस्य सुलझाने की कोशिश कर रहे हैं एक जासूस के रूप में, लेकिन आपके पास एकमात्र सुराग 400 साल पहले लिखी गई एक फटी हुई, पानी से क्षतिग्रस्त डायरी का पन्ना है। स्याही फीकी पड़ गई है, कागज फटा हुआ है, और पाठ के बड़े-बड़े हिस्से गायब हैं, जिनकी जगह खाली चौकोर डिब्बे बन गए हैं। यह इतिहासकार के लिए प्राचीन दस्तावेजों को पढ़ने की दैनिक वास्तविकता है। सदियों से, ये रिकॉर्ड ही अतीत को समझने का एकमात्र तरीका रहे हैं, लेकिन समय, नमी और अनाड़ी लिपिकों ने उन्हें पढ़ना लगभग असंभव बना दिया है। इसे ठीक करने के लिए, वैज्ञानिक कंप्यूटरों को एक बहुत ही स्मार्ट अनुमान लगाने वाले की तरह व्यवहार करना सिखा रहे हैं। वे "मास्क्ड लैंग्वेज मॉडलिंग" नामक एक तकनीक का उपयोग करते हैं, जो "खाली स्थान भरें" के एक उच्च-दांव वाले खेल की तरह है। कंप्यूटर गायब हिस्से के आसपास के शब्दों को देखता है और अनुमान लगाने की कोशिश करता है कि तत्काल वाक्य के आधार पर कौन सा शब्द सबसे उपयुक्त होगा।
हालाँकि, इसमें एक पेच है। कभी-कभी, गायब शब्द केवल "दौड़ा" या "खाया" जैसा कोई सामान्य क्रिया नहीं होता है। यह किसी विशिष्ट व्यक्ति का नाम, कोई दुर्लभ स्थान, या कोई ऐसी उपाधि हो सकती है जो केवल तभी समझ में आती है जब आप केवल उस वाक्य को नहीं, बल्कि पूरी दुनिया के इतिहास को जानते हों। एक कंप्यूटर जो केवल आस-पास के शब्दों के आधार पर अनुमान लगा रहा है, वह "राजा" का अनुमान लगा सकता है जब कि उत्तर वास्तव में "राजा सेजोंग" हो सकता है, क्योंकि उसके पास पूरी विश्वकोश (एनसाइक्लोपीडिया) उसके दिमाग में नहीं है। यहीं पर यह शोध पत्र एक सरल लेकिन शक्तिशाली प्रश्न पूछता है: क्या होगा यदि हमारा जासूस केवल फटे हुए पन्ने को ही न घूरता, बल्कि उसके पास उत्तर खोजने के लिए बगल में एक विशाल पुस्तकालय भी होता?
इस अध्ययन के पीछे के शोधकर्ताओं ने, कोरियाई ऐतिहासिक अभिलेखागार जैसे कि एनल्स ऑफ द जोसियन डायनेस्टी के साथ काम करते हुए, एक नए प्रकार के जासूसी उपकरण का निर्माण करने का निर्णय लिया जिसका नाम ARI (आर्काइव रेस्टोरेशन इंटेलिजेंस) है। उन्होंने महसूस किया कि जबकि मानक कंप्यूटर मॉडल सामान्य शब्दों का अनुमान लगाने में माहिर होते हैं, वे अक्सर विशिष्ट नामों और स्थानों को बहाल करने में लड़खड़ा जाते हैं क्योंकि उनके पास "बाहरी ज्ञान" की कमी होती है। इसे ठीक करने के लिए, टीम ने दो शक्तिशाली विचारों को मिलाया: लार्ज लैंग्वेज मॉडल्स (LLMs), जो कि ऐसे AI सिस्टम हैं जिन्होंने इंटरनेट पर लगभग सब कुछ पढ़ा है और जिनमें इतिहास की एक गहरी, आंतरिक समझ है, और रिट्रीवल-ऑगमेंटेड जनरेशन (RAG)। RAG को एक "चीट शीट" या सर्च इंजन देने के रूप में समझें। केवल स्मृति से अनुमान लगाने के बजाय, AI को समान वाक्यों को खोजने और सुराग के रूप में उपयोग करने के लिए अन्य ऐतिहासिक दस्तावेजों के विशाल डेटाबेस में खोजने की अनुमति दी जाती है।
टीम ने इस विचार का परीक्षण हजारों क्षतिग्रस्त कोरियाई दस्तावेजों पर किया। उन्होंने पाया कि केवल AI को अधिक "सोचने" देने या इसकी आंतरिक स्मृति का उपयोग करने से कठिन हिस्सों के लिए पर्याप्त नहीं था। लेकिन जब उन्होंने AI को प्रासंगिक ऐतिहासिक रिकॉर्ड खोजने (रिट्रीवल) की क्षमता दी और फिर इसे इस विशिष्ट कार्य के लिए विशेष रूप से प्रशिक्षित (फाइन-ट्यून) किया, तो परिणाम प्रभावशाली थे। उनके नए मॉडल, ARI ने मौजूदा तरीकों को काफी पीछे छोड़ दिया, विशेष रूप से कठिन हिस्सों को बहाल करने में: जैसे कि लोगों के नाम, स्थान और तिथियां। वास्तव में, जब मानव विशेषज्ञों ने परिणामों का परीक्षण किया, तो उन्होंने अन्य शीर्ष-स्तरीय मॉडलों की तुलना में ARI के सुझावों को पसंद किया, और इसे अतीत को समझने के लिए एक बहुत अधिक विश्वसनीय साथी पाया।
अध्ययन ने यह भी दिखाया कि AI तब सबसे अच्छा काम करता है जब वह उस समय काल के "संदर्भ" (कॉन्टेक्स्ट) को देख सकता है, जैसे कि यह जानना कि सिंहासन पर कौन सा राजा बैठा था, और जब वह उन दस्तावेजों को खोज सकता है जो क्षतिग्रस्त दस्तावेज़ के बहुत समान हों। हालाँकि, शोधकर्ताओं ने नोट किया कि यदि AI के प्रशिक्षण डेटा और जिस दस्तावेज़ को वह ठीक करने की कोशिश कर रहा है, उसके बीच का समय अंतराल बहुत अधिक बढ़ जाता है (जैसे कि 12वीं शताब्दी के पाठ को ठीक करने के लिए 18वीं शताब्दी की पुस्तकों का उपयोग करना), तो सटीकता थोड़ी कम हो जाती है। यह सुझाव देता है कि हालांकि यह उपकरण शक्तिशाली है, फिर भी इसे सही ऐतिहासिक युग के साथ सावधानीपूर्वक मिलाना आवश्यक है। अंततः, यह शोध पत्र सुझाव देता है कि AI की दिमागी शक्ति को एक डिजिटल लाइब्रेरी के साथ जोड़कर, हम अंततः अपठनीय को पढ़ सकते हैं, जिससे खाली चौकोर डिब्बे फिर से इतिहास की जीवंत कहानियों में बदल सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।