Sustainable Local RAG Architectures for Energy Governance: A Green AI Approach via Document Slice Contextualization
यह शोध पत्र ऊर्जा शासन अनुपालन के लिए ऊर्जा खपत, उत्सर्जन और अनुमान समय (inference time) को भारी रूप से कम करने के साथ-साथ बेसलाइन रिट्रीवल सटीकता प्राप्त करने के लिए डॉक्यूमेंट स्लाइस कॉन्टेक्स्टुअलाइजेशन और एक टू-टियर रूटिंग एजेंट का उपयोग करते हुए एक टिकाऊ, स्थानीय RAG आर्किटेक्चर प्रस्तावित करता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक दुनिया में, संगठन दस्तावेजों में डूब रहे हैं। ऊर्जा नियमों से लेकर वैज्ञानिक अनुसंधान तक, महत्वपूर्ण निर्णय लेने के लिए आवश्यक जानकारी हजारों पृष्ठों के पाठ के भीतर बंद है। इसे समझने के लिए, कई संस्थान कृत्रिम बुद्धिमत्ता (AI) की ओर मुड़ रहे हैं, विशेष रूप से उन प्रणालियों की ओर जो एक दस्तावेज़ को पढ़ सकती हैं, प्रासंगिक भागों को खोज सकती हैं और उनके आधार पर प्रश्नों के उत्तर दे सकती हैं। यह प्रक्रिया, जिसे 'रिट्रीवल-ऑगमेंटेड जनरेशन' (retrieval-augmented generation) कहा जाता है, एक लंबे दस्तावेज़ को छोटे टुकड़ों, या 'चंक्स' (chunks) में तोड़ने और प्रत्येक टुकड़े का सारांश निकालने से पहले एक कंप्यूटर मॉडल से पूछने के माध्यम से काम करती है। हालाँकि, एक महत्वपूर्ण समस्या उभर कर आई है: इसे करने का सबसे सटीक तरीका यह है कि कंप्यूटर को हर बार एक छोटा सा हिस्सा सारांशित करने के लिए पूरा दस्तावेज़ पढ़ना पड़ता है। यह दृष्टिकोण अविश्वसनीय रूप से ऊर्जा-गहन है और इसके लिए शक्तिशाली, महंगे कंप्यूटर हार्डवेयर की आवश्यकता होती है जो अधिकांश स्थानीय कार्यालयों के पास नहीं होता है। ऊर्जा शासन जैसे क्षेत्रों के लिए, जहाँ कानून यह मांग करते हैं कि डेटा देश के भीतर ही रहे और उसे किसी दूर स्थित क्लाउड सर्वर पर न भेजा जाए, यह एक बाधा उत्पन्न करता है। तकनीक मौजूद है, लेकिन इसे स्थानीय रूप से चलाने की लागत अक्सर बहुत अधिक होती है, चाहे वह बिजली के रूप में हो या कंप्यूटर की भौतिक मेमोरी के रूप में।
हंगरी के डेब्रेसेन विश्वविद्यालय के शोधकर्ताओं ने इस समस्या को हल करने के लिए एक नई विधि विकसित की है, जिससे ये शक्तिशाली AI उपकरण मानक कार्यालय कंप्यूटरों पर कुशलतापूर्वक चल सकते हैं। उनका कार्य "डॉक्यूमेंट स्लाइस कॉन्टेक्स्टुअलाइजेशन" (Document Slice Contextualization) नामक एक तकनीक पर केंद्रित है। एक एकल पैराग्राफ को समझने के लिए कंप्यूटर को पूरा दस्तावेज़ पढ़ने के लिए मजबूर करने के बजाय, नई प्रणाली बुद्धिमानी से यह तय करती है कि वास्तव में कितने आस-पास के पाठ की आवश्यकता है। कल्पना कीजिए कि एक लाइब्रेरियन जो आपको परिभाषा खोजने के लिए पूरी विश्वकोश देने के बजाय, केवल विशिष्ट पृष्ठ और उसके ठीक बगल के कुछ पृष्ठ ही खोलता है। शोधकर्ताओं ने एक स्मार्ट 'रूटिंग एजेंट' बनाया है जो इस लाइब्रेरियन की तरह कार्य करता है। टेक्स्ट के एक टुकड़े का सारांश बनाने से पहले, यह एजेंट जल्दी से जांच करता है कि क्या वह टुकड़ा अपने आप में स्पष्ट है, जैसे कि कोई सार (abstract) या निष्कर्ष, या उसे समझने के लिए अपने पड़ोसियों से मदद की आवश्यकता है। यदि टुकड़ा अपने आप में स्पष्ट है, तो सिस्टम सारांश बनाने के चरण को पूरी तरह से छोड़ देता है। यदि उसे संदर्भ की आवश्यकता है, तो एजेंट यह तय करता है कि वास्तव में कितने पड़ोसी पृष्ठों को शामिल किया जाना चाहिए, बजाय इसके कि वह बिना सोचे-समझे पूरी किताब को शामिल कर ले।
टीम ने बीस वैज्ञानिक शोध पत्रों और यूरोपीय आयोग के चार जटिल नीति दस्तावेजों के संग्रह पर इस दृष्टिकोण का परीक्षण किया। उन्होंने अपने नए, स्मार्ट रूटिंग तरीके की तुलना पारंपरिक दृष्टिकोण से की जो हर बार पूरे दस्तावेज़ को पढ़ता है। परिणाम आश्चर्यजनक थे। नई प्रणाली ने भारी, ऊर्जा-गहन विधि की तरह ही सही जानकारी खोजने में लगभग उसी स्तर की सटीकता प्राप्त की, लेकिन इसने बहुत कम प्रयास के साथ ऐसा किया। विशेष रूप से, नए तरीके ने उत्तर उत्पन्न करने के लिए आवश्यक ऊर्जा को 87.6 प्रतिशत तक कम कर दिया। व्यावहारिक रूप से, एक कार्य जिसे पहले लगभग एक घंटा लगता था और जिसमें 100 वॉट-घंटे से अधिक बिजली की खपत होती थी, उसे केवल 13.2 वॉट-घंटे में नौ मिनट से कम समय में पूरा कर लिया गया। इस कमी का मतलब कार्बन उत्सर्जन में भी भारी गिरावट था, जिसने आउटपुट को 21.8 ग्राम कार्बन डाइऑक्साइड समकक्ष से घटाकर केवल 2.8 ग्राम कर दिया।
अध्ययन का एक प्रमुख निष्कर्ष यह है कि "स्मार्ट" रूटिंग एजेंट ने न केवल ऊर्जा बचाई; बल्कि इसने कुछ मामलों में खोज की गुणवत्ता में भी सुधार किया। चंक्स (टुकड़ों) के सारांश को छोड़ने से, जिसने पहले से ही स्पष्ट थे, सिस्टम ने खोज प्रक्रिया में अनावश्यक शोर (noise) जोड़ने से बच लिया। इसने कंप्यूटर को सबसे प्रासंगिक जानकारी तेजी से और अधिक सटीकता से खोजने में सक्षम बनाया। शोधकर्ताओं ने इसे दस्तावेज़ के कई हिस्सों से जानकारी जोड़ने वाले 250 कठिन प्रश्नों के एक मानक परीक्षण का उपयोग करके मापा। उनके नए सिस्टम ने 95.2 प्रतिशत मामलों में सही उत्तर खोजे, जो कि बहुत धीमी, ऊर्जा-गहन विधि द्वारा प्राप्त 95.4 प्रतिशत के लगभग समान है। इसके अलावा, सिस्टम सफलतापूर्वक एक मानक लैपटॉप ग्राफिक्स कार्ड पर चला, जिसमें केवल 8 गीगाबाइट मेमोरी थी, एक ऐसा उपकरण जो पारंपरिक विधि के भार के नीचे क्रैश हो जाता।
इस कार्य के निहितार्थ केवल बिजली बचाने से परे हैं। ऊर्जा शासन जैसे उद्योगों के लिए, जहाँ सख्त कानून यह निर्धारित करते हैं कि डेटा स्थानीय रहना चाहिए और संगठन के नियंत्रण में होना चाहिए, यह तकनीक उन्नत AI को व्यवहार्य बनाती है। यह सिद्ध करता है कि उच्च-प्रदर्शन वाली कृत्रिम बुद्धिमत्ता के लिए विशाल, केंद्रीकृत डेटा केंद्रों की आवश्यकता नहीं है। इसके बजाय, इसे रोजमर्रा के हार्डवेयर पर स्थानीय रूप से किया जा सकता है, जिससे तकनीक छोटे संस्थानों के लिए सुलभ हो जाती है और यह सुनिश्चित होता है कि संवेदनशील डेटा परिसर से बाहर कभी न जाए। शोधकर्ता अपने दृष्टिकोण को "ग्रीन AI" (Green AI) बताते हैं, इस बात पर जोर देते हुए कि दक्षता को बुद्धिमत्ता के साथ एक प्राथमिक लक्ष्य होना चाहिए। प्रक्रिया को सटीक, व्याख्या योग्य और प्रमाणित बनाकर, उन्होंने एक ऐसा मार्ग बनाया है जिससे संगठन अपने अनुपालन का ऑडिट कर सकते हैं और अपने ऊर्जा प्रणालियों का प्रबंधन ऐसे उपकरणों के साथ कर सकते हैं जो शक्तिशाली और टिकाऊ दोनों हैं। अध्ययन पुष्टि करता है कि सही डिजाइन के साथ, हम दोनों दुनिया का सर्वश्रेष्ठ प्राप्त कर सकते है: बड़े AI मॉडल की गहरी समझ, बिना उन भारी पर्यावरणीय और हार्डवेयर लागतों के जो आमतौर पर उनके साथ आती हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।