Optimizing Retrieval-Augmented Generation for Privacy-Preserving Local Cognitive Agents Using Small Language Models
यह शोध पत्र FRIDAY को प्रस्तुत करता है, जो एक अनुकूलित रिट्रिवल-ऑगमेंटेड जनरेशन (Retrieval-Augmented Generation) फ्रेमवर्क है जिसे स्मॉल लैंग्वेज मॉडल्स (Small Language Models) को तैनात करने की विशिष्ट संसाधन सीमाओं और प्रदर्शन चुनौतियों का समाधान करके कुशल, गोपनीयता-संरक्षित स्थानीय संज्ञानात्मक एजेंटों को सक्षम करने के लिए डिज़ाइन किया गया है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस के आधुनिक युग में, लार्ज लैंग्वेज मॉडल्स (बड़े भाषा मॉडल) नामक शक्तिशाली कंप्यूटर प्रोग्रामों ने तकनीक के साथ हमारे संवाद करने के तरीके को बदल दिया है। ये प्रणालियाँ मानवीय प्रवाह के साथ पढ़, लिख और तर्क कर सकती हैं, लेकिन वे आमतौर पर उपयोगकर्ता से बहुत दूर विशाल डेटा केंद्रों में रहती हैं। प्रश्न पूछने के लिए, एक उपकरण को इंटरनेट के माध्यम से इन दूरस्थ सर्वरों तक एक संदेश भेजना होता है, उत्तर की प्रतीक्षा करनी होती है, और फिर उत्तर प्राप्त करना होता है। यह प्रक्रिया गोपनीयता के बारे में चिंताएँ पैदा करती है, क्योंकि संवेदनशील व्यक्तिगत जानकारी सार्वजनिक नेटवर्क पर यात्रा करती है, और जब इंटरनेट कनेक्शन धीमा या अनुपलब्ध होता है, तो यह देरी का कारण बनती है। इसे हल करने के लिए, शोधकर्ताओं ने इन मॉडलों के छोटे, अधिक कुशल संस्करणों की ओर रुख किया है जो सीधे व्यक्ति के कंप्यूटर या फोन पर चल सकते हैं। हालाँकि, इन छोटे मॉडलों में एक महत्वपूर्ण कमजोरी है: वे अपने बड़े समकक्षों की तरह बहुत अधिक नहीं जानते क्योंकि वे अपनी मेमोरी में सूचनाओं का विशाल भंडार संग्रहीत नहीं कर सकते। इसे ठीक करने के लिए, वैज्ञानिक 'रिट्रीवल-ऑगमेंटेड जनरेशन' (सूचना प्राप्ति-संवर्धित पीढ़ी) नामक तकनीक का उपयोग करते हैं। यह विधि एक लाइब्रेरियन (पुस्तकालयाध्यक्ष) की तरह काम करती है जो हर किताब को याद नहीं रखता, बल्कि अपने पास एक पुस्तकालय रखता है। जब कोई प्रश्न पूछा जाता है, तो सिस्टम तेजी से स्थानीय पुस्तकालय में सबसे प्रासंगिक पृष्ठों को खोजता है, उन्हें छोटे मॉडल को सौंपता है, और उसे उस ताज़ा जानकारी के आधार पर उत्तर लिखने के लिए कहता है। यह एक छोटे, निजी कंप्यूटर को बाहरी दुनिया से जुड़े बिना जटिल प्रश्नों का उत्तर देने में सक्षम बनाता है।
संजीवनी यूनिवर्सिटी, भारत के एक शोधकर्ता सिद्धार्थ पारजने ने इस अवधारणा को लिया है और यह परीक्षण करने के लिए कि इसे स्थानीय उपयोग के लिए कितनी अच्छी तरह अनुकूलित किया जा सकता है, एक पूरी तरह से काम करने वाली प्रणाली बनाई है। इस प्रोजेक्ट का नाम FRIDAY है, जो एक डिजिटल सहायक है जिसे बिना किसी क्लाउड कनेक्शन के एक एकल डेस्कटॉप कंप्यूटर पर पूरी तरह से संचालित होने के लिए डिज़ाइन किया गया है। लक्ष्य केवल ऐसी प्रणाली बनाना नहीं था, बल्कि इसके इंजन के हर हिस्से को सावधानीपूर्वक ट्यून करना था ताकि यह सुनिश्चित हो सके कि यह तेज़, सटीक और सुरक्षित है। शोधकर्ता ने सिस्टम को बारह तकनीकी दस्तावेजों के संग्रह को खिलाकर शुरुआत की, जो कुल साठ-चार पृष्ठ थे, जिन्होंने स्थानीय पुस्तकालय के रूप में कार्य किया। कंप्यूटर ने इन दस्तावेजों को पढ़ा, उन्हें आठ सौ तैंतालीस छोटे टेक्स्ट टुकड़ों में विभाजित किया, और प्रत्येक टुकड़े को एक गणितीय प्रतिनिधित्व में परिवर्तित किया जो उसके अर्थ को पकड़ता है। इन प्रस्तुतियों को एक स्थानीय डेटाबेस में संग्रहीत किया गया, जिससे ज्ञान का एक खोजने योग्य इंडेक्स बना जो केवल मशीन पर रहता है।
शोध के मुख्य भाग में सही जानकारी को तेज़ी से खोजने के विभिन्न तरीकों का परीक्षण करना शामिल था। सिस्टम को उपयोगकर्ता के प्रश्न को लेने, उसे एक समान गणितीय प्रतिनिधित्व में बदलने और फिर स्थानीय पुस्तकालय में सबसे अधिक मेल खाने वाले टेक्स्ट टुकड़ों को खोजने के लिए सेट किया गया था। शोधकर्ता ने परीक्षण किया कि सिस्टम को एक बार में कितने टेक्स्ट टुकड़े निकालने चाहिए। यह पाया गया कि बहुत अधिक टुकड़े उठाने से आवश्यक रूप से उत्तर बेहतर नहीं होता; वास्तव में, यह कभी-कभी अनावश्यक शोर जोड़ देता है जो छोटे मॉडल को भ्रमित कर देता है। विभिन्न संख्याओं के साथ प्रयोग करके, सिस्टम ने किसी प्रश्न का स्पष्ट उत्तर देने के लिए बिल्कुल सही मात्रा में जानकारी प्राप्त करना सीख लिया। परीक्षणों ने दिखाया कि कंप्यूटर तीन मिलीसेकंड से भी कम समय में प्रासंगिक टेक्स्ट खोज सकता है, जबकि प्रश्न को खोज प्रारूप में बदलने के चरण में लगभग बीस मिलीसेकंड लगे। इसने सिद्ध किया कि खोज स्वयं अविश्वसनीय रूप से तेज़ थी, और उत्तर के लिए प्रतीक्षा करने में बिताया गया समय मुख्य रूप से कंप्यूटर द्वारा प्रश्न के बारे में सोचने के कारण था, न कि उत्तर खोजने के कारण।
परियोजना का एक महत्वपूर्ण हिस्सा यह सुनिश्चित करना था कि सिस्टम सुरक्षित और निजी रहे। चूंकि पूरी प्रक्रिया उपयोगकर्ता के डिवाइस पर होती है, इसलिए कोई भी डेटा कमरे से बाहर नहीं जाता है। कंप्यूटर को उसकी आंतरिक निर्देशों को प्रकट करने या उसके सुरक्षा नियमों को अनदेखा करने के लिए छल करने वाले दुर्भावनापूर्ण प्रयासों से बचाने के लिए, सिस्टम में एक सुरक्षा परत शामिल है जो उत्तर देने से पहले प्रत्येक प्रश्न की जाँच करती है। शोधकर्ता ने इसे सिस्टम को उन चालाकी भरे कमांड देने की कोशिश करके परीक्षण किया जो इसके नियमों को तोड़ने के लिए डिज़ाइन किए गए थे। सिस्टम ने इन प्रयासों को सफलतापूर्वक ब्लॉक कर दिया, हानिकारक निर्देशों को संसाधित करने से इनकार करते हुए, जबकि सामान्य प्रश्नों का बिना किसी देरी के उत्तर देता रहा। इसने यह प्रदर्शित किया कि एक स्मार्ट, सहायक असिस्टेंट होना संभव है जो निजी जानकारी के लिए एक सुरक्षित तिजोरी भी है। अंतिम परिणामों ने दिखाया कि सिस्टम लगभग सत्ताईस टुकड़ों प्रति सेकंड की दर से प्रारंभिक दस्तावेजों को संसाधित कर सकता है और एक सेकंड से कम समय में ठोस, सटीक प्रतिक्रिया उत्पन्न कर सकता है।
अध्ययन निष्कर्ष निकालता है कि मानक हार्डवेयर पर चलने वाला एक परिष्कृत, ज्ञान-आधारित सहायक बनाना पूरी तरह से व्यवहार्य है। शोध ने यह दावा नहीं किया कि उसने हर समस्या को हल कर दिया है या एक पूर्ण प्रणाली बना ली है, लेकिन इसने एक स्पष्ट आधार स्थापित किया कि ये स्थानीय सिस्टम कैसे प्रदर्शन करते हैं। इसने पाया कि प्रक्रिया का सबसे समय लेने वाला हिस्सा प्रश्न को समझना है, न कि उत्तर खोजना, और बहुत अधिक जानकारी प्राप्त करना वास्तव में प्रतिक्रिया की गुणवत्ता को नुकसान पहुँचा सकता है। कितनी जानकारी प्राप्त करनी है, इसका सावधानीपूर्वक चयन करके और यह सुनिश्चित करके कि गोपनीयता जाँच को सीधे वर्कफ़्लो में शामिल किया गया है, FRIDAY प्रोटोटाइप यह सिद्ध करता है कि उपयोगकर्ताओं के पास बुद्धिमान, संदर्भ-जागरूक उपकरण हो सकते हैं जो उनके डेटा का सम्मान करते हैं और दूरस्थ सर्वरों पर निर्भर नहीं होते हैं। यह कार्य व्यक्तिगत एआई की अगली पीढ़ी के लिए एक व्यावहारिक आधार प्रदान करता है, जो दिखाता है कि शक्तिशाली बुद्धिमत्ता सीधे आपकी मेज पर मौजूद हो सकती है, मदद के लिए तैयार, बिना कभी कमरे से बाहर जाने की आवश्यकता के।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।