LakeHopper: Knowledge-Aware Adaptation of Column Type Annotators across Data Lakes
LakeHopper विभिन्न डेटा लेक्स के बीच स्थानांतरण के दौरान कॉलम प्रकार के एनोटेटर्स (column type annotators) के प्रदर्शन में होने वाली गिरावट को अनुकूलन को एक ज्ञान प्रबंधन समस्या के रूप में पुनर्परिभाषित करके और लेबल-सेट पुनर्गठन (label-set realignment), LLM-सत्यापित अंतराल खोज (LLM-verified gap discovery), और क्लस्टर-आधारित प्रसार (cluster-based propagation) की तीन-चरणीय प्रणाली का उपयोग करके संबोधित करता है, ताकि न्यूनतम लक्ष्य पर्यवेक्षण (target supervision) के साथ पूर्ण-डेटा गुणवत्ता प्राप्त की जा सके और प्रॉम्प्टेड LLMs में सामान्य रूप से होने वाली मतिभ्रम (hallucination) की समस्याओं से बचा जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
इंटरनेट के विशाल, अव्यवस्थित गोदामों में, डेटा तालिकाओं (tables) में बैठा रहता है, उपयोग किए जाने की प्रतीक्षा में। इन तालिकाओं में मूवी रिलीज की तारीखों से लेकर विश्वविद्यालयों के नाम तक सब कुछ होता है, लेकिन बिना किसी लेबल के जो कंप्यूटर को यह बता सके कि एक कॉलम वास्तव में क्या दर्शाता है, वह डेटा केवल टेक्स्ट का एक ढेर मात्र है। एक सिस्टम यह नहीं जान सकता कि नामों की एक सूची "वैज्ञानिकों" (Scientists) को संदर्भित करती है या केवल "लोगों" (People) को, या संख्याओं की एक स्ट्रिंग "वर्ष" (Year) है या "फ़ोन नंबर" (Phone Number)। कॉलम को अर्थ देने की इस प्रक्रिया को 'कॉलम टाइप एनोटेशन' (column type annotation) कहा जाता है। यह वह आधार है जो कंप्यूटर को विभिन्न स्रोतों से डेटा खोजने, साफ करने और संयोजित करने की अनुमति देता है। वर्षों तक, इस काम के लिए सबसे अच्छे उपकरण विशिष्ट डेटा सेट पर प्रशिक्षित विशेष कंप्यूटर प्रोग्राम थे। वे अपने घरेलू वातावरण में तो अच्छा काम करते थे, लेकिन जब उन्हें एक नए डेटा वेयरहाउस में ले जाया जाता था, तो वे बुरी तरह विफल हो जाते थे, क्योंकि उस नई जगह ने अलग लेबल और अलग प्रकार की जानकारी का उपयोग किया होता था। हर नए डेटा लेक के लिए इन प्रोग्रामों को फिर से शुरू से प्रशिक्षित करने के लिए इतने मानवीय प्रयास और धन की आवश्यकता होती थी कि यह अक्सर असंभव हो जाता था, जिससे विशाल मात्रा में डेटा अनुपयोगी और लॉक होकर रह जाता था।
HKUST और Ant Group के शोधकर्ताओं ने LakeHopper नामक एक नया दृष्टिकोण विकसित किया है जो इन प्रोग्रामों के नए वातावरण में अनुकूलित होने के तरीके को बदलकर इस समस्या का समाधान करता है। पूरे सिस्टम को फिर से प्रशिक्षित करने या किसी शक्तिशाली आर्टिफिशियल इंटेलिजेंस से लेबल का अनुमान लगाने के बजाय, वे इस कार्य को 'ज्ञान प्रबंधन' (managing knowledge) के मामले के रूपட்டாக देखते हैं। उन्होंने महसूस किया कि जब एक प्रोग्राम को एक डेटा लेक से दूसरे में ले जाया जाता है, तो कुछ पुराना ज्ञान बेकार हो जाता है और उसे हटा दिया जाना चाहिए, कुछ अभी भी उपयोगी होता है लेकिन उसे समायोजित करने की आवश्यकता होती है, और कुछ नया ज्ञान सीखना पड़ता है। उनकी विधि इन तीन प्रकार के ज्ञान को सावधानीपूर्वक अलग करती है। यह प्रोग्राम के उन हिस्सों को बनाए रखती है जो अच्छी तरह काम करते हैं, उन हिस्सों को अपडेट करती है जिन्हें समायोजन की आवश्यकता होती है, और एक लार्ज लैंग्वेज मॉडल (LLM) का उपयोग अंतिम निर्णय लेने के लिए नहीं, बल्कि एक सख्त सत्यापनकर्ता (verifier) के रूप में करती है। यह सत्यापनकर्ता प्रोग्राम के अनुमानों की जांच करता है और केवल उन कॉलमों को चिह्नित करता है जहाँ प्रोग्राम अनिश्चित है या गलत होने की संभावना है, यह सुनिश्चित करता है कि सिस्टम केवल उन्हीं विशिष्ट वस्तुओं के लिए मानवीय सहायता मांगे जिनकी वास्तव में आवश्यकता है।
परिणामस्वरूप, यह एक ऐसा सिस्टम है जो एक डेटा सेट पर प्रशिक्षित प्रोग्राम को ले सकता है और उसे पूरी तरह से अलग डेटा सेट पर काम करने के योग्य बना सकता है, वह भी सामान्य प्रयास के एक बहुत छोटे अंश के साथ। अपने परीक्षणों में, शोधकर्ताओं ने प्रोग्रामों को तीन अलग-अलग डेटा लेक्स के बीच स्थानांतरित किया, जिसमें सार्वजनिक व्यावसायिक डेटा वाला एक और वैज्ञानिक तालिकाओं वाला दूसरा शामिल था। उन्होंने पाया कि LakeHopper लगभग उसी गुणवत्ता को प्राप्त कर सकता था जो तब मिलती यदि प्रोग्राम को पूरे नए डेटासेट पर प्रशिक्षित किया गया होता, लेकिन इसने इसके लिए आवश्यक मानवीय लेबल के छह प्रतिशत से भी कम का उपयोग किया। यह लागत और समय में एक बड़ी कमी है। इसके अलावा, क्योंकि यह सिस्टम अंतिम लेबल बनाने के लिए एक सामान्य आर्टिफिशियल इंटेलिजेंस के बजाय एक विशिष्ट प्रोग्राम पर निर्भर करता है, इसलिए यह कभी भी अनुमत प्रकारों की सूची से बाहर का लेबल नहीं बनाता है। सामान्य आर्टिफिशियल इंटेलिजेंस मॉडल अक्सर 'हैलुसिनेट' (hallucinate) करते हैं, या ऐसे लेबल का आविष्कार करते हैं जो मौजूद नहीं होते, जिससे उनका आउटपुट स्वचालित पाइपलाइनों के लिए अनुपयोगी हो जाता है। LakeHopper इसे पूरी तरह से टाल देता है, संरचनात्मक रूप से गारंटी देता है कि प्रत्येक आउटपुट आवश्यक प्रारूप में फिट बैठता है।
शोधकर्ताओं ने प्रदर्शित किया कि यह विधि कठिनाई के विभिन्न स्तरों पर काम करती है। कुछ मामलों में, नया डेटा लेक पुराने लेबल की सूची में केवल नए प्रकार के लेबल जोड़ता था, जो कि एक सीधा विस्तार था। अन्य मामलों में, नए लेक के लिए सिस्टम को सीखे गए पुराने लेबल को भूलने और पूरी तरह से नए लेबल सीखने की आवश्यकता थी, जो कि एक कठिन चुनौती थी। इन कठिन परिदृश्यों में भी, LakeHopper ने मानक तरीकों की तुलना में अंतर्निहित प्रोग्रामों के प्रदर्शन में सतह तक इक्याहत्तर प्रतिशत (71%) तक सुधार किया। यह सिस्टम उल्लेखनीय रूप से तेज़ भी है, जो अन्य तरीकों की तुलना में सत्ताइस से एक सौ इकतीस गुना तेज़ी से नए डेटा के अनुकूल होता है जो लार्ज लैंग्वेज मॉडल को फाइन-ट्यून करने का प्रयास करते हैं। यह गति इस तथ्य से आती है कि सिस्टम को सब कुछ फिर से सीखने की आवश्यकता नहीं है; इसे केवल उन विशिष्ट अंतराल (gaps) को सीखना होता है जो इसके ज्ञान और इसकी आवश्यकता के बीच हैं।
इस कार्य की एक प्रमुख अंतर्दृष्टि यह है कि लार्ज लैंग्वेज मॉडल को सौंपा गया विशिष्ट कार्य। पिछले प्रयासों में अक्सर इन मॉडलों से प्राथमिक एनोटेटर के रूप में कार्य करने के लिए कहा जाता था, जो सीधे कॉलम के प्रकार का अनुमान लगाते हैं। शोधकर्ताओं ने पाया कि हालांकि ये मॉडल सामान्य ज्ञान में अच्छे हैं, लेकिन वे डेटा लेबलिंग के लिए आवश्यक विशिष्ट, कठोर नियमों में कमजोर हैं और अक्सर ऐसे लेबल बना देते हैं जो सिस्टम के स्कीमा में फिट नहीं होते। LakeHopper इस गतिशीलता को उलट देता है। लार्ज लैंग्वेज मॉडल का उपयोग केवल विशिष्ट प्रोग्राम द्वारा किए गए अनुमानों को सत्यापित करने के लिए किया जाता है। यह एक सरल हाँ या ना वाले प्रश्न का उत्तर देता है: "क्या यह लेबल सही है?" यह मॉडल के लिए सैकड़ों विकल्पों में से सही लेबल चुनने की तुलना में एक बहुत आसान कार्य है। मॉडल को केवल सत्यापन तक सीमित करके, सिस्टम को त्रुटियों को पहचानने के लिए मॉडल के व्यापक ज्ञान का लाभ मिलता है, बिना अमान्य लेबल पेश करने के जोखिम के।
इस प्रक्रिया में जाँच और सीखने का एक चक्र शामिल है। सिस्टम पहले अपने आंतरिक ढांचे को नए संभावित लेबल की सूची से मेल खाने के लिए समायोजित करता है, उस ज्ञान को प्रत्यारोपित करता है जो पहले से ही नए वातावरण के साथ साझा किया जाता है और उन हिस्सों को रीसेट करता है जिन्हें वह नहीं जानता। फिर यह नए डेटा के माध्यम से चलता है, उन कॉलमों की तलाश करता है जहाँ वह अनिश्चित महसूस करता है। इन अनिश्चित कॉलमों के लिए, यह सत्यापनकर्ता से अपने काम की जाँच करने के लिए कहता है। यदि सत्यापनकर्ता कहता है कि लेबल गलत है या वह अनिश्चित है, तो सिस्टम उस कॉलम को 'कठिन' के रूप में चिह्नित करता है। फिर यह उन अन्य कॉलमों को खोजता है जो कठिन कॉलमों के समान हैं और उस पूरे समूह के लिए मानवीय लेबल मांगता है। यह व्यवस्था सुनिश्चित करती है कि सिस्टम एक यादृच्छिक नमूने के बजाय एक छोटे, अत्यधिक सूचनात्मक नमूने से सीख सके। जैसे-जैसे यह सीखता है, यह नए डेटा पर अभ्यास करता है जबकि उस पुराने डेटा को भी याद रखता है जिसे उसे अभी भी उपयोग करने की आवश्यकता है, यह सुनिश्चित करते हुए कि वह जो पहले से जानता है उसे न भूल जाए।
यह दृष्टिकोण डेटा प्रबंधन में एक मौलिक बाधा को संबोधित करता है: लेबलिंग की लागत। कई वास्तविक दुनिया के परिदृश्यों में, विशेषज्ञ इतने व्यस्त या महंगे होते हैं कि वे एक नए डेटा लेक में प्रत्येक कॉलम को लेबल नहीं कर सकते। LakeHopper दिखाता है कि यह समझना कि उस सीमित मानवीय प्रयास को कहाँ खर्च किया जाए, उच्च-गुणवत्ता वाले परिणाम प्राप्त करना संभव है। यह सिस्टम इतना मजबूत है कि यह तब भी काम कर सकता है जब सत्यापनकर्ता एक छोटा, स्थानीय रूप से चलाया जाने वाला मॉडल हो, जिसका अर्थ है कि यह महंगे बाहरी सेवाओं पर निर्भर नहीं है। यह तकनीक उन संगठनों के लिए सुलभ बनाती है जिन्हें अपने संवेदनशील डेटा को तीसरे पक्ष को भेजे बिना अपना स्वयं का डेटा प्रबंधित करने की आवश्यकता होती है।
अध्ययन पुष्टि करता है कि यह विधि विभिन्न प्रकार के डेटा और विभिन्न अंतर्निहित प्रोग्रामों में लगातार काम करती है। चाहे डेटा सार्वजनिक डैशबोर्ड, वैज्ञानिक तालिकाओं या कोड रिपॉजिटरी से आए, सिस्टम प्रभावी ढंग से अनुकूलित होता है। यह मौजूदा डेटा के सरल विस्तार से लेकर जटिल बदलावों तक, जहाँ डेटा की पूरी प्रकृति बदल जाती है, को संभालता है। शोधकर्ताओं ने उल्लेख किया कि हालांकि सिस्टम अत्यधिक प्रभावी है, लेकिन यह पूरी तरह से मानवीय निरीक्षण की आवश्यकता को समाप्त करने वाला कोई जादुई समाधान नहीं है। सबसे कठिन परिदृश्यों में, सटीकता अभी भी उस स्तर से कम है जो असीमित मानवीय लेबलिंग से प्राप्त किया जा सकता है, लेकिन यह इसे कई व्यावहारिक अनुप्रयोगों के लिए उपयोगी बनाने के लिए पर्याप्त करीब लाता है। यह कार्य एक एकल, पूर्ण मॉडल बनाने के बजाय एक लचीली प्रक्रिया बनाने की ओर एक बदलाव है जो ज्ञान को एक संदर्भ से दूसरे संदर्भ में कुशलतापूर्वक स्थानांतरित कर सकती है।
डेटा उपकरणों के अनुकूलन को एक 'ज्ञान प्रबंधन' समस्या के रूप में मानकर, शोधकर्ताओं ने डेटा एकीकरण के लिए एक स्पष्ट मार्ग प्रदान किया है। उन्होंने दिखाया है कि कंप्यूटर जो जानता है और उसे जो जानने की आवश्यकता है, उसके बीच के अंतर को सावधानीपूर्वक पहचानकर और उन्हें लक्षित शिक्षण के साथ भरकर पाटा जा सकता है। यह दृष्टिकोण वर्तमान आर्टिफिशियल इंटेलिजेंस की सीमाओं का सम्मान करता है, इसका उपयोग वहां करता है जहां यह मजबूत है और इसे वहां टालता है जहां यह कमजोर है। परिणाम एक व्यावहारिक, कुशल और विश्वसनीय तरीका है जो उन डेटा लेक्स के मूल्य को अनलॉक करता है जो पहले उपयोग करने के लिए बहुत महंगे थे। जैसे-जैसे डेटा का आयतन और विविधता बढ़ती जा रही है, LakeHoper जैसे तरीके कच्चे डेटा को बिना अत्यधिक मानवीय श्रम के कार्रवाई योग्य ज्ञान में बदलने के लिए आवश्यक होंगे।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।