SoraniSQL: A Novel Synthetic Text-to-SQL Dataset and Benchmark for Low-Resource Central Kurdish (Sorani)
यह शोध पत्र सोरानीएसक्यूएल (SoraniSQL) को प्रस्तुत करता है, जो मध्य कुर्दिश (सोरानी) के लिए पहला टेक्स्ट-टू-एसक्यूएल (Text-to-SQL) डेटासेट और बेंचमार्क है, जिसमें 7,518 प्रश्न-एसक्यूएल जोड़े शामिल हैं जो विविध भाषाई चुनौतियों के बीच उच्च निष्पादन सटीकता प्राप्त करने में फाइन-ट्यून किए गए मॉडलों की प्रभावशीलता को प्रदर्शित करते हैं और साथ ही ऑफलाइन अनुप्रयोग परिनियोजन को सक्षम करते हैं।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखक ने नहीं लिखा है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि एक ऐसी दुनिया है जहाँ आप एक कंप्यूटर से अपनी भाषा में एक सरल प्रश्न पूछ सकते हैं और बिना उस गुप्त कोड को जाने जो आमतौर पर इसे नियंत्रित करता है, सीधे एक जटिल डेटाबेस से उत्तर प्राप्त कर सकते हैं। यह "टेक्स्ट-टू-एसक्यूएल" (text-to-SQL) तकनीक का वादा है। दशकों से, इन प्रणालियों को मुख्य रूप से अंग्रेजी पर प्रशिक्षित किया गया है, जिससे उन्होंने मानव प्रश्नों को उस संरचित भाषा में अनुवाद करना सीखा है जिसमें डेटाबेस बात करते हैं। हालांकि यह व्यापक रूप से बोली जाने वाली भाषाओं के लिए अच्छी तरह से काम करता है, लेकिन यह उन करोड़ों लोगों को पीछे छोड़ देता है जो कम-संसाधन वाली भाषाएं, जैसे कि कुर्दिश के विभिन्न बोलियाँ, बोलते हैं। इन क्षेत्रों में, छोटे दुकान मालिक और प्रबंधक अक्सर पॉइंट-ऑफ-सेल टर्मिनलों पर निर्भर होते हैं जो सरल, ऑफलाइन मशीनें हैं। वे अपने डेटा को प्रोसेसिंग के लिए क्लाउड पर नहीं भेज सकते हैं, और उनके पास अपनी मातृभाषा में कंप्यूटर से प्रश्न पूछने के उपकरण भी नहीं हैं। इन समुदायों की जरूरतों और इन प्रणालियों की क्षमताओं के बीच की खाई बहुत बड़ी है, जिसका मुख्य कारण यह है कि अभी तक कोई विश्वसनीय परीक्षण आधार नहीं बनाया गया है जिससे यह देखा जा सके कि क्या कंप्यूटर वास्तव में कुर्दिश को समझ सकता है।
इराक में सुलेमानी पॉलिटेक्निक यूनिवर्सिटी के एक शोधकर्ता ने अब 'सोरानीएसक्यूएल' (SoraniSQL) नामक एक नए प्रोजेक्ट के साथ उस अंतर को भर दिया है। यह कार्य पहली बार विशेष रूप से मध्य कुर्दिश, जिसे सोरानी कहा जाता है, के लिए डिज़ाइन किए गए डेटासेट और परीक्षण बेंचमार्क को पेश करता है। लक्ष्य केवल मौजूदा अंग्रेजी परीक्षणों का अनुवाद करना नहीं था, बल्कि एक ऐसा संसाधन बनाना था जो कुर्दिश भाषा की अनूठी बारीकियों को समझता हो, जो अरबी और फारसी अक्षरों के रूपों को मिलाता है, अलग नंबरों का उपयोग करता है, और अक्सर कीबोर्ड के उपयोग के आधार पर शब्दों को कई तरीकों से लिखता है। इसे बनाने के लिए, शोधकर्ता ने आठ शाखाओं वाले एक किराना स्टोर श्रृंखला का डिजिटल संस्करण तैयार किया, जिसमें हजारों बिक्री रिकॉर्ड, उत्पाद सूट और कर्मचारी विवरण शामिल थे। इस डेटाबेस से, उन्होंने सोरानी में 7,500 से अधिक प्रश्न तैयार किए, जो साधारण खोज जैसे "यह केक किस श्रेणी का है?" से लेकर जटिल अनुरोधों जैसे "कार्ड भुगतान के लिए महीने के अनुसार औसत रसीद मूल्य दिखाएं" तक विस्तृत थे। प्रत्येक प्रश्न को सटीक कंप्यूटर कोड के साथ जोड़ा गया था जिसकी आवश्यकता उत्तर प्राप्त करने के लिए होती है, और मूल भाषियों के एक पैनल ने प्रश्नों को प्राकृतिक प्रवाह और सटीकता के लिए रेट किया, जिससे यह सुनिश्चित हुआ कि वे वैसे ही लगें जैसे कोई वास्तविक व्यक्ति पूछेगा।
अध्ययन ने फिर यह देखने के लिए विभिन्न कंप्यूटर प्रणालियों को परख में डाला कि वे इन सोरानी प्रश्नों को काम करने वाले डेटाबेस कमांड में कितनी अच्छी तरह अनुवाद कर सकते हैं। शोधकर्ताओं ने प्रश्नों को विभिन्न श्रेणियों में विभाजित किया ताकि यह देखा जा सके कि सिस्टम कहाँ संघर्ष करेंगे। कुछ प्रश्नों में नए उत्पाद नामों का उपयोग किया गया लेकिन परिचित वाक्य संरचनाओं का पालन किया गया, जबकि अन्य में चीजों को कहने के बिल्कुल नए तरीके का उपयोग किया गया या विचारों को ऐसे संयोजित किया गया जैसा कंप्यूटर ने पहले कभी नहीं देखा था। परिणामों ने सरल प्रणालियों और अधिक उन्नत प्रणालियों के बीच एक स्पष्ट विभाजन दिखाया। एक बुनियादी प्रणाली जिसने प्रश्नों को उन उत्तरों से मिलाने का प्रयास किया जिन्हें उसने पहले से ही याद कर लिया था, वह नए नामों पर अच्छा प्रदर्शन करती है लेकिन नए तरीकों से विचारों को संयх करने के लिए पूछे जाने पर पूरी तरह विफल हो जाती है। हालांकि, एक अधिक परिष्कृत प्रणाली जिसने प्रश्न को भागों में तोड़ दिया—विषय, क्रिया और फिल्टर को अलग-अलग पहचानना—इन नए संयोजनों को उच्च सटीकता के साथ संभालने में सक्षम थी, लगभग सभी को सही पाया।
शायद सबसे आश्चर्यजनक खोज आधुनिक, पूर्व-प्रशिक्षित भाषा मॉडलों के उपयोग से संबंधित थी, जो शक्तिशाली कृत्रिम बुद्धिमत्ता उपकरण हैं जिनका उपयोग अक्सर कोडिंग के लिए किया जाता है। जब इन मॉडलों को केवल कुर्दिश से कोड में अनुवाद करने के कुछ उदाहरण दिखाए गए, तो वे खराब प्रदर्शन करते रहे, आधे से कम सरल प्रश्नों को सही कर पाए और जटिल प्रश्नों पर लगभग पूरी तरह से विफल रहे। लेकिन जब शोधकर्ताओं ने इस मॉडल के एक छोटे संस्करण को लिया और इसे विशेष रूप रूप से इस डेटासेट के नियमों पर सावधानीपूर्वक प्रशिक्षित किया, तो इसका प्रदर्शन नाटकीय रूप से बढ़ गया। यह फाइन-ट्यून्ड मॉडल, जो बिना किसी सुपरकंप्यूटर की आवश्यकता के एक मानक लैपटॉप पर चल सकता है, ने सर्वश्रेष्ठ विशिष्ट प्रणालियों के बराबर सटीकता दर हासिल की। इसने नए वाक्यांशों और जटिल संयोजनों को सफलतापूर्वक संभाला, जिससे यह सिद्ध हुआ कि सही प्रशिक्षण के साथ, छोटे मॉडल भी इस कार्य में महारत हासिल कर सकते हैं।
शोध ने लोगों के वास्तव में टाइप करने की अव्यवस्थित वास्तविकता को भी संबोधित किया। कुर्दिश में, उपयोगकर्ता अक्सर विभिन्न कीबोर्ड लेआउट मिलाते हैं, विशिष्ट अक्षरों को छोड़ देते हैं, या ऐसे पात्रों को बदल देते हैं जो दिखने में समान होते हैं। अध्ययन में पाया गया कि इन वर्तनी विविधताओं के कारण महत्वपूर्ण त्रुटियां हुईं, लेकिन एक प्रणाली जो 'फजी-मैचिंग' (fuzzy-match) कर सकती है—यह पहचान सकती है कि "दूध" और "मिल्क" एक ही चीज़ को संदर्भित करते हैं—उसने अधिकांश खोई हुई सटीकता को पुनः प्राप्त कर लिया। सुरक्षा सुनिश्चित करने के लिए, टीम ने एक डिजिटल गार्ड भी बनाया जिसने प्रत्येक उत्पन्न कमांड की जांच की ताकि यह सुनिश्चित किया जा सके कि इसे निजी डेटा प्रकट करने या डेटाबेस को नुकसान पहुंचाने के लिए धोखा न दिया जा सके। अंत में, उन्होंने सर्वश्रेष्ठ प्रदर्शन करने वाली प्रणाली को 'दानाटेक्स्ट2एसक्यूएल' (DanaText2SQL) नामक एक स्टैंडअलोन विंडोज एप्लिकेशन में पैक किया। यह प्रोग्राम पूरी तरह से ऑफलाइन चलता है, जो सीधे दुकानों द्वारा उपयोग किए जाने वाले स्थानीय डेटाबेस से जुड़ता है। परीक्षणों में, इसने आधे सेकंड से भी कम समय में प्रश्नों का उत्तर दिया, जिससे यह प्रदर्शित हुआ कि कुर्दिस्तान क्षेत्र में एक छोटी दुकान के पास जल्द ही एक ऐसा कंप्यूटर हो सकता है जो उनकी भाषा को समझता है, उनकी गोपनीयता का सम्मान करता है, और बिना इंटरनेट कनेक्शन के काम करता है।
यह कार्य इस दावे के साथ नहीं आता कि इसने भाषा प्रौद्योगिकी की हर समस्या को हल कर दिया है, न ही यह सुझाव देता है कि कंप्यूटर अब पूर्ण अनुवादक हैं। अध्ययन ने स्पष्ट रूप से दिखाया कि सिस्टम अभी भी उन कुछ जटिल वाक्य संरचनाओं के साथ संघर्ष करते हैं जिन्हें उन्होंने पहले कभी नहीं देखा है, और उत्तर में विश्वास हमेशा शुद्धता की गारंटी नहीं होता है। हालांकि, यह पहली बार में एक ठोस, पुनरुत्पादक आधार प्रदान करता है। एक समर्पित डेटासेट बनाकर, विभिन्न दृष्टिकोणों का परीक्षण करके, और यह सिद्ध करके कि एक सुरक्षित, ऑफलाइन प्रणाली संभव है, यह शोध एक स्पष्ट मार्ग प्रदान करता है। यह सुझाव देता है कि सावधानीपूर्वक प्रशिक्षण और भाषा की विशिष्ट चुनौतियों पर ध्यान केंद्रित करने के साथ, तकनीक को अंततः उन छोटे व्यवसायों और समुदायों तक लाया जा सकता है जिन्हें डिजिटल विभाजन द्वारा पीछे छोड़ दिया गया है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।