Grounded Normative Rule Generation with Structured Search
यह शोध पत्र GNRS-Search प्रस्तुत करता है, जो एक ढांचा (framework) है जो ग्राउंडेड नॉर्मेटिव नियमों को संश्लेषित करने के लिए एंड-ऑर ग्राफ (And-Or Graph) पर मार्कोव चेन मोंटे कार्लो सैंपलिंग का उपयोग करता है, जो निष्पादन योग्य तर्क (executable logic) को सतही स्तर के गद्य निर्माण (surface-level prose generation) से अलग करके विनियमित वातावरण में परिचालन संबंधी व्यवहार्यता और सत्यापन क्षमता में महत्वपूर्ण सुधार करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक ऐसी दुनिया की कल्पना करें जहाँ हमारे दैनिक जीवन को नियंत्रित करने वाले नियम—कार्यस्थल सुरक्षा प्रोटोकॉल से लेकर सामुदायिक उपनियमों तक—केवल अच्छा दिखने के लिए नहीं, बल्कि वास्तव में काम करने के लिए लिखे जाते हैं। दशकों से, कंप्यूटर वैज्ञानिक मशीनों को ऐसा टेक्स्ट लिखना सिखा रहे हैं जो सुचारू रूप से प्रवाहित होता है, जो मानवीय भाषा की लय और शब्दावली की नकल करता है। लेकिन इस क्षमता में एक महत्वपूर्ण कमी है: एक मशीन एक ऐसा वाक्य लिख सकती है जो पूरी तरह से तार्किक और पेशेवर सुनाई देता है, जबकि वह एक ऐसी प्रक्रिया का वर्णन कर रही होती है जिसे पूरा करना असंभव है। यह एक ऐसे रिकॉर्ड के प्रकार का आविष्कार कर सकती है जो अस्तित्व में ही नहीं है, या ऐसे गवाह की मांग कर सकती है जिसे पाया नहीं जा सकता। वास्तविक दुनिया में, एक नियम जिसे वास्तविक डेटा के विरुद्ध जांचा नहीं जा सकता, वह नियम नहीं है; वह केवल एक सुझाव है जो विफल हो जाता है जैसे ही कोई उसे लागू करने का प्रयास करता है। यह समस्या कृत्रिम बुद्धिमत्ता (AI) के लिए विशेष रूप से गंभीर है, जो अक्सर ऐसे प्रशंसनीय दिखने वाली नीतियां तैयार करती है जो वास्तविकता के भार तले ढह जाती हैं क्योंकि वे उस जानकारी पर निर्भर करती हैं जो सिस्टम के पास उपलब्ध ही नहीं है।
शोधकर्ताओं की एक टीम ने नियमों के निर्माण को लेखन अभ्यास के रूप में नहीं, बल्कि एक कामकाजी ब्लूप्रिंट (खाके) की खोज के रूप में मानकर इस विशिष्ट भेद्यता का समाधान किया है। उन्होंने GNRS-Search नामक एक नया ढांचा पेश किया है, जो मौलिक रूप से इस कार्य को करने के तरीके को बदल देता है कि एक AI नीति का मसौदा कैसे तैयार करता है। कंप्यूटर से तुरंत अंतिम पैराग्राफ लिखने के लिए कहने के बजाय, सिस्टम पहले एक कंकाल जैसी संरचना बनाता है। यह संरचना एक पांच-भाग वाला ढांचा है जो नियम के दायरे, उस घटना को परिभाषित करता है जो इसे सक्रिय करती है, आवश्यक विशिष्ट व्यवहार, अनुपालन को सिद्ध करने के लिए आवश्यक साक्ष्य, और उल्लंघन को संभालने की प्रक्रिया को निर्धारित करता है। शोधकर्ता फिर एक गणितीय पद्धति का उपयोग करते हैं, जो बिल्कुल वैसा ही है जैसे कोई हाइकर छोटे कदम उठाकर और इलाके की जांच करके पर्वत श्रृंखलाओं की खोज करता है, ताकि इस ढांचे के हजारों विविधताओं का परीक्षण किया जा सके। कंप्यूटर इस ढांचे के विभिन्न हिस्सों को बदलता रहता है, और लगातार यह जांचता रहता है कि क्या नया संयोजन उपलब्ध वातावरण में मौजूद वास्तविक डेटा लॉग द्वारा समर्थित किया जा सकता है। केवल तभी जब सिस्टम को एक ऐसी संरचना मिल जाती है जो वास्तविक, उपलब्ध रिकॉर्ड्स पर पूरी तरह से आधारित होती है, वह उस ठोस ढांचे को स्वाभाविक, पठनीय भाषा में अनुवादित करता है।
इस दृष्टिकोण के परिणामों का परीक्षण दो अलग-अलग चुनौतियों के विरुद्ध किया गया था। पहला एक नियंत्रित वातावरण था जिसमें आठ विभिन्न परिदृश्यों में 116 विशिष्ट लक्ष्य थे, जिनमें रेस्तरां शिफ्ट समन्वय से लेकर सार्वजनिक स्थानों के प्रबंधन तक शामिल थे। इन परीक्षणों में, इस नई पद्धति ने नियमों की औसत गुणवत्ता को 68.8 प्रतिशत से बढ़ाकर 81.0 प्रतिशत कर दिया। इससे भी महत्वपूर्ण बात यह है कि इसने यह सुनिश्चित किया कि नियम निष्पादन योग्य थे, जिसका अर्थ है कि उन्हें वास्तविक डेटा के विरुद्ध सत्यापित किया जा सकता था। शोधकर्ताओं ने सिस्टम का परीक्षण कॉर्पोरेट हैंडबुक और ओपन-सोर्स गवर्नेंस गाइडलाइन्स जैसे वास्तविक दुनिया की नीतियों से प्राप्त 53 कार्यों पर भी किया, जहाँ कंप्यूटर को साधारण नकल करने से रोकने के लिए मूल पाठ को छिपा दिया गया था। यहाँ, सिस्टम ने मानक तरीकों को फिर से पछाड़ दिया, एक पूर्ण व्यवहार्यता दर हासिल करते हुए उच्च पठनीयता बनाए रखी। अध्ययन ने दिखाया कि सुधार केवल इसलिए नहीं आया क्योंकि AI बेहतर शब्दों का उपयोग कर रहा था या अधिक पेशेवर सुनाई दे रहा था; बल्कि यह इसलिए आया क्योंकि सिस्टम ने सही ढंग से पहचाना कि नियम के कौन से हिस्से साक्ष्य द्वारा समर्थित किए जा सकते हैं और कौन से नहीं।
महत्वपूर्ण रूप से, इस शोध ने यह भी उजागर किया कि सिस्टम कहाँ विफल होने की सबसे अधिक संभावना रखता है। नियम संरचना के विशिष्ट हिस्सों को जानबूझकर बदलकर, शोधकर्ताओं ने पाया कि नियम के मूल अर्थ में त्रुटियां—जैसे कि नियम किस पर लागू होता है, कब शुरू होता है, या क्या व्यवहार आवश्यक है—प्रदर्शन में सबसे महत्वपूर्ण गिरावट का कारण बनीं। इसके विपरीत, सिस्टम तब आश्चर्यजनक रूप से लचीला रहा जब साक्ष्य एकत्र करने के तरीके या प्रवर्तन के विशिष्ट चरणों में मामूली बदलाव किए गए, बशर्ते कि मूल तर्क सुदृढ़ बना रहे। यह सुझाव देता है कि एक कार्यात्मक नियम लिखने का सबसे महत्वपूर्ण हिस्सा शब्दावली की चिंता करने से पहले मौलिक तर्क को सही करना है। अध्ययन यह निष्कर्ष निकालता है कि संरचनात्मक तर्क को अंतिम पाठ से अलग करके, ऐसे AI एजेंट तैयार किए जा सकते हैं जो न केवल पढ़ने में आसान हैं, बल्कि कड़ाई से सत्यापन योग्य और वास्तविक दुनिया के प्रवर्तन के लिए तैयार भी हैं। टेक्स्ट उत्पन्न करने से लेकर वैध संरचनाओं की खोज करने की ओर यह बदलाव, उन विनियमित वातावरणों में कृत्रिम बुद्धिमत्ता को तैनात करने का एक नया मार्ग प्रदान करता जहाँ विश्वास और सटीकता गैर-परक्राम्य (non-negotiable) हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।