Executable Intelligence in Policy-Constrained Knowledge Systems: A Closed-Loop Decision-Execution Framework

जानने और करने के बीच का अंतर

कल्पना कीजिए कि आप एक हाई-स्टेक्स वीडियो गेम खेल रहे हैं जहाँ आपका पात्र एक बेहद बुद्धिमान जासूस है। यह जासूस अंधेरे में छिपे खलनायक को तुरंत पहचान सकता है, सटीक भविष्यवाणी कर सकता है कि वह अगला हमला कहाँ करेगा, और उसे रोकने के लिए एकदम सही चाल की गणना कर सकता है। लेकिन यहाँ एक पेंच है: जासूस एक सख्त नियम पुस्तिका द्वारा जंजीरों में जकड़ा हुआ है जो कहती है, "आप उस दीवार के ऊपर से नहीं कूद सकते," या "सुपर-लेजर का उपयोग करने से पहले आपको मेयर से अनुमति लेनी होगी," और "यदि आप चूक गए, तो आपको समय को पीछे ले जाना होगा (rewind करना होगा)।" वास्तविक दुनिया में, AI के साथ बिल्कुल यही होता है। हमने ऐसे सिस्टम बनाए हैं जो "एनालिटिकल इंटेलिजेंस" (विश्लेषणात्मक बुद्धिमत्ता) में अविश्वसनीय रूप से अच्छे हैं—यह समझने में कि क्या हो रहा है और क्या होना चाहिए। लेकिन जब वास्तव में वास्तविक दुनिया में कुछ करने की बात आती है, तो ये सिस्टम अक्सर फंस जाते हैं। वे शानदार विचार उत्पन्न करते हैं जिन्हें इसलिए खारिज कर दिया जाता है क्योंकि वे सुरक्षा नियमों को तोड़ते हैं, कंपनी की नीतियों का उल्लंघन करते हैं, या यदि चीजें गलत हो गईं तो उन्हें सुधारा नहीं जा सकता। एक बेहतरीन विचार होने और उसे सुरक्षित रूप से लागू करने में लगने वाला यह निराशाजनक ठहराव ही वह समस्या है जिसे यह शोध पत्र संबोधित करता है।

यह शोध पत्र "इनसाइट-टू-एक्शन गैप" (Insight-to-Action Gap) नामक एक अवधारणा पेश करता है। इसे एक शेफ के रूप में सोचें जो एक आदर्श रेसिपी जानता है, लेकिन उसे एक ऐसे किचन में खाना पकाने की अनुमति नहीं है जहाँ सख्त स्वास्थ्य कोड हैं, सीमित सामग्री है, और एक मैनेजर है जिसे जला हुआ टोस्ट बिल्कुल पसंद नहीं है। लेखक का तर्क है कि समस्या यह नहीं है कि हमारे AI शेफ खाना पकाने में पर्याप्त स्मार्ट नहीं हैं; बल्कि समस्या यह है कि वे नियमों के भीतर खाना पकाने में पर्याप्त स्मार्ट नहीं हैं। यह पेपर इन सिस्टम्स को बनाने का एक नया तरीका प्रस्तावित करता है, जिसे "एग्जीक्यूटेबल इंटेलिजेंस" (Executable Intelligence) कहा जाता है, जहाँ नियमों की जाँच खाना पकाने के बाद नहीं की जाती (जिससे भोजन बर्बाद होता है और एक घंटा व्यर्थ जाता है), बल्कि नियमों को पहले कदम से ही रेसिपी में ही शामिल कर दिया जाता है।

समस्या: "इनसाइट-टू-एक्शन गैप"

लेखक, NTT DATA सर्विसेज के अभ्रदीप चटर्जी ने गौर किया कि आज हम जिस तरह से AI का उपयोग कर रहे हैं, उसमें एक अजीब विरोधाभास है। क्लाउड कंप्यूटिंग, ऑटोनॉमस इंफ्रास्ट्रक्चर और साइबर-सिक्योरिटी जैसी जगहों पर, हमारे सिस्टम समस्याओं को पहचानने में तेज़ होते जा रहे हैं। वे किसी गड़बड़ी या सुरक्षा उल्लंघन का लगभग तुरंत पता लगा सकते हैं। हालाँकि, समस्या को ठीक करने में अक्सर लंबा समय लगता है। क्यों? क्योंकि एक बार जब AI समस्या को पहचान लेता है, तो उसे ठीक करने के लिए इंसानों की मंजूरी का इंतज़ार करना पड़ता है, यह जांचना पड़ता है कि क्या यह सुरक्षित है, और फिर मैन्युअल रूप से मरम्मत चलानी पड़ती है।

शोध पत्र इस देरी को इनसाइट-टू-एक्शन गैप (IAG) कहता है। यह उस समय का अंतराल है जो सिस्टम के "सोचने" (जवाब जानने) के क्षण और वास्तव में सुधार को "करने" के क्षण के बीच बीतता है। लेखक का सुझाव है कि सबसे बड़ी बाधा AI की भविष्यवाणी करने की क्षमता नहीं है; बल्कि AI की सुरक्षित रूप से कार्य करने की क्षमता है। यदि AI कोई ऐसा समाधान सुझाता है जो सुरक्षा नीति का उल्लंघन करता है, तो वह सुझाव बेकार है, भले ही वह गणितीय रूप से एकदम सही हो। यह केवल अधिक काम, अधिक देरी और अधिक निराशा पैदा करता है।

समाधान: नियम पुस्तिका को खुला रखकर खाना बनाना

इसे हल करने के लिए, यह पेपर एग्जीक्यूटेबल इंटेलिजेंस नामक एक नया ढांचा प्रस्तावित करता है। सुरक्षा नियमों और नीतियों को दरवाजे पर खड़े एक "बाउंसर" के रूप में देखने के बजाय जो आपके प्रवेश करने की कोशिश करने के बाद आपकी आईडी चेक करता है, यह ढांचा बाउंसर को निर्णय लेने की प्रक्रिया के भीतर ही रख देता है।

कल्पना कीजिए कि आप "साइमन कहता है" (Simon Says) खेल खेल रहे हैं, लेकिन एक ट्विस्ट के साथ। पुराने तरीके में, साइमन (AI) एक पागलपन भरा मूव चिल्लाकर बोलता जैसे "छत से बैकफ्लिप मारो!" और फिर एक रेफरी को दौड़कर आना पड़ता, नियम पुस्तिका चेक करनी पड़ती, और कहना पड़ता, "नहीं, यह नियमों के खिलाफ है!" फिर साइमन को एक नया मूव सोचना पड़ता, और रेफरी को फिर से चेक करना पड़ता। यह धीमा और कष्टप्र経過 है।

नया ढांचा अलग है। साइमन के कोई मूव चिल्लाने से पहले ही, वह सोचते समय नियम पुस्तिका को देखता है। वह केवल वही मूव्स सोचता है जो पहले से ही अनुमत, सुरक्षित और परिवर्तनीय (reversible) हैं। यदि नियम पुस्तिका कहती है "कोई बैकफ्लिप नहीं," तो साइमन बैकफ्लिप के बारे में सोचता तक नहीं। वह केवल "बाड़ के ऊपर से कूदो" का सुझाव देगा, क्योंकि वह जानता है कि यह अनुमत है और उसके पास सुरक्षित रूप से नीचे उतरने की योजना भी है।

यह कैसे काम करता है: क्लोज्ड-लूप लूप

पेपर एक "क्लोज्ड-लूप" सिस्टम का वर्णन करता है जो पाँच चरणों में काम करता है, जो एक चक्र की तरह लगातार दोहराया जाता है:

1. सेंस (Sense): सिस्टम समस्याओं की निगरानी करता है (जैसे एक सुरक्षा कैमरा)।
2. इंटरप्रेट (Interpret): यह समझता है कि समस्या क्या है और संदर्भ क्या है (क्या यह आग है? रिसाव है? या हैकर है?)।
3. डिसाइड (Decide): यह जादुई हिस्सा है। सिस्टम केवल "सर्वश्रेष्ठ" एक्शन नहीं चुनता; यह वह सर्वश्रेष्ठ एक्शन चुनता है जो सभी सुरक्षा जांचों को पास करता है, समय सीमा के भीतर फिट बैठता है, और जिसका "अनडू" (undo) बटन तैयार है।
4. एक्ट (Act): यह कार्य को अंजाम देता है, लेकिन बहुत सावधानी से, यह सुनिश्चित करते हुए कि सब कुछ सुरक्षित है।
5. लर्न (Learn): यह देखता है कि क्या हुआ और अगली बार सुरक्षित निर्णय लेने में बेहतर बनने के लिए उस जानकारी का उपयोग करता है।

यहाँ मुख्य नवाचार पॉलिसी-कंस्ट्रेंड ऑप्टिमाइजेशन (Policy-Constrained Optimization) है। सरल शब्दों में, इसका अर्थ है कि कंप्यूटर एक ऐसी गणितीय समस्या को हल कर रहा है जहाँ "नियम" समीकरण का हिस्सा हैं। यह केवल सबसे तेज़ रास्ता खोजने की कोशिश नहीं कर रहा है; यह वह सबसे तेज़ रास्ता खोजने की कोशिश कर रहा है जो "प्रवेश निषेध" क्षेत्र से होकर नहीं गुजरता।

प्रयोगों ने क्या दिखाया

लेखक ने इसका परीक्षण किसी वास्तविक, लाइव पावर ग्रिड या अस्पताल पर नहीं किया (वह बहुत जोखिम भरा होता)। इसके बजाय, उन्होंने एक विस्तृत सिमुलेशन बनाया—एक कंप्यूटर-निर्मित दुनिया जो वास्तविक सिस्टम के व्यवहार की नकल करती है। उन्होंने एक परिदृश्य बनाया जहाँ "घटनाएं" (जैसे कंप्यूटर क्रैश) बेतरतीब ढंग से होती थीं, और उन्होंने दो टीमों की तुलना की:

• टीम A (बेसलाइन): एक स्मार्ट AI का उपयोग करती है जो समस्या को ढूंढता है, लेकिन फिर नियमों की जांच और सुधार के लिए इंसानों पर निर्भर रहती है।
• टीम B (नया ढांचा): "एग्जीक्यूटेबल इंटेलिजेंस" सिस्टम का उपयोग करती है जो सोचते समय ही नियमों की जांच करता है।

परिणाम स्पष्ट थे। सिमुलेशन में, नए ढांचे ने समस्या को ठीक करने में लगने वाले कुल समय को 40% तक कम कर दिया। लेकिन इससे भी महत्वपूर्ण बात यह है कि इसने सिस्टम को बहुत अधिक सुसंगत (consistent) बना दिया। "पुराने तरीके" में समय के बड़े उतार-चढ़ाव थे—कभी यह तेज़ था, कभी नियमों के उल्लंघन के कारण इसमें बहुत समय लग जाता था। नया तरीका स्थिर और विश्वसनीय था।

पेपर ने यह भी पाया कि सबसे अधिक लाभ तब हुआ जब नियम सख्त थे और सिस्टम को जटिल निर्भरताओं (जैसे एक टूटे हुए हिस्से के कारण अन्य टूटे हुए हिस्सों की श्रृंखला अभिक्रिया) से निपटना पड़ा। जब "पुराने तरीके" ने चीजों को ठीक करने की कोशिश की, तो उसे अक्सर नियमों द्वारा वीटो (अस्वीकार) कर दिया गया, जिससे उसे फिर से शुरू करने के लिए मजबूर होना पड़ा। नया तरीका इन "री-स्टार्ट्स" से पूरी तरह बच गया क्योंकि उसने कभी भी कोई वर्जित मूव सुझाया ही नहीं।

यह क्यों महत्वपूर्ण है

पेपर का तर्क है कि हमें "इंटेलिजेंस" को केवल अनुमान लगाने या भविष्यवाणी करने में अच्छा होने के रूप में सोचना बंद करने की आवश्यकता है। वास्तविक दुनिया में, सच्ची बुद्धिमत्ता का अर्थ है चीजों को सुरक्षित और जिम्मेदारी से करने में सक्षम होना। यदि कोई सिस्टम स्मार्ट है लेकिन नियमों को तोड़े बिना कार्य नहीं कर सकता, तो वह बहुत उपयोगी नहीं है।

सुरक्षा और नियमों को निर्णय लेने की प्रक्रिया में सीधे शामिल करके, हम केवल सुधारों की "सिफारिश" करने वाले सिस्टम से ऐसे सिस्टम की ओर बढ़ सकते हैं जो आत्मविश्वास के साथ उन्हें वास्तव में "निष्पादित" (execute) कर सकें। इसका मतलब यह नहीं है कि हम तुरंत इंसानों को प्रक्रिया से बाहर कर देते हैं। पेपर एक क्रमिक मार्ग का सुझाव देता है: सिफारिशों से शुरू करना, "गेटेड" ऑटोमेशन की ओर बढ़ना (जहाँ सिस्टम तभी कार्य करता है जब वह 100% सुनिश्चित हो कि नियम पूरे हो रहे हैं), और अंततः "पॉलिसी-बाउंडेड ऑटोनॉमी" की स्थिति तक पहुँचना जहाँ सिस्टम सुरक्षित सीमाओं के भीतर अपने आप कार्य कर सके।

लेखक सावधानी से नोट करते हैं कि यह एक सिमुलेशन-आधारित निष्कर्ष है। हालांकि परिणाम आशाजनक हैं और तर्क ठोस है, लेकिन अभी तक उन्हें वास्तविक दुनिया के लाइव वातावरण में सिद्ध नहीं किया गया है। फिर भी, "एग्जीक्यूटेबल इंटेलिजेंस" की अवधारणा यह देखने का एक नया तरीका प्रदान करती है कि कई AI प्रोजेक्ट क्यों रुक जाते हैं: ऐसा नहीं है कि AI पर्याप्त स्मार्ट नहीं है; बल्कि समस्या यह है कि उसे सोचते समय नियमों के अनुसार खेलना नहीं सिखाया गया है।