Verifiable abstention makes AI leak diagnosis accountable in water distribution networks
यह शोध पत्र जल नेटवर्क में एआई-संचालित रिसाव स्थानीयकरण (लीक लोकलाइजेशन) के लिए एक सत्यापन योग्य अपवर्जन (एब्स्टेंशन) ढांचे को प्रस्तुत करता है, जहाँ एक भौतिकी-आधारित निष्पादक (फिजिक्स-ग्राउंडेड एक्सेक्यूटर) और एक एलएलएम-ऑडिटेड पर्यवेक्षक सहयोग करते हैं ताकि प्रेषणों (डिस्पैच) को केवल तभी प्रमाणित किया जा सके जब साक्ष्य सख्त संविदात्मक मानकों को पूरा करते हों, जिससे शोर वाले क्षेत्रीय परिस्थितियों में भी उच्च निर्णय सटीकता और जवाबदेही प्राप्त की जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
जल उपयोगिताएँ एक निरंतर और महंगी समस्या का सामना कर रही हैं: उपचारित जल ग्राहकों के नल तक पहुँचने से पहले ही छिपी हुई दरारों और टूटी हुई पाइपों से निकल जाता है। यह "गैर-राजस्व जल" (non-revenue water) संसाधनों और धन की एक बड़ी हानि है, जिसका अनुमान वार्षिक रूप में अरबों में लगाया गया है। दशकों से, समाधान बेहतर पहचान में ही निहित प्रतीत होता रहा है। इंजीनियरों ने तेजी से परिष्कृत कंप्यूटर मॉडल विकसित किए हैं जो दबाव सेंसरों से प्राप्त डेटा का उपयोग करके यह अनुमान लगाते हैं कि रिसाव कहाँ हो सकता है। हालाँकि, एक कंप्यूटर के अनुमान और एक मानव की कार्रवाई के बीच एक महत्वपूर्ण अंतर बना हुआ है। रिसाव खोजने के लिए सड़क खोदना महंगा, विघटनकारी और विनियमित है; यदि एक कंप्यूटर केवल एक अनुमान के आधार पर गलत स्थान पर टीम भेज देता है, तो उपयोगिता हजारों डॉलर बर्बाद करती है और सार्वजनिक विश्वास को नुकसान पहुँचाती है। मुख्य चुनौती केवल रिसाव खोजना नहीं है, बल्कि यह जानना है कि निश्चित रूप से कब नहीं खोदना है।
शोधकर्ताओं ने अब इस अनिश्चितता को संभालने का एक नया तरीका प्रस्तावित किया है, जो लक्ष्य को केवल एक स्थान की भविष्यवाणी करने से बदलकर एक जवाबदेह निर्णय लेने की ओर ले जाता है। हर उस विसंगति के लिए एक स्थान बताने के बजाय जिसे यह पहचानता है, नई प्रणाली को यह स्वीकार करने के लिए डिज़ाइन किया गया है कि उसके पास कार्य करने के लिए पर्याप्त प्रमाण नहीं हैं। यह इस दृष्टिकोण को एक चिकित्सा विभेदक निदान (differential diagnosis) की तरह मानता है: यह मान लेने के बजाय कि हर खांसी निमोनिया है, प्रणाली अन्य संभावनाओं पर विचार करती है, जैसे कि सेंसर की खराबी या पानी के उपयोग में अचानक वृद्धि, और केवल तभी सर्जरी की सिफारिश करती है जब साक्ष्य अत्यधिक स्पष्ट हों। एक ऐसी प्रणाली बनाने के माध्यम से जो आत्मविश्वास से कह सके कि "मुझे नहीं पता" और यह सिद्ध कर सके कि क्यों, शोधकर्ता आर्टिफिशियल इंटेलिजेंस और बुनियादी ढांचे के प्रबंधन की वास्तविक दुनिया की सुरक्षा आवश्यकताओं के बीच के अंतर को पाटने का लक्ष्य रखते हैं।
एक टीम ने, जिसका नेतृत्व कई चीनी संस्थानों के शोधकर्ताओं द्वारा किया गया था, इस विचार का परीक्षण करने के लिए जल नेटवर्क पर एक दो-भाग वाली डिजिटल प्रणाली बनाई। पहला भाग, जिसे "एक्सेक्यूटर" (executor) कहा जाता है, एक कठोर अन्वेषक के रूप में कार्य करता है। यह एक जल नेटवर्क के 'डिजिटल ट्विन' को लेता है—एक आभासी प्रतिलिपि जो यह सिम्युलेट करती है कि पानी कैसे बहता है और दबाव कैसे बदलता है—और प्रतिस्पर्धी सिद्धांतों का परीक्षण करती है। जब एक सेंसर दबाव में अजीब गिरावट का पता लगाता है, तो एक्सेक्यूटर इसे केवल एक रिसाव मानकर नहीं छोड़ देता। यह सिम्युलेट करता है कि यदि वह गिरावट एक रिसाव के कारण होती, या मांग में अचानक वृद्धि के कारण, या एक खराब सेंसर के कारण, या गलती से बंद किए गए वाल्व के कारण होती, तो क्या होता। यह इन सिमुलेशन को चलाता है ताकि यह देखा जा सके कि कौन सा सिद्धांत वास्तव में वास्तविक दुनिया के डेटा को पुनरुत्पादित कर सकता है। यदि कोई सिद्धांत देखे गए आंकड़ों से मेल नहीं खाता है, तो उसे खारिज कर दिया जाता है। यह प्रक्रिया निर्णय लेने वाले तक पहुँचने से पहले ही झूठे अलार्मों को फ़िल्टर कर देती है।
दूसित भाग, "सुपरवाइजर" (supervisor), एक स्वतंत्र ऑडिटर के रूप में कार्य करता है। यह स्वयं कभी भी स्थान का अनुमान नहीं लगाता। इसके बजाय, यह एक्सेक्यूटर द्वारा तैयार किए गए साक्ष्य पैकेज की समीक्षा करता है। इस पैकेज में केवल भौतिकी सिमुलेशन से प्राप्त ठोस संख्याएँ होती हैं, जैसे कि एक रिसाव सिद्धांत डेटा में कितनी अच्छी तरह फिट बैठता है और यह अन्य सिद्धांतों से कितना बेहतर है। सुपरवाइजर इन संख्याओं की जाँच नियमों के एक सख्त सेट, या एक "अनुबंध" (contract) के विरुद्ध करता है, जिसे किसी भी कार्रवाई को अधिकृत करने से पहले पूरा किया जाना चाहिए। यदि साक्ष्य मजबूत हैं, तो सिस्टम एक डिजिटल प्रमाणपत्र के साथ एक डिस्पैच ऑर्डर जारी करता है जो सिद्ध करता है कि निर्णय तर्कसंगत था। यदि साक्ष्य कमजोर या संदिग्ध हैं, तो सिस्टम कार्य करने से इनकार कर देता है, और टीम भेजने से बच जाता है। यह परहेज (abstention) कोई विफलता नहीं है; यह एक जानबूझकर लिया गया, सत्यापित परिणाम है जो महंगी गलतियों को रोकता है।
इस दृष्टिकोण का परीक्षण करने के लिए, शोधकर्ताओं ने कंप्यूटर-जनरेटेड मॉडल से लेकर चीन के एक वास्तविक जिला नेटवर्क तक विभिन्न परिदृश्यों पर इसे लागू किया। 381 जंक्शनों वाले एक नेटवर्क के मानक कंप्यूटर सिमुलेशन में, एक पारंपरिक प्रणाली जिसे हर घटना पर अनुमान लगाने के लिए मजबूर किया जाता है, केवल 32 प्रतिशत बार सही होती है। हालाँकि, नई प्रणाली ने लगभग 40 प्रतिशत घटनाओं पर कार्य करने का विकल्प चुना, लेकिन जब इसने कार्य किया, तो यह 96 प्रतिशत बार सही थी। इसने सफलतापूर्वक पहचाना कि कई विसंगतियाँ रिसाव नहीं थीं, और उन्हें सेंसर त्रुटियों या मांग में उछाल से सही ढंग से अलग किया। जब सिस्टम को ऐसी स्थिति का सामना करना पड़ा जहाँ खुदाई को उचित ठहराने के लिए साक्ष्य स्पष्ट नहीं थे, तो इसने बस परहेज किया, जिससे उस 68 प्रतिशत त्रुटि दर से बचा जो जबरदस्ती अनुमान लगाने वाले दृष्टिकोण में व्याप्त थी।
इस प्रणाली का परीक्षण एक तीसरे पक्ष के बेंचमार्क डेटासेट पर भी किया गया था जो एक अलग मॉडल द्वारा उत्पन्न किया गया था, जो एक वास्तविक दुनिया के परिदृश्य का अनुकरण करता है जहाँ कंप्यूटर का आंतरिक मानचित्र वास्तविकता से पूरी तरह मेल नहीं खाता है। इस कठिन परीक्षण में, सिस्टम ने 88 प्रतिशत घटनाओं पर परहेज किया, यह पहचानते हुए कि डेटा बहुत शोर वाला (noisy) था कि निश्चित होने के लिए। जिन चार घटनाओं के लिए साक्ष्य पर्याप्त मजबूत थे, उसने 100 प्रतिशत सटीकता के साथ कार्य किया, बिना किसी गलत अलार्म के रिसाव स्थान की सही पहचान की। इसने प्रदर्शित किया कि सिस्टम बिना पुन: प्रशिक्षित हुए अपने तर्क को नए वातावरण में स्थानांतरित कर सकता है, जो वास्तविक दुनिया की तैनाती के लिए एक महत्वपूर्ण आवश्यकता है।
सबसे कठोर परीक्षण में चीन का एक वास्तविक जल जिला शामिल था, जिसमें 2025 के 194 वास्तविक रिसाव मरम्मत आदेशों का रजिस्टर उपयोग किया गया। इस वास्तविक सेटिंग में, रिसाव अक्सर बहुत छोटे होते थे, जो ऐसे दबाव संकेत उत्पन्न करते थे जो इतने मंद थे कि वे सिस्टम के प्राकृतिक शोर में दब जाते थे। एक पारंपरिक प्रणाली जिसे अनुमान लगाने के लिए मजबूर किया जाता, वह 194 बार खुदाई के लिए टीमें भेजती, और संभवतः केवल 12 प्रतिशत बार सही स्थान पाती। नई प्रणाली ने, अपने सख्त नियमों का पालन करते हुए, यह निर्णय लिया कि दबाव का साक्ष्य इन लगभग सभी मामलों के लिए खुदाई को उचित ठहराने के लिए अपर्याप्त था। इसने केवल पांच घटनाओं के लिए टीमें भेजीं, और उनमें से तीन सही थीं। हालाँकि यह कम संख्या लग सकती है, शोधकर्ताओं ने नोट किया कि सिस्टम डेटा की सीमाओं के प्रति ईमानदार था।
बाकी बचे हुए रिसावों को खोजने के लिए जो दबाव सेंसरों द्वारा पता लगाने के लिए बहुत छोटे थे, सिस्टम ने जांच का दूसरा स्तर जोड़ा। इसने नेटवर्क के विभिन्न जिलों में बहने वाले पानी की कुल मात्रा को देखा। भले ही एक रिसाव सेंसर पर ध्यान देने योग्य दबाव गिरावट पैदा करने के लिए बहुत छोटा हो, फिर भी वह जिले में प्रवेश करने वाले कुल पानी में योगदान देता है। एक जिले में प्रवेश करने वाले पानी की तुलना उसमें से बाहर जाने वाले पानी से करके, सिस्टम पहचान सकता था कि किस जिले में रिसाव है। इस मास-बैलेंस (mass-balance) दृष्टिकोण का उपयोग करते हुए, सिस्टम ने 194 वास्तविक रिसावों में से 85 को सफलतापूर्वक पहचाना, और जिला स्तर पर 100 प्रतिशत सटीकता प्राप्त की। इस दो-स्तरीय दृष्टिकोण ने उपयोगिता को अपने संसाधनों को प्रभावी ढंग से लक्षित करने की अनुमति दी: केवल तभी खुदाई के लिए टीम भेजना जब दबाव का डेटा स्पष्ट हो, और जब दबाव का डेटा बहुत कमजोर हो तो रिसाव सुनने के लिए एक सर्वेक्षण टीम भेजना।
शोधकर्ताओं ने इस बात पर जोर दिया कि सिस्टम की ताकत इस बात में निहित है कि वह यह सिद्ध कर सके कि उसे कार्य कब नहीं करना चाहिए। एक ऐसी दुनिया में जहाँ आर्टिफिशियल इंटेलिजेंस से अक्सर हर सवाल का जवाब देने की उम्मीद की जाती है, यह कार्य सुझाव देता है कि सबसे मूल्यवान योगदान "मैं सुनिश्चित नहीं हो सकता" कहने की क्षमता हो सकती है। प्रत्येक निर्णय को भौतिकी सिमुलेशन में आधारित करके और स्वतंत्र जाँच के साथ सत्यापित करके, सिस्टम प्रत्येक कार्रवाई के लिए एक बचाव योग्य रिकॉर्ड बनाता है। यह जवाबदेही विनियमित बुनियादी ढांचे के लिए आवश्यक है, जहाँ एक गलत निर्णय लाखों का खर्च करा सकता है और सार्वजनिक विश्वास को नुकसान पहुँचा सकता है। यह अध्ययन दिखाता है कि एक भौतिकी-आधारित अन्वेषक और एक सख्त, नियम का पालन करने वाले ऑडिटर को जोड़कर, एक ऐसा AI सिस्टम बनाया जा सकता है जो न केवल स्मार्ट है, बल्कि इतना सुरक्षित और विश्वसनीय भी है कि वास्तविक दुनिया के निर्णयों के लिए उस पर भरोसा किया जा सके।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।