From Trustworthy AI Principles to Verifiable System Requirements: A Multi-Stakeholder Engineering Framework for Clinical Decision Support Systems
यह शोध पत्र एक पुनरुत्पादनीय, तीन-चरणीय इंजीनियरिंग ढांचे को प्रस्तुत करता है जो बहु-हितधारक आवश्यकताओं और नियामक बाधाओं को ISO/IEC/IEEE 29148 और FUTURE-AI वर्गीकरण के अनुरूप औपचारिक, सत्यापन योग्य सिस्टम आवश्यकताओं में व्यवस्थित रूप से अनुवादित करता है, जिसे AI4HF परियोजना में एक उच्च-जोखिम वाले क्लिनिकल AI सिस्टम के लिए एक सार्वजनिक रूप से उपलब्ध आवश्यकताओं के संग्रह (corpus) के निर्माण के माध्यम से प्रदर्शित किया गया है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक अस्पताल में, एक नए प्रकार के उपकरण का आकार ले रहा है: ऐसा सॉफ्टवेयर जो आपात स्थिति बनने से पहले स्वास्थ्य जोखिमों का पूर्वानुमान लगाने के लिए रोगी के डेटा से सीखता है। ये प्रणालियाँ, जिन्हें अक्सर आर्टिफिशियल इंटेलिजेंस (कृत्रिम बुद्धिमत्ता) कहा जाता है, डॉक्टरों को तेज़ और अधिक सटीक निर्णय लेने में मदद करने का वादा करती हैं। लेकिन इस तकनीक के व्यवहार के आदर्श रूप और सर्वर पर चलने वाले वास्तविक कोड के बीच एक गहरा अंतर है। हमारे बीच व्यापक सहमति है कि मेडिकल एआई को निष्पक्ष, सुरक्षित और समझने योग्य होना चाहिए, फिर भी ये विचार अक्सर "दयालु बनो" या "ईमानदार रहो" जैसे अस्पष्ट बने रहते हैं। एक स्पष्ट सेतु के बिना, डेवलपर्स ऐसे सिस्टम बना सकते हैं जो तकनीकी रूप से तो काम करते हैं लेकिन मानवीय देखभाल के लिए आवश्यक सख्त सुरक्षा नियमों को पूरा करने में विफल रहते हैं, या इससे भी बुरा, वे ऐसे सिस्टम बना सकते हैं जो उन लोगों की अनदेखी करते हैं जिनकी वे मदद करने के लिए बनाए गए हैं। चुनौती केवल यह कहना नहीं है कि क्या सही है, बल्कि यह लिखना है कि एक मशीन को सही माने जाने के लिए वास्तव में कैसे व्यवहार करना चाहिए, ताकि इसे परीक्षण योग्य और सिद्ध किया जा सके।
शोधकर्ताओं की एक टीम ने इस अंतर को पाटने के लिए एक सेतु बनाया है। उन्होंने डॉक्टरों, रोगियों और नियामकों की धुंधली आशाओं को सॉफ्टवेयर के लिए एक कठोर, जांच योग्य निर्देशों की सूची में बदलने की एक चरण-दर-चरण विधि विकसित की है। इस कार्य का परीक्षण एक वास्तविक दुनिया के प्रोजेक्ट पर किया गया जिसे क्रोनिक हार्ट फेलियर (पुरानी हृदय विफलता) वाले रोगियों के जोखिमों का पूर्वानुमान लगाने के लिए डिज़ाइन किया गया था, जो एक ऐसी स्थिति है जहाँ गलत अनुमान घातक हो सकता है। शोधकर्ताओं ने छह अलग-अलग समूहों से इनपुट एकत्र किया, जिनमें स्वयं रोगी, उपकरण का उपयोग करने वाले डॉक्टर, नीतिशास्त्री और कानूनी विशेषज्ञ शामिल थे। उन्होंने इन बैठकों में उठाई गई चिंताओं को—जैसे कि एक रोगी का डर कि कंप्यूटर उसके साथ दूसरों की तुलना में अलग व्यवहार कर सकता है, या एक डॉक्टर की आवश्यकता कि वह देख सके कि भविष्यवाणी कैसे की गई—को एक औपचारिक भाषा में अनुवादित किया जिसका इंजीनियर पालन कर सकें। इसका परिणाम 173 विशिष्ट नियमों वाला एक दस्तावेज़ था। प्रत्येक नियम एक सख्त प्रारूप में लिखा गया है जो अस्पष्टता के लिए कोई जगह नहीं छोड़ता, यह स्पष्ट रूप से बताता है कि सिस्टम को क्या करना चाहिए, उसे क्या करना चाहिए, और वह क्या कर सकता है। महत्वपूर्ण रूप से, प्रत्येक नियम के साथ एक परिभाषित परीक्षण (टेस्ट) आता है जो यह सिद्ध करता है कि वह काम करता है, जिससे यह सुनिश्चित होता है कि अंतिम उत्पाद की सुरक्षा और निष्पक्षता के मूल वादों के विरुद्ध सत्यापन किया जा सके।
यह प्रक्रिया शामिल लोगों को सुनने से शुरू हुई। यूरोप, दक्षिण अमेरिका और अफ्रीका में आयोजित कार्यशालाओं में, रोगियों ने अपनी यात्राओं के बारे में कहानियाँ साझा कीं, जबकि डॉक्टरों ने अपने दैनिक कार्यप्रवाह का वर्णन किया। शोधकर्ताओं ने कानून की कठोर सीमाओं को भी देखा, जैसे कि यूरोपीय नियम जो मेडिकल एआई को 'उच्च जोखिम' के रूप में वर्गीकृत करते हैं। उन्होंने इन 'नीचे से ऊपर' (bottom-up) की कहानियों को 'ऊपर से नीचे' (top-down) की कानूनी आवश्यकताओं के साथ जोड़कर जरूरतों की एक एकीकृत सूची बनाई। इन जरूरतों को कोड में बदलने से पहले, टीम ने यह तय करने के लिए एक सर्वसम्मति पद्धति का उपयोग किया कि कौन सी आवश्यक थीं और कौन सी वैकल्पिक। इसके बाद उन्होंने इन जरूरतों को फिर से लिखने के लिए एक सख्त इंजीनियरिंग मानक लागू किया। यह कहने के बजाय कि "सिस्टम को निष्पक्ष होना चाहिए," जो परीक्षण करने में कठिन है, उन्होंने लिखा, "सिस्टम को यह सूचना प्रदान करनी चाहिए कि निर्णय लेने की प्रक्रिया जिम्मेदार है, चाहे चिकित्सक भविष्यवाणी पर भरोसा करे या न करे।" अस्पष्ट अवधारणाओं से ठोस कार्यों की ओर यह बदलाव उनके कार्य का मूल है। यह एक नैतिक सिद्धांत को एक कार्यात्मक आवश्यकता में बदल देता है जिसे एक टेस्टर एक विशिष्ट जाँच चलाकर सत्यापित कर सकता है।
एक बार जब 173 नियमों की सूची लिख ली गई, तो टीम ने इसकी जाँच भरोसेमंद एआई के एक व्यापक ढांचे, जिसे FUTURE-AI कहा जाता है, के विरुद्ध की। यह ढांचा भरोसेमंदता की अवधारणा को तीस विशिष्ट उप-सिद्धांतों में विभाजित करता है, जिसमें डेटा गोपनीयता से लेकर सिस्टम द्वारा अपने तर्क की व्याख्या करने के तरीके तक सब कुछ शामिल है। शोधकर्ताओं ने यह सुनिश्चित करने के लिए कि कुछ भी छूटा नहीं है, अपने प्रत्येक 173 नियमों को इन सिद्धांतों से जोड़ा। उन्होंने पाया कि उनकी सूची ने हर एक उप-सिद्धांत को कवर किया, जो यह सिद्ध करता है कि उनकी विधि समस्या की पूरी जटिलता को पकड़ सकती है। नियमों के वितरण ने दिलचस्प अंतर्दृष्टि भी प्रदान की: जबकि कई नियम इस बात पर केंद्रित थे कि सिस्टम कैसे काम करता है (कार्यात्मक आवश्यकताएं), एक आश्चर्यजनक रूप से बड़ी संख्या—चालीस प्रतिशत से अधिक—सिस्टम की गुणवत्ता पर केंद्रित थी, जैसे कि इसकी सुरक्षा, गति और त्रुटियों को संभालने की क्षमता। यह रेखांकित करता है कि मेडिकल एआई के लिए, "गैर-कार्यात्मक" पहलू गणनाओं जितनी ही महत्वपूर्ण हैं।
शोधकर्ताओं ने यह भी जांचा कि उन्होंने प्रत्येक नियम को कैसे सिद्ध करने की योजना बनाई। उन्होंने प्रत्येक आवश्यकता के लिए एक विशिष्ट सत्यापन पद्धति सौंपी। लगभग आधे नियमों के लिए, प्रमाण वास्तविक लोगों द्वारा सिस्टम का परीक्षण करने से आएगा, जो सर्वेक्षणों का उपयोग करके यह देखेंगे कि क्या व्याख्याएं समझ में आती हैं या इंटरफ़ेस उपयोग में आसान है। अन्य के लिए, प्रमाण कोड को सुरक्षा खामियों या नियामक अनुपालन के लिए स्कैन करने वाले स्वचालित चेक से आएगा। यह मिश्रण सुनिश्चित करता है कि सिस्टम न केवल तकनीकी रूप से सुदृढ़ है, बल्कि मानवीय रूप से भी स्वीकार्य है। टीम ने पाया कि केवल स्वचालित परीक्षणों पर निर्भर रहना अपर्याप्त होगा; विश्वास के मानवीय तत्व के लिए मानवीय सत्यापन की आवश्यकता होती है। प्रत्येक नियम को एक परीक्षण के साथ जोड़कर, उन्होंने एक ऐसा ब्लूप्रिंट तैयार किया है जिसमें अनुमान की कोई गुंजाइश नहीं है।
यह कार्य यह दावा नहीं करता है कि इसने मेडिकल एआई की हर समस्या को हल कर दिया है, न ही यह सुझाव देता है कि इन नियमों को लिखना आसान है। शोधकर्ता स्वीकार करते हैं कि उनके तरीके का परीक्षण हार्ट फेलियर के एक विशिष्ट प्रोजेक्ट पर किया गया था और इस पद्धति को अन्य बीमारियों या कृत्रिम बुद्धिमत्ता के अन्य प्रकारों पर लागू करने के लिए आगे के अध्ययन की आवश्यकता होगी। वे यह भी नोट करते हैं कि इन उच्च-स्तरीय नियमों को वास्तविक कंप्यूटर कोड में बदलने का अंतिम चरण एक अलग चुनौती है। हालाँकि, उन्होंने प्रदर्शित किया है कि विविध समूह के जटिल, अक्सर परस्पर विरोधी स्वरों और कानून की सख्त मांगों को एक एकल, सुसंगत सेट के निर्देशों में बुनना संभव है। ऐसा करके, उन्होंने अन्य टीमों के लिए अनुसरण करने हेतु एक पुनरुत्पादक (reproducible) मार्ग प्रदान किया है, जिससे यह सुनिश्चित होता है कि अगली पीढ़ी का मेडिकल एआई न केवल स्मार्ट है, बल्कि सुरक्षित, निष्पक्ष और विश्वास के आधार पर निर्मित है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।