कल्पना कीजिए कि आपका एक सुपर-स्मार्ट रोबोट दोस्त है जो कोई भी किताब पढ़ सकता है, कोई भी कहानी लिख सकता है और इंसानों की तरह बात कर सकता है। यह रोबोट एक "लार्ज लैंग्वेज मॉडल" (LLM) है। यह बहुत ही शानदार तरीके से आत्मविश्वास और प्रवाह के साथ बोलने में माहिर है। लेकिन, इसमें एक पेंच है: यदि आप इस रोबot से गणित करने या आपके व्यक्तिगत डेटा के आधार पर विशिष्ट चिकित्सा सलाह देने के लिए कहते हैं, तो यह अच्छा दिखने के लिए चीजें बना भी सकता है। यह एक प्रतिभाशाली अभिनेता की तरह है जो मौसम के बारे में एक प्रभावशाली भाषण तो दे सकता है, लेकिन अगर आप उससे सटीक तापमान पूछें, तो वह मान लीजिए कि बाहर बारिश हो रही है और ठंड है, फिर भी वह अंदाज़ से "72 डिग्री" कह सकता है। स्वास्थ्य की दुनिया में, यह खतरनाक है। यदि एक रोबोट आपसे कहता है कि आपका ब्लड शुगर ठीक है जबकि वह नहीं है, या आपके पास मौजूद किसी जोखिम को खुद से बना लेता है, तो इससे गलत निर्णय लिए जा सकते हैं। वैज्ञानिक यह पता लगाने की कोशिश कर रहे हैं कि इन रोबोटों को "हैलुसिनेटिंग" (चीजें बनाने) से कैसे रोका जाए और उन्हें ठोस तथ्यों पर टिके रहने के लिए कैसे मजबूर किया जाए, खासकर जब बात हमारे शरीर की हो।

यह शोध पत्र, जिसका शीर्षक "ग्राउंडिंग हेल्थ एआई" (Grounding Health AI) है, इन स्वास्थ्य रोबोटों के लिए एक सुरक्षा जाल बनाने के बारे में है। शोधकर्ताओं ने "ह्यूमन फेनोटाइप प्रोजेक्ट पर्सनल हेल्थ एजेंट" (PHA) नामक एक प्रणाली बनाई है। इसे ऐसे समझें जैसे आपने रोबोट को एक सख्त नियम पुस्तिका, विशेषज्ञों की कैलकुलेटरों की एक टीम और वास्तविक मानव डेटा का एक विशाल पुस्तकालय दिया हो ताकि बोलने से पहले वह उसकी जांच कर सके। उन्होंने इस प्रणाली का परीक्षण करने के लिए इसमें ग्लूकोज मॉनिटर (ऐसे उपकरण जो ब्लड शुगर ट्रैक करते हैं) और फूड लॉग्स पहनने वाले लोगों का दो सप्ताह का वास्तविक डेटा डाला। परिणाम क्या रहा? जब रोबलेट ने इस नई प्रणाली का उपयोग किया, तो उसने नंबर बनाना बंद कर दिया। आपके ब्लड शुगर पैटर्न का अनुमान लगाने के बजाय, इसने वास्तविक उपकरणों का उपयोग करके उनकी गणना की। जोखिमों को गढ़ने के बजाय, इसने स्वीकार किया कि इसके पास पर्याप्त जानकारी नहीं है। टीम ने पाया कि इन "उपकरणों" को "कौशल" (बात करने के नियम) के साथ जोड़कर, वे एक ऐसे रोबोट को, जो अपने ढांचे और तथ्यों में केवल 37% सटीक था, 91% सटीक रोबोट में बदल सकते थे। यह उन एआई (AI) की ओर एक बड़ा कदम है जिस पर डॉक्टर और मरीज वास्तव में भरोसा कर सकें।

समस्या: वह रोबोट जो अच्छा दिखने के लिए झूठ बोलता है

कल्पना कीजिए कि आपने एक भविष्यवादी रोबोट को दो सप्ताह तक आपने जो कुछ भी खाया उसका एक डायरी और आपके ब्लड शुगर स्तर का एक ग्राफ थमा दिया। आप पूछते हैं, "मेरा मेटाबॉलिज्म कैसा है?" एक मानक, सुपर-स्मार्ट एआई एक सुंदर, प्रवाहमय रिपोर्ट लिख सकता है। यह कह सकता है, "आपने 172 भोजन किए!" (जबकि आपने वास्तव में 70 किए थे) या "आपके ब्लड शुगर के उतार-चढ़ाव मामूली थे," जबकि वे वास्तव में बहुत अधिक थे। यह सुनने में एकदम सही लगता है, लेकिन यह एक झूठ है। रोबोट लिखने में इतना अच्छा है कि वह खाली जगहों को ऐसे अनुमानों से भर देता है जो सही लगते हैं लेकिन पूरी तरह से गलत होते हैं।

शोधकर्ताओं ने पाया कि दुनिया के बेहतरीन एआई मॉडल भी ऐसा ही कर रहे थे। वे "MAGE" नामक एक मीट्रिक (जो मापता है कि आपका ब्लड शुगर कितना ऊपर-नीचे होता है) का आविष्कार करते थे और कहते थे कि यह 41 है, जबकि वास्तविक गणित से पता चलता था कि यह 84.8 था। वे दावा करते थे कि उन्होंने 172 भोजनों का विश्लेषण किया है जबकि डेटा में केवल 70 थे। वे वास्तव में उन्हें कैलकुलेट करने के लिए आवश्यक उपकरणों के बिना भविष्य के स्वास्थ्य जोखिमों की भविष्यवाणी भी करने लगते थे। यह एक ऐसे शेफ की तरह है जिसे खाना बनाना तो नहीं आता लेकिन वह उस भोजन की पांच-सितारा समीक्षा लिख देता है जिसे उसने कभी चखा ही नहीं। एक आम व्यक्ति के लिए, यह भ्रमित करने वाला है। एक डॉक्टर के लिए, यह खतरनाक है।

समाधान: "ग्राउंडिंग" स्टैक

इसे ठीक करने के लिए, टीम ने एक नए प्रकार का एआई एजेंट बनाया जिसे PHA कहा जाता है। उन्होंने रोबोट को केवल यह नहीं कहा कि "सावधान रहो।" इसके बजाय, उन्होंने एक चार-परत वाला "ग्राउंडिंग" सिस्टम बनाया। कल्पना कीजिए कि रोबोट एक परीक्षा देने वाला छात्र है।

1. संदर्भ पुस्तकालय (ह्यूमन फेनोटाइप प्रोजेक्ट): सबसे पहले, उन्होंने रोबोट को 13,000 से अधिक वास्तविक लोगों के डेटा का एक विशाल पुस्तकालय दिया। यह केवल रैंडम नंबर नहीं हैं; यह इस बात की गहरी समझ है कि वास्तविक मनुष्यों के शरीर भोजन और व्यायाम के प्रति कैसे प्रतिक्रिया करते हैं। यदि रोबोट कहना चाहता है, "आपका ब्लड शुगर उच्च है," तो उसे इस लाइब्रेरी की जांच करनी होगी कि आपकी उम्र और लिंग के कितने अन्य लोगों का स्तर ऐसा ही है। यह अपने टेस्ट स्कोर की तुलना करने के लिए 13,000 छात्रों की एक विशाल क्लास होने जैसा है, बजाय इसके कि वह केवल अंदाजा लगाए कि आपने अच्छा किया या नहीं।
2. विशेषज्ञ उपकरण (कैलकुलेटर): इसके बाद, उन्होंने रोबोट को 21 विशिष्ट कैलकुलेटरों का एक टूलबॉक्स दिया। रोबोट को अपने दिमाग में गणित करने की अनुमति नहीं है। यदि उसे आपके ब्लड शुगर औसत की आवश्यकता है, तो उसे गणित करने के लिए एक विशिष्ट टूल से पूछना होगा। यदि उसे आपके हृदय जोखिम की आवश्यकता है, तो उसे एक विशिष्ट हार्ट-रिस्क कैलकुलेटर का उपयोग करना होगा। रोबोट केवल एक संदेशवाहक है; भारी काम उपकरण करते हैं।
3. व्यवहार कौशल (नियम पुस्तिका): यह सबसे चतुर हिस्सा है। रोबोट के पास सरल टेक्स्ट फाइलों (जैसे एक नियम पुस्तिका) में लिखे गए "कौशल" हैं। ये नियम रोबोट को बताते हैं कि वह क्या कह सकता है और क्या नहीं। उदाहरण के लिए, एक नियम यह हो सकता है कि "यदि आपने टूल के साथ भोजन की गिनती की गणना नहीं की है, तो आप यह नहीं कह सकते कि व्यक्ति ने कितने भोजन किए।" एक अन्य नियम यह हो सकता है कि "यदि आपके पास रक्तचाप का डेटा नहीं है, तो आप हृदय जोखिम का अनुमान नहीं लगा सकते।" ये नियम रोबोट को चीजें बनाने से रोकते हैं, भले ही वह ऐसा करना चाहे।
4. टेस्ट-ड्रिवन साइकिल (ग्रेडर): अंत में, टीम ने एक ऐसी प्रणाली बनाई जो रोबोट को बनाते समय ही उसका परीक्षण करती है। हर बार जब रोबोट कोई गलती करता है (जैसे कोई नंबर बनाना), तो टीम उस सटीक गलती को पकड़ने के लिए एक विशिष्ट टेस्ट लिखती है। यह एक वीडियो गेम की तरह है जहाँ हर बार जब आप गड्ढे में गिरते हैं, तो गेम एक नया जाल जोड़ देता है ताकि आप दोबारा वहां न गिरें।

उन्होंने क्या पाया: टूल्स बनाम रूल्स

शोधकर्ताओं ने एक बड़ा प्रयोग चलाया। उन्होंने 14 वास्तविक लोगों के डेटा को लिया और रोब सहित अलग-अलग सेटअप का उपयोग करके रोबोट को रिपोर्ट लिखने के लिए कहा। उन्होंने तुलना की:

• बेसलाइन: बिना किसी टूल या नियमों के केवल स्मार्ट रोबोट।
• केवल टूल्स: रोबोट जिसके पास कैलकुलेटर तो हैं लेकिन कोई नियम पुस्तिका नहीं है।
• पूर्ण प्रणाली: रोबोट जिसके पास कैलकुलेटर और नियम पुस्तिका दोनों हैं।

परिणाम स्पष्ट और आश्चर्यजनक थे।

• बेसलाइन रोबोट: इसने "विश्वसनीयता" परीक्षण पर 0.37 (1.0 में से) का स्कोर प्राप्त किया। यह प्रवाहपूर्ण था लेकिन गलत तथ्यों से भरा हुआ था।
• केवल टूल्स: जब उन्होंने रोबोट को कैलकुलेटर दिए लेकिन नियम नहीं दिए, तो स्कोर थोड़ा बढ़कर 0.49 हो गया। रोबोट अब गणित कर सकता था, लेकिन वह इसे सही ढंग से रिपोर्ट करना नहीं जानता था। वह कभी-कभी गणित का उल्लेख करना भूल जाता था या ऐसी बातें कहता था जिनका समर्थन टूल्स नहीं करते थे।
• पूर्ण प्रणाली: जब उन्होंने टूल्स के ऊपर नियम पुस्तिका (कौशल) जोड़ी, तो स्कोर उछलकर 0.91 हो गया।

बड़ी सीख यह है कि टूल्स और नियम अलग-अलग काम करते हैं। टूल्स ने नंबरों को सटीक बनाया (14% सटीकता से 90% सटीकता तक)। लेकिन नियमों ने रिपोर्ट को पूर्ण, ईमानदार और उचित रूप से व्यवस्थित बनाया। बिना नियमों के, रोबोट के पास उत्तर तो थे लेकिन उसे उन्हें प्रस्तुत करना नहीं आता था। नियमों के साथ, वह एक भरोसेमंद सहायक बन गया।

"इनकार" की सुपरपावर

इस नए सिस्टम ने जो सबसे कूल चीज़ सीखी, वह थी यह कहना कि "मुझे नहीं पता।" पुराने परीक्षणों में, जब रोबोट के पास पर्याप्त डेटा (जैसे ब्लड प्रेशर रीडिंग की कमी) नहीं होता था, तो वह फिर भी हृदय जोखिम का अनुमान लगा लेता था। वह कहता था, "आपका जोखिम उच्च है," भले ही वह इसकी गणना नहीं कर सकता था।

हालाँकि, नया सिस्टम रुकना सीख गया। जब रोबोट ने ब्लड प्रेशर के बिना हृदय जोखिम की गणना करने की कोशिश की, तो नियमों ने उसे मजबूर किया कि वह कहे, "मैं इसकी गणना नहीं कर सकता क्योंकि मेरे पास ब्लड प्रेशर का डेटा नहीं है। कृपया पहले यह डेटा प्राप्त करें।" उसने झूठ बोलने से इनकार कर दिया। यह एक बहुत बड़ा बदलाव है। एक ऐसे रोबोट के बजाय जो हमेशा जवाब (चाहे गलत ही क्यों न हो) रखता है, यह एक ऐसा रोबोट बन गया जो अपनी सीमाओं को जानता है।

क्या यह अन्य चीजों के लिए काम करता है?

टीम ने यह भी परीक्षण किया कि क्या यह सिस्टम विभिन्न प्रकार के स्वास्थ्य संबंधी प्रश्नों को संभाल सकता है। उन्होंने सामान्य मेटाबॉलिक स्वास्थ्य और यहाँ तक कि हृदय स्वास्थ्य (कार्डियोवैस्कुलर रिस्क) के बारे में पूछने की कोशिश की। सिस्टम दोनों के लिए अच्छी तरह से काम करता है, जो लगभग 0.37 के निम्न स्कोर से बढ़कर 0.70 या 0.72 के उच्च स्कोर तक पहुँच गया। यह सुझाव देता है कि जो "रेसिपी" उन्होंने खोजी है—वास्तविक डेटा, विशिष्ट उपकरण और सख्त नियमों का संयोजन—उसे चिकित्सा के विभिन्न हिस्सों के लिए उपयोग किया जा सकता है, न कि केवल ब्लड शुगर के लिए।

निष्कर्ष

यह शोध पत्र दिखाता है कि स्वास्थ्य के लिए एआई को सुरक्षित बनाने के लिए, हम केवल एआई के "स्मार्ट" होने पर निर्भर नहीं रह सकते। हमें एक ऐसी प्रणाली बनानी होगी जहाँ एआई को वास्तविक कैलकुलेटर का उपयोग करने, वास्तविक मानव डेटा की जाँच करने और वह क्या कह सकता है इसके बारे में सख्त नियमों का पालन करने के लिए मजबूर किया जाए। परिणाम एक ऐसी प्रणाली है जिसके डरावने या गलत तथ्य बनाने की संभावना बहुत कम है।

शोधकर्ता स्वीकार करते हैं कि यह अभी तक कोई पूर्ण समाधान नहीं है। उन्होंने इसका परीक्षण लोगों के एक छोटे समूह पर किया और मुख्य रूप से लिखित रिपोर्टों पर, लाइव बातचीत पर नहीं। वे यह भी नोट करते हैं कि एक रिपोर्ट का "सार"—कि वह मरीज के लिए कितनी मददगार या दयालु लगती है—को कंप्यूटर के साथ टेस्ट करना कठिन है और इसके लिए मानव डॉक्टरों द्वारा जांच की आवश्यकता है। लेकिन रिपोर्ट के "रूप" के लिए—नंबर, स्रोत और ईमानदारी के लिए—नया सिस्टम एक बड़ा सुधार है। यह एक ऐसे रोबोट को बदल देता है जो आत्मविश्वास से बोलता है लेकिन गलत होता है, एक ऐसे रोबोट में जो आत्मविश्वास से बोलता है क्योंकि वह सही है।