Quantifying the Relationship Between Clinical Safety and Environmental Impact in Therapeutic LLMs

कल्पना कीजिए कि आप एक रोबोट थेरेपिस्ट बना रहे हैं ताकि लोगों को उनके सबसे कठिन दिनों के बारे में बात करने में मदद मिल सके। आप चाहते हैं कि यह रोबोट अविश्वसनीय रूप से बुद्धिमान, दयालु और सुरक्षित हो, ताकि यह संकट के समय में कभी भी गलत बात न कहे। लेकिन इसमें एक पेंच है: इतने स्मार्ट रोबोट को बनाने के लिए भारी मात्रा में बिजली की आवश्यकता होती है, जैसे कि एक बातचीत करने के लिए एक छोटे शहर के बिजली संयंत्रों की शक्ति चलाने के बराबर। यह "लार्ज लैंग्वेज मॉडल्स" (AI जो इंसान की तरह चैट कर सकता है) की दुनिया है, जो स्वास्थ्य सेवा में उपयोग किया जा रहा है। वैज्ञानिक एक बड़ा सवाल पूछ रहे हैं: क्या कोई ऐसा तरीका है जिससे सबसे सुरक्षित, सबसे सहायक रोबोट मिल सके बिना ग्रह को जलाए? वे उस 'स्वीट स्पॉट' को खोजने की कोशिश कर रहे हैं जहाँ रोबोट इतना सुरक्षित हो कि उस पर भरोसा किया जा सके, लेकिन इतना ऊर्जा का भूखा न हो कि वह पर्यावरण को नुकसान पहुँचाए।

यह शोध पत्र, जिसे शोधकर्ताओं की एक टीम ने लिखा है, ठीक इसी संतुलन को मापने का निर्णय लेता है। उन्होंने AI मॉडल्स की एक सूची ली और एक साथ दो चीजें जाँचीं: उन्होंने खतरनाक मानसिक स्वास्थ्य स्थितियों (जैसे आत्म-नुकसान के विचार) को कितनी अच्छी तरह संभाला और उन्हें करने में कितनी ऊर्जा, पानी और कार्बन प्रदूषण का उपयोग हुआ। इसे कारों की तुलना करने जैसा समझें: कुछ कारें बहुत सुरक्षित हैं लेकिन उनका माइलेज बहुत खराब है, जबकि अन्य छोटी और कुशल हैं लेकिन शायद उनमें ब्रेक उतने अच्छे नहीं हैं। शोधकर्ता यह देखना चाहते थे कि क्या "सबसे सुरक्षित" AI मॉडल सबसे अधिक अपव्ययी भी थे, या क्या आप एक ऐसा सुरक्षित मॉडल प्राप्त कर सकते थे जो पर्यावरण के अनुकूल भी हो।

यहाँ उन्हें क्या मिला, और यह थोड़ा आश्चर्यजनक है। उन्होंने 4-7 अलग-अलग AI सेटअप देखे और एक अजीब, ऊबड़-खाबड़ संबंध पाया। अधिकांश मामलों में, आप बहुत अधिक ऊर्जा का उपयोग किए बिना एक काफी सुरक्षित AI प्राप्त कर सकते हैं। लेकिन यदि आप सबसे सुरक्षित मॉडल चाहते हैं—वह जिसके पास उच्चतम सुरक्षा स्कोर हो—तो आप एक दीवार से टकरा जाते हैं। केवल थोड़ी सी अधिक सुरक्षा निचोड़ने के लिए, ऊर्जा की लागत आसमान छू लेती है। विशेष रूप से, शोधकर्ताओं ने पाया कि सुरक्षा स्कोर में मात्र 2.61 प्रतिशत अंक की वृद्धि (एक बहुत अच्छे स्कोर से सबसे बेहतरीन स्कोर तक जाने के लिए) के लिए, समान मात्रा में टेक्स्ट जेनरेट करने हेतु लगभग 60 गुना अधिक ऊर्जा की आवश्यकता थी। यह बिल्कुल वैसा ही है जैसे अपनी कार को केवल स्टोर पहुँचने के लिए 30 सेकंड जल्दी पहुँचने के उद्देश्य से 100 मील प्रति घंटे की रफ्तार पर चलाने की कोशिश करना; अतिरिक्त गति के लिए आपको ईंधन की भारी कीमत चुकानी पड़ती है, जबकि वास्तविक लाभ लगभग शून्य है।

पत्र ने एक लोकप्रिय विचार का भी परीक्षण किया: "क्या होगा अगर हम AI को और अधिक गहराई से सोचने के लिए कहें?" कुछ लोग मानते हैं कि यदि आप एक AI को उत्तर देने से पहले अधिक "तर्क" करने या गणना करने का समय देते हैं, तो वह अधिक सुरक्षित होगा। शोधकर्ताओं ने अतिरिक्त 'सोचने के चरणों' (thinking steps) वाले मॉडल्स बनाम बिना अतिरिक्त चरणों वाले मॉडल्स को देखकर इसकी जाँच की। उन्होंने पाया कि इस अतिरिक्त सोच ने AI को हमेशा सुरक्षित नहीं बनाया। वास्तव में, कुछ मामलों में, अधिक सोचने के चरण जोड़ने से सुरक्षा स्कोर वास्तव में कम हो गया। यह सुझाव देता है कि समस्या को हल करने के लिए केवल अधिक कंप्यूटर पावर झोंक देना कोई जादुई समाधान नहीं है।

तो, निष्कर्ष क्या है? लेखक सुझाव देते हैं कि हमें हर एक बातचीत के लिए सबसे बड़ा, सबसे शक्तिशाली AI नहीं चुनना चाहिए। इसके बजाय, वे एक "स्मार्ट स्विच" दृष्टिकोण का प्रस्ताव करते हैं। AI के लिए एक ट्रैफिक लाइट सिस्टम की कल्पना करें: रोज़मर्रा की बातचीत के लिए, जहाँ जोखिम कम है, एक छोटे, ऊर्जा-कुशल मॉडल का उपयोग करें, और केवल तभी उस विशाल, ऊर्जा-भूखे सुपर-मॉडल को चालू करें जब स्थिति वास्तव में खतरनाक हो और उसे सुरक्षा के उस अतिरिक्त स्तर की आवश्यकता हो। इस तरह, हम उन बातचीत पर भारी मात्रा में ऊर्जा बर्बाद किए बिना लोगों को सुरक्षित रख सकते हैं जिन्हें इसकी आवश्यकता नहीं है। यह अध्ययन बताता है कि केवल यह मान लेने के बजाय कि बड़ा होना हमेशा बेहतर होता है, यह "डायनामिक" दृष्टिकोण चिकित्सीय AI बनाने का एक बहुत बेहतर तरीका है।