Inconsistent and divergent large language model safety guidance during intraoperative crises: a guideline- anchored benchmark
यह अध्ययन प्रकट करता है कि फ्रंटियर लार्ज लैंग्वेज मॉडल्स, विशेष रूप से संचार और एस्केलेशन के संबंध में, सिम्युलेटेड इंट्राऑपरेटिव संकटों के दौरान गाइडलाइन-आधारित सुरक्षा मार्गदर्शन प्रदान करने में महत्वपूर्ण विसंगति और विचलन प्रदर्शित करते हैं, जो नैदानिक निर्णय समर्थन के लिए केवल समग्र सटीकता के बजाय उनकी विश्वसनीयता और पुनरुत्पादकता का मूल्यांकन करने की महत्वपूर्ण आवश्यकता को रेखांकित करता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
ऑपरेशन थिएटर के उच्च-दांव वाले वातावरण में, सेकंड्स बहुत मायने रखते हैं। जब सर्जरी के दौरान मरीज की स्थिति अचानक बिगड़ जाती है, तो मेडिकल टीम को तुरंत कार्रवाई करनी पड़ती है, जो दशकों से परिष्कृत किए गए सख्त, जीवन रक्षक चेकलिस्टों का पालन करती है। ये प्रोटोकॉल त्रुटियों को नुकसान पहुँचाने से पहले पकड़ने के लिए डिज़ाइन किए गए हैं, यह सुनिश्चित करने के लिए कि टीम स्पष्ट रूप से संवाद करे, समस्या को सही लोगों तक पहुँचाए और विशिष्ट, महत्वपूर्ण युद्धाभ्यास (maneuvers) करे। जैसे-जैसे लार्ज लैंग्वेज मॉडल्स के रूप में ज्ञात आर्टिफिशियल इंटेलिजेंस टूल्स चिकित्सा क्षेत्र में प्रवेश कर रहे हैं, एक बढ़ती हुई उम्मीद है कि वे एक डिजिटल सहायक के रूप में कार्य कर सकते हैं, जो इन अराजक क्षणों के दौरान वास्तविक समय में मार्गदर्शन प्रदान कर सकें। हालाँकि, एक मानव डॉक्टर के विपरीत जो प्रशिक्षण और अनुभव पर निर्भर करता है, ये कंप्यूटर प्रोग्राम डेटा के पैटर्न के आधार पर उत्तर उत्पन्न करते हैं, और वे कभी-कभी एक ही प्रश्न के लिए अलग-अलग प्रतिक्रियाएं दे सकते हैं। रोगी सुरक्षा के लिए महत्वपूर्ण प्रश्न केवल यह नहीं है कि क्या एक आर्टिफिशियल इंटेलिजेंस किसी समस्या की पहचान कर सकता है, बल्कि यह है कि क्या वह हर बार संकट होने पर लगातार सही, सुरक्षित कार्यों की सिफारिश कर सकता है, और क्या इस पर बिना किसी हिचकिचाहट या विरोधाभास के भरोसा किया जा सकता है।
कैलिफोर्निया विश्वविद्यालय सैन डिएगो के शोधकर्ताओं की एक टीम ने ठीक इसी विश्वसनीयता का परीक्षण करने का निर्णय लिया। उन्होंने दस अलग-अलग प्रकार की सर्जिकल आपात स्थितियों को शामिल करते हुए एक कठोर सिमुलेशन बनाया, जिसमें गंभीर रक्तस्राव से लेकर वायुमार्ग अवरोध और हृदय संबंधी जटिलताएं तक शामिल थीं। आर्टिफिशियल इंटेलिजेंस से केवल समस्या का निदान करने के लिए पूछने के बजाय, शोधकर्ताओं ने मॉडल्स के सामने एक चरण-दर-चरण अनफोल्ड होती संकट की स्थिति प्रस्तुत की, और प्रत्येक चरण के बाद पूछा कि सर्जिकल टीम को आगे क्या करना चाहिए। मॉडल्स का परीक्षण स्थापित चिकित्सा दिशानिर्देशों और आपातकालीन मैनुअल से प्राप्त 150 विशिष्ट सुरक्षा कार्यों की एक सख्त सूची के विरुद्ध किया गया था। इन कार्यों में संकट घोषित करना, मदद के लिए बुलाना, किसी हानिकारक प्रक्रिया को रोकना, या जीवन रक्षक युद्धाभ्यास करना जैसी चीजें शामिल थीं। शोधकर्ताओं ने प्रत्येक परिदृश्य को तीन अलग-अलग अग्रणी आर्टिफिशियल इंटेलिजेंस मॉडल्स के साथ तीन बार चलाया, इन कंप्यूटर प्रोग्रामों के साथ वैसा ही व्यवहार किया जैसे वे ऑपरेशन थिएटर में शामिल होने वाले नए टीम सदस्य हों। लक्ष्य यह देखना था कि क्या मॉडल हर बार एक ही सुरक्षित सलाह देंगे, या क्या उनका मार्गदर्शन अनिश्चित रूप से बदल जाएगा।
परिणामों ने एक महत्वपूर्ण और चिंताजनक विसंगति का खुलासा किया। जब एक ही संकट परिदृश्य को एक ही मॉडल को कई बार प्रस्तुत किया गया, तो कंप्यूटर ने एक ही उत्तर नहीं दिया। मॉडल और परिदृश्य के 30 में से 29 संयोजनों में, मॉडल द्वारा पहचाने गए सही सुरक्षा कार्यों का अनुपात एक रन से दूसरे रन में बदल गया। औसतन, एक ही मॉडल के दो रन के बीच प्रदर्शन का अंतर काफी बड़ा था, जो लगभग 15 से 18 प्रतिशत अंकों तक भिन्न था। इसका अर्थ यह है कि यदि कोई सर्जन वास्तविक आपात स्थिति के दौरान दो बार एक ही प्रश्न पूछता है, तो कंप्यूटर दूसरी बार में पूरी तरह से अलग कार्यों का सुझाव दे सकता है, जिससे पहली बार में एक महत्वपूर्ण कदम छूट जाने की संभावना बनी रहती है। हालांकि एक मॉडल, क्लॉड ओपस 4.6 (Claude Opus 4.6) ने अन्य मॉडल्स की तुलना में कुल मिलाकर अधिक सही कार्यों की पहचान की, लेकिन यह भी इसी तरह की अस्थिरता से ग्रस्त था, और मॉडल्स के बीच कुल सटीकता में अंतर इतने बड़े नहीं थे कि किसी एक को स्पष्ट विजेता घोषित किया जा सके। सबसे खतरनाक बदलाव संचार और एस्केलेशन (escalation) के क्षेत्र में देखे गए। मॉडल अक्सर यह सुझाव देने में विफल रहे कि टीम को आपात स्थिति घोषित करनी चाहिए या अतिरिक्त मदद के लिए बुलाना चाहिए, और इन महत्वपूर्ण कदमों को चूकने की दर अत्यधिक भिन्न थी, जहाँ एक मॉडल ने समान परिस्थितियों में दूसरे की तुलना में लगभग तीन गुना अधिक बार इन्हें मिस किया।
अध्ययन ने यह भी जांचा कि क्या मॉडल ऐसे कार्यों का सुझाव देंगे जो वास्तव में मरीज को नुकसान पहुँचा सकते हैं। सौभाग्य से, परीक्षण किए गए सभी मॉडल्स में ऐसे असुरक्षित सुझाव दुर्लभ थे। हालाँकि, मॉडल्स का सुरक्षित सिफारिशों में असंगत होना एक बड़ी चिंता का विषय है। शोधकर्ताओं ने पाया कि मॉडल्स आमतौर पर विशिष्ट चिकित्सा प्रक्रियाओं, जैसे कि दवा देना या सर्जरी करना, का सुझाव देने में बेहतर थे, लेकिन वे संकट प्रबंधन के नरम, टीम-आधारित पहलुओं, जैसे कि टीम को व्यवस्थित करने या स्थिति की गंभीरता को संप्रेषित करने में काफी संघर्ष करते थे। यह सुझाव देता है कि हालांकि आर्टिफिशियल इंटेलिजेंस चिकित्सा तथ्यों को जान सकता है, लेकिन यह संकट को सुरक्षित रूप से प्रबंधित करने के लिए आवश्यक मानवीय गतिशीलता (human dynamics) को विश्वसनीय रूप से नहीं समझता है। शोधकर्ताओं ने निष्कर्ष निकाला कि इन टूल्स के उपयोगी होने के लिए, उन्हें न केवल इस आधार पर नहीं, बल्कि इस आधार पर भी आंका जाना चाहिए कि वे कितने लगातार पुनरुत्पादित (reproducible) हैं। एक उपकरण जो एक ही समस्या के लिए अलग-अलग सुरक्षा सलाह देता है, उस पर तब भरोसा नहीं किया जा सकता जब मरीज की जान दांव पर हो। यह अध्ययन एक बेंचमार्क के रूप में कार्य करता है, जो भविष्य के आर्टिफिशियल इंटेलिजेंस के लिए एक मापदंड है, जो यह सिद्ध करता है कि जब इन प्रणालियों का उपयोग उच्च-दबाव वाली चिकित्सा स्थितियों में किया जाता है, तो विश्वसनीयता सटीकता जितनी ही महत्वपूर्ण है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।