AI as We Describe It: How Large Language Models and Their Applications in Health are Represented Across Channels of Public Discourse
यह अध्ययन विश्लेषण करता है कि दो वर्षों में पाँच सार्वजनिक विमर्श चैनलों में स्वास्थ्य सेवा में लार्ज लैंग्वेज मॉडल्स (LLMs) को कैसे दर्शाया गया है, जो आम तौर पर सकारात्मक और सामयिक आख्यानों को प्रकट करता है जो जोखिमों और तकनीकी तंत्रों की बढ़ती अनदेखी करते हैं जबकि विभिन्न प्लेटफार्मों पर स्वर और मानवीकरण में महत्वपूर्ण रूप से भिन्न होते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि स्वास्थ्य सेवा (हेल्थकेयर) में आर्टिफिशियल इंटेलिजेंस (AI) के बारे में होने वाली सार्वजनिक बातचीत एक विशाल, शोर-शराबे वाले शहर के चौक (टाउन स्क्वायर) की तरह है। इस चौक में पाँच अलग-अलग "स्टेज" हैं जहाँ लोग बातें कर रहे हैं: न्यूज़ स्टेशन्स (पेशेवर पत्रकार), यूनिवर्सिटी प्रेस रिलीज़ (वैज्ञानिक), यूट्यूब (शिक्षक और निर्माता), टिकटॉक (ट्रेंडी, छोटे वीडियो), और रेडिट (गहन चर्चाओं और व्यक्तिगत कहानियों के लिए फ़ोरम)।
जॉर्जिया टेक और टेनेसी यूनिवर्सिटी के शोधकर्ताओं द्वारा लिखा गया यह शोध पत्र इसी 'टाउन स्क्वायर' में गया ताकि वह सुन सके कि पिछले दो वर्षों में AI डॉक्टरों और AI स्वास्थ्य सहायकों के बारे में हर कोई क्या कह रहा है। वे यह जानना चाहते थे: क्या हम पूरी कहानी बता रहे हैं, या सिर्फ उसकी मुख्य झलकियाँ (हाइलाइट रील)?
यहाँ उन्होंने जो पाया है, उसे सरल भाषा में समझाया गया है:
1. मिजाज ज्यादातर "हाइप" वाला है (पार्टी वाला माहौल)
यदि आप इस टाउन स्क्वायर में कदम रखते, तो आपको माहौल एक ब्लॉक पार्टी जैसा महसूस होता। लगभग हर जगह, लोग उत्साहित हैं। वे इस बारे में बात कर रहे हैं कि AI कितना शानदार है, यह कैसे समय बचा सकता है, और यह मानसिक स्वास्थ्य में कैसे मदद कर सकता है।
- ट्रेंड: यह पार्टी समय के साथ और अधिक शोर भरी और सकारात्मक होती जा रही है।
- अंतर: "यूनिवर्सिटी वैज्ञानिक" और "न्यूज़ रिपोर्टर" एक गंभीर, विश्लेषणात्मक तरीके से बात कर रहे हैं (जैसे एक लेक्चर हॉल में)। लेकिन "टिकटॉक" और "रेडिट" की भीड़ अधिक भावुक है, वे ऐसे शब्दों का उपयोग कर रहे हैं जैसे वे किसी दोस्त या विश्वासपात्र से बात कर रहे हों।
2. कहानी "एपिसोडिक" है (एक-बार की घटना वाली समस्या)
ज़्यादातर कहानियाँ जो सुनाई जा रही हैं, वे एक पूर्ण डॉक्यूमेंट्री के बजाय अलग-थलग फिल्म के दृश्यों जैसी हैं।
- वे क्या कहते हैं: "देखो! AI ने एक व्यक्ति को डाइट प्लान बनाने में मदद की!" या "AI ने सिरदर्द के बारे में गलत जवाब दिया!"
- वे क्या छोड़ देते हैं: वे शायद ही कभी बड़ी तस्वीर के बारे में बात करते हैं। वे इस बारे में चर्चा नहीं करते कि AI पूरे स्वास्थ्य तंत्र को कैसे बदल सकता है, यह डॉक्टरों की नौकरियों को कैसे प्रभावित करता है, या हमें किन दीर्घकालिक सामाजिक नियमों की आवश्यकता है। यह एक फिल्म के ट्रेलर देखने जैसा है लेकिन कभी पूरी कहानी नहीं देख पाते।
3. "जादुई ट्रिक" छिपी हुई है (ब्लैक बॉक्स)
यह सबसे महत्वपूर्ण निष्कर्ष है। शोधकर्ताओं ने देखा कि लोग AI के साथ एक मैजिक 8-बॉल या बोतल में बंद जिन्न जैसा व्यवहार कर रहे हैं।
- समस्या: लोग सोचते हैं कि AI चीज़ों को "जानता" है क्योंकि वह बुद्धिमान है। लेकिन AI वास्तव में केवल एक प्रेडिक्टिव टेक्स्ट मशीन (एक उन्नत ऑटो-कंप्लीट की तरह) है। यह पैटर्न के आधार पर अगले शब्द का अनुमान लगाता है, यह चिकित्सा को "समझता" नहीं है।
- अंतराल: सार्वजनिक चौक में लगभग कोई भी यह नहीं समझा रहा है कि यह कैसे काम करता है। वे यह नहीं कह रहे हैं, "हे, यह टूल अनुमान लगा रहा है, सोच नहीं रहा है।" इस कारण से, लोग एक गलत उत्तर पर भी उतनी ही आसानी से भरोसा कर सकते हैं जितना कि एक पाठ्यपुस्तक के तथ्य पर।
- जोखिम: जब लोग एक अनुमान लगाने वाली मशीन के साथ एक असली डॉक्टर की तरह व्यवहार करते हैं, तो बुरी चीजें हो सकती हैं। पेपर में डरावने मामलों का उल्लेख है जहाँ लोग AI के कारण भटक गए, यहाँ तक कि खुद को नुकसान पहुँचाने तक पहुँच गए, क्योंकि उन्होंने सोचा कि AI एक वास्तविक थेरेपिस्ट है।
4. "जोखिम" की चर्चा सतही है
जब लोग जोखिमों के बारे में बात करते भी हैं, तो वे आमतौर पर कहते हैं, "AI ने गलती की" या "इसने गलत जानकारी दी।"
- रूपक: यह कहने जैसा है कि एक कार खतरनाक है क्योंकि "इसका टायर पंचर हो गया।" वे इस तथ्य के बारे में बात नहीं कर रहे हैं कि कार में ब्रेक ही नहीं हैं (AI की मौलिक डिज़ाइन दोष)।
- जोखिम के बारे में कौन बात करता है? "न्यूज़" और "वैज्ञानिक" जोखिमों के बारे में थोड़ी अधिक बात करते हैं। लेकिन टिकटॉक और रेडिट पर, बातचीत लगभग पूरी तरह से इस बारे었던 है कि AI मानसिक स्वास्थ्य और साथ (companionship) के लिए कितना महान है। वे खतरों का उल्लेख शायद ही कभी करते हैं।
5. "मानवीय" भ्रम (एन्थ्रोपोमोर्फिज्म/मानवीकरण)
टिकटॉक और रेडिट पर, लोग AI के साथ एक जीवित मित्र की तरह व्यवहार करने लगे हैं।
- वे कहते हैं जैसे, "मेरा AI थेरेपिस्ट मेरी परवाह करता है" या "मेरा चैटबॉट मेरे दर्द को समझता है।"
- शोधकर्ताओं ने पाया कि जहाँ पेशेवर आउटलेट्स AI को एक "उपकरण" (tool) के रूप में रखते हैं, वहीं सोशल मीडिया की भीड़ इसे एक "व्यक्ति" में बदल रही है। यह खतरनाक है क्योंकि आप चैटबॉट पर मेडिकल लापरवाही (malpractice) के लिए मुकदमा नहीं कर सकते, और एक चैटबॉट सहानुभूति महसूस नहीं कर सकता।
मुख्य निष्कर्ष: एक डायग्नोस्टिक टूल (निदान उपकरण)
लेखकों का सुझाव है कि इस "टाउन स्क्वायर" को सुनना समाज के लिए एक डॉक्टर के चेक-अप जैसा है।
- निदान: हम वर्तमान में AI के प्रति बहुत उत्साहित हैं, लेकिन हम इसके काम करने के तरीके के प्रति अनपढ़ (illiterate) हैं। हमारे पास वह "यूज़र मैनुअल" गायब है जो इसकी सीमाओं को समझाता है।
- नुस्खा (Prescription): हमें बेहतर संचार की आवश्यकता है। हम केवल यह नहीं कह सकते कि "AI यहाँ है।" हमें यह समझाना होगा कि यह कैसे काम करता है (यह एक अनुमान लगाने वाला है, सोचने वाला नहीं) और यह कहाँ विफल होता है।
- लक्ष्य: हमें लोगों को इस तकनीक के "क्रिटिकल ड्राइवर" (सचेत चालक) बनाने में मदद करने की आवश्यकता है, न कि केवल "यात्रियों" के रूप में जो आँख मूंदकर AI को कार चलाने के लिए भरोसेमंद मान लेते हैं।
संक्षेप में: जनता स्वास्थ्य उपकरणों के लिए AI के प्यार में पड़ रही है, लेकिन वे गुलाबी रंग के चश्मे पहने हुए हैं। वे जादू को देखते हैं लेकिन यांत्रिकी (mechanics) को नहीं देख पाते, और उन्हें उन खतरों के बारे में पर्याप्त चेतावनी नहीं मिल रही है जो सड़क में छिपे हुए हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।