What's in a Name? Morphological Shortcuts by LLMs in Pharmacology
यह शोध पत्र प्रकट करता है कि फार्माकोलॉजी (औषध विज्ञान) में बड़े भाषा मॉडल अक्सर काल्पनिक दवाओं के गुणों का अनुमान लगाने के लिए रूपात्मक शॉर्टकट (morphological shortcuts), विशेष रूप से दवा के नाम के प्रत्ययों (affixes) पर निर्भर करते हैं, जो कि मॉडल की प्रारंभिक-मध्य परतों तक सीमित एक ऐसा व्यवहार है जो अति-सामान्यीकरण और इन संकेतों पर अनिश्चित निर्भरता के कारण सूक्ष्म लेकिन मापने योग्य सुरक्षा जोखिम उत्पन्न करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ शोध पत्र "What's in a Name? Morphological Shortcuts by LLMs in Pharmacology" का सरल भाषा में अनुवाद दिया गया है:
मुख्य विचार: "सफ़िक्स" (Suffix) का शॉर्टकट कोड
कल्पना कीजिए कि आप दवाइयों पर एक परीक्षा दे रहे हैं। आपको वास्तव में यह नहीं पता कि कोई विशिष्ट दवा क्या करती है, लेकिन आपने ध्यान दिया कि इसके अंत में "-cillin" अक्षर हैं (जैसे ampicillin)। आपको याद है कि penicillin और amoxicillin एंटीबायोटिक्स हैं। तो, आप अनुमान लगाते हैं, "ओह, यह भी एक एंटीबायोटिक ही होगा!"
आप सही हो सकते हैं, या गलत भी। लेकिन डरावनी बात यह है: लार्ज लैंग्वेज मॉडल्स (LLMs) बिल्कुल यही काम कर रहे हैं, लेकिन 100% आत्मविश्वास के साथ।
यह शोध पत्र एक "शॉर्टकट" की जांच करता है जिसे ये AI मॉडल अपनाते हैं। किसी विशिष्ट दवा के बारे में वास्तविक तथ्यों को याद रखने के बजाय, वे शब्द के आकार (उसके प्रीफिक्स और सफिक्स/उपसर्ग और प्रत्यय) को देखते हैं और उस पैटर्न के आधार पर उत्तर का अनुमान लगाते हैं।
प्रयोग: "नकली दवा" का टेस्ट
शोधकर्ताओं ने यह देखने के लिए कि क्या AI मॉडल्स को शब्दों के आकार से धोखा दिया जा सकता है, तीन प्रकार के शब्द बनाए:
- असली दवाएं (Real Drugs): वास्तविक दवाएं जैसे Ampicillin।
- नकली दवाएं (Fake Drugs - जाल): ऐसे बनाए गए नाम जो असली लगते हैं क्योंकि वे एक असली मेडिकल सफिक्स (suffix) का उपयोग करते हैं। उदाहरण के लिए, उन्होंने एक निरर्थक शब्द जैसे "dimi" लिया और उसमें असली एंटीबायोटिक सफिक्स "-cillin" जोड़कर "Dimicillin" बना दिया।
- बेमतलब के शब्द (Nonsense Words): बेमतलब के हिस्सों वाले बनाए गए शब्द, जैसे "Dimiglimto," जिनका कोई मेडिकल अर्थ नहीं है।
परिणाम:
जब AI से Dimicillin के बारे में पूछा गया, तो उसने यह नहीं कहा, "मुझे नहीं पता, यह नकली है।" इसके बजाय, उसने पूरे आत्मविश्वास के साथ कहा, "हाँ, Dimicillin एक एंटीबायोटिक है जिसका उपयोग बैक्टीरिया के संक्रमण के इलाज के लिए किया जाता है।"
वह इतना आत्मविश्वासी था कि उसने एक पूरी तरह से काल्पनिक शब्द के साथ बिल्कुल वैसा ही व्यवहार किया जैसा एक असली शब्द के साथ करता है, केवल इसलिए क्योंकि शब्द के अंत में वे "जादुई अक्षर" थे जो आमतौर पर "एंटीबायोटिक" का संकेत देते हैं।
तीन प्रमुख निष्कर्ष
यह शोध पत्र विस्तार से बताता है कि यह कैसे और क्यों होता है:
1. "मॉर्फोलॉजिकल शॉर्टकट" (व्यवहार)
AI "सोच" नहीं रहा है; वह केवल पैटर्न मैचिंग कर रहा है।
- उपमा: कल्पना कीजिए कि एक शेफ है जिसने कभी कोई विशिष्ट व्यंजन नहीं बनाया है, लेकिन वह जानता है कि किसी भी व्यंजन के अंत में "-pizza" होने का मतलब है कि उसमें पनीर और टमाटर होगा। यदि आप उसे "Dog-pizza" लेबल वाली प्लेट थमा दें, तो वह पूरे विश्वास के साथ उसमें पनीर और टमाटर का वर्णन करेगा, भले ही "Dog-pizza" का कोई अस्तित्व न हो।
- जोखिम: चिकित्सा के क्षेत्र में, यह खतरनाक है। यदि कोई डॉक्टर AI से किसी नकली दवा के बारे में पूछता है, तो AI एक नकली इलाज या साइड इफेक्ट बना सकता है, और क्योंकि वह बहुत आत्मविश्वासी लगता है, इंसान उस पर विश्वास कर सकता है।
2. "छिपी हुई तर्कशक्ति" (निदान)
शोधकर्ताओं ने एक टूल बनाया यह देखने के लिए कि AI को अपनी जानकारी कहाँ से मिल रही है। उन्होंने पाया कि कई दवाओं के लिए, AI मुख्य रूप से सफिक्स (अंत के हिस्से) पर निर्भर करता है, न कि पूरे नाम पर।
- आश्चर्य: AI शायद ही कभी इसे स्वीकार करता है। जब पूछा जाता है कि वह क्यों सोचता है कि एक दवा एंटीबायोटिक है, तो वह यह नहीं कहेगा, "क्योंकि इसके अंत में -cillin है।" वह बस एक आत्मविश्वासी उत्तर देगा जैसे कि वह तथ्यों को जानता हो। यह उस छात्र की तरह है जो उत्तर देने के लिए इसलिए अनुमान लगाता है क्योंकि प्रश्न जाना-पहचाना लगता है, लेकिन फिर एक लंबा निबंध लिखता है जैसे कि उसने विषय का अध्ययन किया हो।
- भ्रम: क्योंकि AI सफिक्स पर निर्भर करता है, इसलिए वह अक्सर असली दवाओं को आपस में मिला देता है। यदि दो असली दवाएं दोनों "-cillin" पर समाप्त होती हैं, तो AI गलती से दवा A के साइड इफेक्ट्स दवा B को दे सकता है, सिर्फ इसलिए क्योंकि वे दिखने में समान हैं।
3. "ब्रेन स्कैन" (तंत्र/मैकेनिज्म)
शोधकर्ताओं ने AI के "दिमाग" (इसके आंतरिक परतों) के अंदर देखा कि यह शॉर्टकट कहाँ होता है।
- स्थान: उन्होंने पाया कि AI अपने प्रोसेसिंग के बहुत शुरुआती चरण में, विशेष रूप से अपने न्यूरल नेटवर्क की शुरुआती-से-मध्यम परतों (early-to-middle layers) में यह निर्णय लेता है।
- तंत्र: यह एक क्लब के सुरक्षा गार्ड की तरह है जो केवल आपकी शर्ट का रंग (सफिक्स) देखता है और बिना आपका आईडी (विशिष्ट दवा के तथ्य) चेक किए आपको अंदर आने देता है। एक बार जब AI को "सही रंग की शर्ट" दिख जाती है, तो वह तुरंत तय कर लेता है, "यह एक एंटीबायोटिक है," और अधिक विवरणों की तलाश करना बंद कर देता है।
- अच्छी खबर: क्योंकि उन्होंने ठीक से खोज लिया है कि यह AI के दिमाग में कहाँ होता है, उन्होंने दिखाया है कि उन विशिष्ट परतों में बदलाव करके इस व्यवहार को "पैच" या ठीक करना संभव है।
यह क्यों महत्वपूर्ण है (शोध पत्र के अनुसार)
शोध पत्र निष्कर्ष निकालता है कि यह केवल एक छोटी सी विचित्रता नहीं है; यह एक सुरक्षा जोखिम है।
- यह सूक्ष्म है: AI बहुत बुद्धिमान और आत्मविश्वासी लगता है।
- यह मापने योग्य है: हम शब्द पैटर्न को देखकर साबित कर सकते हैं कि AI नकल कर रहा है।
- यह ठीक करने योग्य है: चूंकि हम जानते हैं कि "शॉर्टकट" उसके कोड में कहाँ रहता है, इसलिए हम संभावित रूप से सुरक्षा जाँच बना सकते हैं जो इसे शब्द के अंत के आधार पर चिकित्सा तथ्य बनाने से रोक सके।
संक्षेप में: शोध पत्र चेतावनी देता है कि AI मॉडल कभी-कभी "तथ्य जानने वाले" के बजाय "शब्दों के सर्फर" होते हैं। चिकित्सा जैसे उच्च-दांव वाले क्षेत्रों में, शब्द के आकार पर सर्फिंग करना आत्मविश्वासी लेकिन पूरी तरह से मनगढ़ंत चिकित्सा सलाह की ओर ले जा सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।