Artificial Aphasias in Lesioned Language Models
यह शोध पत्र भाषा मॉडल के मापदंडों (पैरामीटर्स) को एफ़ेज़िया (aphasia) से प्रेरित तकनीक के माध्यम से क्षतिग्रस्त करने की एक विधि प्रस्तुत करता है, जिससे यह प्रकट होता है कि यद्यपि ये मॉडल भाषा के लक्षणों के पूर्ण स्पेक्ट्रम को प्रदर्शित करते हैं, फिर भी उनकी परिणामी अक्षमता प्रोफाइल मानव एफ़ेज़िया से गुणात्मक रूप से भिन्न होती हैं और वास्तुशिल्प घटकों (आर्किटेक्चरल कंपोनेंट्स) एवं नेटवर्क की गहराई में व्यवस्थित रूप से भिन्न होती हैं, जो यह सुझाव देता है कि भाषा के टूटने के पैटर्न विशिष्ट शिक्षण और प्रसंस्करण तंत्रों द्वारा आकार लेते हैं न कि डोमेन-अपरिवर्तनीय (domain-invariant) होते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक बड़े लैंग्वेज मॉडल (जैसे कि चैटबॉट्स को चलाने वाले मॉडल) की कल्पना एक विशाल, जटिल फैक्ट्री के रूप में करें। इस फैक्ट्री के अंदर, काम करने वाली अलग-अलग टीमों के कार्यकर्ता (ये "कंपोनेंट्स" हैं) होते हैं जो काम के विभिन्न हिस्सों को संभालते हैं। कुछ कार्यकर्ता अटेंशन टीम (Attention Team) के होते हैं, जो यह तय करते हैं कि जानकारी के किन हिस्सों पर ध्यान केंद्रित करना है। अन्य फीड-फॉरवर्ड टीम (Feed-Forward Team) के होते हैं, जो वास्तव में उस जानकारी को शब्दों में बदलने और उसे प्रोसेस करने का काम करते हैं।
यह शोध पत्र एक "डिजिटल डॉक्टरों" की टीम की तरह है जिन्होंने इस फैक्ट्री में स्ट्रोक (लकवा) का अनुकरण करने का निर्णय लिया। असली दिमागों का उपयोग करने के बजाय, उन्होंने फैक्ट्री के मशीनरी के कुछ हिस्सों को "लेज़न्ड" (यानी शून्य कर दिया) किया ताकि वे देख सकें कि फैक्ट्री किस तरह की गलतियाँ करने लगेगी। फिर उन्होंने मशीन की इन गलतियों की तुलना वास्तविक मनुष्यों के भाषण संबंधी त्रुटियों से की, जिन्हें अफ़ेसिया (मस्तिष्क क्षति के कारण होने वाला भाषा विकार) होता है।
यहाँ उनके निष्कर्ष दिए गए हैं, सरल उपमाओं का उपयोग करते हुए:
1. "सिम्पटम बैटरी" टेस्ट (लक्षण परीक्षण)
जिस तरह डॉक्टर मानव भाषण संबंधी समस्याओं का निदान करने के लिए विशिष्ट परीक्षणों का उपयोग करते हैं, शोधकर्ताओं ने टेक्स्ट अफ़ेसिया बैटरी (TAB) नामक एक परीक्षण बनाया। उन्होंने क्षतिग्रस्त फैक्ट्री को हजारों प्रॉम्प्ट्स (जैसे "इस तस्वीर का वर्णन करें" या "इस वाक्य को दोहराएं") दिए और आउटपुट को विशिष्ट प्रकार की त्रुटियों के लिए ग्रेड किया, जैसे कि:
- सिमेंटिक त्रुटियाँ (Semantic errors): गलत बात कहना या अस्पष्ट होना।
- सिंटैक्टिक त्रुटियाँ (Syntactic errors): व्याकरण के नियमों को तोड़ना।
- फोनोलॉजिकल त्रुटियाँ (Phonological errors): बेमतलब के शब्द बनाना।
- फ्लुएंसी त्रुटियाँ (Fluency errors): हकलाना, शब्दों को दोहराना, या वाक्य के बीच में ही रुक जाना।
2. अलग-अलग टीमें अलग-अलग गलतियाँ करती हैं
सबसे बड़ी खोज यह थी कि अटेंशन टीम को नुकसान पहुँचाने से फीड-फॉरवर्ड टीम को नुकसान पहुँचाने की तुलना में अलग प्रकार की त्रुटियाँ हुईं।
- यदि आपने अटेंशन टीम को चोट पहुँचाई: तो फैक्ट्री "ध्वनि" संबंधी त्रुटियाँ करने लगी। इसे शब्दों के प्रवाह के साथ संघर्ष करना पड़ा, जैसे हकलाना, वाक्यांशों को दोहराना, और बेमतलब की ध्वनियाँ (फोनोलॉजिकल और फ्लुएंसी त्रुटियाँ) पैदा करना। यह उस व्यक्ति की तरह था जो जानता है कि वह क्या कहना चाहता है लेकिन शब्दों को सुचारू रूप से बाहर नहीं निकाल पाता।
- यदि आपने फीड-फॉरवर्ड टीम को चोट पहुँचाई: तो फैक्ट्री "अर्थ" संबंधी त्रुटियाँ करने लगी। आउटपुट अस्पष्ट, छोटा, दोहराव वाला या विषय से पूरी तरह हटकर हो गया। यह उस व्यक्ति की तरह था जो पूरी तरह से विषय को लेकर भ्रमित है, छोटे, खाली वाक्य बना रहा है या बातचीत में खो गया है।
उपमा: एक कार की कल्पना करें। यदि आप स्टीयरिंग व्हील (अटेंशन) को तोड़ देते हैं, तो कार अनियंत्रित होकर लहरा सकती है और बार-बार एक ही कर्ब से टकरा सकती है (दोहराव/फ्लुएंसी की समस्या)। यदि आप इंजन (फीड-फॉरवर्ड) को तोड़ देते हैं, तो कार बस चलना बंद कर सकती है या बिना किसी उद्देश्य के सीधी रेखा में चल सकती है (अस्पष्ट/विषय से हटकर समस्या)।
3. आप इसे कहाँ तोड़ते हैं, यह मायने रखता है (गहराई)
फैक्ट्री में कई परतें (layers) होती हैं, जैसे एक गगनचुंबी इमारत के फर्श। शोधकर्ताओं ने पाया कि उन्होंने मशीन को कहाँ तोड़ा, यह महत्वपूर्ण था:
- शुरुआती मंजिलों को तोड़ने पर: अर्थ और व्याकरण संबंधी त्रुटियाँ हुईं (बड़ी तस्वीर वाली चीजें)।
- मध्य से बाद की मंजिलों को तोड़ने पर: शब्दों के उच्चारण और प्रवाह संबंधी त्रुटियाँ हुईं (डिलीवरी संबंधी चीजें)।
यह आश्चर्यजनक था क्योंकि, मानव मस्तिष्क में, हम अक्सर सोचते हैं कि "ध्वनि" प्रसंस्करण (processing) जल्दी होता है और "अर्थ" बाद में होता है। इन AI फैक्ट्रियों में, यह लगभग इसके विपरीत है: शुरुआती परतें अर्थ के भारी काम को संभालती हैं, जबकि बाद की परतें शब्दों को कैसे प्रस्तुत किया जाए, उसके सूक्ष्म ट्यूनिंग (fine-tuning) को संभालती हैं।
4. मशीन बनाम मानव: समान लक्षण, अलग पैटर्न
शोधकर्ताओं ने टूटी हुई मशीनों की तुलना वास्तविक अफ़ेसिया वाले मनुष्यों से की।
- अच्छी खबर: कुछ टूटी हुई मशीनें वास्तव में विशिष्ट मानव स्थितियों की तरह दिखीं। उदाहरण के लिए, एक मशीन जिसका "गेट" (Gate) घटक क्षतिग्रस्त था, उसने ऐसी त्रुटियाँ कीं जो ब्रौका अफ़ेसिया (Broca's aphasia) वाले मानव की तरह लग रही थीं।
- बुरी खबर: पैटर्न सटीक मेल नहीं थे। अफ़ेसिया वाले मनुष्य अक्सर अर्थ संबंधी त्रुटियाँ करते हैं (शब्द भूलना, व्याकरण मिलाना)। हालाँकि, टूटी हुई मशीनें बहुत अधिक "अन्य" त्रुटियाँ करने की प्रवृत्ति रखती थीं—जैसे कि एक ही वाक्यांश को बार-बार दोहराना, या किसी विषय से भटक जाना।
निष्कर्ष: शोधकर्ताओं ने निष्कर्ष निकाला कि हालांकि हम AI के काम करने के तरीके को समझने के लिए मानव भाषा विकारों का उपयोग एक मानचित्र के रूप में कर सकते हैं, AI मानव मस्तिष्क नहीं है। जिस तरह से एक मशीन टूटती है, वह उसके अपने आर्किटेक्चर और उसके प्रशिक्षण के तरीके पर निर्भर करती है और वह अद्वितीय होती है। आप केवल यह नहीं कह सकते कि "इस AI को ब्रौका अफ़ेसिया है," क्योंकि अंतर्निहित कारण और लक्षणों का मिश्रण मौलिक रूप से भिन्न है।
सारांश
यह शोध पत्र AI के लिए एक "स्ट्रेस टेस्ट" है। भागों को जानबूझकर खराब करके, लेखकों ने सीखा कि:
- AI का अलग-अलग हिस्से अलग-अलग प्रकार के भाषाई कार्यों (अर्थ बनाम प्रवाह) को संभालते हैं।
- क्षति का स्थान त्रुटि के प्रकार को बदल देता है।
- हालांकि AI मानव भाषण संबंधी त्रुटियों की नकल कर सकता है, लेकिन इसके द्वारा उत्पन्न "लक्षण" एक अनूठा मिश्रण है जो मानव मस्तिष्क विकारों की सटीक नकल नहीं करता है।
यह AI के "मस्तिष्क" को समझने के लिए इसे रिवर्स-इंजीनियर करने का एक तरीका है, जिसमें मानव मस्तिष्क को समझने के लिए उपयोग किए जाने वाले उपकरणों का उपयोग किया गया है, लेकिन इस महत्वपूर्ण अहसास के साथ कि दोनों को बहुत अलग तरह से बनाया गया है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।