Toward Human-Centered AI-Assisted Terminology Work
यह शोध पत्र शब्दावली कार्य में एक मानव-केंद्रित एआई ढांचे की वकालत करता है जो सटीकता सुनिश्चित करने, मतिभ्रम (hallucinations) और पूर्वाग्रह जैसे जोखिमों को कम करने और विशिष्ट संचार की अखंडता को बनाए रखने के लिए पारिभाषिक विशेषज्ञों की आवश्यक एजेंसी और निरीक्षण को बनाए रखते हुए उनकी क्षमताओं को बढ़ाने के लिए जनरेटिव एआई का लाभ उठाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ एंटोनियो सैन मार्टिन के शोध पत्र, "टॉवर्ड ह्यूमन-सेंटर्ड एआई-असिस्टेड टर्मिनोलॉजी वर्क" (मानव-केंद्रित एआई-सहायता प्राप्त शब्दावली कार्य की ओर) का सरल भाषा और रचनात्मक उपमाओं के साथ विवरण दिया गया है।
बड़ी तस्वीर: "को-पायलट" बनाम "ऑटोपायलट"
कल्पना कीजिए कि शब्दावली कार्य (Terminology Work) एक कुशल मानचित्रकार (cartographer) का काम है। उनका काम विशिष्ट क्षेत्रों (जैसे चिकित्सा, कानून या इंजीनियरिंग) के लिए सबसे सटीक मानचित्र बनाना है। वे तय करते हैं कि किसी शब्द का सटीक अर्थ क्या है, अन्य शब्दों के साथ उसका संबंध क्या है, और उसे इस तरह से अनुवादित कैसे किया जाए कि विभिन्न भाषाओं के विशेषज्ञ एक-दूसरे को पूरी तरह समझ सकें।
अब, कल्पना कीजिए कि जेनरेटिव एआई (Generative AI) (जैसे ChatGPT) एक सुपर-फास्ट, सुपर-स्मार्ट रोबोट सहायक के रूप में है जो सेकंडों में मानचित्र बना सकता है।
यह शोध पत्र तर्क देता है कि हालांकि यह रोबोट सहायक अविश्वसनीय रूप से तेज़ है, लेकिन यह भ्रम (hallucinations) (चीज़ें बनाना), पक्षपात (biases) (कुछ संस्कृतियों या भाषाओं का पक्ष लेना), और गलतियों के प्रति भी संवेदनशील है। यदि हम रोबोट को पूरी तरह से कार चलाने देते हैं (पूर्ण स्वचालन), तो हम ऐसे मानचित्रों के साथ समाप्त होने का जोखिम उठाते हैं जो लोगों को खाई में ले जाते हैं।
इसके बजाय, लेखक ह्यूमन-सेंटर्ड एआई (HCAI - मानव-केंद्रित एआई) का प्रस्ताव देते हैं। इसे मानचित्रकार को बदलने के रूप में नहीं, बल्कि उन्हें एक हाई-टेक को-पायलट देने के रूप में सोचें। रोबोट भारी काम करता है और मार्ग सुझाता है, लेकिन मानव मानचित्रकार सुरक्षा और सटीकता सुनिश्चित करने के लिए स्टीयरिंग व्हील पर अपना हाथ मजबूती से रखता है और अंतिम निर्णय लेता है।
शोध पत्र के तीन स्तंभ
लेखक का सुझाव है कि हमें इस रिश्ते को तीन मुख्य विचारों के इर्द-गिर्द बनाना चाहिए:
1. "ऑगमेंटेड" टर्मिनोलॉजिस्ट (सुपर-टूल)
- पुराना तरीका: अतीत में, तकनीक को कभी-कभी श्रमिकों पर तेज़ बनाने के लिए थोपा जाता था, जिससे वे "मशीन के पुर्जे" (जैसे कन्वेयर बेल्ट पर फैक्ट्री वर्कर) बन जाते थे।
- नया तरीका: शोध पत्र संवर्धन (Augmentation) का तर्क देता है। कल्पना कीजिए कि एक बढ़ई को एक पावर ड्रिल मिलता है। ड्रिल बढ़ई को बदलती नहीं है; यह उसे अपने कौशल का उपयोग करके सटीक जोड़ बनाने के साथ-साथ आधा समय लगाकर घर बनाने में सक्षम बनाती है।
- दावा: एआई को उस पावर ड्रिल की तरह काम करना चाहिए। यह सेकंडों में परिभाषाओं का मसौदा तैयार कर सकता है या शब्दों के समकक्ष खोज सकता है, लेकिन मानव को अभी भी काम की समीक्षा, संपादन और अनुमोदन करना होगा। लक्ष्य मानव को अधिक सक्षम बनाना है, न कि उसे अप्रासंगिक बनाना।
2. नैतिक एआई (फेयरनेस फ़िल्टर)
- समस्या: एआई मॉडल को इंटरनेट से भारी मात्रा में डेटा पर प्रशिक्षित किया जाता है। शोध पत्र बताता है कि यह डेटा एक पक्षपाती पुस्तकालय (biased library) की तरह है:
- इसमें अन्य भाषाओं की तुलना में अंग्रेजी (विशेष रूपकर अमेरिकी अंग्रेजी) में बहुत अधिक किताबें हैं।
- इसमें भौतिकी या गणित की तुलना में खेल और पॉप संस्कृति के बारे में अधिक किताबें हैं।
- यह अन्य लोगों की तुलना में पश्चिमी सांस्कृतिक दृष्टिकोणों को अधिक दर्शाता है।
- जोखिम: यदि हम बिना जांचे-परखे एआई को मानचित्र बनाने देते हैं, तो यह ऐसे शब्द बना सकता है जो केवल अमेरिका में ही समझ में आते हैं, या यह स्थानीय तरीकों को अनदेखा कर सकता है। यह अनजाने में रूढ़ियों (stereotypes) का उपयोग भी कर सकता है।
- समाधान: मानव टर्मिनोलॉजिस्ट नैतिक फिल्टर (Ethical Filter) के रूप में कार्य करता है। उन्हें यह सुनिश्चित करने के लिए एआई के काम की जांच करनी चाहिए कि वह पक्षपाती न हो, मनगढ़ंत बातें न बना रहा हो, और जिस विशिष्ट संस्कृति और भाषा में इसका उपयोग किया जा रहा है, उसका सम्मान करता हो। केवल मानव ही कह सकता है, "नहीं, इस समुदाय में हम इसे इस तरह नहीं कहते।"
3. मानव-केंद्रित डिज़ाइन (सही टूल बनाना)
- समस्या: वर्तमान में, कई एआई उपकरण इंजीनियरों द्वारा बनाए जाते हैं जो यह नहीं जानते कि टर्मिनोलॉजिस्ट कैसे काम करते हैं। यह एक शेफ को दिए गए चाकू की तरह है जो बहुत भारी है या जिसका हैंडल फिसलन भरा है। शेफ को अपने टूल के अनुकूल अपनी खाना पकाने की शैली बदलनी पड़ती है, न कि टूल को उसकी मदद करने के लिए।
- समाधान: शोध पत्र ह्यूमन-सेंटर्ड डिज़ाइन (मानव-केंद्रित डिज़ाइन) का आह्वान करता है। इसका अर्थ है:
- पहले उपयोगकर्ताओं से पूछें: उपकरणों को टर्मिनोलॉजिस्ट की वास्तविक जरूरतों के आधार पर डिज़ाइन करें, न कि प्रोग्रामर को क्या कूल लगता है उसके आधार पर।
- नियंत्रण बनाए रखें: सॉफ़्टवेयर को मानव को फीचर्स चालू या बंद करने की अनुमति देनी चाहिए। यदि एआई एक शब्द का सुझाव देता है, तो मानव आसानी से "नहीं" कह सकता है या "फिर से प्रयास करें" कह सकता है।
- दिमाग को धोखा न दें: डिज़ाइन को मानव को आलसी होने से रोकना चाहिए। उदाहरण के लिए, टूल को उत्तर दिखाना नहीं चाहिए इससे पहले कि मानव समस्या के बारे में सोचे, अन्यथा मानव एआई के गलत उत्तर को आँख मूंदकर स्वीकार कर सकता है।
सरल भाषा में मुख्य निष्कर्ष
- एआई मनुष्यों को बदलने के लिए तैयार नहीं है: लार्ज लैंग्वेज मॉडल्स (LLMs) गति में महान हैं लेकिन सटीकता में खराब हैं। वे गलतियाँ करते हैं और झूठ बोलते (hallucinate) हैं। एक क्षेत्र में जहाँ सटीकता सब कुछ है, मनुष्य अभी भी आवश्यक हैं।
- गति बनाम नियंत्रण: आप एक बहुत तेज़ एआई सिस्टम और साथ ही पूर्ण नियंत्रण में एक मानव, दोनों रख सकते हैं। वे दुश्मन नहीं हैं; वे मिलकर सबसे अच्छा काम करते हैं।
- मानव बॉस है: शोध पत्र इस बात पर जोर देता है कि टर्मिनोलॉजिस्ट निर्णय लेने वाले बने रहने चाहिए। यदि कंपनियाँ लागत कम करने और विशेषज्ञों को निकालने के लिए केवल एआई का उपयोग करती हैं, तो ज्ञान की गुणवत्ता गिर जाएगी और पक्षपात फैल जाएगा।
- नए कौशल की आवश्यकता: टर्मिनोलॉजिस्ट को "एआई साक्षरता" सीखने की आवश्यकता है। उन्हें पता होना चाहिए कि एआई से कैसे बात करनी है (प्रॉम्प्टिंग), यह कैसे पहचानना है कि एआई कब झूठ बोल रहा है, और उसकी गलतियों को कैसे ठीक करना है।
निचोड़
शोध पत्र निष्कर्ष निकालता है कि यदि हम चाहते हैं कि एआई विभिन्न भाषाओं और संस्कृतियों में बेहतर संवाद करने में हमारी मदद करे, तो हमें इसे मनुष्यों को सशक्त बनाने वाले एक उपकरण के रूप में मानना चाहिए, न कि मनुष्यों को बदलने वाली मशीन के रूप में। यदि हम इन उपकरणों को मानव के कल्याण और विशेषज्ञता को केंद्र में रखकर डिज़ाइन करते हैं, तो एआई ज्ञान के बेहतर मानचित्र बनाने में मदद कर सकता है। यदि हम ऐसा नहीं करते हैं, तो हम त्रुटियों और पक्षपात के कोहरे में खो जाने का जोखिम उठाते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।