To Build or Not to Build? Factors that Lead to Non-Development or Abandonment of AI Systems
यह शोध पत्र एक स्कोपिंग समीक्षा और अनुभवजन्य केस डेटा को संश्लेषित करके एआई (AI) प्रणालियों के गैर-विकास या परित्याग के अल्प-अन्वेषित कारकों की जांच करता है ताकि यह प्रकट किया जा सके कि, नैतिक चिंताओं के परे, संसाधन संबंधी बाधाएं, कानूनी मुद्दे और संगठिक गतिशीलता जैसे विविध व्यावहारिक कारक इन महत्वपूर्ण पूर्व-परिनियोजन निर्णयों को महत्वपूर्ण रूप से प्रभावित करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया की कल्पना एक विशाल, हलचल भरे निर्माण स्थल (construction site) के रूप में करें। आमतौर पर, जब हम AI के बारे में सुनते हैं, तो खबरें उन इमारतों के बारे में होती हैं जो बनकर तैयार हो गईं, वे गगनचुंबी इमारतें जो खड़ी हो गईं, और लोग उनमें कैसे रह रहे हैं। हम इन तैयार संरचनाओं के "उपयोग" और "प्रभाव" के बारे में बात करते हैं।
लेकिन यह शोध पत्र एक अलग सवाल पूछता है: उन सभी निर्माण स्थलों का क्या हुआ जिन्हें बीच में ही छोड़ दिया गया? उन आधे बने घरों का क्या हुआ, उन मुड़े हुए ब्लूप्रिंट्स का क्या हुआ, और उन क्रेन का क्या हुआ जिन्हें पहली ईंट रखने से पहले ही बंद कर दिया गया?
लेखक, श्रेया चप्पिडि और जतिंदर सिंह, तर्क देते हैं कि हम कहानी के एक बहुत बड़े हिस्से को अनदेखा कर रहे हैं। वे समझना चाहते हैं कि संगठन यह क्यों तय करते हैं कि वे AI सिस्टम नहीं बनाएंगे, या वे एक सिस्टम बनाना क्यों बीच में ही छोड़ देते हैं।
यहाँ उनके निष्कर्षों का सरल विवरण दिया गया, जिसमें रोजमर्रा के उदाहरणों का उपयोग किया गया है।
बड़ी गलतफहमी
ज्यादातर लोग सोचते हैं कि कंपनियाँ AI बनाना इसलिए बंद कर देती हैं क्योंकि उन्हें एहसास होता है, "ओह नहीं, यह अनैतिक है!" या "यह खतरनाक है!"
शोध पत्र कहता है: यह कहानी का केवल एक हिस्सा है।
हालांकि नैतिक चिंताएं (जैसे पक्षपात या गोपनीयता) महत्वपूर्ण हैं, लेकिन वे अक्सर केवल हिमशैल का सिरा (tip of the iceberg) मात्र हैं। वास्तविक दुनिया में, कंपनियाँ अक्सर बहुत ही साधारण, व्यावहारिक कारणों से AI प्रोजेक्ट्स को छोड़ देती हैं—जैसे पैसा खत्म हो जाना, समय की कमी होना, या यह महसूस करना कि गणित ही काम नहीं कर रहा है।
निर्माण रुकने के छह कारण (The Taxonomy)
शोधकर्ताओं ने सैकड़ों रिपोर्टों का अध्ययन किया और इंजीनियरों से बात की ताकि वे AI प्रोजेक्ट्स के रद्द होने के कारणों की एक "मेन्यू" बना सकें। उन्होंने छह मुख्य श्रेणियां पाईं:
नैतिक चिंताएं (एक "ज़मीर" की जाँच):
- उदाहरण: वास्तुकार (architect) को एहसास होता है कि घर एक कब्रिस्तान पर बनाया जा रहा है या यह पड़ोसी की धूप रोक देगा।
- वास्तविकता: टीम को डर होता है कि AI लोगों के साथ भेदभाव कर सकता है, गोपनीयता का उल्लंघन कर सकता है, या इसका उपयोग गलत चीजों (जैसे हथियारों) के लिए किया जा सकता है।
हितधारकों की प्रतिक्रिया (एक "टाउन हॉल" मीटिंग):
- उदाहरण: पड़ोसी, श्रमिक, या भविष्य के निवासी मिलकर कहते हैं, "हमें यहाँ यह इमारत नहीं चाहिए," या "यदि आप इसे बनाते हैं तो हम हड़ताल पर चले जाएंगे।"
- वास्तविकता: कर्मचारी, ग्राहक, या कार्यकर्ता विरोध करते हैं। वे विरोध प्रदर्शन कर सकते हैं, टूल का उपयोग करने से मना कर सकते हैं, या नौकरी छोड़ने की धमकी दे सकते हैं, जिससे कंपनी को रुकने पर मजबूर होना पड़ता है।
विकास जीवनचक्र की चुनौतियां (ब्लूप्रिंट की समस्याएं):
- उदाहरण: आप एक पुल बनाने की कोशिश करते हैं, लेकिन आपको एहसास होता है कि नदी बहुत चौड़ी है, स्टील बहुत कमजोर है, या आप समझ नहीं पा रहे हैं कि कंक्रीट कैसे डाला जाए।
- वास्तविकता: डेटा अव्यवस्थित या गायब है, मॉडल सही ढंग से सीख नहीं पा रहा है, या गणित को हल करना बहुत कठिन है। प्रोजेक्ट एक ऐसी तकनीकी दीवार से टकरा जाता है जिसे पार करना असंभव है।
संगठनात्मक गतिशीलता (ऑफिस की राजनीति):
- उदाहरण: बॉस अपना विचार बदल देता है, विभाग का बजट कट जाता है, या टीम इस बात पर लड़ रही है कि किसका अधिकार है और वे इस पर सहमत नहीं हो पाते कि क्या बनाना है।
- वास्तविकता: कंपनी की रणनीति बदल जाती है, नेतृत्व की रुचि खत्म हो जाती है, या अलग-अलग टीमों के लक्ष्य आपस में टकराते हैं। प्रोजेक्ट को बस आंतरिक समर्थन मिलना बंद हो जाता है।
संसाधन संबंधी बाधाएं (खाली जेब):
- उदाहरण: आपके पास एक हवेली बनाने की शानदार योजना है, लेकिन आपके पास केवल एक झोपड़ी बनाने लायक पैसा है। या, आपके पास सही उपकरण या सही श्रमिक नहीं हैं।
- वास्तविकता: इसे बनाना या बनाए रखना बहुत महंगा है। उनके पास पर्याप्त शक्तिशाली कंप्यूटर (GPUs), पर्याप्त डेटा, या कुशल इंजीनियर नहीं हैं। कभी-कभी, इसे खुद बनाने के बजाय किसी और से टूल खरीदना सस्ता होता है।
कानूनी/नियामक चिंताएं (परमिट संबंधी मुद्दे):
- उदाहरण: शहर का ज़ोनिंग बोर्ड कहता है, "आप यहाँ निर्माण नहीं कर सकते," या "आपको वह परमिट चाहिए जो हमें नहीं मिल सकता।"
- वास्तविकता: नए कानून (जैसे EU AI Act) या डेटा गोपनीयता नियम (जैसे GDPR) प्रोजेक्ट को बहुत जोखिम भरा या कानूनी रूप से असंभव बना देते हैं।
डेटा ने वास्तव में क्या दिखाया
शोधकर्ताओं ने यह देखने के लिए कहानियों के दो अलग-अलग समूहों का अध्ययन किया कि वास्तव में क्या होता है:
समूह 1: "समाचार" की कहानियाँ (इंसिडेंट डेटाबेस)
- ये वे प्रसिद्ध विफलताएं हैं जिन्होंने सुर्खियां बटोरीं (जैसे एक फेशियल रिकग्निशन सिस्टम जिसे नस्लवादी होने के कारण बंद कर दिया गया)।
- निष्कर्ष: इन सार्वजनिक कहानियों में, नैतिक चिंताएं और हितधारकों की प्रतिक्रिया मुख्य भूमिका में हैं। यह समझ में आता है क्योंकि यही वे कहानियाँ हैं जो समाचारों में रिपोर्ट की जाती हैं।
समूह 2: "पर्दे के पीछे" की कहानियाँ (अभ्यासकर्ताओं का सर्वेक्षण)
- ये वे शांत विफलताएं हैं जो कंपनियों के भीतर हुईं और कभी समाचारों में नहीं आईं।
- निष्कर्ष: यहाँ, कहानी बिल्कुल अलग है। रुकने के सबसे आम कारण थे तकनीकी चुनौतियां (यह काम नहीं कर रहा था), संसाधन संबंधी बाधाएं (बहुत महंगा था), और संगठनात्मक गतिशीलता (प्रबंधन बदल गया)।
- मुख्य अंतर्दृष्टि: कई प्रोजेक्ट्स सार्वजनिक मंच पर आने से पहले ही खत्म कर दिए गए क्योंकि वे बहुत कठिन, बहुत महंगे, या कंपनी के लिए सही फिट नहीं थे।
"भूतिया" प्रोजेक्ट्स (The "Ghost" Projects)
पेपर यह भी नोट करता है कि कभी-कभी, एक प्रोजेक्ट रद्द हो जाता है, लेकिन बाद में फिर से जीवित हो जाता है।
- उदाहरण: एक बिल्डर बारिश के कारण घर का काम रोक देता है। दो साल बाद, धूप निकल आती है, और वे फिर से नींव खोदना शुरू कर देते हैं।
- वास्तविकता: कंपनियाँ अक्सर एक प्रोजेक्ट को रोक देती हैं, बेहतर तकनीक या कम लागत का इंतज़ार करती हैं, और फिर इसे फिर से बनाने की कोशिश करती हैं। या, वे किसी विशिष्ट फीचर (जैसे फेशियल रिकग्निशन) को रद्द कर सकती हैं लेकिन बाकी सिस्टम को चालू रख सकती हैं।
मुख्य निष्कर्ष
लेखक AI समुदाय से कह रहे हैं: "केवल तैयार इमारतों और नैतिक घोटालों को देखना बंद करें।"
AI को सुरक्षित और जिम्मेदार बनाने के लिए हमें वास्तव में निर्माण चरण (construction phase) को समझने की आवश्यकता है। हमें कंपनियों को यह समझने में मदद करने की आवश्यकता है कि बनाना न करने का निर्णय लेना एक वैध, स्मार्ट और कभी-कभी आवश्यक विकल्प है।
वे सुझाव देते हैं कि हमें बेहतर टूल्स और चेकलिस्ट की आवश्यकता है ताकि संगठन यह पूछ सकें:
- "क्या हमारे पास वास्तव में इसे पूरा करने के लिए पैसा और कौशल है?"
- "क्या तकनीकी समस्या हल करने योग्य है?"
- "क्या यह इसे बनाने का सही समय है?"
यदि हम कंपनियों के लिए व्यावहारिक कारणों से "नहीं, हमें यह नहीं बनाना चाहिए" कहना आसान बना सकें, तो हम भविष्य की बहुत सी समस्याओं को शुरू होने से पहले ही रोक सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।