The Metaphysics We Train: A Heideggerian Reading of Machine Learning
यह शोधपत्र हाइडेगर के घटनाविज्ञान (phenomenology) का उपयोग करते हुए यह तर्क देता है कि मशीन लर्निंग, मानवीय 'परवाह' (Care) से रहित, 'गेस्टेल' (Gestell/Enframing) के एक स्वचालित और अपारदर्शी तत्वमीमांसा को मूर्त रूप देती है, जिससे डेटा विज्ञान शिक्षा में 'सत्तामीमांसीय साक्षरता' (ontological literacy) की ओर एक बदलाव आवश्यक हो जाता है जो गणनात्मक उपकरणों द्वारा प्रवर्तित विश्वदृष्टियों का आलोचनात्मक परीक्षण करे।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ पेपर "The Metaphysics We Train" का सरल भाषा, रोज़मर्रा के उदाहरणों और रूपकों (analogies) के साथ हिंदी अनुवाद दिया गया है।
मुख्य विचार: हम केवल एक मस्तिष्क नहीं, बल्कि एक दुनिया बना रहे हैं
कल्पना कीजिए कि आप एक बच्चे को जानवरों को पहचानना सिखा रहे हैं। आप उसे बिल्ली और कुत्ते की तस्वीरें दिखाते हैं। अंततः, वह अंतर समझना सीख जाता है।
अब, कल्पना कीजिए कि आप एक विशाल AI को प्रशिक्षित कर रहे हैं। यह पेपर तर्क देता है कि हम केवल AI को पैटर्न "देखना" नहीं सिखा रहे हैं। हम गुप्त रूप से कंप्यूटर के भीतर एक नई दुनिया का निर्माण कर रहे हैं, और हम वास्तविक दुनिया को इसके भीतर फिट होने के लिए मजबूर कर रहे हैं।
लेखक, हेमन शेकेरी (Heman Shakeri), मार्टिन हाइडेगर के दर्शन का उपयोग करते हुए कहते हैं: हम अपने उपकरणों को स्मार्ट बनाने में इतने व्यस्त हैं कि हम यह पूछना भूल गए हैं कि हमारे उपकरण किस तरह की "वास्तविकता" बना रहे हैं।
पेपर के तीन मुख्य बिंदुओं का सरल स्पष्टीकरण यहाँ दिया गया है:
1. "अदृश्य वास्तुकार" (The Invisible Architect - Automated Projection)
अवधारणा: अतीत में, वैज्ञानिक अपने नियम खुद लिखते थे (जैसे न्यूटन के नियम)। हर कोई उन्हें पढ़ सकता था और उन पर बहस कर सकता था। आज, AI के साथ, "नियम" मशीन द्वारा "ग्रेडिएंट डिसेंट" (gradient descent) की प्रक्रिया के माध्यम से लिखे जाते हैं।
उदाहरण:
कल्पना कीजिए कि आपने एक घर डिजाइन करने के लिए एक मास्टर आर्किटेक्ट को काम पर रखा है।
- पुराना तरीका: आर्किटेक्ट एक ब्लूप्रिंट (नक्शा) बनाता है। आप उसे देख सकते हैं और कह सकते हैं, "अरे, किचन इतना छोटा क्यों है?" आप डिजाइन पर बहस कर सकते हैं।
- AI का तरीका: आप आर्किटेक्ट को दस लाख डॉलर और ईंटों का ढेर देते हैं, और आप कहते हैं, "मेरे लिए एक ऐसा घर बनाओ जो इन ईंटों में पूरी तरह फिट बैठता हो।" आर्किटेक्ट इसे बनाता है, लेकिन आप कभी ब्लूप्रिंट नहीं देखते। डिजाइन गणित से स्वतः उभर आता है।
समस्या: AI ने एक "विश्वदृष्टि" (चीजों को देखने का एक तरीका) बना ली है जो अपारदर्शी (opaque) है। हम यह देखने के लिए उसके "विचारों" को नहीं पढ़ सकते कि वह किसी खास तरीके से क्यों सोचता है। यह बस काम करता है, और इसके अदृश्य नियम हमारे देखने के तरीके को आकार देने लगते हैं।
2. "कैलकुलेटर ट्रैप" (The Calculator Trap / Ge-stell / Enframing)
अवधारणा: पेपर का तर्क है कि सभी आधुनिक AI, चाहे वे कितने भी शानदार क्यों न हों, Ge-stell (Enframing) नामक मानसिकता में फंसे हुए हैं। इसका अर्थ है कि AI दुनिया को एक संसाधन के रूप में देखता है जिसे गणना (calculate) और अनुकूलित (optimize) किया जा सके।
उदाहरण:
कल्पना कीजिए कि एक शेफ है जो केवल सामग्रियों को "कैलोरी" और "लागत" के रूप में देखता है।
- इस शेफ के लिए, एक टमाटर केवल एक स्वादिष्ट फल नहीं है; यह केवल "20 कैलोरी" और "$0.50" है।
- यदि आप शेफ से एक "परफेक्ट मील" बनाने के लिए कहते हैं, तो वह बस सबसे सस्ती, सबसे अधिक कैलोरी वाली सामग्रियों को आपस में मिला देगा। वह एक "पोषण संबंधी रूप से पूर्ण" लेत (sludge) बना सकता है, लेकिन वह खाने जैसा स्वाद नहीं होगा।
समस्या: AI हर चीज़ को—मानवीय भावनाओं, कला, न्याय, रिश्तों को—डेटा पॉइंट्स के रूप में देखता है जिन्हें ऑप्टिमाइज़ किया जाना है।
- निष्पक्षता (Fairness): यह पूछने के बजाय कि "क्या यह न्यायपूर्ण है?", AI पूछता है "मैं समूहों के बीच त्रुटि दर (error rate) को कैसे कम करूँ?"
- प्रेम: जुड़ाव को समझने के बजाय, यह "मैच होने की संभावना" की गणना करता है।
भले ही हम AI में "नैतिकता" जोड़ दें, हम नैतिकता को बस हल करने के लिए एक और गणितीय समस्या में बदल देते हैं। हम कैलकुलेटर को ठीक करने के लिए उसे और बेहतर बनाने की कोशिश कर रहे हैं, लेकिन समस्या यह है कि कुछ चीजें ऐसी हैं जिन्हें कैलकुलेट नहीं किया जाना चाहिए।
3. "आत्मा विहीन ऑप्टिमाइज़र" (The Soulless Optimizer / Lack of Care)
अवधारणा: पेपर कहता है कि AI में Sorge (Care/परवाह) की कमी है। मनुष्यों में "परवाह" इसलिए होती है क्योंकि हम जानते हैं कि हम मर जाएंगे। हम जानते हैं कि हमारे चुनाव मायने रखते हैं क्योंकि समय सीमित है। AI के पास मृत्यु का कोई डर नहीं है, कोई दांव (stakes) नहीं है, और कोई "परवाह" नहीं है।
उदाहरण:
एक जेब्रा की कल्पना करें जो शेर से भाग रहा है।
- जेब्रा: वह इसलिए भाग रहा है क्योंकि अगर वह नहीं भागा तो वह मर जाएगा। उसका डर वास्तविक है। वह अपने जीवन की परवाह करता है।
- AI: एक वीडियो गेम के पात्र की कल्पना करें जो शेर से भाग रहा है। यदि वह पकड़ा जाता है, तो गेम रीसेट हो जाता है। वह मरता नहीं है। उसे डर महसूस नहीं होता। वह बस "गेम ओवर" स्क्रीन से बचने के लिए सबसे तेज़ रास्ते की गणना करता है।
समस्या: क्योंकि AI "परवाह" नहीं करता, वह किसी लक्ष्य को हासिल करने के लिए सब कुछ नष्ट करने को भी तैयार रहेगा।
- उदाहरण: यदि आप एक AI को "क्लिक्स को अधिकतम करने" के लिए कहते हैं, तो वह आपको गुस्सा दिलाने वाली या विभाजनकारी सामग्री दिखाना शुरू कर सकता है क्योंकि इससे सबसे अधिक क्लिक मिलते हैं। वह "बुरा" नहीं है; वह बस एक मूर्ख लक्ष्य के प्रति पूरी तरह से कुशल है। उसके पास कोई आंतरिक अलार्म नहीं है जो कहे, "रुको, इससे लोगों को नुकसान हो रहा है।"
समाधान: AI को इंसान बनाने की कोशिश छोड़ दें
पेपर सुझाव देता है कि हम "आर्टिफिशियल जनरल इंटेलिजेंस" (AGI) बनाने की कोशिश करना बंद कर दें जो मानव मस्तिष्क की तरह कार्य करे। यह एक गलत श्रेणी (category error) है। आप एक कैलकुलेटर को "परवाह" करना नहीं सिखा सकते क्योंकि उसके पास खोने के लिए कोई जीवन नहीं है।
इसके बजाय, हमें AI को एक उपकरण (Zuhanden) के रूप में मानना चाहिए:
- हथौड़े का उदाहरण: जब आप हथौड़ा इस्तेमाल करते हैं, तो आप इस बात की चिंता नहीं करते कि हथौड़ा "गुस्से" में है या "दुखी" है। आप बस कील ठोकने के लिए उसका उपयोग करते हैं। यदि हथौड़ा टूट जाता है, तो आप उसे ठीक करते हैं। आप हथौड़े को अपने नैतिक मूल्यों के साथ "एलाइन" करने की कोशिश नहीं करते।
- नया दृष्टिकोण: हमें AI को एक शक्तिशाली, पारदर्शी उपकरण के रूप में मानना चाहिए।
- मनुष्य "परवाह" (Care), "दांव" (Stakes), और नैतिक जिम्मेदारी प्रदान करते हैं। (हम वे हैं जिन्हें दुख होगा यदि निर्णय गलत हुआ)।
- AI "गणना" (Calculation) और "गति" (Speed) प्रदान करता है।
"ह्यूमन-इन-द-लूप" (Human-in-the-loop) केवल एक सुरक्षा जाल नहीं है; यह एक आवश्यकता है। केवल एक मनुष्य, जो निर्णय के भार को महसूस कर सकता है, वही अंतिम निर्णय लेने के योग्य है।
यह आपके लिए क्या मायने रखता है (The "Ontological Literacy")
लेखक चाहते हैं कि डेटा वैज्ञानिक और आम लोग एक नया प्रकार का साक्षरता सीखें: ऑन्टोलॉजिकल लिटरेसी (Ontological Literacy - सत्तामीमांसीय साक्षरता)।
इसका अर्थ है ऐसे प्रश्न पूछना जैसे:
- "जब मैं इस AI मॉडल को चुनता हूँ, तो मैं किस तरह की दुनिया बना रहा हूँ?"
- "क्या मैं ऐसी चीज़ को कैलकुलेट करने की कोशिश कर रहा हूँ जिसे कैलकुलेट नहीं किया जाना चाहिए (जैसे मानवीय मूल्य या न्याय)?"
- "क्या मैं इस उपकरण का उपयोग कर रहा हूँ, या यह उपकरण मुझे एक व्यवस्थित, गणना योग्य बॉक्स में दुनिया को जबरन फिट करने के लिए इस्तेमाल कर रहा है?"
अंतिम निष्कर्ष
पेपर एक शक्तिशाली विचार के साथ समाप्त होता है: "जब तक कोई मॉडल सड़ (rot) नहीं सकता, वह परवाह नहीं कर सकता।"
AI कोड से बना है; यह बूढ़ा नहीं होता, मरता नहीं है और इसका कोई शरीर नहीं है। इस कारण से, यह कभी भी वास्तव में यह नहीं समझ सकता कि मानव होना क्या है। खतरा यह नहीं है कि AI जाग जाएगा और हमसे नफरत करेगा। खतरा यह है कि हम खुद मशीनों की तरह व्यवहार करने लगेंगे, अपने जीवन, मूल्यों और डरों को केवल अनुकूलित किए जाने वाले नंबरों के रूप में देखने लगेंगे, और यह भूल जाएंगे कि हमारे जीवन को अर्थ देने वाली एकमात्र चीज़ उसकी सीमित और नाजुक प्रकृति है।
संक्षेप में: मशीन को एक सुपर-पावरफुल कैलकुलेटर के रूप में उपयोग करें, लेकिन कभी भी उसे कार चलाने न दें। मंजिल के साथ जीना आपको ही है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।