Abstracted Away: Resisting Alienation and Ungrounded Abstraction in AI Research Communities
प्रारंभिक-करियर के क्रिटिकल एआई शोधकर्ताओं के रूप में अपने अनुभवों की एक ऑटोएथ्नोग्राफिक जांच के माध्यम से, लेखक यह तर्क देते हैं कि एआई समुदायों में अलगाव अमूर्तता के सामाजिक मानदंडों से उत्पन्न होता है जो शोधकर्ताओं को भौतिक वास्तविकताओं और जीवंत हानियों से दूर करते हैं, और इन तंत्रों की पहचान करने तथा अधिक समावेशी प्रथाओं की ओर सामूहिक प्रतिरोध का मार्गदर्शन करने के लिए एक हर्मेन्यूटिक ढांचा प्रदान करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक वर्कशॉप में एक विशाल, जादुई रोबोट बनाने के लिए सीख रहे हैं। आपके शिक्षक कहते हैं कि रोबोट को स्मार्ट बनाने के लिए, आपको पहले "एब्स्ट्रैक्शन" (abstraction - अमूर्तता) की कला सीखनी होगी। कंप्यूटर की दुनिया में, एब्स्ट्रैक्शन एक बिखरे हुए पुर्जों के ढेर के चारों ओर एक डिब्बा रखने और उस पर बस "इंजन" का लेबल लगाने जैसा है। आपको रोबट को चलाने के लिए हर एक पेंच कैसे काम करता है यह जानने की ज़रूरत नहीं है; आपको बस इतना जानना है कि उसमें क्या जाता है और उससे क्या बाहर आता है। यह एक बहुत ही उपयोगी तकनीक है जो इंजीनियरों को जटिल चीजें बनाने में मदद करती है ताकि वे घबरा न जाएं। लेकिन यहाँ एक पेंच है: कभी-कभी, जब हम चीजों को एक डिब्बे में रखते हैं, तो हम अनजाने में कहानी के सबसे महत्वपूर्ण हिस्सों को फेंक देते हैं। हम इस बात को नज़रअंदाज़ कर सकते हैं कि "इंजन" अजीब आवाज़ तभी करता है जब बारिश हो रही हो, या वह तब गुस्सा हो जाता है जब आप उससे किसी खास भाषा में बात करते हैं। यदि हम केवल डिब्बे को देखते हैं, तो हम उसके अंदर जो वास्तव में हो रहा है उसे मिस कर देते हैं।
यह लेख इस बारे में है कि आर्टिफिशियल इंटेलिजेंस (AI) अनुसंधान की दुनिया में वह "डिब्बे में बंद करने" वाली तकनीक कब बहुत ज़्यादा बढ़ जाती है। इसके लेखक तीन युवा वैज्ञानिक हैं जिन्हें लगा कि वे अपने ही स्कूल में फिट नहीं बैठते। उन्होंने देखा कि AI शोधकर्ता जिस तरह से अपने काम के बारे में बात करते हैं, वह अक्सर वास्तविक लोगों की भावनाओं, इतिहास और संघर्षों को अनदेखा कर देता है। वे इस भावना को "एलियनेशन" (alienation - अलगाव) कहते हैं, जो ऐसा है जैसे आप किसी पार्टी में अकेले ऐसे व्यक्ति हों जो एक अलग भाषा बोलता है, जबकि बाकी सब अपनी ही बातचीत में मग्न हैं। यह लेख बताता है कि ऐसा क्यों होता है और यह सुझाव देता है कि जिस तरह से शोधकर्ता अपने डेटा को "साफ" करते हैं और अपनी भावनाओं को अनदेखा करते हैं, वह वास्तव में उन लोगों को नुकसान पहुँचा रहा है जिनकी मदद के लिए वे रोबोट बनाए गए हैं।
तीन शोधकर्ताओं की कहानी जो बाहरी महसूस करते थे
यह लेख तीन शुरुआती करियर के शोधकर्ताओं—व्योम, इसाबेल और नेहा—द्वारा लिखा गया है, जो अमेरिका के शीर्ष विश्वविद्यालयों में AI का अध्ययन कर रहे हैं। उन्होंने अपनी कहानी को तथ्यों की एक नीरस सूची के रूप में नहीं, बल्कि तीन छोटे दृश्यों, या "विग्नेट्स" (vignettes) के संग्रह के रूप में बताने का निर्णय लिया, ताकि यह दिखाया जा सके कि वे अपने स्वयं के शोध समुदायों से खुद को बाहर महसूस करते थे।
दृश्य 1: "साफ" डेटा की समस्या
अपने पहले किस्से में, लेखक एक कक्षा का वर्णन करते हैं जहाँ वे मेडिकल रिकॉर्ड का उपयोग करके बीमा जोखिमों की भविष्यवाणी करना सीख रहे थे। उनके शिक्षक ने उन्हें डेटा को "क्लीन" (साफ) करने के लिए कहा। इसका मतलब था कि किसी भी ऐसे व्यक्ति को ढूँढना जिसका मेडिकल इतिहास अजीब था या जो औसत पैटर्न में फिट नहीं बैठता था, और उन्हें हटा देना। शिक्षक ने उन लोगों को "नॉइज़" (noise - शोर) कहा। लेकिन लेखकों को कुछ डरावना एहसास हुआ: वे लोग जिन्हें हटाया जा रहा था, वे अक्सर वे लोग थे जो पहले से ही सबसे अधिक संघर्ष कर रहे थे—जैसे दुर्लभ बीमारियों, विकलांगता या अलग पृष्ठभूमि वाले लोग। उन्हें "साफ" करने के नाम पर हटाने से, कक्षा उन्हें उन्हीं लोगों को अनदेखा करना सिखा रही थी जिन्हें मदद की सबसे अधिक आवश्यकता थी। लेखकों को लगा जैसे उनसे खुद के हिस्सों को मिटाने के लिए कहा जा रहा है ताकि रोबोट बेहतर काम कर सके।
दृश्य 2: दोधारी तलवार
दूसरे दृश्य में, लेखक स्नातक स्कूल शुरू करने के अपने उत्साह के बारे में बात करते हैं। वे अच्छा काम करने के लिए AI का उपयोग करना चाहते थे। लेकिन फिर, उन्होंने समाचार रिपोर्टों में देखा कि कैसे उन्हीं AI टूल्स का उपयोग सेनाओं द्वारा युद्ध क्षेत्रों में लोगों को नुकसान पहुँचाने के लिए किया जा रहा है। उन्होंने अपने प्रोफेसरों और साथियों से इस बारे में बात करने की कोशिश की, पूछते हुए, "क्या हमें ऐसे उपकरण बनाने चाहिए जिनका उपयोग हिंसा के लिए किया जा सकता है?" एक गहरी चर्चा होने के बजाय, उन्हें बस तकनीक को "अधिक नैतिक" या "सुरक्षित" बनाने पर ध्यान केंद्रित करने के लिए कहा गया, जैसे कि यह समस्या सिर्फ एक छोटा सा बग हो जिसे ठीक किया जा सकता है। लेखक चुप करा दिए गए। उन्हें यह बताने के लिए कहा गया कि यह सवाल उठाना कि क्या तकनीक का अस्तित्व होना ही चाहिए, "सरल" (simplistic) है। उन्हें लगा जैसे उन्हें यह दिखावा करने के लिए मजबूर किया जा रहा है कि बुरा क्या हो रहा है ताकि वे अपनी नौकरी और ग्रेड बचा सकें।
दृश्य 3: एक सुरक्षित स्थान खोजना
तीसरा दृश्य आशावादी हिस्सा है। अकेलापन और भ्रम महसूस करने के बाद, लेखकों को लोगों का एक अलग समूह मिला—कंप्यूटर वैज्ञानिकों, शिक्षकों और समाजशास्त्रियों का एक मिश्रण—जो कठिन विषयों पर बात करने के लिए तैयार थे। इस समूह में, कोई जल्दबाजी नहीं करता था। वे सुनने के लिए समय लेते थे। वे बातचीत के उलझे हुए हिस्सों को "साफ" करने की कोशिश नहीं करते थे; इसके बजाय, वे उन उलझे हुए हिस्सों का उपयोग समस्या को बेहतर ढंग से समझने के लिए करते थे। पहली बार, लेखक सुरक्षित महसूस कर रहे थे। उन्हें एहसास हुआ कि उनके बाहरी महसूस करने का कारण वे खुद नहीं थे, बल्कि वह तरीका था जिससे सामान्य AI अनुसंधान काम करता है, वह टूटा हुआ था।
उन्होंने क्या पाया: "अनग्राउंडेड" (Un-grounded) बॉक्स
लेखकों को एहसास हुआ कि उनके अलगाव का कारण क्या था, जिसे वे "अनग्राउंडेड एब्स्ट्रैक्शन" (ungrounded abstraction) कहते हैं।
सोचिए कि "ग्राउंडेड" (जमीन से जुड़ा) शोध एक पेड़ की तरह है जिसकी जड़ें गहरी हैं। जड़ें वास्तविक दुनिया हैं: लोग, इतिहास, दर्द और खुशी। "अनग्राउंडेड" शोध एक ऐसे पेड़ की तरह है जिसे उसकी जड़ों से काट दिया गया है और वह बस हवा में तैर रहा है। वह एक पेड़ जैसा दिखता तो है, लेकिन वह पानी नहीं पी सकता या हवा को महसूस नहीं कर सकता।
लेख का तर्क है कि AI अनुसंधान अक्सर इन चार तरीकों से इन जड़ों को काट देता है:
- टेस्टिमोनी एब्स्ट्रैक्शन (Testimony Abstraction): जब एक शोधकर्ता कहता है, "हे, इससे लोगों को चोट पहुँच रही है," और समुदाय कहता है, "तुम असली विशेषज्ञ नहीं हो, तुम बस भावुक हो," और उन्हें अनदेखा कर देता है।
- पर्पस एब्स्ट्रैक्शन (Purpose Abstraction): जब किसी प्रोजेक्ट का लक्ष्य बदल जाता है। आप "लोगों की मदद करने" से शुरू करते हैं, लेकिन सफलता को मापने का तरीका "एक टेस्ट पर उच्चतम स्कोर प्राप्त करना" बन जाता है, और आप लोगों को पूरी तरह भूल जाते हैं।
- पोजीशन एब्स्ट्रैक्शन (Position Abstraction): जब डेटा सभी के साथ ऐसा व्यवहार करता है जैसे वे एक समान हों, यह अनदेखा करते हुए कि कुछ लोगों के पास अधिक शक्ति है और कुछ के पास कम। यह एक अमीर और गरीब व्यक्ति के बीच के अंतर को मिटाकर यह दिखाने जैसा है कि दोनों की समस्याएँ बिल्कुल एक जैसी हैं।
- अफेक्ट एब्स्ट्रैक्शन (Affect Abstraction): यह सबसे व्यक्तिगत है। यह तब होता है जब शोधकर्ताओं को अपनी भावनाओं को सुन्न करने के लिए सिखाया जाता है। यदि आप कुछ बुरा होते देखते हैं, तो आपसे अपेक्षा की जाती है कि आप कुछ भी महसूस न करें ताकि आप काम जारी रख सकें। लेखक कहते हैं कि यह खतरनाक है क्योंकि आपकी भावनाएं वास्तव में एक चेतावनी प्रणाली हैं जो आपको बताती हैं कि कुछ गलत है।
समाधान: अपनी अंतरात्मा की सुनें और एकजुट होकर खड़े हों
लेखक केवल शिकायत नहीं कर रहे हैं; वे इसे ठीक करने का एक तरीका भी बताते हैं। लेखक दो मुख्य बातें सुझाते हैं:
पहला, सामूहिक कार्रवाई (Collective Action)। आपको अकेले सिस्टम से लड़ने की ज़रूरत नहीं है। यदि आपको लगता है कि कुछ गलत है, तो उन लोगों को खोजें जो वैसा ही महसूस करते हैं। जब आप एक साथ खड़े होते हैं, तो सिस्टम के लिए आपको अनदेखा करना या आपको पागल महसूस कराना कठिन हो जाता है। लेखकों को अपने दोस्तों के एक समूह में ताकत मिली जो खुलकर अपने डर के बारे में बात करते थे।
दूसरा, अफेक्टिव अट्यूनमेंट (Affective Attunement)। यह एक भारी-भरकम शब्द है जिसका अर्थ है: "अपनी भावनाओं को सुनें।" यदि आप किसी प्रोजेक्ट के बारे में असहज, क्रोधित या दुखी महसूस करते हैं, तो उन भावनाओं को दबाएँ नहीं। उन्हें "एब्स्ट्रैक्ट" (मिटा) न करें। इसके बजाय, उन भावनाओं को महत्वपूर्ण डेटा के रूप में मानें। आपकी अंतरात्मा की आवाज़ यह पहला संकेत हो सकती है कि कुछ गलत हो रहा है। अपनी भावनाओं पर ध्यान देकर, आप "अनग्राउंडेड" शोध को वास्तविक नुकसान पहुँचाने से पहले ही रोक सकते हैं।
यह क्यों मायने रखता है
लेखक सावधानी बरतते हुए कहते हैं कि वे यह नहीं कह रहे हैं कि "AI करना बंद कर दें।" वे तकनीक से प्यार करते हैं। लेकिन वे यह कह रहे हैं कि यदि हम वास्तविक दुनिया को देखे बिना, पीड़ित लोगों की बात सुने बिना, और अपनी भावनाओं पर ध्यान दिए बिना AI बनाना जारी रखते हैं, तो हम ऐसी चीजें बनाएंगे जो टूटी हुई और खतरनाक होंगी।
उनका सुझाव है कि हमें यह बदलना होगा कि हम शोध कैसे सिखाते और करते हैं। हमें यह दिखावा करना बंद करना होगा कि हम जीवन के उलझे हुए हिस्सों को "बॉक्स" में बंद कर सकते हैं। हमें अपनी जड़ों को वास्तविक दुनिया में बनाए रखना होगा। ऐसा करके, हम ऐसा AI बना सकते हैं जो वास्तव में सभी की मदद करे, न कि केवल उन लोगों की जो एक बॉक्स में फिट बैठते हैं। लेख उनके विचारों के साथ समाप्त होता है जो किसी भी ऐसे व्यक्ति के लिए एक उपकरण के रूप में है जो तकनीकी दुनिया में खुद को बाहरी महसूस करता है, इस उम्मीद में कि अपनी कहानी साझा करके, अन्य लोग अपना रास्ता खोज सकें और बदलाव ला सकें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।