Studying People to Study AI: Expert Perspectives on the Epistemic Fit and Barriers of Human Research in AI Safety & Ethics

कल्पना कीजिए कि आप एक ऐसा रोबोट बनाने की कोशिश कर रहे हैं जो बात कर सके, सोच सके और लोगों की मदद कर सके। आप यह सुनिश्चित करना चाहते हैं कि वह रोबोट सुरक्षित हो और गलती से किसी को चोट न पहुँचा दे या कुछ बुरा न कह दे। इसे करने के लिए, वैज्ञानिक परीक्षण चला रहे हैं। लेकिन यहाँ पेचीदा हिस्सा यह है कि इनमें से अधिकांश परीक्षण एक वीडियो गेम की तरह हैं जहाँ रोबोट दूसरे रोबोट से बात करता है। वे सिम्युलेट करते हैं कि एक इंसान कैसे प्रतिक्रिया दे सकता है, या वे यह जाँचने के लिए गणित का उपयोग करते हैं कि क्या रोबोट नियमों का पालन कर रहा है। यह तेज़, सस्ता और एक दिन में लाखों ऐसे "रोबोट-बनाम-रोबोट" खेल चलाने में आसान है।

हालाँकि, एक बड़ी समस्या है कि केवल वीडियो गेम खेलने से क्या होगा। सिर्फ इसलिए कि एक रोबोट ने दूसरे रोबोट के खिलाफ परीक्षण पास कर लिया है, इसका मतलब यह नहीं है कि वह एक वास्तविक, उलझे हुए, भावनात्मक इंसान से मिलने पर सुरक्षित होगा। असली इंसान जटिल होते हैं। वे भ्रमित हो जाते हैं, वे भावनाएं महसूस करते हैं, और वे रोबोट को उन तरीकों से छला दे सकते हैं जिन्हें एक सिमुलेशन कभी नहीं कर पाएगा। यह शोध पत्र एक सरल लेकिन बहुत बड़ा सवाल पूछता है: वैज्ञानिक अभी भी रोबलों के साथ वीडियो गेम क्यों खेल रहे हैं बजाय इसके कि वे वास्तव में असली लोगों से बात करें और देखें कि क्या होता है?

---

द ग्रेट रोबोट टेस्ट: हमें असली लोगों की ज़रूरत क्यों है, न कि केवल सिमुलेशन की

यह शोध पत्र एक जासूसी कहानी की तरह है जो AI सुरक्षा की दुनिया में एक अजीब अंतराल की जांच कर रहा है। शोधकर्ताओं की एक टीम, जो टोरंटो विश्वविद्यालय और मैकगिल जैसे विश्वविद्यालयों के विशेषज्ञों की टीम है, यह समझना चाहती थी कि AI सुरक्षा और नैतिकता (AISE) के क्षेत्र में प्रयोगों में वास्तविक मनुष्यों का उपयोग करने में इतनी हिचकिचाहट क्यों है।

AISE को एक विशाल कार्यशाला (वर्कशॉप) के रूप में सोचें जहाँ लोग सबसे सुरक्षित, सबसे नैतिक रोबोट बनाने की कोशिश कर रहे हैं। इस कार्यशाला के भीतर, विशेषज्ञों के विभिन्न समूह हैं। कुछ तकनीकी (Technical) जादूगर हैं जो कोड, गणित और सिमुलेशन चलाने को पसंद करते हैं। अन्य सामाजिक-तकनीकी (Sociotechnical) जासूस हैं जो इस बात की परवाह करते हैं कि लोग वास्तव में कैसे महसूस करते हैं और तकनीक के साथ कैसे बातचीत करते हैं। वहाँ शासन (Governance) वाले लोग भी हैं जो नियमों और कानूनों के बारे में सोचते हैं, और मानक (Normative) विचारक हैं जो इस बात की चिंता करते हैं कि "सही" या "अच्छा" क्या है।

इस शोध पत्र की मुख्य खोज यह है कि हालांकि कार्यशाला में हर कोई इस बात से सहमत है कि असली इंसानों से बात करना बेहद महत्वपूर्ण है, लेकिन तकनीकी समूह मुख्य रूप से इसे अनदेखा कर रहा है। वे अपने तेज़, साफ-सुधरे कंप्यूटर सिमुलेशन को प्राथमिकता देते हैं। लेखकों ने पाया कि यह केवल इसलिए नहीं है क्योंकि तकनीकी समूह दक्षता को प्राथमिकता देता है; बल्कि इसलिए है क्योंकि उनके पास "प्रमाण" को समझने का एक अलग तरीका है।

"वीडियो गेम" बनाम "वास्तविक दुनिया"

लेखक एक बड़े विभाजन का वर्णन करते हैं। तकनीकी शोधकर्ता अक्सर मनुष्यों को एक गणितीय समीकरण में चर (variables) की तरह देखते हैं। वे चीजों को स्केल और स्टॉपवॉच से मापना चाहते हैं। यदि वे किसी चीज़ को पूरी तरह से नहीं माप सकते, तो वे अक्सर उस पर भरोसा नहीं करते हैं। उन्हें डर है कि असली लोगों से बात करना "अव्यवस्थित" (messy) है।

कल्पना कीजिए कि आप एक नया पुल परीक्षण करने की कोशिश कर रहे हैं।

• सिमुलेशन दृष्टिकोण: आप कंप्यूटर पर पुल का एक आदर्श डिजिटल मॉडल बनाते हैं। आप इसके माध्यम से दस लाख हवा के तूफान चलाते हैं। कंप्यूटर कहता है, "यह 100% सुरक्षित है!" यह तेज़ और सस्ता है।
• मानव अनुसंधान दृष्टिकोण: आप वास्तव में पुल बनाते हैं और वास्तविक लोगों को इस पर चलने के लिए कहते हैं। शायद कुछ लोग डर जाते हैं, शायद हवा वैसी नहीं है जैसी कंप्यूटर ने बताई थी, और शायद पुल उस तरह से डगमगाता है जिसकी भविष्यवाणी मॉडल ने नहीं की थी।

पत्र सुझाव देता है कि AISE वर्तमान में कंप्यूटर मॉडल के प्रति जुनूनी है। वे यह देखने के लिए अरबों सिमुलेशन (जैसे कि ऊपर बताए गए "वीडियो गेम") चला रहे हैं कि क्या AI सुरक्षित है। लेकिन लेखकों का तर्क है कि यह जोखिम भरा है। यदि आप केवल कंप्यूटर में अपने पुल का परीक्षण करते हैं, तो आप इस तथ्य को मिस कर सकते हैं कि जब हवा चलती है तो असली लोग घबरा जाते, या पुल एक अजीब आवाज़ करता है जो उन्हें डरा देती है।

"ह्यूमन-वॉशिंग" का जाल

लेखक जिस चीज़ के बारे में चेतावनी देते हैं, वह सबसे दिलचस्प चीजों में से एक है जिसे वे "ह्यूमन-वॉशिंग" कहते हैं। यह "ग्रीन-वॉशिंग" की तरह है, जहाँ एक कंपनी उत्पाद को पर्यावरण के अनुकूल दिखाने के लिए उस पर पत्ती लगा देती है बिना वास्तव में हरा (eco-friendly) हुए।

"ह्यूमन-वॉशिंग" तब होती है जब शोधकर्ता कहते हैं, "हे, हमने कुछ लोगों से बात की!" केवल एक बॉक्स को टिक करने के लिए। लेकिन उन्होंने वास्तव में उनकी बात नहीं सुनी, या उन्होंने सही सवाल नहीं पूछे। उन्होंने बस अपने अध्ययन में कुछ मनुष्यों को जोड़ दिया ताकि यह लगे कि वे वास्तविक शोध कर रहे हैं, लेकिन उन्होंने वास्तव में अपनी विधियों को नहीं बदला। लेखक कहते हैं कि यह खतरनाक है क्योंकि यह सुरक्षा की झूठी भावना देता है। यह दीवार पर नकली अग्निशामक यंत्र लगाने जैसा है; यह दिखता है कि आप तैयार हैं, लेकिन अगर आग लग गई, तो यह काम नहीं करेगा।

बाधाएँ: वे इसे क्यों नहीं करते?

आप सोच सकते हैं, "यदि हर कोई सहमत है कि मानव अनुसंधान अच्छा है, तो वे अधिक ऐसा क्यों नहीं करते?" शोध पत्र ने उन्हें रोकने वाली तीन बड़ी दीवारें पाईं:

1. पैसा और समय की दीवार: असली इंसानों से बात करना महंगा और धीमा है। लेखक नोट करते हैं कि एक कंप्यूटर सिमुलेशन चलाने की लागत $1,000** से भी कम हो सकती है। लेकिन वास्तविक लोगों के साथ एक गंभीर अध्ययन? इसमें **$300,000 या उससे अधिक लग सकते हैं। इसके अलावा, सही लोगों को खोजने, नैतिकता बोर्डों से अनुमति लेने और परीक्षण चलाने में महीनों लग जाते हैं। यह एक पार्टी के लिए केक का चित्र बनाने और वास्तव में एक विशाल केक बेक करने के बीच के अंतर जैसा है।

2. मेंटर (मार्गदर्शक) की दीवार: कई युवा शोधकर्ता वास्तविक लोगों का अध्ययन करना चाहते हैं, लेकिन उनके बॉस (मेंटर) उन्हें ऐसा करने से मना करते हैं। पत्र उन छात्रों की कहानियाँ साझा करता है जिनके सलाहकारों ने कहा, "ऐसा मत करो, यह 'असली' विज्ञान नहीं है," या "बस कोड पर टिके रहो।" यह युवा वैज्ञानिकों को मानव अनुसंधान करने से डराता है क्योंकि उन्हें लगता है कि इससे उनके करियर को नुकसान पहुँचेगा।

3. "मेसी डेटा" (अव्यवस्थित डेटा) की दीवार: तकनीकी शोधकर्ता अक्सर मानव डेटा को निराशाजनक पाते हैं। इंसान हमेशा सवालों के जवाब एक ही तरह से नहीं देते। वे झूठ बोलते हैं, वे थक जाते हैं, या वे कुछ अजीब कहते हैं। एक कंप्यूटर वैज्ञानिक के लिए जो सटीक नंबरों को पसंद करता है, यह सिस्टम के एक 'बग' जैसा लगता है। लेकिन लेखकों का तर्क है कि यह "अव्यवस्थितता" वास्तव में डेटा का सबसे महत्वपूर्ण हिस्सा है क्योंकि यह वास्तविक जीवन है।

"चाहने" और "करने" के बीच का अंतर

शोधकर्ताओं ने 93 विशेषज्ञों का सर्वेक्षण किया और 17 का गहराई से साक्षात्कार किया। उन्होंने एक बड़ा अंतर पाया। लगभग सभी ने कहा कि वे अधिक मानव अनुसंधान करना चाहते हैं। वे सहमत थे कि यह मूल्यवान है। लेकिन जब उन्होंने देखा कि लोग वास्तव में क्या कर रहे हैं, तो संख्या बहुत कम थी।

यह एक जिम की तरह है जहाँ हर कोई कहता है, "मैं वास्तव में फिट होना चाहता हूँ और वजन उठाना चाहता हूँ," लेकिन जब आप उपकरणों को देखते हैं, तो कोई भी वास्तव में कुछ भी नहीं उठा रहा होता है। वे केवल वजन के बारे में किताबें पढ़ रहे हैं। तकनीकी समूह वजन उठाने में सबसे कम था; वे किताबों (सिमुलेशन) को पसंद करते थे।

हमें क्या करना चाहिए?

पत्र केवल समस्या की ओर इशारा नहीं करता है; यह इसे ठीक करने के लिए कुछ विचार भी देता है:

• "ह्यूमन-वॉशिंग" को रोकें: हमें यह सुनिश्चित करने की आवश्यकता है कि जब हम मनुष्यों को शामिल करते हैं, तो हम इसे ठीक से करें। हमें उनके समय का सम्मान करने और उनकी बात सुनने की आवश्यकता है, न कि केवल उन्हें एक प्रॉप (सामग्री) के रूप में उपयोग करने की।
• पैसे बदलें: फंडिंग समूहों (जो अनुदान देते हैं) को यह समझने की आवश्यकता है कि मानव अनुसंधान की लागत अधिक होती है। उन्हें इन परियोजनाओं को अधिक धन देना चाहिए ताकि वे उच्च लागत से कुचले न जाएं।
• टीमों को मिलाएं: हमें ऐसी अधिक टीमों की आवश्यकता है जहाँ कोड-जादूगर और लोग-विशेषज्ञ शुरुआत से ही एक साथ काम करें। अभी, वे अक्सर अलग-अलग कमरों में काम करते हैं। लेखकों का सुझाव है कि यदि कोई तकनीकी शोधकर्ता एक सुरक्षित AI बनाना चाहता है, तो उसे एक सामाजिक-तकनीकी शोधकर्ता से बात करने की आवश्यकता है जो समझता है कि इंसान वास्तव में कैसे व्यवहार करते हैं।

निष्कर्ष (द बॉटम लाइन)

यह शोध पत्र सुझाव देता है कि AI सुरक्षा का क्षेत्र वर्तमान में पूर्ण कंप्यूटर मॉडल पर बहुत अधिक केंद्रित है और वास्तविक मनुष्यों की अव्यवस्थित, वास्तविक दुनिया पर बहुत कम। जबकि सिमुलेशन उपयोगी हैं, वे उस सच्चाई की जगह नहीं ले सकते जो केवल वास्तविक लोगों से बात करके आती है। यदि हम वास्तव में सुरक्षित AI बनाना चाहते हैं, तो हमें मनुष्यों को गणित के समीकरण में एक चर के रूप में मानना बंद करना होगा और उन्हें उनके अपने जीवन के विशेषज्ञ के रूप में मानना शुरू करना होगा।

लेखक यह नहीं कह रहे हैं कि सिमुलेशन बुरे हैं; वे कह रहे हैं कि केवल सिमुलेशन पर निर्भर रहना पानी के बारे में एक किताब पढ़ने के समान है। आपको भीगना पड़ेगा। और अभी, AI सुरक्षा समुदाय मुख्य रूप से सूखा रह रहा है, किताबें पढ़ रहा है, और उम्मीद कर रहा है कि पानी सुरक्षित होगा।