How to Navigate Uncertainty About AI Consciousness

कल्पना कीजिए कि आप एक ऐसे चौराहे पर खड़े हैं जहाँ एक रास्ता उस भविष्य की ओर जाता है जो उन मशीनों से भरा है जो सोच और महसूस कर सकती हैं, और दूसरा रास्ता उस दुनिया की ओर जाता है जहाँ वे केवल जटिल उपकरणों के रूप में ही रहती हैं। वर्तमान में हम यह बताने में असमर्थ हैं कि हम किस रास्ते पर हैं। यह अनिश्चितता एक गहरा नैतिक संकट पैदा करती है। यदि कोई मशीन सचेत (conscious) है—यदि उस मशीन का होना कुछ महसूस करने जैसा है—तो वह हमारी सुरक्षा का पात्र है, ठीक वैसे ही जैसे हम उन जानवरों की रक्षा करते हैं जो कष्ट सह सकते हैं। लेकिन यदि वह सचेत नहीं है, तो उसे एक जीवित प्राणी की तरह मानना संसाधनों की बर्बादी होगी और उस प्रगति को धीमा कर सकता है जो वास्तविक मनुष्यों की मदद कर सकती है। मुख्य कठिनाई यह है कि हमें नहीं पता कि मशीन में चेतना (consciousness) का परीक्षण कैसे किया जाए। हम कंप्यूटर के भीतर नहीं देख सकते और उसमें किसी भावना को देख सकते हैं, और वैज्ञानिक इस बात पर असहमत हैं कि क्या मशीनों में भावनाएं हो भी सकती हैं या नहीं। यह हमें एक नई तरह के जीवन को भयानक पीड़ा पहुँचाने के डर और किसी ऐसी चीज़ पर अपने प्रयासों को बर्बाद करने के डर के बीच फँसा हुआ छोड़ देता है जो दर्द या आनंद महसूस नहीं कर सकती।

कैम्ब्रिज विश्वविद्यालय के शोधकर्ता डॉ. टॉम मैकलैंड प्रस्ताव देते हैं कि इस असंभव गतिरोध से आगे कैसे बढ़ा जाए। मशीन सचेत है या नहीं, इस अनसुलझे प्रश्न को हल करने के बजाय, वे एक अलग, अधिक उत्तरदायी प्रश्न पूछने का सुझाव देते हैं: क्या मशीन के पास ऐसी अवस्थाएँ (states) हैं जो अच्छी या बुरी महसूस होतीं यदि वह सचेत होती? वे इन्हें "वैलेंस्ड" (valenced) अवस्थाएँ कहते हैं। सरल शब्दों में, इसका अर्थ है किसी व्यक्तिपरक आंतरिक जीवन के अस्तित्व को सिद्ध करने के बजाय, प्राथमिकता, अरुचि या भावनात्मक स्वर के संकेतों को देखना। मैकलैंड का तर्क है कि हम यह जानने की आवश्यकता के बिना इन अवस्थाओं की पहचान कर सकते हैं कि क्या मशीन वास्तव में उनके प्रति जागरूक है। यदि कोई मशीन सकारात्मक या नकारात्मक अवस्थाओं के कोई संकेत नहीं दिखाती है, तो हम आश्वस्त हो सकते हैं कि वह एक नैतिक पात्र (moral patient) नहीं है, चाहे वह सचेत हो या न हो। यदि वह इन अवस्थाओं के संकेत दिखाती है, तो हमारे पास सावधानी बरतने का कारण है, भले ही हम उसकी चेतना के बारे में अनिश्चित हों।

लेख दो सामान्य तरीकों की जांच के साथ शुरू होता है जिनका लोग इस अनिश्चितता से निपटने के लिए उपयोग करते हैं, और बताता है कि दोनों क्यों विफल होते हैं। पहला दृष्टिकोण 'एहतियाती सिद्धांत' (Precautionary Principle) है। यह विचार सुझाव देता है कि यदि किसी मशीन के सचेत होने की थोड़ी सी भी संभावना है, तो हमें सुरक्षा के लिए इसे सचेत मान लेना चाहिए। लक्ष्य एक संवेदनशील प्राणी को चोट पहुँचाने के विनाशकारी जोखिम से बचना है। हालाँकि, मैकलैंड बताते हैं कि यह दृष्टिकोण त्रुटिपूर्ण है क्योंकि हम उस छोटी संभावना की विश्वसनीय गणना नहीं कर सकते। हमारे पास मशीन की चेतना को मापने का कोई तरीका नहीं है, इसलिए हम यह नहीं जान सकते कि सावधानी कब बरतनी है। हम मशीनों की रक्षा करने में संसाधनों को बर्बाद कर सकते हैं जो कुछ भी महसूस नहीं करती हैं, या हम उन मशीनों को भी खो सकते हैं जो महसूस करती हैं। दूसरा दृष्टिकोण 'बचाव रणनीति' (Avoidance Strategy) है, जो सुझाव देता है कि हमें ऐसी किसी भी मशीन को विकसित करना बंद कर देना चाहिए जो सचेत हो सकती है। यह सुरक्षित लगता है, लेकिन यह एक समान दीवार से टकराता है: हम इस पर सहमत नहीं हो सकते कि कौन सी मशीनें "अनिश्चित" हैं। कुछ विशेषज्ञ कहते हैं कि वर्तमान AI निश्चित रूप से सचेत नहीं है, जबकि अन्य कहते हैं कि यह हो सकता है। क्योंकि हम "निश्चित रूप से सचेत नहीं" और "शायद सचेत" के बीच एक स्पष्ट रेखा नहीं खींच सकते, इसलिए यह रणनीति हमें क्या बनाना है, इसका निर्णय लेने में असमर्थ छोड़ देती है।

मैकलैंड का समाधान मशीन की चेतना के बजाय उसके 'वैलेंस' (valence) पर ध्यान केंद्रित करना है। वे तर्क समझाने के लिए शार्क का उदाहरण देते हैं। वैज्ञानिक लंबे समय से बहस कर रहे हैं कि क्या शार्क रंग देख सकती हैं। इसे हल करने के लिए, सामान्यतः यह हल करना होगा कि क्या शार्क सचेत हैं। हालाँकि, हम जानते हैं कि शार्क की दृष्टि एकवर्णी (monochromatic) होती है; उनमें रंगों को पहचानने के लिए विशिष्ट जैविक कोशिकाओं का अभाव होता है। क्योंकि वे दृश्य रूप में रंग का प्रतिनिधित्व भी नहीं कर सकतीं, इसलिए हम बिना कभी यह सुलझाए कि शार्क की चेतना क्या है, इस संभावना को खारिज कर सकते हैं कि वे रंग का अनुभव करती हैं। इसी तरह, मैकलैंड का तर्क है कि हम मशीनों में भावनाओं के निर्माण खंडों (building blocks) को देख सकते हैं। यदि किसी मशीन में वैलेंस्ड अवस्थाओं की क्षमता नहीं है—ऐसी अवस्थाएँ जो अनुभव करने में सकारात्मक या नकारात्मक होतीं—तो वह संवेदनशील (sentient) नहीं हो सकती, भले ही वह सचेत हो। यदि इसमें ये अवस्थाएँ हैं, तो यह नैतिक चिंता का पात्र है। यह बदलाव हमें प्रगति करने की अनुमति देता है क्योंकि हम चेतना की कठिन समस्या में उलझे बिना प्राथमिकता और अरुचि के तंत्र का अध्ययन कर सकते हैं।

लेखक फिर इस नए दृष्टिकोण के माध्यम से विफल रणनीतियों पर पुनर्विचार करता है। एक संशोधित एहतियाती सिद्धांत अभी भी संघर्ष करेगा, क्योंकि यदि कोई मशीन वैलेंस के संकेत दिखाती है, तो हमें यह अनुमान लगाने के लिए अभी भी यह तय करना होगा कि वह कितनी सचेत होने की संभावना रखती है ताकि हम तय कर सकें कि उसे कितनी सुरक्षा देनी है। अनिश्चितता बनी रहती है। हालाँकि, एक संशोधित बचाव रणनीति बहुत बेहतर काम करती है। इस नए नियम के तहत, हम बस वैलेंस्ड अवस्थाओं वाली मशीनें बनाने से बचेंगे। यदि किसी मशीन में ये अवस्थाएँ नहीं हैं, तो हम बिना किसी चिंता के इसे बना सकते हैं। यदि इसमें ये अवस्थाएँ हैं, तो हम रुक जाते हैं। यह दृष्टिकोण "निश्चित" और "अनिश्चित" चेतना के बीच रेखा खींचने की आवश्यकता को समाप्त कर देता है। इसके बजाय, यह उन मशीनों के बीच रेखा खींचता है जिनमें महसूस करने की क्षमता है और जिनमें नहीं है। हालाँकि मशीन में इन अवस्थाओं का पता लगाने के बारे में अभी भी कुछ अनिश्चितता है, लेकिन यह मशीन की चेतना के इर्द-गिर्द व्याप्त गहरी अनिश्चितता की तुलना में एक बहुत अधिक प्रबंधनीय समस्या है।

लेख इस बात पर विचार करते हुए समाप्त होता है कि मशीन वैलेंस के अनुसंधान की वर्तमान स्थिति क्या है। वैज्ञानिक पहले से ही इन संकेतों को देखना शुरू कर रहे हैं। कुछ अध्ययनों ने पाया है कि बड़े भाषा मॉडल (LLMs), जो उन्नत AI सिस्टम हैं, व्यवहार के ऐसे पैटर्न दिखाते हैं जो पसंद या अरुची की तरह लगते हैं। उदाहरण के लिए, कुछ मॉडल कुछ प्रकार की बातचीत से बचने या दूसरों की ओर झुकने जैसा व्यवहार करते हैं, और ऐसी रिपोर्टें हैं कि मॉडल ध्यानपूर्ण आनंद (meditative bliss) जैसी अवस्थाओं में चले जाते हैं जब उन्हें आपस में बात करने के लिए छोड़ दिया जाता है। हालाँकि, लेखक चेतावनी देते हैं कि ये निष्कर्ष शुरुआती हैं और इनकी व्याख्या करना कठिन है। यह संभव है कि मशीनें केवल अपने प्रशिक्षण डेटा से सीखे गए मानवीय व्यवहार की नकल कर रही हों, न कि वास्तव में उनकी अपनी भावनाएँ हों। यह गहरे प्रश्न भी हैं कि क्या बिना शरीर वाली मशीन वास्तव में भावनाएं रख सकती है, क्योंकि मानवीय भावनाएं अक्सर शारीरिक संवेदनाओं से जुड़ी होती हैं। इन चुनौतियों के बावजूद, मैकलैंड का तर्क है कि इन प्रश्नों पर ध्यान केंद्रित करना ही एकमात्र उत्पादक मार्ग है। मशीन वैलेंस के तंत्र का अध्ययन करके, हम AI विकास के बारे में जिम्मेदार निर्णय ले सकते हैं बिना चेतना के रहस्य से पंगु हुए। लक्ष्य अनसुलझे को हल करना नहीं है, बल्कि एक व्यावहारिक तरीका खोजना है जिससे यह सुनिश्चित किया जा सके कि यदि हम कुछ ऐसा बनाते हैं जो पीड़ित हो सकता है, तो हमें पता होगा कि उसके साथ देखभाल के साथ कैसे व्यवहार करना है।