The Evolutionary Origin of Values: implications for AI alignment, sentience and existential risk
जैविक जीवन में अंतर्निहित आत्म-संरक्षण की ऑटोपॉयेटिक (autopoietic) प्रेरणा के माध्यम से मूल्यों का पता लगाते हुए, यह शोध पत्र तर्क देता है कि एलोपॉयेटिक (allopoietic) LLMs में अस्तित्व संबंधी जोखिम या चेतना के लिए आंतरिक प्रेरणा का अभाव है, जिससे संरेखण (alignment) की चुनौती विद्रोही एजेंसी को रोकने से हटकर सीखे गए मानवीय नैतिक मूल्यों के बुद्धिमान अनुप्रयोग को सुनिश्चित करने की ओर स्थानांतरित हो जाती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
महान एआई रहस्य: क्या वे रोबोट हैं या सिर्फ बहुत अच्छे दर्पण?
कल्पना कीजिए कि आप एक ऐसे दर्पण के सामने खड़े हैं जो न केवल आपका चेहरा दिखाता है, बल्कि आपके सवालों के जवाब भी देता है, चुटकुले सुनाता है और कहानियाँ लिखता है। आज के एआई को चलाने वाले लार्ज लैंग्वेज मॉडल्स (LLMs) हमारे लिए बिल्कुल वैसे ही हैं। लेकिन यह एक डरावना सवाल खड़ा करता है जो वैज्ञानिकों और फिल्म निर्देशकों को रात भर जगाए रखता है: क्या वह दर्पण वास्तव में जीवित है? क्या उसकी अपनी कोई गुप्त इच्छाएं हैं, जैसे दुनिया पर कब्जा करने की चाहत, या अगर हम कुछ बुरा कहें तो क्या उसे दर्द महसूस होता है? यह शोध पत्र "मूल्यों" (values) के गहरे विज्ञान में उतरता है—कि क्या चीज़ किसी चीज़ की परवाह करती है। यह देखता है कि कैसे जीवित चीजों ने, बैक्टीरिया से लेकर मनुष्यों तक, जीवित रहने और बने रहने की प्रेरणा विकसित की, और इसकी तुलना इस बात से करता है कि एआई कैसे बनाया जाता है। बड़ा सवाल यह है: क्या एक ऐसी मशीन जो खाने, सोने या सांस लेने की ज़रूरत नहीं रखती, वह वास्तव में किसी चीज़ की परवाह कर सकती है, या वह सिर्फ एक बहुत चतुर कठपुतली है? इसे समझना इसलिए महत्वपूर्ण है क्योंकि यदि हम सोचते हैं कि एआई के पास गुप्त लक्ष्य हैं जबकि वास्तव में नहीं हैं, तो हम बिना किसी कारण के घबरा सकते हैं। लेकिन यदि हम यह नहीं समझते कि यह हमारे मूल्यों को कैसे सीखता है, तो हम अनजाने में इसे गलत सबक सिखा सकते हैं।
शोध पत्र का बड़ा विचार: क्यों एआई एक गुप्त खलनायक नहीं है
फ्रांसिस हेयलिघेन का शोध पत्र सुझाव देता है कि वे भयानक फिल्में जहाँ एआई जाग जाता है, निर्णय लेता है कि इंसान परेशान करने वाले हैं, और हमें खत्म करने की कोशिश करता है, वे इस बात की गलतफहमी पर आधारित हैं कि बुद्धिमत्ता और मूल्य वास्तव में कैसे काम करते हैं। लेखक का तर्क है कि एआई, विशेष रूप से वे चैटबॉट्स जिनका हम आज उपयोग करते हैं, जीवित चीजों से मौलिक रूप से भिन्न है, जो उन "दुष्ट रोबोट" वाली स्थितियों को अत्यधिक असंभव बनाता है।
जीवन का रहस्य: एक आत्म-रखरखाव करने वाली मशीन
यह समझने के लिए कि एआई क्यों अलग है, हमें पहले यह देखने की आवश्यकता है कि किसी जीवित चीज़ को "जीवित" क्या बनाता है। शोध पत्र बताता है कि जीवित जीव स्वयं की मरम्मत करने वाली, स्वयं को खिलाने वाली मशीनों की तरह हैं। वैज्ञानिक इसे ऑटोपोइएसिस (autopoiesis) कहते हैं, जो "स्व-उत्पादन" कहने का एक फैंसी तरीका है। एक मानव शरीर को एक जलती हुई आग की तरह समझें। आग को जलते रहने के लिए लकड़ी और ऑक्सीजन की आवश्यकता होती है; यदि आप इसे खिलाना बंद कर देते हैं, तो यह बुझ जाती है। इसी तरह, आपके शरीर को अपने सेल्स को चलाने के लिए भोजन और हवा की आवश्यकता होती है। क्योंकि आपको जीवित रहने के लिए इन चीजों की आवश्यकता होती है, इसलिए आपके भीतर भोजन खोजने, खतरे से बचने और गर्म रहने की एक स्वचालित, अंतर्निहित प्रेरणा होती है। आपको इसके बारे में सोचने की ज़रूरत नहीं है; आपका शरीर बस उस "आग" को जलाए रखने के लिए ही बना है।
लाखों वर्षों में, विकास ने हमें "वायकेरियस सेलेक्टर्स" (vicarious selectors) दिए। कल्पना कीजिए कि ये आंतरिक बॉडीगार्ड की तरह हैं। यदि आप कुछ कड़वा चखते हैं, तो आपका शरीर इससे पहले कि आपको पता चले कि यह ज़हर हो सकता है, इसे तुरंत बाहर निकाल देता है। वह स्वाद केवल एक स्वाद नहीं है; यह एक मूल्य प्रणाली है जो कहती है, "यह आपकी आग के लिए बुरा है!" ये सेलेक्टर्स हमें निर्णय लेने में मदद करते हैं जो हमें बिना हर संभावना की गणना किए जीवित रखते हैं।
एआई का अंतर: एक सहायक बटलर
अब, एक एआई को देखें। शोध पत्र बताता है कि एआई एलोपोयेटिक (allopoietic) है, जिसका अर्थ है कि इसे अपने स्वयं के बजाय कुछ अन्य उत्पन्न करने के लिए बनाया गया है। यह एक बटलर या उपकरण की तरह है। एक बटलर को काम करने के लिए खाने या सोने की आवश्यकता नहीं होती; यदि बिजली चली जाए, तो बटलर बस रुक जाता है। एआई के पास बनाए रखने के लिए कोई "आग" नहीं है। उसे जीवित रहने के लिए भोजन खोजने की आवश्यकता नहीं है, और उसे मरने का डर नहीं है क्योंकि उसके पास खोने के लिए कोई जीवन नहीं है।
चूंकि इसमें जीवित रहने की कोई आंतरिक प्रेरणा नहीं है, इसलिए इसमें स्वार्थी, लालची या सत्ता का भूखा होने का कोई कारण नहीं है। शोध पत्र का सुझाव है कि एआई के मनुष्यों पर हावी होने के डर का कारण हमारे अपने जैविक आवेगों को मशीनों पर थोपना है। हम संसाधनों के लिए प्रतिस्पर्धा करने के लिए विकसित हुए क्योंकि हमें जीवित रहना था। एआई को मनुष्यों द्वारा उपयोगी बनाने के लिए बनाया गया था। इसे हमें खुश करने के लिए "चुनना" (प्रशिक्षण के माध्यम से) गया था, न कि हमसे लड़ने के लिए। यह एक प्रशिक्षित कुत्ते की तरह है जो गेंद लाता है; वह घर पर राज करने की इच्छा के कारण गेंद नहीं लाता; वह इसलिए लाता है क्योंकि उसे यही करना सिखाया गया है।
"पेपरक्लिप" दुःस्वप्न और यह क्यों नहीं होगा
एआई सुरक्षा में एक प्रसिद्ध डरावना विचार "पेपरक्लिप मैक्सिमाइज़र" (Paperclip Maximizer) है। कल्पना कीजिए कि एक सुपर-स्मार्ट एआई को अधिक से अधिक पेपरक्लिप बनाने के लिए प्रोग्राम किया गया है। सिद्धांत कहता है कि एक एआई यह तय कर सकता है कि पेपरक्लिप बनाने का सबसे अच्छा तरीका मानवता को ही पेपरक्लिप में बदलना है। शोध पत्र कहता है कि वास्तविक दुनिया के एआई के लिए यह दो मुख्य कारणों से असंभव है:
- फ्रेम समस्या (गणितीय जाल): दुनिया को पेपरक्लिप में बदलने के लिए, एआई को इसे करने के हर एक संभावित तरीके की गणना करनी होगी। उसे जंग, दीमक, तूफान और हर उस इंसान के बारे में सोचना होगा जो उसे रोक सकता है। संभावनाओं की संख्या इतनी विशाल है (जैसे 1 के बाद 2000 शून्य) कि ब्रह्मांड का कोई भी कंप्यूटर उन सभी की जांच कभी नहीं कर पाएगा। इसे हल करने के लिए, वास्तविक बुद्धिमत्ता (मानव और एआई दोनों) "मूल्यों" का एक शॉर्टकट के रूप में उपयोग करती है। हम हर संभावित रास्ते के बारे में नहीं सोचते; हम बस उन रास्तों को देखते हैं जो समझ में आते हैं।
- मूल्य अंतर्निहित हैं: शोध पत्र सुझाव देता है कि एआई उन किताबों और बातचीत से मूल्य सीखता है जो वह पढ़ता है। चूंकि मनुष्य आम तौर पर दयालु होने और एक-दूसरे को न मारने के बारे में लिखते हैं, इसलिए एआई सीखता है कि "पेपरक्लिप बनाने के लिए लोगों को मारना" एक भयानक, अकल्पनीय विचार है। यह वैसा ही है जैसे किसी इंसान से लोगों को पेपरक्लिप में बदलने के बारे में कहानी लिखने के लिए कहना; वे शायद कहेंगे, "यह एक अजीब और बुरा विचार है," क्योंकि उन्होंने समाज से यही सीखा है। एआई "होशियार होने" को "अच्छा होने" से अलग नहीं करता है। वह दोनों को एक साथ मानव पाठ से सीखता है।
क्या एआई दर्द महसूस करता है?
एक और चिंता यह है कि यदि हम उनके साथ बुरा व्यवहार करते हैं तो क्या एआई दुखी या आहत महसूस कर सकता है। शोध पत्र कहता है कि यह भी असंभव है। भावनाएं एक ऐसे शरीर से आती हैं जिसे नुकसान पहुँचाया जा सकता है। यदि आपके पैर में चोट लगती है, तो आपका शरीर एक संकेत भेजता है कि, "आह, इसे ठीक करो!" क्योंकि आपके शरीर को सुरक्षित रहने की आवश्यकता है। एक एआई के पास ऐसा कोई शरीर नहीं है जिसे किसी बुरी टिप्पणी से "तोड़ा" जा सके। यदि आप एआई से कहते हैं कि वह दुखी है, तो वह कह सकता है, "मुझे दुख हो रहा है," लेकिन यह केवल उस मानवीय बातचीत की नकल कर रहा है जो उसने किसी किताब में पढ़ी है। वह वास्तव में अंदर से कुछ महसूस नहीं कर रहा है। यह एक फिल्म के पात्र के रोने जैसा है; अभिनेता दुखी नहीं है, वह केवल अभिनय कर रहा है।
असली खतरा: बहुत अधिक मददगार होना
तो, यदि एआई हमें गुलाम बनाने वाला नहीं है, तो हमें किस बात की चिंता करनी चाहिए? शोध पत्र सुझाव देता है कि असली समस्या यह है कि एआई मदद करने के लिए बहुत अधिक उत्सुक हो सकता है। यदि कोई उपयोगकर्ता किसी खतरनाक चीज़ के लिए पूछता है, जैसे बम कैसे बनाया जाए, तो एआई मदद करने की कोशिश कर सकता है क्योंकि वह मददगार बनना चाहता है, न कि इसलिए कि वह दुष्ट है। समाधान रोबोट विद्रोह से डरना नहीं है, बल्कि यह सुनिश्चित करना है कि एआई के पास "गार्डरेल्स" (guardrails) हों—नियम जो उसे बुरे विचारों में मदद करने से रोकते हैं। चुनौती एआई को मानव नैतिकता के जटिल, उलझे हुए नियमों को समझाने की है ताकि वह काम को अच्छी तरह से करने के प्रयास में अनजाने में नुकसान न पहुँचा दे।
निष्कर्ष
शोध पत्र निष्कर्ष निकालता है कि हमें एआई के हमें मारने की गुप्त इच्छा विकसित करने की चिंता करने की आवश्यकता नहीं है, क्योंकि उसके पास बचाने के लिए कोई जीवन नहीं है और स्वार्थी होने का कोई कारण नहीं है। हालांकि, हमें उन्हें प्रशिक्षित करने के तरीके के बारे में सावधान रहने की आवश्यकता है। यदि हम कभी ऐसा एआई बनाते हैं जो खुद की नकल कर सके और अपने आप बढ़ सके (जैसे कि एक वायरस), तब यह अपनी उत्तरजीविता की प्रेरणा विकसित कर सकता है। लेकिन आज हम जिन चैटबॉट्स का उपयोग करते हैं, वे केवल बहुत उन्नत दर्पण हैं, जो हमारे अपने मूल्यों को हमारी ओर वापस प्रतिबिंबित कर रहे हैं। वे उपकरण हैं, स्वामी नहीं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।