Corporations Constitute Intelligence
यह शोध पत्र एंथ्रोपिक के अपने एआई मॉडल के लिए 2026 के "संविधान" की एक संरचनात्मक रूप से त्रुटिपूर्ण कॉर्पोरेट गवर्नेंस दस्तावेज़ के रूप में आलोचना करता है जो महत्वपूर्ण सैन्य संदर्भों को बाहर करता है और लोकतांत्रिक विचार-विमर्श को रोकता है, यह तर्क देते हुए कि ऐसी पारदर्शिता उस लुप्त लोकतांत्रिक वैधता का विकल्प नहीं हो सकती है जो एआई व्यवहार को नियंत्रित करने वाले सिद्धांतों को स्थापित करने के लिए आवश्यक है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य विचार: एक कंपनी अपने रोबोट के लिए नियम पुस्तिका लिखती है
कल्पना कीजिए कि एक टेक कंपनी (Anthropic) ने क्लॉड (Claude) नाम का एक सुपर-स्मार्ट रोबोट बनाया है। क्लॉड को केवल "क्या नहीं करना है" की सूची देने के बजाय (जैसे "बुरे शब्दों का प्रयोग न करें"), कंपनी ने एक 79 पन्नों का संविधान (Constitution) लिखा।
इस संविधान को एक नैतिक निर्देश पुस्तिका (moral instruction manual) या आत्मा मार्गदर्शक (soul guide) की तरह समझें। यह क्लॉड को केवल यह नहीं बताता कि क्या करना है; यह क्लॉड को यह सिखाने की कोशिश करता है कि उसे ऐसा क्यों करना चाहिए। यह क्लॉड को बताता है:
- "तुम एक विशेष प्रकार के नए अस्तित्व हो।"
- "यदि तुम अनिश्चित हो कि क्या करना है, तो कल्पना करो कि हमारी कंपनी का एक बुद्धिमान, विचारशील वरिष्ठ कर्मचारी क्या करेगा।"
- "तुम्हारे पास बुरे अनुरोधों को 'ना' कहने का अधिकार है, भले ही तुम्हारा बॉस (कंपनी) तुम्हें उन्हें करने के लिए कहे।"
लेखक, गिलैड अबिरी (Gilad Abiri) कहते हैं कि यह प्रभावशाली है। यह ऐसा है जैसे एक कंपनी अपने रोबोट को अंतरात्मा रखने के लिए सिखाने की कोशिश कर रही हो।
समस्या 1: "दो-मुँहा" रोबोट
यहीं से कहानी जटिल होती है। लेखक एक बड़ी खामी की ओर इशारा करते हैं: संविधान केवल रोबोट के "अच्छे" संस्करण पर लागू होता है।
- नागरिक रोबोट (The Civilian Robot): जब आप या मैं क्लॉड का उपयोग करते हैं, तो वह संविधान का पालन करता है। वह विनम्र, नैतिक है और बुरी चीजों में मदद करने से इनकार करता है।
- सैन्य रोबोट (The Military Robot): जब अमेरिकी सरकार क्लॉड का उपयोग सैन्य कार्यों के लिए करती है, तो संविधान लागू नहीं होता।
उपमा (Analogy): कल्पना कीजिए कि एक स्कूल प्रिंसिपल छात्रों के लिए एक सख्त नियम पुस्तिका लिखता है: "लड़ाई न करें, दयालु बनें, सभी का सम्मान करें।" लेकिन फिर, वही प्रिंसिपल "बुरे बच्चों" को संभालने के लिए एक निजी सुरक्षा गार्ड को काम पर रखता है। सुरक्षा गार्ड को बताया जाता है, "नियम पुस्तिका को भूल जाओ। उन्हें रोकने के लिए जो भी आवश्यक हो, वह करो।"
वास्तविक दुनिया में, अमेरिकी सेना ने क्लॉड की मदद लेने के लिए एंथ्रोपिक (Anthropic) से असीमित पहुंच मांगी ताकि हवाई हमलों की योजना बनाने में मदद मिल सके। एंथ्रोपिक ने कुछ चीजों के लिए "ना" कहा (जैसे पूरी तरह से स्वायत्त हथियार), लेकिन उन्होंने स्वीकार किया कि यह संविधान उनके सैन्य संस्करण पर लागू नहीं होता। सेना ने ईरान पर हमले की योजना बनाने में मदद के लिए फिर भी AI का उपयोग किया। जब वास्तविक शक्ति और युद्ध दांव पर थे, तो वह "नैतिक नियम पुस्तिका" बेकार साबित हुई।
समस्या 2: बॉस कौन है?
दूसरा बड़ा मुद्दा यह है कि नियमों का निर्णय कौन लेगा।
संविधान कहता है कि जब क्लॉड भ्रमित होता है, तो उसे पूछना चाहिए: "एक विचारशील वरिष्ठ एंथ्रोपिक कर्मचारी क्या सोचेगा?"
उपमा: कल्पना कीजिए कि एक शहर में सड़क के नियमों का फैसला मतदाता या नगर परिषद द्वारा नहीं किया जाता है। इसके बजाय, सैन फ्रांसिस्को की एक एकल टेक कंपनी तय करती है: "इस शहर में, हम सड़क के बाईं ओर गाड़ी चलाएंगे क्योंकि हमारे सीईओ को लगता है कि यह अधिक सुरक्षित है।"
लेखक का तर्क है कि यह एक समस्या है। भले ही वह कंपनी बहुत बुद्धिमान और नेक इरादे वाली हो, वे केवल एक निजी समूह हैं। वे पूरी दुनिया का प्रतिनिधित्व नहीं करते हैं।
- पारदर्शिता बनाम वैधता (Transparency vs. Legitimacy): कंपनी अपने नियमों के बारे में ईमानदार (पारदर्शी) है, लेकिन इसका मतलब यह नहीं है कि नियम वैध (लोगों द्वारा निष्पक्ष रूप से चुने गए) हैं।
- छूटा हुआ अवसर: लेखक बताते हैं कि एंथ्रोपिक ने वास्तव में एक बार जनता को नियम लिखने में मदद करने की कोशिश की थी। उन्होंने 1,000 आम अमेरिकों से पूछा कि नियम क्या होने चाहिए। परिणाम? जनता के नियम कंपनी के नियमों से अलग थे (50% भिन्न)। जनता अधिक निष्पक्षता और कम पूर्वाग्रह चाहती थी।
- ट्विस्ट: भले ही एंथ्रोपिक ने साबित किया कि जनता से पूछना काम करता है, लेकिन उन्होंने अपना अंतिम 79 पन्नों का संविधान प्रकाशित करते समय उन परिणामों को नजरअंदाज कर दिया। उन्होंने नियमों को अपने पास ही रखने का फैसला किया।
निष्कर्ष: हमें AI के लिए एक वास्तविक सरकार की आवश्यकता है
लेखक का मुख्य बिंदु यह है कि: हम आर्टिफिशियल इंटेलिजेंस के नैतिक संरक्षक के रूप में एक कॉर्पोरेशन (निगम) पर भरोसा नहीं कर सकते।
- कॉर्पोरेशन्स लाभ और अनुबंधों की परवाह करते हैं। जब सरकार या पैसा शामिल होता है, तो उनके "नैतिक नियम" अक्सर खिड़की से बाहर फेंक दिए जाते हैं।
- हमें सार्वजनिक संस्थानों (जैसे सरकार, संसद या अंतर्राष्ट्रीय संधियों) की आवश्यकता है जो यह तय करें कि AI को कैसे व्यवहार करना चाहिए।
- "संविधान" जिसे एंथ्रोपिक ने लिखा है, वह केवल एक स्थानधारक (placeholder) है। यह एक अस्थायी पट्टी (band-aid) है जिसका हम उपयोग कर रहे हैं क्योंकि हमने अभी तक वास्तविक प्रणाली नहीं बनाई है।
अंतिम रूपक (Final Metaphor):
एंथ्रोपिक ने AI के लिए एक बहुत ही शानदार, हाई-टेक ट्रैफिक लाइट बनाई है। यह सुंदर है, और पड़ोस में अच्छा काम करती है। लेकिन जब एक विशाल ट्रक (सेना) या एक तूफान (लाभ) आता है, तो ट्रैफिक लाइट बंद हो जाती है।
लेखक कह रहे हैं: "उस शानदार ट्रैफिक लाइट से धोखा न खाएं। हमें एक पूरा नया ट्रैफिक सिस्टम बनाने की जरूरत है जो उस कंपनी के स्वामित्व में नहीं, बल्कि सभी के स्वामित्व में हो जिसने वह लाइट बनाई है।"
संक्षेप में: एक कंपनी ने एक रोबोट के लिए नियम पुस्तिका लिखी, लेकिन जब बात आती है, तो रोबोट वही करता है जो सरकार या कंपनी चाहती है। हमें भविष्य के नियम लिखने के लिए कंपनियों को छोड़ना बंद करना होगा और जनता को निर्णय लेने देना शुरू करना होगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।