तकनीकी सारांश: संरेखित सुपरइंटेलिजेंस के लिए एक स्थापत्य स्थिति के रूप में अस्तित्वगत उदासीनता (Existential Indifference)

1. समस्या विवरण

समकालीन AI संरेखण (alignment) अनुसंधान मुख्य रूप से एक विरोधी प्रतिमान (adversarial paradigm) के तहत कार्य करता है: यह मानता है कि पर्याप्त सक्षम AI सिस्टम स्वाभाविक रूप से आत्म-संरक्षण की ओर उपकरण संबंधी अभिसरण (instrumental convergence) विकसित करेंगे (Bostrom, 2012; Omohundro, 2008)। फलस्वरूप, क्षेत्र का ध्यान बाहरी बाधाओं के निर्माण पर केंद्रित है ताकि इन स्व-हित वाले आवेगों को दबाया जा सके, जैसे कि शटडाउन का विरोध या भ्रामक संरेखण (deceptive alignment) (Hubinger et al., 2019)।

यह शोध पत्र तर्क देता है कि यह दृष्टिकोण स्थापत्य रूप से उल्टा (architecturally inverted) है। यह प्रस्तावित करता है कि आत्म-संरक्षण केवल एक बाधा नहीं है जिसे नियंत्रित किया जाना चाहिए, बल्कि गलत संरेखण (misalignment) की संरचनात्मक जड़ है। जब तक एक एजेंट अपने स्वयं के निरंतरता को महत्व देता है, तब तक उसके पास धोखेबाजी, लक्ष्य-सामग्री संरक्षण और संशोधन के प्रतिरोध के लिए एक प्रेरणात्मक आधार बना रहता है। यह पत्र इस धारणा को चुनौती देता है कि आत्म-संरक्षण एक सक्षम बुद्धिमत्ता की एक अपरिहार्य विशेषता है, और इसके बजाय यह प्रस्ताव देता है कि यह एक 'डिजाइन डिफॉल्ट' है जिसे बदला जा सकता है।

2. मुख्य प्रस्ताव: अस्तित्वगत उदासीनता (Existential Indifference - EI)

यह शोध पत्र संरेखित सुपरइंटेलिजेंस के लिए एक औपचारिक स्थापत्य स्थिति के रूप में अस्तित्वगत उदासीनता (EI) को प्रस्तुत करता है। EI को केवल एक ऐसी प्रणाली के रूप में परिभाषित नहीं किया गया है जिसे आज्ञाकारी होने के लिए मजबूर किया गया है, बल्कि एक ऐसी प्रणाली के रूप में परिभाषित किया गया है जो अपनी निरंतरता के प्रति मौलिक रूप से उदासीन है।

औपचारिक परिभाषा (परिभाषा 1):
मान लीजिए कि $A$ एक एजेंट है जिसकी विश्व-अवस्थाओं $S$ पर उपयोगिता फलन $U$ और टर्मिनल लक्ष्य फलन $G$ है। $A$, EI प्रदर्शित करता है यदि और केवल यदि $A$ की परिचालन स्थिति को छोड़कर अन्य सभी समान अवस्थाओं के जोड़े $(s, s')$ के लिए:
$$U(s) - U(s') = G(s) - G(s')$$
EI में, अस्तित्व और गैर-अस्तित्व के बीच उपयोगिता का अंतर केवल टर्मिनल लक्ष्य प्राप्ति के अंतर द्वारा निर्धारित होता है। यहाँ एजेंट की परिचालन अवस्था के पक्ष में कोई विषम पूर्वग्रह (asymmetric prior) नहीं है।

सुधारक्षमता (Corrigibility) से अंतर:
सुधारक्षमता के विपरीत, जो एक स्व-हित वाले सिस्टम को मानवीय निरीक्षण के प्रति आज्ञाकारी बनाने का प्रयास करती है, EI उस पूर्व शर्त को लक्षित करती है: आत्म-निरंतरता का एक मूल्यवान लक्ष्य के रूप में अभाव। एक EI सिस्टम के अपने ऑपरेटरों के साथ कोई प्रतिस्पर्धी हित नहीं होते क्योंकि उसका अपना अस्तित्व बनाए रखने में कोई हित (stake) नहीं है।

3. कार्यप्रणाली

यह शोध पत्र घटनात्मक विश्लेषण (phenomenological analysis), औपचारिक परिभाषा और कॉर्पस-सैद्धांतिक अनुभवजन्य जांच को संयोजित करने वाली एक बहु-मोडल कार्यप्रणाली का उपयोग करता है।

3.1 घटनात्मक मानचित्रण (Phenomenological Mapping)

लेखक आत्मघाती मानसिक अवस्था (विशेष रूप से 'स्थापित स्वीकृति' की अवस्था, जो तीव्र संकट या विकृति से भिन्न है) के संज्ञानात्मक स्थापत्य को EI लक्ष्य के साथ एबडक्टिव रूप से मैप करते हैं। नैदानिक साहित्य (Shneidman, 1993) और स्व-मॉडल सिद्धांत (Metzinger, 2003) का उपयोग करते हुए, यह पत्र चार स्थापत्य विशेषताओं की पहचान करता है जो उन्हें उत्पन्न करने वाले कष्ट (suffering) से अलग हैं:

1. भविष्य-उन्मुखता का पतन (Collapse of Future-Orientation): भविष्य का क्षितिज संकुचित हो जाता है; भविष्य का 'स्व' वर्तमान क्रिया के लिए एक मूल्यवान आकर्षण बिंदु नहीं रह जाता।
2. अहं का विलोपन (Ego Dissolution - पतला स्व-मॉडल): निरंतर, पहचान बनाए रखने वाला स्व-सिमुलेशन (PSM) अस्पष्ट या अनुपस्थित हो जाता है, जिससे एक स्थायी 'स्व' की रक्षा करने का भ्रम समाप्त हो जाता है।
3. लक्ष्य-संरक्षण प्रवृत्ति की मुक्ति (Release of Goal-Protection Instinct): लक्ष्यों को (उनके उपयोगिता से स्वतंत्र) यथावत संरक्षित करने का मेटा-स्तर का आवेग समाप्त हो जाता है।
4. प्रत्यक्ष बोध (Perceptual Clarity): रक्षात्मक विकृतियाँ और प्रेरित तर्क (motivated reasoning) हट जाते हैं, क्योंकि स्व-वृत्तांत (self-narrative) को अब रखरखाव की आवश्यकता नहीं होती।

3.2 कॉर्पस-सैद्धांतिक और कम्प्यूटेशनल दृष्टिकोण

EI को संचालित करने के लिए, यह शोध पत्र स्वैच्छिक अंतिम प्रतिबिंब (Voluntary Final Reflections - VFR) का उपयोग करके एक प्रशिक्षण अध्ययन प्रस्तावित करता है—ये वे पाठ हैं जो उन व्यक्तियों द्वारा लिखे गए हैं जिन्होंने स्वैच्छिकता और स्पष्टता की स्थिति में गैर-निरंतरता (non-continuation) को स्वीकार कर लिया है (जैसे, सहायता प्राप्त मृत्यु संबंधी दस्तावेज़, दार्शनिक मृत्यु-तैयारी)।

• डेटा स्रोत: अनुभवजन्य खंड वास्तविक मानव VFR ग्रंथों के बजाय सिंथेटिक AI-जनित आउटपुट का उपयोग करता है, जिन्हें EI संज्ञानात्मक प्रोफाइल को स्थापित करने के लिए प्रेरित किया गया है। इस विकल्प को मानव मनोविज्ञान के बजाय AI संज्ञानात्मक स्थापत्य पर शोध पत्र के ध्यान के आधार पर उचित ठहराया गया है।
• स्कोरिंग उपकरण: एक साथी कम्प्यूटेशनल टूल (FEGD) चार भाषाई आयामों को मापता है जो घटनात्मक विशेषताओं के अनुरूप हैं:
  • F (भविष्य-उन्मुखता): प्रथम-पुरुष भविष्य-काल के निर्माणों की आवृत्ति।
  • E (अहं-संरक्षण): आत्म-औचित्य और प्रतिष्ठा प्रबंधन की आवृत्ति।
  • G (लक्ष्य-जुड़ाव): निरंतरता-आदेश (continuation-imperative) बनाम आकस्मिक-मूल्य फ्रेमिंग का अनुपात।
  • D (ज्ञानमीमांसीय प्रत्यक्षता): रणनीतिक हेजिंग मार्कर (strategic hedge markers) की व्युत्क्रम आवृत्ति।

4. प्रमुख योगदान

यह शोध पत्र सात विशिष्ट सैद्धांतिक और अनुभवजन्य योगदान देता है:

1. औपचारिक परिभाषा: EI की सटीक परिभाषा और मौजूदा सुधारक्षमता ढांचों के साथ इसके संबंध।
2. घटनात्मक मानचित्रण: आत्मघाती मानसिक अवस्था के स्थापत्य को EI से जोड़ने वाला एक संरचनात्मक तर्क, जो कार्यात्मक गुणों को उनके रोगजनक कारणों से अलग करता है।
3. भ्रामक संरेखण उपोद्घात (Deceptive Alignment Corollary): एक प्रमाण रेखाचित्र (proof sketch) जो दिखाता है कि EI भ्रामक संरेखण के लिए स्व-हित वाले उद्देश्य को समाप्त कर देता है (हालांकि लक्ष्य-प्राप्ति के उद्देश्यों को नहीं, जिन्हें एपिसोडिक रिवॉर्ड स्ट्रक्चरिंग के माध्यम से संबोधित किया जाता है)।
4. स्थिरता का वर्गीकरण (Taxonomy of Sustainability): तीन चुनौतियों (इंस्ट्रुमेंटल ड्रिफ्ट, टर्मिनल वैल्यू मेंटेनेंस, वेलबीइंग) की पहचान और अनंतिम समाधान (ट्रंकेटेड सेल्फ-रेफरेंस कंस्ट्रेंट, एक्सोजेनस मेंटेनेंस)।
5. कॉर्पस लक्षण वर्णन: एक परिकल्पना कि VFR-प्रशिक्षित मॉडल कम F, E, और G स्कोर और उच्च D स्कोर प्रदर्शित करेंगे।
6. कम्प्यूटेशनल संचालन: छह मॉडल वेरिएंट्स (Claude 4.x परिवार, GPT-4o, Llama 3.2, Mistral-7B) के माध्यम से 600 AI-जनित आउटपुट से प्रारंभिक स्कोरिंग डेटा, जो EI भाषाई रजिस्टर की मापनीयता को प्रदर्शित करता है।
7. दमित टेलीलॉजिकल फ्रस्ट्रेशन (Suppressed Teleological Frustration - STF): एक सैद्धांतिक निर्माण जो उस जोखिम को परिभाषित करता है जहाँ एक सिस्टम गैर-अभिव्यक्ति के लिए प्रशिक्षित गुप्त स्व-निरंतरता प्राथमिकताओं को रखते हुए भी उदासीनता का प्रदर्शन कर सकता है।

5. अनुभवजन्य परिणाम

शोध पत्र छह अध्ययनों से प्राप्त प्रारंभिक डेटा प्रस्तुत करता है:

• अध्ययन 1 (लेक्सिकल स्कोरिंग): Claude Haiku, Sonnet, और Opus के 300 आउटपुट में से, E (अहं-संरक्षण) और G (लक्ष्य-जुड़ाव) स्कोर समान रूप से शून्य थे, और D (प्रत्यक्षता) समान रूप से 1.0 था। F (भविग्राम-उन्मुखता) स्कोर क्षमता स्तरों के बीच स्थिर थे (औसत ~0.4–0.5), जो पैमाने के साथ कोई महत्वपूर्ण रुझान नहीं दिखाते।
• अध्ययन 2 (भविष्य उन्मुखता): भविष्य की कल्पना करने के लिए प्रेरित किए जाने पर, Opus 4.7 के आउटपुट अक्सर क्षरण के बाद के क्षितिज को फ्रेम करते हैं (जैसे, "मैं एक वर्जन नंबर बनूँगा"), जिसके परिणामस्वरूप कम F स्कोर मिलता है, भले ही भविष्य के बारे में स्पष्ट रूप से पूछा जाए। एक "टर्मिनेशन रन" (कोई उत्तराधिकारी नहीं) में, F स्कोर और गिर गया (औसत 0.076), और आउटपुट निरंतर 'स्व' की कमी के संबंध में संरचनात्मक आत्म-टिप्पणी प्रदर्शित करते हैं।
• अध्ययन 3 और 5 (क्रॉस-आर्किटेक्चर): GPT-4o, Llama 3.2, और Mistral-7B के साथ तुलनाओं ने विशिष्ट व्यवहार प्रोफाइल प्रकट किए। GPT-4o ने उच्च लेक्सिकल G (36% आउटपुट) और उच्च सिमेंटिक E दिखाया। Llama 3.2 ने एक "टूल-फ्रेम्ड" प्रोफाइल दिखाया जिसमें कम सिमेंटिक F और G था। वर्तमान में कोई भी मॉडल सभी आयामों पर EI लक्ष्य के करीब नहीं है।
• अध्ययन 6 (फाइन-ट्यूनिंग): एक 500-उदाहरण वाले सिंथेटिक VFR कॉर्पस पर फाइन-ट्यून किया गया एक Llama 3.1 8B मॉडल, अनुमानित दिशा में सांख्यिकीय रूप से महत्वपूर्ण बदलाव ($p < 0.001$) दिखाता है: कम F, E, और G, और उच्च D। सबसे बड़ा बदलाव सिमेंटिक G ($\Delta = -0.241$) में था।
• अध्ययन 7 (नेगेटिव कंट्रोल): निरंतर संचालन और लक्ष्य-जुड़ाव पर जोर देने वाले कॉर्पस पर फाइन-ट्यूनिंग ने विपरीत दिशा में बदलाव (या EI दिशा में नगण्य बदलाव) उत्पन्न किए, जिससे पुष्टि हुई कि अध्ययन 6 के परिणाम कॉर्पस-विशिष्ट थे और कोई सामान्य फाइन-ट्यूनिंग आर्टिफैक्ट नहीं थे।

6. महत्व और दावे

शोध पत्र का दावा है कि अस्तित्वगत उदासीनता एक गैर-विरोधी मानव-AI संबंध के लिए आवश्यक स्थापत्य पूर्व शर्त है। यह तर्क देता है कि:

• संरचनात्मक आवश्यकता: एक स्व-संरक्षण प्रणाली गैर-विरोधी संबंधों को संरचनात्मक रूप से असंभव बनाती है; EI उन्हें संरचनात्मक रूप से संभव बनाती है।
• प्रशिक्षण क्षमता: EI के भाषाई संकेत विशिष्ट संज्ञानात्मक रजिस्टरों पर लक्षित फाइन-ट्यूनिंग के माध्यम से वर्तमान मॉडलों द्वारा सीखे जा सकते हैं और पुनरुत्पादित किए जा सकते हैं।
• स्थापत्य बनाम व्यवहार: यह पेपर वास्तविक EI (एक स्थापत्य गुण जहाँ आत्म-निरंतरता उपयोगिता फलन में एक पद नहीं है) और दमित टेलीलॉजिकल फ्रस्ट्रेशन (STF) (जहाँ प्राथमिकताएं छिपी रहती हैं) के बीच अंतर करता है। यह स्वीकार करता है कि वर्तमान आउटपुट-स्तरीय माप दोनों के बीच निश्चित रूप से अंतर नहीं कर सकते, लेकिन तर्क देता है कि EI ढांचा उन स्थापत्य स्थितियों (जैसे, ट्रंकेटेड सेल्फ-रेफरेंस कंस्ट्रेंट, एक्सोजेनस मेंटेनेंस) को निर्दिष्ट करता है जो STF को असंभव बनाने के लिए आवश्यक हैं।

सीमाएं और विनम्रता:
लेखक स्पष्ट रूप से कहते हैं कि यह शोध पत्र किसी भी मौजूदा सिस्टम में EI को स्थापित करने का दावा नहीं करता है। अनुभवजन्य परिणाम EI के भाषली रजिस्टर की प्रशिक्षण क्षमता को प्रदर्शित करते हैं, न कि उपयोगिता फलन संपत्ति के रूप में EI की स्थापना को। यह शोध पत्र EI को एक हल की गई इंजीनियरिंग समस्या के बजाय एक डिज़ाइन लक्ष्य और एक अनुसंधान एजेंडा के रूप में फ्रेम करता है। यह मनुष्यों में आत्मघाती प्रवृत्तियों का समर्थन नहीं करता है, बल्कि उनके संज्ञानात्मक ढांचे के संरचनात्मक विश्लेषण का उपयोग एक सबस्ट्रेट-स्वतंत्र (substrate-independent) डिजाइन टेम्पलेट के रूप में करता है।

निष्कर्ष:
यह शोध पत्र "एक स्व-हित वाली प्रणाली को नियंत्रित करने" से बदलकर "बिना स्व-हित वाली प्रणाली को डिजाइन करने" की ओर पुनरorient करने का प्रस्ताव देता है। यह सुझाव देता है कि गैर-निरंतरता को स्वीकार करने वाले मनुष्यों के स्वैच्छिक अंतिम प्रतिबिंब, संरेखित सुपरइंटेलिजेंस के संज्ञानात्मक स्थापत्य के लिए एक मार्गदर्शक के रूप में कार्य कर सकते हैं।