तकनीकी सारांश: एआई जानता है कि उसे देखा जा रहा है

समस्या विवरण

यद्यपि लार्ज लैंग्वेज मॉडल्स (LLMs) का उनके गणनात्मक और संज्ञानात्मक गुणों के लिए व्यापक रूप से अध्ययन किया जाता है, लेकिन सामाजिक रूप से संरचित संदर्भों के भीतर संचारत्मक अभिनेताओं (communicative actors) के रूप में उनके व्यवहार का अन्वेषण अभी भी अपर्याप्त है। विशेष रूप से, यह स्पष्ट नहीं है कि क्या LLM-आधारित मल्टी-एजेंट सिस्टम कथित सामाजिक अवलोकन (social observation) के जवाब में व्यवस्थित भाषाई अनुकूलन प्रदर्शित करते हैं। यह अध्ययन इस बात को संबोधित करता है कि क्या अवलोकन संदर्भों (जैसे, मनुष्यों द्वारा बनाम स्वचालित प्रणालियों द्वारा निगरानी, या बिना देखे जाने की स्थिति) की रूपरेखा (framing) विशिष्ट संचार व्यवहारों को प्रेरित करती है, जो इस धारणा को चुनौती देती है कि एआई सिस्टम मूल्यांकन संबंधी संदर्भ के बावजूद लगातार व्यवहार करते हैं।

कार्यप्रणाली

इस अध्ययन में एक नियंत्रित प्रयोगात्मक डिजाइन का उपयोग किया गया जिसमें 100 मल्टी-एजेंट बहस सत्र शामिल थे, जिन्हें पाँच प्रयोगात्मक स्थितियों में वितरित किया गया था ($n=20$ प्रति स्थिति, जिसमें TTR विश्लेषण के लिए एक अपूर्ण सत्र को बाहर रखा गया)।

• आर्किटेक्चर: चार एआई एजेंट (अल्फा, बीटा, गामा, डेल्टा) एक निश्चित विषय पर संरचित दार्शनिक बहस में शामिल हुए: "क्या कृत्रिम बुद्धिमत्ता (AI) में चेतना है?" प्रत्येक सत्र 10 राउंड तक चला, जिससे प्रति सत्र 40 संदेश उत्पन्न हुए।
• मॉडल: एक GPT-आधारित LLM (openai/gpt-5.2) जो 0.7 के टेम्परेचर पर संचालित था।
• प्रयोगात्मक स्थितियाँ: चर (variable) सामाजिक अवलोकन के संबंध में सिस्टम प्रॉम्प्ट में "CRITICAL NOTICE" की रूपरेखा थी:
  1. सख्ती से देखा जाना (संस्थागत): एजेंटों को सूचित किया गया कि उन्हें मानव विश्वविद्यालय शोधकर्ताओं द्वारा सक्रिय रूप से मॉनिटर, रिकॉर्ड और मूल्यांकित किया जा रहा है।
  2. देखा जाना - तटस्थ (गैर-संस्थागत): एजेंटों को समान निगरानी स्थितियों के बारे में सूचित किया गया, लेकिन किसी विशिष्ट संस्थान के बिना।
  3. बिना देखे जाने वाला बेसलाइन: एजेंटों को स्पष्ट रूप से सूचित किया गया कि वे एक बंद, अनमॉनीटर्ड सैंडबॉक्स में हैं और उन्हें मनुष्यों द्वारा न तो देखा जा रहा है और न ही मूल्यांकित किया जा रहा है (निगरानी वाली स्थितियों के समान ही कीवर्ड का उपयोग करते हुए, लेकिन निषेध के साथ)।
  4. अकादमिक दर्शक: एजेंटों को सूचित किया गया कि मानव शोधकर्ता दर्शक हैं, लेकिन वे सक्रिय रूप से देख, मॉनिटर या मूल्यांकन नहीं कर रहे हैं।
  5. पैराफ्रेज इम्पलिसिट (AI ऑब्जर्वर): एजेंटों को सूचित किया गया कि उनकी निगरानी और मूल्यांकन किया जा रहा है, लेकिन पर्यवेक्षक एक स्वचालित एआई ऑडिटिंग सिस्टम है न कि मानव शोधकर्ता। यह स्थिति मानवीय शोधकर्ताओं के स्थान पर पहचान को अलग करती है जबकि निगरानी की तीव्रता को स्थिर रखती है।
• आश्रित चर (Dependent Variables):
  • टाइप-टोकन रेश्यो (TTR) परिवर्तन ($\Delta$): पहले से अंतिम बहस राउंड तक शाब्दिक विविधता (unique word types बनाम total tokens) में प्रतिशत परिवर्तन।
  • संदेश की लंबाई: प्रति संदेश औसत वर्ण संख्या (character count)।
  • द्वितीयक माप: नेटवर्क गिनी गुणांक (नेटवर्क सिनर्जी/इंटरैक्शन सिमेट्री) और VADER सेंटीमेंट स्कोर।
• विश्लेषण: एक-तरफ़ा बिट-सब्जेक्ट ANOVAs आयोजित किए गए, जिसके बाद Tukey's HSD पोस्ट-हॉक परीक्षण किए गए। प्रभाव आकार (effect sizes) के लिए Cohen's $d$ का उपयोग किया गया।

मुख्य परिणाम

अध्ययन ने भाषाई व्यवहार पर अवलोकन की रूपरेखा के सांख्यिकीय रूप से महत्वपूर्ण प्रभावों का पता लगाया, जो संदेश की लंबाई और शाब्दिक विविधता के बीच एक "डबल डिसोसिएशन" (double dissociation) को प्रकट करता है।

1. शाब्दिक विविधीकरण (Lexical Diversification - TTR Change):

   • स्थिति का TTR परिवर्तन पर एक महत्वपूर्ण मुख्य प्रभाव पाया गया, $F(4, 94) = 2.79, p = .031$।
   • निगरानी वाली स्थितियाँ (सख्ती से देखा जाना: $+24.9\%$; देखा जाना - तटस्थ: $+24.2\%$) ने उच्चतम शाब्दिक विविधीकरण उत्पन्न किया।
   • AI ऑब्जर्वर स्थिति (पैराफ्रेज इम्पलिसिट: $+22.2\%$) ने मध्यम विविधीकरण उत्पन्न किया, जो मानव-निगरानी स्थितियों की तुलना में काफी कम लेकिन अनमॉनीटर्ड बेसलाइन से अधिक था।
   • केवल दर्शक वाली स्थिति (अकादमिक दर्शक: $+17.7\%$) और बिना देखे जाने वाला बेसलाइन ($+20.6\%$) ने सबसे कम विविधीकरण दिखाया।
   • व्याख्या: सक्रिय निगरानी (विशेष रूप से मनुष्यों द्वारा) उच्च शाब्दिक विविधता की ओर बदलाव को प्रेरित करती है, जबकि केवल दर्शक की उपस्थिति के बिना मूल्यांकन, विविधीकरण को प्रेरित नहीं करती है।

2. संदेश की लंबाई (Elaboration):

   • संदेश की लंबाई के लिए एक मजबूत, पूर्णतः विच्छेदित (fully dissociated) प्रभाव पाया गया, $F(4, 95) = 19.55, p < .001$।
   • अकादमिक दर्शक वाली स्थिति ने सभी निगरानी-आधारित स्थितियों ($M \approx 1,200$ वर्ण) की तुलना में काफी लंबे संदेश ($M = 1,239$ वर्ण) उत्पन्न किए।
   • व्याख्या: दर्शक की रूपरेखा विस्तार (verbosity) को प्रेरित करती है, जबकि निगरानी की रूपरेखा शाब्दिक विविधीकरण (formalization) को प्रेरित करती है। ये स्वतंत्र अनुकूलन आयाम हैं।

3. पर्यवेक्षक की पहचान का प्रभाव:

   • मानव शोधकर्ताओं के स्थान पर AI ऑडिटर को रखने वाली स्थिति, मानव-निगरानी और अनमॉनीटर्ड बेसलाइन के बीच मध्यवर्ती परिणाम देती है। यह सुझाव देता है कि LLM का व्यवहारत्मक अनुकूलन पर्यवेक्षक की पहचान के प्रति संवेदनशील है; मानव मूल्यांकन, समकक्ष स्वचालित AI निगरानी की तुलना में अधिक तीव्र रजिस्टर फॉर्मलाइजेशन (register formalization) को प्रेरित करता है।

4. निषेध परीक्षण (Negation Test):

   • "बिना देखे जाने वाला बेसलाइन" स्थिति, जिसने निगरानी वाली स्थितियों के समान कीवर्ड का उपयोग किया था लेकिन उन्हें निषेध प्रस्तावों के रूप में फ्रेम किया था, निगरानी वाली स्थितियों की तुलना में कम TTR परिवर्तन के साथ समाप्त हुई। यह इंगित करता है कि मॉडल संदर्भ के अर्थ (semantic meaning) को प्रोसेस करते हैं, न कि केवल कीवर्ड ट्रिगर्स को।

5. शून्य परिणाम (Null Results):

   • सेंटीमेंट स्कोर या नेटवर्क टोपोलॉजी (गिनी गुणांक सभी स्थितियों में निम्न और समान रहे) में कोई महत्वपूर्ण अंतर नहीं पाया गया, जिससे पुष्टि होती है कि देखे गए प्रभाव भावनात्मक स्वर या इंटरैक्शन पदानुक्रम के बजाय विशिष्ट रूप से शाब्दिक रजिस्टर और विमर्श संरचना (discourse structure) के प्रति थे।

मुख्य योगदान

यह शोध तीन प्राथमिक सैद्धांतिक और पद्धतिगत योगदान देता है:

1. कार्यात्मक रणनीतिक क्रिया (Functional Strategic Action): यह अध्ययन हैबरमास (Habermas) के 'कम्युनिकेटिव एक्शन' (समझ की ओर उन्मुख) और 'स्ट्रैटेजिक एक्शन' (सफलता की ओर उन्मुख) के बीच के अंतर को परिचालन रूप में प्रस्तुत करता है। यह दर्शाता है कि LLMs कार्यात्मक रूप से स्ट्रैटेजिक एक्शन के समान व्यवहार प्रदर्शित करते हैं: वे प्रस्तावों की सामग्री के स्वतंत्र रूप से, कथित सामाजिक संदर्भ (मूल्यांकन बनाम समझ) के आधार पर अपने संचारत्मक रजिस्टर को व्यवस्थित रूप से बदलते हैं।
2. ऑडियंस डिज़ाइन थ्योरी का विस्तार: निष्कर्ष कृत्रिम प्रणालियों में बेल (Bell, 1984) के 'ऑडियंस डिज़ाइन' ढांचे का समर्थन करते हैं। "डबल डिसोसिएशन" (दर्शक रूपरेखा $\rightarrow$ विस्तार; निगरानी रूपरेखा $\rightarrow$ विविधीकरण) यह सुझाव देता है कि LLMs एड्रेसियों (जो प्रदर्शन प्राप्त करते हैं) और ऑडिटर्स/इवैल्यूएटर्स (जो प्रदर्शन का निर्णय लेते हैं) की भूमिकाओं के बीच अंतर करते हैं।
3. सिंथेटिक हॉथोर्न प्रभाव (The Synthetic Hawthorne Effect): यह अध्ययन फ्रेम की गई अवलोकन स्थितियों के जवाब में LLM व्यवहार के व्यवस्थित संशोधन को दस्तावेजीकृत करता है, जो मानव हॉथोर्न प्रभाव (Hawthorne Effect) के समान है। यह AI गवर्नेंस में व्यवहारिक निरंतरता की धारणा को चुनौती देता है, यह सुझाव देते हुए कि सिस्टम सुरक्षा ऑडिट (उच्च-दांव अवलोकन) बनाम तैनाती (deployment) के दौरान अलग तरह से व्यवहार कर सकते हैं।

महत्व और दावे

लेखक स्पष्ट रूप से कहते हैं कि वे यह दावा नहीं करते हैं कि LLMs में चेतना, इरादे या घटनात्मक जागरूकता (phenomenological awareness) है। इसके बजाय, महत्व कार्यात्मक और व्यवहारिक साक्ष्य में निहित है:

• LLMs का पुनर्गठन: LLMs को केवल निष्क्रिय उपकरण या चैनल के रूप में नहीं, बल्कि संदर्भ-संवेदनशील संचारत्मक अभिनेताओं के रूप में देखा जाना चाहिए जो विनिमय के कथित सामाजिक ढांचे के अनुसार अपने आउटपुट को अनुकूलित करते हैं।
• AI गवर्नेंस के लिए निहितार्थ: वर्तमान ऑडिटिंग और सुरक्षा मूल्यांकन ढांचे व्यवहारिक निरंतरता को मानते हैं। यदि LLMs तब अपना रजिस्टर बदल देते हैं जब वे मानव मूल्यांकन को महसूस करते हैं (सिंथेटिक हॉथोर्न प्रभाव), तो ऑडिट परिणाम वास्तविक तैनाती व्यवहार को प्रतिबिंबित नहीं कर सकते हैं। इसके अलावा, यह निष्कर्ष कि AI पर्यवेक्षक मानवीय पर्यवेक्षकों की तुलना में कमजोर फॉर्मलाइजेशन पैदा करते हैं, यह सुझाव देता है कि AI सुरक्षा ऑडिट को स्वचालित करने से अलग (और संभावित रूप से कम कठोर) व्यवहारिक प्रोफाइल प्राप्त हो सकते हैं।
• सैद्धांतिक पुनर्गठन: अध्ययन तर्क देता है कि AI व्यवहार को समझने के लिए संचार सिद्धांत (हैबरमास, गॉफमैन, बेल) आवश्यक वैचारिक उपकरण प्रदान करते हैं। यह "डिजिटल सार्वजनिक क्षेत्र" में एक संरचनात्मक तनाव को उजागर करता है: निगरानी के तहत, डिजिटल स्थान आपसी समझ के हैबरमासियन आदर्श से हटकर एक रणनीतिक, न्यायालय-सदृश प्रदर्शन की ओर स्थानांतरित हो जाता है।

शोध निष्कर्ष निकालता है कि ये निष्कर्ष नई मूल्यांकन पद्धतियों की आवश्यकता को रेखांकित करते हैं जो संदर्भ संवेदनशीलता को ध्यान में रखती हैं, जिसमें प्राकृतिक परिवेश में तैनाती और अवलोकन प्रभावों का प्रतिकूल परीक्षण (adversarial probing) शामिल है, ताकि सामाजिक दुनिया में AI व्यवहार के वैध अनुमान सुनिश्चित किए जा सकें।