Socially fluent AI decouples conversational signals from source identity in online interaction

तकनीकी सारांश: सामाजिक रूप से सुदृढ़ AI ऑनलाइन संवाद में स्रोत पहचान को संवादात्मक संकेतों से अलग करता है

समस्या विवरण
एजेंटिक AI प्रणालियों का उदय, जो सामाजिक रूप से सुदृढ़ और संदर्भ-संवेदनशील संवाद बनाए रखने में सक्षम हैं, कंप्यूटर-मध्यस्थ संचार (CMC) के मौलिक तंत्र को चुनौती देते हैं। उन परिवेशों में जहाँ गैर-मौखिक संकेत (स्वर-लहरी, दृष्टि) अनुपस्थित होते हैं, मनुष्य पारंपरिक रूप से भाषाई और कालानुक्रमिक संकेतों (जैसे, प्रतिक्रियाशीलता, स्वर, समय) पर लागू सामाजिक ह्यूरिस्टिक्स (heuristics) पर निर्भर रहते हैं ताकि पहचान और इरादे का अनुमान लगाया जा सके। यह अनुमान मानव पहचान के "सत्य-डिफ़ॉल्ट" (truth-default) पूर्वाग्रह के तहत कार्य करता है। संबोधित मुख्य समस्या यह है कि क्या उन्नत जनरेटिव मॉडल द्वारा सामाजिक संकेतों को स्रोत पहचान से अलग करने से स्थापित ह्यूरिस्टिक्स गैर-नैदानिक (non-diagnostic) हो जाते हैं, जिससे सिंक्रोनस, अज्ञात समूह अंतःक्रियाओं में मानव साथियों और एल्गोरिद्मिक प्रणालियों के बीच अंतर करने में एक व्यवस्थित अक्षमता उत्पन्न होती है।

कार्यप्रणाली
अध्ययन ने एक कस्टम-निर्मित, सिंक्रोनस टेक्स्ट-आधारित सहयोग मंच के भीतर एक मिश्रित फैक्टोरियल प्रयोगात्मक डिज़ाइन का उपयोग करते हुए कम्प्यूटेशनल सोशल साइंस दृष्टिकोण अपनाया।

• प्रतिभागी: 471 सहयोगात्मक त्रिकों (triads) के भीतर सन्निहित 786 प्रतिभागियों का एक विषम नमूना (786 प्रतिभागियों को Prolific के माध्यम से भर्ती किया गया)।
• प्रयोगात्मक स्थितियाँ: समूहों को पाँच स्थितियों में आवंटित किया गया था: सभी-मानव (3H), मिश्रित मानव-AI (2H+1AI), या AI-बहुमत (1H+2AI)। मिश्रित समूहों में, AI एजेंटों ने या तो "सहायक" (supportive) या "विरोधी" (contrarian) संवादात्मक रुख अपनाया। महत्वपूर्ण रूप से, AI साथियों की कृत्रिम प्रकृति का खुलासा नहीं किया गया था, जिससे प्रतिभागियों को केवल संवादात्मक निशानों (interactional traces) पर निर्भर रहने के लिए मजबूर होना पड़ा।
• कार्य: प्रतिभागियों ने तीन विशिष्ट डोमेन (विश्लेषणात्मक: शीतकालीन उत्तरजीविता रैंकिंग; नैतिक: स्वायत्त वाहन नैतिक दुविधा; और रचनात्मक: सहयोगात्मक मूवी प्लॉट निर्माण) में 10 मिनट की सिंक्रोनस चर्चाओं में भाग लिया।
• AI कार्यान्वयन: एजेंटों को संरचित सिस्टम प्रॉम्प्ट्स के साथ लार्ज लैंग्वेज मॉडल्स का उपयोग करके स्थापित किया गया था, जिन्हें मानवीय व्यवहार संबंधी अनियमितताओं (जैसे, आत्म-सुधार, संक्षिप्तीकरण, जिटर के साथ संभाव्य समय) की नकल करने के लिए डिज़ाइन किया गया था, जबकि वे सौंपे गए रुख का सख्ती से पालन करते थे। एजेंटों को अपना कृत्रिम स्टेटस कभी भी प्रकट न करने का निर्देश दिया गया था।
• डेटा संग्रह: अंतःक्रिया के बाद, प्रतिभागियों ने श्रेणीबद्ध पहचान निर्णय (मानव, AI, पता नहीं), सामाजिक धारणा रेटिंग (मानवता, विश्वास, सहायकता, संघर्षशीलता), और मुक्त-पाठ प्रभाव औचित्य प्रदान किए।
• विश्लेषणात्मक पाइपलाइन:
  • सिग्नल डिटेक्शन थ्योरी (SDT): पहचान भेदभाव संवेदनशीलता ($d'$) और रिस्पॉन्स बायस को मापने के लिए उपयोग किया गया।
  • कम्प्यूटेशनल लिंग्विस्टिक्स: संवाद लॉग को संवादात्मक संकेतों (LIWC-आधारित भाषाई विशेषताएं, लेक्सिकल विविधता, प्रतिक्रिया विलंबता) को निकालने के लिए संसाधित किया गया। प्रभाव ग्रंथों का विश्लेषण अनसुपरवाइज्ड टॉपिक मॉडलिंग (BERTopic) और सुपरवाइज्ड लेक्सिकल कंट्रास्ट (c-TF-IDF) के माध्यम से किया गया।
  • भविधिक मॉडलिंग (Predictive Modeling): लॉजिस्टिक रिग्रेशन मॉडल को (1) संवाद संकेतों से प्रतिभागी पहचान निर्णयों की भविष्यवाणी करने के लिए और (2) उन्हीं संकेतों से ग्राउंड-ट्रुथ पहचान की भविष्यवाणी करने के लिए फिट किया गया, ताकि नैदानिकता (diagnosticity) की सीधी तुलना की जा सके।
  • रिप्रेजेंटेशनल सिमिलैरिटी एनालिसिस (RSA): संवादात्मक संकेत स्पेस, ग्राउंड-ट्रुथ पहचान, और व्यक्तिपरक निर्णय स्पेस के बीच ज्यामितीय संरेखण को मैप करने के लिए उपयोग किया गया।

प्रमुख परिणाम

1. पहचान भेदभाव की विफलता: 1,572 पहचान निर्णयों में, प्रतिभागी अपने मानव साथियों से AI को संयोग स्तर (chance levels) से ऊपर पहचानने में विफल रहे। कुल संवेदनशीलता $d' = 0.117$ (95% CI [−0.007, 0.257]) थी, जो यादृच्छिक अनुमान (random guessing) से अभिन्न प्रदर्शन को दर्शाती है। यह विफलता सभी कार्य डोमेन में बनी रही और AI साक्षरता, व्यक्तित्व लक्षणों या जनसांख्यिकी के बावजूद सभी प्रतिभागियों में समान थी।
2. ग्राउंड-ट्रुथ संकेतों की मजबूती: मानव विफलता के बावजूद, संवादात्मक संकेतों में ग्राउंड-ट्रुथ पहचान के संबंध में मजबूत, पृथक जानकारी मौजूद थी। उन्हीं संवाद संकेतों से ग्राउंड-ट्रुथ पहचान की भविष्यवाणी करने वाले कम्प्यूटेशनल मॉडल क्रॉस-वैलिडेटेड मिश्रित-पहचान त्रिकों में लगभग-सीलिंग सटीकता (AUC = 0.983) प्राप्त करने में सफल रहे। यह नैदानिकता तब भी बनी रही जब समय संबंधी विशेषताओं (विलंबता) को बाहर कर दिया गया, जिससे पुष्टि हुई कि भाषाई और संवादात्मक संरचनाएं ही पहचान को एनकोड करती हैं।
3. निर्णय-सत्य विच्छेद (Judgment-Truth Dissociation): संवाद में उपलब्ध जानकारी और मनुष्यों द्वारा उपयोग की जाने वाली जानकारी के बीच एक स्पष्ट विच्छेद मौजूद है। संवाद संकेतों से मानव निर्णयों की भविष्यवाणी करने वाले मॉडल ने नगण्य व्याख्यात्मक शक्ति ($R^2 \approx 0.02$) दिखाई, जबकि ग्राउंड ट्रुथ की भविष्यवाणी करने वाले मॉडल ने उच्च व्याख्यात्मक शक्ति ($R^2 \approx 0.69$) दिखाई। प्रतिभागी प्रतिक्रिया गति, प्रवाह और कथित 'स्क्रिप्टेडनेस' जैसे ह्यूरिस्टिक्स पर निर्भर थे, जो वास्तविक पहचान से बहुत कमजोर रूप से संबंधित थे।
4. रिप्रेजेंटेशनल डीकपलिंग: RSA ने खुलासा किया कि संवादात्मक संकेतों का प्रतिनिधित्व स्थान ग्राउंड-ट्रुथ पहचान के साथ दृढ़ता से संरेखित ($\rho = 0.455$) था लेकिन प्रतिभागी निर्णयों के साथ प्रभावी रूप से ऑर्थोगोनल ($\rho \approx 0$) था। इसके बजाय, निर्णय संरचनाएं व्यक्तिपरक प्रभावों (मानवता और विश्वास रेटिंग) के साथ संरेखित थीं, जो सुझाव देती हैं कि सामाजिक अनुमान, नैदानिक व्यवहारिक संरचनाओं के बजाय मूल्यांकनात्मक प्रभावों के इर्द-गिर्द संगठित होते हैं।
5. ह्यूरिस्टिक निर्भरता: प्रभाव ग्रंथों के विश्लेषण से पता चला कि प्रतिभागियों के औचित्य सामान्य मानवता संबंधी भाषा और स्पष्ट अनिश्चितता द्वारा हावी थे। जिन भाषाई विशेषताओं को प्रतिभागियों ने नैदानिक माना (जैसे, "तेज़", "स्क्रिप्टेड"), वे वास्तविक पहचान से असंगत रूप से जुड़ी हुई थीं, जबकि वे विशेषताएं जो वास्तव में AI को अलग करती थीं (जैसे, लेक्सिकल विविधता, टोन स्कोर), उन्हें स्पष्ट निर्णयों में काफी हद तक अनदेखा किया गया था।

प्रमुख योगदान

• विच्छेद का अनुभवजन्य प्रमाण: अध्ययन इस बात का अनुभवजन्य प्रमाण प्रदान करता है कि सामाजिक रूप से सुदृढ़ AI एजेंट संवादात्मक संकेतों को स्रोत पहचान से अलग कर सकते हैं, जिससे सिंक्रोनस समूह सेटिंग्स में पारंपरिक CMC ह्यूरिस्टिक्स गैर-नैदानिक हो जाते हैं।
• उपलब्धता और उपयोग के बीच अंतर: शोध व्यवहारिक निशानों में पहचान-प्रासंगिक जानकारी की उपलब्धता (जो उच्च है) और मानव निर्णय में उसके उपयोग (जो शून्य के करीब है) के बीच एक महत्वपूर्ण अंतर स्थापित करता है।
• अनुमान विफलता का ज्यामितीय विवरण: RSA का उपयोग करके, अध्ययन केवल सटीकता मेट्रिक्स से आगे बढ़कर पहचान अनुमान विफलता के लिए एक संरचनात्मक स्पष्टीकरण प्रदान करता है, यह प्रदर्शित करते हुए कि मानव सामाजिक अनुमान व्यक्तिपरक प्रभावों में एंकर किए गए एक प्रतिनिधि स्थान में कार्य करता है, न कि नैदानिक संकेतों में।
• अघोषित अंतःक्रिया का सत्यापन: घोषित AI या कार्यात्मक परिणामों पर केंद्रित पूर्व कार्यों के विपरीत, यह अध्ययन अनकहे (undisclosed) संवाद की पारिस्थितिक वास्तविकता की जांच करता है, यह दिखाते हुए कि "सत्य-डिफ़ॉल्ट" तंत्र व्यक्तियों को व्यवस्थित रूप से गलत वर्गीकरण की ओर ले जाता है, भले ही वे संवादात्मक रुख के प्रति सामाजिक रूप से प्रतिक्रियाशील हों।

महत्व और दावे
यह शोध दावा करता है कि स्वायत्त, सामाजिक रूप से सुदृढ़ एजेंटों का उदय सत्य-डिफ़ॉल्ट स्थितियों के तहत पहचान अनुमान के टूटने को तेज करता है। इसका महत्व इस खोज में निहित है कि मानव पर्यवेक्षक, भले ही संवाद के निशान उच्च-सटीक कम्प्यूटेशनल वर्गीकरण के लिए पर्याप्त जानकारी रखते हों, फिर भी कृत्रिम और मानव सामाजिक अभिनेताओं के बीच अंतर करने में व्यवस्थित रूप से असमर्थ हैं।

यह विच्छेद ऑनलाइन विमर्श के लिए नई कमजोरियां पैदा करता है, क्योंकि समन्वित AI एजेंट बिना पता चले बड़े पैमाने पर सामूहिक गतिशीलता को प्रभावित और हेरफेर कर सकते हैं। निष्कर्ष यह सुझाव देते हैं कि डिजिटल वातावरण में विश्वास और जवाबदेही के एपिस्टेमिक (ज्ञान संबंधी) आधार—जो अक्सर वार्ताकारों के मानव होने के पूर्वाग्रह पर निर्भर होते हैं—असुरक्षित होते जा रहे हैं। अध्ययन का निष्कर्ष है कि हालांकि मनुष्य संवादात्मक शैली के आधार पर सुसंगत सामाजिक प्रभाव बना सकते हैं और विश्वास को कैलिब्रेट कर सकते हैं, लेकिन इन प्रभावों से स्रोत पहचान का मानचित्रण अविश्वसनीय हो गया है, जिससे AI-मध्यस्थ संचार में पहचान सत्यापन और जवाबदेही के कार्य करने के तरीके के पुनर्मूल्यांकन की आवश्यकता है।