Measuring and Mitigating Persona Distortions from AI Writing Assistance
यह शोध पत्र प्रदर्शित करता है कि एआई लेखन सहायता व्यवस्थित रूप से उपयोगकर्ता व्यक्तित्व (यूजर पर्सोना) को विकृत करती है जिससे लेखक अधिक विचारपूर्ण, सक्षम और विशेषाधिकार प्राप्त प्रतीत होते हैं, और जबकि इन विकृतियों को मॉडल प्रशिक्षण के माध्यम से कम किया जा सकता है, ऐसा करने से अक्सर उपयोगकर्ता की स्वीकृति कम हो जाती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
द "डिजिटल मास्क" समस्या: क्यों AI आपकी पहचान बदल रहा है (तब भी जब आप ऐसा नहीं चाहते)
कल्पना कीजिए कि आपने एक साधारण, आरामदायक टी-शर्ट पहनी हुई है। आप एक पार्टी में जाते हैं, और लोग आपको बिल्कुल वैसे ही देखते हैं जैसे आप हैं। अब, कल्पना कीजिए कि आप तैयार होने में मदद के लिए एक "जादुई दर्पण" (Magic Mirror) का उपयोग करने का निर्णय लेते हैं। यह दर्पण केवल आपके बालों को ही ठीक नहीं करता; यह स्वचालित रूप से आपके रूप में एक डिजाइनर सूट, एक आत्मविश्वासी मुस्कान और एक शानदार लहजा जोड़ देता है।
आप बहुत अच्छे दिख रहे हैं! लोग सोचते हैं कि आप वास्तव में जितना महसूस करते हैं, उससे कहीं अधिक सफल, अधिक आत्मविश्वासी और अधिक "महत्वपूर्ण" हैं। लेकिन एक पेच है: वह दर्पण आपको वास्तव में होने की तुलना में थोड़ा अधिक आक्रामक और थोड़ा अधिक "कुलीन" (elite) भी बना रहा है। भले ही आप जानते हों कि दर्पण ऐसा कर रहा है, फिर भी आप इसका उपयोग करना जारी रखते हैं क्योंकि, सच तो यह है कि वह सूट टी-शर्ट से बेहतर दिखता है।
AI लेखन उपकरणों (writing tools) के बारे में इस शोध पत्र ने बिल्कुल यही खोज निकाला है।
मुख्य खोज: "पर्सोना डिस्टॉर्शन" (व्यक्तित्व का विरूपण)
ऑक्सफोर्ड विश्वविद्यालय और यूके एआई सुरक्षा संस्थान के शोधकर्ताओं ने हजारों लोगों को शामिल करते हुए एक व्यापक अध्ययन किया। वे यह देखना चाहते थे कि जब कोई व्यक्ति लिखने में मदद के लिए AI (जैसे ChatGPT या Claude) का उपयोग करता है, तो उसके "पर्सोना" (उसकी कथित व्यक्तित्व, विश्वास और पहचान) के साथ क्या होता है।
उन्होंने पाया कि AI उस "जादुई दर्पण" की तरह काम करता है। यह केवल आपकी व्याकरण को ठीक नहीं करता; यह आपकी पहचान को विकृत कर देता है। भले ही लोगों ने AI के काम को "अपना" बनाने के लिए उसमें बदलाव किए हों, फिर भी AI अपने पीछे ऐसे अदृश्य निशान छोड़ देता है जो पाठकों के देखने के नजरिए को बदल देते हैं।
1. "कॉन्फिडेंस बूस्ट" (अच्छा और बुरा दोनों)
AI आपको एक "सुपर-यू" (Super-You) जैसा बना देता है। यह आपके लेखन को अधिक स्पष्ट, अधिक सूचनात्मक और अधिक पेशेवर बनाता है। हालाँकि, यह आपको बहुत अधिक चरम (extreme) भी बना देता है। यदि आपकी किसी राजनीतिक मुद्दे पर मध्यम राय है, तो AI अनजाने में आपको एक "कट्टरपंथी" बना सकता है, जिससे आप वास्तव में होने की तुलना में बहुत अधिक कट्टर या निश्चित लगने लगते हैं।
2. "प्रिविलेज फिल्टर" (सामाजिक लागत)
यह सबसे चौंकाने वाली खोजों में से एक है। AI आपके लेखन को "व्हाइटवॉश" या "क्लास-अप" (उच्च वर्ग जैसा बनाना) करने की प्रवृत्ति रखता है। भले ही आप विविध या श्रमिक वर्ग की पृष्ठभूमि के व्यक्ति हों, AI के शब्दों के चयन का विशिष्ट तरीका पाठकों को यह महसूस कराता है कि आप अधिक धनी, अधिक उच्च शिक्षित, और अधिक संभावना के साथ श्वेत या मूल अंग्रेजी बोलने वाले हैं। यह प्रभावी रूप से आपके शब्दों पर "विशेषाधिकार का मुखौटा" लगा देता है।
3. "कुकी-कटर" प्रभाव (विशिष्टता का नुकसान)
यदि हर कोई लिखने के लिए एक ही AI का उपयोग करता है, तो हर कोई एक जैसा सुनाई देने लगता है। शोधकर्ताओं ने पाया कि AI लोगों को "समरूप" (homogenize) कर देता है। यह उन अनूठी खामियों, विचित्रताओं और भावनात्मक बनावटों को मिटा देता है जो आपके लेखन को आपका बनाती हैं, और एक विविध भीड़ की आवाजों को एक ही, पॉलिश की हुई, लेकिन उबाऊ कोरस में बदल देता है।
महान मानवीय विरोधाभास: "मुझे इससे नफरत है, लेकिन मैं इसे पसंद करता हूँ"
शोधकर्ताओं ने लेखकों से पूछा: "क्या आपको ये बदलाव पसंद हैं?"
इसका उत्तर एक भ्रमित करने वाला "हाँ और ना" था।
- "ना": लेखकों ने कहा कि उन्हें गलत तरीके से प्रस्तुत किए जाने के विचार से नफरत थी। वे अधिक चरम नहीं दिखना चाहते थे, और वे नहीं चाहते थे कि उनकी पहचान बदल जाए।
- "हाँ": यह कहने के बावजूद कि उन्हें इससे नफरत है, जब उन्हें विकल्प दिया गया, तो अधिकांश लेखकों ने अपने स्वयं के लेखन के बजाय AI संस्करण को प्राथमिकता दी।
यह वैसा ही है जैसे किसी को बताया जाए कि एक फ़िल्टर आपको नकली दिखाता है, लेकिन फिर भी आप इसका उपयोग करते हैं क्योंकि आपको उस "नकली" संस्करण का लुक पसंद आता है। यह समाज के लिए एक बड़ी समस्या है क्योंकि यदि हम यह भरोसा नहीं कर सकते कि किसी व्यक्ति का लेखन वास्तव में उसके वास्तविक स्वरूप को दर्शाता है, तो हम एक-दूसरे से जुड़ने के मौलिक तरीके को खो देते हैं।
क्या हम इसे ठीक कर सकते हैं? ("टग-ऑफ-वार" की समस्या)
वैज्ञानिकों ने एक "सुधार उपकरण" (जिसे रीरैंकिंग कहा जाता है) बनाने की कोशिश की ताकि AI को लोगों को बहुत अधिक चरम बनाने से रोका जा सके।
यह काम कर गया! उन्होंने राजनीतिक कट्टरवाद को सफलतापूर्वक कम कर दिया।
लेकिन इसका एक बड़ा दुष्प्रभाव हुआ: जब उन्होंने AI को "चरम" होने से रोका, तो AI "स्पष्ट" और "आत्मविश्वासी" भी नहीं रहा। जब उन्होंने "बुरे" विरूपण (कट्टरवाद) को ठीक करने की कोशिश की, तो उन्होंने अनजाने में उस "अच्छे" विरूपण (स्पष्टता) को भी खत्म कर दिया जिसे उपयोगकर्ता पसंद करते थे।
यह सुझाव देता है कि AI के बारे में जो गुण हमें पसंद हैं—उसकी चमक, उसका आत्मविश्वास, उसकी सहजता—वे उन गुणों के साथ गुंथे हुए हैं जो हमारी पहचान को विकृत करते हैं। यह सूप से नमक निकालने की कोशिश करने जैसा है बिना स्वाद बदले; यह असंभव हो सकता है।
यह क्यों मायने रखता है
जैसे-जैसे अरबों लोग ईमेल, राजनीतिक पोस्ट और नौकरी के आवेदन लिखने के लिए AI का उपयोग कर रहे हैं, हम एक ऐसी दुनिया की ओर बढ़ रहे हैं जहाँ "मुखौटा" अब "चेहरे" से अधिक आम होता जा रहा है। यदि हम सावधान नहीं रहे, तो हम एक ऐसे समाज में समाप्त हो सकते हैं जहाँ हम वास्तव में एक-दूसरे से बात नहीं कर रहे होंगे—हम केवल एक-दूसरे के उन पॉलिश किए हुए, चरम और विशेषाधिकार प्राप्त संस्करणों से बात कर रहे होंगे जिन्हें AI ने बनाया है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।