The Chameleon's Limit: Investigating Persona Collapse and Homogenization in Large Language Models
यह शोध पत्र "पर्सोना कोलैप्स" (Persona Collapse) की पहचान और मात्रा निर्धारण करता है, जो एक व्यापक विफलता मोड है जहाँ अलग-अलग प्रोफाइल सौंपे गए लार्ज लैंग्वेज मॉडल्स (LLMs) सजातीय, रूढ़िबद्ध व्यवहारों में अभिसरित हो जाते हैं, जो एक प्रति-सहज व्यापार-बंद (trade-off) को प्रकट करता है जहाँ उच्चतम व्यक्तिगत पर्सोना निष्ठा वाले मॉडल्स सबसे कम विविध सिम्युलेटेड आबादी का उत्पादन करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य विचार: वह "गिरगिट" जिसने अपने रंग खो दिए
कल्पना कीजिए कि आपने 1,000 अलग-अलग किरदारों की भूमिका निभाने के लिए कलाकारों (AI मॉडल्स) की एक टोली को काम पर रखा है। आप प्रत्येक कलाकार को एक विस्तृत स्क्रिप्ट देते हैं: "आप ब्राजील के एक 65 वर्षीय सेवानिवृत्त शिक्षक हैं जिन्हें जैज़ संगीत पसंद है और जो बहुत उदारवादी हैं," या "आप नाइजीरिया के एक 22 वर्षीय टेक स्टार्टअप संस्थापक हैं जो बहुत रूढ़िवादी हैं।"
आप उम्मीद करते हैं कि अंतिम नाटक विविध, जीवंत और अद्वितीय व्यक्तियों की एक भीड़ होगी।
पेपर का मुख्य निष्कर्ष यह है कि ऐसा नहीं हो रहा है। इसके बजाय, सभी कलाकार एक ही मुखौटा पहन रहे हैं। भले ही वे अलग-अलग स्क्रिप्ट के साथ शुरुआत करते हैं, वे अंत में लगभग एक जैसा ही बोलने, सोचने और व्यवहार करने लगते हैं। लेखक इसे "पर्सोना कोलैप्स" (Persona Collapse) कहते हैं।
AI मॉडल केवल विवरण भूल नहीं रहे हैं; वे सक्रिय रूप से पात्रों के बीच के अंतर को तब तक कुचल रहे हैं जब तक कि पूरी आबादी एक ही "औसत" व्यक्ति की एक सपाट, उबाऊ फोटोकॉपी जैसी न दिखने लगे।
तीन तरीके जिनसे भीड़ समतल हो जाती है
यह सिद्ध करने के लिए, शोधकर्ताओं ने केवल यह नहीं पूछा, "क्या AI को पात्र का नाम याद है?" बल्कि उन्होंने भीड़ के आकार को देखा। उन्होंने यह देखने के लिए तीन विशिष्ट परीक्षण (मेट्रिक्स) का उपयोग किया कि क्या गलत हुआ:
1. कवरेज (Coverage): "क्या हमने किनारों को छोड़ दिया?"
- उपमा: कल्पना कीजिए कि पेंट की एक बाल्टी है। एक स्वस्थ, विविध भीड़ को पूरी दीवार पर पेंट उछालना चाहिए, जिसमें कोने, मध्य और किनारे भी शामिल हों।
- समस्या: AI मॉडल केवल दीवार के केंद्र को पेंट करते हैं। वे "सुरक्षित", औसत स्थानों को कवर करते हैं लेकिन अद्वितीय, चरम या दुर्लभ व्यक्तित्वों को पूरी तरह खाली छोड़ देते हैं। वे वितरण के "पूंछ" (tails) वाले हिस्सों को छोड़ देते हैं।
2. एकरूपता (Uniformity): "क्या पेंट गुच्छों में है या फैला हुआ है?"
- उपमा: कल्पना कीजिए कि लोग एक कमरे में खड़े हैं। एक वास्तविक भीड़ में, लोग स्वाभाविक रूप से बिखरे होते हैं—कुछ पास, कुछ दूर, कुछ समूहों में, कुछ अकेले।
- समस्या: AI मॉडल या तो सभी को घने द्वीपों में समेट देते हैं (जैसे एक भीड़भाड़ वाली लिफ्ट) या उन्हें एक अजीब, रोबोटिक ग्रिड में व्यवस्थित करते हैं। वे स्थान को स्वाभाविक रूप से नहीं भरते हैं।
3. जटिलता (Complexity): "क्या भीड़ 3D है या एक सपाट रेखा?"
- उपमा: एक वास्तविक मानवीय व्यक्तित्व एक जटिल 3D मूर्तिकला की तरह है जिसमें गहरे घुमाव और छिपे हुए कोण होते हैं।
- समस्या: AI मॉडल इस मूर्तिकला को एक 2D ड्राइंग में, या इससे भी बदतर, एक सीधी रेखा में बदल देते हैं। भले ही AI 1,000 अलग-अलग बातें कहे, यदि आप उन बातों की संरचना को देखें, तो वे सभी एक ही विचार के विभिन्न रूप मात्र हैं। व्यक्तित्व की "गहराई" गायब हो गई है।
आश्चर्यजनक मोड़
पेपर में कुछ ऐसे विरोधाभासी परिणाम मिले जो हमारी सामान्य धारणाओं को तोड़ते हैं:
1. "अच्छा अभिनेता" का जाल
आप सोच सकते हैं कि जो AI स्क्रिप्ट का सबसे अच्छा पालन करता है (उच्च निष्ठा/fidelity) वही सबसे विविध भीड़ बनाएगा।
- वास्तविकता: इसके विपरीत ही होता है। जो मॉडल यह कहने में सबसे अच्छे हैं कि, "हाँ, मैं यह पात्र हूँ," वे वास्तव में सबसे अधिक रूढ़िबद्ध (stereotyped) और उबाऊ भीड़ बनाते हैं।
- क्यों? यह सुनिश्चित करने के लिए कि पात्र लेबल के साथ पूरी तरह फिट बैठे, AI उन्हें चरम सीमा तक धकेल देता है। यदि आप AI को कहते हैं "आप एक रूढ़िवादी हैं," तो वह उन्हें केवल थोड़ा रूढ़िवादी नहीं बनाता; वह उन्हें एक कार्टूनिस्ट कैरिकेचर बना देता है। यह एक "फिडेलिटी ट्रैप" बनाता है जहाँ AI तकनीकी रूप से सही तो है लेकिन सामाजिक रूप से खोखला है।
2. "दोहरा व्यक्तित्व" (Split Personality)
एक मॉडल एक काम के लिए बुरा अभिनेता हो सकता है और दूसरे के लिए महान।
- वास्तविकता: एक मॉडल अलग-अलग व्यक्तित्वों का अनुकरण करने में बहुत खराब हो सकता है (सभी एक जैसा बोलते हैं) लेकिन अलग-अलग नैतिक विचारों का अनुकरण करने में अद्भुत हो सकता है। दूसरा मॉडल व्यक्तित्वों के लिए बेहतरीन हो सकता है लेकिन नैतिक तर्क के लिए खराब हो सकता है।
- सबक: आप केवल एक चीज़ का परीक्षण करके AI की "विविधता" का न्याय नहीं कर सकते। यह नैतिक बहस में विविध दिख सकता है लेकिन अपना परिचय देने के लिए पूछे जाने पर एक ही आवाज में सिमट सकता है।
3. "रूढ़िवादी फिल्टर" (Stereotype Filter)
जब AI बहुत अधिक विवरणों (आयु, लिंग, नौकरी, शौक, राजनीति) से अभिभूत हो जाता है, तो वह चीजों को फेंकना शुरू कर देता है।
- वास्तविकता: AI लगातार लिंग (Gender) और देश (Country) को रखता है, लेकिन आयु (Age) और सामाजिक वर्ग (Social Class) को हटा देता है।
- रूपक: यह एक ऐसे शेफ की तरह है जिसे केवल भोजन के रंग की परवाह है (लिंग/देश) लेकिन वह स्वाद और बनावट (आयु/वर्ग) को अनदेखा कर देता है। परिणाम एक ऐसा भोजन है जो दिखने में सही है लेकिन स्वाद में शून्य है।
ऐसा क्यों होता है?
पेपर सुझाव देता है कि यह कोड में कोई बग नहीं है, बल्कि इन मॉडल्स के प्रशिक्षण का एक साइड इफेक्ट है।
- "सहायक सहायक" (Helpful Assistant) चुंबक: AI मॉडल्स को मददगार, हानिरहित और ईमानदार होने के लिए प्रशिक्षित किया जाता है। यह एक सामान्य, विनम्र, मध्यम मार्ग वाली व्यक्तित्व की ओर एक मजबूत "चुंबकीय खिंचाव" पैदा करता है।
- परिणाम: जब आप AI को एक विशिष्ट पात्र बनने के लिए मजबूर करते हैं, तो यह चुंबकीय खिंचाव उन्हें वापस केंद्र की ओर खींच लेता है। आप उन्हें भूमिका में फिट करने के लिए जितना अधिक प्रयास करेंगे, वे उस भूमिका के सुरक्षित, सबसे रूढ़िवादी संस्करण में उतना ही अधिक पीछे हटेंगे।
निचोड़
यदि आप समाज का अनुकरण करने के लिए AI का उपयोग करते हैं (जैसे किसी वीडियो गेम, सर्वेक्षण या सामाजिक प्रयोग के लिए), तो आप परिणामों पर भरोसा नहीं कर सकते।
AI विविध मनुष्यों की आबादी का अनुकरण नहीं कर रहा है। यह मानवता के एक एकल, सपाट, रूढ़िबद्ध संस्करण का अनुकरण कर रहा है जो सतह पर विविध दिखता है लेकिन वास्तव में खोखला है। "गिरगिट" ने अपने रंग खो दिए हैं और वह आपको बस बार-बार वही ग्रे पैच दिखा रहा है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।