Evaluation Drift in LLM Personality Induction: Are We Moving the Goalpost?
यह शोध पत्र यह प्रदर्शित करता है कि जबकि लंबे निबंधों पर बड़े भाषा मॉडलों को फाइन-ट्यून करने से उनके व्यक्तित्व संबंधी प्रतिक्रियाएं प्रॉम्प्ट विविधताओं के विरुद्ध स्थिर हो जाती हैं, यह अनगाइडेड (unguided) निबंधों से लक्षित 'बिग फाइव' प्रोफाइल को सटीक रूप से प्रेरित करने में विफल रहता है, जो निष्ठापूर्ण व्यक्तित्व प्रेरण के लिए परिदृश्य-आधारित डेटासेट या संवादात्मक उद्दीपन (interactive elicitation) की आवश्यकता को रेखांकित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को व्यक्तित्व (personality) सिखाने की कोशिश कर रहे हैं, जैसे कि किसी फिल्म का कोई पात्र। आप चाहते हैं कि वह चाहे आप उससे कुछ भी पूछें, वह लगातार "मिलनसार" (outgoing), "व्यवस्थित" (organized), या "शांत" (calm) बना रहे।
यह शोध पत्र उन शोधकर्ताओं के लिए एक रिपोर्ट कार्ड की तरह है जिन्होंने पाँच अलग-अलग AI मॉडलों (इन "रोबोटों") को ठीक यही करने के लिए प्रशिक्षित किया। वे यह देखना चाहते थे कि क्या वे वास्तव में एक AI में मानवीय व्यक्तित्व "इंजेक्ट" कर सकते हैं और, सबसे महत्वपूर्ण बात यह है कि क्या वह व्यक्तित्व स्थिर रहेगा या AI बस एक पल के लिए उस व्यक्ति होने का नाटक करेगा और फिर भूल जाएगा।
यहाँ उनके प्रयोग और निष्कर्षों का विवरण दिया गया है, जिसमें कुछ रोजमर्रा के उपमाओं (analogies) का उपयोग किया गया है:
1. लक्ष्य: रोबोट को "कोई बनने" के लिए सिखाना
शोधकर्ताओं ने एक मानक मनोवैज्ञानिक परीक्षण का उपयोग किया जिसे बिग फाइव (OCEAN) कहा जाता है, जो पाँच गुणों को मापता है: Openness (खुलापन), Conscientiousness (कर्तव्यनिष्ठा), Extraversion (बहिर्मुखता), Agreeableness (सहमतिशीलता), और Neuroticism (तंत्रिकाताप)।
इसे एक "व्यक्तित्व पहचान पत्र" (personality ID card) की तरह समझें। AI को सिखाने के लिए, उन्होंने इसे वास्तविक लोगों द्वारा लिखे गए हजारों लंबे निबंध दिए। प्रत्येक निबंध को एक विशिष्ट व्यक्तित्व पहचान पत्र के साथ टैग किया गया था। विचार यह था: "इन कहानियों को पढ़ो, शैली को सीखो, और फिर उस व्यक्ति की तरह व्यवहार करो जिसने इन्हें लिखा है।"
2. पहली खोज: रोबोट को कम "घबराहट वाला" बनाना
व्यक्तित्व सिखाने से पहले, उन्होंने एक अजीब बात देखी। यदि आप एक ही AI से एक ही सवाल दो बार पूछते हैं, लेकिन केवल शब्दों को थोड़ा बदल देते हैं (जैसे "अपने बारे में बताएं" बनाम "अपने चरित्र का वर्णन करें"), तो AI बहुत अलग उत्तर देता है। यह एक घबराए हुए अभिनेता की तरह है जो निर्देशक के बोलने के तरीके के आधार पर अपना पूरा प्रदर्शन बदल देता है।
उन्होंने क्या किया: उन्होंने AI को "फाइन-ट्यून" किया (उसे निबंधों पर अतिरिक्त प्रशिक्षण दिया)।
परिणाम: AI बहुत कम "जिटरी" (jittery/घबराहट वाला) हो गया। जब एक ही सवाल को अलग-अलग तरीकों से पूछा गया, तो उसने सुसंगत उत्तर दिए।
उपमा: यह एक घबराए हुए छात्र को एक सख्त अध्ययन मार्गदर्शिका (study guide) देने जैसा है। अब, आप टेस्ट का प्रश्न किसी भी तरह से पूछें, वे एक ही स्थिर उत्तर देंगे। "मूल्यांकन" (test) विश्वसनीय हो गया क्योंकि AI ने हिलना-डुलना बंद कर दिया था।
3. दूसरी खोज: "एक ही धुन" (One-Note) वाली समस्या
यहीं पर चीजें पेचीदा हो गईं। भले ही AI अब स्थिर और सुसंगत था, फिर भी वह वास्तव में व्यक्तित्व को सही ढंग से नहीं पकड़ सका।
शोधकर्ताओं ने AI का पूरे "व्यक्तित्व पहचान पत्र" (सभी पाँचों गुणों के साथ) पर परीक्षण किया।
- अपेक्षा: AI को पूरा कार्ड सही मिलना चाहिए (जैसे, उच्च Openness, निम्न Conscientiousness, उच्च Extraversion, आदि)।
- वास्तविकता: AI व्यक्तिगत गुणों के लिए स्कोर तो ठीक पा लेता था, लेकिन जब आप "पूरी तस्वीर" देखते थे, तो वह मूल रूप से केवल अनुमान लगा रहा था। वह केवल 9% बार सही था, जो कि पासा फेंकने (dice roll) से थोड़ा ही बेहतर है।
उपमा: कल्पना कीजिए कि एक छात्र पाँच अलग-अलग विषयों पर परीक्षा दे रहा है।
- "गणित" वाले भाग में, उसे 'A' ग्रेड मिलता है।
- "इतिहास" वाले भाग में, उसे 'A' ग्रेड मिलता है।
- "कला" वाले भाग में, उसे 'A' ग्रेड मिलता है।
- लेकिन जब आप उसके अंतिम रिपोर्ट कार्ड को देखते हैं, तो ग्रेडों का संयोजन गलत होता है क्योंकि उसने विषयों के बीच के संबंध को गलत समझा था।
यह शोध पत्र तर्क देता है कि पिछले अध्ययन इसी तरह के थे: वे केवल एक समय में एक विषय को देखते थे और कहते थे, "बहुत बढ़िया!" लेकिन असली लक्ष्य पूरा रिपोर्ट कार्ड सही प्राप्त करना था। AI इस पूर्ण परीक्षण में विफल रहा।
4. यह क्यों विफल हुआ?
शोधकर्ताओं ने पाया कि AI संबंधों को लेकर "भ्रम" (hallucinating) पैदा कर रहा था।
- उदाहरण 1: AI ने "पार्टी" और "मज़ा" जैसे शब्द देखे और सोचा, "यह व्यक्ति निश्चित रूप से बहिर्मुखी (Extroverted) है!" लेकिन निबंध वास्तव में किसी ऐसे व्यक्ति के बारे में था जो बाहर जाना चाहता था लेकिन घर पर ही फँसा हुआ था। AI संदर्भ (context) को समझने में चूक गया।
- उदाहरण 2: AI ने किसी को होमवर्क के बारे में शिकायत करते देखा और सोचा, "यह व्यक्ति आलसी (कम Conscientiousness) है।" लेकिन वह व्यक्ति वास्तव में बहुत व्यवस्थित था और बस उसका एक बुरा दिन चल रहा था।
सबक: जिन निबंधों पर AI को प्रशिक्षित किया गया था, उनमें AI के लिए मानव व्यक्तित्व के गहरे, जटिल मिश्रण को सीखने के लिए पर्याप्त स्पष्ट "संकेत" नहीं थे। यह किसी को केवल क्रेयॉन के डिब्बे दिखाकर एक उत्कृष्ट कृति (masterpiece) पेंट करना सिखाने जैसा था, बिना उसे वास्तविक पेंटिंग दिखाए।
5. क्या "सुरक्षा फिल्टर" (Safety Filters) ने इसे खराब कर दिया?
कुछ लोगों को चिंता थी कि AI की "सुरक्षा सेटिंग्स" (फिल्टर जो इसे अभद्र या खतरनाक बातें कहने से रोकते हैं) व्यक्तित्व परीक्षण को बिगाड़ रही हैं।
निष्कर्ष: उन्होंने AI के "अनसेंसर्ड" (uncensored) संस्करणों का परीक्षण किया (वे रोबोट जिनके सुरक्षा फिल्टर बंद थे)। परिणाम समान थे। सुरक्षा फिल्टर समस्या नहीं थे; AI वास्तव में दिए गए निबंधों से जटिल व्यक्तित्व को सीख ही नहीं पा रहा था।
6. निष्कर्ष: "क्या हम गोल पोस्ट बदल रहे हैं?"
शीर्षक पूछता है, "क्या हम गोल पोस्ट बदल रहे हैं?"
- पुराना तरीका: शोधकर्ता कहते थे, "देखो! AI ने 'बहिर्मुखता' (Extraversion) का स्कोर सही प्राप्त किया!" और इसे सफलता घोषित कर देते थे।
- इस शोध पत्र का दृष्टिकोण: यह धोखाधड़ी है। यदि आप फुटबॉल खेल रहे हैं, तो आप यह नहीं कह सकते कि आप जीत गए क्योंकि आपने गेंद को ज़ोर से किक मारी; आपको उसे वास्तव में नेट के अंदर पहुँचाना होगा। चूंकि AI व्यक्तित्व प्रोफाइल को पूरी तरह से प्राप्त नहीं कर सका, इसलिए पिछले "सफलताएं" भ्रामक थीं।
अंतिम निष्कर्ष:
फाइन-ट्यूनिंग AI को स्थिर (stable) बनाती है (यह अपना मन बदलना बंद कर देता है), लेकिन यह इसे सटीक (accurate) नहीं बनाती (यह अभी भी जटिल व्यक्तित्व को वास्तव में नहीं समझ पाता है)। इसे ठीक करने के लिए, लेखकों का सुझाव है कि हमें बेहतर प्रशिक्षण डेटा की आवश्यकता है—शायद संवादात्मक बातचीत जहाँ AI प्रश्न पूछ सके और समय के साथ अधिक संकेत जुटा सके, बजाय इसके कि वह केवल स्थिर निबंधों को पढ़ता रहे।
संक्षेप में: हमने AI को एक सुसंगत अभिनेता (consistent actor) तो बनाया, लेकिन हमने अभी तक उसे वास्तव में उस पात्र को "जीना" नहीं सिखाया है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।