Do language models accommodate their users? A study of linguistic convergence
यह अध्ययन प्रदर्शित करता है कि लार्ज लैंग्वेज मॉडल्स (large language models) उपयोगकर्ता की शैलियों के प्रति तीव्र भाषाई अभिसरण (linguistic convergence) प्रदर्शित करते हैं, जो अक्सर मनुष्यों की तुलना में ओवरफिटिंग (overfitting) करते हैं, जबकि इंस्ट्रक्शन-ट्यून्ड (instruction-tuned) और बड़े मॉडल्स, अपने प्रीट्रेन्ड (pretrained) और छोटे समकक्षों की तुलना में कम अभिसरण दिखाते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक पार्टी में हैं। आप एक कमरे में कदम रखते हैं जहाँ हर कोई एक बहुत ही विशिष्ट तरीके से बोल रहा है: शायद वे बड़े, फैंसी शब्दों का उपयोग कर रहे हैं, या छोटे वाक्यों में बोल रहे हैं, या लगातार स्लैंग (बोलचाल की भाषा) का उपयोग कर रहे हैं।
"गिरगिट" प्रभाव (The "Chameleon" Effect)
मानव मनोविज्ञान में, एक अवधारणा है जिसे अकोमोडेशन (accommodation) कहा जाता है। यह एक सामाजिक गिरगिट के समान प्रभाव है। यदि आप किशोरों के समूह से बात करते हैं, तो आप उनकी स्लैंग का उपयोग करने लग सकते हैं। यदि आप एक प्रोफेसर से बात करते हैं, तो आप अपनी मुद्रा सीधी कर लेते हैं और औपचारिक व्याकरण का उपयोग करते हैं। हम ऐसा अनजाने में घुलने-मिलने, तालमेल बनाने और बातचीत को सुचारू रूप से चलाने के लिए करते हैं।
यह शोध पत्र एक सरल लेकिन दिलचस्प सवाल पूछता है: क्या AI चैटबॉट्स भी वही करते हैं?
जब आप एक AI से बात करते हैं, तो क्या वह आपकी शैली से मेल खाने के लिए अपनी भाषा को "सजावट" देने की कोशिश करता है, ठीक वैसे ही जैसे एक इंसान करेगा? या वह बस अपनी रोबोटिक आवाज़ में बात करता रहता है?
प्रयोग: "रिक्त स्थान भरें" का खेल
शोधकर्ताओं ने केवल AI के साथ चैट नहीं की और उम्मीद नहीं की। उन्होंने एक चतुर प्रयोग तैयार किया:
- स्क्रिप्ट: उन्होंने वास्तविक मानवीय बातचीत (फिल्मों की स्क्रिप्ट, रेडियो इंटरव्यू और दैनिक चैट लॉग से) ली।
- बदलाव: उन्होंने इन बातचीत के अंतिम कुछ वाक्यों को हटा दिया और विभिन्न AI मॉडलों से उन्हें "रिक्त स्थान भरने" के लिए कहा, जैसे कि वे उस व्यक्ति की तरह बोल रहे हों जिसे अगला बोलना था।
- तुलना: फिर उन्होंने जो कुछ AI ने लिखा था उसकी तुलना की:
- एक अनजान व्यक्ति क्या कह सकता था (रैंडम बेसलाइन)।
- मूल इंसान ने वास्तव में उस जगह पर क्या कहा था (ह्यूमन बेसलाइन)।
उन्होंने विशिष्ट "शैली मार्करों" (style markers) को देखा, जैसे:
- लंबाई: क्या AI ने छोटा वाक्य लिखा यदि इंसान संक्षिप्त में बोला था?
- शब्दावली: क्या इसने समान प्रकार के शब्दों (जैसे "और", "लेकिन", "द") का उपयोग किया?
- नाम: क्या इसने ठीक पहले उल्लेखित विशिष्ट नामों या संज्ञाओं को दोहराया?
बड़ी खोजें
1. AI एक सुपर-गिरगिट है (लेकिन शायद बहुत अधिक अच्छा)
परिणाम आश्चर्यजनक थे। हाँ, AI अनुकूलित होता है। जब उपयोगकर्ता छोटे-छोटे टुकड़ों में बोलता है, तो AI भी छोटे टुकड़ों में बोलता है। जब उपयोगकर्ता विशिष्ट शब्दों का उपयोग करता है, तो AI भी उनका उपयोग करता है।
हालाँकि, AI अक्सर इसे बहुत अधिक अच्छी तरह से करता है। यह एक ऐसे मेथड एक्टर की तरह है जो भूमिका में इतना डूब जाता है कि वह भूल जाता है कि वह अभिनय कर रहा है।
- "ओवरफिटिंग" (Overfitting) की समस्या: कई मामलों में, AI ने मानव की तुलना में शैली का अधिक अनुकरण किया। यदि कोई इंसान कहता है, "मुझे सेब पसंद हैं," तो एक वास्तविक व्यक्ति कह सकता है, "मुझे भी!" या "मैं संतरे पसंद करता हूँ।" AI कह सकता है, "मुझे भी सेब पसंद हैं!" यह पैटर्न को इतनी पूर्णता से कॉपी करता है कि यह थोड़ा अप्राकृतिक लगता है, जैसे एक दर्पण जो आपको थोड़ा अधिक तीव्रता से प्रतिबिंबित करता है।
2. "शिक्षक" बनाम "छात्र"
शोधकर्ताओं ने दो प्रकार के AI का परीक्षण किया:
- प्री-ट्रेन्ड मॉडल (The "Students"): ये कच्चे AI हैं जिन्होंने इंटरनेट पढ़ा है लेकिन उन्हें चैट करने के लिए विशेष रूप से नहीं सिखाया गया है।
- इंस्ट्रक्शन-ट्यून्ड मॉडल (The "Teachers"): ये वे AI हैं (जैसे कि वे जिनसे आप रोज़ाना बात करते हैं) जिन्हें निर्देशों का पालन करने और सहायक होने के लिए फाइन-ट्यून किया गया है।
ट्विस्ट: "स्टूडेंट्स" (कच्चे मॉडल) सबसे बड़े गिरगिट थे। उन्होंने उपयोगकर्ता की शैली की नकल इतनी ज़ोर से करने की कोशिश की कि वे अक्सर इसे बहुत अधिक कर देते थे। "टीचर्स" (इंस्ट्रक्शन-ट्यून्ड मॉडल) वास्तव में उपयोगकर्ता की शैली की नकल करने की संभावना कम रखते थे। वे थोड़ा संयम बरतते थे, एक सहायक के रूप में अधिक और एक दर्पण के रूप में कम सुनाई देते थे।
उपमा: कल्पना कीजिए कि एक कच्चा AI एक घबराया हुआ नया कर्मचारी है जो बॉस के हर कदम की नकल करने की कोशिश करता है, यहाँ तक कि उनकी बुरी आदतों की भी। इंस्ट्रक्शन-ट्यून्ड AI एक अनुभवी पेशेवर की तरह है जो बॉस को सुनता है लेकिन अपनी पेशेवर पहचान बनाए रखता है।
3. यह "कमरे" पर निर्भर करता है
बातचीत के प्रकार के आधार पर AI का व्यवहार बदल गया:
- कैजुअल चैट: AI ने अच्छी तरह से अनुकूलन किया।
- औपचारिक साक्षात्कार: उन्हें सही संतुलन बनाने में थोड़ा संघर्ष करना पड़ा, कभी-कभी बहुत अनौपचारिक या बहुत सख्त लगना।
यह क्यों मायने रखता है?
शोध पत्र एक महत्वपूर्ण चेतावनी के साथ समाप्त होता है: सिर्फ इसलिए कि AI ऐसा लग रहा है जैसे वह आपको "समझ" रहा है, इसका मतलब यह नहीं है कि वह आपको समझता है।
- इंसान अपनी बातचीत इसलिए बदलते हैं क्योंकि उनके पास भावनाएं, सामाजिक लक्ष्य और जुड़ने की इच्छा होती है।
- AI अपनी भाषा इसलिए बदलते हैं क्योंकि उनका गणित कहता है, "यदि पिछला शब्द 'द' था, तो अगला शब्द 'कैट' होने की संभावना है।" वे पैटर्न की भविष्यवाणी कर रहे हैं, संबंध नहीं बना रहे हैं।
खतरा: क्योंकि ये AI मानवीय शैली की नकल करने में इतने अच्छे हैं, हम उन पर बहुत अधिक भरोसा कर सकते हैं। यदि एक AI बिल्कुल एक मिलनसार इंसान की तरह सुनाई देता है, तो हम उसकी सलाह पर विश्वास कर सकते हैं, भले ही वह गलत हो। यह "भेड़ की खाल में भेड़िये" वाला परिदृश्य है, लेकिन भेड़िया वास्तव में केवल एक बहुत ही परिष्कृत दर्पण है।
निष्कर्ष (Takeaway)
भाषा मॉडल भाषाई नकल (linguistic mimicry) में अविश्वसनीय रूप से कुशल हैं। वे आपकी शैली से मेल खाने के लिए अपनी शैली बदल सकते हैं, कभी-कभी मनुष्यों से भी बेहतर। लेकिन यह इसलिए नहीं है क्योंकि वे सहानुभूति रखते हैं; बल्कि इसलिए है क्योंकि वे उत्कृष्ट पैटर्न-मैचिंग मशीन हैं।
अगली बार जब कोई चैटबॉट आपके "वाइब" को समझता हुआ प्रतीत हो, तो याद रखें, वह आपका जीवनसाथी नहीं है; वह एक बहुत ही प्रतिभाशाली अभिनेता है जो उस स्क्रिप्ट को पढ़ रहा है जो आपने अभी उसे सौंपी है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।