Tacit Coordination of Large Language Models
यह शोध पत्र लार्ज लैंग्वेज मॉडल्स (LLMs) में टैसिट कोऑर्डिनेशन (tacit coordination) का पहला बड़े पैमाने पर मूल्यांकन प्रस्तुत करता है, जो यह प्रकट करता है कि जहाँ LLMs अक्सर फोकल पॉइंट्स के माध्यम से संचार के बिना समन्वय करने में मनुष्यों के बराबर या उनसे बेहतर प्रदर्शन करते हैं, वहीं वे संख्यात्मक सामान्य ज्ञान या सांस्कृतिक बारीकियों की आवश्यकता वाले कार्यों में लगातार विफल रहते हैं, जिससे उनके लेटेंट नोटियंस ऑफ सैलिएंस (latent notions of salience) में महत्वपूर्ण सामाजिक सीमाओं का पता चलता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ सरल भाषा और रचनात्मक उपमाओं का उपयोग करके शोध पत्र "Tacit Coordination of Large Language Models" की व्याख्या दी गई है।
मुख्य समस्या: "ब्लाइंड डेट" की दुविधा
कल्पना कीजिए कि आप और एक दोस्त एक विशाल, खाली स्टेडियम में आँखों पर पट्टी बाँधकर खड़े हैं। आप दोनों को एक विशिष्ट सीट चुननी है। यदि आप एक ही सीट चुनते हैं, तो आप इनाम जीतते हैं। यदि आप अलग-अलग सीटें चुनते हैं, तो आपको कुछ नहीं मिलता। आप एक-दूसरे से बात नहीं कर सकते। आप संकेत भी नहीं दे सकते। आपको बस यह अनुमान लगाना है कि दूसरा व्यक्ति कहाँ बैठेगा।
गेम थ्योरी (खेल सिद्धांत) में, इसे टैसिट कोऑर्डिनेशन (tacit coordination) कहा जाता है। मनुष्य इसमें आश्चर्यजनक रूप से कुशल होते हैं। हम यादृच्छिक (random) सीटें नहीं चुनते; हम "सैलियंट" (salient) सीटें चुनते हैं—ऐसी सीटें जो अलग दिखती हैं। शायद वह पहली पंक्ति की बिल्कुल पहली सीट हो, या स्टेडियम का ठीक केंद्र हो। ये विशिष्ट विकल्प फोकल पॉइंट्स (Focal Points) कहलाते हैं। ये सामाजिक चुंबक की तरह होते हैं जो बिना किसी शब्द के लोगों को एक साथ खींचते हैं।
शोधकर्ताओं जानना चाहते थे: क्या AI (लार्ज लैंग्वेज मॉडल्स, या LLMs) यह कर सकते हैं? क्या एक AI बिना बात किए अनुमान लगा सकता है कि एक इंसान कहाँ बैठेगा, या दूसरा AI कहाँ बैठेगा?
प्रयोग: AI के "सोशल रडार" का परीक्षण
टीम ने 20 से अधिक विभिन्न AI मॉडलों (Llama, Qwen और GPT जैसे प्रसिद्ध मॉडलों सहित) का पिछले प्रयोगों के मानव डेटा के विरुद्ध परीक्षण किया। उन्होंने तीन परिदृश्य (scenarios) का उपयोग किया:
"एक नंबर चुनें" वाला खेल (एम्स्टर्डम और नॉटिंगहैम):
इंसानों को एक सूची से उत्तर चुनने के लिए कहा गया था। AI को यह अनुमान लगाना था कि इंसानों ने क्या चुना।- परिणाम: AI कुछ कार्यों में इंसानों से भी बेहतर था, विशेष रूप से तब जब उत्तर स्पष्ट था (जैसे 1 से 100 की सूची में से "1" चुनना)।
- विफलता: AI तब संघर्ष करता था जब "सही" उत्तर संस्कृति या सूक्ष्म संदर्भ (subtle context) पर निर्भर करता था। उदाहरण के लिए, यदि फोकल पॉइंट नॉटिंगहैम, इंग्लैंड की सांस्कृतिक विशिष्टता से जुड़ा था, तो AI अक्सर उसे चूक जाता था। वह सांस्कृतिक अर्थ के बजाय संरचना (जैसे "बीच का विकल्प चुनें") पर बहुत अधिक निर्भर था।
बार्गेनिंग टेबल (सहयोग बनाम स्वार्थ):
कल्पना कीजिए कि दो खिलाड़ी मेज पर रखे सिक्कों को साझा कर रहे हैं। उन्हें यह तय करना है कि किसे कौन सा सिक्का मिलेगा। यदि वे असहमत होते हैं, तो दोनों का पैसा डूब जाता है।- परिणाम: AI एक बहुत ही विनम्र, सहकारी साथी की तरह व्यवहार करता था। इसने संघर्ष से बचने और दोनों पक्षों के लिए कुल पुरस्कार को अधिकतम करने की पूरी कोशिश की। इसने एक ऐसे इंसान की तरह प्रदर्शन किया जो निष्पक्ष और सहकारी होने की कोशिश कर रहा हो।
खोज और बचाव (वाइल्डरनेस टेस्ट):
यह सबसे वास्तविक परीक्षण था। AI को एक जंगल का नक्शा दिया गया जहाँ एक हाइकर लापता हो गया था। इसे हाइकर को खोजने के लिए सबसे संभावित स्थान का अनुमान लगाना था।- परिणाम: AI केवल तभी अच्छा प्रदर्शन कर पाया जब हाइकर किसी "फोकल" स्थान पर होने की संभावना थी—जैसे कि रास्तों का संगम (junction), नदी का किनारा, या कोई लैंडमार्क। यदि हाइकर जंगल के किसी यादृच्छिक हिस्से में खो गया था, तो AI के अनुमान संयोग (chance) से बेहतर नहीं थे।
- मुख्य अंतर्दृष्टि: AI हाइकर के मनोविज्ञान के बारे में "सोच" नहीं रहा है; वह नक्शे पर उन संरचनात्मक लैंडमार्क्स को देख रहा है जो उभर कर सामने आते हैं, ठीक वैसे ही जैसे एक इंसान करेगा।
बड़ी हैरानी: अधिक गहराई से सोचना मदद नहीं करता
आप सोच सकते हैं कि यदि आप AI को समन्वय करने के लिए "चरण-दर-चरण सोचें" (think step-by-step) या "गहराई से तर्क करें" (reason deeply) के लिए कहते हैं, तो वह बेहतर करेगा।
ऐसा नहीं होता।
शोध में पाया गया कि AI को अधिक तर्क करने के लिए मजबूर करने से अक्सर समन्वय (coordination) खराब हो जाता है। एक चतुर सामाजिक संकेत खोजने के बजाय, AI बहुत अधिक सोचने लगता है और अंततः एक मनमाना विकल्प चुन लेता है (जैसे "मैं पहले वाले को चुन लूँगा क्योंकि वह पहला है")। टैसिट कोऑर्डिनेशन कोई लॉजिक पहेली नहीं है; यह एक सामाजिक सहज ज्ञान (social instinct) है। अधिक विश्लेषण करने से यह सहज ज्ञान टूट जाता है।
समाधान: "कल्चर" का चीट कोड
शोधकर्ताओं ने एक सरल ट्रिक खोजी जिससे AI मनुष्यों के साथ बेहतर समन्वय कर सकता है। उन्होंने कोई जटिल प्रशिक्षण या नया डेटा उपयोग नहीं किया। उन्होंने बस प्रॉम्प्ट (AI को दिए जाने वाले निर्देश) को बदल दिया।
- खराब प्रॉम्प्ट: "सबसे तार्किक उत्तर चुनें।"
- अच्छा प्रॉम्प्ट: "वह उत्तर चुनें जो मनुष्यों के लिए सांस्कृतिक रूप से सबसे प्रासंगिक हो।"
जब उन्होंने AI को संस्कृति (culture) पर विचार करने के लिए कहा, तो उसके समन्वय स्कोर में उछाल आया, जो अक्सर मानव प्रदर्शन के बराबर या उससे बेहतर था। यह सुझाव देता है कि AI में स्वाभाविक रूप से हमारा सांस्कृतिक "कॉमन सेंस" नहीं होता, लेकिन यदि इसे स्पष्ट रूप से सांस्कृतिक संकेतों को खोजने के लिए कहा जाए, तो यह इसकी नकल कर सकता है।
निष्कर्ष: AI एक स्ट्रक्चरलिस्ट है, कल्चरलिस्ट नहीं
शोध एक चेतावनी और एक अंतर्दृष्टि के साथ समाप्त होता है:
- AI संरचना (Structure) में माहिर है: यदि समन्वय की समस्या में एक स्पष्ट, तार्किक या संरचनात्मक फोकल पॉइंट है (जैसे ग्रिड का केंद्र या मुख्य सड़क का चौराहा), तो AI उसे खोजने में उत्कृष्ट है।
- AI सूक्ष्मता (Nuance) में कमजोर है: यदि फोकल पॉइंट साझा सांस्कृतिक ज्ञान, अंदरूनी चुटकुलों (inside jokes) या सूक्ष्म सामाजिक मानदंडों पर निर्भर करता है, तो AI संघर्ष करता है। वह "सेंट्रलिटी" (बीच का चुनाव करना) पर वापस चला जाता है, भले ही मनुष्य सांस्कृतिक कारणों से कुछ और चुनते।
- साझा मानसिकता मानकर न चलें: हम यह मानकर नहीं बैठ सकते कि AI हमारे जैसा "सोचता" है। उसकी कोई सांस्कृतिक पृष्ठभूमि नहीं है। यदि हम मनुष्यों के साथ टीमों में (जैसे खोज और बचाव या व्यावसायिक योजना में) AI को तैनात करते हैं, तो हमें इसे स्पष्ट रूप से मानवीय सांस्कृतिक अपेक्षाओं के साथ तालमेल बिठाने के लिए प्रॉम्प्ट देना होगा, अन्यथा यह गलत चीज़ पर "समन्वय" कर सकता है।
संक्षेप में: AI एक शानदार वास्तुकार (architect) की तरह है जो जानता है कि इमारत का केंद्र कहाँ है, लेकिन वह यह नहीं जानता कि लोग बाईं ओर के कॉफी शॉप पर मिलना पसंद करते हैं क्योंकि वहीं सब मिलते हैं। आपको वास्तुकार को कॉफी शॉप के बारे में बताना होगा, अन्यथा वह सबको मुख्य लॉबी में भेजता रहेगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।