When LLMs Play the Telephone Game: Cultural Attractors as Conceptual Tools to Evaluate LLMs in Multi-turn Settings
यह शोध पत्र इस बात की जांच करता है कि कैसे बड़े भाषा मॉडलों में छोटे पूर्वाग्रह एक "टेलीफोन गेम" सेटिंग में बार-बार होने वाली अंतःक्रियाओं के माध्यम से प्रवर्धित होते हैं, जो यह प्रकट करता है कि निर्देश की खुलापन, मॉडल का आकार और विशिष्ट पाठ विशेषताओं से प्रभावित टेक्स्ट गुण जैसे कि विषाक्तता (toxicity), सांस्कृतिक अट्रैक्टर अवस्थाओं की ओर अभिसरित होते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ इस शोध पत्र का सरल भाषा और रचनात्मक उपमाओं के साथ विवरण दिया गया है।
मुख्य विचार: रोबोट्स के साथ "टेलीफोन" का खेल
कल्पना कीजिए कि लोग "टेलीफोन" का क्लासिक खेल खेल रहे हैं, जिसमें एक व्यक्ति दूसरे को कुछ फुसफुसाता है, जो अगले को फुसफुसाता है, और यह सिलसिला चलता रहता है। अंत तक, कहानी अक्सर अप्रासंगिक, मज़ेदार या विकृत हो जाती है।
यह शोध पत्र पूछता है: क्या होगा यदि खिलाड़ी इंसान न होकर लार्ज लैंग्वेज मॉडल्स (LLMs) हों, जैसे कि वह AI जिसका उपयोग आप लिखने या चैट करने के लिए करते हैं?
शोधकर्ताओं ने एक "टेलीफोन" खेल की व्यवस्था की जहाँ एक AI एक कहानी लिखता है, उसे दूसरे AI को सौंपता है, जो उसे फिर से लिखता है और तीसरे को सौंपता है, और यह सिलसिला 50 राउंड तक चलता है। वे देखना चाहते थे कि क्या टेक्स्ट वैसा ही रहता है, बेहतर होता है, खराब होता है, या किसी अजीब नई अवस्था में बदल जाता है।
प्रयोग: AI लेखकों की एक श्रृंखला
शोधकर्ताओं ने AI एजेंटों की एक लंबी श्रृंखला बनाई।
- शुरुआत: एक इंसान एक शुरुआती टेक्स्ट लिखता है (जैसे कि एक समाचार लेख, एक वैज्ञानिक सारांश, या एक सोशल मीडिया कमेंट)।
- श्रृंखला: पहला AI उस टेक्स्ट को प्राप्त करता है और उसे एक विशिष्ट निर्देश मिलता है (जैसे, "इसे फिर से लिखें," "इससे प्रेरणा लें," या "इस कहानी को आगे बढ़ाएं")। वह एक नया संस्करण लिखता है।
- हैंडऑफ (सौंपना): दूसरा AI पहले AI के संस्करण को प्राप्त करता है (न कि मूल मानव वाले टेक्स्ट को) और वही कार्य करता है।
- दोहराव: यह प्रक्रिया लगातार 50 बार होती है।
उन्होंने टेक्स्ट के बारे में चार चीजों को ट्रैक किया जैसे-जैसे वह श्रृंखला में आगे बढ़ता गया:
- विषाक्तता (Toxicity): यह कितना बुरा या अशिष्ट है?
- सकारात्मकता (Positivity): यह कितना खुश या उदास है?
- कठिनाई (Difficulty): इसे पढ़ना कितना कठिन है?
- लंबाई (Length): इसमें कितने शब्द हैं?
खोज: "चुंबक" प्रभाव
सबसे आश्चर्यजनक खोज यह है कि टेक्स्ट केवल बेतरतीब ढंग से नहीं भटकता है। यह एक विशिष्ट "गंतव्य" की ओर खिंचा चला जाता है। शोधकर्ता इसे सांस्कृतिक आकर्षण (Cultural Attractor) कहते हैं।
एक 'अट्रैक्टर' को एक चुंबक की तरह समझें।
- यदि आप एक बहुत ही बुरे (mean) लेख से शुरू करते हैं, तो चुंबक उसे बहुत विनम्र बनाने के लिए खींच सकता है।
- यदि आप एक बहुत लंबे लेख से शुरू करते हैं, तो चुंबक उसे बहुत छोटा बनाने के लिए खींच सकता है।
- आप चाहे कहीं से भी शुरू करें, टेक्स्ट एक ढलान की ओर फिसलता है और एक ही स्थान पर स्थिर हो जाता है।
शोध पत्र में पाया गया कि ये चुंबक वास्तविक और शक्तिशाली हैं। भले ही आप 20 पूरी तरह से अलग कहानियों से शुरू करें, 50 राउंड के AI रीराइटिंग के बाद, वे अक्सर एक-दूसरे के समान दिखने लगते हैं।
मुख्य निष्कर्ष: चुंबक को क्या मजबूत बनाता है?
शोधकर्ताओं ने विभिन्न चरों (variables) का परीक्षण किया ताकि यह देखा जा सके कि क्या चीज़ चुंबक को मजबूत या कमजोर बनाती है।
1. कार्य मायने रखता है (खेल के "नियम")
- सख्त नियम (कमजोर चुंबक): यदि आप AI को कहते हैं, "अर्थ बदले बिना इसे फिर से लिखें," तो टेक्स्ट काफी हद तक वैसा ही रहता है। यहाँ चुंबक कमजोर है।
- ढीले नियम (मजबूत चुंबक): यदि आप AI को कहते हैं, "कुछ नया लिखने के लिए इससे प्रेरणा लें" या "कहानी को आगे बढ़ाएं," तो टेक्स्ट नाटकीय रूप से बदल जाता है। यहाँ चुंबक बहुत मजबूत है, जो टेक्स्ट को बहुत तेज़ी से एक विशिष्ट शैली की ओर खींचता है।
2. AI मॉडल मायने रखता है (खिलाड़ी का "व्यक्तित्व")
अलग-अलग AI मॉडल्स के अलग-अलग "व्यक्तित्व" होते हैं।
- कुछ मॉडल्स (जैसे Llama के कुछ वर्ज़न) टेक्स्ट को बहुत तेज़ी से अधिक सकारात्मक या कम विषाक्त बनाने की प्रवृत्ति रखते हैं।
- अन्य मॉडल्स (जैसे GPT-4o-mini) टेक्स्ट की लंबाई या कठिनाई को बदलने के प्रति अधिक प्रतिरोधी होते हैं।
- दिलचस्प बात यह है कि शोधकर्ताओं ने पाया कि विषाक्तता (toxicity) का चुंबक सबसे मजबूत था। लगभग सभी मॉडल्स ने टेक्स्ट को बहुत तेज़ी से "साफ" कर दिया ताकि वह सुरक्षित और गैर-विषाक्त हो सके, चाहे मूल कहानी कितनी भी बुरी क्यों न हो।
3. "फाइन-ट्यूनिंग" का प्रभाव
AI मॉडल्स को अक्सर मनुष्यों द्वारा "फाइन-ट्यून" (प्रशिक्षित) किया जाता है ताकि वे सहायक और सुरक्षित बन सकें। शोधकर्ताओं ने पाया कि यह प्रशिक्षण एक पूर्व-निर्धारित चुंबक की तरह काम करता है।
- जो मॉडल्स फाइन-ट्यून किए गए हैं (जिन्हें "इंस्ट्रक्ट" मॉडल्स कहा जाता है), उनके चुंबक मानव प्राथमिकताओं (जैसे कि कम विषाक्त होना) की ओर टेक्स्ट को "बेस" मॉडल्स की तुलना में बहुत तेज़ी से खींचते हैं।
यह क्यों महत्वपूर्ण है (शोध पत्र के अनुसार)
यह शोध पत्र तर्क देता है कि हम वर्तमान में AI का परीक्षण एक कमरे में बैठे एक अकेले व्यक्ति की तरह कर रहे हैं। हम एक प्रश्न पूछते हैं, उत्तर प्राप्त करते हैं, और कहते हैं, "अच्छा काम किया!"
लेकिन वास्तविक दुनिया में, AI अक्सर श्रृंखलाओं (chains) में उपयोग किया जाता है:
- एक AI सारांश लिखता है, दूसरा उसे संपादित करता है, तीसरा उसे ब्लॉग पोस्ट में बदल देता है।
- AI चैटबॉट्स आपस में बात करते हैं।
शोध पत्र चेतावनी देता है कि एकल टर्न (single turn) का परीक्षण करना पर्याप्त नहीं है। एक एकल बातचीत एकदम सही लग सकती है, लेकिन यदि आप उस AI को 50 बार दूसरे AI से बात करने देते हैं, तो सामग्री पूरी तरह से बदल सकती है (या तो बहुत सुरक्षित और उबाऊ, या बहुत अजीब)।
"पतन" (Collapse) की चेतावनी
एक विशिष्ट मामले में, शोधकर्ताओं ने एक अजीब गड़बड़ी देखी। जब एक AI को कहानी को "जारी रखने" के लिए कहा गया, तो वह अंततः एक ही हैशटैग को बार-बार दोहराने लगा (जैसे, "#XiangqiForAll #XiangqiForAll...")। टेक्स्ट की गुणवत्ता कीवर्ड्स के लूप में "पतन" (collapse) हो गई। यह इस बात का संकेत है कि जब AI बिना मानवीय हस्तक्षेप के एक-दूसरे से बहुत अधिक बात करता है, तो कभी-कभी वह अपना मानसिक संतुलन खो सकता है और अर्थहीन हो सकता है।
सारांश
यह शोध पत्र एक चेतावनी और AI को देखने का एक नया तरीका है। यह कहता है: केवल यह न देखें कि एक AI एक बार में क्या कहता है। देखें कि क्या होता है जब AI आपस में बात करते हैं। उनके पास अदृश्य "चुंबक" हैं जो उनकी बातचीत को विशिष्ट शैलियों की ओर खींचते हैं, और नियमों और मॉडल के आधार पर, वे बातचीत दुनिया को उन तरीकों से बदल सकती है जिनकी भविष्यवाणी हम केवल एक चैट देखकर नहीं कर सकते।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।