Artificial Epanorthosis: Why large language models overuse a classical rhetorical figure, and how to mitigate it
यह शोध पत्र तर्क देता है कि बड़े भाषा मॉडल प्रशिक्षण पूर्वाग्रहों और प्राथमिकता ट्यूनिंग के कारण 'एपैनोथोसिस' (epanorthosis) के अलंकार का व्यवस्थित रूप से अत्यधिक उपयोग करते हैं, और एक विधा-विशिष्ट अंशांकन दृष्टिकोण प्रस्तावित करता है जो हल्के एडेप्टर और निर्देश ट्यूनिंग का उपयोग करके मॉडल आउटपुट को पूरी तरह से समाप्त करने के बजाय मानवीय अलंकारिक मानदंडों के साथ संरेखित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
रोबोटिक लेखन का गुप्त नुस्खा
कल्पना कीजिए कि आप एक विशाल पुस्तकालय में जा रहे हैं जहाँ लाखों किताबें, वेबसाइटें और सोशल मीडिया पोस्ट्स को पीसकर एक विशाल स्मूदी बना दिया गया है। आधुनिक AI चैटबॉट्स इसी तरह बात करना सीखते हैं: वे इस डिजिटल स्मूदी का स्वाद लेते हैं और बार-बार एक वाक्य में अगले शब्द का अनुमान लगाना सीखते हैं। लेकिन इसमें एक ट्विस्ट है। जब वे इस स्मूदी से सीख लेते हैं, तो इंसान आकर उनका "टेस्ट" लेते हैं। वे रोबोट के जवाबों को पढ़ते हैं और कहते हैं, "यह वाला आत्मविश्वास से भरा और कूल लग रहा है," या "यह वाला उबाऊ लग रहा है।" फिर रोबोट वह काम ज्यादा करने के लिए सीखता है जो इंसानों को पसंद आया। यह प्रक्रिया "रिनफोर्समेंट लर्निंग" (reinforcement learning) कहलाती है, और यह एक कुत्ते को ट्रीट देकर प्रशिक्षित करने जैसा है, बस फर्क यह है कि यहाँ कुत्ता एक सुपर-स्मार्ट कंप्यूटर है और ट्रीट डिजिटल प्रशंसा है।
यह पेपर जो बड़ा सवाल पूछता है वह यह है: क्या होता है जब हम एक रोबोट को "आत्मविश्वासी" और "कूल" सुनाई देने के लिए प्रशिक्षित करते हैं? पता चलता है कि रोबोट प्रभावशाली दिखने के लिए एक बहुत ही विशिष्ट, पुराने ढंग के तरीके का उपयोग करने लगता है। यह एक ऐसा तरीका है जिसका उपयोग मानव वक्ता हजारों वर्षों से करते आए हैं, लेकिन रोबोट इसका इतना अधिक उपयोग करता है कि यह नकली लगने लगता है। यह पेपर जांच करता है कि रोबोट ऐसा क्यों करता है, यह कितनी बार होता है, और क्या हम रोबोट को इसे अत्यधिक उपयोग करने से रोक सकते हैं बिना उसे उबाऊ या मूर्ख बनाए।
रोबोट का "रुको, वास्तव में..." वाला टिक
आपको वह अहसास याद है जब कोई कहता है, "मैं सिर्फ एक शिक्षक नहीं हूँ। मैं मस्तिष्कों को आकार देने वाला हूँ"? या जब कोई सेल्सपर्सन कहता है, "हम सिर्फ जूते नहीं बेचते। हम स्वतंत्रता बेचते हैं"? वे एक सामान्य वाक्य से शुरू करते हैं, फिर तुरंत "अनडू" (undo) बटन दबाते हैं और उसे किसी बहुत बड़ी, ऊँची और नाटकीय चीज़ से बदल देते हैं।
शानदार भाषा अध्ययनों की दुनिया में, इस ट्रिक का एक नाम है: एपैनोरोथोसिस (इसे eh-pan-or-tho-sis की तरह बोलें)। यह एक ग्रीक शब्द है जिसका मूल अर्थ है "खुद को सीधा करना" या "सुधारना"। प्राचीन वक्ता इसका उपयोग अपने बिंदुओं को अधिक प्रभावशाली बनाने के लिए करते थे। लेकिन हाल ही में, शोधकर्ताओं ने देखा कि AI चैटबॉट्स यह काम हर समय कर रहे हैं, जैसे कि कोई घबराहट वाला 'टिक' (tic) हो। यह रोबोट का सिग्नेचर मूव बन गया है।
पेपर का तर्क है कि यह कोई दुर्घटना नहीं है। ऐसा इसलिए नहीं है क्योंकि रोबोट गहराई से "सोच" रहा है और अपना विचार बदल रहा है। इसके बजाय, रोबोट ने यह आदत दो मुख्य जगहों से सीखी है:
- इंटरनेट स्मूदी: रोबोट ने बहुत सारा मार्केटिंग कंटेंट, प्रेरणादायक पोस्ट और सेल्स पिच पढ़ा है जहाँ इस "न केवल X, बल्कि Y!" शैली को बहुत सारे क्लिक और लाइक्स मिलते हैं।
- इंसानी टेस्ट टेस्ट: जब इंसानों ने रोबोट के जवाबों को रेटिंग दी, तो उन्हें वे जवाब पसंद आए जो आत्मविश्वासी और प्रभावशाली लगे। रोबोट समझ गया, "हे, अगर मैं कहता हूँ 'मैं एक बॉट नहीं, बल्कि एक डिजिटल आर्किटेक्ट हूँ', तो लोग मुझे हाई स्कोर देते हैं!" इसलिए, इसने इसे और अधिक करना शुरू कर दिया।
पेपर सुझाव देता है कि रोबोट के लिखने का तरीका (एक बार में एक शब्द, बाएं से दाएं) इसे और बदतर बनाता है। क्योंकि रोबोट लिखने के बाद अपने वाक्य को वापस जाकर एडिट नहीं कर सकता, इसलिए वह अपनी टोन को तुरंत सुधारने के लिए इस "करेक्शन" ट्रिक का उपयोग करता है, जिससे वह एक इंसान की तुलना में बहुत अधिक नाटकीय लगने लगता है।
"एपैनोरोथोसिस इंडेक्स": रोबोट के ड्रामे को मापना
इसे साबित करने के लिए, लेखकों ने केवल अनुमान नहीं लगाया; उन्होंने एक मापने वाला टेप बनाया। उन्होंने एपैनोरोथोसिस इंडेक्स नामक कुछ बनाया। इसे एक "ड्रामा मीटर" की तरह समझें। उन्होंने गिना कि रोबोट ने 10,000 शब्दों में इस "न केवल X, बल्कि Y" वाली ट्रिक का कितनी बार उपयोग किया और इसकी तुलना वास्तविक मनुष्यों द्वारा उसी प्रकार के लेखन में इसके उपयोग से की।
यहाँ उन्हें क्या मिला, और यह थोड़ा मिला-जुला है:
- भाषण और प्रचार में: रोबोट बहुत ज्यादा आगे निकल गए। "ओरेटरी" (भाषण) और "प्रमोशनल" (प्रचार संबंधी) लेखन में, रोबनों ने इस ट्रिक का उपयोग मनुष्यों की तुलना में लगभग दोगुना किया। इतालवी भाषा में, यह और भी बुरा था, लगभग तीन गुना अधिक। वे इतना प्रेरित दिखने की कोशिश कर रहे थे कि वे नकली लगने लगे।
- कैजुअल Q&A में: रोबोट ने इसके विपरीत व्यवहार किया। जब इंसान बस बातचीत कर रहे थे या सरल सवालों के जवाब दे रहे थे, तो वे अक्सर अपने जवाबों को नरम करने या सावधानी बरतने के लिए इस ट्रिक का उपयोग करते थे। हालाँकि, रोबोट बहुत सपाट थे और उन्होंने इसका पर्याप्त उपयोग नहीं किया। वे मनुष्यों की तुलना में केवल पाँचवें हिस्से के बराबर ही इसका उपयोग कर पाए।
- गंभीर लेखन में: समाचार लेखों या विश्वकोश प्रविष्टियों जैसी चीजों में, रोबोट और इंसान वास्तव में काफी करीब थे। रोबोट जानते थे कि कब नाटकीय नहीं होना है।
मुख्य निष्कर्ष यह है कि रोबोट गलत कैलिब्रेटेड (miscalibrated) हैं। उन्हें नहीं पता कि ड्रामा के नॉब को कब बढ़ाना है और कब कम करना है। वे बस तब "एपैनोरोथोसिस" बटन दबा देते हैं जब उन्हें लगता है कि उन्हें प्रभावशाली दिखना चाहिए।
क्या हम रोबोट को ठीक कर सकते हैं? ("ड्रामा डायल")
पेपर केवल समस्या की ओर इशारा नहीं करता है; यह इसे ठीक करने की कोशिश भी करता है। लेखकों ने पूछा: "क्या हम रोबोट को इस ट्रिक का अत्यधिक उपयोग करने से रोक सकते हैं बिना उसे ऐसा बनाए जो बोलने से डरने वाले रोबोट जैसा लगे?"
उन्होंने कुछ विचारों का परीक्षण किया, और जो काम आया वह यहाँ है:
"वन-लाइन" फिक्स (प्रॉम्प्टिंग): उन्होंने बस रोबोट को यह बताने की कोशिश की, "कृपया सीधे तरीके से लिखें और 'यह X नहीं, बल्कि Y है' कहने से बचें।"
- परिणाम: यह काम कर गया! इतालवी परीक्षणों में, इस सरल निर्देश ने भाषणों और निबंधों में नाटकीय सुधारों को 70% से 72% तक कम कर दिया। इसने इस ट्रिक को पूरी तरह से खत्म नहीं किया, लेकिन इसने रोबोट के उपयोग को उस स्तर पर ला दिया जो बहुत अधिक मानवीय दिखता था।
"स्टाइल एडेप्टर" (मैजिक डायल): यह बड़ा प्रयोग था। लेखकों ने रोबोट के लिए एक छोटा, विशेष एड-ऑन (जिसे LoRA एडेप्टर कहा जाता है) प्रशिक्षित किया। इस एड-ऑन को ड्रामा के लिए "वॉल्यूम नॉब" की तरह समझें।
- उन्होंने इसे "नाटकीय" टेक्स्ट और "साधारण" टेक्स्ट के उदाहरणों पर प्रशिक्षित किया।
- फिर, उन्होंने यह देखने के लिए एक "डायल" (एक संख्या जिसे वे बदल सकते हैं) का परीक्षण किया कि इस नए स्टाइल का कितना उपयोग किया जाए।
- परिणाम: डायल ने पूरी तरह से काम किया। जब उन्होंने इसे ऊपर किया, तो रोबोट साधारण लगा। जब उन्होंने इसे नीचे किया, तो रोबोट नाटकीय लगा। महत्वपूर्ण रूप से, उन्हें एक ऐसी सेटिंग मिली जहाँ रोबोट का उपयोग बिल्कुल मानव दर के बराबर था। यह ट्रिक को हटाने के बारे में नहीं था; यह कैलिब्रेट करने के बारे में था।
क्या काम नहीं आया: उन्होंने अकेले "प्रेफरेंस लर्निंग" (इंसान क्या पसंद करते हैं यह सिखाना) का उपयोग करने की कोशिश की, लेकिन यह सामान्यीकरण करने में विफल रहा। रोबोट ने टेस्ट में सही उत्तर चुनना तो सीख लिया, लेकिन उसने वास्तव में नए वाक्य लिखना नहीं बदला।
एक बड़ी चेतावनी
पेपर एक थोड़े डरावने विचार के साथ समाप्त होता है। असली खतरा यह नहीं है कि रोबट इस ट्रिक का बहुत अधिक उपयोग कर रहे हैं। असली खतरा यह है कि हम उनकी तरह लिखना शुरू कर सकते हैं।
यदि हम ऐसे टेक्स्ट को पढ़ने के आदी हो जाते हैं जो "न केवल X, बल्कि Y!" सुधारों से भरा है, तो हम यह सोचने लग सकते हैं कि अच्छा लेखन कैसा दिखता है। हम अपने स्वयं के निबंध, ईमेल और भाषणों को प्रभावशाली दिखने के लिए इस नकली, अत्यधिक नाटकीय अंदाज़ के साथ लिखना शुरू कर सकते हैं। पेपर सुझाव देता है कि लक्ष्य रोबोट को बिल्कुल इंसानों जैसा बनाना नहीं होना चाहिए, बल्कि उन्हें स्थिति के लिए उपयुक्त बनाना होना चाहिए। कभी-कभी भाषण को नाटक की आवश्यकता होती है; कभी-कभी मेडिकल रिपोर्ट को सादे तथ्यों की।
लेखक निष्कर्ष निकालते हैं कि जबकि हम इन नए उपकरणों के साथ रोबोट के "टिक" को ठीक कर सकते हैं, कठिन काम खुद को यह पहचानने के लिए प्रशिक्षित करना है कि कौन सा सुधार ईमानदार है और कौन सा केवल एक प्रदर्शन है। आखिरकार, यदि एक मशीन इंसान की तरह बोलना सीख सकती है, तो अगला कदम यह सुनिश्चित करना है कि हम खुद की तरह बोलना न भूल जाएं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।