Ad Headline Generation using Self-Critical Masked Language Model
यह शोध पत्र ट्रांसफॉर्मर-आधारित मास्क्ड लैंग्वेज मॉडल्स पर रीइन्फोर्समेंट लर्निंग पॉलिसी ग्रेडिएंट विधियों को लागू करके उच्च गुणवत्ता वाले ई-कॉमर्स विज्ञापन हेडलाइन्स उत्पन्न करने के लिए एक नवीन प्रोग्रामेटिक समाधान प्रस्तावित करता है, जो व्याकरण संबंधी शुद्धता और रचनात्मक गुणवत्ता दोनों में मौजूदा मॉडल्स और मानव-निर्मित हेडलाइन्स से बेहतर प्रदर्शन करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप लाखों उत्पादों के साथ एक विशाल ऑनलाइन स्टोर चलाते हैं। हर बार जब आप संबंधित वस्तुओं का एक समूह (जैसे कि कैंपिंग गियर का सेट या फोन एक्सेसरीज का बंडल) बेचना चाहते हैं, तो आपको विज्ञापन के लिए एक आकर्षक हेडलाइन (शीर्षक) लिखनी पड़ती है।
समस्या:
इन हेडलाइन्स को हाथ से लिखना थका देने वाला काम है। यदि आप केवल उत्पाद के विवरणों को एक साथ जोड़कर इसे स्वचालित करने की कोशिश करते हैं, तो परिणाम उबाऊ और रोबोटिक होते हैं, जैसे कोई रोबोट फोन बुक पढ़ रहा हो। यदि आप "Buy More [Product]" जैसे सरल टेम्पलेट्स का उपयोग करते हैं, तो यह बहुत साधारण लगता है। चुनौती एक ऐसा शीर्षक बनाने की है जो व्याकरण की दृष्टि से एकदम सही हो, रचनात्मक हो, और एक साथ कई अलग-अलग उत्पादों के "वाइब" (भाव) को पकड़ सके, बिना उत्पादों के अस्त-व्यस्त विवरणों से भ्रमित हुए।
समाधान: एक कोच के साथ "स्मार्ट एडिटर"
लेखकों ने एक कंप्यूटर सिस्टम (एक AI) बनाया है जो एक सुपर-स्मार्ट एडिटर की तरह काम करता है। उन्होंने इसे दो मुख्य सामग्रियों का उपयोग करके प्रशिक्षित किया है:
- "खाली स्थान भरने वाला" छात्र (मास्क्ड लैंग्वेज मॉडल):
इस हिस्से को एक ऐसे छात्र के रूप में सोचें जिसने लाखों किताबें (विकिपीडिया और उपन्यास) पढ़ी हैं। वे इस बात में माहिर हैं कि शब्द एक-दूसरे के साथ कैसे फिट होते हैं।
- यह कैसे काम करता है: सिस्टम AI को उत्पादों की एक सूची और एक हेडलाइन दिखाता है जिसमें कुछ शब्द गायब (मास्क किए गए) हैं। AI का काम उत्पादों के संदर्भ के आधार पर गायब शब्दों का अनुमान लगाना है।
- ट्विस्ट: आमतौर पर, इस छात्र को किसी इंसान के जवाब से मेल खाने वाले सही शब्द का अनुमान लगाने के लिए प्रशिक्षित किया जाता है। लेकिन लेखकों ने महसूस किया कि केवल शब्दों को मिलाना ही काफी नहीं है; हेडलाइन का "अच्छा" होना भी जरूरी है।
- "आत्म-आलोचक" कोच (रीइन्फोर्समेंट लर्निंग):
यही असली जादू है। कल्पना करें कि छात्र एक हेडलाइन लिखता है, और फिर "कोच" (AI खुद) उसकी आलोचना करता है।
- अभ्यास: AI एक ही उत्पादों के लिए दो हेडलाइन्स बनाता है।
- हेडलाइन A: AI रैंडम तरीके से अनुमान लगाता है (जैसे कोई छात्र बिना सोचे-समझे तुक्का मार रहा हो)।
- हेडलाइन B: AI सुरक्षित खेलता है और सबसे स्पष्ट, उच्च-संभावना वाले शब्दों को चुनता है (जैसे कोई छात्र केवल टेक्स्टबुक पर टिके रहने वाला छात्र)।
- सबक: कोच दोनों की तुलना करता है। यदि हेडलाइन A (रैंडम अनुमान) हेडलाइन B (सुरक्षित अनुमान) से बेहतर निकलती है, तो AI को एक "इनाम" मिलता है और वह अधिक रचनात्मक जोखिम लेना सीखता है। यदि हेडलाइन B बेहतर थी, तो AI सावधानी बरतना सीखता है।
- लक्ष्य: यह प्रक्रिया, जिसे "सेल्फ-क्रिटिकल" कहा जाता है, AI को गुणवत्ता और रचनात्मकता के लिए अनुकूलित करना सिखाती है, न कि केवल शब्दकोश की परिभाषा से मेल खाने के लिए। यह एक ऐसे लेखक की तरह है जो लिखने का अभ्यास करता है, अपने स्वयं के ड्राफ्ट को पढ़ता है, और बिना किसी मानव शिक्षक द्वारा हर वाक्य को सुधारने की आवश्यकता के, अपनी भाषा को अधिक प्रभावशाली बनाना सीखता है।
यह कई उत्पादों को कैसे संभालता है
आमतौर पर, AI संघर्ष करता है जब आप उसे बहुत अधिक इनपुट देते हैं। यह सिस्टम विशेष है क्योंकि यह उत्पादों के पूरे समूह (जैसे कि एक टेंट, एक स्लीपिंग बैग और एक स्टोव) को देख सकता है और उनके लिए एक ही हेडलाइन लिख सकता है जो उन सभी पर पूरी तरह फिट बैठती हो। यह केवल उन्हें सूचीबद्ध नहीं करता है; यह एक सामान्य सूत्र (जैसे "कैंपिंग एसेंशियल्स") ढूंढता है और उसे एक आकर्षक वाक्यांश में पिरोता है।
परिणाम: इंसानों से बेहतर?
टीम ने अपने सिस्टम का परीक्षण निम्नलिखित के विरुद्ध किया:
- पुराने कंप्यूटर तरीके (जैसे बुनियादी टेम्पलेट्स)।
- अन्य AI मॉडल।
- वास्तविक इंसान जिन्होंने स्टोर के लिए हेडलाइन्स लिखी थीं।
परिणाम आश्चर्यजनक थे:
- व्याकरण: AI ने इंसानों की तुलना में कम व्याकरण संबंधी गलतियाँ कीं (98% बनाम 93%)।
- रचनात्मकता: जब मानव जजों (जिन्होंने हेडलाइन्स के लेखक को नहीं जाना था) ने हेडलाइन्स को रेट किया, तो AI की हेडलाइन्स को "आकर्षक" और "सही" होने के लिए उच्च रेटिंग मिली।
- गति: AI इन हेडलाइन्स को तुरंत बना सकता है, जिससे कंपनी के हजारों घंटों के मैनुअल काम की बचत होती है।
संक्षेप में
यह पेपर एक नए तरीके का वर्णन करता है जिससे कंप्यूटर को विज्ञापन की हेडलाइन्स लिखना सिखाया जाता है। केवल पैटर्न को याद करने के बजाय, उन्होंने AI को अपने काम की आलोचना करके "अभ्यास" करना सिखाया। परिणाम एक ऐसा सिस्टम है जो न केवल व्याकरण की दृष्टि से सटीक हेडलाइन्स लिखता है, बल्कि इतना रचनात्मक भी है कि ब्लाइंड टेस्ट में मानव लेखकों को भी पीछे छोड़ देता है, और यह सब जटिल उत्पादों के समूहों को सहजता से संभालते हुए करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।