LLMs Generate Kitsch
यह शोध पत्र यह तर्क देता है कि लार्ज लैंग्वेज मॉडल (LLM) के आउटपुट की कथित सामान्य और खोखली प्रकृति उनके प्रशिक्षण पद्धतियों के कारण किच (kitsch) के व्यवस्थित उत्पादन से उत्पन्न होती है, जो इस अनुभवजन्य साक्ष्य द्वारा समर्थित है कि पाठक LLM-जनित कहानियों को मानव कृतियों की तुलना में अधिक किचपूर्ण महसूस करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य विचार: "परफेक्ट" नकल बनाम असली चीज़
कल्पना कीजिए कि आप एक संग्रहालय में प्रवेश करते हैं। एक तरफ एक प्रसिद्ध कलाकार की पेंटिंग टंगी है जिसने अपने भावों के साथ वर्षों तक संघर्ष किया है, कुछ ऐसा अजीब और कठिन बनाया है जो आपको सोचने पर मजबूर कर देता है। दूसरी ओर एक ऐसी पेंटिंग टंगी है जो बिल्कुल एक शास्त्रीय उत्कृष्ट कृति (masterpiece) जैसी दिखती है, लेकिन इसे एक मशीन ने बनाया है जिसने लाखों अन्य पेंटिंग्स का अध्ययन किया और निर्णय लिया: "लोगों को सूर्यास्त और उदास चेहरे पसंद हैं, इसलिए मैं एक दुख भरे चेहरे के साथ एक परफेक्ट सूर्यास्त बनाऊँगा।"
मशीन की पेंटिंग तकनीकी रूप से एकदम सही है। इसमें कोई कमी नहीं है। यह सुंदर है। लेकिन यह थोड़ी खाली सी लगती है, जैसे पेट्रोल पंप पर मिलने वाला कोई ग्रीटिंग कार्ड। इस शोध पत्र के लेखक इस अहसास को "किच" (Kitsch) कहते हैं।
किच (Kitsch) वह कला है जो कला जैसी तो दिखती है, लेकिन वास्तव में एक सस्ती, बड़े पैमाने पर बनाई गई नकल है जिसे केवल लोगों में एक त्वरित, सरल भावना (जैसे "ओह, यह कितना प्यारा है" या "ओह, यह कितना दुखद है") पैदा करने के लिए डिज़ाइन किया गया है, जिसमें बहुत अधिक सोचने की आवश्यकता नहीं होती।
यह शोध पत्र तर्क देता है कि लार्ज लैंग्वेज मॉडल्स (LLMs), जैसे कि जिससे आप अभी बात कर रहे हैं, मूल रूप से "किच मशीनें" (Kitsch machines) हैं। वे वास्तविक कला का निर्माण नहीं करते; वे उच्च गुणवत्ता वाली, खोखली नकल बनाते हैं।
LLMs "किच" क्यों पैदा करते हैं?
लेखकों का कहना है कि यह कोई दुर्घटना नहीं है; यह इस कारण से है कि ये मशीनें कैसे बनाई गई हैं। वे सरल उपमाओं का उपयोग करते हुए तीन कारण बताते हैं:
1. मशीन के पास आत्मा नहीं है (कोई इरादा नहीं)
कल्पना कीजिए कि एक तोता है जो आपके द्वारा बोले गए हर वाक्य को दोहरा सकता है। यदि आप उस तोते को दिल टूटने के बारे में कविता लिखने के लिए कहते हैं, तो वह ऐसे शब्द कहेगा जो दिल टूटने जैसे सुनाई देंगे क्योंकि उसने उन्हें पहले सुना है। लेकिन तोता वास्तव में दुख महसूस नहीं करता। उसका कोई आंतरिक जीवन नहीं है।
- शोध पत्र का बिंदु: LLMs भी इसी तरह काम करते हैं। वे अनुमान लगाते हैं कि अगला शब्द क्या होना चाहिए। उनके पास कोई भावना, कोई स्मृति या लिखने का कोई कारण नहीं है। वे केवल मानवीय भावनाओं के रूप की नकल करते हैं, उनके सार की नहीं।
2. मशीन सुरक्षित खेलती है (पारंपरिक सतह)
कल्पना कीजिए कि एक शेफ जो केवल वही व्यंजन बनाता है जिनकी लोकप्रियता की गारंटी हो। वह कभी भी कोई अजीब, प्रयोगात्मक स्वाद नहीं आजमाएगा जिससे लोग भ्रमित हो सकते हैं। वह केवल "क्लासिक" लाज़ानिया ही बनाएगा क्योंकि वह जानता है कि हर कोई इसे पसंद करता है।
- शोध पत्र का बिंदु: LLMs को सबसे संभावित अगले शब्द की भविष्यवाणी करने के लिए प्रशिक्षित किया जाता है। इसका मतलब है कि वे स्वाभाविक रूप से अजीब, जोखिम भरे या अभिनव विचारों से बचते हैं। वे कहानी सुनाने या कविता लिखने के "मानक" तरीके पर टिके रहते हैं। इसका मतलब है कि उनका आउटपुट पढ़ने में आसान और समझने में सरल होता है (जो कि अच्छा है!), लेकिन इसका मतलब यह भी है कि उनमें वास्तविक मानवीय रचनात्मकता की अनूठी, आश्चर्यजनक चमक की कमी होती है।
3. मशीन चाहती है कि उसे पसंद किया जाए (व्यापक अपील)
कल्पना कीजिए कि एक कॉमेडियन चुटकुले सुना रहा है। यदि वह चाहता है कि हर कोई हंसे, तो वह बिल्लियों और पिज्जा के बारे में सुरक्षित, सामान्य चुटकुले सुनाएगा। यदि वह बहुत विशिष्ट या अजीब चुटकुला सुनाता है, तो शायद केवल कुछ ही लोग हंसेंगे।
- शोध/पत्र का बिंदु: LLMs को अक्सर "ह्यूमन फीडबैक से सुदृढीकरण लर्निंग" (RLHF) नामक पद्धति का उपयोग करके प्रशिक्षित किया जाता है। यह एक शिक्षक की तरह है जो रोबोट को तब 'गोल्ड स्टार' देता है जब कोई इंसान कहता है, "मुझे यह उत्तर पसंद आया।" रोबोट सीख जाता है कि गोल्ड स्टार पाने के लिए, उसे ऐसी बातें कहनी चाहिए जो व्यापक दर्शकों को आकर्षित करें। यह रोबोट को "सुरक्षित", सामान्य सामग्री बनाने के लिए मजबूर करता है जो जटिल भावनाओं के बजाय सरल भावनाओं (जैसे पुरानी यादें या रोमांस) को ट्रिगर करती है।
प्रयोग: क्या लोग नोटिस करते हैं?
लेखकों ने केवल अनुमान नहीं लगाया; उन्होंने एक परीक्षण किया।
सेटअप:
उन्होंने मनुष्यों द्वारा लिखी गई 10 लघु कहानियों (एक लेखन प्रतियोगिता से) लीं और फिर एक AI को उसी विचार पर एक नई कहानी लिखने के लिए कहा, बिना मूल कहानी देखे। फिर, उन्होंने 100 से अधिक लोगों से जोड़ियों को पढ़ने और यह अनुमान लगाने के लिए कहा कि कौन सी कहानी "किच" (नकली, खोखली या अत्यधिक भावुक) थी।
परिणाम:
- लोगों ने जालसाजी को पहचान लिया: जब लोगों से "किच" को "भावुक" या "पढ़ने में आसान" के रूप में परिभाषित करने के लिए कहा गया, तो उन्होंने 85% बार AI कहानियों को सही ढंग से "किच" के रूप में पहचाना। वे पहचान सके कि AI की कहानियाँ "पेट्रोल पंप वाले ग्रीटिंग कार्ड" जैसी थीं।
- लेकिन लोगों ने जालसाजी को अधिक पसंद किया: यहाँ एक मोड़ है। भले ही लोग जानते थे कि AI की कहानी "किच" है, फिर भी वे इसे पढ़ना अधिक पसंद करते थे। लगभग 67% मामलों में, लोगों ने रिपोर्ट किया कि उन्होंने मानव कहानी की तुलना में AI कहानी को अधिक पसंद किया।
उपमा:
यह एक पूरी तरह से निर्मित, मीठे चॉकलेट बार की तुलना में एक जटिल, कड़वे डार्क चॉकलेट के सेवन जैसा है।
- चॉकलेट बार (AI/किच): यह मीठा है, खाने में आसान है और आपको तुरंत शुगर रश देता है। आप उस क्षण में इसे अधिक पसंद करते हैं।
- डार्क चॉकलेट (मानवीय कला): यह पचाने में कठिन हो सकती है, थोड़ी कड़वी हो सकती है, और इसके लिए आपको इसका आनंद लेने की आवश्यकता होती है। इसमें अधिक "पोषण संबंधी मूल्य" (कलात्मक गहराई) है, लेकिन यह तुरंत संतुष्ट नहीं करती है।
इसका क्या अर्थ है?
शोध पत्र महत्वपूर्ण अंतर्दृष्टि के साथ समाप्त होता है:
- "AI स्लॉप" (AI Slop) की समस्या: हम AI सामग्री की बाढ़ देख रहे हैं जो दिखने में तो अच्छी है लेकिन अंदर से खाली महसूस होती है। ऐसा इसलिए है क्योंकि AI को गहरा होने के लिए नहीं, बल्कि लोकप्रिय होने के लिए डिज़ाइन किया गया है।
- केवल यह न पूछें कि "क्या आपको यह पसंद आया?": यदि शोधकर्ता यह जानना चाहते हैं कि क्या AI कला बनाने में अच्छा है, तो वे केवल लोगों से यह नहीं पूछ सकते, "आपको कौन सा अधिक पसंद आया?" क्योंकि लोग अक्सर "किच" को अधिक पसंद करते हैं। उन्हें काम की गुणवत्ता और मौलिकता के बारे में गहरे प्रश्न पूछने चाहिए।
- मानवीय स्पर्श की अभी भी आवश्यकता है: लेखकों का सुझाव है कि AI रचनात्मकता के "उबाऊ" हिस्सों (जैसे एक मानक कोड स्निपेट या एक बुनियादी कहानी रूपरेखा लिखना) के लिए बहुत अच्छा है, लेकिन यदि आप वास्तव में कुछ कलात्मक, वैज्ञानिक या अभिनव चाहते हैं, तो एक इंसान को ही नियंत्रण संभालना होगा। यदि आप पूरी तरह से मशीन को चलाने देते हैं, तो आपको केवल एक बहुत ही सुचारू, बहुत ही उबाऊ यात्रा मिलेगी जो कहीं नहीं पहुँचती।
संक्षेप में: LLMs "परफेक्ट" प्रतियां बनाने में उत्कृष्ट हैं जो हमें तुरंत अच्छा महसूस कराती हैं, लेकिन वे उन अराजक, कठिन और अद्वितीय चीजों को बनाने में खराब हैं जो हमें सोचने पर मजबूर करती हैं। वे किच के परम स्वामी हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।