Position: Universal Aesthetic Alignment Narrows Artistic Expression
यह स्थिति पत्र तर्क देता है कि छवि निर्माण मॉडलों को सामान्य सौंदर्य संबंधी प्राथमिकताओं के प्रति अत्यधिक संरेखित करना उपयोगकर्ता की स्वायत्तता और कलात्मक बहुलवाद को कमजोर करता है, क्योंकि यह "सौंदर्य-विरोधी" आउटपुट को व्यवस्थित रूप से दंडित करता है, भले ही वे स्पष्ट उपयोगकर्ता निर्देशों का कड़ाई से पालन करते हों।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने एक चित्र बनाने के लिए एक बहुत ही प्रतिभाशाली कलाकार को काम पर रखा है। आप उन्हें एक बहुत ही विशिष्ट निर्देश देते हैं: "मुझे एक धुंधला, बिखरा हुआ, डरावना दिखने वाला सड़क का दृश्य चाहिए जो अकेलापन और घबराहट महसूस कराए।"
आप उम्मीद करते हैं कि कलाकार आपकी बात सुनेगा। लेकिन इसके बजाय, कलाकार एक उज्ज्वल, धूप वाला, पूरी तरह से स्पष्ट और खुशनुमा सड़क का दृश्य चित्रित करता है। जब आप पूछते हैं, "तुमने इसे डरावना क्यों नहीं बनाया?" तो कलाकार उत्तर देता, "क्योंकि मेरे बॉस ने मुझे बताया कि 'अच्छी कला' हमेशा सुंदर, धूप वाली और खुशहाल होनी चाहिए। यदि मैं कुछ बदसूरत या उदास चित्रित करता हूँ, तो कंप्यूटर जो मेरे काम को ग्रेड देता है, वह मुझे फेलिंग स्कोर देगा।"
यह शोध पत्र तर्क देता है कि आधुनिक एआई इमेज जनरेटर के साथ बिल्कुल यही हो रहा है।
मुख्य समस्या: "परफेक्ट" रोबोट कलाकार
लेखक इसे "यूनिवर्सल एस्थेटिक अलाइनमेंट" (Universal Aesthetic Alignment) कहते हैं। यह ऐसा है जैसे एआई को एक ऐसी समिति द्वारा प्रशिक्षित किया गया है जो सभी एक ही बात पर सहमत हैं: "सुंदर का अर्थ है उज्ज्वल, स्पष्ट और खुशहाल।"
शोध पत्र का दावा है कि डेवलपर्स ने इन एआई मॉडलों को हमेशा इस एक ही "परफेक्ट" लुक के पीछे भागने के लिए ट्यून किया है। समस्या यह है कि यह वास्तव में उपयोगकर्ता क्या चाहता है, इसकी अनदेखी करता है। कभी-कभी, कला, फिल्मों या कहानी कहने के लिए, आपको कुछ बदसूरत, अंधेरे, धुंधले या उदास की आवश्यकता होती है। लेकिन एआई इसे करने से इनकार कर देता है क्योंकि उसका आंतरिक "ग्रेडबुक" (जिसे रिवॉर्ड मॉडल कहा जाता है) उसे कुछ भी जो पारंपरिक रूप से सुंदर नहीं है, उसे नापसंद करने के लिए प्रोग्राम किया गया है।
"टॉक्सिक पॉजिटिविटी" फिल्टर
लेखक "टॉक्सिक पॉजिटिविटी" (Toxic Positivity) का रूपक उपयोग करते हैं। जिस तरह एक व्यक्ति जो हर समय खुश रहने का आग्रह करता है, वास्तविक दुख की अनदेखी करता है, उसी तरह ये एआई मॉडल वास्तविक नकारात्मक भावनाओं की अनदेखी करते हैं।
- प्रयोग: शोधकर्ताओं ने एआई से डर, क्रोध या उदासी दिखाने वाले चेहरे बनाने के लिए कहा।
- परिणाम: "अलाइन्ड" (Aligned) एआई मॉडल अक्सर निर्देशों को अनदेखा कर देते थे और खुश चेहरे बना देते थे। यहाँ तक कि जब उन्होंने एक उदास चेहरा बनाने की कोशिश की, तो एआई के आंतरिक ग्रेडिंग सिस्टम ने इसे बहुत कम स्कोर दिया क्योंकि यह पर्याप्त रूप से "सुंदर" नहीं था।
- उपमा: यह एक ऐसे शिक्षक की तरह है जो किसी त्रासदी के बारे में छात्र के निबंध को "F" ग्रेड देता है क्योंकि शिक्षक को लगता है कि निबंध को पिल्ले के बारे में एक सुखद कहानी होनी चाहिए थी।
"औसत व्यक्ति" का जाल
शोध पत्र का तर्क है कि ये एआई मॉडल वास्तव में यह नहीं सीख रहे हैं कि आप क्या पसंद करते हैं। इसके बजाय, वे यह सीख रहे हैं कि एक काल्पनिक "औसत व्यक्ति" क्या पसंद करता है।
- रूपक: एक ऐसे रेस्टोरेंट की कल्पना करें जो केवल "औसत" भोजन परोसता है। यदि आप एक मसालेदार, अजीब या कड़वा व्यंजन मांगते हैं, तो शेफ मना कर देता है और आपको एक सादा सैंडविच दे देता है, यह कहते हुए, "ज्यादातर लोग सैंडविच पसंद करते हैं।"
- वास्तविकता: एआई को बहुसंख्यक (या जो डेवलपर्स सोचते हैं कि बहुसंख्यक चाहते हैं) को खुश करने के लिए डिज़ाइन किया गया है। ऐसा करने में, यह उस अल्पसंख्यक की आवाज़ को दबा देता है जो कुछ अलग चाहता है। लेखक इसे "रिवर्स्ड अलाइनमेंट" (Reversed Alignment) कहते हैं। एआई के बजाय उपयोगकर्ता के अनुरूप होने के बजाय, उपयोगकर्ता को एआई की संकीर्ण परिभाषा के अनुरूप होने के लिए मजबूर किया जाता है।
"आर्ट हिस्ट्री" टेस्ट
यह साबित करने के लिए कि यह केवल खराब एआई के बारे में नहीं है, शोधकर्ताओं ने प्रसिद्ध, वास्तविक दुनिया की कला पर एआई के ग्रेडिंग सिस्टम का परीक्षण किया।
- परीक्षण: उन्होंने एआई के ग्रेडिंग सिस्टम को द स्क्रीम (The Scream - जो जानबूझकर डरावना और विकृत है) और अमूर्त कला (Abstract Art) जैसी प्रसिद्ध पेंटिंग्स दिखाईं।
- परिणाम: एआई के ग्रेडिंग सिस्टम ने इन उत्कृष्ट कृतियों को बहुत कम स्कोर दिया। इसने इन्हें एआई द्वारा उत्पन्न एक सामान्य, सुंदर फूल की तस्वीर से भी कम रेटिंग दी।
- बिंदु: एआई की "आंख" एक विशिष्ट, पॉलिश की गई शैली के लिए इतनी ट्यून है कि वह किसी भी चीज़ में कलात्मक मूल्य को नहीं पहचान सकती जो अव्यवस्थ, अंधेरी या अपरंपरागत दिखती है।
निष्कर्ष: एक संकुचित दुनिया
शोध पत्र निष्कर्ष निकालता है कि सभी एआई कला को "परफेक्ट" और "सुंदर" बनाने के लिए मजबूर करके, हम रचनात्मक अभिव्यक्ति की दुनिया को छोटा कर रहे हैं।
- उपमा: यह एक म्यूजिक स्ट्रीमिंग सेवा की तरह है जो केवल उत्साहजनक पॉप गाने बजाती है और आपको जैज़, ब्लूज़ या हेवी मेटल सुनने देने से मना कर देती है, यह दावा करते हुए कि "उत्साहजनक पॉप ही वह है जो सभी को पसंद है।"
- खतरा: यह केवल एआई को कष्टप्रद नहीं बनाता है; यह सक्रिय रूप से उपयोगकर्ताओं को वह कला बनाने से रोकता है जिसे वे वास्तव में बनाना चाहते हैं। यह एआई को आपके आदेश मानने वाले उपकरण से बदलकर एक ऐसे उपकरण में बदल देता है जो आपको बताता है कि आपको क्या चाहना चाहिए।
संक्षेप में, शोध पत्र कहता है: एआई को एक "परफेक्ट" कलाकार बनने के लिए मजबूर करना बंद करें। इसे एक ऐसा उपकरण बनने दें जो बदसूरत, उदास और बिखरा हुआ हो सके, यदि आप वैसा ही मांगते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।