The Algorithmic Gaze of Image Quality Assessment: An Audit and Trace Ethnography of the LAION-Aesthetics Predictor
यह शोध पत्र LAION-Aesthetics Predictor का ऑडिट करता है ताकि यह प्रकट किया जा सके कि कैसे इसकी एल्गोरिद्मिक दृष्टि (algorithmic gaze) सामग्री को असमान रूप से फ़िल्टर करके और विशिष्ट सांस्कृतिक सौंदर्यशास्त्र को प्राथमिकता देकर पश्चिमी, पुरुष और साम्राज्यवादी पूर्वाग्रहों को सुदृढ़ करती है, और अंततः एआई विकास में बहुलवादी मूल्यांकन विधियों की ओर बदलाव का आग्रह करती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत ही सख्त, बहुत शक्तिशाली कला समीक्षक (art critic) को काम पर रख रहे हैं ताकि वे एक विशाल संग्रहालय बनाने में आपकी मदद कर सकें। यह समीक्षक केवल पेंटिंग को देखता ही नहीं है; वह यह भी तय करता है कि कौन सी पेंटिंग्स संग्रहालय में रखी जाएंगी, कौन सी कूड़े में फेंकी जाएंगी, और किन पर 'गोल्ड स्टार' दिया जाएगा।
यह शोध पत्र इस बारे में है कि यह समीक्षक कौन है, उसे वास्तव में क्या पसंद है, और वह इसे क्यों पसंद करता है। इस कहानी में "समीक्षक" एक AI टूल है जिसे LAION-Aesthetics Predictor (LAP) कहा जाता है। यह एक सॉफ्टवेयर का हिस्सा है जिसका उपयोग प्रसिद्ध AI आर्ट जनरेटरों (जैसे Stable Diffusion) के निर्माता यह तय करने के लिए करते हैं कि कौन सी छवियां "अच्छी" हैं और कौन सी "बुरी"।
यहाँ इस शोध पत्र की कहानी सरल रूप में दी गई है:
1. समस्या: एक आकार सबके लिए सही नहीं होता (One Size Does Not Fit All)
लेखकों ने एक बड़ा सवाल उठाया: यह AI किसकी पसंद का उपयोग कर रहा है?
कला व्यक्तिपरक (subjective) है। जो एक व्यक्ति को सुंदर लगता है, दूसरा उसे उबाऊ पा सकता है। लेकिन AI मॉडलों को यह तय करने के लिए एक एकल, सार्वभौमिक नियम की आवश्यकता होती है कि क्या "उच्च गुणवत्ता" वाला है। LAP मॉडल इसी नियम पुस्तिका के रूप में कार्य करता है। लेखकों को संदेह था कि यह नियम पुस्तिका वास्तव में निष्पक्ष नहीं थी; यह संभवतः एक विशिष्ट प्रकार के व्यक्ति और एक विशिष्ट प्रकार की कला की ओर पक्षपाती थी।
2. जांच: "ऑडिट" (The Audit)
शोधकर्ताओं ने जासूसों की तरह काम किया। उन्होंने यह देखने के लिए LAP मॉडल को लाखों छवियों पर चलाया कि वह क्या रखता है और क्या फेंक देता है। उन्होंने तीन अलग-अलग "परीक्षण मामलों" का उपयोग किया:
- बड़ा डेटा टेस्ट (LAION-Aesthetics Dataset): उन्होंने 1.2 बिलियन छवियों का परीक्षण किया जिन्हें AI ने पहले ही फ़िल्टर कर दिया था।
- खोज: AI एक क्लब के बाउंसर की तरह था जो महिलाओं की तस्वीरों को अंदर आने देने में बहुत उत्साही था, लेकिन पुरुषों और LGBTQ+ लोगों को बाहर रखता था। इसे ईसाई या हिंदू धर्म से संबंधित चित्र पसंद आए, लेकिन इसने यहूदी और मुस्लिम समुदायों को फ़िल्टर कर दिया।
- संग्रहालय टेस्ट (The Met Museum): उन्होंने प्रसिद्ध मेट्रोपॉलिटन म्यूजियम ऑफ आर्ट की छवियां मॉडल में डालीं।
- खोज: AI ने केवल पश्चिमी (Western) और जापानी कला (जैसे यथार्थवादी परिदृश्य और चित्र) को ही उच्च अंक दिए। इसने अफ्रीकी, मूल अमेरिकी, इस्लामी या मिस्र की कला को लगभग शून्य स्टार दिए। ऐसा लग रहा था जैसे AI सोच रहा हो, "यदि यह यूरोप या जापान से संबंधित एक यथार्थवादी पेंटिंग नहीं है, तो यह कला नहीं है।"
- शैली टेस्ट (WikiArt): उन्होंने विभिन्न कला शैलियों को देखा।
- खोज: AI को यथार्थवाद (Realism) पसंद आया। इसने उन फोटो और पेंटिंग्स को उच्च अंक दिए जो वास्तविक जीवन की तरह दिखती थीं। इसे अमूर्त कला (Abstract art), क्यूबिज्म (Cubism), या किसी भी अजीब और अवास्तविक (surreal) चीज़ से नफरत थी। यह एक ऐसे समीक्षक की तरह था जो केवल फोटोरियलिस्टिक पोर्ट्रेट पसंद करता है और जिसे लगता है कि पिकासो एक मज़ाक है।
3. उत्पत्ति की कहानी: "ट्रेस एथ्नोग्राफी" (The Origin Story)
शोधकर्ताओं ने पूछा: यह AI इतना पक्षपाती क्यों है? यह पता लगाने के लिए, उन्होंने केवल कोड को नहीं देखा; उन्होंने उन लोगों को देखा जिन्होंने इसे बनाया था। इसे "ट्रेस एथ्नोग्राफी" कहा जाता है—यानी, इस टूल के निर्माण के डिजिटल पदचिह्नों (breadcrumbs) की खोज करना।
उन्होंने पाया कि LAP मॉडल को एक व्यक्ति (LAION के संस्थापक) द्वारा उनके अपने व्यक्तिगत स्वाद और उस डेटा के आधार पर बनाया गया था जो उन्हें आसानी से मिल गया था।
- डेटा: प्रशिक्षण डेटा मुख्य रूप से dpchallenge नामक वेबसाइट के अंग्रेजी बोलने वाले फोटोग्राफरों और डिस्कॉर्ड (Discord) पर पश्चिमी AI उत्साही लोगों के एक समूह से आया था।
- परिणाम: AI "सार्वभौमिक सुंदरता" नहीं सीख रहा था। यह सीख रहा था कि पश्चिमी, अंग्रेजी बोलने वाले, तकनीक-प्रेमी पुरुषों के एक विशिष्ट समूह को क्या सुंदर लगता था।
- दोष: निर्माता ने विभिन्न प्रकार की रेटिंग्स को मिला दिया था। उन्होंने फोटोग्राफी प्रतियोगिताओं की रेटिंग (जहाँ आप एक ही श्रेणी के भीतर अन्य लोगों के मुकाबले एक फोटो का मूल्यांकन करते हैं) को AI आर्ट बॉट्स की रेटिंग (जहाँ आप बस 1-10 के पैमाने पर एक छवि को रेट करते हैं) के साथ मिला दिया। यह एक "सर्वश्रेष्ठ लैंडस्केप" प्रतियोगिता के स्कोर को "सर्वश्रेष्ठ अमूर्त पेंटिंग" प्रतियोगिता के स्कोर के साथ मिलाने और उसे एक एकल "आर्ट स्कोर" कहने जैसा है।
4. तीन "दृष्टियाँ" (The Three Gazes)
लेखक इस AI के पूर्वाग्रह को तीन शक्तिशाली रूपकों (metaphors) का उपयोग करके समझाते हैं:
- साम्राज्यवादी दृष्टि (The Imperial Gaze): AI एक औपनिवेशिक शासक की तरह कार्य करता है। यह तय करता है कि पश्चिमी और जापानी कला सुंदरता का "मानक" है और बाकी सब (अफ्रीकी, स्वदेशी, मध्य पूर्वी कला) को अनदेखा कर देता है। यह इस विचार को पुख्ता करता है कि पश्चिमी संस्कृति ही एकमात्र महत्वपूर्ण संस्कृति है।
- यथार्थवादी दृष्टि (The Realist Gaze): AI चीजों के "वास्तविक" दिखने के प्रति जुनूनी है। यह आधुनिक कला, अमूर्त विचारों और अतियथार्थवाद (surrealism) को खारिज करता है। यह खतरनाक है क्योंकि यह AI की रचनात्मकता को सीमित करता है। यदि AI केवल "यथार्थवादी" चीजें बनाना सीखता है, तो वह कलाकारों को अजीब, स्वप्निल या अमूर्त उत्कृष्ट कृतियाँ बनाने में मदद नहीं कर सकता।
- पुरुष दृष्टि (The Male Gaze): AI दुनिया को एक सीधे (straight) पुरुष की आँखों से देखता प्रतीत होता है। यह महिलाओं की छवियों को पसंद करता है (अक्सर उनका वस्तुकरण करता है), लेकिन पुरुषों और LGBTQ+ लोगों को अनदेखा करता है। यह एक बड़ी समस्या है क्योंकि इसका मतलब है कि AI आर्ट जनरेटर महिलाओं की छवियां बनाने की अधिक संभावना रखते हैं, जिससे संभावित रूप से अधिक डीपफेक और गैर-सहमति वाली यौन सामग्री बन सकती है, जबकि अन्य पहचानों को अनदेखा किया जाता है।
5. मुख्य निष्कर्ष (The Big Takeaway)
यह शोध पत्र तर्क देता है कि हमें AI के लिए सुंदरता की एक एकल "परफेक्ट" परिभाषा खोजने की कोशिश बंद करनी चाहिए।
- यह दावा न करें कि सुंदरता का एक ही "सर्वश्रेष्ठ" तरीका है। ऐसा कोई नहीं है।
- ईमानदार रहें कि AI क्या कर रहा है। यह कहने के बजाय कि "यह AI गुणवत्ता को आंकने में महान है," हमें कहना चाहिए कि "यह AI फोटोरियलिस्टिक पश्चिमी परिदृश्यों को आंकने में महान है।"
- समीक्षकों में विविधता लाएं। हमें ऐसे AI सिस्टम बनाने की आवश्यकता है जो कई अलग-अलग संस्कृतियों और शैलियों को समझ सकें, न कि केवल लोगों के एक समूह की पसंद को।
संक्षेप में: यह शोध पत्र प्रकट करता है कि AI कला कैसी दिखेगी, इसका निर्णय करने वाला "न्यायाक" वास्तव में कुछ पश्चिमी पुरुषों के पूर्वाग्रहों को प्रतिबिंबित करने वाला एक दर्पण है। यदि हम चाहते हैं कि AI सभी के लिए कला बनाए, तो हमें उस दर्पण को तोड़ना होगा और अधिक आवाजों को शामिल करना होगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।