Ethology of Latent Spaces
यह अध्ययन एक एथोलॉजिकल (ethological) परिप्रेक्ष्य का उपयोग यह प्रदर्शित करने के लिए करता है कि विजन-लैंग्वेज मॉडल्स के लेटेंट स्पेस (latent spaces) तटस्थ नहीं हैं, बल्कि वे विशिष्ट, प्रशिक्षण-डेटा-संचालित "एल्गोरिद्मिक स्कोपिक रिजीम्स" (algorithmic scopic regimes) प्रदर्शित करते हैं जो कला की भिन्न और अक्सर विरोधाभासी राजनीतिक एवं सांस्कृतिक व्याख्याएँ उत्पन्न करते हैं, जिससे डिजिटल कला इतिहास में इन मॉडल्स के उपयोग के प्रति एक आलोचनात्मक पुनर्मूल्यांकन आवश्यक हो जाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास तीन अलग-अलग कला समीक्षक हैं। वे सभी एक ही 301 पेंटिंग्स और मूर्तियों के संग्रह को देख रहे हैं, जो 15वीं शताब्दी से लेकर 1900 के दशक तक के हैं। आप उम्मीद कर सकते हैं कि वे एक ही चीज़ को देखेंगे। लेकिन इस अध्ययन में, "समीक्षक" इंसान नहीं हैं; वे तीन अलग-अलग AI मॉडल हैं (OpenAI CLIP, OpenCLIP/LAION, और SigLIP)।
यह शोध तर्क देता है कि ये AI मॉडल तटस्थ या खाली स्लेट (blank slates) नहीं हैं। इसके बजाय, प्रत्येक ने अपनी एक अनूठी "व्यक्तित्व" और दुनिया को देखने का अपना तरीका विकसित किया है, जो पूरी तरह से उस विशिष्ट डेटा से आकार लेता है जिसे उन्हें खिलाया गया था और जिस तरह से उन्हें बनाया गया था। लेखक इसे "लेटेंट स्पेस की एथोलॉजी" (ethology of latent spaces) कहते हैं—यानी, AI के दिमागों के "व्यवहार" का अध्ययन करना, ठीक वैसे ही जैसे एक जीवविज्ञानी जंगली जानवरों के व्यवहार का अध्ययन करता है।
यहाँ सरल उपमाओं का उपयोग करके शोध के मुख्य बिंदुओं का विवरण दिया गया है:
1. "अदृश्य चश्मे" की उपमा
इन AI मॉडलों को ऐसे समझें जैसे उन्होंने अदृश्य चश्मे पहने हुए हों।
- गणित: कंप्यूटर के भीतर, AI छवियों को एक विशाल, बहु-आयामी स्थान में संख्याओं के बादल (वेक्टर्स) के रूप में देखता है।
- अर्थ: जब हम AI से पूछते हैं, "क्या यह छवि राजनीतिक है?" तो वह राजनीति के बारे में "सोचता" नहीं है। इसके बजाय, वह अपने संख्याओं के बादल को देखता है और देखता है कि "राजनीतिक" वाले नंबर उस छवि के कितने करीब हैं।
- ट्विस्ट: शोध दिखाता है कि प्रत्येक मॉडल जो "चश्मा" पहनता है वह अलग होता है। एक मॉडल एक ब्लैक-एंड-व्हाइट फोटो को "गहरा और उदास" के रूप में देख सकता है, जबकि दूसरा उसे "हाई कंट्रास्ट और नाटकीय" के रूप में देख सकता है, केवल इसलिए क्योंकि उन्हें प्रशिक्षित करने का तरीका अलग था।
2. तीन अलग-अलग "व्यक्तित्व"
यह अध्ययन तीन विशिष्ट मॉडलों की तुलना करता है और पाता है कि वे तीन बहुत अलग व्यक्तियों की तरह व्यवहार करते हैं:
- OpenAI CLIP (संग्रहालय क्यूरेटर - The Museum Curator): इस मॉडल को एक सावधानीपूर्वक क्यूरेट किए गए, निजी डेटासेट पर प्रशिक्षित किया गया था। यह एक पारंपरिक कला इतिहासकार की तरह कार्य करता है। यह "राजनीति" को केवल प्रसिद्ध, संस्थागत कला आंदोलनों (जैसे क्यूबिज़्म या दादावाद) में देखता है। यदि आप इसे एक अफ्रीकी मुखौटा दिखाते हैं, तो यह उसे "कला" या "संस्कृति" के रूप में देखता है, लेकिन आवश्यक रूप से "राजनीतिक" के रूप में नहीं।
- OpenCLIP/LAION (इंटरनेट स्क्रोलर - The Internet Scroller): इस मॉडल को पूरे इंटरनेट से स्क्रैप किए गए एक विशाल, अव्यवस्थित डेटा डंप पर प्रशिक्षित किया गया था। यह एक अराजक इंटरनेट उपयोगकर्ता की तरह कार्य करता है। यह हर जगह "राजनीति" देखता है, लेकिन अक्सर एक रैंडम और शोर भरे तरीके से। यह किसी पेंटिंग को "औपनिवेशिक" (colonial) लेबल कर सकता है क्योंकि वेब पर किसी समान छवि के कैप्शन में "औपनिवेशिक" शब्द आया था, भले ही वह पेंटिंग उपनिवेशवाद के बारे में न हो।
- SigLIP (क्रिटिकल थ्योरिस्ट - The Critical Theorist): यह मॉडल एक अलग तकनीकी आर्किटेक्चर का उपयोग करता है। यह एक तीखे, आधुनिक आलोचक की तरह कार्य करता है। यह लगभग हर चीज़ में "राजनीति" देखता है। उदाहरण के लिए, यह अफ्रीकी मुखौटों को अत्यधिक "राजनीतिक" (59% बार) के रूप में लेबल करता है, जबकि अन्य मॉडल उन्हें अपॉलिटिकल (राजनीति रहित) बताते हैं। ऐसा लगता है कि इसने सीख लिया है कि गैर-पश्चिमी कला स्वाभाविक रूप से राजनीतिक संघर्ष से जुड़ी है, जबकि पश्चिमी कला "तटस्थ" है।
3. "नियॉन साइन" का भ्रम
शोध पत्र एक बेहतरीन उदाहरण देता है कि कैसे ये AI एक भौतिक वस्तु और एक शब्द के बीच के अंतर से भ्रमित हो जाते हैं।
- परीक्षण: शोधकर्ताओं ने मॉडलों को "चमक" (brightness) के आधार पर छवियों को रैंक करने के लिए कहा।
- परिणाम: OpenAI CLIP ने जोसेफ कोसुथ की नियॉन कला (जिसे अक्सर काले बैकग्राउंड के सामने फोटोग्राफ किया जाता है) को संग्रह की सबसे चमकदार चीज़ों में से एक के रूप में रैंक किया।
- क्यों? AI ने पिक्सेल को नहीं "देखा"। उसने प्रशिक्षण डेटा में "नियॉन" शब्द देखा और "नियॉन" शब्द को "चमकदार रोशनी" की अवधारणा के साथ जोड़ दिया। उसने लेबल को वास्तविकता समझ लिया।
- SigLIP, हालांकि, वास्तव में पिक्सेल को देखता है और सही ढंग से पहचानता है कि अंधेरे फोटो गहरे थे।
4. "इमर्जेंट बायस" बनाम "सांख्यिकीय बायस"
आमतौर पर, जब हम AI पूर्वाग्रह (bias) के बारे में बात करते हैं, तो हम "सांख्यिकीय बायस" के बारे में सोचते हैं (जैसे, "डेटासेट में महिलाओं की पर्याप्त तस्वीरें नहीं थीं")।
- शोध का नया विचार: यह अध्ययन "इमर्जेंट बायस" (Emergent Bias) पेश करता है। यह एक ऐसा पूर्वाग्रह है जो अचानक प्रकट होता है, जैसे कि एक रासायनिक प्रतिक्रिया। यह सीधे कच्चे डेटा में नहीं है; यह उस जटिल तरीके से उभरता है जिससे AI शब्दों और छवियों के बीच संबंध बनाता है।
- उपमा: कल्पना कीजिए कि एक रेसिपी है। यदि आप इसमें नमक डालना भूल जाते हैं, तो व्यंजन फीका होगा (सांख्यिकीय बायस)। लेकिन यदि आप आटे, चीनी और यीस्ट को एक विशिष्ट तरीके से मिलाते हैं, तो आपको ब्रेड फूलती हुई मिलती है (इमर्जेंट प्रॉपर्टी)। AI के "राजनीतिक" विचार उस फूलती हुई ब्रेड की तरह हैं—उन्हें कटोरे में डाला नहीं गया था, लेकिन वे इसलिए उभरे क्योंकि सामग्री (डेटा) को एक विशेष तरीके से मिलाया गया था।
5. "तीन स्कूप्स" (वे कैसे देखते हैं)
लेखक इन मॉडलों के दुनिया को देखने के तरीके का वर्णन करने के लिए कला इतिहास से एक रूपक का उपयोग करते हैं:
- एंट्रोपिक गेज़ (The Entropic Gaze - LAION): एक अराजक, शोर भरा दृष्टिकोण जो इंटरनेट पर कही गई हर चीज़ को पकड़ लेता है, जो अक्सर वेब खोजों में पाए जाने वाले रूढ़ियों को पुख्ता करता है।
- इंस्टीट्यूशनल गेज़ (The Institutional Gaze - OpenAI): एक नियंत्रित, संग्रहालय जैसा दृष्टिकोण जो स्थापित, पश्चिमी कला इतिहास के नियमों को सुदृढ़ करता है।
- सेमियोटिक गेज़ (The Semiotic Gaze - SigLIP): एक सैद्धांतिक दृष्टिकोण जो हर चीज़ में गहरे, आलोचनात्मक अर्थ खोजने की कोशिश करता है, कभी-कभी वहां भी राजनीतिक व्याख्याएं थोपता है जहां मनुष्य केवल एक आकार देखते होंगे।
निचोड़
शोध निष्कर्ष निकालता है कि AI कला इतिहास के लिए एक तटस्थ उपकरण नहीं है।
यदि आप कला का विश्लेषण करने के लिए AI का उपयोग करते हैं, तो आप केवल एक "कंप्यूटर की राय" प्राप्त नहीं कर रहे हैं। आप उस मॉडल के विशिष्ट, छिपे हुए "व्यक्तित्व" को प्राप्त कर रहे हैं जो उसके प्रशिक्षण डेटा से बना है।
- यदि आप मॉडल A का उपयोग करते हैं, तो आप कला को "तटस्थ और सौंदर्यपूर्ण" के रूप में देख सकते हैं।
- यदि आप मॉडल B का उपयोग करते हैं, तो आप उसी कला को "गहराई से राजनीतिक और औपनिवेशिक" के रूप में देख सकते हैं।
लेखक चेतावनी देते हैं कि हम कला की व्याख्या करने का काम AI को बिना यह समझे नहीं सौंप सकते कि AI के अपने अदृश्य नियम और पूर्वाग्रह हैं जिन्हें हम तब तक नहीं देख सकते जब तक कि हम विभिन्न मॉडलों की आपस में तुलना नहीं करते। AI जो देखता है उसका "सच" पूरी तरह से इस पर निर्भर करता है कि वह कौन सा "चश्मा" पहने हुए है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।