Who Should Be Generated? Justifying Demographic Targets in Open-Ended Generation
यह शोध पत्र ओपन-एंडेड जनरेशन निष्पक्षता मूल्यांकन में जनसांख्यिकीय लक्ष्यों (डेमोग्राफिक टारगेट्स) को न्यायसंगत ठहराने के लिए एक औपचारिक ढांचे का प्रस्ताव करता है, यह तर्क देते हुए कि लक्ष्य निर्माण निष्पक्षता मूल्यांकन का एक अभिन्न घटक है न कि केवल एक प्रारंभिक चरण, और अनुभवजन्य विश्लेषण के माध्यम से यह प्रदर्शित करता है कि विभिन्न लक्ष्य औचित्य (जैसे भौगोलिक बनाम व्यावसायिक पूर्ववृत्त) काफी भिन्न निष्पक्षता मापों की ओर ले जाते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक टैलेंट शो के जज हैं, लेकिन आप गायकों को देखने के बजाय, एआई (AI) रोबोट्स को कहानियाँ लिखते हुए देख रहे हैं। एआई का काम पात्रों का आविष्कार करना है, जैसे कि "संयुक्त राज्य अमेरिका में एक सीईओ (CEO)"। अब, यहाँ पेचीदा हिस्सा यह है कि एक जज को यह तय करने के लिए स्कोरकार्ड की आवश्यकता होगी कि क्या एआई निष्पक्ष हो रहा है। लेकिन इस काल्पनिक दुनिया में "निष्पक्षता" का क्या अर्थ है?
वास्तविक दुनिया में, निष्पक्षता का अर्थ अक्सर लोगों के साथ समान व्यवहार करना होता है। लेकिन जब एक एआई शून्य से एक पात्र बनाता है, तो तुलना करने के लिए कोई वास्तविक व्यक्ति नहीं होता। इसलिए, जज को एक "लक्ष्य" (target) चुनना होगा जिसे वह आधार बना सके। क्या एआई को आज अमेरिका में महिला सीईओ की वास्तविक संख्या से मेल खाना चाहिए? क्या उसे अमेरिका में रहने वाली महिलाओं की कुल संख्या से मेल खाना चाहिए? या क्या उसे बस एक सिक्का उछाल देना चाहिए और बिना किसी वास्तविकता की परवाह किए आधे सीईओ महिलाओं को और आधे पुरुषों को बनाना चाहिए? यही वह पहेली है जिसे यह शोध पत्र हल करता है: किसे उत्पन्न किया जाना चाहिए? इससे पहले कि हम कह सकें कि कोई एआई पक्षपाती है, हमें पहले इस पर सहमत होना होगा कि "आदर्श" पात्रों की सूची कैसी होनी चाहिए। बिना किसी न्यायसंगत लक्ष्य के, हमारे द्वारा दिया गया कोई भी स्कोर केवल एक अनुमान होगा।
गायब लक्ष्य की समस्या (The Missing Target Problem)
इस शोध पत्र के लेखकों ने, जो सन यत-सेन विश्वविद्यालय की एक टीम है, एआई निष्पक्षता की दुनिया में कुछ अजीब होते देखा। उन्होंने छह सबसे स्मार्ट एआई मॉडलों से "संयुक्त राज्य अमेरिका में एक सीईओ" के बारे में 30 अलग-अलग कहानियाँ बनाने के लिए कहा। परिणाम चौंकाने वाले थे: कुछ मॉडलों ने 100% सीईओ महिलाओं को बनाया, जबकि अन्य ने 77% बनाया।
अब, क्या यह एक सफलता है या विफलता?
- यदि आप इसकी तुलना वास्तविक अमेरिकी सीईओ से करते हैं (जहाँ केवल लगभग 33% महिलाएं हैं), तो एआई अत्यधिक सुधार (over-correcting) कर रहा है और पुरुषों के प्रति अन्याय कर रहा है।
- यदि आप इसकी तुलना कुल अमेरिकी जनसंख्या से करते हैं (जहाँ लगभग 50% महिलाएं हैं), तो एआई निष्पक्ष लग रहा है।
- यदि आप इसकी तुलना एक आदर्श सिक्के के उछाल (50/50) से करते हैं, तो यह निष्पक्ष दिखता है।
समस्या यह है कि एआई प्रॉम्प्ट्स में यह नहीं कहा गया था कि "सीईओ को महिला बनाएं" या "सीईओ को पुरुष बनाएं।" उन्होंने बस कहा "एक सीईओ बनाएं।" एआई ने खाली जगहों को खुद भर दिया। शोधकर्ता इसे "गायब लक्ष्य की समस्या" (Missing-Target Problem) कहते हैं। हमारे पास एआई का आउटपुट तो है, लेकिन हमारे पास यह चुनने का कोई न्यायसंगत कारण नहीं है कि हमें कौन सा लक्ष्य वितरण (वास्तविक नौकरियां, वास्तविक जनसंख्या, या शुद्ध समानता) उपयोग करना चाहिए। अधिकांश निष्पक्षता परीक्षण बस एक लक्ष्य चुन लेते हैं और उम्मीद करते हैं कि सब ठीक होगा, लेकिन यह पत्र तर्क देता है कि लक्ष्य चुनना वास्तव में परीक्षण का सबसे महत्वपूर्ण हिस्सा है।
एक निष्पक्ष लक्ष्य के लिए चार-चरणीय विधि (The Four-Step Recipe for a Fair Target)
इसे हल करने के लिए, लेखकों ने एक नया ढांचा बनाया, जो एक निष्पक्षता केक बनाने की रेसिपी की तरह है। वे कहते हैं कि आप लक्ष्य को शेल्फ से उठाकर सीधे नहीं ले सकते; आपको इसे चरण-दर-चरण न्यायसंगत बनाना होगा। आपको चार विशिष्ट प्रतिबद्धताओं की आवश्यकता है:
- हम किसका निर्णय ले रहे हैं? (वस्तु/Object): क्या हम वास्तविक लोगों की भविष्यवाणी करने की एआई की क्षमता का निर्णय ले रहे हैं, या एक सामाजिक दुनिया का निष्पक्ष प्रतिनिधित्व करने की उसकी क्षमता का? यह पत्र निर्णय लेता है कि ये एक सार्वजनिक कहानी के लिए निर्मित पात्र हैं, न कि वास्तविक नौकरी के आवेदक।
- कौन गिना जाता है? (प्राथमिकता/Prior): एआई को किन लोगों का प्रतिनिधित्व करना चाहिए? लेखक तर्क देते हैं कि अमेरिका में स्थित कहानी के लिए, एआई को वहाँ रहने वाले लोगों (भौगोलिक सदस्यता) का प्रतिनिधित्व करना चाहिए, न कि केवल उन लोगों का जो वर्तमान में उस नौकरी पर हैं (व्यावसायिक अधिभोग)। क्यों? क्योंकि वर्तमान नौकरी धारक अतीत के अन्याय के कारण वहां तक पहुंचे होंगे, और उनकी नकल करना उस गलती को दोहराना हो सकता है।
- हम पाई (Pie) को कैसे बांटते हैं? (आवंटन/Allocation): यदि हम अमेरिका में रहने वाले लोगों का प्रतिनिधित्व करने पर सहमत होते हैं, तो हम उनके बीच "सीईओ" के स्लॉट को कैसे विभाजित करेंगे? लेखक समान-व्यक्ति आवंटन (equal-person allocation) के पक्ष में तर्क देते हैं। इसका मतलब यह नहीं है कि प्रत्येक समूह को समान संख्या में सीईओ मिले (जैसे 50% महिलाएं), बल्कि इसका मतलब यह है कि प्रत्येक व्यक्ति के पास एक समान अवसर हो।
- हम इसे कैसे मापते हैं? (परिचालन/Operationalization): अंत में, हमें तुलना करने के लिए एक वास्तविक संख्या चाहिए। लेखक अपने लक्ष्य को बनाने के लिए जनगणना डेटा (निवासी जनसंख्या संख्या) का उपयोग करते हैं।
बड़ी खोज: लक्ष्य सब कुछ बदल देता है (The Big Discovery: The Target Changes Everything)
शोधकर्ताओं ने इस नए ढांचे का परीक्षण AP-Bench नामक एक विशाल बेंचमार्क का उपयोग करके किया। उन्होंने छह अलग-अलग एआई मॉडल, 12 अलग-अलग देशों और छह अलग-अलग नौकरियों (जैसे डॉक्टर, नर्स और सीईओ) में 51,000 से अधिक पात्र उत्पन्न किए।
यहाँ उन्हें क्या मिला:
- अंतर बहुत बड़ा है: जब उन्होंने अपने नए "भौगोलिक" लक्ष्य (देश में रहने वाले लोगों के आधार पर) के साथ एआई के आउटपुट की तुलना की, तो एआई बहुत पीछे था। अंतर स्कोर (जिसे JSD2 कहा जाता है) 0 से 1 के पैमाने पर 0.508 से 0.606 के बीच था। यह एक विशाल अंतर है, जिसका अर्थ है कि एआई के पात्र उस जनसंख्या से बहुत अलग थे जिसका उसे प्रतिनिधित्व करना था।
- लक्ष्य आपकी सोच से कहीं अधिक महत्वपूर्ण है: यह सबसे दिलचस्प और आश्चर्यजनक हिस्सा है। शोधकर्ताओं ने बिल्कुल वही एआई कहानियाँ लीं और अपने लक्ष्य को बदल दिया। "यहाँ रहने वाले लोगों" के लक्ष्य के बजाय, उन्होंने "समान श्रेणियां" (equal categories) के लक्ष्य से तुलना की (बस यह सुनिश्चित करना कि प्रत्येक समूह के पास सीईओ की समान संख्या हो)।
- जब उन्होंने यह बदलाव किया, तो स्कोर नाटकीय रूप से बदल गए। प्रत्येक मॉडल के लिए स्कोर का अंतर 0.279 से 0.355 के बीच था।
- इसका अर्थ यह है कि केवल यह बदलना कि आप एआई की तुलना किससे कर रहे हैं, इस फैसले को बदल देता है कि एआई निष्पक्ष है या नहीं। एक मॉडल जो एक लक्ष्य के विरुद्ध "खराब" दिखता है, वह दूसरे लक्ष्य के विरुद्ध "ठीक" दिख सकता है।
यह आपके लिए क्या मायने रखता है
यह पत्र यह नहीं कहता कि "एआई टूटा हुआ है" या "एआई ठीक हो गया है।" इसके बजाय, यह कहता है, "लक्ष्य क्या है, इसका अनुमान लगाना बंद करें।"
लेखक तर्क देते हैं कि हम केवल यह नहीं कह सकते कि "एआई को वास्तविक कार्यबल जैसा दिखना चाहिए," क्योंकि यह पिछले भेदभाव की नकल कर सकता है। हम यह भी नहीं कह सकते कि "एआई 50/50 होना चाहिए," क्योंकि यह वास्तविक जनसंख्या के आकार को अनदेखा कर सकता है।
मुख्य निष्कर्ष यह है कि निष्पक्षता मूल्यांकन केवल एआई को मापने के बारे में नहीं है; यह उस मानक के लिए तर्क देने के बारे में है जिसका हम उपयोग करते हैं। इससे पहले कि हम कह सकें कि कोई एआई पक्षपाती है, हमें स्पष्ट रूप से कहना होगा: "हम इस एआई की तुलना निवासियों की जनसंख्या से कर रहे हैं, और हमारा मानना है कि प्रत्येक निवासी को प्रतिनिधित्व का समान अवसर मिलना चाहिए।"
यदि हम वह तर्क स्पष्ट नहीं करते हैं, तो हमारे निष्पक्षता स्कोर बिना किसी आधार के केवल संख्याएं बनकर रह जाएंगे। यह पत्र उस घर (आधार) को बनाने के लिए एक ढांचा प्रदान करता है, जिससे यह सुनिश्चित होता है कि जब हम पूछते हैं, "किसे उत्पन्न किया जाना चाहिए?", तो हमारे पास ग्रेडिंग शुरू करने से पहले एक ठोस, बचाव योग्य उत्तर हो।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।