Bye Bye Perspective API: Lessons for Measurement Infrastructure in NLP, CSS and LLM Evaluation
यह शोध पत्र अब बंद हो रहे प्रोप्राइटरी पर्सपेक्टिव एपीआई (Perspective API) पर एनएलपी (NLP) और एलएलएम (LLM) अनुसंधान की संरचनात्मक निर्भरता की आलोचना करता है, जो इसके अपारदर्शी अपडेट और विषाक्तता के एकल परिचालनकरण द्वारा उत्पन्न अप्रतिलिपि प्रस्तुत करने योग्य परिणामों को रेखांकित करता है, और भविष्य में इसी तरह के ज्ञानमीमांसीय जोखिमों को रोकने के लिए एक स्वतंत्र, वैध और प्रतिलिपि प्रस्तुत करने योग्य माप अवसंरचना की स्थापना का आह्वान करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि इंटरनेट एक विशाल, अराजक शहर के चौक की तरह है जहाँ हर सेकंड लाखों लोग चिल्ला रहे हैं, बहस कर रहे हैं और कहानियाँ साझा कर रहे हैं। इस चौक को पूरी तरह से अराजकता में बदलने से बचाने के लिए, शोधकर्ताओं को यह पहचानने का एक तरीका चाहिए था कि कौन सा शोर बुरा, घृणित या विषाक्त (toxic) है।
लगभग एक दशक तक, पूरा शहर इस काम को करने के लिए एक ही मुफ्त टूल पर निर्भर था, जिसे Perspective API कहा जाता था। यह एक सार्वभौमिक "विषाक्तता मीटर" (Toxicity Meter) की तरह था जिसका स्वामित्व एक तकनीकी कंपनी (Google के Jigsaw) के पास था। हर कोई इसका उपयोग यह मापने के लिए करता था कि लोग कितने बदतमीज थे, नए AI चैटबॉट्स कितने "सुरक्षित" थे, और ऑनलाइन व्यवहार का अध्ययन करने के लिए।
अब, इस मीटर के मालिक 2026 के अंत में इसे बंद करने जा रहे हैं। यह शोध पत्र तर्क देता है कि हालांकि इस टूल को खोना दुखद है, लेकिन असली समस्या यह है कि पूरे शोध समुदाय ने अपना घर एक ऐसे आधार पर बनाया जो न तो उनका था, जिसे वे समझते नहीं थे, और जिसे वे ठीक भी नहीं कर सकते थे।
यहाँ सरल उपमाओं (analogies) का उपयोग करके शोध पत्र के तर्क का विवरण दिया गया है:
1. एक "ब्लैक बॉक्स" मीटर
कल्पना कीजिए कि आप अपनी किराने की वस्तुओं को तौलने के लिए एक तराजू खरीदते हैं। आप इस पर भरोसा करते हैं क्योंकि यह मुफ्त है और बाकी सभी भी इसका उपयोग करते हैं। लेकिन आपको एहसास होता है:
- मालिक वजन बदल देते हैं: हर कुछ महीनों में, कंपनी बिना आपको बताए गुप्त रूप से तराजू के आंतरिक स्प्रिंग्स को बदल देती है। एक दिन, सेब की 5 पाउंड की बोरी 5 पाउंड की होती है; अगले दिन, वह 6 पाउंड की हो जाती है, लेकिन तराजू फिर भी "5" ही दिखाता है।
- निर्देश अस्पष्ट हैं: कंपनी कहती है, "यह 'बदतर होने' (badness) को मापता है।" लेकिन वे कभी यह नहीं समझाते कि "बदतर होना" वास्तव में क्या है। क्या यह एक तेज़ आवाज़ है? एक अभद्र शब्द है? या किसी विशेष प्रकार का अपमान है? वे बस 0 और 1 के बीच एक संख्या देते हैं और कहते हैं, "आप तय करें कि बहुत अधिक क्या है।"
- संदर्भ (Context) गायब है: तराजू केवल अकेले सेब का वजन करता है। उसे यह नहीं पता कि सेब किसी पर फेंका गया था (विषाक्त) या कोई सेब के बारे में मजाक कर रहा था (विषाक्त नहीं)। वह हर वाक्य के साथ ऐसे व्यवहार करता है जैसे वह शून्य में तैर रहा हो।
2. "चक्रीय" जाल (The Circular Trap)
चूंकि यह मीटर उपयोग करने में बहुत आसान था, इसलिए शोधकर्ताओं ने इसका उपयोग अन्य कंप्यूटरों को "बदतमीजी पहचानने वाली मशीनें" बनाने के लिए किया।
- लूप (The Loop): उन्होंने डेटा को लेबल करने के लिए Perspective API का उपयोग किया (जैसे, "यह वाक्य विषाक्त है")। फिर, उन्होंने उस डेटा पर नए AI मॉडल को प्रशिक्षित किया। अंत में, उन्होंने इन नए मॉडलों का परीक्षण यह देखने के लिए किया कि क्या वे Perspective API के साथ सहमत होते हैं।
- समस्या: यह एक छात्र की तरह है जो परीक्षा देता है, फिर खुद को ग्रेड देने के लिए उत्तर कुंजी (answer key) का उपयोग करता है, और फिर यह दावा करता है कि वह प्रतिभाशाली है क्योंकि उसने 100% प्राप्त किया। वे "विषाक्तता" को नहीं माप रहे थे; वे केवल यह माप रहे थे कि आप Google की वर्तमान विषाक्तता की परिभाषा के साथ कितनी अच्छी तरह सहमत होते हैं।
3. छिपे हुए पूर्वाग्रह (Hidden Biases)
चूंकि मीटर संदर्भ या संस्कृति को नहीं समझता था, इसलिए इसने ऐसी लगातार गलतियाँ कीं जिन्हें शोधकर्ता देख या ठीक नहीं कर सकते थे:
- पीड़ितों को दंडित करना: इसने अक्सर हाशिए पर रहने वाले समूहों द्वारा उपयोग किए गए शब्दों (जैसे कि पुन: प्राप्त किए गए अपशब्द या LGBTQ+ शब्द) को "विषाक्त" के रूप में चिह्नित किया क्योंकि इसे यह नहीं पता था कि वे कौन बोल रहे हैं या क्यों बोल रहे हैं।
- असली नफरत को मिस करना: इसने सूक्ष्म, कोडित नफरत भरे भाषणों को मिस कर दिया क्योंकि यह केवल सतही स्तर के अभद्र शब्दों को देख रहा था।
- भाषा संबंधी पूर्वाग्रह: यह अंग्रेजी पाठ की तुलना में जर्मन पाठ के साथ बहुत सख्त था, इसलिए नहीं कि जर्मन भाषा अधिक अभद्र है, बल्कि इसलिए क्योंकि जिन लोगों ने इस मॉडल को प्रशिक्षित किया था, उनके सांस्कृतिक पूर्वाग्रह अलग थे।
4. "अचानक शटडाउन" का झटका
जब कंपनी ने API को बंद करने की घोषणा की, तो वे पीछे कोई मैनुअल, बैकअप या वर्शन हिस्ट्री नहीं छोड़ गए।
- परिणाम: पिछले एक दशक में लिखे गए सभी शोध पत्र जो इस टूल पर आधारित थे, अब "अपुन-पुनरुत्पादनीय" (irreproducible) हैं। यदि आप आज वही प्रयोग चलाने का प्रयास करते हैं, तो आप वही परिणाम प्राप्त नहीं कर पाएंगे क्योंकि वह "रूलर" (पैमाना) जिससे वे माप रहे थे, अब मौजूद नहीं है। यह एक इमारत की ऊंचाई मापने के लिए उस रूलर का उपयोग करने जैसा है जिसे पिघला दिया गया हो।
5. चेतावनी: सिर्फ मीटर को न बदलें
लेखक चेतावनी देते हैं कि सबसे आसान समाधान—बस किसी दूसरी बड़ी टेक कंपनी (जैसे OpenAI) के क्लोज्ड-सोर्स टूल का उपयोग करना—एक जाल है।
- जोखिम: ये नए उपकरण भी "ब्लैक बॉक्स" हैं। वे और भी कम पारदर्शी हो सकते हैं, उन्हें शोषणित श्रमिकों से एकत्र किए गए डेटा पर प्रशिक्षित किया जा सकता है, और बिना चेतावनी के अपडेट किया जा सकता है। यदि हम सिर्फ एक ब्लैक बॉक्स को दूसरे से बदल देते हैं, तो हम बस वही गलतियाँ दोहरा रहे हैं।
समाधान: अपना खुद का रूलर बनाएं
लेखक शोध समुदाय से आह्वान करते हैं कि वे माप (measurement) को एक "सेवा" के रूप में देखना बंद करें जो कोई और प्रदान करता है। इसके बजाय, उन्हें अपना स्वयं का बुनियादी ढांचा बनाना होगा। इस नई प्रणाली में होना चाहिए:
- ओपन सोर्स: हर कोई देख सके कि यह कैसे काम करता है और गणित की जांच कर सके।
- संदर्भ जागरूकता (Context Awareness): इसे जानना चाहिए कि कौन बोल रहा है, वे किससे बात कर रहे हैं, और बातचीत का इतिहास क्या है।
- सामुदायिक इनपुट: "विषाक्तता" की परिभाषा केवल एक कंपनी द्वारा तय नहीं की जानी चाहिए; इसमें उन समुदायों को शामिल किया जाना चाहिए जिनका मापन किया जा रहा है।
- पारदर्शिता: हमें सटीक रूप से जानने की आवश्यकता है कि डेटा को कैसे लेबल किया गया था और किसने लेबलिंग की थी।
संक्षेप में: लेख का तर्क है कि मानव व्यवहार को मापने के लिए एक एकल, गुप्त, कॉर्पोरेट टूल पर निर्भर रहना एक गलती थी। उस टूल का बंद होना एक चेतावनी है। शोधकर्ताओं को कॉर्पोरेट टूल के निष्क्रिय उपयोगकर्ता बनना बंद करना होगा और अपने स्वयं के खुले, निष्पक्ष और पारदर्शी तरीके बनाने शुरू करने होंगे जो वास्तव में महत्वपूर्ण है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।