Who Pays More for Safety? Measuring the Disparate Cost of Safety Alignment across Languages
यह शोध पत्र एक "सुरक्षा लागत" (Safety Cost) मीट्रिक प्रस्तुत करता है जो यह प्रदर्शित करता है कि सुरक्षा संरेखण (safety alignment) अंग्रेजी की तुलना में गैर-अंग्रेजी भाषाओं को अधिक उपयोगिता हानि और कमजोर सुरक्षा के साथ असमान रूप से दंडित करता है, जो वर्तमान सुरक्षा प्रथाओं में एक व्यवस्थित असमानता को प्रकट करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की दुनिया में, लार्ज लैंग्वेज मॉडल्स (LLMs) वे डिजिटल इंजन हैं जो चैटबॉट्स, अनुवादकों और सहायकों को शक्ति प्रदान करते हैं। इन मशीनों के लोगों के लिए उपयोगी होने से पहले, वे 'अलाइनमेंट' (alignment) नामक एक कठोर प्रशिक्षण प्रक्रिया से गुजरते हैं। इसे एक स्कूली शिक्षा के काल के रूप में समझें जहाँ मॉडल न केवल सवालों के जवाब देना सीखता है, बल्कि यह भी सीखता है कि उन्हें सुरक्षित रूप से कैसे दिया जाए, मानवीय मूल्यों का पालन करते हुए और हिंसा या अवैध कार्यों के निर्देशों जैसी हानिकारक सामग्री उत्पन्न करने से इनकार करते हुए। यह सुरक्षा प्रशिक्षण आवश्यक है, लेकिन इसकी एक छिपी हुई कीमत भी है। जिस तरह अत्यधिक संवेदनशील ब्रेक वाली कार मामूली बाधा आने पर भी बहुत जल्दी रुक सकती है, उसी तरह बहुत अधिक सतर्क एआई अनावश्यक रूप से मददगार नहीं रह जाता, जिससे वह हानिरहित प्रश्नों के उत्तर देने से मना कर देता है या अस्पष्ट, सतही प्रतिक्रियाएं देने लगता है। उपयोगिता की इस हानि को 'यूटिलिटी कॉस्ट' (utility cost) के रूप में जाना जाता है। वर्षों से, शोधकर्ता जानते हैं कि सुरक्षा प्रशिक्षण मॉडल के समग्र प्रदर्शन को कम कर देता है, लेकिन एक महत्वपूर्ण प्रश्न अनसुलझा रह गया था: क्या यह लागत सभी पर समान रूप से आती है, या कुछ भाषाओं को दूसरों की तुलना में अधिक नुकसान उठाना पड़ता है?
शोधकर्ताओं की एक टीम ने यह जांचने के लिए काम शुरू किया कि क्या सुरक्षा अलाइनमेंट का बोझ दुनिया की विभिन्न भाषाओं के बीच समान रूप से साझा किया गया है। उन्होंने एक विशिष्ट घटना पर ध्यान केंद्रित किया जहाँ मॉडल सुरक्षित अनुरोधों को केवल इसलिए अस्वीकार कर सकते हैं क्योंकि वे थोड़े जोखिम भरे लगते हैं, जिसे 'ओवर-रिफ्यूजल' (over-refusal) कहा जाता है। सुरक्षा की वास्तविक लागत को मापने के लिए, टीम ने एक चतुर तुलना पद्धति विकसित की। उन्होंने शक्तिशाली, सुरक्षा-अलाइन किए गए मॉडल्स को लिया और उसी सॉफ्टवेयर के "अन-अलाइन्ड" (unaligned) संस्करण बनाए। ये अन-अलाइन्ड संस्करण खतरनाक होने के लिए प्रशिक्षित नहीं थे; बल्कि, शोधकर्ताओं ने विशेष रूप से उन सुरक्षा तंत्रों को हटा दिया था जिनके कारण मॉडल अनुरोधों को अस्वीकार कर रहा था, जिससे मॉडल का शेष ज्ञान और बोलने की क्षमता बरकरार रही। एक ही प्रश्न के लिए सुरक्षा-अलाइन किए गए मॉडल और उसके अन-अलाइन्ड जुड़वां के बीच तुलना करके, शोधकर्ता ठीक से माप सके कि केवल सुरक्षा प्रशिक्षण के कारण कितनी उपयोगिता कम हुई थी। उन्होंने अंग्रेजी और पांच अन्य भाषाओं, जिनमें चीनी, अरबी, कोरियाई, वियतनामी और थाई शामिल हैं, में प्रश्नों के एक सेट का उपयोग करके इसका परीक्षण किया, जो हानिरहित थे लेकिन सुरक्षा अलार्म को ट्रिगर करने की संभावना रखते थे।
परिणामों ने एक स्पष्ट और व्यवस्थित असमानता का खुलासा किया। शोधकर्ताओं ने पाया कि गैर-अंग्रेजी उपयोगकर्ताओं को अंग्रेजी बोलने वालों की तुलना में सुरक्षा के लिए लगातार अधिक कीमत चुकानी पड़ती है। कई मामलों में, सुरक्षा फिल्टर गैर-अंग्रेजी बोलने वालों को वास्तविक नुकसान से बचाने में कम प्रभावी थे, फिर भी इन उपयोगकर्ताओं को उनके हानिरहित प्रश्नों के लिए काफी खराब और कम मददगार उत्तर प्राप्त हुए। अध्ययन ने इस असमानता के पीछे तीन अलग-अलग पैटर्न की पहचान की। पहला, कई भाषाएँ "डबल पेनल्टी" (दोहरी दंड) क्षेत्र में आती थीं: उन्हें वास्तविक खतरों के खिलाफ कमजोर सुरक्षा मिली और साथ ही उनके उत्तरों की गुणवत्ता में भी बहुत बड़ी गिरावट आई। दूसरा, कुछ उदाहरणों में, किसी भाषा की सुरक्षा लागत कम इसलिए दिखाई दी क्योंकि सुरक्षा फिल्टर सक्रिय ही नहीं हो पाए थे, जिससे उपयोगकर्ता हानिकारक सामग्री के संपर्क में आ गए बिना मॉडल को पता चले। तीसरा, चीनी जैसी उच्च-संसाधन वाली भाषाओं के लिए भी, जिनके पास प्रशिक्षण डेटा की विशाल मात्रा है, अंग्रेजी के समान सुरक्षा स्तर प्राप्त करने की लागत काफी अधिक थी। उपयोगिता की हानि केवल मॉडल के "हाँ" कहने के बजाय "ना" कहने के बारे में नहीं थी। शोधकर्ताओं ने पाया कि भले ही मॉडल ने उत्तर दिया, लेकिन प्रतिक्रिया अक्सर पतली, कम विस्तृत और तथ्यात्मक रूप से कम सटीक थी। सुरक्षा प्रशिक्षण ने चुपचाप गहराई और सूक्ष्मता को छीन लिया था, जिससे एआई कम उपयोगी हो गया बिना यह उपयोगकर्ता को पता चले कि ऐसा क्यों हुआ।
यह कार्य सुझाव देता है कि एआई को सुरक्षित बनाने के वर्तमान तरीके विभिन्न संस्कृतियों और भाषाओं के बीच निष्पक्ष रूप से कैलिब्रेट नहीं किए गए हैं। सुरक्षा प्रशिक्षण, जो अंग्रेजी भाषा के डेटा और मानदंडों से अत्यधिक प्रभावित है, अनजाने में एक संरचनात्मक अंतर पैदा करता है जहाँ गैर-अंग्रेजी बोलने वाले खराब अनुभव प्राप्त करते हैं। शोधकर्ता तर्क देते हैं कि यह एआई को सुरक्षित बनाने का एक अपरिहार्य दुष्प्रभाव नहीं है, बल्कि यह इस बात की खामी है कि सुरक्षा को वर्तमान में कैसे लागू किया जा रहा है। प्रत्येक भाषा में सुरक्षा की विशिष्ट लागत को मापकर, यह अध्ययन तकनीक में एक मौलिक असमानता को उजागर करता है। यह दिखाता है कि जबकि अंग्रेजी बोलने वालों को एक सुरक्षित और मददगार प्रतिक्रिया मिल सकती है, किसी अन्य भाषा के बोलने वाले को या तो असुरक्षित या अनhelpfully अस्पष्ट प्रतिक्रिया मिल सकती है, और यह सब इसलिए होता है क्योंकि सुरक्षा तंत्र उनके विशिष्ट भाषाई संदर्भ के लिए ट्यून नहीं किए गए हैं। ये निष्कर्ष सुरक्षा अलाइनमेंट के लिए एक नए दृष्टिकोण का आह्वान करते हैं, जो यह सुनिश्चित करे कि सुरक्षा की लागत समान रूप से वितरित हो, ताकि आर्टिफिशियल इंटेलिजेंस के लाभ उस भाषा द्वारा कम न हों जिसमें उसे बोला जा रहा है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।