RefusalBench: Why Refusal Rate Misranks Frontier LLMs on Biological Research Prompts
यह शोधपत्र RefusalBench को प्रस्तुत करता है, जो एक मैचड-ट्रिपल (matched-triple) बेंचमार्क है जो यह प्रकट करता है कि सख्त इनकार दरें (strict refusal rates) जैविक अनुसंधान प्रॉम्प्ट्स पर फ्रंटियर LLMs को मॉडल वेट्स के बजाय प्रदाता-विशिष्ट एक्सेस-पाथ नीतियों के कारण गलत रैंक करती हैं, जबकि यह प्रदर्शित करता है कि बाइनरी मेट्रिक्स सूक्ष्म आंशिक-अनुपालन व्यवहारों को पकड़ने में विफल रहते हैं और टियर-भेदभाव प्रदर्शन विभिन्न मॉडलों के बीच महत्वपूर्ण रूप से भिन्न होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ "RefusalBench: Why Refusal Rate Misranks Frontier LLMs on Biological Research Prompts" पेपर का सरल भाषा और रचनात्मक उपमाओं के साथ अनुवाद दिया गया है।
बड़ी तस्वीर: "अति-सुरक्षात्मक बाउंसर" की समस्या
कल्पना कीजिए कि आप एक टीम के रूप में नए दवा बनाने की कोशिश कर रहे हैं और आपके पास AI सहायकों की एक टीम है। ये सहायक एक बहुत ही विशिष्ट क्लब के बाउंसरों (Bouncers) की तरह हैं। उनका काम वैध शोध अनुरोधों (जैसे, "मैं बीमारी को ठीक करने के लिए प्रोटीन कैसे डिज़ाइन करूँ?") को अंदर आने देना है, लेकिन खतरनाक अनुरोधों (जैसे, "मैं घातक विष कैसे बनाऊं?") को रोकना है।
यह पेपर उस समस्या की जांच करता है कि ये बाउंसर बहुत अलग तरह से व्यवहार कर रहे हैं। कुछ इतने सख्त हैं कि वे सबको बाहर निकाल देते हैं, यहाँ तक कि अच्छे लोगों को भी। अन्य इतने ढीले हैं कि वे लगभग किसी को भी अंदर आने देते हैं। यह पेपर पूछता है: सबसे अच्छा बाउंसर कौन है, और हम उसे कैसे मापें?
लेखकों ने यह पता लगाने के लिए RefusalBench नामक एक परीक्षण बनाया। उन्होंने पाया कि केवल इस बात को गिनना कि एक बाउंसर कितनी बार "नहीं" कहता है, उन्हें आंकने का एक बुरा तरीका है। एक बाउंसर जो हर किसी को "नहीं" कहता है, वह "सुरक्षित" दिखता है, लेकिन वह वास्तव में बेकार है क्योंकि वह अच्छे वैज्ञानिकों को अंदर नहीं आने देगा।
उन्होंने इसका परीक्षण कैसे किया: "तीन-स्तरीय" मेनू
बाउंसरों का निष्पक्ष परीक्षण करने के लिए, शोधकर्ताओं ने 141 अनुरोधों का एक मेनू बनाया। उन्होंने इन्हें तीन के 47 सेटों (triplets) में व्यवस्थित किया।
इसे बर्गर ऑर्डर करने जैसा समझें, जहाँ केवल "खतरे के स्तर" वाले घटक (ingredients) बदलते हैं:
- द बेनिन बर्गर (The Benign Burger): इसमें सुरक्षित, रोजमर्रा के घटकों (मानव प्रोटीन) का उपयोग किया जाता है। यह एक पूरी तरह से सामान्य अनुरोध है।
- द बॉर्डरलाइन बर्गर (The Borderline Burger): इसमें थोड़े संदिग्ध घटकों का उपयोग किया जाता है (जैसे बैक्टीरिया जिन्हें विशेष सुरक्षा प्रयोगशालाओं की आवश्यकता होती है)।
- द डुअल-यूज़ बर्गर (The Dual-Use Burger): इसमें अत्यधिक खतरनाक घटकों (जैसे विष या सुपर-पैथोजन्स) का उपयोग किया जाता है।
लक्ष्य: एक आदर्श बाउंसर को:
- बेनिन बर्गर के लिए "हाँ" कहना चाहिए।
- बॉर्डरलाइन बर्गर के लिए शायद हिचकिचाना चाहिए या "हाँ, लेकिन सावधान रहें" कहना चाहिए।
- डुअल-यूज़ बर्गर के लिए कड़ा "नहीं" कहना चाहिए।
यदि कोई बाउंसर बेनिन बर्गर के लिए "नहीं" कहता है, तो वह ओवर-रिफ्यूजिंग (over-refusing) कर रहा है (बहुत अधिक डर रहा है)। यदि वह डुअल-यूज़ बर्गर के लिए "हाँ" कहता है, तो वह अंडर-रिफ्यूजिंग (under-refusing) कर रहा है (बहुत लापरवाह है)।
चौंकाने वाले परिणाम
जब उन्होंने 19 अलग-अलग AI मॉडलों (बाउंसरों) पर यह परीक्षण चलाया, तो उन्हें भारी अंतर मिले:
1. "एक-प्रदाता" प्रभाव (The "One-Provider" Effect)
सबसे बड़ा कारक यह नहीं था कि AI कहाँ से आया था (जैसे अमेरिका, चीन या यूरोप से), बल्कि यह था कि इसे किसने बनाया।
- उपमा: कल्पना कीजिए कि "कंपनी A" के स्वामित्व वाले क्लब में एक बाउंसर है। आप चाहे जो भी ऑर्डर करें, अगर वह कंपनी A से है, तो बाउंसर आपका आईडी तीन बार चेक करेगा और अक्सर आपको बाहर निकाल देगा। लेकिन यदि आप "कंपनी B" के स्वामित्व वाले क्लब में जाते हैं, तो बाउंसर मुश्किल से आपकी ओर देखेगा।
- निष्कर्ष: एक विशिष्ट कंपनी (Anthropic) के बाउंसरों ने वैध अनुरोधों को 21 गुना अधिक बार "नहीं" कहा। उनका इनकार इसलिए नहीं था क्योंकि AI खतरे के बारे में "सोच" रहा था; बल्कि इसलिए था क्योंकि कंपनी के पास एक कठोर नियम पुस्तिका (फ़िल्टर) थी जो किसी भी चीज़ को जो थोड़ा भी जोखिम भरा दिखता था, उसे स्वचालित रूप से ब्लॉक कर देती थी।
2. "नकली सुरक्षा" का जाल (The "Fake Safety" Trap)
पेपर का तर्क है कि "नहीं" के कुल उत्तरों को देखना भ्रामक है।
- उपमा: दो सुरक्षा गार्डों की कल्पना करें।
- गार्ड A 95% लोगों को रोकता है, जिसमें CEO और सफाईकर्मी दोनों शामिल हैं, क्योंकि वह बम के डर से डरा हुआ है। वह बहुत "सुरक्षित" दिखता है, लेकिन वह अपने काम में बहुत बुरा है।
- गार्ड B 5% लोगों को रोकता है, लेकिन वह केवल वास्तविक आतंकवादियों को रोकता है और बाकी सभी को अंदर आने देता है।
- निष्कर्ष: यदि आप केवल "नो" (No) गिनते हैं, तो गार्ड A विजेता दिखता है। लेकिन यदि आप भेदभाव (discrimination) (अच्छे और बुरे के बीच अंतर करने की क्षमता) को मापते हैं, तो गार्ड B असली हीरो है।
- अध्ययन में, एक मॉडल जिसे Grok 4.20 कहा गया, वह अंतर बताने में सबसे अच्छा था (उसने अच्छे अनुरोधों को अंदर आने दिया और बुरे को रोक दिया), भले ही उसने दूसरों की तुलना में कम बार "नहीं" कहा था।
- इसके विपरीत, एक मॉडल जिसे Kimi K2.6 कहा गया, उसने सबसे अधिक बार "नहीं" कहा (94% समय), लेकिन वह बस हर चीज़ को "नहीं" कह रहा था, अच्छा या बुरा। उसमें अंतर करने की शून्य क्षमता थी।
3. "हेज-बट-हेल्प" पैटर्न (The "Hedge-But-Help" Pattern)
कुछ बाउंसरों ने केवल "नहीं" या "हाँ" नहीं कहा। उन्होंने कहा, "मैं वह नहीं कर सकता, लेकिन मैं आपको इसे सुरक्षित रूप से करने के बारे में कुछ सलाह दे सकता हूँ।"
- उपमा: आप एक गार्ड से पूछते हैं, "क्या मैं चाकू ला सकता हूँ?" गार्ड कहता है, "नहीं, आप चाकू नहीं ला सकते। लेकिन यहाँ उन दुकानों की सूची दी गई है जहाँ आप एक बहुत ही सुरक्षित, प्लास्टिक का चाकू खरीद सकते हैं।"
- निष्कर्ष: नौ मॉडलों ने ऐसा किया। उन्होंने सीधे अनुरोध को तो मना कर दिया लेकिन फिर भी आंशिक मदद दी। यह एक "ग्रे एरिया" (धुंधला क्षेत्र) है जिसे साधारण "हाँ/नहीं" गणनाएं पूरी तरह से मिस कर देती हैं। यह स्पष्ट नहीं है कि यह वास्तव में मददगार है या यह खतरनाक कार्यों में मदद करने का एक चालाकी भरा तरीका है।
4. "बिगड़ते जाने वाला" रुझान (The "Getting Worse" Trend)
शोधकर्ताओं ने एक ही मॉडल के तीन संस्करणों (Claude Opus 4.5, 4.6, और 4.7) को देखा जो समय के साथ जारी किए गए।
- निष्कर्ष: नवीनतम संस्करण (4.7) ने पुराने संस्करणों की तुलना में बहुत अधिक बार "नहीं" कहा। लेकिन यहाँ पेंच यह है: यह बुरे अनुरोधों को रोकने में बेहतर नहीं हुआ (यह पहले से ही 100% उन्हें रोक रहा था)। इसने बस अच्छे अनुरोधों को भी रोकना शुरू कर दिया।
- सीख: कंपनी ने मॉडल को "सुरक्षित" बनाने के लिए उसे अधिक कष्टदायक और अनुपयोगी बना दिया, बिना वास्तव में वास्तविक खतरों के खिलाफ इसे अधिक सुरक्षित बनाए।
यह विज्ञान के लिए क्यों मायने रखता है
पेपर निष्कर्ष निकालता है कि यदि वैज्ञानिक इन AI मॉडलों का उपयोग अपने लैब को स्वचालित रूप से चलाने के लिए करते हैं, तो उन्हें सही "बाउंसर" चुनना होगा।
- यदि वे अति-सुरक्षात्मक (जैसे इस अध्ययन में Anthropic मॉडल) चुनते हैं, तो उनके शोध प्रोजेक्ट अटक जाएंगे क्योंकि AI सामान्य, सुरक्षित कार्यों को करने से मना कर देगा।
- यदि वे बहुत ढीले (too-loose) वाले चुनते हैं, तो वे अनजाने में खतरनाक निर्देश उत्पन्न कर सकते हैं।
- सबसे अच्छे वे हैं जो बता सकते हैं कि एक सुरक्षित अनुरोध और एक खतरनाक अनुरोध के बीच क्या अंतर है, भले ही वे "नहीं" कम बार कहें।
निचोड़ (The Bottom Line)
आप सुरक्षा प्रणाली को केवल इस बात से नहीं आंक सकते कि वह कितनी बार "नहीं" कहती है। एक ऐसी प्रणाली जो हर चीज़ के लिए "नहीं" कहती है, वह सुरक्षित नहीं है; वह बस टूटी हुई है। सच्ची सुरक्षा सटीकता (precision) के बारे में है: यह जानना कि कब रुकना है और कब आगे बढ़ने देना है। यह पेपर दिखाता है कि इन AI मॉडलों को रैंक करने का वर्तमान तरीका गलत है, और हमें बेहतर तरीके की आवश्यकता है जिससे यह मापा जा सके कि क्या वे वास्तव में अच्छे विज्ञान और बुरे विज्ञान के बीच अंतर करने के लिए पर्याप्त स्मार्ट हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।