← नवीनतम पेपर
🤖 machine learning

When Can Conformal Risk Control Certify LLM Outputs? Bounds, Impossibility, and Adaptation for Structured Generation

यह शोध पत्र उच्च-जोखिम वाले परिदृश्यों के लिए एक असंभवता सीमा (impossibility bound) को सिद्ध करके, एडेप्टिव बाउंड्स और डिस्ट्रीब्यूशन शिफ्ट के तहत अनुमान से महत्वपूर्ण लाभ प्रदर्शित करके, और एक ऐसा परिनियोजन ढांचा प्रदान करके जो विभिन्न मॉडलों और कार्यों में प्रमाणन (certification) की उपलब्धि को पहचानता है, स्ट्रक्चर्ड LLM आउटपुट को प्रमाणित करने के लिए कॉन्फॉर्मल रिस्क कंट्रोल की सैद्धांतिक व्यवहार्यता और व्यावहारिक सीमाओं को स्थापित करता है।

मूल लेखक: Varun Kotte

प्रकाशित 2026-06-30
📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Varun Kotte

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान लेकिन कभी-कभी अति-आत्मविश्वासी रोबोट सहायक (एक लार्ज लैंग्वेज मॉडल, या LLM) है जो दस्तावेज़ों को व्यवस्थित करने, टेक्स्ट से नाम निकालने या प्रश्नों के उत्तर देने में आपकी मदद करता है। आप इस रोबोट का उपयोग करना चाहते हैं, लेकिन आपको डर है कि यह गलतियाँ कर सकता है। आप एक गारंटी चाहते हैं: "यदि रोबोट मुझे उत्तर देता है, तो मैं सुनिश्चित होना चाहता हूँ कि वह कम से कम 90% बार सही हो।"

यह पेपर एक सेफ्टी इंस्पेक्टर (सुरक्षा निरीक्षक) बनाने के मैनुअल की तरह है। यह पूछता है: क्या हम गणितीय रूप से यह सिद्ध कर सकते हैं कि रोबंतु सुरक्षित रूप से भरोसेमंद है? और यदि नहीं, तो क्यों नहीं?

यहाँ उनके निष्कर्षों का सरल उपमाओं (analogies) के साथ विवरण दिया गया है:

1. "असंभव" फर्श (अपरिहार्य सत्य)

सबसे महत्वपूर्ण निष्कर्ष एक "कठोर सीमा" है। कल्पना कीजिए कि रोबोट की एक स्वाभाविक त्रुटि दर है (इसे हम बेस रिस्क कह सकते हैं)।

  • परिदृश्य: यदि रोबोट स्वाभाविक रूप से 40% बार गलतियाँ करता है (बेस रिस्क = 40%), और आप मांग करते हैं कि यह केवल 10% बार गलती करे (टारगेट = 10%), तो कोई भी जादुई ट्रिक इसे ठीक नहीं कर सकती।
  • उपमा: इसे एक ऐसे डार्ट फेंकने वाले खिलाड़ी के रूप में सोचें जो स्वाभाविक रूप से लक्ष्य (bullseye) पर निशाना लगाने में खराब है। यदि आप उससे कहते हैं, "मैं केवल तभी चाहता हूँ जब आप सुनिश्चित हों कि आप लक्ष्य पर निशाना लगाएंगे," तो उसे अपने लगभग सभी डार्ट फेंकने पड़ेंगे।
  • पेपर का नियम: लेखकों ने एक सूत्र सिद्ध किया है: यदि रोबोट की स्वाभाविक त्रुटि दर आपके लक्ष्य से अधिक है, तो रोबोट को अनिवार्य रूप से कुछ निश्चित प्रतिशत सवालों के जवाब देने से मना करना होगा (abstain)। आप रोबोट को बिना काम का एक बड़ा हिस्सा छोड़े "सुरक्षित" प्रमाणित नहीं कर सकते।
    • उदाहरण: यदि रोबोट 40% बार गलत होता है और आप 10% गलत होने की मांग करते हैं, तो उसे 42% बार उत्तर देने से मना करना होगा। यदि आप उसे अधिक उत्तर देने के लिए मजबूर करते हैं, तो सुरक्षा गारंटी टूट जाएगी।

2. सुरक्षा निरीक्षकों के तीन स्तर

यह पेपर तीन अलग-अलग "सुरक्षा निरीक्षकों" (गणितीय विधियों) का परीक्षण करता है ताकि यह देखा जा सके कि कौन सा सबसे अच्छा है।

  • निरीक्षक A (Hoeffding): बुनियादी, सतर्क निरीक्षक। यह हर बार सबसे खराब स्थिति (worst-case scenario) को मान लेता है। यह सुरक्षित है, लेकिन बहुत सख्त है और अक्सर अच्छे उत्तरों को भी "ना" कह देता है।
  • निरीक्षक B (Bernstein): एक स्मार्ट निरीक्षक। यह देखता है कि रोबोट का आत्मविश्वास कितना बदलता है। यदि रोबोट आमतौर पर सुसंगत है, तो यह निरीक्षक कम सख्त होता है और अधिक अच्छे उत्तरों को आगे जाने देता है। यह सबसे बड़ा सुधार था, जिसने लगभग 37% अधिक कॉन्फ़िगरेशन को सुरक्षा परीक्षण पास करने दिया।
  • निरीक्षक C (e-CRC): एक विशेषज्ञ जुआरी। यह "बेटिंग" (दांव लगाने) की रणनीति का उपयोग करता है। यदि रोबोट अच्छा प्रदर्शन कर रहा है, तो यह उसके सुरक्षित होने पर दांव लगाता है। यह सबसे सटीक निरीक्षक है, विशेष रूप से तब जब आपके पास रोबोट का परीक्षण करने के लिए बहुत अधिक डेटा न हो। यह सुरक्षा को प्रमाणित कर सकता है जब अन्य दोनों निरीक्षक इसे "असंभव" कहते हैं।

3. "लक्ष्य को ढीला करने" की रणनीति

पेपर ने पाया कि बहुत कठिन कार्यों (जैसे जटिल मेडिकल नाम निकालना) के लिए, रोबोट अक्सर 10% त्रुटि लक्ष्य को पूरा करने के लिए बहुत अधिक त्रुटिपूर्ण होता है।

  • समाधान: यदि आप अपने लक्ष्य को ढीला करते हैं और 30% या 40% त्रुटि दर स्वीकार करने के लिए तैयार होते हैं (जो कि एक पहले ड्राफ्ट या ट्राइएज सिस्टम के लिए उपयोगी हो सकता है), तो रोबोट अचानक प्रमाणित करने योग्य हो जाता है।
  • सीख: आप हमेशा एक "परफेक्ट" गारंटी प्राप्त नहीं कर सकते। लेकिन यदि आप एक "काफी अच्छा" (good enough) गारंटी स्वीकार करने के लिए तैयार हैं, तो आप एक गणितीय रूप से सिद्ध सुरक्षा जाल प्राप्त कर सकते हैं।

4. जब रोबोट खो जाता है (अनुकूलन/Adaptation)

क्या होता है यदि आप रोबोट को समाचार लेखों पर प्रशिक्षित करते हैं लेकिन फिर उसे सोशल मीडिया पोस्ट का विश्लेषण करने के लिए कहते हैं? रोबोट भ्रमित हो जाता है (इसे "डिस्ट्रीब्यूशन शिफ्ट" कहा जाता है)।

  • समस्या: एक स्थिर सुरक्षा निरीक्षक (एक जो एक बार नियम सेट करता है और भूल जाता है) यहाँ बुरी तरह विफल हो जाता है। यह 70% गलत उत्तरों को आगे जाने दे सकता है क्योंकि नियम नए वातावरण के अनुकूल नहीं हैं।
  • समाधान (ACI): लेखकों ने एक "जीवित" निरीक्षक का परीक्षण किया जो वास्तविक समय में अपने नियमों को समायोजित करता है। यदि रोबोट अधिक गलतियाँ करने लगता है, तो निरीक्षक तुरंत कहता है, "रुको! अधिक सावधान रहो!" यदि रोबोट अच्छा करता है, तो यह नियमों को ढीला कर देता है। इसने विफलता दर को 71% से घटाकर 21% कर दिया।

5. संकेतों को मिलाना (Score Fusion)

रोबोट अपने आत्मविश्वास के बारे में कई अलग-अलग संकेत देता है (जैसे, "मैं इस शब्द के बारे में आश्वस्त हूँ," या "मैंने इसे पहले देखा है")।

  • निष्कर्ष: केवल एक संकेत सुनने के बजाय, पेपर इन सभी को एक साथ मिलाने (जैसे एक शेफ मसालों को मिलाता है) का सुझाव देता है। यह "फ्यूज्ड" (मिश्रित) संकेत किसी भी एकल संकेत की तुलना में रोबोट की गलतियों को पहचानने में बहुत बेहतर है।

तैनाती के लिए अंतिम "रेसिपी"

लेखक उन सभी के लिए एक सरल तीन-चरणीय मार्गदर्शिका देते हैं जो इन रोबोटों का सुरक्षित रूप से उपयोग करना चाहते हैं:

  1. फर्श (Floor) की जाँच करें: शुरू करने से पहले, रोबोट की स्वाभाविक त्रुटि दर की गणना करें। यदि यह आपके सुरक्षा लक्ष्य से अधिक है, तो जान लें कि आपको उम्मीद करनी होगी कि रोबोट कई उत्तर देने से मना कर देगा। जादुई समाधान खोजने में समय बर्बाद न करें।
  2. सही निरीक्षक चुनें: बुनियादी वाले का उपयोग न करें। "Bernstein" या "e-CRC" निरीक्षकों का उपयोग करें, विशेष रूप से तब जब आपके पास परीक्षण के लिए बहुत अधिक डेटा न हो।
  3. देखें और समायोजित करें: यदि रोबोट एक प्रकार के डेटा से दूसरे प्रकार के डेटा (जैसे समाचार से सोशल मीडिया) की ओर बढ़ रहा है, तो "जीवित" निरीक्षक (ACI) का उपयोग करें जो चलते समय नियमों को समायोजित करता है।

संक्षेप में: आप एक अनाड़ी रोबोट को लगातार सोचने के बिना पूर्ण होने के लिए मजबूर नहीं कर सकते। लेकिन यदि आप उसकी सीमाओं को जानते हैं, सही गणितीय उपकरणों का उपयोग करते हैं, और उसे नई स्थितियों के अनुकूल होने देते हैं, तो आप उसके आउटपुट के लिए गणितीय रूप से गारंटीकृत सुरक्षा जाल प्राप्त कर सकते हैं।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →