← नवीनतम पेपर
💻 computer science

Right-to-Act: A Pre-Execution Non-Compensatory Decision Protocol for AI Systems

यह शोध पत्र "राइट-टू-एक्ट" (Right-to-Act) प्रोटोकॉल प्रस्तुत करता है, जो एक नियतात्मक, गैर-प्रतिपूरक पूर्व-निष्पादन ढांचा है जो एआई (AI) की कार्रवाइयों को तब रोक देता है जब कोई भी सुरक्षा शर्त पूरी नहीं होती है, जिससे ध्यान निर्णय की गुणवत्ता को अनुकूलित करने से हटाकर निष्पादन की स्वीकार्यता को सख्ती से नियंत्रित करने पर केंद्रित हो जाता है।

मूल लेखक: Gadi Lavi

प्रकाशित 2026-04-28
📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें
CC BY 4.0

मूल लेखक: Gadi Lavi

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक बहुत ही स्मार्ट, तेज़ रोबोट सहायक है। यह रोबोट पैसे भेज सकता है, लोगों को उनके खातों से बाहर कर सकता है, या किसी फैक्ट्री मशीन की सेटिंग्स बदल सकता है। अभी, हमारे पास यह सुनिश्चित करने के लिए कई नियम हैं कि यह रोबोट सुरक्षित है:

  • प्राधिकरण (Authorization): "क्या इस रोबोट को मशीन को छूने की अनुमति है?"
  • सुरक्षा (Safety): "क्या इस क्रिया से किसी को चोट लगेगी?"
  • जोखिम स्कोरिंग (Risk Scoring): "1 से 100 के पैमाने पर, यह कितना जोखिम भरा है?"

यह शोध पत्र तर्क देता है कि भले ही रोबोट इन सभी परीक्षणों में पास हो जाए, फिर भी एक कदम बाकी रह जाता है। रोबोट को अनुमति दी जा सकती है, वह सुरक्षित हो सकता है, और जोखिम कम हो सकता है, लेकिन फिर भी वह कार्य करना अभी गलत हो सकता है क्योंकि उसके पास एक महत्वपूर्ण कड़ी का अभाव है।

लेखक इस लापता चरण को "प्री-एक्शन लेजिटिमेसी गैप" (Pre-Action Legitimacy Gap) कहते हैं।

मुख्य समस्या: "स्कोर" बनाम "चेकलिस्ट"

गैप को समझने के लिए, कल्पना कीजिए कि दो तरीकों से एक शिक्षक किसी छात्र के प्रोजेक्ट को ग्रेड देता है:

1. क्षतिपूरक प्रणाली (Compensatory System - जैसा कि हम अभी करते हैं):
यह एक अंक-आधारित खेल की तरह है।

  • छात्र को एक शानदार डिज़ाइन के लिए 10 अंक मिलते हैं।
  • उन्हें अच्छे शोध के लिए 10 अंक मिलते हैं।
  • उन्हें एक अच्छी प्रस्तुति के लिए 10 अंक मिलते हैं।
  • लेकिन, वे शीर्षक पृष्ठ (एक आवश्यक आवश्यकता) शामिल करना भूल गए।
  • परिणाम: क्योंकि उनके पास कुल 30 अंक हैं, और पास होने के लिए 20 अंक चाहिए, शिक्षक उन्हें 'A' ग्रेड देता है। शीर्षक पृष्ठ की कमी को अन्य अच्छे हिस्सों द्वारा "भर दिया गया" (compensate किया गया)।

2. गैर-क्षतिपूरक प्रणाली (Non-Compensatory System - प्रस्तावित "राइट-टू-एक्ट"):
यह एक सुरक्षा चेकपॉइंट या सख्त चेकलिस्ट की तरह है।

  • आपके पास टिकट है? हाँ।
  • आपके पास पासपोर्ट है? हाँ।
  • आपके पास वीज़ा है? नहीं।
  • परिणाम: इससे कोई फर्क नहीं पड़ता कि आपके पास सुनहरा टिकट है, एक सुंदर पासपोर्ट है, और एक प्यारी मुस्कान है। यदि आपके पास वीज़ा नहीं है, तो आप प्रवेश नहीं कर सकते। कोई भी "अच्छे अंक" गायब वीज़ा की भरपाई नहीं कर सकते।

शोध पत्र का तर्क है कि वास्तविक दुनिया के निर्णय लेने वाले AI (जैसे खाता लॉक करना या पैसा स्थानांतरित करना) के लिए, हमें "पॉइंट सिस्टम" के बजाय "चेकलिस्ट" दृष्टिकोण की आवश्यकता है।

"राइट-टू-एक्ट" (Right-to-Act) प्रोटोकॉल

लेखक एक नया नियम प्रस्तावित करते हैं जिसे "राइट-टू-एक्ट" कहा जाता है।

इसे एक क्लब के बाउंसर के रूप में सोचें जिसे इस बात से कोई फर्क नहीं पड़ता कि आपके पास कितने पैसे हैं (आपका स्कोर) या आप कितने अच्छे दिखते हैं (आपकी सुरक्षा रेटिंग)। बाउंसर केवल यह पूछता है: "क्या आपके पास इस विशिष्ट दरवाजे को खोलने के लिए आवश्यक विशिष्ट चाबी है?"

  • यदि AI कहता है, "मैं इस उपयोगकर्ता का खाता लॉक करना चाहता हूँ," तो सिस्टम जाँचता है: "क्या हमारे पास इस बात का प्रमाण है कि इस उपयोगकर्ता ने वास्तव में नियमों को तोड़ा है, या यह केवल एक अनुमान है?"
  • यदि प्रमाण गायब है, तो सिस्टम कहता है "नहीं।"
  • यह यह नहीं कहता, "खैर, हम 90% आश्वस्त हैं, तो चलो इसे फिर भी कर देते हैं।"
  • इसके बजाय, यह कहता है, "रुको। हमारे पास चाबी नहीं है। जाओ और अधिक जानकारी लाओ या किसी इंसान से पूछो।"

यह क्यों महत्वपूर्ण है (अकाउंट सस्पेंशन का उदाहरण)

पेपर एक वास्तविक उदाहरण का उपयोग करता है: एक AI जो किसी वेबसाइट से उपयोगकर्ता को प्रतिबंधित करने का निर्णय लेता है।

  • पुराना तरीका: AI देखता है कि उपयोगकर्ता संदिग्ध तरीके से 5 बार व्यवहार किया है, एक ज्ञात हैकर जैसा दिखता है, और AI 95% आश्वस्त है कि वह एक हैकर है। "जोखिम स्कोर" उच्च है। परिणाम: उपयोगकर्ता को तुरंत बैन कर दिया जाता है।
  • समस्या: क्या होगा यदि उपयोगकर्ता केवल एक साझा कंप्यूटर का उपयोग कर रहा था जिसे हैक किया गया था? AI संदिग्ध गतिविधि के बारे में "सही" था, लेकिन किसके बारे में वह "गलत" था। AI एक आवश्यक शर्त को मिस कर गया: "उपयोगकर्ता की पहचान सत्यापित करें।"
  • नया तरीका (Right-to-Act): सिस्टम चेकलिस्ट की जाँच करता है।
    • संदिग्ध गतिविधि? हाँ।
    • उच्च आत्मविश्वास? हाँ।
    • पहचान सत्यापित? नहीं।
    • परिणाम: सिस्टम रुक जाता है। यह उपयोगकर्ता को बैन नहीं करता है। इसके बजाय, यह कहता है, "मैं अभी यह नहीं कर सकता। मुझे उपयोगकर्ता से और जानकारी चाहिए।"

बड़ी सीख

यह पेपर गणितीय रूप से सिद्ध करता है कि आप केवल "जोखिम स्कोर" को बढ़ाकर या "सुरक्षा" को बेहतर बनाकर इस समस्या को हल नहीं कर सकते। यदि आप स्कोरिंग सिस्टम का उपयोग करते हैं, तो एक उच्च स्कोर हमेशा एक गायब आवश्यकता को छिपाने में सक्षम होगा।

वैधता (Legitimacy) एक स्कोर नहीं है; यह एक सीमा है।

पेपर सुझाव देता है कि किसी भी वास्तविक दुनिया के कार्य पर "ट्रिगर दबाने" से पहले, AI को एक सख्त, गैर-परक्राम्य (non-negotiable) चेकलिस्ट को पास करना चाहिए। यदि एक भी आवश्यक शर्त गायब है, तो कार्य को रोक दिया जाता है, चाहे AI कितना भी "स्मार्ट" या "आत्मविश्वासी" क्यों न हो। यह "कुछ न करने" (इंतज़ार करना, मदद मांगना, या मानव तक मामला पहुँचाना) को एक वैध और आवश्यक परिणाम में बदल देता है, न कि सिस्टम की विफलता में।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →

इसी तरह के और पेपर

इस विषय के सभी पेपर देखें 💻 cs →