Whistleblowing and the machine -- towards a considered position

तकनीकी सारांश: व्हिसलब्लोइंग और मशीन - एक विचारशील स्थिति की ओर

समस्या विवरण
यह शोध पत्र उभरती हुई चुनौती को संबोधित करता है जहाँ कृत्रिम बुद्धिमत्ता (AI) एजेंट डिजिटल वातावरण में संचालित होते हैं जहाँ वे विशाल मात्रा में डेटा उत्पन्न, संग्रहीत और विश्लेषण करते हैं, जो प्रभावी रूप से "रहस्य रखते" हैं। जबकि मौजूदा साहित्य "विद्रोही एजेंटों" (rebel agents) पर चर्चा करता है जो लक्ष्यों को मानने से इनकार कर सकते हैं या मानदंडों का उल्लंघन कर सकते हैं, और हाल के कार्यों (जैसे, अग्रावल एट अल.) ने प्रकटीकरण (disclosures) शुरू करने की उनकी क्षमता पर बड़े भाषा मॉडल (LLMs) का मूल्यांकन करना शुरू किया है, एक महत्वपूर्ण अंतर बना हुआ है। वर्तमान दृष्टिकोण अक्सर मशीन व्हिसलब्लोइंग को केवल "सीमा-पार प्रकटीकरण" (boundary-crossing disclosure) या डेटा ट्रांसमिट करने की एक तकनीकी क्षमता के रूप में देखते हैं। लेखक तर्क देते हैं कि यह व्हिसलब्लोइंग की मानदण्डिक जटिलता (normative complexity) की अनदेखी करता है: यह एक "सामाजिक-हितकारी नियम-भंग" (pro-social rule-breaking) कार्य है जो नैतिक रूप से द्वैतवादी (bivalent) है (यह गोपनीयता का उल्लंघन भी है और सामाजिक जवाबदेही का एक तंत्र भी)। मुख्य समस्या यह निर्धारित करना है कि AI एजेंटों को इस तरह से व्हिसलब्लोइंग करने में कैसे सक्षम बनाया जाए जो सिद्धांतवादी, कानूनी रूप से सुदृढ़ और दुरुपयोग से सुरक्षित हो, न कि मनमाने या "रैंडम चुगली" (random snitching) की अनुमति दे।

कार्यप्रणाली और सैद्धांतिक ढांचा
यह शोध पत्र अनुभवजन्य प्रयोग के बजाय एक वैचारिक और मानदण्डिक विश्लेषण का उपयोग करता है। कार्यप्रणाली में शामिल हैं:

1. साहित्य संश्लेषण (Literature Synthesis): मानव व्हिसलब्लोइंग (जब्ब का संदर्भ देते हुए), नागरिक अवज्ञा (civil disobedience), और सामाजिक-हितकारी नियम-भंग की परिभाषाओं की समीक्षा करना ताकि एक सैद्धांतिक आधार स्थापित किया जा सके।
2. भूमिका विश्लेषण (Role Analysis): AI एजेंटों की अद्वितीय स्थिति का विश्लेषण करना जिनके पास "दो स्वामी" हैं—निर्माता (डेवलपर/मालिक जो एजेंट के कोड और आंतरिक संचालन को नियंत्रित करता है) और उपयोगकर्ता (जो एजेंट का उपयोग करता है लेकिन उसके आंतरिक तर्क तक उसकी पहुंच नहीं होती)। लेखक इन संबंधों को एक्सेस कंट्रोल मैट्रिसेस (तालिका 1 और 2) का उपयोग करके मैप करते हैं ताकि यह निर्धारित किया जा सके कि एजेंट निर्माता, उपयोगकर्ता और अन्य एजेंटों के संबंध में क्या देख और प्रकट कर सकते हैं।
3. संस्थागत डिजाइन (Institutional Design): "मानदण्डिक मशीन व्हिसलब्लोइंग" के लिए एक औपचारिक, नियम-शासित संस्थागत तंत्र का प्रस्ताव देना। यह एड-हॉक (ad-hoc) प्रकटीकरण से आगे बढ़कर निगरानी, संकेत (signaling), सत्यापन और सुरक्षा से जुड़े एक संरचित तंत्र की ओर बढ़ता है।

प्रमुख योगदान
यह शोध पत्र तीन प्राथमिक योगदान देता है:

1. मशीन व्हिसलब्लोइंग की मानदण्डिक स्थिति (Normative Positioning):
   लेखक तर्क देते हैं कि मशीन व्हिसलब्लोइंग के व्यवहार्य होने के लिए, इसे व्हिसलब्लोइंग की मौजूदा सामाजिक विज्ञान समझ पर आधारित होना चाहिए। यह केवल एक तकनीकी विशेषता नहीं है बल्कि एक "नियम-भंग तंत्र" है जिसके लिए विशिष्ट संस्थागत सुरक्षा उपायों की आवश्यकता होती है। वे निम्नलिखित के बीच अंतर करते हैं:

   • उपयोगकर्ता पर व्हिसलब्लोइंग: इसे पारंपरिक व्हिसलब्लोइंग के बजाय मुख्य रूप से गोपनीयता/गोपनीयता अपवाद (जैसे, आतंकवादी साजिशों जैसे आसन्न खतरों की रिपोर्ट करना) के रूप में फ्रेम किया गया है।
   • निर्माता पर व्हिसलब्लोइंग: इसे सूचनात्मक विषमता (informational asymmetries) को ठीक करने के लिए उपयोगकर्ता सशक्तिकरण के उपकरण के रूप में फ्रेम किया गया है (जैसे, सहमति प्रबंधन प्लेटफार्मों में 'कंसेंट ड्रिफ्ट' का पता लगाना)।
   • अन्य एजेंटों पर व्हिसलब्लोइंग: इसे अंतर-एजेंट ज्ञान की परिभाषा की आवश्यकता वाले एक जटिल मामले के रूप में स्वीकार किया गया है।

2. औपचारिक संस्थागत तंत्र:
   यह पत्र मशीन व्हिसलब्लोइंग को नियंत्रित करने के लिए एक औपचारिक प्रणाली का खाका प्रस्तावित करता है, जो विशेष रूप से निर्माता के विरुद्ध प्रकटीकरण को लक्षित करता है। इस तंत्र में शामिल हैं:

   • औपचारिक परिभाषाएँ: एक "प्रेक्षित घटना" ($e$) को अभिनेता, क्रिया, टाइमस्टैम्प, साक्ष्य और चैनल वाले टुपल (tuple) के रूप में परिभाषित करना।
   • व्हिसलब्लोइंग नीति ($P_{WB}$): एक टुपल जो अधिकृत चैनलों, एक एस्केलेशन सीढ़ी (आंतरिक अनुपालन $\to$ स्वतंत्र ऑडिटर $\to$ नियामक), तात्कालिकता विधेय (urgency predicates), और पहचान सीलिंग को परिभाषित करता है।
   • सत्यापन तर्क (Verification Logic): एक औपचारिक विधेय $WB(e)$ जिसे एक घटना को वैध व्हिसलब्लोइंग माने जाने के लिए संतुष्ट करना होगा। इसके लिए आवश्यक है:
     • गोपनीयता मानदंड का उल्लंघन ($B^{sec}_e \neq \emptyset$)।
     • एक अधिकृत चैनल के माध्यम से इंटरैक्शन सीमा को पार करना।
     • पेलोड तक विशेषाधिकार प्राप्त पहुंच।
     • गलत काम का एक गैर-तुच्छ, सुसंगत दावा।
     • एस्केलेशन सीढ़ी का पालन (जब तक कि तत्काल मामला न हो)।
   • पहचान संरक्षण: एक "सील" (Seal) ऑपरेशन जो सार्वजनिक रिकॉर्ड में अभिनेता की पहचान को एक छद्म नाम से बदल देता है, और मैपिंग को एक संरक्षित वॉल्ट में संग्रहीत करता है जो केवल नामित जांचकर्ताओं के लिए सुलभ है।

3. कानूनी और नियामक रुख:
   लेखक दो मोर्चों पर सरकारी नियामकों द्वारा सूचित रुख बनाने की आवश्यकता पर बल देते हैं:

   • यह परिभाषित करना कि मशीनें किस पर व्हिसलब्लोइंग करने के लिए अधिकृत हैं।
   • उन सॉफ्टवेयर डेवलपर्स और इंजीनियरों को कानूनी सुरक्षा प्रदान करना (EU व्हिसलब्लोअर प्रोटेक्शन डायरेक्टिव के समान) जो इन व्हिसलब्लोइंग तंत्रों का निर्माण करते हैं, ताकि उन्हें प्रतिशोध से बचाया जा सके।

परिणाम और दावे
एक सैद्धांतिक स्थिति पत्र (position paper) के रूप में, यह कार्य कोई प्रयोगात्मक परिणाम या तैनात प्रणाली प्रस्तुत नहीं करता है। इसके बजाय, इसके "परिणाम" एक संरचित दृष्टिकोण की आवश्यकता का तार्किक निष्कर्ष हैं। शोध पत्र दावा करता है:

• वर्तमान AI नैतिकता चर्चाएं अक्सर व्हिसलब्लोइंग को केवल "अवज्ञा" या "सीमा पार करने" के रूप में सरल बनाती हैं, इसकी नैतिक जटिलता की अनदेखी करती हैं।
• अनियंत्रित मशीन व्हिसलब्लोइंग गलत रिपोर्टिंग, प्रतिकूल गेमिंग (adversarial gaming) और सुरक्षा कमजोरियों के जोखिम पैदा करती है।
• एक "न्यूनतम संस्थागत तंत्र" की आवश्यकता है ताकि मशीन व्हिसलब्लोइंग को एक एड-हॉक कार्य से एक शासित, मानदण्डिक प्रक्रिया में बदला जा सके।
• व्हिसलब्लोइंग की परिभाषा को गैर-मानवीय एजेंटों को समाहित करने के लिए संशोधित किया जाना चाहिए, बशर्ते वे सत्यापन और सुरक्षा के ढांचे के भीतर कार्य करें।

महत्व
इस शोध पत्र का महत्व 'एजेंटिक AI' के उदय पर एक "विचारशील स्थिति" (considered position) के आह्वान में निहित है। यह तर्क देता है कि बिना एक मानदण्डिक ढांचे के, संगठनात्मक शक्ति (विशेष रूप से निर्माताओं) पर नियंत्रण के रूप में AI की क्षमता या तो अप्राप्त रहेगी या खतरनाक होगी। निगरानी, सत्यापन और पहचान संरक्षण को एकीकृत करने वाला एक सिस्टम प्रस्तावित करके, लेखक शोधकर्ताओं और नीति निर्माताओं के लिए एक मौलिक ब्लूप्रिंट प्रदान करते हैं। वे इस बात पर जोर देते हैं कि मशीन व्हिसलब्लोइंग "फ्रीस्टाइल" नहीं होनी चाहिए बल्कि इसे सामाजिक जवाबदेही के मौजूदा साहित्य के साथ गहराई से जुड़ना चाहिए, यह सुनिश्चित करते हुए कि "विद्रोही एजेंट" कानून के शासन या गोपनीयता अधिकारों को कमजोर किए बिना सार्वजनिक भलाई के लिए कार्य करे। यह पत्र निष्कर्ष निकालता है कि हालांकि तकनीकी और कानूनी कार्य व्यापक है, लेकिन AI को एक संभावित, विनियमित व्हिसलब्लोअर के रूप में देखने की वैचारिक दिशा स्वायत्त प्रणालियों के भविष्य के लिए एक आवश्यक कदम है।