CARE: Controlled AI Reasoning for Enterprises
यह शोध पत्र CARE को प्रस्तुत करता है, जो एक रनटाइम गवर्नेंस आर्किटेक्चर है जो नैतिक एआई सिद्धांतों को डेटा बाउंड्री एनफोर्समेंट और डायनेमिक मॉडल रूटिंग जैसे तकनीकी नियंत्रणों में अनुवादित करता है, और बेंचमार्क सिमुलेशन के माध्यम से यह प्रदर्शित करता है कि इंजीनियरिंग रीजनिंग कंडीशंस डेटा एक्सपोजर को महत्वपूर्ण रूप से कम करती है और जिम्मेदार एंटरप्राइज एलएलएम परिनियोजन सुनिश्चित करती है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक कार्यस्थल में, लार्ज लैंग्वेज मॉडल्स (LLMs) शक्तिशाली उपकरण बन गए हैं, जो ईमेल ड्राफ्ट करने, दस्तावेज़ों का सारांश तैयार करने और यहाँ तक कि कोड लिखने में भी सक्षम हैं। ये सिस्टम अगले शब्द की भविष्यवाणी करके काम करते हैं, जिससे वे मानवीय भाषा जैसा टेक्स्ट उत्पन्न कर पाते हैं। हालाँकि, जैसे-जैसे कंपनियाँ वित्तीय रिकॉर्ड का विश्लेषण करने, ग्राहक डेटा प्रबंधित करने या भर्ती निर्णय लेने जैसे महत्वपूर्ण कार्यों के लिए इन उपकरणों का उपयोग करना शुरू कर रही हैं, एक बड़ा अंतर उभर कर आया है। जबकि संगठनों के पास नैतिक व्यवहार के लिए उच्च-स्तरीय सिद्धांत हैं—जैसे निष्पक्षता, गोपनीयता और जवाबदेही—ये विचार अक्सर इतने अमूर्त होते हैं कि इन्हें सॉफ्टवेयर द्वारा लागू नहीं किया जा सकता। एक कंप्यूटर प्रोग्राम को एक मानव कर्मचारी की तरह यह नहीं बताया जा सकता कि "निष्पक्ष रहो" या "गोपनीयता का सम्मान करो"। इसके बजाय, इन सिस्टम्स को सुरक्षित बनाने के लिए, नियमों को सीधे उस पथ में बनाया जाना चाहिए जिस पर कंप्यूटर समस्या को हल करने के लिए चलता है। यही वह मुख्य चुनौती है जिसे नया शोध संबोधित करता है: कैसे अस्पष्ट नैतिक लक्ष्यों को ठोस तकनीकी नियंत्रणों में बदला जाए जो मशीन को होने वाली दुर्घटनाओं को होने से पहले ही रोक सकें।
स्लाइस्डहेल्थ इंक (SlicedHealth, Inc.) के एक शोधकर्ता, हर्षिल लोधिया, एक समाधान प्रस्तावित करते हैं जिसे CARE कहा जाता है, जिसका अर्थ है 'कंट्रोल्ड एआई रीजनिंग फॉर एंटरप्राइजेज' (Controlled AI Reasoning for Enterprises)। यह कोई नया प्रकार का आर्टिफिशियल इंटेलिजेंस मॉडल नहीं है, बल्कि एक गवर्नेंस आर्किटेक्चर है जिसे उपयोगकर्ता और एआई के बीच स्थित करने के लिए डिज़ाइन किया गया है। इस कार्य का केंद्रीय तर्क यह है कि नैतिक एआई केवल एक मॉडल को जिम्मेदारी से व्यवहार करने के लिए कहने से प्राप्त नहीं होता, बल्कि उन विशिष्ट स्थितियों को इंजीनियर करने से प्राप्त होता है जिनके तहत मॉडल को सोचने और कार्य करने की अनुमति दी जाती है। यह सिस्टम नैतिक शासन को एक 'रनटाइम कंट्रोल' समस्या के रूप में मानता है, जिसका अर्थ है कि यह किसी अनुरोध को प्रोसेस किए जाने के दौरान वास्तविक समय में निर्णय लेता है। यह किसी भी कार्रवाई की अनुमति देने से पहले कई व्यावहारिक प्रश्न पूछता है: यह किस प्रकार का अनुरोध है? उपयोगकर्ता को कौन सा डेटा देखने की अनुमति है? इस कार्य को संभालने के लिए किस विशिष्ट मॉडल का उपयोग किया जाना चाहिए? और क्या अंतिम उत्तर की जांच किसी मानव द्वारा की जानी चाहिए? इन प्रश्नों के उत्तर सख्त नियमों के साथ देकर, CARE का लक्ष्य एआई को संवेदनशील जानकारी तक पहुँचने, अनधिकृत परिवर्तन करने या उचित निरीक्षण के बिना श्रमिकों को विस्थापित करने से रोकना है।
यह परीक्षण करने के लिए कि क्या यह दृष्टिकोण काम करता है, शोधकर्ता ने इसे किसी लाइव कंपनी वातावरण में तैनात नहीं किया, जो जोखिम भरा और जटिल होता। इसके बजाय, अध्ययन में 'बर्ड मिनी-डेव' (BIRD Mini-Dev) बेंचमार्क नामक डेटासेट का उपयोग किया गया। इस डेटासेट में 500 विशिष्ट कार्य शामिल हैं जहाँ एक उपयोगकर्ता सामान्य अंग्रेजी में प्रश्न पूछता है, और सिस्टम को उत्तर खोजने के लिए उसे डेटाबेस क्वेरी में अनुवाद करना होता है। शोधकर्ता ने इन 500 कार्यों के लिए CARE आर्किटेक्चर का सिमुलेशन किया, जिसमें 11 अलग-अलग डेटाबेस शामिल थे। सिमुलेशन दो मुख्य परिणामों पर केंद्रित था: एआई को कितने डेटा के संपर्क में लाया गया, और सिस्टम विभिन्न प्रकार के अनुरोधों को उनके जोखिम के आधार पर कैसे रूट (route) करता है।
परिणामों ने दिखाया कि CARE आर्किटेक्चर उस डेटा की मात्रा को काफी कम कर सकता है जिसे एआई को अपना काम करने के लिए देखने की आवश्यकता होती है। बिना इन नियंत्रणों के एक मानक सेटअप में, एक एआई सिस्टम जो प्रश्न का उत्तर देने का प्रयास कर रहा है, उसे आमतौर पर डेटाबेस से औसतन 7.26 टेबल और 76.86 कॉलम दिखाए जाते हैं। यह एक लाइब्रेरियन को एक अकेली किताब खोजने के लिए पूरी लाइब्रेरी सौंपने जैसा है। एक स्मार्ट फ़िल्टरिंग सिस्टम का उपयोग करके जो एआई को केवल वही विशिष्ट टेबल और कॉलम दिखाता है जो प्रश्न के लिए प्रासंगिक हैं, CARE ने औसत एक्सपोजर को केवल 2.06 टेबल और 31.74 कॉलम तक कम कर दिया। यह देखे गए टेबल्स की संख्या में लगभग 66 प्रतिशत और देखे गए कॉलम्स की संख्या में लगभग 56 प्रतिशत की कमी को दर्शाता है। यह डेटा न्यूनीकरण (data minimization) गोपनीयता के लिए अत्यंत महत्वपूर्ण है, क्योंकि यह सुनिश्चित करता है कि एआई अनजाने में उस संवेदनशील जानकारी तक न पहुँच सके या उसे लीक न कर सके जिसकी उसे आवश्यकता नहीं है।
केवल डेटा को सीमित करने के अलावा, अध्ययन ने यह भी सिम्युलेट किया कि CARE विभिन्न अनुरोधों के जोखिम स्तर को कैसे संभालेगा। सिस्टम ने 500 कार्यों को निम्न-जोखिम वाले उत्पादकता कार्य, व्यावसायिक-संवेदनशील पूछताछ, विनियमित कानूनी मामलों और उन कार्यों जैसी श्रेणियों में वर्गीकृत किया जो सीधे मानव कर्मचारियों को प्रभावित कर सकते हैं। सिमुलेशन ने दिखाया कि एआई सुरक्षा के लिए 'एक ही नियम सबके लिए' (one-size-fits-all) वाला दृष्टिकोण अक्षम है। इसके बजाय, CARE ने कम जोखिम वाले कार्यों को छोटे, सस्ते मॉडल्स को रूट किया, जबकि संवेदनशील या विनियमित अनुरोधों को निजी, सुरक्षित मॉडल्स को भेजा या उन्हें पहले मानव समीक्षा की आवश्यकता के लिए चिह्नित किया। इस विशिष्ट सिमुलेशन में, 500 में से 356 कार्यों को 'उच्च मानव प्रभाव' के रूप में चिह्नित किया गया था, जिसका अर्थ है कि वे कर्मचारियों या ग्राहकों जैसे लोगों के डेटा से जुड़े थे। इन कार्यों को "ह्यूमन-फर्स्ट" (मानव-प्रथम) समीक्षा पथ पर भेजा गया, जिससे यह सुनिश्चित हुआ कि कोई भी कार्रवाई करने से पहले एक व्यक्ति परिणाम को सत्यापित करेगा। यह प्रदर्शित करता है कि सिस्टम आनुपातिक रूप से नियंत्रण लागू कर सकता है, और भारी सुरक्षा उपायों का उपयोग केवल वहीं करता है जहाँ जोखिम इसकी पुष्टि करता है।
यह शोध एआई नैतिकता के एक महत्वपूर्ण, अक्सर अनदेखे पहलू पर भी प्रकाश डालता है: कार्यबल पर प्रभाव। कई गवर्नेंस सिस्टम में "ह्यूमन-इन-द-लूप" (मानव-लूप) चरण शामिल होता है, लेकिन वे अक्सर यह परिभाषित करने में विफल रहते हैं कि वह लूप वास्तव में कैसा दिखता है। CARE मानवीय जवाबदेही को सिस्टम के एक मापने योग्य स्तर के रूप में मानता है। यह पूछता है कि क्या ऑटोमेशन ऐसे छिपे हुए श्रम को जन्म दे रहा है जहाँ कर्मचारियों को उचित समय या अधिकार के बिना एआई आउटपुट को सत्यापित करना पड़ता है, या क्या यह प्रवेश स्तर के कार्यों को हटाकर करियर की प्रगति को बाधित कर रहा है। यह आर्किटेक्चर इन विफलताओं को दृश्यमान बनाने के लिए डिज़ाइन किया गया है। यदि कोई एआई सिस्टम काम की गति तो बढ़ा देता है लेकिन कर्मचारियों के लिए उन्नति का कोई स्पष्ट मार्ग नहीं छोड़ता या उन्हें बिना वेतन वाले सत्यापन भूमिकाओं में धकेल देता है, तो सिस्टम इसे केवल एक तकनीकी विफलता नहीं, बल्कि एक संगठिक विफलता के रूप में चिह्नित करता है।
अध्ययन निष्कर्ष निकालता है कि उद्यमों में नैतिक एआई के लिए केवल जिम्मेदार मॉडल व्यवहार से अधिक की आवश्यकता है; इसके लिए नियंत्रित तर्क वातावरण (controlled reasoning environments) की आवश्यकता है। सिमुलेशन से प्राप्त निष्कर्ष बताते हैं कि इन नियंत्रणों को निष्पादन पथ (execution path) में शामिल करके, संगठन डेटा सीमाओं को लागू कर सकते हैं, उपयुक्त मॉडल्स का चयन कर सकते हैं, और हर एक कार्य को धीमा किए बिना मानव निरीक्षण सुनिश्चित कर सकते हैं। यह कार्य यह दावा नहीं करता कि इसने एआई सुरक्षा की सभी समस्याओं को हल कर दिया है, न ही यह तत्काल व्यावसायिक उपयोग के लिए तैयार कोई पूर्ण उत्पाद प्रस्तुत करता है। इसके बजाय, यह एक पुनरुत्पादनीय (reproducible) शुरुआती बिंदु प्रदान करता है, जो दिखाता है कि नैतिक नियंत्रण कितने प्रभावी ढंग से काम करते हैं, इसे मापने के लिए ओपन बेंचमार्क का उपयोग किया जा सकता है। यह शोध पत्र तर्क देता है कि भविष्य का प्रश्न केवल यह नहीं है कि क्या एक एआई किसी प्रश्न का उत्तर दे सकता है, बल्कि यह है कि क्या उसे उस डेटा को देखने की अनुमति दी जानी चाहिए, क्या सही मॉडल उस पर तर्क कर रहा है, और जब उत्तर दिया जाता है तो कौन जवाबदेह रहता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।