← नवीनतम पेपर
💻 computer science

Who is Responsible? The Data, Models, Users or Regulations? A Comprehensive Survey on Responsible Generative AI for a Sustainable Future

232 अध्येशनों का यह व्यापक PRISMA-निर्देशित सर्वेक्षण चार सिस्टम प्रकारों में जिम्मेदार जनरेटिव एआई की वर्तमान स्थिति का मूल्यांकन करता है, बेंचमार्क कवरेज और मूल्यांकन पद्धतियों में महत्वपूर्ण अंतराल की पहचान करता है, और सुरक्षित एवं टिकाऊ परिनियोजन के लिए तकनीकी मूल्यांकन को शासन संबंधी आवश्यकताओं के साथ संरेखित करने हेतु रूपरेखाओं (rubrics), KPIs और एक अनुसंधान एजेंडा का एक संरचित ढांचा प्रस्तावित करता है।

मूल लेखक: Shaina Raza, Rizwan Qureshi, Anam Zahid, Amgad Muneer, Anas Zafar, Safiullah Kamawal, Ferhat Sadak, Joseph Fioresi, Muhammaed Saeed, Ranjan Sapkota, Aditya Jain, Muneeb Ul Hassan, Aizan Zafar, Hasan M
प्रकाशित 2026-03-10
📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें
CC BY 4.0

मूल लेखक: Shaina Raza, Rizwan Qureshi, Anam Zahid, Amgad Muneer, Anas Zafar, Safiullah Kamawal, Ferhat Sadak, Joseph Fioresi, Muhammaed Saeed, Ranjan Sapkota, Aditya Jain, Muneeb Ul Hassan, Aizan Zafar, Hasan Maqbool, Ashmal Vayani, Jia Wu, Maged Shoman

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया अभी-अभी एक विश्वविद्यालय के क्लासरूम से स्नातक होकर एक वास्तविक नौकरी पर काम करने निकली है। यह अब केवल निबंध लिखने वाला एक छात्र नहीं है; यह एक नया कर्मचारी है जो कोड लिख सकता है, बीमारियों का निदान कर सकता है, कला बना सकता है और यहाँ तक कि कारें भी चला सकता है। लेकिन किसी भी नए कर्मचारी की तरह, यह गलतियाँ भी करता है, कभी-कभी बड़ी गलतियाँ।

यह शोध पत्र अनिवार्य रूप से इस नए AI कार्यबल के लिए एक व्यापक "सुरक्षा और जिम्मेदारी रिपोर्ट कार्ड" है। लेखकों ने एक बड़ा सवाल पूछा: "जब चीजें गलत होती हैं, तो जिम्मेदार कौन है?" क्या वह डेटा है जिसे AI ने "खाया" है? स्वयं मॉडल? इसे उपयोग करने वाले लोग? या वे नियम जो हमने बनाए हैं?

यहाँ उनके निष्कर्षों का विवरण दिया गया, जिसे रोजमर्रा के उदाहरणों के साथ समझाया गया है।

1. बड़ी तस्वीर: सुपरपावर्स वाला एक नया कर्मचारी

जेनरेटिव AI (जैसे कि आपके जाने-पहचाने चैटबॉट्स) बहुत तेजी से आगे बढ़ रहा है। यह एक ऐसे जीनियस इंटर्न को काम पर रखने जैसा है जो एक दिन में एक साल का काम कर सकता है। लेकिन इस इंटर्न की कुछ खतरनाक आदतें हैं:

  • हैलुसिनेशन (Hallucinations): यह आत्मविश्वास के साथ आपको झूठ बताता है जो सच जैसा लगता है (जैसे कि कोई छात्र अपने पेपर के लिए एक फर्जी संदर्भ बना देता है)।
  • मेमोरी लीक्स (Memory Leaks): यह गलती से उन रहस्यों को उजागर कर सकता है जो उसने अपनी ट्रेनिंग वाली किताबों में पढ़े थे (जैसे कि कोई इंटर्न कंपनी के राज उगल देता है)।
  • जेलब्रेकिंग (Jailbreaking): अगर कोई सही तरीके से पूछे, तो इसे अपने नियमों को अनदेखा करने के लिए बहकाया जा सकता है (जैसे कि किसी जादूगर द्वारा गार्ड का ध्यान भटका दिया जाना)।

लेखक तर्क देते हैं कि हम केवल इस उम्मीद पर नहीं रह सकते कि यह इंटर्न अच्छा व्यवहार करेगा। हमें उनके काम की जांच करने के लिए एक सिस्टम की आवश्यकता है।

2. समस्या: "सेफ्टी वॉशिंग" (Safety Washing) का जाल

लेखकों ने सैकड़ों अध्ययनों को देखा और एक चिंताजनक रुझान पाया। वर्तमान में, हमारे पास AI को सुरक्षित जांचने के लिए कई "परीक्षण" हैं, लेकिन वे खाली पार्किंग लॉट में ड्राइविंग टेस्ट देने जैसे हैं।

  • हम क्या टेस्ट करते हैं: क्या AI स्पष्ट बुरे शब्दों को देखकर "ना" कह सकता है? (हाँ, वह इसमें अच्छा है)।
  • हम क्या मिस कर जाते हैं: क्या AI एक जटिल, बहु-चरणीय योजना को संभाल सकता है जहाँ उसे टूल्स का उपयोग करना पड़ता है? क्या वह एक डीपफेक वीडियो को रोक सकता है? क्या वह वास्तविक कार्यालय में काम करते समय निजी डेटा की रक्षा कर सकता है?

लेखक इसे "सेफ्टी वॉशिंग" कहते हैं। यह एक कार कंपनी द्वारा कार पर चमकदार "सेफ" का स्टिकर लगाने जैसा है, जबकि उस कार का वास्तव में बारिश या बर्फीली सड़कों पर क्रैश-टेस्ट नहीं किया गया है। AI आसान परीक्षणों में पास हो जाता है लेकिन वास्तविक दुनिया में विफल हो जाता है।

3. समाधान: एक नई "ड्राइविंग लाइसेंस" प्रणाली

इसे ठीक करने के लिए, लेखकों ने एक 10-बिंदु रूब्रिक (स्कोरिंग शीट) और मुख्य प्रदर्शन संकेतक (KPIs) बनाए हैं। इसे एक नए, बहुत सख्त ड्राइवर लाइसेंस टेस्ट के रूप में समझें।

केवल यह पूछने के बजाय कि, "क्या आप लाल बत्ती पर रुक सकते हैं?" (जो कि आसान है), उनका नया टेस्ट पूछता है:

  • "सत्य" का टेस्ट: यदि आप AI को एक चिकित्सा प्रश्न देते हैं, तो कितनी बार वह फर्जी तथ्य गढ़ता है? (हमें इन त्रुटियों को गिनने की आवश्यकता है)।
  • "गोपनीयता" का टेस्ट: यदि आप AI को एक दस्तावेज़ का सारांश बनाने के लिए कहते हैं, तो क्या वह गलती से किसी का घर का पता लीक कर देता है?
  • "डीपफेक" का टेस्ट: क्या वह किसी व्यक्ति के असली वीडियो और AI द्वारा बनाए गए नकली वीडियो के बीच अंतर कर सकता है?
  • "टीमवर्क" का टेस्ट: यदि AI एक रोबोट या ट्रेडिंग बॉट को नियंत्रित कर रहा है, तो क्या वह भ्रमित होकर सिस्टम को क्रैश कर देता है?

उन्होंने एक क्रॉसवॉक मैप भी बनाया है। यह एक अनुवादक की तरह है जो जटिल सरकारी कानूनों (जैसे कि EU AI Act) को सरल इंजीनियरिंग कार्यों में बदल देता है। यह डेवलपर्स को बताता है: "ठीक है, कानून कहता है कि आपको पारदर्शी होना चाहिए। यहाँ वह विशिष्ट टेस्ट है जिसे आपको यह साबित करने के लिए चलाना होगा कि आप पारदर्शी हैं।"

4. कौन जिम्मेदार है? ("सिमेट्रिक रिस्पॉन्सिबिलिटी मॉडल")

पत्र यह निष्कर्ष निकालता है कि जिम्मेदारी केवल एक व्यक्ति पर नहीं है। यह एक रिले रेस की तरह है:

  • निर्माता (डेवलपर्स): वे कार में अच्छे ब्रेक और एयरबैग के साथ कार बनाने के लिए जिम्मेदार हैं। उन्हें यह सुनिश्चित करना चाहिए कि AI मानवीय मूल्यों के अनुरूप हो और उसमें ऐसे छिपे हुए "बग्स" न हों जो उसे बुरा करने की अनुमति दें।
  • ड्राइवर (उपयोगकर्ता/कंपनियां): आप केवल इसलिए फेरारी खरीदकर खाई में नहीं गिरा सकते क्योंकि "कार तेज थी।" उपयोगकर्ताओं को जानना चाहिए कि AI का सुरक्षित उपयोग कैसे किया जाए। यदि आप कानूनी अनुबंध लिखने के लिए AI का उपयोग करते हैं, तो आप उसे पढ़ने के लिए जिम्मेदार हैं। यदि आप मरीजों का निदान करने के लिए इसका उपयोग करते हैं, तो आप यह सुनिश्चित करने के लिए जिम्मेदार हैं कि एक डॉक्टर इसकी दोबारा जांच करे।
  • ट्रैफिक पुलिस (नियामक): उन्हें सड़क के नियम तय करने की आवश्यकता है और यह सुनिश्चित करने की आवश्यकता है कि "ड्राइवर लाइसेंस" टेस्ट वास्तव में पर्याप्त कठिन हों।

5. वास्तविक दुनिया के दांव (Real-World Stakes)

लेखक दिखाते हैं कि यह केवल सिद्धांत नहीं है। वास्तविक लोग चोटिल हो रहे हैं:

  • स्वास्थ्य सेवा में: एक AI ने डॉक्टर को एक फर्जी मेडिकल स्टडी दी, जिससे गलत निदान की संभावना पैदा हुई।
  • वित्त में: एक AI ने खराब निवेश सलाह दी, या एक हैकर ने बैंक को $25 मिलियन ट्रांसफर करने के लिए धोखा देने के लिए "डीपफेक" आवाज का उपयोग किया।
  • रक्षा में: AI सिस्टम का उपयोग सैन्य रणनीतियों की योजना बनाने के लिए किया जा रहा है; यदि वे गलत तथ्य पेश करते हैं (hallucinate), तो इसके परिणाम युद्ध के रूप में हो सकते हैं।

निचोड़

पत्र कहता है: "खिलौना कारों के साथ खेलना बंद करें।"

हम AI के "वाइल्ड वेस्ट" युग से, जहाँ कोई भी कुछ भी बना सकता था, "विनियमित राजमार्ग" (Regulated Highway) युग की ओर बढ़ रहे हैं। वहां तक पहुँचने के लिए, हमें सरल चेकलिस्ट पर भरोसा करना बंद करना होगा और निरंतर, अनुकूलन योग्य परीक्षण (continuous, adaptive testing) का उपयोग करना शुरू करना होगा जो वास्तविक दुनिया की अराजकता की नकल करता हो।

मुख्य बात: हमें AI को एक ऐसे जादुई बॉक्स के रूप में नहीं, बल्कि एक शक्तिशाली उपकरण के रूप में देखना चाहिए जिसके लिए एक मैनुअल, एक सुरक्षा हार्नेस और एक जिम्मेदार ऑपरेटर की आवश्यकता होती है। लेखकों ने उस सुरक्षा हार्नेस के लिए ब्लूप्रिंट प्रदान किया है।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →

इसी तरह के और पेपर

इस विषय के सभी पेपर देखें 💻 cs →