Expectations and Practices around AI Disclosure in CS Research
यह शोध पत्र कंप्यूटर विज्ञान में वर्तमान एआई प्रकटीकरण नीतियों और शोधकर्ताओं की अपेक्षाओं के बीच के मिसअलाइनमेंट (विसंगति) की जांच करता है, जो यह प्रकट करता है कि जहाँ शोधकर्ता अनुसंधान डिजाइन जैसे कम-भागीदारी वाले कार्यों के लिए एआई उपयोग को प्रकट करने को प्राथमिकता देते हैं, वहीं वास्तविक प्रकटीकरण अभ्यास लेखन सहायता जैसे कम महत्वपूर्ण उपयोगों की अधिक रिपोर्ट करते हैं, जो इन अपेक्षाओं के साथ नीतियों को बेहतर ढंग से संरेखित करने के लिए सिफारिशें प्रदान करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कंप्यूटर विज्ञान की आधुनिक प्रयोगशाला में, एक नए प्रकार के सहायक ने चुपचाप अपना निवास बना लिया है। ये जनरेटिव आर्टिफिशियल इंटेलिजेंस (AI) उपकरण हैं, जो ऐसे सॉफ्टवेयर हैं जो वाक्यों को लिखने, कोड को डीबग करने और विचारों को व्यवस्थित करने में सक्षम हैं, ऐसी प्रवाहपूर्णता के साथ जो कभी मशीनों के लिए असंभव लगती थी। शोधकर्ताओं ने अपने काम की गति बढ़ाने के लिए उन पर भरोसा करना शुरू कर दिया है, विचार की शुरुआती चिंगारी से लेकर पांडुलिपि के अंतिम संपादन तक। हालाँकि, इस सुविधा ने वैज्ञानिक समुदाय के भीतर एक शांत लेकिन तत्काल बहस छेड़ दी है: जब एक मशीन शोध पत्र लिखने में मदद करती है, तो श्रेय किसे मिलना चाहिए, और उस मदद का कितना हिस्सा पाठक को बताया जाना चाहिए? इस मुद्दे का मूल विश्वास है। विज्ञान इस समझ पर निर्भर करता है कि प्रस्तुत किया गया कार्य मानवीय विचार और प्रयास का परिणाम है। यदि कोई उपकरण भारी काम (heavy lifting) करता है, तो खोज की अखंडता से समझौता हो सकता है, जब तक कि पाठक को यह पता न हो कि क्या इंसान द्वारा किया गया था और क्या मशीन द्वारा किया गया था। फलस्वरूप, कई शीर्ष कंप्यूटर विज्ञान सम्मेलनों ने लेखकों के लिए इन उपकरणों के उपयोग का खुलासा करने वाला विवरण शामिल करना अनिवार्य करना शुरू कर दिया है, जो तीव्र तकनीकी परिवर्तन के युग में पारदर्शिता बनाए रखने के उद्देश्य से बनाया गया एक नियम है।
भारतीय विज्ञान संस्थान, बेंगलुरु के शोधकर्ताओं की एक टीम यह जांचने के लिए आगे बढ़ी कि क्या ये नए नियम वास्तव में अपने इच्छित उद्देश्य के अनुसार काम कर रहे हैं। वे जानना चाहते थे कि क्या सम्मेलन आयोजकों द्वारा लिखे गए नीतियां वास्तव में उन चीजों से मेल खाती हैं जिन्हें शोधकर्ता आवश्यक समझते थे, और क्या लेखकों द्वारा अपने शोध पत्रों में लिखे गए विवरण उन अपेक्षाओं को दर्शाते थे। इसे करने के लिए, उन्होंने पहले नियमों को ही देखा। उन्होंने साठ-पाँच प्रमुख कंप्यूटर विज्ञान सम्मेलनों और क्षेत्र की चार सबसे बड़ी पेशेवर संस्थाओं के दिशानिर्देशों का परीक्षण किया। उन्होंने पाया कि हालांकि इनमें से अधिकांश स्थानों पर अब घोषणा की आवश्यकता वाला एक नीति मौजूद है, लेकिन नियम अक्सर अस्पष्ट होते हैं। वे लेखकों को ईमानदार रहने के लिए कहते हैं लेकिन शायद ही कभी यह निर्दिष्ट करते हैं कि किन कार्यों के लिए उल्लेख करना आवश्यक है या किन विवरणों को शामिल किया जाना चाहिए। यह वैसा ही है जैसे एक शिक्षक छात्रों को यह बताए बिना कि अलग-अलग असाइनमेंट के लिए "सावधान" रहने का क्या अर्थ है, कि "अपने होमवर्क के साथ सावधान रहें।"
इन रिक्त स्थानों को भरने के लिए, शोधकर्ताओं ने एक सौ नौ कंप्यूटर वैज्ञानिकों से एक सरल प्रश्न पूछा: अनुसंधान प्रक्रिया के किन हिस्सों के लिए यह वास्तव में महत्वपूर्ण है कि आप स्वीकार करें कि आपने एक AI टूल का उपयोग किया है? उन्होंने शोधकर्ताओं के सामने इक्कीस सामान्य कार्यों की एक सूची प्रस्तुत की, जिसमें नए विचार उत्पन्न करने और प्रयोगों को डिजाइन करने से लेकर कोड लिखने और व्याकरण को सुधारने तक के कार्य शामिल थे। उन्होंने उनसे यह भी पूछा कि प्रत्येक कार्य में मानवीय नियंत्रण कितना शामिल था। परिणाम उल्लेखनीय थे। शोधकर्ताओं ने पाया कि समुदाय आम तौर पर इस बात पर सहमत है कि प्रकटीकरण (disclosure) तब सबसे महत्वपूर्ण होता है जब AI का उपयोग भारी बौद्धिक कार्य के लिए किया जाता है, जैसे अध्ययन को डिजाइन करना, डेटा का विश्लेषण करना, या नए परिकल्पनाएँ बनाना। इन क्षेत्रों में, मानवीय योगदान के मशीन द्वारा ओझल होने की संभावना सबसे अधिक होती है। इसके विपरीत, शोधकर्ताओं ने पाया कि केवल टाइपो ठीक करने, वाक्यों को फिर से लिखने या संदर्भों को फॉर्मेट करने के लिए AI का उपयोग करना, खुलासा करने के लिए बहुत कम महत्वपूर्ण माना गया। दिलचस्प बात यह है कि मानवीय नियंत्रण का स्तर अत्यंत महत्वपूर्ण था। जब एक शोधकर्ता ने एक AI टूल का उपयोग किया लेकिन उस पर कड़ी नज़र रखी, हर आउटपुट को सत्यापित किया और अंतिम निर्णय लिए, तो प्रकटीकरण की आवश्यकता कम महसूस हुई। लेकिन जब AI को कम पर्यवेक्षण के साथ काम करने की अनुमति दी गई, तो पारदर्शिता की मांग तेजी से बढ़ गई।
इसके बाद टीम ने वास्तविक दुनिया में क्या हो रहा है, उस पर ध्यान केंद्रित किया। उन्होंने दो प्रमुख सम्मेलनों, EMNLP और ICLR में जमा किए गए लगभग चौदह हजार प्रकटीकरण बयानों को एकत्र किया और उनका विश्लेषण किया। उन्होंने इन वास्तविक दुनिया के बयानों की तुलना उन अपेक्षाओं से की जो उन्होंने सर्वेक्षण से प्राप्त की थीं। लोगों की चाहत और जो उन्हें मिल रहा था, उसके बीच का अंतर चौंकाने वाला था। जबकि शोधकर्ताओं ने पाया था कि सबसे महत्वपूर्ण खुलासे जिम्मेदारी और किए गए विशिष्ट कार्यों से संबंधित थे, समीक्षा किए गए अधिकांश शोध पत्रों में यह जानकारी शामिल नहीं थी। इसके बजाय, सबसे सामान्य प्रकटीकरण उन्हीं कार्यों के लिए थे जिन्हें समुदाय ने सबसे कम महत्वपूर्ण माना था: टेक्स्ट को एडिट करना और कोड को ठीक करना। कई मामलों में, लेखकों ने AI का उपयोग "पॉलिशिंग" के लिए करने की बात स्वीकार करते हुए छोटे, सामान्य वाक्य लिखे, लेकिन इसमें किसी भी उल्लेख को छोड़ दिया कि क्या AI ने मूल विज्ञान में मदद की थी।
शायद सबसे चिंताजनक खोज समान, कॉपी-पेस्ट किए गए बयानों की उपस्थिति थी जो दर्जनों असंबंधित शोध पत्रों में दिखाई दिए। एक विशिष्ट पैराग्राफ, जिसने मानक AI उपयोगों को सूचीबद्ध किया और जिम्मेदारी से इनकार किया, एक ही सम्मेलन में नब्बे-पाँच अलग-अलग सबमिशन में हूबहू पाया गया। इससे यह संकेत मिला कि कई लेखकों के लिए, प्रकटीकरण केवल एक 'चेक बॉक्स' भरने जैसा बन गया था, न कि उनके कार्यप्रवाह (workflow) का एक वास्तविक विवरण। शोधकर्ताओं ने नोट किया कि हालांकि इनमें से कुछ बयान व्यापक थे, लेकिन असंबंधित कार्यों में उनकी पुनरावृत्ति 'प्रदर्शनकारी अनुपालन' (performative compliance) को दर्शाती है, जहाँ लेखकों ने नियम के मूल भाव को समझे बिना केवल उसके अक्षरशः पालन किया। अध्ययन में यह भी पाया गया कि लेखक शायद ही कभी उल्लेख करते थे कि उन्होंने किस विशिष्ट AI मॉडल का उपयोग किया, भले ही कई पाठकों ने इस विवरण को जानने की इच्छा व्यक्त की थी।
इन निष्कर्षों के आधार पर, शोधकर्ता नीतियों को लिखने के तरीके में बदलाव का प्रस्ताव देते हैं। वे व्यापक, 'एक-आकार-सभी-के-लिए' वाले नियमों से हटकर एक ऐसी प्रणाली की ओर बढ़ने का सुझाव देते है जो अनुसंधान कार्यों को इस आधार पर वर्गीकृत करती है कि प्रकटीकरण कितना आवश्यक है। वे अनुशंसा करते हैं कि सम्मेलन एक स्पष्ट सूची बनाएं जहां कुछ उच्च-जोखिम वाले कार्यों, जैसे कि प्रयोग डिजाइन करना, को प्रकटीकरण के लिए अनिवार्य के रूप में चिह्नित किया जाए, जबकि कम-जोखिम वाले कार्यों, जैसे कि संदर्भों को फॉर्मेट करना, को वैकल्पिक रखा जाए। लेखकों की सहायता के लिए, उन्होंने एक सरल टेम्पलेट भी डिजाइन किया जिसे लेखक भर सकते हैं। यह टेम्पलेट उन्हें यह बताने के लिए प्रेरित करेगा कि AI ने किन विशिष्ट कार्यों में मदद की, मानवीय पर्यवेक्षण कितना शामिल था, और यह स्पष्ट रूप से कहना कि लेखक अंतिम कार्य की पूरी जिम्मेदारी लेते हैं। लक्ष्य सहायक उपकरणों के उपयोग को दंडित करना नहीं है, बल्कि यह सुनिश्चित करना है कि मानव शोधकर्ता और मशीन के बीच का संबंध स्पष्ट, ईमानदार और विश्वसनीय हो। नियमों को वास्तविक वैज्ञानिक समुदाय की अपेक्षाओं के साथ संरेखित करके, यह आशा है कि पारदर्शिता को बनाए रखा जा सके बिना अनुसंधान प्रक्रिया में इन नए उपकरणों के वास्तविक लाभों को बाधित किए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।