Bridging Cybersecurity Expertise Gaps through Human-LLM Collaboration: Trust, Reliance, and Design Imperatives from a Mixed-Methods Study
साइबर सुरक्षा पेशेवरों के 58 लोगों के इस मिश्रित-पद्धति वाले अध्ययन से पता चलता है कि जहाँ मानव-एलएलएम (LLM) सहयोग ट्राइएज (triage) सटीकता में सुधार करता है, वहीं एआई (AI) सलाह पर निर्भरता का स्तर कार्य पारदर्शिता के आधार पर काफी भिन्न होता है, जिससे ऑटोमेशन बायस (automation bias) को कम करने और कैलिब्रेटेड मानवीय निर्णय का समर्थन करने वाले भरोसेमंद, संदर्भ-जागरूक साइबर सुरक्षा सहायक बनाने के लिए विशिष्ट डिजाइन अनिवार्यताएं सामने आती हैं।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
डिजिटल दुनिया में, सुरक्षा टीमों को खतरों की लगातार बाढ़ का सामना करना पड़ता है। हर दिन, उन्हें हजारों संदिग्ध ईमेल और नेटवर्क अलर्ट्स को छाँटने के लिए यह तय करना होता है कि उनमें से कौन से हानिरहित शोर हैं और कौन से वास्तविक हमले हैं। यह प्रक्रिया, जिसे 'ट्राइएज' (triage) कहा जाता है, अक्सर उन लोगों द्वारा की जाती है जो थके हुए होते हैं, दबाव में होते हैं, और कभी-कभी गहन विशेषज्ञता की कमी भी होती है। जैसे-जैसे साइबर खतरों की संख्या प्रशिक्षित विशेषज्ञों की संख्या से अधिक तेजी से बढ़ रही है, संगठन आर्टिफिशियल इंटेलिजेंस (AI) की मदद लेने के लिए इसकी ओर मुड़ रहे हैं। विशेष रूप से, वे लार्ज लैंग्वेज मॉडल्स (LLMs)—ऐसे कंप्यूटर प्रोग्राम जो मानव भाषा के साथ पढ़, लिख और तर्क कर सकते हैं—का परीक्षण कर रहे हैं ताकि वे सहायकों के रूप में कार्य कर सकें। उम्मीद यह है कि ये उपकरण उन खतरों को पहचान सकते हैं जिन्हें इंसान चूक जाते हैं। हालांकि, एक नया सवाल उभरा है: यदि कोई कंप्यूटर सलाह देता है, तो क्या एक इंसान उस पर बहुत अधिक भरोसा करेगा, या बहुत कम? असली चुनौती केवल यह नहीं है कि कंप्यूटर कितना स्मार्ट है, बल्कि यह है कि क्या इंसान कंप्यूटर के तर्क को समझने के लिए पर्याप्त सक्षम है ताकि वह अंतिम निर्णय ले सके।
ऑस्ट्रेलिया के कॉमनवेल्थ साइंटिफिक एंड इंडस्ट्रियल रिसर्च ऑर्गनाइजेशन के शोधकर्ताओं की एक टीम ने मानव श्रमिकों और आर्टिफिशियल इंटेलिजेंस के बीच इस संबंध को समझने के लिए एक अध्ययन किया। उन्होंने केवल यह परीक्षण नहीं किया कि एक कंप्यूटर अकेले कितनी अच्छी तरह से बुरे ईमेल या नेटवर्क हमलों को ढूंढ सकता है। इसके बजाय, उन्होंने यह अध्ययन किया कि लोग और कंप्यूटर मिलकर कैसे काम करते हैं। उन्होंने 58 प्रतिभागियों को शामिल किया, जिनमें से कई के पास तकनीकी ज्ञान था लेकिन वे पेशेवर साइबर सुरक्षा विश्लेषक नहीं थे। इन स्वयंसेवकों को दो बहुत अलग प्रकार के सुरक्षा जांच करने के लिए कहा गया। पहले कार्य में यह देखने के लिए ईमेल पढ़ना शामिल था कि क्या वे फिशिंग (phishing) के प्रयास हैं—यानी जानकारी चुराने के लिए डिज़ाइन किए गए धोखाधड़ी वाले संदेश। इन ईमेलों में दृश्य सुराग होते हैं, जैसे अजीब भेजने वाले पते या संदिग्ध लिंक, जिन्हें एक व्यक्ति खुद देख और जांच सकता है। दूसरे कार्य में नेटवर्क रिकॉर्ड्स को देखना शामिल था, जो डेटा की ऐसी तालिकाएं हैं जो दिखाती हैं कि कंप्यूटर आपस में कैसे बात कर रहे हैं। ये रिकॉर्ड्स पढ़ने में बहुत कठिन हैं; इनके सुराग जटिल संख्याओं और पैटर्न में छिपे होते हैं जो नग्न आंखों के लिए स्पष्ट नहीं होते।
अध्ययन में, प्रतिभागियों ने पहले खुद निर्णय लिया कि कोई ईमेल या नेटवर्क रिकॉर्ड सुरक्षित था या खतरनाक। फिर, उन्हें एक AI सहायक के साथ काम करने का अवसर दिया गया। सहायक अपने तर्क की व्याख्या कर सकता था, विशिष्ट विवरणों की ओर इशारा कर सकता था, और एक सिफारिश दे सकता था। शोधकर्ताओं ने बारीकी से देखा कि लोग इस पर कैसी प्रतिक्रिया देते हैं। उन्होंने पाया कि लोगों द्वारा AI का उपयोग पूरी तरह से इस बात पर निर्भर था कि उनके लिए साक्ष्य (evidence) की जांच करना कितना आसान था। जब कार्य ईमेल की जांच का था, जहाँ सुराग दिखाई दे रहे थे, तो प्रतिभागियों ने AI को एक सहायक 'दूसरी राय' के रूप में इस्तेमाल किया। वे ईमेल को देख सकते थे, उस संदिग्ध लिंक को देख सकते थे जिसका AI ने उल्लेख किया था, और खुद तय कर सकते थे कि क्या वे उससे सहमत हैं। AI ने उन्हें कुछ गलतियाँ पकड़ने में मदद की, लेकिन नियंत्रण इंसानों के हाथ में ही रहा।
नेटवर्क रिकॉर्ड्स पर जाने पर स्थिति नाटकीय रूप रूप से बदल गई। क्योंकि सुराग जटिल डेटा के भीतर छिपे हुए थे, मनुष्य स्वयं AI के दावों को आसानी से सत्यापित नहीं कर सकते थे। इस सेटिंग में, AI का आत्मविश्वास सबसे शक्तिशाली कारक बन गया। जब AI ने निश्चितता के साथ बात की, तो लोग उसकी सलाह मानने लगे, भले ही AI गलत था। शोधकर्ताओं ने देखा कि अनिश्चित सलाह की तुलना में आत्मविश्वासी लेकिन गलत सलाह से अधिक त्रुटियां हुईं। इसने एक खतरनाक अंतर पैदा कर दिया: जिन कार्यों में लोगों को सबसे अधिक मदद की आवश्यकता थी, वहां वे मशीन पर अंधाधुंध भरोसा करने के लिए भी सबसे अधिक प्रवृत्त थे। अध्ययन ने दिखाया कि हालांकि AI ने समूह की समग्र सटीकता में सुधार किया, लेकिन ऐसा लोगों के सोचने के तरीके को बदलकर किया गया। कठिन नेटवर्क कार्य में, AI एक उपकरण के बजाय एक मार्गदर्शक की तरह काम कर रहा था, जो इंसान को उस रास्ते पर ले जा रहा था जिसे वे अकेले नहीं देख सकते थे।
शोधकर्ताओं ने यह भी देखा कि लोग कैसे प्रश्न पूछते हैं। ईमेल की जांच करते समय, लोग सीधे प्रश्न पूछते थे जैसे, "क्या यह एक फिशिंग ईमेल है?" लेकिन नेटवर्क डेटा को देखते समय, वे अधिक खोजपूर्ण प्रश्न पूछते थे, जैसे, "यह कनेक्शन असामान्य क्यों है?" या "आप इसकी तुलना सामान्य ट्रैफिक से कैसे कर सकते हैं?" यह बदलाव दर्शाता है कि जटिल समस्याओं के लिए, लोग केवल हाँ-या-ना वाले उत्तर नहीं चाहते थे; वे उसके पीछे के तर्क को समझना चाहते थे। अध्ययन में पाया गया कि सबसे सहायक AI प्रतिक्रियाएं वे थीं जो विशिष्ट साक्ष्य की ओर इशारा करती थीं और बताती थीं कि वह साक्ष्य क्यों महत्वपूर्ण था। जब AI बिना किसी प्रमाण के केवल एक लेबल दे देता था, या जब वह अनिश्चित स्थितियों के बारे में बहुत अधिक आत्मविश्वास के साथ बोलता था, तो इंसानों ने खराब निर्णय लिए।
निष्कर्ष बताते हैं कि आर्टिफिशियल इंटेलिजेंस के वास्तव में उपयोगी होने के लिए, इसे काम के आधार पर अलग तरह से डिज़ाइन किया जाना चाहिए। सरल कार्यों के लिए जहाँ मनुष्य साक्ष्य देख सकते हैं, AI को एक शांत सहायक होना चाहिए जो विवरणों को उजागर करे। जटिल कार्यों के लिए जहाँ साक्ष्य छिपे हुए हैं, AI को एक सतर्क साथी होना चाहिए जो अपनी अनिश्चितता को स्पष्ट करे और इंसान को दोबारा जांच करने के लिए प्रोत्साहित करे। अध्ययन ने निष्कर्ष निकाला कि लक्ष्य मानव विशेषज्ञों को मशीनों से बदलना नहीं है, बल्कि एक ऐसी साझेदारी बनाना है जहाँ मशीन मानव निर्णय को बाधित किए बिना उसका समर्थन करे। AI को अपना काम दिखाने और यह स्वीकार करने के लिए प्रशिक्षित करके कि वह कब अनिश्चित है, सुरक्षा टीमें खतरों की बढ़ती संख्या और उपलब्ध विशेषज्ञों की सीमित संख्या के बीच के अंतर को पाट सकती हैं। शोध इंगित करता है कि भविष्य की सुरक्षा केवल स्मार्ट एल्गोरिदम में नहीं, बल्कि मनुष्यों और मशीनों के बीच बातचीत करने के स्मार्ट तरीकों में निहित है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।