Homoglyph-based Adversarial Perturbation of Introductory Computer Science Theory Problems
यह शोध पत्र एक ऐसी विधि का प्रस्ताव और मूल्यांकन करता है जो होमोग्लिफ-आधारित प्रतिकूल परिवर्तनों (homoglyph-based adversarial perturbations) का उपयोग करके कंप्यूटर विज्ञान के प्रारंभिक सिद्धांत संबंधी प्रश्नों को उनके अर्थ में परिवर्तन किए बिना संशोधित करती है, जिसका उद्देश्य छात्रों को होमवर्क असाइनमेंट हल करने के लिए एआई (AI) उपकरणों पर निर्भर होने से रोकना है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक शिक्षक हैं जो अपने छात्रों को गणित का होमवर्क देने की कोशिश कर रहे हैं। आप चाहते हैं कि वे कड़ी मेहनत करें और समस्याओं को स्वयं हल करें। लेकिन पिछले कुछ समय से, छात्र इन "सुपर-स्मार्ट" AI सहायकों (जैसे ChatGPT या Gemini) का उपयोग करके अपना काम करवाने लगे हैं। ये AI उपकरण इतने अच्छे हैं कि वे अक्सर सवालों के जवाब तुरंत दे देते हैं, भले ही सवाल थोड़े पेचीदा क्यों न हों।
इस शोध पत्र के लेखकों ने इस "आलसी छात्र" व्यवहार को रोकने के लिए एक चतुर तरकीब निकाली है। वे इसे Homoglyph-based Adversarial Perturbation कहते हैं। यह कहने का एक भारी-भरकम तरीका है: "एक प्रश्न में कुछ अक्षरों को इस तरह बदलना कि इंसान तो उसे पढ़ सके, लेकिन AI भ्रमित हो जाए और गलत उत्तर दे दे।"
यहाँ बताया गया है कि उनकी विधि कैसे काम करती है, जिसे सरल चरणों में विभाजित किया गया है:
1. समस्या: AI बहुत अच्छा "अनुमान" लगाने में है
शोधकर्ताओं ने देखा कि ये AI उपकरण उन छात्रों की तरह हैं जिन्होंने पूरी पाठ्यपुस्तक रट ली है। यदि आप उनसे एक क्लासिक गणित का सवाल पूछते हैं (जैसे, "सिद्ध करें कि एक परिमेय संख्या और एक अपरिमेय संख्या का गुणनफल अपरिमेय होता है"), तो वे तुरंत उत्तर देते हैं क्योंकि उन्होंने उस सटीक प्रश्न को लाखों बार देखा है।
भले ही आप प्रश्न के साथ थोड़ी छेड़छाड़ करने की कोशिश करें—जैसे एक शब्द हटा देना या एक संख्या बदल देना—AI इतना स्मार्ट है कि वह अपनी याददाश्त के आधार पर "खाली जगहों को भर देता" है। यह वैसा ही है जैसे यदि आप किसी ऐसे मित्र से पूछें जिसने रेसिपी रट ली है, "केक कैसे बनाते हैं जिसमें... आटा, चीनी और... [खाली स्थान]... चाहिए?" वे बिना आपके बताए ही कह देंगे "अंडे", क्योंकि वे रेसिपी को अच्छी तरह जानते हैं।
2. समाधान: "ट्रोजन हॉर्स" (Trojan Horse) वाली तरकीब
लेखकों ने महसूस किया कि वे केवल टेक्स्ट को बिखेर नहीं सकते; AI उसे ठीक कर देगा। इसके बजाय, उन्होंने दो-चरणीय रणनीति का उपयोग किया:
चरण A: रेसिपी को थोड़ा बदलें। सबसे पहले, वे एक मानक प्रश्न लेते हैं और उसे बस इतना बदल देते हैं कि वह अब उनके मेमोरी बैंक (याददाश्त) में न रहे।
- उदाहरण: "एक परिमेय संख्या" के बारे में पूछने के बजाय, वे कह सकते हैं, "मान लीजिए कि संख्या 7x है।"
- क्यों? यह प्रश्न को अद्वितीय बनाता है। AI ने इस विशिष्ट संदर्भ में "7x" को पहले नहीं देखा है, इसलिए वह इसे अपनी याददाश्त से सीधे नहीं निकाल सकता।
चरण B: दृश्य भ्रम (Homoglyphs)। इसके बाद, वे homoglyphs का उपयोग करते हैं। ये ऐसे अक्षर होते हैं जो सामान्य अक्षरों या संख्याओं की तरह लगभग बिल्कुल वैसे ही दिखते हैं, लेकिन वास्तव में वे अन्य भाषाओं या फोंट के अलग प्रतीक होते हैं।
- उपमा: अब संख्या 7 की कल्पना करें। अब एक ऐसे प्रतीक की कल्पना करें जो आपकी आँखों के लिए बिल्कुल '7' जैसा दिखता है, लेकिन कंप्यूटर के लिए वह एक पूरी तरह से अलग कैरेक्टर (जैसे किसी दूसरी वर्णमाला का अजीब सा प्रतीक) है।
- वे एक सामान्य संख्या (जैसे 7) को इस "नकली 7" से बदल देते हैं।
3. परिणाम: AI मूर्ख बन जाता है
जब AI इस "नकली 7" को देखता है, तो वह भ्रमित हो जाता है। वह इस प्रतीक को पहचान नहीं पाता, इसलिए वह घबरा जाता है और अनुमान लगाने लगता है कि इसे क्या होना चाहिए। चूंकि AI उन मूल पाठ्यपुस्तकीय सवालों की ओर झुका हुआ है जिन्हें उसने रटा है, वह "नकली 7" को अनदेखा कर देता है और मान लेता है कि आपका मतलब मूल "7" ही था (या कभी-कभी वह इसे हटा ही देता है)।
- मानवीय अनुभव: एक छात्र कागज को देखता है और "7x" पढ़ता है। वे इसे सही ढंग से पढ़ते हैं और गणित की समस्या को हल करते हैं।
- AI का अनुभव: AI एक अजीब प्रतीक देखता है जिसे वह समझ नहीं पाता। वह गलत अनुमान लगाता है, गणित को अनदेखा करता है, और पूरी तरह से गलत उत्तर देता है।
4. कितने बदलावों की आवश्यकता है?
सबसे अच्छी बात यह है कि आपको पूरे प्रश्न को फिर से लिखने की आवश्यकता नहीं है। शोधकर्ताओं ने पाया कि केवल एक या दो अक्षरों को बदलना ही AI को तोड़ने के लिए पर्याप्त है।
- यदि आप बहुत अधिक चीजें बदलते हैं, तो AI पैटर्न को समझ सकता है।
- लेकिन यदि आप केवल एक छोटी सी चीज़ बदलते हैं (जैसे "6" को दिखने वाले किसी दूसरे "6" से बदलना), तो AI लड़खड़ा जाता है, जबकि मानव छात्र आसानी से आगे बढ़ जाता है।
5. शिक्षकों के लिए एक टूल
लेखकों ने केवल एक शोध पत्र नहीं लिखा; उन्होंने एक सरल इंटरैक्टिव टूल भी बनाया है।
- शिक्षक अपने होमवर्क के प्रश्न अपलोड कर सकते हैं।
- वे उस नंबर या अक्षर पर क्लिक कर सकते हैं जिसे वे बदलना चाहते हैं।
- टूल उन्हें "दिखने वाले समान" (look-alike) पात्रों की एक सूची दिखाता है।
- वे एक चुनते हैं, और टूल उसे बदल देता है।
- अब, होमवर्क AI की धोखाधड़ी से सुरक्षित है, लेकिन छात्रों के लिए अभी भी आसान है।
सारांश
इस विधि को होमवर्क असाइनमेंट पर "विजुअल कैमौफ्लेज" (दृश्य छलावरण) लगाने के रूप में सोचें। मानव आँख के लिए, असाइनमेंट सामान्य दिखता है। लेकिन AI के लिए, जो विशिष्ट पैटर्न पहचानने पर निर्भर करता है, असाइनमेंट अब एक पहेली है जिसे वह हल नहीं कर सकता। यह छात्र को वास्तव में काम करने के लिए मजबूर करता है, बजाय इसके कि वे रोबोट को अपना काम करने दें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।