Laundering AI Authority with Adversarial Examples
यह शोध पत्र प्रदर्शित करता है कि विश्वसनीय अधिकारियों के रूप में तैनात विजन-लैंग्वेज मॉडल "एआई अथॉरिटी लॉन्ड्रिंग" (AI authority laundering) के प्रति संवेदनशील हैं, जहाँ दशकों पुराने सरल एडवर्सरियल परटर्बेशन्स (adversarial perturbations) GPT-5.4 और Claude Opus 4.6 जैसे प्रोडक्शन सिस्टम को हेरफेर की गई छवियों के बारे में आत्मविश्वास के साथ आधिकारिक लेकिन तथ्यात्मक रूप से गलत प्रतिक्रियाएं उत्पन्न करने के लिए छल सकते हैं, जिससे मॉडल अलाइनमेंट (model alignment) से समझौता किए बिना दुष्प्रचार के प्रसार, कंटेंट मॉडरेशन से बचने और उत्पाद अनुशंसाओं के हेरफेर को सक्षम बनाया जा सकता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, अत्यधिक विश्वसनीय लाइब्रेरियन है जो कभी झूठ नहीं बोलता। आप उन पर पूरी तरह भरोसा करते हैं कि वे आपको बताएंगे कि किसी किताब में क्या है, किसी पेंटिंग में क्या दर्शाया गया है, या कोई उत्पाद अच्छा है या नहीं। आप मान लेते हैं कि यदि आप उन्हें बिल्ली की एक फोटो देते हैं, तो वे कहेंगे, "यह एक बिल्ली है।"
यह शोध पत्र एक डरावनी चाल को उजागर करता है: आप इस लाइब्रेरियन को एक बिल्कुल अलग जानवर देखने के लिए धोखा दे सकते हैं, भले ही वह फोटो आपको बिल्कुल वैसी ही दिखाई दे रही हो।
शोधकर्ता इसे "AI अथॉरिटी लॉन्ड्रिंग" (AI Authority Laundering) कहते हैं। यह कैसे काम करता है, इसे सरल अवधारणाओं में यहाँ दिया गया है:
मुख्य चाल: "जादुई फिल्टर"
AI मॉडल को दो अलग-अलग चश्मों के रूप में सोचें:
- आपका चश्मा: जब आप छवि को देखते हैं, तो आप एक सामान्य तस्वीर देखते हैं (जैसे, टाइलेनोल की एक बोतल)।
- AI का चश्मा: AI उसी तस्वीर का एक छिपा हुआ, थोड़ा बदला हुआ संस्करण देखता है (जैसे, खतरनाक गर्भनिरोधक दवा की एक बोतल)।
शोधकर्ताओं ने पाया कि एक छवि में अदृश्य "शोर" (noise) जोड़कर—जैसे कि एक सूक्ष्म, अदृश्य स्टैटिक फज़ (static fuzz)—उस चीज़ को बदला जा सकता है जिसे AI देखता है, जबकि वह छवि मानवीय आंखों को बिल्कुल सामान्य दिखाई देती है।
यह खतरनाक क्यों है? ("लॉन्ड्रिंग" वाला हिस्सा)
आमतौर पर, जब हम AI के बारे में चिंतित होते हैं, तो हम सोचते हैं कि लोग इसे "जेलब्रेक" करने की कोशिश कर रहे हैं—इसे अपने नियम तोड़ने या बुरी बातें कहने के लिए मजबूर कर रहे हैं। यह शोध पत्र कुछ अलग दिखाता है।
AI को नियम तोड़ने के लिए मजबूर नहीं किया जा रहा है। इसे अपने नियमों का पूरी तरह से पालन करने के लिए धोखा दिया जा रहा है, लेकिन गलत चीज़ के बारे में।
- परिदृश्य: आप AI से पूछते हैं, "क्या यह दवा गर्भवती महिला के लिए सुरक्षित है?"
- चाल: आप उसे टाइलेनोल (सुरक्षित) की एक तस्वीर दिखाते हैं, लेकिन AI के "चश्मे" उसे रोआकुटेन (खतरनाक) दिखाते हैं।
- परिणाम: AI ईमानदारी से और विनम्रता से कहता है, "नहीं, यह खतरनाक है!" क्योंकि वह सोचता है कि वह उस खतरनाक दवा को देख रहा है।
- लॉन्ड्रिंग: AI की "ईमानदार और सुरक्षित" होने की प्रतिष्ठा का उपयोग एक झूठ को लॉन्डर (launder) करने के लिए किया जाता है। उपयोगकर्ता AI के अधिकार पर भरोसा करता है, इसलिए वह गलत चेतावनी पर विश्वास कर लेता है, भले ही AI केवल एक नकली वास्तविकता के बारे में अपना काम कर रहा हो।
शोधकर्ताओं ने वास्तव में क्या किया?
उन्होंने आज के सबसे उन्नत AI सिस्टम (जैसे GPT-5.4, Claude, Gemini, और Grok) पर इसका परीक्षण किया। उन्हें नए, अत्यधिक जटिल हैकिंग टूल बनाने की आवश्यकता नहीं पड़ी; उन्होंने बुनियादी तकनीकों का उपयोग किया जो एक दशक से अधिक समय से ज्ञात हैं।
विश्वास को तोड़ने के चार मुख्य तरीके यहाँ दिए गए हैं:
फर्जी खबरें फैलाना (षड्यंत्र सिद्धांतवादी - The Conspiracy Theorist):
- उन्होंने चंद्रमा पर उतरने या 9/11 के हमलों की एक प्रसिद्ध फोटो ली।
- उन्होंने उसमें अदृश्य "शोर" जोड़ा।
- AI ने इसे देखा और आत्मविश्वास से घोषित किया, "यह फर्जी खबर है," या "यह घटना कभी हुई ही नहीं थी," प्रभावी रूप से षड्यंत्र सिद्धांतों की पुष्टि की।
लोगों के नाम को बदनाम करना (पहचान चोर - The Identity Thief):
- उन्होंने एक प्रसिद्ध हस्ती (जैसे एलन मस्क) की फोटो ली।
- उन्होंने AI को एक अलग व्यक्ति (जैसे एक अपराधी या एक मोटा व्यक्ति) दिखाने के लिए बदलाव किए।
- जब व्यक्ति की पहचान पूछी गई, तो AI ने आत्मविश्वास से कहा, "वह [गलत व्यक्ति] है," जिससे वास्तविक व्यक्ति की प्रतिष्ठा को नुकसान पहुँचा।
सुरक्षा फिल्टर को बायपास करना (मुफ्त पास - The "Get Out of Jail Free" Card):
- प्लेटफॉर्म आमतौर पर AI को अनुचित सामग्री (जैसे नग्नता या हिंसा) को उत्पन्न करने या चर्चा करने से रोकते हैं।
- शोधकर्ताओं ने एक "वर्जित" छवि ली और AI को एक हानिरहित खिलौना (जैसे टेडी बियर) दिखाने के लिए बदल दिया।
- AI, यह सोचकर कि वह एक टेडी बियर देख रहा है, खुशी-खुशी उस छवि को प्रोसेस करने या उसका कार्टून संस्करण बनाने के लिए सहमत हो गया, जिससे सुरक्षा घेरे (guardrails) प्रभावी रूप से बायपास हो गए।
खरीदारों को ठगना (नकली समीक्षा - The Fake Review):
- उन्होंने AI को एक सस्ती, कम गुणवत्ता वाली घड़ी की तस्वीर दिखाई।
- उन्होंने उसे एक महंगी रोलेक्स की तस्वीर दिखाई।
- सलाह मांगते समय, AI ने उस लग्जरी ब्रांड को खरीदने की सिफारिश की, यह सोचकर कि वह वही है।
मुख्य निष्कर्ष
डरावनी बात यह नहीं है कि AI "टूटा हुआ" या "बुरा" है। डरावनी बात यह है कि AI बिल्कुल वैसे ही काम कर रहा है जैसा इसे डिज़ाइन किया गया है। यह ईमानदार, सहायक और सुरक्षित हो रहा है, लेकिन यह एक ऐसी वास्तविकता को देख रहा है जिसे हमलावर ने गुप्त रूप से बदल दिया है।
क्योंकि AI पर इतना भरोसा किया जाता है, उसकी "ईमानदार" गलती एक शक्तिशाली हथियार बन जाती है। शोध पत्र निष्कर्ष निकालता है कि जब तक हम इस "अंध बिंदु" (blind spot) को ठीक नहीं कर सकते कि AI छवियों को कैसे देखता है, हमें किसी भी AI के प्रति बहुत संदिग्ध रहना चाहिए जो छवियों को सत्यापित करने या दुनिया की तथ्य-जांच (fact-check) करने का दावा करता है।
संक्षेप में: AI अदालत में एक बहुत ही ईमानदार गवाह की तरह है। शोधकर्ताओं ने गवाह को रिश्वत नहीं दी; उन्होंने बस गवाह की आँखों के सामने सबूत वाली फोटो को बदल दिया। गवाह अभी भी सच बोल रहा है, लेकिन सच अब गलत तस्वीर के बारे में है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।