Yuvion VL: A Multimodal Foundation Model for Adversarial Content and AI Safety
यह शोध पत्र युवियन वीएल (Yuvion VL) को प्रस्तुत करता है, जो कंटेंट और एआई सुरक्षा के लिए विशेष रूप से निर्मित मल्टीमॉडल फाउंडेशन मॉडल्स का एक परिवार है, जो वास्तविक दुनिया के मल्टीमॉडल जोखिमों की पहचान करने में उद्योग-अग्रणी मजबूती और प्रदर्शन प्राप्त करने के लिए एक एडवर्सरियल-अवेयर डेटा पाइपलाइन, एक तीन-चरणीय प्रशिक्षण रणनीति और एक नवीन कन्फ्यूज-देन-कॉन्ट्रास्ट फाइन-ट्यूनिंग फ्रेमवर्क का लाभ उठाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि इंटरनेट एक विशाल, हलचल भरे शहर की तरह है जहाँ अरबों लोग हर दिन फोटो, वीडियो और संदेश साझा करते हैं। इस शहर में, कुछ "बुरे तत्व" (bad actors) हानिकारक चीजें—जैसे खतरनाक हथियार, अवैध ड्रग्स या आपत्तिजनक सामग्री—भीतर घुसाने की कोशिश कर रहे हैं, लेकिन वे छिपने में बहुत चतुर हो गए हैं। वे किसी हथियार को खिलौना दिखाने के लिए उसे पेंट कर सकते हैं, एक बड़ी पारिवारिक फोटो के अंदर एक छोटा अवैध प्रतीक छिपा सकते हैं, या एक खतरनाक संदेश को एक हानिरहित विज्ञापन के रूप में छिपा सकते हैं।
सामान्य AI मॉडल इस शहर के नए, उच्च शिक्षित पुलिस अधिकारियों की तरह हैं। वे स्मार्ट हैं और लगभग सब कुछ समझ सकते हैं। हालाँकि, चतुराई से छिपे हुए इन बुरे तत्वों को पकड़ने के मामले में, वे अक्सर धोखा खा जाते हैं। वे एक बच्चे के खेलते हुए फोटो को देख सकते हैं और यह पहचानने में चूक कर सकते हैं कि बैकग्राउंड में कुछ अनुचित छिपा हुआ है, या वे एक असली बंदूक को केवल एक प्लास्टिक का खिलौना समझ सकते हैं क्योंकि उसे चमकीले रंग से पेंट किया गया है।
Yuvion VL का आगमन: एक विशेष सुरक्षा जासूस (Specialized Safety Detective)
यह शोध पत्र Yuvion VL को पेश करता है, जो एक नए प्रकार का AI मॉडल है जिसे विशेष रूप से एक "सुरक्षा जासूस" बनने के लिए बनाया गया है। सामान्य पुलिस अधिकारियों के विपरीत जो सब कुछ करने की कोशिश करते हैं, Yuvion VL को शुरुआत से ही एक मुख्य काम के साथ प्रशिक्षित किया गया है: छवियों और टेक्स्ट में छिपे खतरों को पहचानना, भले ही बुरे तत्व इसे धोखा देने की कोशिश करें।
यहाँ टीम ने इस जासूस को कैसे बनाया, इसे सरल उपमाओं के माध्यम से समझाया गया है:
1. प्रशिक्षण का मैदान: "बुरे तत्वों" से सीखना
एक अच्छा जासूस बनाने के लिए, आप उन्हें केवल अच्छी चीजों की तस्वीरें नहीं दिखा सकते। आपको उन्हें अपराधियों द्वारा उपयोग किए जाने वाले तरीकों को भी दिखाना होगा।
- "एडवर्सरियल" (Adversarial) डेटा: शोधकर्ताओं ने केवल सामान्य फोटो एकत्र नहीं किए। उन्होंने एक विशेष प्रशिक्षण प्रणाली बनाई जो स्वचालित रूप से "चालाकी भरे" उदाहरण बनाती है। कल्पना कीजिए कि एक शिक्षक न केवल छात्र को एक असली सेब की तस्वीर दिखाता है, बल्कि उसे एक मोम का सेब, एक प्लास्टिक का सेब और एक असली सेब भी दिखाता है जिस पर एक छोटा सा स्टिकर लगा है जो उसका अर्थ बदल देता है। Yuvion VL को लाखों ऐसे "चालाकी भरे" मामलों पर प्रशिक्षित किया गया था, जिससे उसने उन सूक्ष्म विवरणों को पहचानना सीखा जिन्हें दूसरे छोड़ देते हैं, जैसे कि एक छोटा वॉटरमार्क जो एक बुरे संदेश को छिपा रहा हो या एक लोगो जिसे नकली ब्रांड दिखने के लिए थोड़ा विकृत किया गया हो।
- "कन्फ्यूज-देन-कॉन्ट्रास्ट" (Confuse-then-Contrast) विधि (C2FT): यही इस पेपर का गुप्त मंत्र है। कल्पना कीजिए कि आप किसी को यह सिखाने की कोशिश कर रहे हैं कि एक असली $100 के नोट और एक बहुत अच्छे नकली नोट के बीच अंतर कैसे किया जाए। यदि आप उन्हें एक बार में एक नोट दिखाते हैं, तो वे भ्रमित हो सकते हैं। लेकिन यदि आप असली नोट और नकली नोट को अगल-बगल रखते हैं और कहते हैं, "देखो, स्याही में यह सूक्ष्म अंतर," तो वे बहुत तेजी से सीखते हैं। Yuvion VL C2FT नामक तकनीक का उपयोग करता है जहाँ इसे छवियों के ऐसे जोड़े दिखाए जाते हैं जो लगभग समान दिखते हैं लेकिन जिनके सुरक्षा अर्थ बहुत अलग होते हैं। यह AI को उन अंतरों को घूरने के लिए मजबूर करता है जब तक कि वह उन्हें मिस न कर सके।
2. तीन-चरणीय स्कूली शिक्षा (Three-Stage Schooling)
मॉडल ने सुरक्षा के नियम रातों-रात नहीं सीखे। यह एक सख्त तीन-चरणीय शिक्षा प्रक्रिया से गुजरा:
- चरण 1: खतरे की शब्दावली सीखना। सबसे पहले, इसने दृश्य चीजों (जैसे एक विशिष्ट झंडा या प्रतीक) को उनके खतरनाक अर्थों के साथ जोड़ना सीखा। यह वैसा ही है जैसे यह सीखना कि एक विशिष्ट लाल घेरा केवल एक आकार नहीं है; इस संदर्भ में, इसका अर्थ "रुकें" या "खतरा" है।
- चरण 2: शहर के नियमों को सीखना। इसके बाद, इसने वास्तविक दुनिया के सुरक्षा कार्यों का अभ्यास किया। इसने सीखा कि कैसे "सुरक्षित" या "असुरक्षित" कहना है, यह समझाना कि कोई चीज़ क्यों असुरक्षित है, और विभिन्न देशों या विभिन्न प्लेटफार्मों के बारे में जटिल नियमों का पालन करना।
- चरण 3: "सोचकर बोलना" सीखना। अंत में, मॉडल को "सोचकर बोलना" (Chain-of-Thought) सिखाया गया। केवल "यह बुरा है" का अनुमान लगाने के बजाय, यह अपने तर्क के माध्यम से चलना सीखता है: "मैं एक बंदूक देख रहा हूँ, लेकिन हैंडल असली लग रहा है, और बैकग्राउंड एक युद्ध क्षेत्र है, इसलिए यह संभवतः एक असली हथियार है, खिलौना नहीं।" यह इसके निर्णयों को भरोसेमंद और जांचने योग्य बनाता है।
3. अंतिम परीक्षा: Yuvion RiskEval
हम कैसे जानते हैं कि यह जासूस वास्तव में अच्छा है? शोधकर्ताओं ने अपना स्वयं का "फाइनल एग्जाम" बनाया जिसे Yuvion RiskEval कहा जाता है। यह केवल एक टेस्ट नहीं है; यह 58 अलग-अलग चुनौतियों की एक श्रृंखला है।
- कुछ टेस्ट यह जाँचते हैं कि क्या AI अभी भी सामान्य चीजों (जैसे गणित या चार्ट पढ़ना) के बारे में स्मार्ट है ताकि वह एक "वन-ट्रिक पोनी" (केवल एक काम जानने वाला) न बन जाए।
- अन्य "ट्रैप एग्जाम" (जाल वाले टेस्ट) हैं जिन्हें छिपे हुए जोखिमों, नकली लोगो या AI-जनित छवियों के साथ AI को धोखा देने के लिए डिज़ाइन किया गया है।
- अंतिम टेस्ट वास्तविक दुनिया के व्यावसायिक परिदृश्यों पर आधारित हैं, जैसे यह जांचना कि क्या कोई उत्पाद फोटो वास्तव में कुछ अवैध बेच रहा है।
परिणाम: छोटा लेकिन शक्तिशाली
पेपर का दावा है कि Yuvion VL अविश्वसनीय रूप से प्रभावी है:
- बड़ा विजेता: 32-बिलियन-पैरामीटर वाला संस्करण (एक बड़ा मॉडल) परीक्षण किए गए लगभग हर अन्य मॉडल से अधिक स्कोर करता है, जिसमें अन्य कंपनियों के विशाल वाणिज्यिक मॉडल भी शामिल हैं। इसने सुरक्षा जोखिमों को पहचानने में उन्हें बड़े अंतर से पीछे छोड़ दिया।
- अंडरडॉग (Underdog): यहाँ तक कि छोटा संस्करण (8 बिलियन पैरामीटर) भी एक सुपरस्टार था। यह कई बड़े और महंगे मॉडलों को कई सुरक्षा कार्यों पर पछाड़ गया। यह एक छोटे, अत्यधिक प्रशिक्षित जासूस की तरह है जो एक विशाल, दिशाहीन सुरक्षा टीम से अधिक अपराधी पकड़ रहा है।
- AI डिटेक्शन: यह उन छवियों को पहचानने में भी बहुत अच्छा है जो अन्य AI द्वारा बनाई गई हैं, जो धोखाधड़ी और गलत सूचना के लिए एक बड़ी समस्या बनती जा रही है।
निष्कर्ष (The Bottom Line)
Yuvion VL एक विशेष उपकरण है जिसे एक विशिष्ट, जटिल समस्या को हल करने के लिए डिज़ाइन किया गया है: उस दुनिया में छिपे खतरों को ढूंढना जहाँ बुरे तत्व उन्हें छिपाने की लगातार कोशिश कर रहे हैं। "चालाकी भरे" डेटा पर प्रशिक्षण देकर, अगल-बगल के तुलनात्मक अध्ययन का उपयोग करके सूक्ष्म विवरणों को सीखने और अपने तर्क को समझाने के लिए खुद को मजबूर करके, यह सबसे सटीक "सुरक्षा जासूस" बन गया है, जो उन अदृश्य जोखिमों को देखने में सक्षम है जिन्हें अन्य AI मिस कर देते हैं।
नोट: लेखक उल्लेख करते हैं कि चूंकि यह मॉडल संवेदनशील और संभावित रूप से हानिकारक सामग्री से संबंधित है, इसलिए वे इसे जारी करने के तरीके के बारे में बहुत सावधान हैं। वे केवल विशिष्ट हिस्सों को साझा करने की योजना बना रहे हैं और वर्तमान में इसे सार्वजनिक करने के जोखिमों का आकलन कर रहे हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।