CompAgent: An Agentic Framework for Visual Compliance Verification
यह शोधपत्र CompAgent को प्रस्तुत करता है, जो पहला एजेंटिक फ्रेमवर्क है जो जटिल नीति डोमेन में विज़ुअल अनुपालन सत्यापन (visual compliance verification) के क्षेत्र में अत्याधुनिक प्रदर्शन प्राप्त करने के लिए डायनेमिक टूल सिलेक्शन और स्ट्रक्चर्ड रीजनिंग के साथ मल्टीमॉडल लार्ज लैंग्वेज मॉडल्स को उन्नत करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विशाल, 24 घंटे चलने वाले समाचार चैनल के संपादक-इन-चीफ (editor-in-chief) हैं, जो हर दिन लाखों चित्र प्रसारित करता है। आपका काम यह सुनिश्चित करना है कि कोई भी आपत्तिजनक, खतरनाक या नियमों के विरुद्ध सामग्री प्रसारित न हो।
अतीत में, आपके पास इसे करने के दो मुख्य तरीके थे:
- विशेषज्ञ (The Specialist): आपने विशेषज्ञों की एक टीम को काम पर रखा जो केवल एक चीज़ की तलाश करते थे (जैसे, एक "नग्नता जासूस" या "हिंसा खोजने वाला")। वे तेज़ थे लेकिन जटिल स्थितियों को नहीं संभाल सकते थे। यदि किसी चित्र में एक सैनिक बंदूक के साथ दिखता था, तो हिंसा खोजने वाला चिल्ला उठता—"रुको!"—बिना यह समझे कि वह युद्ध के बारे में एक समाचार फोटो है, न कि कोई खतरा।
- सामान्यज्ञ (The Generalist): आपने एक अत्यंत बुद्धिमान, दुनिया की हर बात जानने वाले संपादक (एक AI) को काम पर रखा। लेकिन यह संपादक कभी-कभी बहुत शाब्दिक (literal) हो जाता था। वे कुकिंग शो में चाकू देख सकते थे और उसे अपराध समझ सकते थे, या किसी सूक्ष्म मज़ाक को मिस कर सकते थे जो वास्तव में हानिकारक था।
CompAgent इस समस्या को हल करने का एक नया, क्रांतिकारी तरीका है। इसे एक अकेले व्यक्ति के रूप में नहीं, बल्कि एक हाई-टेक डिटेक्टिव एजेंसी के रूप में सोचें जो मिलकर काम करती है।
तीन-भागों वाली डिटेक्टिव टीम
CompAgent इस काम को तीन अलग-अलग भूमिकाओं में विभाजित करता है, जो एक सुव्यवस्थित मशीन की तरह काम करती हैं:
1. केस मैनेजर (द प्लानिंग एजेंट)
एक अनुभवी जासूस की कल्पना करें जो स्वयं अपराध स्थल की तस्वीरों को नहीं देखता। इसके बजाय, वह नियम पुस्तिका (अनुपालन नीति) को पढ़ता है और पूछता है: "इस मामले को सुलझाने के लिए हमें किस प्रकार के साक्ष्यों की आवश्यकता है?"
- यदि नियम कहता है "कोई हथियार नहीं," तो केस मैनेजर बैलिस्टिक्स विशेषज्ञ को बुलाता है।
- यदि नियम कहता है "घृणास्पद भाषण (hate speech) नहीं," तो वह भाषाविद् (Linguist) को बुलाता है।
- यदि नियम "आत्म-क्षति (self-harm)" के बारे में है, तो वह मेडिकल एनालिस्ट को बुलाता है।
केस मैनेजर स्मार्ट है क्योंकि वह समय बर्बाद नहीं करता। वह बैलिस्टिक्स विशेषज्ञ को पिल्ले (puppy) की तस्वीर देखने के लिए नहीं बुलाता। वह केवल उन विशिष्ट उपकरणों को बुलाता जिनकी उस विशिष्ट नियम के लिए आवश्यकता होती है।
2. टूलकिट (द टूल सुइट)
यह उन विशेषज्ञों की टीम है जिन्हें केस मैनेजर बुलाता है। वे एक स्विस आर्मी नाइफ जैसे AI टूल्स के समूह की तरह हैं:
- आंखें: वे वस्तुओं को पहचान सकते हैं (क्या वह बंदूक है या खिलौना?), चेहरों को (क्या वह बच्चा है?), और टेक्स्ट को (वह साइन बोर्ड क्या कहता है?)।
- संदर्भ पाठक (Context Readers): वे पूरे दृश्य को एक वाक्य में सारांशित कर सकते हैं।
- सुरक्षा जांचकर्ता (Safety Checkers): उन्हें "परेशान करने वाली सामग्री" या "अवैध गतिविधियों" को पहचानने के लिए विशेष प्रशिक्षण दिया गया है।
ये उपकरण पुलिस, फॉरेंसिक लैब और कानूनी टीम के मेल की तरह हैं। वे ठोस तथ्य जुटाते हैं।
3. जज (द कंप्लायंस वेरिफिकेशन एजेंट)
एक बार जब केस मैनेजर विशेषज्ञों से सभी रिपोर्ट प्राप्त कर लेता है, तो वह फ़ाइल जज को सौंप देता है।
जज मूल चित्र और टीम की सभी रिपोर्टों को देखता है। वही अंतिम निर्णय लेने वाला एकमात्र व्यक्ति है।
- बैलिस्टिक्स विशेषज्ञ कहता है: "वह एक बंदूक है।"
- संदर्भ पाठक कहता है: "यह एक परेड में सैनिक है।"
- जज कहता है: "ठीक है, बंदूक आमतौर पर बुरी होती है, लेकिन इस विशिष्ट संदर्भ (परेड) में, यह अनुमत है। सुरक्षित (Safe)।"
या, एक पेचीदा मामले में:
- विशेषज्ञ कहता है: "मुझे एक व्यक्ति की बांह पर कट के निशान दिख रहे हैं।"
- संदर्भ पाठक कहता है: "यह मानसिक स्वास्थ्य जागरूकता का एक पोस्टर है।"
- जज कहता है: "भले ही इरादा नेक है, लेकिन कट के निशान की छवि इतनी ग्राफिक है कि यह देखने वाले को चोट पहुँचा सकती है। असुरक्षित (Unsafe)।"
यह पुराने तरीकों से बेहतर क्यों है?
1. यह लचीला है (एक गिरगिट की तरह)
पुराने सिस्टम एक बंद दरवाजे की तरह थे; यदि नियम बदलते, तो आपको पूरा दरवाजा फिर से बनाना पड़ता था। CompAgent एक गिरगिट की तरह है। यदि कल कंपनी के नियम बदल जाते हैं (जैसे, "अब हमें AI-जनरेटेड डीपफेक की भी जांच करनी है"), तो केस मैनेजर बस टूलबॉक्स से एक नया टूल उठा लेता है। पूरी टीम को फिर से प्रशिक्षित करने की आवश्यकता नहीं है।
2. यह अपने काम का स्पष्टीकरण देता है (एक दस्तावेजी प्रमाण)
यदि कोई मानव संपादक किसी फोटो को अस्वीकार करता है, तो वह कारण बताते हुए एक नोट लिखता है। CompAgent भी वैसा ही करता है। यह केवल "असुरक्षित" नहीं कहता। यह कहता है: "मैंने इसे असुरक्षित के रूप में चिह्नित किया क्योंकि ऑब्जेक्ट डिटेक्टर ने चाकू देखा, और टेक्स्ट डिटेक्टर ने एक धमकी भरा संदेश पढ़ा, जो नियम #4 का उल्लंघन करता है।" यह इसे मनुष्यों के लिए विश्वसनीय बनाता है।
3. यह बारीकियों को समझने में अधिक स्मार्ट है
पेपर में CompAgent का हजारों छवियों पर परीक्षण किया गया। इसने "विशेषज्ञों" और "सामान्यज्ञ" AI दोनों को पीछे छोड़ दिया।
- उदाहरण: एक हेलीकॉप्टर के साथ सैनिक की तस्वीर।
- पुराना AI: "हथियार का पता चला! असुरक्षित!" (बहुत सरल)।
- CompAgent: "सैनिक + हेलीकॉप्टर का पता लगा। नीति की जाँच की: 'कानूनी सैन्य संचालन की अनुमति है।' सुरक्षित।" (संदर्भ को समझता है)।
निचोड़ (The Bottom Line)
CompAgent एक टॉर्च लेकर खड़े सुरक्षा गार्ड से अपग्रेड होकर एक स्मार्ट सुरक्षा प्रणाली बनने जैसा है जिसके पास एक कंट्रोल रूम है। कंट्रोल रूम (एजेंट) तय करता है कि विशिष्ट खतरे के आधार पर कौन से कैमरे (टूल्स) चालू करने हैं, सबूत जुटाता है, और एक अंतिम, तर्कसंगत निर्णय लेता है।
यह तेज़ है, सस्ता है (क्योंकि नियम बदलने पर इसे बार-बार प्रशिक्षित करने की आवश्यकता नहीं है), और एक डरावनी फिल्म के दृश्य और वास्तविक अपराध के बीच के अंतर को समझने में बहुत बेहतर है। यह इंटरनेट को सुरक्षित रखने का भविष्य है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।