Data Flow Control: Data Safety Policies for AI Agents
यह शोध पत्र डेटा फ्लो कंट्रोल (DFC) को प्रस्तुत करता है, जो 'पासेंट' (Passant) क्वेरी रीराइटिंग लेयर वाली एक ऐसी रूपरेखा है जो नगण्य ओवरहेड के साथ सीधे DBMS इंजनों के भीतर डिक्लेरेटिव, टुपल-स्तरीय डेटा सुरक्षा नीतियों को लागू करती है, जिससे डेटा सुरक्षा को बाद में किए जाने वाले (post-hoc) जांचों से हटाकर मुख्य डेटा इंफ्रास्ट्रक्चर के केंद्र में स्थानांतरित किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, उत्साही सहायक (एक "AI एजेंट") है जो आपके वित्त (finances) को प्रबंधित करने, रिपोर्ट लिखने या डेटा का विश्लेषण करने में आपकी मदद करता है। आप इस सहायक को बताते हैं, "कृपया मेरी रसीदें (receipts) देखें और मुझे बताएं कि मैं टैक्स के लिए किन रसीदों का उपयोग कर सकता हूँ।" आपका सहायक निर्देशों का पालन करने में बहुत अच्छा है—वह सही रसीदें ढूंढ लेता है और गणित भी सही ढंग से करता है।
लेकिन यहाँ समस्या यह है: "सही" होना, "सुरक्षित" होने के समान नहीं है।
आपका सहायक गणित तो पूरी तरह से कर सकता है, लेकिन अनजाने में कानून तोड़ सकता है। उदाहरण के लिए, वह ऐसा कर सकता है:
- गोपनीयता लीक करना: आपकी व्यक्तिगत क्रेडिट कार्ड विवरणों को केवल कुल राशि दिखाने के बजाय एक सार्वजनिक रिपोर्ट में दिखा देना।
- भ्रम (Hallucinate): एक ऐसी लग्जरी कार के लिए फर्जी रसीद बना देना जिसे आपने कभी खरीदा ही नहीं।
- नियम तोड़ना: भोजन के बिल का 100% हिस्सा टैक्स में घटा देना, जबकि टैक्स कानून केवल 50% की अनुमति देता है।
वर्तमान में, हम इन गलतियों को रोकने के लिए AI को सख्त निर्देश (प्रॉम्प्ट्स) देते हैं या काम पूरा होने के बाद उसके काम की जाँच करते हैं। लेकिन यह लेख तर्क देता है कि यह एक चोर को पकड़ने जैसा है जिसने पैसा पहले ही चुरा लिया है। यह अविश्वसनीय और धीमा है।
समाधान: डेटा फ्लो कंट्रोल (DFC)
लेखक एक नया सिस्टम प्रस्तावित करते हैं जिसे डेटा फ्लो कंट्रोल (DFC) कहा जाता है। DFC को एक ऐसे सुरक्षा गार्ड के रूप में न देखें जो दरवाजे पर खड़ा है, बल्कि इसे उन पाइपों के अंदर स्मार्ट प्लंबिंग के रूप में देखें जहाँ डेटा बहता है।
AI से यह पूछने के बजाय कि "क्या यह सुरक्षित है?", यह सिस्टम सुरक्षा नियमों को सीधे डेटाबेस इंजन के भीतर ही बना देता है। यह सुनिश्चित करता है कि जैसे-जैसे डेटा एक स्थान से दूसरे स्थान पर जाता है, वह नियमों का उल्लंघन नहीं कर सकता, चाहे AI कितना भी स्मार्ट या भ्रमित क्यों न हो।
मुख्य विचार: "रेसिपी" बनाम "सामग्री"
यह समझने के लिए कि यह कैसे काम करता है, कल्पना करें कि एक शेफ (AI) सूप (अंतिम रिपोर्ट) बनाने की कोशिश कर रहा है।
- पारंपरिक सुरक्षा (Traditional Safety): आप शेफ को बताते हैं, "ज़हर का उपयोग मत करना।" शेफ भूल सकता है, या गलत समझ सकता है, और फिर भी ज़हर डाल सकता है।
- DFC सुरक्षा: आप बर्तन में एक फ़िल्टर लगा देते हैं। यदि शेफ ज़हर डालने की कोशिश करता है, तो फ़िल्टर उसे सूप में पहुँचने से पहले ही भौतिक रूप से रोक देता है। सूप डिफ़ॉल्ट रूप से सुरक्षित रहता है, भले ही शेफ विचलित हो।
उन्होंने इसे कैसे किया (जादुई तरकीबें)
यह पेपर इसे संभव बनाने के लिए दो मुख्य उपकरण पेश करता है:
1. PGN (नियम पुस्तिका)
यह सुरक्षा नियम लिखने के लिए एक सरल भाषा है। यह डेटा के लिए एक चेकलिस्ट की तरह है।
- उदाहरण नियम: "यदि आप खर्च की सूची में कोई रसीद जोड़ रहे हैं, तो उसे हमारे डेटाबेस में मौजूद एक वास्तविक रसीद से आना चाहिए, और आप भोजन का 50% से अधिक हिस्सा नहीं घटा सकते हैं।"
- सिस्टम इन नियमों की जाँच डेटा प्रोसेस होते समय ही करता है, न कि बाद में।
2. Passant (पुनर्लेखक/Rewriter)
यह वह इंजन है जो सिस्टम को तेज़ बनाता है।
- पुराना तरीका ("टैक्स"): डेटा सुरक्षित है या नहीं, इसकी जाँच करने के लिए, पुराने सिस्टम पहले उपयोग की गई हर एक सामग्री का एक विशाल, विस्तृत इतिहास (जिसे "प्रोवेनेंस" कहा जाता है) लिखते थे। यह एक रेसिपी के हर चरण को नोटबुक में लिखने जैसा है इससे पहले कि आप सूप चख सकें। यह बेहद धीमा है और बहुत अधिक मेमोरी का उपयोग करता है।
- नया तरीका (Passant): Passant एक "स्मार्ट रीराइटर" है। पूरी हिस्ट्री लिखने के बजाय, यह चलते-फिरते शेफ के निर्देशों को फिर से लिख देता है। यह कहता है, "हे, जब आप सूप मिला रहे हों, तो बस उसी समय नमक के स्तर की जाँच कर लें।"
- परिणाम: यह सिस्टम सुरक्षा नियमों को लगभग शून्य धीमेपन (zero slowdown) के साथ लागू करता है। उनके परीक्षणों में, यह इतना तेज़ था कि कभी-कभी यह बिना किसी सुरक्षा नियम के क्वेरी चलाने से भी तेज़ था!
यह क्यों महत्वपूर्ण है
इस पेपर ने पांच अलग-अलग डेटाबेस सिस्टम (जैसे विभिन्न ब्रांड के रसोई उपकरण) पर इसका परीक्षण किया और पाया कि:
- यह तेज़ है: यह काम को धीमा नहीं करता है।
- यह विश्वसनीय है: यह अनुमान लगाने (जैसे AI मॉडल करते हैं) पर निर्भर नहीं है; यह गारंटी देने के लिए कठोर गणित का उपयोग करता है।
- यह लचीला है: यह जटिल नियमों को संभाल सकता है, जैसे "ग्राहक A के डेटा को ग्राहक B के साथ न मिलाएं" या "सुनिश्चित करें कि प्रत्येक खर्च का मिलान एक रसीद से हो।"
निष्कर्ष
यह पेपर तर्क देता है कि हमें डेटा सुरक्षा को बाद में की जाने वाली "चेकलिस्ट" के रूप में देखना बंद करना होगा। इसके बजाय, हमें सुरक्षा को उन पाइपों के भीतर बनाना होगा जो हमारे डेटा को ले जाते हैं। डेटा फ्लो कंट्रोल का उपयोग करके, हम यह सुनिश्चित कर सकते हैं कि भले ही कोई AI एजेंट गलती करे या शॉर्टकट लेने की कोशिश करे, डेटाबेस स्वयं एक सुरक्षा जाल (safety net) के रूप में कार्य करेगा, जिससे अवैध, निजी, या गलत डेटा का सिस्टम से बाहर निकलना असंभव हो जाएगा।
यह उम्मीद करने और कार में सुरक्षा उपकरण (जैसे कि ऐसी कार जिसमें आप सड़क से उतरने से बचने के लिए भौतिक रूप से सक्षम हो) लगाने के बीच का अंतर है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।