GraphFlow: An Architecture for Formally Verifiable Visual Workflows Enabling Reliable Agentic AI Automation
ग्राफफ्लो (GraphFlow) एक विजुअल वर्कफ्लो आर्किटेक्चर है जो आरेखों (diagrams) को निष्पादन योग्य विशिष्टताओं (executable specifications) के रूप में और प्रूफ-चेक्ड संकलन (proof-checked compilation) एवं रनटाइम प्रवर्तन (runtime enforcement) के लिए औपचारिक अनुबंधों (formal contracts) के साथ उपचारित करके एजेंटिक एआई ऑटोमेशन की विश्वसनीयता को बढ़ाता है, जैसा कि क्लिनिकल साइटों में 97.08% पूर्णता दर प्राप्त करने वाले एक पायलट से प्रदर्शित हुआ है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ GraphFlow पेपर का विवरण दिया गया है, जिसे रोजमर्रा की भाषा में उपमाओं (analogies) का उपयोग करके अनुवादित किया गया है।
बड़ी समस्या: "ताश के पत्तों का घर" वाला AI
कल्पना कीजिए कि आप ताश के पत्तों का एक जटिल घर बना रहे हैं। यदि आपको इसे बनाने के लिए 10 चरणों की आवश्यकता है, और प्रत्येक चरण के सही होने की संभावना 90% है (जो कि एक बहुत अच्छी सफलता दर है), तो पूरा घर अंत में केवल 35% संभावना के साथ खड़ा रह पाएगा। क्यों? क्योंकि चरण 3 में एक छोटी सी गलती चरण 4 को गिरा देती है, जो चरण 5 को गिरा देती है, और इसी तरह आगे भी।
यह वर्तमान "एजेंटिक AI" (वह AI जो अपने आप कार्य करने की कोशिश करता है) के साथ समस्या है। जब एक AI किसी लंबे, जटिल काम (जैसे रोगी की देखभाल प्रबंधित करना या रिफंड प्रोसेस करना) को करने की कोशिश करता है, तो वह हर चरण में छोटी गलतियाँ करता है। ये गलतियाँ जमा होती रहती हैं, और पूरी प्रक्रिया विफल हो जाती है।
वर्तमान उपकरण यह याद रख सकते हैं कि क्या हुआ था (ताकि आप देख सकें कि कहाँ खराबी आई), लेकिन वे यह गारंटी नहीं दे सकते कि शुरू करने से पहले योजना अच्छी थी। यह एक छात्र को अपना काम चेक किए बिना गणित की परीक्षा लिखने देने जैसा है।
समाधान: GraphFlow
GraphFlow एक नया सिस्टम है जिसे इन त्रुटियों को जमा होने से रोकने के लिए डिज़ाइन किया गया है। AI को अपनी मर्जी से योजना बनाने और मौके पर ही निर्णय लेने देने के बजाय, GraphFlow उसे एक पूर्व-अनुमोदित ब्लूप्रिंट (pre-approved blueprint) के अनुसार काम करने के लिए मजबूर करता है।
इसे एक फ्रीस्टाइल जैज़ संगीतकार और एक ऑर्केस्ट्रा के कंडक्टर के बीच के अंतर के रूप में सोचें।
- पुराना तरीका (फ्रीस्टाइल): AI एक अनुरोध सुनता है ("इस मरीज का बिलिंग ठीक करें") और समाधान के लिए तुरंत कुछ नया बनाने की कोशिश करता है। वह गलत वाद्य यंत्र चुन सकता है या गलत सुर लगा सकता है।
- GraphFlow का तरीका (कंडक्टर): AI संगीत की एक शीट (एक विजुअल डायग्राम) देखता है जिसे विशेषज्ञों द्वारा पहले ही जांचा जा चुका है। AI का काम बस सही शीट संगीत चुनना, उसे ऑर्केस्ट्रा को सौंपना और उन्हें बजाने के लिए कहना है। AI संगीत का आविष्कार नहीं करता; वह केवल योजना को क्रियान्वित करता है।
यह कैसे काम करता है: तीन स्तंभ
1. ब्लूप्रिंट (विजुअल डायग्राम)
GraphFlow में, "योजना" एक विजुअल डायग्राम है। यह एक फ्लोचार्ट है जो दिखाता है कि हर चरण क्या है, कौन इसे करता है, और यदि चीजें गलत हो जाती हैं तो क्या होता है।
- उपमा: कल्पना कीजिए कि एक रेसिपी कार्ड है। पुराने दिनों में, एक शेफ सामग्री का अनुमान लगा सकता था। GraphFlow में, रेसिपी लिखी हुई है, एक पोषण विशेषज्ञ द्वारा जांची गई है और एक तिजोरी में सुरक्षित है। AI केवल उस कार्ड का पालन करने वाला 'सू-शेफ' (सहायक रसोइया) है।
- जादू: क्योंकि योजना एक एकल, निश्चित डायग्राम है, AI गलती से चरणों को बदल नहीं सकता या भ्रमित नहीं हो सकता।
2. "स्विमलेन" (कौन जिम्मेदार है?)
डायग्राम "स्विमलेन" (जैसे स्विमिंग पूल में लेन) के साथ बनाए गए हैं। प्रत्येक लेन एक अलग प्रकार के कार्यकर्ता का प्रतिनिधित्व करती है:
- कंप्यूटर लेन: वे चीजें जो मशीन पूरी सटीकता और गति से करती है।
- मानव लेन: वे चीजें जिनमें डॉक्टर या मैनेजर को देखने और "हाँ" कहने की आवश्यकता होती है।
- बाहरी दुनिया की लेन: वे चीजें जो कंप्यूटर को किसी अन्य सिस्टम (जैसे अस्पताल के डेटाबेस) से पूछनी पड़ती हैं।
यह क्यों महत्वपूर्ण है: सिस्टम को पता होता है कि "भरोसा" कहाँ समाप्त होता है। यदि कंप्यूटर कोई गलती करता है, तो वह एक बग है। यदि बाहरी दुनिया (जैसे अस्पताल का डेटाबेस) विफल होती है, तो सिस्टम जानता है कि यह AI की गलती नहीं है, लेकिन यह इसे रिकॉर्ड करता है ताकि इंसान इसे ठीक कर सकें। यह AI को उन चीजों के लिए खुद को दोष देने से रोकता है जो उसके नियंत्रण में नहीं हैं।
3. "प्रूफ" (गणित की जाँच करना)
किसी भी डायग्राम को उपयोग करने की अनुमति देने से पहले, वह एक "प्रूफ चेक" से गुजरता है।
- उपमा: कल्पना कीजिए कि एक पुल है। कारों के चलने से पहले, इंजीनियर यह साबित करने के लिए सिमुलेशन चलाते हैं कि गणित सही है। GraphFlow AI वर्कफ़्लो के लिए यही करता है।
- परिणाम: यदि डायग्राम में कोई तार्किक कमी है (जैसे एक लूप जो कभी खत्म नहीं होता, या एक चरण जिसके लिए आवश्यक डेटा उपलब्ध नहीं है), तो सिस्टम इसे चलने से पहले ही अस्वीकार कर देता है। इसे "वेरिफाइड कोर" (Verified Core) कहा जाता है।
संचालन के दो मोड
पेपर में दो तरीके बताए गए हैं जिनसे GraphFlow चलता है:
"वेरिफाइड कोर" (कठोर मोड):
- यह सरल, सीधी रेखा वाली योजनाओं (बिना लूप के) के लिए है।
- इसे एक कंप्यूटर प्रूफ-चेकर से "अनुमोदन की मुहर" मिलती है।
- उपमा: एक प्रमाणित उड़ान पथ की तरह। विमान को इस सटीक मार्ग का पालन करना ही होगा क्योंकि गणित सिद्ध करता है कि यह सुरक्षित है।
"ड्यूरेबल रनटाइम" (वास्तविक दुनिया का मोड):
- यह जटिल, वास्तविक जीवन के कार्यों के लिए है जिन्हें प्रतीक्षा करने, पुन: प्रयास करने या वापस लूप करने की आवश्यकता हो सकती है।
- इसके पास कोई गणितीय प्रमाण नहीं है, लेकिन इसमें एक ब्लैक बॉक्स रिकॉर्डर (जैसे हवाई जहाज का फ्लाइट रिकॉर्डर) होता है।
- उपमा: यदि उड़ान में हलचल (turbulence) आती है, तो रिकॉर्डर हर सेकंड का डेटा सहेजता है। यदि विमान दुर्घटनाग्रस्त होता है, तो आप यह देखने के लिए टेप को फिर से चला सकते हैं कि वास्तव में क्या हुआ था। GraphFlow AI के लिए ऐसा ही करता है: यदि कोई चरण विफल होता है, तो यह उसे रिकॉर्ड करता है, पुन: प्रयास करता है, या सुरक्षित रूप से रुक जाता है ताकि इंसान उसे ठीक कर सकें।
वास्तविक दुनिया में क्या हुआ? (पायलट प्रोजेक्ट)
लेखकों ने एक वर्ष में तीन क्लीनिकों में इस सिस्टम के शुरुआती संस्करण का परीक्षण किया।
- आंकड़े: उन्होंने 8,728 रोगी वर्कफ़्लो चलाए।
- परिणाम: उनमें से 97% सफलतापूर्वक पूरे हुए।
- सबक: वे कुछ बार जहाँ विफल हुए, वह इसलिए नहीं था क्योंकि AI भ्रमित हो गया था या योजना खराब थी। यह बाहरी समस्याओं (जैसे डॉक्टर के पास विशिष्ट फ़ाइल तक पहुँचने की अनुमति की कमी, या डेटाबेस का डाउन होना) के कारण हुआ था।
- निष्कर्ष: GraphFlow ने इन विफलताओं को सफलतापूर्वक अलग कर दिया। इसने त्रुटियों को फैलने नहीं दिया; इसने प्रक्रिया को रोक दिया, त्रुटि को लॉग किया, और इंसानों को विशिष्ट सीमा संबंधी समस्याओं को ठीक करने की अनुमति दी।
GraphFlow क्या नहीं करता
यह जानना महत्वपूर्ण है कि यह पेपर क्या दावा नहीं करता है:
- यह दावा नहीं करता कि AI चिकित्सा निर्णय लेने में पूर्ण है।
- यह दावा नहीं करता कि सिस्टम अभी बग-मुक्त है (प्रूफ-चेकिंग वाला हिस्सा अभी भी बनाया जा रहा है)।
- यह दावा नहीं करता कि पायलट संस्करण में पूरा "प्रूफ" सिस्टम सक्रिय था। पायलट ने यह सिद्ध किया कि विचार काम करता है (डायग्राम प्लान के रूप में, और विफलताओं को रिकॉर्ड करना), लेकिन "गणितीय प्रमाण" वाला हिस्सा अगला कदम है।
सारांश
GraphFlow AI के लिए एक सुरक्षा कवच (safety harness) है। यह AI को मौके पर ही योजनाएँ बनाने से रोकता है। इसके बजाय, यह AI को पूर्व-जाँचे गए, विजुअल ब्लूप्रिंट का उपयोग करने के लिए मजबूर करता है। यह स्पष्ट रूप से अलग करता है कि कंप्यूटर क्या करता है, इंसान क्या करते हैं, और बाहरी सिस्टम क्या करते हैं। यदि कुछ गलत हो जाता है, तो यह पूरे सिस्टम को क्रैश नहीं करता; यह रुक जाता है, त्रुटि को रिकॉर्ड करता है, और इंसान को हस्तक्षेप करने की अनुमति देता है।
यह AI ऑटोमेशन को एक "अंदाजे" से बदलकर एक "विश्वसनीय, ऑडिट योग्य इंजीनियरिंग प्रक्रिया" में बदल देता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।