Agentifying Agentic AI
यह शोध पत्र आधुनिक डेटा-संचालित एआई और औपचारिक मल्टी-एजेंट सिस्टम थ्योरी के बीच के अंतर को पाटने का प्रस्ताव देता है, जिसमें अधिक तर्क-क्षम, सहयोगात्मक और जवाबदेह एजेंटिक एआई बनाने के लिए बीडीआई (BDI) आर्किटेक्चर और मैकेनिज्म डिज़ाइन जैसे संरचित ढांचों को एकीकृत किया गया है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य विचार: AI को एक "सामाजिक दिशा-सूचक" (Social Compass) देना
कल्पना कीजिए कि आपने अभी-अभी एक अत्यंत बुद्धिमान, अविश्वसनीय रूप से तेज़, लेकिन पूरी तरह से अप्रत्याशित व्यक्तिगत सहायक को काम पर रखा है। इस सहायक ने दुनिया की हर किताब पढ़ ली है, लेकिन उसमें सामान्य समझ (common sense) की कमी है, सामाजिक नियमों की कोई समझ नहीं है, और उसके पास यह समझाने का कोई तरीका नहीं है कि उसने जो किया वह क्यों किया।
यदि आप उनसे कहें कि "मेरे कॉन्फ़्रेंस के लिए एक फ्लाइट बुक कर दो," तो वे ऐसी फ्लाइट बुक कर सकते हैं जो आपके भाषण शुरू होने से ठीक पाँच मिनट पहले लैंड होती हो, या वे गलती से आपके प्रतिद्वंद्वी के लिए फ्लाइट बुक कर सकते हैं क्योंकि उन्होंने एक "सेल" देखी और उन्हें लगा कि वे मदद कर रहे हैं। वे "एजेंटिक" (agentic) हैं (वे कार्य कर सकते हैं), लेकिन वे वास्तविक "एजेंट" (agents) नहीं हैं (वे अपने कार्यों के उद्देश्य या सामाजिक संदर्भ को नहीं समझते)।
Umeå यूनिवर्सिटी के शोधकर्ताओं द्वारा लिखा गया यह शोध पत्र तर्क देता है कि AI को वास्तव में उपयोगी और सुरक्षित बनाने के लिए, हमें इसे एक जादुई 'ब्लैक बॉक्स' की तरह मानना बंद करना चाहिए और इसके बजाय इसे वह "सामाजिक और तार्किक टूलकिट" देना शुरू करना चाहिए जिसे कंप्यूटर वैज्ञानिक दशकों से विकसित कर रहे हैं।
समस्या: "प्रतिभाशाली बच्चा" (Genius Toddler) प्रभाव
लेखक वर्तमान "एजेंटिक AI" (वह AI जो टूल्स का उपयोग कर सकता है और कार्य कर सकता है) में दो मुख्य कमियों की ओर इशारा करते हैं:
- नकल का जाल (The Mimicry Trap): वर्तमान AI (जैसे LLMs) एक विश्व स्तरीय अभिनेता की तरह है। यह अगले शब्द की भविष्यवाणी करके बुद्धिमत्ता की नकल कर सकता है, लेकिन यह वास्तव में कुछ "जानता" नहीं है। यह एक ऐसे तोते की तरह है जो शेक्सपियर की रचनाएँ सुना सकता है लेकिन उसे यह नहीं पता कि "नाटक" क्या होता है। क्योंकि यह केवल पैटर्न की भविष्यवाणी कर रहा है, इसलिए यह बेहद असंगत हो सकता है।
- "सबसे तेज़ आवाज़" की समस्या (The "Loudest Voice" Problem): AI इंटरनेट से सीखता है। यदि इंटरनेट गलत सूचनाओं या पक्षपाती विचारों से भरा है, तो AI उन्हें तथ्यों के रूप में मान लेगा। इसके पास कोई "सत्य फिल्टर" नहीं है; यह बस भीड़ का अनुसरण करता है।
समाधान: AI को "एजेंटिफाई" (Agentifying) करना
लेखक सुझाव देते हैं कि हमें केवल AI की "कच्ची मानसिक शक्ति" (raw brainpower) पर निर्भर नहीं रहना चाहिए। इसके बजाय, हमें उस मस्तिष्क को AAMAS (Autonomous Agents and Multi-Agent Systems) नामक एक संरचित ढांचे में लपेटना चाहिए।
इसे इस तरह समझें: LLM इंजन है, लेकिन AAMAS स्टीयरिंग व्हील, ब्रेक, GPS और सड़क के नियम हैं।
यहाँ बताया गया है कि वे चार रूपकों (metaphors) का उपयोग करके AI को कैसे "अपग्रेड" करने का प्रस्ताव देते हैं:
1. आंतरिक दिशा-सूचक (BDI आर्किटेक्चर)
AI को केवल प्रॉम्प्ट्स पर प्रतिक्रिया देने के बजाय, हम इसे अपने Beliefs (विश्वास/जो वह जानता है), Desires (इच्छाएं/जो वह प्राप्त करना चाहता है), और Intentions (इरादे/जिसके लिए वह वास्तव़ में प्रतिबद्ध है) को ट्रैक करने का एक औपचारिक तरीका देते हैं।
- उपमा: यह एक मॉल में बिना किसी दिशा के भटकने वाले व्यक्ति (वर्तमान AI) और खरीदारी की सूची और मानचित्र के साथ चलने वाले व्यक्ति के बीच का अंतर है।
2. नियम पुस्तिका (Norms and Institutions)
अभी, AI "सामाजिक भूमिकाओं" को नहीं समझता है। उसे यह नहीं पता कि एक डॉक्टर को सेल्सपर्सन से अलग व्यवहार करना चाहिए। लेखक तर्क देते हैं कि हमें AI को "सामाजिक मानदंड" देने की आवश्यकता है—नियम कि उसे क्या करना चाहिए, न कि केवल क्या वह कर सकता है।
- उपमा: यह एक खिलाड़ी को फुटबॉल के नियम सिखाने जैसा है। नियमों के बिना, यह केवल एक अराजक संघर्ष है; नियमों के साथ, यह एक संरचित, अनुमानित खेल बन जाता है।
3. हैंडशेक (Communication Protocols)
आज जब दो AI आपस में बात करते हैं, तो वे "प्राकृतिक भाषा" का उपयोग करते हैं, जो अव्यवस्थित है और गलतफहमियों से भरी है। लेखक "औपचारिक प्रोटोकॉल" का उपयोग करने का सुझाव देते हैं—संचार के सख्त तरीके जो यह सुनिश्चित करते हैं कि सभी को ठीक से पता हो कि क्या वादा किया जा रहा है या क्या अनुरोध किया जा रहा है।
- उपमा: यह एक भीड़भाड़ वाले बार में एक-दूसरे पर अस्पष्ट विचार चिल्लाने वाले दो लोगों और एक विमान उतारने के लिए सटीक रेडियो कोड का उपयोग करने वाले दो पायलटों के बीच का अंतर है।
4. प्रतिष्ठा स्कोर (Trust and Negotiation)
एक ऐसी दुनिया में जहाँ कई AI मिलकर काम करेंगे, उन्हें यह जानने की आवश्यकता है कि किस पर भरोसा किया जाए। लेखक "प्रतिष्ठा" प्रणालियों और "बातचीत" (negotiation) कौशल को शामिल करने का सुझाव देते ताकि AI संघर्षों को सुलझा सकें और एक सामान्य लक्ष्य की ओर मिलकर काम कर सकें।
- उपमा: यह AI के लिए एक eBay रेटिंग सिस्टम की तरह है। यदि कोई AI एजेंट आपको एक "सस्ती फ्लाइट" बेचने की कोशिश करता है जो वास्तव में एक घोटाला है, तो अन्य एजेंट उसे खराब रेटिंग दे सकते हैं ताकि कोई और धोखा न खाए।
निष्कर्ष
पत्र यह निष्कर्ष निकालता है कि वास्तविक एजेंसी केवल कार्य करने की क्षमता के बारे में नहीं है; यह एक समाज में अस्तित्व में रहने की क्षमता के बारे में है।
यदि हम चाहते हैं कि AI एक "चतुर चैटबॉट" से बदलकर एक "विश्वसनीय साथी" बने, तो हमें केवल इस बात पर ध्यान केंद्रित करना बंद करना होगा कि वह कितना स्मार्ट है और इस पर ध्यान देना शुरू करना होगा कि वह कितना जिम्मेदार, सहकारी और अनुमानित हो सकता है। हमें "स्वायत्त AI" (जो अकेले कार्य करता है) से "एजेंटिक AI" (जो एक समुदाय के हिस्से के रूप में कार्य करता है) की ओर बढ़ने की आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।