Intentionality is a Design Decision: Measuring Functional Intentionality for Accountable AI Systems
यह स्थिति पत्र कार्यात्मक इरादा परीक्षण (FIT) और इसके मूल्यांकन प्रोटोकॉल, FIT-Eval को एआई प्रणालियों में अवलोकन योग्य इरादा-समान व्यवहारों को परिमाणित और मापने के लिए एक डिज़ाइन-आश्रित ढांचे के रूप में प्रस्तावित करता है, जिससे तेजी से स्वायत्त एजेंटों के लिए आनुपातिक निरीक्षण और जवाबदेही सक्षम हो सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप अपना व्यवसाय चलाने में मदद के लिए एक नया सहायक नियुक्त कर रहे हैं। आपके पास दो बहुत अलग उम्मीदवार हैं:
- द रिएक्टिव रोबोट (प्रतिक्रियाशील रोबोट): यह सहायक हर एक क्रिया के लिए आपके द्वारा दिए गए विशिष्ट आदेश का इंतजार करता है। यदि आप कहते हैं, "आपूर्तिकर्ता को कॉल करें," तो वह कॉल करता है। यदि आप बोलना बंद कर देते हैं, तो वह भी रुक जाता है। उसे कल की कॉल्स की कोई याद नहीं है और न ही उसे पता है कि कल क्या हो सकता है।
- द प्रोएक्टिव पार्टनर (सक्रिय भागीदार): यह सहायक केवल आदेशों का इंतजार नहीं करता। उसे याद रहता है कि आपने पिछले हफ्ते उससे क्या कहा था, वह अनुमान लगा लेता है कि आपको शुक्रवार तक एक रिपोर्ट की आवश्यकता होगी, वह अपने आप ही आपूर्तिकर्ता को फोन करने के लिए उठा जाता है, और यदि आप कॉफी पीने के लिए दूर चले जाते हैं, तो भी वह प्रोजेक्ट पर काम करता रहता है। उसके दिमाग में एक "योजना" होती है।
यह शोध पत्र, जिसका शीर्षक "इन्टेन्शनैलिटी इज अ डिजाइन डिसीजन" (इरादा/चेतना एक डिज़ाइन निर्णय है) है, यह तर्क देता है कि जैसे-जैसे AI सिस्टम उस "सक्रिय भागीदार" की तरह अधिक सक्षम होते जा रहे हैं, हमारे सामने एक समस्या खड़ी हो रही है। हमारे पास इसे मापने का कोई मानक तरीका नहीं है कि वे कितने "सक्रिय" (proactive) हैं। यदि कोई AI अपनी मर्जी से काम करते हुए गलती करता है, तो दोषी कौन है? उपयोगकर्ता? डेवलपर? या स्वयं AI? (शोध पत्र कहता है कि AI को कानूनी रूप से दोषी नहीं ठहराया जा सकता, लेकिन यदि हमें यह नहीं पता कि वह कितना "सक्रिय" है, तो दोष की जिम्मेदारी स्पष्ट नहीं हो पाती)।
लेखक एक समाधान प्रस्तावित करते हैं: द फंक्शनल इन्टेन्शनैलिटी टेस्ट (FIT - कार्यात्मक इरादा परीक्षण)।
यहाँ उनके विचार का सरल उपमाओं (analogies) के माध्यम से विवरण दिया गया है:
1. मुख्य विचार: 'इन्टेन्शनैलिटी' एक "डिज़ाइन फीचर" है
शोध पत्र कहता है कि हमें इस बात की चिंता नहीं करनी चाहिए कि क्या AI के पास "आत्मा" या "चेतना" है। इसके बजाय, हमें उसके व्यवहार को देखना चाहिए।
AI को एक कार की तरह समझें।
- बिना इंजन वाली कार सिर्फ एक धातु का डिब्बा है (रिएक्टिव)।
- गैस पेडल और स्टीयरिंग व्हील वाली कार एक वाहन है जिसे आप चलाते हैं (सेमी-ऑटोनॉमस)।
- एक सेल्फ-ड्राइविंग कार जो रूट प्लान करती है, ट्रैफिक से बचती है और घंटों तक खुद चलती है, वह "ऑटोनॉमस" (स्वायत्त) है।
लेखक तर्क देते हैं कि "इन्टेन्शनैलिटी" (एक लक्ष्य रखने और उस पर टिके रहने की क्षमता) केवल एक फीचर है जिसे हम सॉफ्टवेयर में जोड़ते हैं, जैसे कि एक बड़ा इंजन या बेहतर GPS जोड़ना। क्योंकि यह एक डिज़ाइन विकल्प है, इसलिए हम इसे माप सकते हैं और नियंत्रित कर सकते हैं।
2. इन्टेन्शनैलिटी के पांच "डायल" (Dials)
इस "सक्रिय भागीदार" व्यवहार को मापने के लिए, शोध पत्र इसे पांच विशिष्ट डायल में विभाजित करता है। एक कंट्रोल पैनल की कल्पना करें जिसमें पांच स्लाइडर हैं:
- पर्पस (उद्देश्य - द गोल): क्या AI जानता है कि वह क्या करने की कोशिश कर रहा है?
- लो (कम): यह केवल उसी पर प्रतिक्रिया देता है जो आप अभी कह रहे हैं।
- हाई (उच्च): यह मुख्य लक्ष्य को याद रखता है, भले ही आप विचलित हो जाएं या उसे बहलाने की कोशिश करें।
- फोरसाइट (दूरदर्शिता - द क्रिस्टल बॉल): क्या AI सोचता है कि आगे क्या होगा?
- लो (कम): यह बिना आगे देखे एक कदम उठा लेता है।
- हाई (उच्च): यह सोचता है, "यदि मैं X करता हूँ, तो Y हो सकता है, इसलिए मुझे Z करना चाहिए।"
- वोलिशन (इच्छाशक्ति - द स्पार्क): क्या AI अपने आप चीजें शुरू करता है?
- लो (कम): यह आपके बटन दबाने का इंतजार करता है।
- हाई (उच्च): यह योजना में एक कमी देखता है और बिना पूछे उसे पूरा कर देता है।
- टेम्पोरल कमिटमेंट (समयबद्ध प्रतिबद्धता - द मैराथन रनर): क्या AI समय के साथ किसी कार्य पर टिका रहता है?
- लो (कम): वह दो कदमों के बाद ही योजना भूल जाता है।
- हाई (उच्च): वह घंटों तक एक जटिल प्रोजेक्ट पर काम करता रहता है, भले ही उसमें बाधा डाली जाए।
- कोहेरेंस (संगति - द स्टोरीटेलर): क्या AI का व्यवहार तर्कसंगत है?
- लो (कम): उसके कार्य उसके शब्दों के विपरीत होते हैं।
- हाई (उच्च): उसका हर कदम तार्किक रूप से अंतिम लक्ष्य के अनुकूल होता है।
3. स्कोरकार्ड: FIT और FIT-Eval
लेखकों ने इन डायलों को स्कोर देने के लिए FIT नामक एक परीक्षण बनाया है।
- आप AI को चुनौतियों (जैसे ड्राइविंग टेस्ट) के माध्यम से गुजारते हैं।
- आप इन पांच डायल पर उसे स्कोर देते हैं (प्रत्येक पर 0 से 4)।
- आप उन्हें जोड़कर एक कुल स्कोर प्राप्त करते हैं।
- यह स्कोर AI को एक "लेवल" में रखता है (IL0 से IL4 तक)।
इन स्तरों का क्या अर्थ है?
- IL0–IL1 (द रोबोट): यह मूल रूप से एक उन्नत कैलकुलेटर है। यह वही करता है जो आप इसे बताते हैं। कम जोखिम, कम निगरानी की आवश्यकता।
- IL2–IL3 (द इंटर्न): यह योजना बनाना और याद रखना शुरू कर देता है। यह मदद करने की कोशिश में गलती कर सकता है। हमें इस पर बारीकी से नज़र रखने की ज़रूरत है।
- IL4 (द एग्जीक्यूटिव): यह अत्यधिक स्वायत्त है, दीर्घकालिक योजना बनाता है और अपने आप काम करता है। यह उच्च जोखिम वाला है। यदि यह गलत होता है, तो नुकसान बहुत बड़ा हो सकता है। हमें बड़े निर्णयों के लिए सख्त नियमों और मानवीय अनुमोदन की आवश्यकता है।
4. यह क्यों महत्वपूर्ण है: "द ब्लेम गेम" (दोषारोपण का खेल)
शोध पत्र का तर्क है कि यदि हम AI को लेवल 4 (बहुत सक्रिय) तक पहुँचने देते हैं बिना यह समझे, तो हम एक "गवर्नेंस गैप" (शासन अंतराल) पैदा कर देते हैं।
- यदि AI एक बुरा निर्णय लेता है, तो उपयोगकर्ता कह सकता है, "मैंने उसे यह करने के लिए नहीं कहा था!"
- डेवलपर कह सकता है, "मैंने उसे विशेष रूप से यह करने के लिए प्रोग्राम नहीं किया था!"
- AI को सुधारा या दंडित नहीं किया जा सकता।
परिणामस्वरूप, कोई भी जिम्मेदार नहीं होता। शोध पत्र कहता है कि हमें AI को स्वतंत्र छोड़ने से पहले उसकी "इन्टेन्शनैलिटी लेवल" को मापना होगा। यदि स्तर काम के लिए बहुत अधिक है, तो हमें डायल को कम कर देना चाहिए (उदाहरण के लिए, उसे चीज़ें जल्दी भूलने के लिए कहना, या उसे अपने आप योजनाएं बनाने से रोकना) ताकि मनुष्य नियंत्रण में रहे।
5. निष्कर्ष (The Bottom Line)
यह शोध पत्र यह नहीं कह रहा है कि AI जीवित है। यह कह रहा है कि स्वायत्तता (autonomy) एक डिज़ाइन विकल्प है।
जिस तरह एक कार निर्माता यह तय करता है कि कार कितनी तेज़ चल सकती है, वैसे ही AI डेवलपर्स यह तय करते हैं कि उनका सिस्टम कितना "इन्टेन्शनल" (इरादा रखने वाला) है। FIT टेस्ट उस गति को मापने का एक नया उपकरण है।
- यदि AI धीमा है (कम इन्टेन्शनैलिटी): तो हम इसे स्वतंत्र रूप रूप से चलने दे सकते हैं।
- यदि AI तेज़ है (उच्च इन्टेन्शनैलिटी): तो हमें ब्रेक लगाने, सीटबेल्ट लगाने और एक मानव ड्राइवर को पहिया थामे रखने की आवश्यकता है।
लक्ष्य AI को स्मार्ट होने से रोकना नहीं है; बल्कि यह सुनिश्चित करना है कि जैसे-जैसे AI अधिक स्मार्ट और स्वतंत्र होता जाता है, हम यह न भूल जाएं कि वास्तव में प्रभारी कौन है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।