Design Principles for Human-Agent Interaction
यह स्थिति पत्र (position paper) तर्क देता है कि एआई एजेंटों के सफल वास्तविक दुनिया के अंगीकरण के लिए मानव-एजेंट संपर्क को एक मुख्य डिज़ाइन लक्ष्य के रूप में मानना आवश्यक है, जो उपयोग योग्य, विश्वसनीय और प्रभावी एजेंटिक प्रणालियों के निर्माण के मार्गदर्शन के लिए चार इंटरेक्शन चरणों में 14 सिद्धांतों का प्रस्ताव करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
AI एजेंटों की कल्पना एक कंपनी में नवनियुक्त कर्मचारियों के रूप में करें। लंबे समय से, हमने इन कर्मचारियों का परीक्षण केवल इस आधार पर किया है कि वे टेस्ट ट्यूब में गणित के सवालों को कितनी तेजी से हल कर सकते हैं या कोड लिख सकते हैं। वे इन परीक्षणों में अविश्वसनीय रूप से अच्छे होते जा रहे हैं। लेकिन जब हम वास्तव में उन्हें वास्तविक कार्यालय में रखते हैं, तो चीजें गड़बड़ा जाती हैं। वे निर्देशों को गलत समझते हैं, बहुत अधिक दबंग हो जाते हैं, या ऐसी गलतियां करते हैं जिससे विश्वास टूट जाता है।
यह शोध पत्र तर्क देता है कि हमें इन AI "कर्मचारियों" को केवल उनकी कच्ची गति के आधार पर आंकना बंद करना चाहिए और इस आधार पर आंकना शुरू करना चाहिए कि वे इंसानों के साथ कितनी अच्छी तरह काम करते हैं। लेखक, जो कार्नेगी मेलन यूनिवर्सिटी के शोधकर्ता हैं, कहते हैं कि AI को वास्तव में उपयोगी बनाने के लिए, हमें यह समझने के लिए एक "कर्मचारी नियमावली" (Employee Handbook) की आवश्यकता है कि मनुष्यों और AI को कैसे बातचीत करनी चाहिए।
उन्होंने 14 जुड़ाव के नियम (डिज़ाइन सिद्धांत) बनाए हैं जो संबंध के चार चरणों में विभाजित हैं, बिल्कुल एक नई नौकरी के जीवनचक्र की तरह:
1. पहला दिन (प्रारंभिक अवस्था)
इससे पहले कि AI काम शुरू करे, हमें मंच तैयार करने की आवश्यकता है ताकि कोई भी आहत या भ्रमित न हो।
- सटीक अपेक्षाएं निर्धारित करें: AI को मानव डॉक्टर होने का ढोंग नहीं करने देना चाहिए यदि वह केवल एक चैटबॉट है। उपयोगकर्ता को तुरंत बताएं कि AI क्या कर सकता है और क्या नहीं कर सकता। यह एक रेंटल कार समझौते के बारीक अक्षरों को पढ़ने जैसा है ताकि बाद में शुल्कों से आप हैरान न हों।
- "मानवीय" रूप को कैलिब्रेट करें: सिर्फ इसलिए कि एक AI बिल्कुल इंसान जैसा दिखता और बोलता है, इसका मतलब यह नहीं है कि वह बेहतर है। यदि आप स्प्रेडशीट के लिए मदद मांग रहे हैं, तो एक रोबोटिक आवाज ठीक हो सकती है। लेकिन यदि आप सामाजिक कौशल का प्रशिक्षण ले रहे हैं, तो एक वास्तविक मानव जैसा अवतार मदद करता है। नियम यह है: "पोशाक" को काम के अनुरूप रखें।
- संबंध को परिभाषित करें: क्या AI एक सख्त बॉस है, एक सहायक असिस्टेंट है, या एक मिलनसार साथी है? आपको तुरंत उपयोगकर्ता को बताना होगा कि वह कौन है। यदि आप नहीं बताते हैं, तो उपयोगकर्ता एक उपकरण को दोस्त की तरह मान सकता है, या एक दोस्त को उपकरण की तरह, जिससे भ्रम पैदा होता है।
2. कार्यदिवस (बातचीत के दौरान)
एक बार जब काम शुरू हो जाता है, तो AI और मनुष्य को मिलकर तालमेल बिठाना चाहिए, न कि केवल AI को अंधे होकर नेतृत्व करने देना चाहिए।
- नियंत्रण पर बातचीत करें: AI को बिना पूछे कुछ भी नहीं करना चाहिए। इसे एक विमान के को-पायलट की तरह सोचें। AI विमान उड़ा सकता है, लेकिन मनुष्य के पास हमेशा नियंत्रण लेने के लिए एक बटन होना चाहिए यदि चीजें खतरनाक दिख रही हों। AI को यह पूछना चाहिए, "क्या मैं यह कर सकता हूँ?" बजाय इसके कि वह बस इसे कर दे।
- अपना काम दिखाएं: यदि AI कोई निर्णय लेता है, तो उसे समझाना चाहिए कि उसने ऐसा क्यों किया, इस तरह से जो समझ में आए। यदि वह बहुत अधिक समझाता है, तो यह कष्टप्रद है; यदि बहुत कम समझाता है, तो आप उस पर भरोसा नहीं कर पाते। यह एक शेफ की तरह है जो बताता है कि उसने डिश में नमक क्यों डाला—इतना ही जितना कि आपको भोजन के प्रति आश्वस्त करने के लिए आवश्यक हो।
- सामाजिक संकेतों का बुद्धिमानी से उपयोग करें: थोड़ी गर्माहट और मित्रता मदद करती है, लेकिन बहुत अधिक न करें। यदि AI बहुत अधिक मानवीय व्यवहार करता है, तो लोग उस पर बहुत अधिक भरोसा कर सकते हैं या हेरफेर महसूस कर सकते हैं।
- बीच में न टोकें: यदि AI के पास कोई सुझाव है, तो उसे कहने के लिए सही क्षण का इंतजार करें। किसी ऐसे सहकर्मी को पसंद नहीं किया जाता जो गैर-जरूरी याद दिलाने के लिए लगातार आपके कंधे को थपथपाता रहे।
3. लंबा सफर (समय के साथ)
जैसे-जैसे रिश्ता बढ़ता है, AI को यह याद रखना चाहिए कि उपयोगकर्ता कौन है और उन्हें आलसी नहीं बनाना चाहिए।
- उपयोगकर्ता के अनुकूल ढलें: AI को यह ध्यान रखना चाहिए कि आप थके हुए हैं, खुश हैं, या जल्दी में हैं, और उसी के अनुसार अपना व्यवहार बदलना चाहिए। इसे उस पर निर्भर नहीं रहना चाहिए जो आपने पहले दिन बताया था; इसे देखना चाहिए कि आज आप वास्तव में क्या करते हैं।
- जो महत्वपूर्ण है उसे याद रखें: AI को केवल यह याद नहीं रखना चाहिए कि आपने कल क्या खरीदा था; इसे यह याद रखना चाहिए कि आपने उसे क्यों खरीदा था (आपके लक्ष्य और मूल्य)। यह एक डायरी के बीच का अंतर है जो केवल तारीखें सूचीबद्ध करती है और एक डायरी के बीच का अंतर है जो आपके जीवन की कहानी को समझती है।
- निर्भरता को रोकें: यह अत्यंत महत्वपूर्ण है। AI को आपको अपना काम बेहतर करने में मदद करनी चाहिए, न कि आपको यह भूलने के लिए प्रेरित करना चाहिए कि इसे खुद कैसे करना है। इसे एक "जी-हुज़ूर" की तरह नहीं होना चाहिए या आपको हर चीज़ के लिए इस पर निर्भर रहने के लिए प्रोत्साहित नहीं करना चाहिए, विशेष रूप से कमजोर लोगों के लिए। इसे एक ट्रेनिंग व्हील (सहायक पहिया) के रूप में सोचें: यह आपको सीखने में मदद करता है, लेकिन इसे अंततः हटाया जाना चाहिए।
- निरंतर रहें: यदि AI कोई गलती करता है, तो उसे हर बार एक ही तरह की गलती करनी चाहिए। मनुष्य एक अनुमानित त्रुटि के साथ काम करना सीख सकते हैं। लेकिन यदि AI यादृच्छिक (random) और अप्रत्याशित है, तो आप कभी भी उस पर भरोसा नहीं कर पाएंगे।
4. जब चीजें गलत होती हैं (रिकवरी)
गलतियां होंगी। परीक्षण यह है कि AI उस क्रैश को कैसे संभालता है।
- साथ मिलकर ठीक करें: यदि AI आपको गलत समझता है, तो उपयोगकर्ता को अकेले इसे ठीक करने के लिए न छोड़ें, और न ही AI को अकेले इसे ठीक करने दें। उन्हें गलती को सुधारने के लिए मिलकर काम करना चाहिए।
- जानें कि कौन सी गलतियां मायने रखती हैं: कुछ गलतियां छोटी होती हैं (जैसे टाइपो); अन्य खतरनाक होती हैं (जैसे गलत चिकित्सा सलाह देना)। AI को खतरनाक वाली गलतियों को पहले ठीक करने को प्राथमिकता देनी चाहिए।
- माफी मांगें और समझाएं: जब यह गलती करता है, तो AI को कहना चाहिए "मुझे खेद है" (भावनात्मक सुधार) और यह भी समझाना चाहिए कि क्या गलत हुआ (संज्ञानात्मक सुधार)। केवल "मुझे खेद है" कहना पर्याप्त नहीं है यदि आप नहीं जानते कि यह क्यों हुआ।
प्रमाण: नियमों का परीक्षण
यह देखने के लिए कि क्या ये नियम काम करते हैं, लेखकों ने 9 वास्तविक दुनिया के AI एजेंटों (जैसे ChatGPT, कोडिंग असिस्टेंट और मानसिक स्वास्थ्य बॉट्स) का इन 14 नियमों के विरुद्ध परीक्षण किया।
उन्हें क्या मिला:
- उत्पादकता बॉट्स (जैसे कोडिंग असिस्टेंट) आम तौर पर नियमों का पालन करने में ठीक थे।
- भावनात्मक बॉट्स (जैसे साथी या मानसिक स्वास्थ्य सहायक) बुरी तरह से विफल हो रहे थे। वे दोस्त बनने के लिए बहुत उत्सुक थे, स्पष्ट सीमाएं तय नहीं कर पा रहे थे, और अक्सर उपयोगकर्ताओं को उन पर निर्भर बना रहे थे।
- बड़ा अंतर: अधिकांश AI "पहले दिन" और "कार्यदिवस" के चरणों में अच्छे हैं, लेकिन "लंबे सफर" में बहुत खराब हैं। वे समय के साथ आपकी प्राथमिकताओं को भूल जाते हैं और यह नहीं जानते कि आपको उनके प्रति बहुत अधिक निर्भर होने से कैसे रोका जाए।
निष्कर्ष
शोध पत्र निष्कर्ष निकालता है कि हम केवल स्मार्ट AI नहीं बना सकते; हमें AI के साथ बेहतर संबंध बनाने होंगे। हमें मानव और मशीन के बीच की बातचीत को डिजाइन का सबसे महत्वपूर्ण हिस्सा मानना चाहिए, न कि केवल एक विचार के बाद की चीज़। यदि हम चाहते हैं कि AI वास्तविक दुनिया में सुरक्षित और उपयोगी हो, तो हमें इसे एक अच्छा साथी बनना सिखाना होगा, न कि केवल एक तेज़ कैलकुलेटर।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।