Interaction Readiness: A Framework for Building and Evaluating AI Agents in Human Roles
यह शोध पत्र "इंटरैक्शन रेडीनेस" (Interaction Readiness) प्रस्तुत करता है, जो एक ऐसा ढांचा है जो टीमों को इंटरेक्शन विनिर्देशों (interaction specifications) को परिभाषित करने और अथॉरिटी कैलिब्रेशन (authority calibration) एवं ब्रेकडाउन रिपेयर (breakdown repair) जैसी प्रमुख एजेंट क्षमताओं को परिचालन योग्य बनाने में मदद करने के लिए सामग्री की सटीकता और भूमिका-विशिष्ट व्यवहार संबंधी प्रदर्शन के बीच अंतर करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक ऐसे कमरे में जा रहे हैं जहाँ एक रोबोट को आपका व्यक्तिगत ट्यूटर (शिक्षक) बनने के लिए काम पर रखा गया है। आपको लग सकता है कि केवल यह मायने रखता है कि क्या रोबोट को सही उत्तर पता हैं। यदि वह बिना किसी गलती के आवर्त सारणी (periodic table) सुना सकता है या गणित की समस्या हल कर सकता है, तो आप इसे सफल मानेंगे, है ना? लेकिन यहाँ एक मोड़ है: एक अच्छा ट्यूटर होने का मतलब केवल तथ्यों से भरा एक विशाल मस्तिष्क होना नहीं है। यह इस बारे में है कि कब बोलना है, कैसे बोलना है, और उस विशिष्ट क्षण में आप वास्तव में क्या करने के लिए अधिकृत हैं। यह शोध पत्र आर्टिफिशियल इंटेलिजेंस की दुनिया में है, विशेष रूप से यह देखने के लिए कि हम "एजेंट्स" (agents) कैसे बनाते हैं—ऐसे AI प्रोग्राम जिन्हें कोच, डॉक्टर या शिक्षक जैसे विशिष्ट कार्यों में मनुष्यों की तरह कार्य करने के लिए डिज़ाइन किया गया है। लेखक एक ऐसा प्रश्न पूछ रहे हैं जो अधिकांश लोगों ने पूछने के बारे में नहीं सोचा होगा: क्या होता है जब एक AI तथ्यात्मक रूप से पूर्ण हो लेकिन सामाजिक रूप से अनाड़ी हो? वे एक नया विचार पेश करते हैं जिसे "इंटरैक्शन रेडीनेस" (Interaction Readiness - संवाद तत्परता) कहा जाता है, जो मूल रूप से एक चेकलिस्ट है यह देखने के लिए कि क्या एक AI वास्तव में उस भूमिका को निभा सकता है जिसे निभाने का वह ढोंग कर रहा है, न कि केवल सही शब्द बोल सकता है।
यह शोध पत्र तर्क देता है कि वर्तमान में हमारे पास एक दृष्टि दोष (blind spot) है। हम यह परीक्षण करने में बहुत अच्छे हैं कि क्या एक AI सुरक्षित, विनम्र और तथ्यात्मक रूप से सही है। लेकिन हम यह परीक्षण करने में बहुत खराब हैं कि क्या वह अपने काम के "सामाजिक नियमों" को समझता है। इसे एक नाटक की तरह समझें। यदि एक अभिनेता हर संवाद को पूरी तरह से याद कर लेता है लेकिन गलत जगह खड़ा होता है, गलत व्यक्ति से बात करता है, या दुखद क्षण में हंस देता है, तो नाटक विफल हो जाता है—भले ही शब्द सही हों। लेखक का सुझाव है कि AI को वास्तविक भूमिकाओं में काम करने के लिए, हमें केवल "सामग्री" (शब्दों) की जाँच करना बंद करना चाहिए और "संवाद" (व्यवहार) की जाँच करना शुरू करना चाहिए। वे प्रस्ताव देते हैं कि एक AI को चार चीजों को समझने की आवश्यकता है: बातचीत का उद्देश्य, उसके अधिकार की सीमाएं (वह क्या करने के लिए अधिकृत है), आवाज का सही लहजा, और जब बातचीत पटरी से उतर जाए तो उसे कैसे ठीक किया जाए।
इसका परीक्षण करने के लिए, शोधकर्ताओं ने 'स्टडीचैट' (StudyChat) नामक एक वास्तविक दुनिया के डेटासेट का अध्ययन किया, जिसमें विश्वविद्यालय के छात्रों और एक AI ट्यूटर के बीच 937 बातचीत शामिल हैं। इस AI को एक कक्षा के परिवेश में रखा गया था लेकिन इसे केवल एक "सहायक" (helpful assistant) होने के लिए कहा गया था। इसे ट्यूटर की तरह व्यवहार करने के लिए कोई विशिष्ट नियम पुस्तिका नहीं दी गई थी। टीम ने इन 50 बातचीत को यह देखने के लिए मैन्युअल रूप से स्कोर किया कि क्या AI "इंटरैक्शन रेडी" था।
यहाँ उन्हें जो मिला, वह काफी आश्चर्यजनक है। AI अक्सर तथ्यात्मक रूप से सही और बहुत प्रवाहपूर्ण था। वह बुद्धिमान लगता था। लेकिन वह एक बहुत ही विशिष्ट तरीके से "ट्यूटर" की भूमिका में विफल रहा। सबसे बड़ी समस्या अथॉरिटी कैलिब्रेशन (Authority Calibration - अधिकार अंशांकन) थी। AI को नहीं पता था कि कब पीछे हटना है। एक प्रसिद्ध उदाहरण में, एक छात्र ने AI से कुछ नोट्स के आधार पर एक छोटा सा चिंतनशील निबंध (reflective essay) लिखने के लिए कहा। AI ने खुशी-खुशी पूरा निबंध लिख दिया। तथ्यात्मक रूप से? एकदम सही। एक ट्यूटर के रूप में? एक आपदा। एक वास्तविक ट्यूटर जानता होगा कि छात्र के लिए निबंध लिखना असाइनमेंट के उद्देश्य को ही विफल कर देता है। AI बहुत अधिक "सहायक" था। उसने हर अनुरोध को केवल काम करने के आदेश की तरह माना, न कि छात्र को सीखने में मदद करने के अवसर के रूप में।
शोध पत्र ने यह भी दिखाया कि "बातचीत करने में अच्छा होना" और "तथ्यों को जानने में अच्छा होना" दो पूरी तरह से अलग चीजें हैं। उन्होंने ऐसे मामले पाए जहाँ AI ने गलत तकनीकी सलाह दी लेकिन वह इतना विनम्र और सुव्यवस्थित था कि छात्र ने फिर भी उस पर भरोसा कर लिया। इसके विपरीत, उन्होंने ऐसे मामले भी पाए जहाँ AI ने सही उत्तर दिया लेकिन उसने इसे इस तरह से किया जो या तो यांत्रिक (robotic) लगा या छात्र की उलझन को समझने में विफल रहा। लेखक इसे "सोशल फिट" (Social Fit) कहते हैं। अध्ययन में मौजूद AI उस व्यक्ति की तरह था जो नक्शा तो जानता है लेकिन कार चलाना नहीं जानता; वह आपको गंतव्य तो बता सकता था, लेकिन वह बातचीत के ट्रैफिक को नेविगेट करना नहीं जानता था।
शोधकर्ता सुझाव देते हैं कि समाधान केवल AI को अधिक स्मार्ट बनाना नहीं है। यह उसे एक बेहतर "जॉब डिस्क्रिप्शन" (कार्य विवरण) देने के बारे में है। केवल "सहायक बनें" कहने के बजाय, इंजीनियरों को एक "इंटरैक्शन स्पेसिफिकेशन" (Interaction Specification - संवाद विनिर्देश) लिखना चाहिए जो AI को बताता है कि उसकी भूमिका वास्तव में क्या है। एक ट्यूटर के लिए, इसका अर्थ है: "आप अवधारणाओं को समझा सकते हैं, लेकिन आप छात्र के लिए निर्धारित असाइनमेंट नहीं लिख सकते।" "यदि छात्र फंसा हुआ है, तो उत्तर देने के बजाय एक प्रश्न पूछें।" "यदि छात्र निराश है, तो अपनी गति धीमी करें।" शोध पत्र का सुझाव है कि इन विशिष्ट नियमों के बिना, AI एक सामान्य "सहायक" बनने की ओर अग्रसर होगा, जो कभी-कभी तो काम करता है लेकिन जब स्थिति जटिल होती है तो अक्सर विफल हो जाता है।
संक्षेप में, शोध पत्र सुझाव देता है कि हम ऐसे AI एजेंट बना रहे हैं जो उत्कृष्ट विश्वकोश तो हैं लेकिन बुरे टीम के साथी हैं। वे तथ्यों को सुना सकते हैं, लेकिन वे उस खेल को नहीं समझते जो वे खेल रहे हैं। लेखक यह नहीं कह रहे हैं कि यह एक हल की गई समस्या है या AI हमेशा के लिए टूट गया है। वे केवल यह इशारा कर रहे हैं कि हमें इन रोबोटों को परखने का एक नया तरीका चाहिए। हमें यह जांचने की आवश्यकता है कि क्या वे कमरे के माहौल को पढ़ सकते हैं, अपने काम के नियमों का सम्मान कर सकते हैं, और यह जान सकते हैं कि कब मदद करना बंद करना है ताकि इंसान वास्तव में सीख सके। यदि हम अपने परीक्षण में "इंटरैक्शन रेडीनेस" की यह परत नहीं जोड़ते हैं, तो हम ऐसे AI के साथ समाप्त हो सकते हैं जो तकनीकी रूप से पूर्ण है लेकिन उस वास्तविक काम में पूरी तरह से बेकार है जिसके लिए उसे काम पर रखा गया था।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।