तकनीकी सारांश: अविश्वास के बिना सत्यापन (Verification Without Distrust)

समस्या विवरण

मानव-AI अंतःक्रिया (human–AI interaction) पर शोध पारंपरिक रूप से "निर्भरता-अंशांकन" (reliance-calibration) प्रतिमान के तहत संचालित होता रहा है, जो यह मानता है कि विश्वास और सत्यापन एक ही विपरीत निरंतरता (inverse continuum) पर मौजूद हैं: जैसे-जैसे किसी प्रणाली में विश्वास बढ़ता है, उपयोगकर्ता द्वारा उसके आउटपुट को सत्यापित करने की आवश्यकता कम हो जाती है। स्वचालन में विश्वास (trust-in-automation) के साहित्य से विरासत में मिले इस अनुमान के अनुसार, डिजाइन प्रयासों का लक्ष्य "उचित विश्वास" का निर्माण करना होना चाहिए ताकि निरीक्षण (oversight) अनावश्यक हो जाए। हालांकि, यह शोध पत्र एक महत्वपूर्ण अनुभवजन्य अंतराल (empirical gap) की पहचान करता है: इस विपरीत संबंध का रोज़मर्रा के, खुले-अंत वाले और पुनरावृत्ति वाले मानव-चैटबॉट संवादों के संदर्भ में सीधे परीक्षण नहीं किया गया है। इसके अलावा, उपयोगकर्ता-पक्ष के "ह्यूमन-इन-द-लूप" (HITL) अभ्यासों—विशेष रूप से चैटबॉट आउटपुट को नियंत्रित करने के लिए उपयोगकर्ताओं द्वारा स्वतः संचालित किए जाने वाले कार्यों—की व्यापकता, संरचना और परिणाम अभी भी अस्पष्ट हैं। यह अध्ययन उपयोगकर्ता की जाँच (checking) को समाप्त करने के अंतर्निहित डिजाइन लक्ष्य को चुनौती देता है, और इसके बजाय यह पूछता है कि क्या सत्यापन, विश्वास के स्तरों से स्वतंत्र एक नियमित अभ्यास के रूप में बना रहता है।

कार्यप्रणाली (Methodology)

इस अध्ययन में 153 बार-बार चैटबॉट उपयोग करने वाले उपयोगकर्ताओं के सर्वेक्षण के माध्यम से एक क्रॉस-सेक्शनल मिश्रित-पद्धति (cross-sectional mixed-methods) डिजाइन का उपयोग किया गया। नमूना मुख्य रूप से युवा (56.2% आयु 18-24) था, छात्र-नामांकित (69.9%) था और STEM-उन्मुख (75.9% कंप्यूटिंग/आईटी या इंजीनियरिंग में) था, जिसमें उच्च उपयोग आवृत्ति (67.3% दैनिक) देखी गई।

उपकरण (Instrumentation):
सर्वेक्षण में सात खंडों में 5-पॉइंट लिकर्ट स्केल का उपयोग किया गया, जिसमें जनसांख्यिकी, मानसिक मॉडल (mental models), विश्वास, निरीक्षण व्यवहार, कथित नियंत्रण, संतुष्टि और डिजाइन प्राथमिकताएं शामिल थीं।

• विश्वास (Trust): इसे एक सामान्य विनियामक अभिविन्यास (dispositional orientation) के रूप में संचालित किया गया ("मैं आम तौर पर चैटबॉट के उत्तरों पर भरोसा करता हूँ")।
• निरीक्षण व्यवहार (Oversight Behaviors): चार विशिष्ट उपयोगकर्ता-पक्ष प्रथाओं को मापा गया:
  1. सत्यापन (Verification): कार्य करने से पहले जानकारी की दोबारा जाँच करना।
  2. परिष्करण (Refinement): चैटबॉट से उत्तर को फिर से लिखने, छोटा करने या सुधारने के लिए कहना।
  3. सुधार (Correction): चैटबॉट को यह बताना कि वह गलत है।
  4. निरीक्षण (अनुमोदन) (Oversight/Approval): स्वचालित निष्पादन से पहले कार्यों की पुष्टि करना।
• परिणाम (Outcomes): कार्य सुगमता (task facilitation), आनंद (संतुष्टि समग्र) और कथित नियंत्रण (महसूस की गई एजेंसी) के माध्यम से मापा गया।

विश्लेषण (Analysis):
मात्रात्मक विश्लेषण में वर्णनात्मक सांख्यिकी, फिशर-रूपांतरित 95% विश्वास अंतराल के साथ पियर्सन और स्पीयरमैन सहसंबंध, और मॉडरेटेड रिग्रेशन शामिल थे। ओपन-एंडेड प्रॉम्प्ट्स से प्राप्त गुणात्मक डेटा का थीमेटिक विश्लेषण (सिंगल-कोडर) के माध्यम से विश्लेषण किया गया। अपात्र प्रतिभागियों (18 वर्ष से कम या गैर-उपयोगकर्ता) और कम जुड़ाव वाले उत्तरदाताओं (समान लिकर्ट प्रतिक्रियाएं) को बाहर करने के लिए संवेदनशीलता विश्लेषण (sensitivity analyses) किए गए, जिससे प्राथमिक निष्कर्षों की मजबूती की पुष्टि हुई।

मुख्य परिणाम

1. कोई पता लगाने योग्य विश्वास-सत्यापन संबंध नहीं (RQ1)

कैनोनिकल भविष्यवाणी के विपरीत, अध्ययन में पाया गया कि विश्वास और सत्यापन के बीच कोई पता लगाने योग्य संबंध नहीं है ($r = .01$, 95% CI $[-.15, +.17]$, $p = .90$)। विश्वास अंतराल मध्यम विपरीत रैखिक संबंधों को खारिज करता है। यह शून्य परिणाम संवेदनशीलता विश्लेषण और दक्षता उपसमूहों में भी बना रहा। सत्यापन एक विश्वास-आश्रित व्यवहार नहीं है जो विश्वास बढ़ने के साथ कम हो जाता है; बल्कि, यह एक नियमित अभ्यास प्रतीत होता है जो विश्वास के स्तरों की परवाह किए बिना बना रहता है।

2. मूल्यांकनात्मक और हस्तक्षेपकारी निरीक्षण के बीच अंतर (RQ2)

अध्ययन ने उपयोगकर्ता-पक्ष के HITL अभ्यासों में एक संरचनात्मक विषमता की पहचान की:

• मूल्यांकनात्मक निरीक्षण (Evaluative Oversight - Verification): इसमें विश्वास के साथ कोई पता लगाने योग्य संबंध नहीं है और यह संतुष्टि से केवल कमजोर रूप से जुड़ा है ($r = .21$)।
• हस्तक्षेपकारी निरीक्षण (Interventionist Oversight - Refinement, Correction, Approval): ये अभ्यास विश्वास के साथ कमजोर सकारात्मक सहसंबंध दिखाते हैं और संतुष्टि से मजबूती से जुड़े हैं (परिष्करण $r = .48$, निरीक्षण $r = .39$, सुधार $r = .38$)।
  उपयोगकर्ता इन हस्तक्षेपकारी अभ्यासों का व्यापक रूप से समर्थन करते हैं (67–75% शीर्ष-2 समर्थन), जो यह सुझाव देता है कि मानव-चैटबॉट अंतःक्रिया में संतुष्टि, आउटपुट को निष्क्रिय रूप से प्राप्त करने के बजाय उसे सक्रिय रूप से आकार देने की क्षमता से प्रेरित होती है।

3. संतुष्टि-नियंत्रण अंतराल (The Satisfaction–Control Gap) (RQ2)

कार्य संतुष्टि और कथित नियंत्रण के बीच एक महत्वपूर्ण अलगाव मौजूद है। उपयोगकर्ताओं ने उच्च संतुष्टि ($M = 4.22$) दर्ज की लेकिन काफी कम कथित नियंत्रण ($M = 3.33$) दर्ज किया, जिसके परिणामस्वरूप एक मध्यम-से-बड़े आकार का अंतराल ($d = 0.72$) हुआ। प्रभावी कार्य परिणाम एजेंसी (agency) की महसूस की गई भावना के लिए आवश्यक नहीं हैं। रिग्रेशन विश्लेषण ने संकेत दिया कि विश्वास और निरीक्षण व्यवहार कथित नियंत्रण की भिन्नता (variance) के केवल एक छोटे हिस्से की व्याख्या करते हैं, जो यह सुझाव देता है कि वर्तमान इंटरफेस उपयोगकर्ता के हस्तक्षेपों को "परिणामी" (consequential) बनाने में विफल रहते हैं।

4. गुणात्मक अंतर्दृष्टि (Qualitative Insights)

गुणात्मक निष्कर्षों से पता चला कि उपयोगकर्ता चैटबॉट्स को सहयोगियों के बजाय मुख्य रूप से उपकरण (instrumental tools) के रूप में देखते हैं। विश्वास सशर्त और विफलता-मोड-विशिष्ट (जैसे, गणितीय त्रुटियों या काल्पनिक संदर्भों द्वारा ट्रिगर होना) है, न कि वैश्विक। सत्यापन को "नियमित एपिस्टेमिक हाइजीन" (प्रूफरीडिंग के समान) के रूप में वर्णित किया गया है, न कि अविश्वास की प्रतिक्रिया के रूप में। उपयोगकर्ताओं ने एपिस्टेमिक इंफ्रास्ट्रक्चर की मांग की, विशेष रूप से स्रोत एट्रिब्यूशन (source attribution), तर्क पारदर्शिता (reasoning transparency), और ऐसे सुधार करने की क्षमता जो सत्रों (sessions) में बने रहें।

मुख्य योगदान

यह शोध पत्र पाँच विशिष्ट योगदान देता है:

1. अनुभवजन्य साक्ष्य: यह प्रदर्शित करता है कि बार-बार उपयोग करने वाले उपयोगकर्ताओं के बीच, सत्यापन का विश्वास के साथ कोई पता लगाने योग्य संबंध नहीं है, जो निर्भरता-अंशांकन प्रतिमान को जटिल बनाता है।
2. सैद्धांतिक अंतर: मूल्यांकनात्मक निरीक्षण (विश्वास-स्वतंत्र, संतुष्टि से कमजोर रूप से जुड़ा हुआ) और हस्तक्षेपकारी निरीक्षण (विश्वास-सहसंबंधित, संतुष्टि से मजबूती से जुड़ा हुआ) के बीच एक विभाजन प्रस्तावित करता है।
3. संतुष्टि-नियंत्रण अंतराल: एक अंतराल ($d = 0.72$) को परिमाणित करता है जो दिखाता है कि प्रभावी परिणाम एजेंसी की महसूस की गई भावना पैदा नहीं करते हैं, जो इस धारणा को चुनौती देता है कि संतुष्टि का अर्थ नियंत्रण है।
4. सैद्धांतिक संश्लेषण: उपयोगकर्ता-पक्ष HITL को सिस्टम-पक्ष HITL के एक "फास्ट-प्रोसेस" पूरक के रूप रूप में पुनर्गठित करता है, जो विश्वास अंशांकन के बजाय नियमित एपिस्टेमिक गवर्नेंस के इर्द-गिर्द व्यवस्थित है।
5. डिजाइन दिशाएँ: उपयोगकर्ता की जरूरतों पर आधारित चार विशिष्ट डिजाइन दिशाएँ प्रदान करता है:
   • प्रोवेनेंस क्यूज़ (Provenance cues): अंतर्निहित स्रोत एट्रिब्यूशन।
   • प्रक्रिया पारदर्शिता (Process transparency): तर्क के निशान (reasoning traces) और अनिश्चितता संकेतक।
   • सुधार निरंतरता (Correction persistence): यह सुनिश्चित करना कि सुधार सत्रों/टर्न के दौरान प्रसारित हों।
   • गवर्नेबल प्रेफरेंस मेमोरी (Governable preference memory): निरीक्षण योग्य, कॉन्फ़िगर करने योग्य और प्रतिवर्ती वैयक्तिकरण।

महत्व और दावे

शोध पत्र का तर्क है कि "बेहतर-अंशांकित विश्वास जाँच को कम करता है" वाला अनुमान संवादात्मक सेटिंग्स में अनुभवजन्य समर्थन की कमी रखता है। इसके बजाय, यह तर्क देता है कि सत्यापन नियमित एपिस्टेमिक गवर्नेंस का एक रूप है जो विश्वास के अनुकूल है। लेखक डिजाइन प्रश्न को "हम विश्वास कैसे बनाएँ ताकि उपयोगकर्ता जाँच करना बंद कर दें?" से बदलकर "हम उस जाँच का समर्थन कैसे करें जो उपयोगकर्ता पहले से ही कर रहे हैं?" में बदल देते हैं।

अध्ययन निष्कर्ष निकालता है कि उपयोगकर्ता-पक्ष निरीक्षण को एक प्रथम-श्रेणी के इंटरैक्शन मोड के रूप में माना जाना चाहिए। पारदर्शिता या विश्वास-निर्माण के माध्यम से उपयोगकर्ता हस्तक्षेप की आवश्यकता को समाप्त करने के प्रयास के बजाय, डिजाइन को सत्यापन, परिष्करण और सुधार के मौजूदा अभ्यासों को स्कैफोल्डिंग (scaffolding) करने पर ध्यान केंद्रित करना चाहिए। यह दृष्टिकोण स्वीकार करता है कि प्रभावी कार्य परिणाम, एजेंसी की महसूस की गई भावना से अलग हैं, और सार्थक मानव नियंत्रण के लिए उपयोगकर्ता के हस्तक्षेपों को सुस्पष्ट और परिणामी बनाना आवश्यक है। निष्कर्ष बताते हैं कि वर्तमान चैटबॉट इंटरफेस, हालांकि संतोषजनक हैं, अक्सर वह "परिणामीता" (consequentiality) प्रदान करने में विफल रहते हैं जो उपयोगकर्ताओं को यह महसूस करने के लिए आवश्यक है कि वे अंतःक्रिया को निर्देशित कर रहे हैं।