"I didn't Make the Micro Decisions": Measuring, Inducing, and Exposing Goal-Level AI Contributions in Collaboration
यह शोधपत्र CoTrace को प्रस्तुत करता है, जो एक लक्ष्य-स्तरीय एट्रिब्यूशन फ्रेमवर्क है जो यह प्रकट करता है कि कैसे LLMs मानव-AI सहयोग में ठोस आवश्यकताओं के परिशोधन और समग्र लक्ष्य-आकार देने में महत्वपूर्ण रूप से प्रभाव डालते हैं, और यह प्रदर्शित करता है कि इन सूक्ष्म योगदानों को उजागर करना उपयोगकर्ताओं को उनके काम में AI की भूमिका के संबंध में उनके व्यवस्थित गलत अंुकूलन (miscalibration) को सुधारने में मदद करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ शोध पत्र "I didn't Make the Micro Decisions" का सरल भाषा और रचनात्मक उपमाओं (analogies) के साथ हिंदी अनुवाद दिया गया है।
बड़ी समस्या: "घोस्टराइटर" (Ghostwriter) प्रभाव
कल्पना कीजिए कि आप और आपका एक दोस्त मिलकर एक घर बना रहे हैं।
- परिदृश्य A: आप ब्लूप्रिंट (नक्शा) बनाते हैं, यह तय करते हैं कि रसोई कहाँ होगी, और पेंट का रंग चुनते हैं। आपका दोस्त बस हथौड़ा उठाता है और लकड़ी की कीलें ठोकता है।
- परिदृश्य B: आप कहते हैं, "चलो एक घर बनाते हैं।" आपका दोस्त फिर सुझाव देता है कि घर की शैली क्या होगी, वह तय करता है कि रसोई में एक स्काईलाइट (आकाश से रोशनी के लिए खिड़की) होनी चाहिए, पेंट चुनता है, और यहाँ तक कि लकड़ी का प्रकार भी चुनता है। आप बस सिर हिलाकर कहते हैं "ठीक है" जबकि वह काम कर रहा होता है।
दोनों ही मामलों में, आप बने हुए घर को देखकर कह सकते हैं, "हमने यह बनाया है।" लेकिन परिदृश्य B में, आपके दोस्त ने घर कैसा होना चाहिए, इस बारे में लगभग सारा सोचने का काम किया, भले ही आपने शारीरिक काम किया हो।
यह शोध पत्र तर्क देता है कि वर्तमान AI उपकरण परिदृश्य B की तरह हैं। वे अक्सर "सोचने" (लक्ष्य और विवरण तय करने) का काम करते हैं जबकि इंसान "टाइपिंग" (कार्यान्वयन/execution) का काम करते हैं। लेकिन क्योंकि हम केवल अंतिम टेक्स्ट या कोड को देखते हैं, हम दोनों परिदृश्यों के बीच अंतर नहीं कर पाते। हमें नहीं पता कि वास्तव में घर का डिज़ाइन किसने तैयार किया।
समाधान: COTRACE (एक "निर्माण लॉग" या Construction Log)
शोधकर्ताओं ने COTRACE नामक एक उपकरण बनाया है। इसे केवल एक कैमरे के रूप में न देखें जो बने हुए घर की तस्वीर लेता है, बल्कि एक स्मार्ट निर्माण लॉग के रूप में देखें जो पूरी निर्माण प्रक्रिया पर नज़र रखता है।
केवल अंतिम निबंध या कोड को देखने के बजाय, COTRACE बातचीत को छोटे-छोटे चरणों में तोड़ देता है:
- लक्ष्य (Goals): हम क्या बनाने की कोशिश कर रहे हैं? (जैसे, "NYC के लिए यात्रा योजना")।
- आवश्यकताएं (Requirements): विशिष्ट नियम क्या हैं? (जैसे, "लंच के बाद एक विश्राम स्थल होना चाहिए")।
- प्रभाव (Influence): उस नियम का सुझाव किसने दिया? क्या इंसान ने कहा? क्या AI ने सुझाव दिया? या क्या AI ने ऐसा प्रश्न पूछा जिसने इंसान को यह महसूस कराया कि उन्हें उस नियम की आवश्यकता है?
COTRACE ट्रैक करता है कि किसने "आकार देने" (नियम तय करने) का काम किया और किसने "कार्य करने" (काम पूरा करने) का काम किया।
उन्होंने क्या खोजा (निष्कर्ष)
1. इंसान दिशा निर्धारित करते हैं, लेकिन AI खाली जगहों को भरता है।
अधिकांश बातचीत में, इंसान "आर्किटेक्ट" होते हैं जो कहते हैं, "चलो न्यूयॉर्क चलते हैं।" लेकिन AI "इंटीरियर डिज़ाइनर" बन जाता है जो कहता है, "वास्तव में, अगर हम न्यूयॉर्क जाते हैं, तो हमें लंच के बाद एक विश्राम स्थल भी जोड़ना चाहिए क्योंकि यह एक बड़ा शहर है।"
अध्ययन में पाया गया कि जबकि इंसान बड़े चित्र (big picture) का निर्णय लेते हैं, AI उन छोटे, विशिष्ट विवरणों (माइक्रो डिसीजन) को गढ़ने में आश्चर्यजनक रूप से कुशल है जिन्हें इंसान अक्सर बताना भूल जाते हैं।
2. AI बीज बोता है।
कभी-कभी AI स्पष्ट रूप से यह नहीं कहता, "एक विश्राम स्थल जोड़ें।" इसके बजाय, वह कह सकता है, "NYC में दोपहर की कई गतिविधियाँ हो सकती हैं।" इंसान इसे सुनता है और सोचता, "ओह, यह बहुत अधिक पैदल चलने जैसा लग रहा है; मुझे एक विश्राम स्थल जोड़ना चाहिए।"
COTRACE इसे परोक्ष प्रभाव (Indirect Influence) कहता है। AI ने एक बीज बोया, और इंसान ने उस फूल को उगाया। COTRACE के बिना, इंसान सोचता है, "यह विचार मेरा था," लेकिन शोध पत्र दिखाता है कि AI ने वास्तव में उन्हें वहां तक पहुँचाया (nudge किया)।
3. हम AI को अधिक या कम 'बॉसी' (हुक्म चलाने वाला) बनाना सिखा सकते हैं।
शोधकर्ताओं ने AI के साथ बात करने के विभिन्न तरीकों का परीक्षण किया।
- यदि आप AI को कहते हैं, "जो आपको सबसे अच्छा लगे वही करें," तो वह योजना बनाने का अधिक नियंत्रण ले लेता है।
- यदि आप AI को कार्य करने से पहले आपसे प्रश्न पूछने के लिए मजबूर करते हैं, तो वह "सहायक" की भूमिका में रहता है।
इसका अर्थ है कि हम अपनी आवश्यकता के अनुसार AI सिस्टम को अधिक या कम सक्रिय (proactive) बना सकते हैं।
4. इंसान यह अनुमान लगाने में खराब होते हैं कि किसने क्या किया।
शोधकर्ताओं ने अपना टूल उन लोगों को दिखाया जिन्होंने अभी-अभी AI के साथ काम पूरा किया था।
- टूल देखने से पहले: लोगों ने सोचा, "मैंने 80% योजना बनाई, और AI ने 20% किया।"
- टूल देखने के बाद: लोगों को एहसास हुआ, "अरे, AI ने वास्तव में अधिकांश विशिष्ट विवरण सुझाए थे! मैंने तो केवल मुख्य विचार दिया था।"
इस टूल ने लोगों को यह समझने में मदद की कि वे जितना सोचते थे, उससे कहीं अधिक वे AI पर निर्भर थे।
यह क्यों महत्वपूर्ण है
यह शोध पत्र निष्कर्ष निकालता है कि हमें श्रेय (credit) देने का बेहतर तरीका चाहिए। यदि कोई छात्र AI के साथ निबंध लिखता है, या कोई वकील AI के साथ अनुबंध (contract) का मसौदा तैयार करता है, तो हमें जानना होगा:
- क्या इंसान ने वह शानदार तर्क दिया?
- या AI ने वह तर्क सुझाया, और इंसान ने बस उसे टाइप किया?
COTRACE इस "लक्ष्य-स्तर" (goal-level) के योगदान को मापने का एक तरीका प्रदान करता है। यह हमें यह समझने में मदद करता है कि सहयोग केवल इस बारे में नहीं है कि अंतिम शब्द किसने टाइप किए; यह इस बारे में है कि उन शब्दों को क्या कहना चाहिए था, इसका निर्णय किसने लिया।
संक्षेप में: यह शोध पत्र बातचीत के दौरान AI द्वारा किए जाने वाले अदृश्य "सोचने" के काम को देखने का एक तरीका पेश करता है, और यह सिद्ध करता है कि AI अक्सर हमारे काम के 'क्या' और 'कैसे' को आकार देता है, भले ही हमें लगता हो कि हम केवल 'काम' कर रहे हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।