Tuning the Stochastic Machine: A Systems Engineer's Operating Model for Human-AI Engineering
तीस वर्षों के सिस्टम इंजीनियरिंग अनुभव का उपयोग करते हुए, यह शोध पत्र तर्क देता है कि बार-बार होने वाली एलएलएम (LLM) त्रुटियां टूलिंग की सीमाओं के बजाय परिचालन अनुशासन की कमी से उत्पन्न होती हैं, और एक सात-सिद्धांत वाले ऑपरेटिंग मॉडल का प्रस्ताव देता है जो मानव-एआई इंजीनियरिंग को प्रभावी ढंग से नियंत्रित करने के लिए वर्शनिंग, मॉनिटरिंग और रिटायरमेंट जैसी पारंपरिक सिस्टम प्रबंधन अवधारणाओं को अनुकूलित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक आर्टिफिशियल इंटेलिजेंस की दुनिया में, उन विशेषज्ञों के लिए एक विशिष्ट प्रकार की हताशा आम हो गई है जो इन उपकरणों के साथ काम करते हैं। एक अनुभवी इंजीनियर या लेखक किसी एआई असिस्टेंट द्वारा की गई एक सूक्ष्म गलती को सुधारने में घंटों बिता सकता है, केवल यह देखने के लिए कि वही त्रुटि भविष्य की बातचीत में फिर से दिखाई देती है। उपकरण ने सुधार को इसलिए नहीं भुलाया क्योंकि उसे वास्तव में याद रखने के लिए कभी कहा ही नहीं गया था। ऐसा इसलिए होता है क्योंकि इन प्रणालियों का वर्तमान डिज़ाइन हर नई बातचीत को एक नई शुरुआत के रूप में मानता है, जिससे कुछ क्षण पहले सीखी गई बातों का अस्तित्व मिट जाता है। यह शोध पत्र मशीन की पाठ उत्पन्न करने की क्षमता और मानव की उस आवश्यकता के बीच के अंतर का अन्वेषण करता है जहाँ एक ऐसी प्रणाली की आवश्यकता है जो समय के साथ सीख सके और सुधारों को याद रख सके। यह तर्क देता है कि समाधान कोई नया प्रकार का सॉफ्टवेयर या अधिक स्मार्ट एल्गोरिदम नहीं है, बल्कि सिस्टम इंजीनियरिंग के लंबे समय से स्थापित क्षेत्र से उधार ली गई परिचालन संबंधी आदतों का एक समूह है, जहाँ जटिल, अप्रत्याशित मशीनरी को प्रबंधित करना एक दैनिक दिनचर्या है।
लेखक, जो एक सिस्टम इंजीनियर हैं और तीस वर्षों का अनुभव रखते हैं, यह देखते हैं कि उद्योग ने उन उपकरणों पर बहुत अधिक ध्यान केंद्रित किया है जो एआई को चीजें याद रखने में मदद करते हैं, जैसे कि स्थायी मेमोरी फाइलें या निर्देश मार्गदर्शिकाएँ। हालाँकि, यह शोध पत्र सुझाव देता है कि यदि उपयोग करने वाले लोगों के पास उन्हें नियंत्रित करने के लिए एक अनुशासित प्रक्रिया नहीं है, तो इन उपकरणों का होना पर्याप्त नहीं है। यह दर्ज करने के लिए एक सख्त विधि के बिना कि सुधार क्यों किया गया था, यह जाँचने के लिए कि क्या यह काम करता है, और अंततः उन नियमों को सेवानिवृत्त करने के लिए जो अब आवश्यक नहीं हैं, निर्देशों का संग्रह एक अव्यवस्थित और अप्रभावी कचरा बन जाता है। मुख्य निष्कर्ष यह है कि गायब कड़ी तकनीक नहीं, बल्कि अनुशासन है। लेखक एक सात-चरणीय ऑपरेटिंग मॉडल का प्रस्ताव करते हैं जो एआई को एक जादुई भविष्यवक्ता के रूप में नहीं, बल्कि उपकरण के एक टुकड़े के रूप में देखता है जिसे सावधानीपूर्वक कॉन्फ़िगरेशन, निरंतर निगरानी और गलतियों से सीखने के लिए एक स्पष्ट लूप की आवश्यकता होती है।
यह दृष्टिकोण एक सरल लेकिन शक्तिशाली अहसास के साथ शुरू होता है: एआई का ज्ञान निश्चित है, जैसे कि एक कंप्यूटर चिप जिसे चलते समय बदला नहीं जा सकता, जबकि बातचीत अस्थायी है, जैसे कि कंप्यूटर की मेमोरी जो बिजली बंद होने पर गायब हो जाती है। जब कोई मानव चैट के दौरान एआई को सुधारता है, तो वह सुधार केवल उस विशिष्ट सत्र के लिए प्रभावी होता है। एक बार सत्र समाप्त होने के बाद, वह सुधार लुप्त हो जाता है। एआई को वास्तव में बेहतर बनाने के लिए, सुधार को एक स्थायी कॉन्फ़िगरेशन फ़ाइल में लिखा जाना चाहिए जो हर बार सिस्टम शुरू होने पर लोड होती है। शोध पत्र इसे "राइट-बैक पाथ" (write-back path) कहता है। यह एक कार्यकर्ता को एक बार समस्या ठीक करने के लिए कहने और आधिकारिक मैनुअल को अपडेट करने के बीच का अंतर है ताकि हर भविष्य की शिफ्ट में हर कार्यकर्ता जान सके कि उसी त्रुटि से कैसे बचना है।
प्रस्तावित प्रणाली इस प्रक्रिया को प्रबंधित करने के लिए सात मार्गदर्शक सिद्धांतों पर निर्भर करती है। पहला, प्रत्येक सार्थक सुधार को एक स्थायी रिकॉर्ड के रूप में सहेजा जाना चाहिए; यदि नहीं, तो वह खो जाएगा। दूसरा, इन नियमों को परतों में व्यवस्थित किया जाना चाहिए, जिसमें सभी कार्यों के लिए सामान्य नियम किसी विशेष परियोजना के विशिष्ट नियमों से अलग रखे जाएं, ताकि भ्रम और दोहराव को रोका जा सके। तीसरा, क्योंकि एआई स्वाभाविक रूप से अप्रत्याशित है और एक एकल गारंटीकृत उत्तर के बजाय परिणामों की एक श्रृंखला उत्पन्न करता है, लक्ष्य परिणामों की पूरी श्रृंखला को प्रबंधित करना है, विशेष रूप से उस सीमा पर होने वाली दुर्लभ लेकिन खतरनाक गलतियों पर ध्यान केंद्रित करना है। चौथा, मानव विशेषज्ञ अंतिम सुरक्षा जांच के रूप में कार्य करता है, जो उन त्रुटियों को पकड़ता है जिन्हें मशीन स्वयं नहीं पहचान सकती और यह सुनिश्चित करता है कि सुधार को स्थायी सिस्टम में वापस लिखा जाए।
शेष सिद्धांत माप और रखरखाव पर केंद्रित हैं। लेखक चेतावनी देते हैं कि केवल एक उपकरण के उपयोग की संख्या गिनना सफलता का एक खराब पैमाना है, क्योंकि यह गुणवत्ता के बजाय गतिविधि को पुरस्कृत करता है। इसके बजाय, टीमों को यह ट्रैक करना चाहिए कि क्या समय के साथ विशिष्ट प्रकार की त्रुटियां होना बंद हो गई हैं। उन्हें अपने नियमों की सूची की नियमित रूप से समीक्षा करनी चाहिए ताकि उन नियमों को हटाया जा सके जो अब उपयोगी नहीं हैं, यह सुनिश्चित करते हुए कि सिस्टम पुराने निर्देशों के बोझ से दब न जाए। अंत में, टीम को हमेशा यह सत्यापित करना चाहिए कि वे एक वास्तविक लक्ष्य की ओर बढ़ रहे हैं; यदि कोई प्रक्रिया केवल यादृच्छिक शोर (random noise) है, तो कोई भी अनुशासन उसे बेहतर नहीं बना पाएगा।
यह समझाने के लिए कि यह व्यवहार में कैसे काम करता है, लेखक तीन वास्तविक दुनिया के उदाहरण साझा करते हैं। एक मामले में, एआई ने एक कंप्यूटर प्रोग्राम को तेज करने के लिए उसकी प्रतिष्ठा के आधार पर एक तकनीकी विधि का सुझाव दिया, लेकिन वह विधि एक विशिष्ट स्थिति में विफल रही, जिससे वही धीमापन हुआ जिसे रोकने के लिए वह थी। नई अनुशासन लागू करके, इंजीनियर ने केवल कोड को ठीक नहीं किया; उन्होंने एक स्थायी नियम बनाया जो एआई को विशिष्ट स्थितियों की जांच किए बिना फिर से उस विधि को चुनने से रोकता है। दूसरे उदाहरण में, अनधिकृत पहुंच को रोकने के लिए बनाया गया एक सुरक्षा नियम इतना खराब तरीके से लिखा गया था कि उसने गलती से सभी को प्रवेश दे दिया। सिस्टम ने इसे एक विशिष्ट प्रश्न पूछकर पकड़ा कि क्या वह नियम उस नुकसान का कारण बन सकता है जिसे रोकने के लिए उसे बनाया गया था। तीसरा उदाहरण इस तरह के विपरीत कार्य को दर्शाता है: एआई ने एक मानव के काम की समीक्षा की और मानव की अपनी सोच में एक कमी पाई, जिससे एक ऐसा सुधार हुआ जिसने मानव के ढांचे को बेहतर बनाया। इसने प्रदर्शित किया कि साझेदारी दोनों तरफ से काम करती है, जहाँ मानव और मशीन एक-दूसरे को सुधारते हैं।
शोध पत्र निष्कर्ष निकालता है कि हालांकि आर्टिफिशियल इंटेलिजेंस की तकनीक नई है, लेकिन इसे सुरक्षित रूप से चलाने के लिए आवश्यक अनुशासन नया नहीं है। वर्णित विधियाँ वही हैं जिनका उपयोग दशकों से जटिल औद्योगिक मशीनों और ट्रेडिंग सिस्टम को प्रबंधित करने के लिए किया जाता रहा है। लेखक का तर्क है कि उद्योग वर्तमान में एक ऐसे डिज़ाइन की ओर बढ़ रहा है जहाँ एआई बातचीत के बीच सब कुछ भूल जाता है, जो मशीन के लिए कुशल है लेकिन उपयोगकर्ता के लिए खतरनाक है। समाधान मशीन के चारों ओर मानव शासन (human governance) की एक परत बनाना है, यह सुनिश्चित करना है कि सीखा गया प्रत्येक सबक संरक्षित, परीक्षित और समय के साथ सिस्टम के प्रदर्शन को कड़ा करने के लिए उपयोग किया जाए। लेखक स्वीकार करते हैं कि यह एक प्रस्ताव है जो अनुभव और तर्क पर आधारित है, न कि अंतिम वैज्ञानिक प्रमाण पर, और इन विचारों को कठिन डेटा के साथ परीक्षण करने के लिए भविष्य के अध्ययन की योजना को रेखांकित करते हैं। तब तक, संदेश स्पष्ट है: इन शक्तिशाली उपकरणों का अधिकतम लाभ उठाने के लिए, हमें इन्हें जादू के रूप में नहीं, बल्कि मशीनों के रूप में मानना होगा जिन्हें एक स्थिर हाथ और नियमों के एक स्पष्ट सेट की आवश्यकता होती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।