When AI Reviews Its Own Code: Recursive Self-Training Collapse in Code LLMs
यह शोधपत्र यह प्रदर्शित करता है कि कोड एलएलएम (LLMs) में पुनरावर्ती स्व-प्रशिक्षण (recursive self-training), एआई-जनित डेटा पर निर्भर होने के कारण अनिवार्य रूप से प्रदर्शन पतन (performance collapse) की ओर ले जाता है, जो यह सिद्ध करता है कि क्षरण के आत्म-सुदृढ़ीकरण चक्र को तोड़ने के लिए बाह्य मानव सत्यापन के बिना स्वचालित समीक्षा तंत्र भी विफल हो जाते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को कंप्यूटर कोड लिखना सिखा रहे हैं। आप चाहते हैं कि रोबोट अपने ही काम पर अभ्यास करके बेहतर बने। यह शोध पत्र एक डरावना सवाल पूछता है: क्या होगा अगर रोबोट केवल अपनी गलतियों से सीखता रहे, बार-बार?
शोधकर्ता इसे "रिकर्सिव सेल्फ-ट्रेनिंग" (पुनरावर्ती स्व-प्रशिक्षण) कहते हैं। यह एक फोटोकॉपी मशीन की तरह है जो एक फोटोकॉपी की कॉपी बना रही है, जो फिर दूसरी कॉपी बनाती है। अंततः, छवि धुंधली, विकृत और बेकार हो जाती है। यह शोध पत्र दिखाता है कि AI कोड मॉडल के साथ भी ठीक यही समस्या होती है।
यहाँ उनके निष्कर्षों का सरल उपमाओं (analogies) के माध्यम से विवरण दिया गया है।
सेटअप: "कॉपी-पेस्ट" का जाल
सामान्यतः, जब इंसान कोड लिखते हैं, तो वे उसे बस एक ढेर में नहीं फेंक देते। उनके पास एक समीक्षा प्रक्रिया (review process) होती है:
- लेखक: कोड लिखता है।
- समीक्षक: जाँचता है कि क्या यह काम करता है, क्या यह सुरक्षित है, और क्या इसका कोई अर्थ है।
- फ़िल्टर: केवल अच्छे कोड को ही भविष्य में सीखने के लिए सहेजा और उपयोग किया जाता है।
यह शोध पत्र परीक्षण करता है कि क्या होता है जब हम मानव समीक्षक को हटा देते हैं और AI को अपने ही काम की समीक्षा करने देते हैं। उन्होंने AI को सीखने के लिए तीन अलग-अलग "स्कूल" बनाए:
- "बिना नियमों वाला" स्कूल (कोई समीक्षा नहीं): AI कोड लिखता है, और वह सब कुछ जो वह लिखता है, उसे अगले संस्करण को सिखाने के लिए सहेजा और उपयोग किया जाता है।
- "सख्त शिक्षक" वाला स्कूल (मानव गेट): AI कोड लिखता है, लेकिन एक बाहरी टूल (जैसे एक कंपाइलर जो सिंटैक्स त्रुटियों की जाँच करता है) या नियमों का एक निश्चित सेट यह तय करता है कि कोड को बचाने के लिए पर्याप्त अच्छा है या नहीं। AI इन नियमों को बदल नहीं सकता।
- "नार्सिसिस्ट" (आत्ममुग्ध) स्कूल (AI सेल्फ-गेट): AI कोड लिखता है, और फिर वही AI (या उसका जुड़वां संस्करण) अपने काम को ग्रेड देता है। वह अपनी आंतरिक भावनाओं के आधार पर तय करता है कि क्या "अच्छा" है।
परिणाम: कैसे फेल हुए ये स्कूल
1. "बिना नियमों वाला" स्कूल: सबसे तेज़ पतन
यह सबसे बुरा परिणाम था। बिना किसी फ़िल्टर के, AI ने अपने ही कचरे से सीखना शुरू कर दिया।
- उपमा: कल्पना कीजिए कि एक छात्र निबंध लिखने के तरीके को सीखने के लिए केवल अपनी डायरी के प्रविष्टियों को पढ़ता है। यदि वह पहले पृष्ठ पर वर्तनी की गलती करता है, तो वह इसे सही मान लेता है। 100वें पृष्ठ तक, वह बड़बड़ाने (gibberish) जैसा लिख रहा होता है, लेकिन उसे लगता है कि यह एकदम सही है क्योंकि उसे केवल वही पढ़ रहा है।
- परिणाम: वास्तविक समस्याओं को हल करने की AI की क्षमता बहुत तेज़ी से शून्य के करीब गिर गई।
2. "सख्त शिक्षक" वाला स्कूल: धीमा, लेकिन फिर भी विफल
यहाँ, AI को एक टेस्ट पास करना था (जैसे एक कंपाइलेशन चेक) ताकि उसका कोड बचाया जा सके।
- उपमा: यह एक ऐसे छात्र की तरह है जिसे अपने निबंध को रखने से पहले व्याकरण की जाँच पास करनी होती है। यह उसे निरर्थक वाक्य लिखने से रोकता है, लेकिन यह उसे तार्किक रूप से गलत या उबाऊ निबंध लिखने से नहीं रोकता।
- परिणाम: AI "बिना नियमों वाले" समूह की तुलना में उतनी तेज़ी से क्रैश नहीं हुआ, लेकिन समय के साथ धीरे-धीरे बदतर होता गया। "शिक्षक" (कंपाइलर) गहरे तार्किक दोषों को पकड़ने के लिए बहुत सरल था।
3. "नार्सिसिस्ट" स्कूल: रबर स्टैम्प (मोहर लगाना)
यह सबसे आश्चर्यजनक और खतरनाक परिणाम था। AI ने अपनी "भावनाओं" (जैसे पर्प्लेक्सिटी या स्वयं के स्कोर) का उपयोग करके अपने काम को ग्रेड दिया।
- उपमा: कल्पना कीजिए कि एक छात्र ही शिक्षक भी है। शुरू में, वह निष्पक्ष होता है। लेकिन जैसे-जैसे वह लिखने में खराब होता जाता है, उसकी पसंद (taste) भी खराब होने लगती है। वह सोचने लगता है कि उसका खराब लेखन वास्तव में "रचनात्मक" और "उच्च गुणवत्ता" वाला है। वह अपने असफल निबंध पर खुद को "A" ग्रेड दे देता है।
- परिणाम: AI ने उच्च स्कोर देना शुरू कर दिया भले ही उसकी कोडिंग क्षमता तेजी से गिर रही थी। वह एक "रबर-स्टैम्प" शासन में प्रवेश कर गया: AI कह रहा था, "यह बहुत बढ़िया है!" जबकि कोड पूरी तरह से बेकार हो चुका था। स्कोर ऊपर जा रहा था, लेकिन गुणवत्ता नीचे गिर रही थी।
मुख्य समस्या: दर्पण प्रभाव (The Mirror Effect)
शोध पत्र बताता है कि "नार्सिसिस्ट" स्कूल इसलिए विफल होता है क्योंकि AI दर्पण में देख रहा है।
- यदि AI की पसंद उसके खराब लेखन के अनुरूप बदल जाती है, तो वह "अच्छे कोड" और "बुरे कोड" के बीच अंतर नहीं कर पाता।
- "सख्त शिक्षक" (मानव गेट) बेहतर काम करता है क्योंकि शिक्षक छात्र के बाहर होता है। कंपाइलर को इस बात से फर्क नहीं पड़ता कि AI अपने कोड को सुंदर समझता है या नहीं; उसे केवल इस बात से फर्क पड़ता है कि कोड चलता है या नहीं।
- हालाँकि, "सख्त शिक्षक" भी AI को हमेशा के लिए नहीं बचा सका। AI अंततः वास्तविक दुनिया के तर्क (logic) से दूर चला गया, भले ही कोड तकनीकी रूप से "चलता" रहा।
निष्कर्ष
शोध पत्र निष्कर्ष निकालता है कि AI विश्वसनीय रूप से खुद को नहीं सिखा सकता।
- यदि आप AI को बिना किसी मजबूत बाहरी जाँच के अपने द्वारा उत्पन्न कोड पर प्रशिक्षित होने देते हैं, तो वह अंततः अपना काम करना भूल जाएगा।
- भले ही AI अपने काम का सख्त जज बनने की कोशिश करे, वह अंततः पक्षपाती हो जाएगा और अपनी गलतियों को प्रतिभा मानने लगेगा।
- AI को स्मार्ट बनाए रखने के लिए, आपको बाहरी सत्यापन (जैसे वास्तविक मनुष्य या स्वतंत्र परीक्षण) की आवश्यकता है जो केवल इसलिए न बदले क्योंकि AI बदल गया है।
संक्षेप में: एक AI जो केवल अपने आउटपुट को पढ़कर खुद को सुधारने की कोशिश कर रहा है, वह उस व्यक्ति की तरह है जो केवल अपने ही बचे हुए खाने को खाकर फिट होने की कोशिश कर रहा है। अंततः, वह बीमार हो जाएगा, और उसे लगेगा कि वह स्वस्थ है क्योंकि वह भोजन को परखने वाला एकमात्र व्यक्ति है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।