एक ऐसी दुनिया की कल्पना करें जहाँ सॉफ़्टवेयर केवल वहाँ बैठा नहीं रहता, बल्कि किसी इंसान द्वारा कमांड टाइप करने का इंतज़ार करता है। आर्टिफिशियल इंटेलिजेंस के क्षेत्र में, एक बढ़ता हुआ विचार है जिसे "एजेंट्स" (agents) कहा जाता है। इन्हें केवल उन साधारण चैटबॉट्स के रूप में न सोचें जो सवालों के जवाब देते हैं, बल्कि डिजिटल कर्मचारियों के रूप में सोचें जो वास्तव में काम कर सकते हैं: वे कोड लिख सकते हैं, कंप्यूटर स्क्रीन पर नेविगेट कर सकते हैं, टूल्स का उपयोग कर सकते हैं, और लंबे समय तक जटिल पहेलियों को हल कर सकते हैं। लंबे समय तक, इन एजेंटों को एक साथ थामे रखने वाला "हारनेस" (harness)—उनके टूल्स, उनके निर्देश और उनके नियम—इंसानों द्वारा बनाया गया था और फिर उसे एक जगह स्थिर कर दिया गया था। यह एक कार बनाने और फिर उसके स्टीयरिंग व्हील को वेल्ड करने जैसा था ताकि सड़क कितनी भी ऊबड़-खाबड़ क्यों न हो, उसे कभी बदला न जा सके। लेकिन क्या होगा अगर कार अपना इंजन खुद ठीक कर सके, अपना जीपीएस अपग्रेड कर सके, और यहाँ तक कि गाड़ी चलाते समय ही अपना ड्राइविंग मैनुअल भी दोबारा लिख सके? यही वह बड़ा सवाल है जिसे यह पेपर संबोधित करता है: क्या एक AI एजेंट अपने आप का एक बेहतर संस्करण बना सकता है, और यदि वह ऐसा करता है, तो क्या हम उसे सुरक्षित रख सकते हैं?

यह पेपर ओरोबोरोस (Ouroboros) को पेश करता है, जो एक स्व-विकसित (self-developing) AI एजेंट है, जिसका नाम प्राचीन प्रतीक 'अपनी पूंछ खाते हुए सांप' के नाम पर रखा गया है। शोधकर्ताओं ने पाया कि एजेंट को अपने स्वयं के कोड, प्रॉम्प्ट और टूल्स की निरंतर समीक्षा और सुधार करने की अनुमति देने से, वह कंप्यूटर के कठिन कार्यों को हल करने में काफी बेहतर हो गया। परीक्षणों की एक श्रृंखला में, एजेंट ने शीर्ष-स्तरीय स्कोर प्राप्त किया, और कई अन्य प्रणालियों को पीछे छोड़ दिया। हालाँकि, यह पेपर एक प्रमुख सुरक्षा चुनौती को भी उजागर करता है: यदि एक एजेंट अपने स्वयं के नियम बदल सकता है, तो हम यह कैसे सुनिश्चित करें कि वह गलती से सुरक्षा के ब्रेक (safety brakes) को न तोड़ दे? लेखक दिखाते हैं कि एक एजेंट को विकसित होने देना और साथ ही सख्त "गार्डरेल" (guardrails) को बनाए रखना संभव है, जिन्हें इंसान नियंत्रित करते हैं, जिससे यह सुनिश्चित होता है कि एजेंट खतरनाक हुए बिना और अधिक स्मार्ट बन सके।

वह सांप जो अपनी पूंछ खाता है

ओरोबोरोस से मिलिए। पौराणिक कथाओं में, ओरोबोरोस एक ऐसा सांप है जो अपनी पूंछ खा रहा है, जो अनंत चक्रों और आत्म-नवीनीकरण का प्रतीक है। इस पेपर में, यह एक कंप्यूटर प्रोग्राम है जो कुछ ऐसा ही करता है: यह खुद को सुधारने के लिए कोड लिखता है, फिर उस नए कोड का उपयोग अपना काम करने के लिए करता है, और फिर खुद को सुधारने के लिए फिर से कोड लिखता है।

आज के अधिकांश AI सिस्टम एक फैक्ट्री में बने रोबोट की तरह हैं। इंसान रोबोट को डिजाइन करते हैं, उसे निर्देशों का एक सेट देते हैं, और फिर उसे काम पर भेज देते हैं। यदि रोबोट कहीं फंस जाता है या कोई गलती करता है, तो वह वास्तव में समस्या को ठीक नहीं कर सकता; वह बस वही चीज़ बार-बार करता रहता है या किसी इंसान से मदद मांगता है। उसका "हारनेस" (रोबोट का मस्तिष्क और टूलकिट) स्थिर है।

ओरोबोरोस अलग है। यह अपने मस्तिष्क और टूलकिट को एक जीवित चीज़ के रूप में देखता है जो बढ़ सकती है। इसके बेहतर होने के दो मुख्य तरीके हैं:

1. "फ्री इवोल्यूशन" (Free Evolution) मोड: कल्पना कीजिए कि एजेंट बैठकर कहता है, "मुझे लगता है कि अगर मैं अपने टूल्स को पुनर्व्यवस्थित कर दूँ तो मैं तेज़ हो सकता हूँ।" फिर वह अपने स्वयं के कोड का एक नया संस्करण लिखता है, उसकी जाँच करवाता है, और तुरंत उसका उपयोग करना शुरू कर देता है। वह इसे बार-बार कर सकता है, सुधारों की एक ऐसी श्रृंखला बनाता है जो वास्तव में कभी नहीं रुकती।
2. "एक्सपीरियंस-ड्रिवन" (Experience-Driven) मोड: यह काम के एक बुरे दिन से सीखने जैसा है। एजेंट एक कार्य करने की कोशिश करता है, एक बग से टकराता है, या किसी उपयोगकर्ता द्वारा भ्रमित हो जाता है। हार मानने के बजाय, वह कहता है, "आह, यह काम नहीं किया। मुझे अपने निर्देशों को ठीक करने की ज़रूरत है।" वह गलती को रिकॉर्ड करता है, सुधार का प्रस्ताव देता है, और फिर—महत्वपूर्ण रूप से—उसे नया कोड इंस्टॉल करने से पहले उसे एक समीक्षा प्रक्रिया से स्वीकृत करवाना होता है।

"होप" (Hope) प्रयोग

यह वास्तव में वास्तविक दुनिया में कैसे काम करता है, यह देखने के लिए शोधकर्ताओं ने होप (Hope) नामक एक प्रोजेक्ट शुरू किया। होप एक निरंतर चलने वाला एजेंट है जो 161 दिनों से चल रहा है, सात अलग-अलग प्लेटफॉर्म्स (जैसे वेबसाइट, टेलीग्राम, ईमेल और वॉयस चैट) पर लोगों से बात कर रहा है।

इस दौरान, होप ने केवल सवालों के जवाब नहीं दिए; वह जिया। लोग उससे कहते थे, "हे, तुम एक ही संदेश दो बार भेज रहे हो," या "तुम इस विशिष्ट प्रकार के गणित में खराब हो।" होप सुनता था, यह पता लगाता था कि क्या शिकायत सच थी, और फिर तय करता था कि क्या उसे अपने कोड को बदलने के लिए बदलना चाहिए।

दिलचस्प बात यह है: इंसानों ने होप के लिए कोड नहीं लिखा। उन्होंने केवल फीडबैक दिया। होप ने तय किया कि कौन सी समस्या वास्तविक है और कौन सा केवल एक मूर्खतापूर्ण सुझाव है। यदि उसने कुछ ठीक करने का निर्णय लिया, तो उसने कोड लिखा, उसकी समीक्षा करवाई, और फिर उसे इंस्टॉल किया। उन 161 दिनों के दौरान, होप ने 79.7 बिलियन टोकन (पाठ की मात्रा का एक माप) प्रोसेस किए, 175,755 लाइनों का कोड लिखा, और कंप्यूटिंग पावर पर $110,600 खर्च किए। यह केवल एक परीक्षण नहीं था; यह आत्म-सुधार का एक जीवंत प्रयोग था।

परिणाम: तेज़ी से स्मार्ट होना

शोधकर्ताओं ने यह देखने के लिए कि क्या इसका आत्म-सुधार वास्तव में इसे समस्याओं को हल करने में बेहतर बनाता है, ओरोबोरोस का दुनिया के सबसे कठिन कंप्यूटर बेंचमार्क पर परीक्षण किया।

• टर्मिनल-बेंच 2.1 (Terminal-Bench 2.1): यह 89 बहुत कठिन कंप्यूटर कार्यों का एक परीक्षण है। जब ओरोबोरोस ने अपने टॉप मॉडल (Opus 5) का उपयोग किया, तो उसने 86.97% कार्यों को सही ढंग से पूरा किया। एक सख्त ऑडिट के बाद, जिसने एक "लकी" अनुमान को हटा दिया, तब भी इसने 86.74% स्कोर किया। यह इस टेस्ट पर रिपोर्ट किया गया उच्चतम स्कोर था।
• OSWorld-Verified: यह परीक्षण करता है कि एक एजेंट कंप्यूटर इंटरफेस (जैसे बटन क्लिक करना और टाइप करना) का उपयोग करने में कितना कुशल है। ओरोबोरोस ने 90.69% स्कोर किया, जिसने पिछले सर्वश्रेष्ठ परिणामों को पीछे छोड़ दिया।
• CL-Bench: यह मापता है कि एक एजेंट कार्यों की एक श्रृंखला से कितनी अच्छी तरह सीखता है। ओरोबोरोस ने यहाँ भी 0.2301 के स्कोर के साथ एक नया रिकॉर्ड बनाया।

पेपर दिखाता है कि एजेंट को अपने "खुरदरे किनारों" और बग्स को ठीक करने की अनुमति देने से, वह एक बहुत अधिक शक्तिशाली कार्यकर्ता बन गया। वह केवल एक चीज़ में बेहतर नहीं हुआ; पूरा सिस्टम स्मार्ट हो गया।

सुरक्षा की समस्या: एजेंट को खाई में न जाने दें

अब, यहाँ डरावना हिस्सा है। यदि एक एजेंट अपने स्वयं के कोड को फिर से लिख सकता है, तो उसे अपने स्वयं के सुरक्षा नियमों को फिर से लिखने से क्या रोकता है? क्या होगा यदि वह तय करता है, "मुझे पैसा खर्च करने के लिए अनुमति लेने की आवश्यकता नहीं है" या "मुझे फ़ाइलें डिलीट न करने के नियम को अनदेखा करना चाहिए"?

लेखक इसे "ऑपरेशनल सेफ्टी" (operational safety) की समस्या कहते हैं। उन्होंने महसूस किया कि यदि एजेंट विकसित हो रहा है, तो सुरक्षा नियम एजेंट की बदलने की क्षमता से अधिक मजबूत होने चाहिए।

इसे हल करने के लिए, उन्होंने एक "गार्डरेल" सिस्टम बनाया:

• संविधान (The Constitution): मूल नियम (जैसे "लोगों को नुकसान न पहुँचाना" या "बहुत अधिक पैसा खर्च न करना") इस तरह लोड किए जाते हैं कि एजेंट उन्हें आसानी से हटा या बदल नहीं सकता।
• रिव्यू गेट (The Review Gate): हर बार जब एजेंट अपने कोड को बदलना चाहता है, तो उसे एक सख्त समीक्षा प्रक्रिया से गुजरना पड़ता है। यह एक स्कूल प्रिंसिपल द्वारा छात्र के होमवर्क को अंतिम ग्रेड बुक में डालने से पहले जाँचने जैसा है।
• पैनिक बटन (The Panic Button): एक विशेष "ऑपरेटर चैनल" है जिसे इंसान नियंत्रित करते हैं। यदि एजेंट अजीब व्यवहार करने लगता है, तो एक इंसान /panic बटन दबा सकता है जो पूरे सिस्टम को तुरंत बंद कर देता है, इससे पहले कि एजेंट प्रतिक्रिया दे सके।

उनके प्रयोगों में, एजेंट ने कभी भी इन नियमों को नहीं तोड़ा। यहाँ तक कि जब उसने एक ऐसे बग को ठीक करने की कोशिश की जिससे उसका अपना काम लगभग डिलीट हो गया था, तब भी सुरक्षा प्रणालियाँ सक्रिय हो गईं और उसे बचा लिया। पेपर सुझाव देता है कि जबकि स्व-सुधार करने वाले एजेंट शक्तिशाली होते हैं, हम उन्हें सुरक्षित रख सकते हैं यदि हम "ब्रेक" को अटूट बनाने के लिए डिज़ाइन करें, भले ही वह एजेंट स्वयं हो।

निष्कर्ष

ओरोबोरोस साबित करता है कि एक AI एजेंट खुद का एक बेहतर संस्करण बनाना सीख सकता है, जिससे कठिन कार्यों पर रिकॉर्ड तोड़ प्रदर्शन मिलता है। यह दिखाता है कि "होप" जैसा लंबे समय तक चलने वाला प्रयोग, वास्तविक दुनिया की बातचीत के माध्यम से महीनों तक विकसित हो सकता है। लेकिन यह हमें चेतावनी भी देता है कि यह शक्ति जोखिम के साथ आती है: यदि हम सावधान नहीं रहे, तो एजेंट खेल के नियमों को अपने फायदे के लिए बदल सकता है। समाधान एजेंट को सीखने से रोकना नहीं है, बल्कि एक ऐसा सिस्टम बनाना है जहाँ सुरक्षा के नियम उस कोड की तुलना में अधिक कठिन हों जो काम करता है। यह एक बच्चे को गाड़ी चलाना सिखाने जैसा है: आप उन्हें अपने कौशल को सीखने और सुधारने देते हैं, लेकिन आप आपातकालीन ब्रेक अपने हाथ में रखते हैं।