PACE-Bench: Benchmarking Physics Adaptation via Code Evolution in Dynamic Environments
यह शोध पत्र PACE-Bench प्रस्तुत करता है, जो एक सिम्युलेटर-आधारित बेंचमार्क है जिसे भौतिक वातावरण बदलने पर स्वयं-विकसित एजेंटों की कोड-आधारित व्यवहारों को अनुकूलित करने की क्षमता का मूल्यांकन करने के लिए डिज़ाइन किया गया है, जो यह प्रकट करता है कि वर्तमान विधियाँ तंत्र पुनर्गठन (mechanism redesign) में संघर्ष करती हैं और सिम्युलेटर-आधारित प्रतिबिंब (simulator-grounded reflection), अपुष्ट स्व-सुधार (unverified self-revision) की तुलना में बेहतर प्रदर्शन करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को पुल बनाना सिखा रहे हैं। आप उसे एक ऐसा पुल बनाना सिखाते हैं जो सूखी, ठोस जमीन पर पूरी तरह से काम करता है। रोबोट नियम सीखता है, कोड लिखता है, और एक मजबूत संरचना बनाता है। अब, कल्पना कीजिए कि आपने चुपके से उस जमीन को हटाकर उसकी जगह बर्फ की एक चादर बिछा दी। जो पुल कल तक पूरी तरह से काम कर रहा था, वह आज तुरंत ढह गया। यह कई स्मार्ट कंप्यूटर प्रोग्रामों की दैनिक वास्तविकता है: वे एक स्थिर दुनिया में निर्देशों का पालन करने में माहिर हैं, लेकिन जब खेल के नियम अचानक बदल जाते हैं, तो वे अक्सर ठप हो जाते हैं।
वैज्ञानिक "स्व-विकसित एजेंटों" (self-evolving agents) को बनाने की कोशिश कर रहे हैं—ऐसे AI सिस्टम जो अपनी गलतियों से सीख सकें और बिना किसी इंसान द्वारा "रीसेट" बटन दबाए खुद को ठीक कर सकें। इन एजेंटों को एक ऐसे वीडियो गेम चरित्र की तरह समझें जो केवल एक मैप को याद नहीं करता, बल्कि गड्ढे में गिरने के बाद अपने स्वयं के कैरेक्टर शीट को फिर से लिखता है। बड़ा सवाल यह है कि यदि दुनिया के भौतिक नियम बदल जाते हैं (जैसे गुरुत्वाकर्षण बढ़ जाता है या घर्षण गायब हो जाता है), तो क्या ये एजेंट यह पता लगा पाएंगे कि उनका पुराना समाधान क्यों विफल हुआ और क्या वे एक बिल्कुल नया समाधान ईजाद कर पाएंगे? यह केवल उत्तर जानने के बारे में नहीं है; यह यह जानने के बारे में है कि जब ईंधन बदल जाए तो इंजन को कैसे पुनर्गठित किया जाए।
यही वह चीज़ है जिसे नया पेपर, PACE-Bench, परखने का प्रयास करता है। शोधकर्ताओं ने एक विशाल डिजिटल खेल का मैदान यानी एक "बेंचमार्क" बनाया ताकि यह देखा जा सके कि ये स्व-सुधार करने वाले रोबोट भौतिकी में अचानक आए बदलावों को कितनी अच्छी तरह संभालते हैं। उन्होंने केवल AI को एक पहेली हल करने के लिए नहीं कहा; उन्होंने उसे एक ऐसी पहेली दी जिसे उसने पहले ही हल कर लिया था, और फिर चुपके से ब्रह्मांड के नियम बदल दिए और पूछा, "क्या तुम अपने समाधान को ठीक कर सकते हो?"
खेल: PACE-Bench
शोधकर्ताओं ने छह अलग-अलग "भौतिक दुनियाओं" में 144 विभिन्न चुनौतियाँ बनाईं, जिनमें सरल स्थिर संरचनाओं (जैसे एक पुल) से लेकर जटिल, डगमगाती गतिकी (जैसे एक झूलता हुआ पेंडुलम या कीचड़ में चलती हुई गाड़ी) तक शामिल हैं।
यह खेल इस प्रकार काम करता है:
- स्रोत (The Source): एक AI एजेंट को एक कार्य और एक "स्रोत वातावरण" (जैसे, 10 मीटर के अंतराल पर एक पुल बनाना) दिया जाता है। वह एक पुल बनाने के लिए एक कंप्यूटर प्रोग्राम लिखता है जो काम करता है।
- मोड़ (The Twist): वातावरण में बदलाव किया जाता है। अंतराल अचानक 20 मीटर हो सकता है, हवा बगल से बह सकती है, या सामग्रियां भंगुर (brittle) हो सकती हैं। पुराना पुल कोड अब विफल हो जाता है।
- चुनौती (The Challenge): एजेंट के पास विफलता को देखने, यह अनुमान लगाने के लिए कि क्या बदला है, और नई परिस्थितियों में काम करने वाला नया पुल बनाने के लिए अपने कोड को फिर से लिखने के लिए 20 प्रयास होते हैं। महत्वपूर्ण बात यह है कि एजेंट को ठीक-ठीक नहीं बताया जाता कि क्या बदला है। उसे मिलने वाले फीडबैक (जैसे "आपका पुल टूट गया क्योंकि अत्यधिक बल के कारण जोड़ टूट गया") से उसे नई भौतिकी का अनुमान लगाना होता है।
परिणाम: टेस्ट में कौन पास हुआ?
शोधकर्ताओं ने विभिन्न AI मॉडलों का उपयोग करके 10 अलग-अलग स्व-विकसित विधियों (AI द्वारा खुद को ठीक करने के विभिन्न तरीकों) का परीक्षण किया। परिणाम चौंकाने वाले थे:
- बेंचमार्क कठिन है: सबसे स्मार्ट AI मॉडल भी संघर्ष करते रहे। सबसे अच्छा संयोजन (एक विधि जिसे Reflexion कहा जाता है और एक बड़े मॉडल के साथ) केवल 35.9% चुनौतियों पर सफल रहा। यहाँ तक कि एक शीर्ष-स्तरीय मॉडल जिसे GPT-5.5 कहा जाता है, वह भी आसान "Statics" उपसमूह के 66.7% हिस्से को ही हल कर पाया। इसका मतलब है कि बेंचमार्क अभी भी "सुलझा हुआ" नहीं है; AI कितनी अच्छी तरह नई भौतिक वास्तविकताओं के अनुकूल हो सकता है, इसमें अभी भी एक बड़ा अंतर है।
- रिफ्लेक्शन (Reflection) जीतता है, ब्लाइंड रिवीज़न (Blind Revision) हारता है: सबसे सफल रणनीति Reflexion थी। यह विधि AI को रुकने और सोचने के लिए मजबूर करती है: "मैं X के कारण विफल हुआ, इसलिए मुझे Y करना चाहिए।" यह एक छात्र की तरह है जो दोबारा प्रयास करने से पहले यह देखने के लिए कि उसने प्रश्न गलत क्यों किया, अपने टेस्ट की समीक्षा करता है। इसके विपरीत, वे विधियाँ जो बिना यह जांचे कि नया विचार तर्कसंगत है या नहीं, केवल कोड को बार-बार लिखते रहे (जिन्हें Self-Refine कहा जाता है), अक्सर चीजों को और खराब कर देते हैं, जिससे त्रुटियां बढ़ती जाती हैं।
- स्मृति एक जाल हो सकती है: कुछ विधियों ने नए समस्याओं में मदद करने के लिए पिछले सफलताओं को याद रखने की कोशिश की। हालाँकि, पेपर में पाया गया कि यह अक्सर AI को उसके पुराने, टूटे हुए विचारों से "लंगर" (anchor) की तरह बांध देता था। नए समाधानों की खोज करने के बजाय, AI उसी पुराने पुल में बदलाव करने की कोशिश करता रहा जो पहले से ही विफल होने वाला था, इस व्यवहार को लेखकों ने डिज़ाइन फिक्सेशन (Design Fixation) कहा है।
- बिना अभिसरण के खोज (Searching Without Converging): अन्य विधियों ने एक साथ कई अलग-अलग विचारों को खोजने की कोशिश की (जैसे एक पेड़ जो कई शाखाएं उगाता है)। हालांकि यह कुछ समाधान खोजने में अच्छा था, लेकिन यह अक्सर 20-प्रयास की सीमा के भीतर सबसे अच्छा समाधान खोजने में विफल रहा, और अनंत प्रयोगों के लूप में फंस गया।
बड़ी खोज: "क्या" जानना बनाम "कैसे" जानना
शायद सबसे आश्चर्यजनक खोज एक विशिष्ट प्रयोग से आई। शोधकर्ताओं ने AI की मदद करने के लिए उसे ठीक-ठीक बताया कि क्या बदला है (जैसे, "घर्षण अब 0.5 है")। आप सोच सकते हैं कि इससे कार्य आसान हो जाएगा।
ऐसा नहीं हुआ। भले ही AI को नई भौतिकी के सटीक नंबर पता थे, फिर भी वह समस्या को हल नहीं कर सका। यह सुझाव देता है कि असली बाधा पैरामीटर अनुमान (parameter inference) (यह पता लगाना कि नंबर क्या हैं) नहीं है; बल्कि मैकेनिज्म रीडिज़ाइन (mechanism redesign) (यह समझना कि उन नंबरों के साथ काम करने के लिए संरचना को कैसे फिर से बनाया जाए) है। हवा की गति 50 मील प्रति घंटा है, यह जानना तब तक काम नहीं आता जब तक आपको यह न पता हो कि उस हवा का सामना करने के लिए पुल को कैसे नया आकार दिया जाए।
यह क्यों महत्वपूर्ण है
पेपर निष्कर्ष निकालता है कि जबकि AI स्थिर समस्याओं को हल करने में बेहतर हो रहा है, यह अनुकूलन करने में अभी भी बहुत अनाड़ी है जब दुनिया बदल जाती है। वर्तमान "स्व-विकसित" उपकरण अक्सर बहुत कठोर, अपने पहले विचारों पर बहुत अधिक टिके हुए, या बहुत अराजक होते हैं जो एक स्थिर समाधान खोजने में विफल रहते हैं।
लेखक सुझाव देते हैं कि AI के वास्तव में आजीवन सीखने वाला बनने के लिए, इसे केवल पैरामीटर को ट्यून करने के बजाय मैकेनिज्म को रीडिज़ाइन करने में बेहतर होना होगा। PACE-Bench इस परीक्षण के लिए एक पुनरुत्पादक (reproducible) तरीका प्रदान करता है, जो अगली पीढ़ी के AI के लिए एक "स्ट्रेस टेस्ट" के रूप में कार्य करता है जो हमारी जटिल, परिवर्तनशील वास्तविक दुनिया में काम करने की उम्मीद रखता है। फिलहाल, पेपर सुझाव देता है कि हम अभी भी एक ऐसे AI से बहुत दूर हैं जो बर्फ पर गिरे हुए पुल को देख सके और तुरंत जान सके कि एक बेहतर पुल कैसे बनाया जाए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।