Risk-Aware Self-Play Reinforcement Learning for Secure and Capable Code-Generating Agents
यह शोध पत्र कोड-जनरेटिंग एजेंटों के लिए जोखिम-जागरूक (risk-aware) सेल्फ-प्ले सुदृढीकरण शिक्षण (reinforcement learning) की जांच करता है, और यह प्रदर्शित करता है कि जबकि वेरीफायर-अवेयर रिवॉर्ड्स, केवल सार्वजनिक-परीक्षण-आधारित दृष्टिकोणों की तुलना में सुरक्षा उल्लंघनों को काफी कम कर देते हैं, यह विधि सुरक्षा व्याख्या और अंतरण क्षमता (transferability) की सीमाओं के कारण एक सुसंगत सेल्फ-प्ले लाभ या औपचारिक परिनियोजन गारंटी स्थापित करने में विफल रहती है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।