Risk-Aware Self-Play Reinforcement Learning for Secure and Capable Code-Generating Agents
Diese Arbeit untersucht risikobewusstes Self-Play-Reinforcement-Learning für code-generierende Agenten und zeigt auf, dass, während verifizierer-bewusste Belohnungen Sicherheitsverletzungen im Vergleich zu rein auf öffentlichen Tests basierenden Ansätzen signifikant reduzieren, die Methode keinen konsistenten Self-Play-Vorteil oder formale Einsatzgarantien etablieren kann, was auf Einschränkungen in der Sicherheitsinterpretation und Übertragbarkeit zurückzuführen ist.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.