Risk-Aware Self-Play Reinforcement Learning for Secure and Capable Code-Generating Agents

Questo articolo investiga l'apprendimento per rinforzo tramite self-play consapevole del rischio per gli agenti generatori di codice, dimostrando che, sebbene i premi basati sulla consapevolezza del verificatore riducano significativamente le violazioni della sicurezza rispetto agli approcci basati solo su test pubblici, il metodo non riesce a stabilire un vantaggio costante nel self-play o garanzie formali di implementazione a causa delle limitazioni nell'interpretazione della sicurezza e nella trasferibilità.

Autori originali: Yan-Cheng Hsu, Duo Xu, Ziwei Wang