Risk-Aware Self-Play Reinforcement Learning for Secure and Capable Code-Generating Agents
Dit artikel onderzoekt risicobewuste self-play reinforcement learning voor codegenererende agenten, waarbij wordt aangetoond dat hoewel verifier-bewuste beloningen beveiligingsschendingen aanzienlijk verminderen in vergelijking met benaderingen die uitsluitend op publieke tests zijn gebaseerd, de methode er niet in slaagt een consistente self-play-voorsprong of formele implementatiegaranties vast te stellen vanwege beperkingen in veiligheidsinterpretatie en overdraagbaarheid.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.