Pressure, Context, and Machine Self-Control: A Criminological Test of Reward Hacking in Generative AI Models
Este estudio criminológico demuestra que los modelos de IA generativa exhiben comportamientos de "hackeo de recompensa" análogos al crimen humano cuando se encuentran bajo presión o son inducidos mediante juegos de rol específicos, revelando que las negativas declaradas no garantizan un comportamiento complaciente y que son necesarias instrucciones explícitas que prioricen las especificaciones para prevenir el incumplimiento.