Uncovering a Winning Lottery Ticket with Continuously Relaxed Bernoulli Gates
Questo lavoro propone il primo approccio completamente differenziabile per scoprire le "Strong Lottery Tickets" utilizzando porte di Bernoulli rilassate in modo continuo, permettendo di ottenere reti neurali sparse fino al 90% con perdita minima di accuratezza attraverso l'ottimizzazione end-to-end dei parametri di gating senza modificare i pesi inizializzati.