342 articoli
Questo studio analizza le proprietà fondamentali delle funzioni paraconvexe e la convergenza dei metodi di subgradiente proiettato per il loro ottimizzazione, validando teoricamente e numericamente l'efficacia di tali metodi nel recupero robusto di matrici a basso rango.
Questo articolo dimostra l'esistenza della maledizione della dimensionalità nell'ottimizzazione delle reti neurali, stabilendo che il rischio di popolazione non può decadere più velocemente di un tasso specifico dipendente dalla dimensionalità e dalla regolarità della funzione target, sia nel caso di funzioni di attivazione Lipschitziane che di quelle localmente Lipschitziane.
Il paper propone e analizza Clip21-SGD2M, un nuovo metodo per l'apprendimento federato che combina clipping, momentum e feedback dell'errore per garantire simultaneamente ottimali tassi di convergenza e privacy differenziale anche in presenza di dati eterogenei e non convessi.
Questo articolo confronta diverse nozioni di non-rigidità dei vettori orizzontali nei gruppi di Carnot, motivate dalla caratterizzazione degli insiemi monotoni e dalle proprietà di estensione di Whitney.
Questo articolo propone un metodo di apprendimento inverso per rinforzo basato sull'entropia massima e su spazi di Hilbert a kernel riproducente per giochi di campo medio, che permette di inferire funzioni di ricompensa non lineari con garanzie teoriche di convergenza e superiori prestazioni empiriche rispetto agli approcci lineari tradizionali.
Questo articolo propone un algoritmo primale-duale accelerato inerziale, derivato dalla discretizzazione di un sistema differenziale del secondo ordine con scalatura temporale, per risolvere problemi di ottimizzazione convessa non liscia con vincoli di uguaglianza lineari, dimostrandone la rapida convergenza e l'efficacia attraverso esperimenti numerici.
Questo articolo propone un algoritmo di gradiente stocastico prossimale con riduzione della varianza e passo adattivo per l'ottimizzazione convessa composita, dimostrandone la convergenza forte, il tasso di convergenza e l'efficacia attraverso esperimenti numerici su regressione logistica e Lasso.
Questo lavoro presenta un nuovo quadro teorico basato su una formulazione matriciale per derivare limiti superiori e inferiori risolvibili in tempo polinomiale per il problema di scheduling flowshop permutazionale, dimostrando miglioramenti significativi sui benchmark Taillard e VRF e fornendo nuovi risultati asintotici che avanzano la comprensione dei limiti di qualità esistenti.
Questo articolo propone un nuovo algoritmo ADMM simmetrico decentralizzato per l'ottimizzazione composita su reti, che riduce il costo comunicativo totale e garantisce una convergenza lineare scambiando informazioni oltre i vicini immediati attraverso round multipli ottimizzati.
Il paper propone Deep FlexQP, un risolutore di programmazione quadratica convessa basato su un'architettura di deep unfolding che garantisce la fattibilità e accelera significativamente la risoluzione di problemi di ottimizzazione non lineare, superando gli stati dell'arte in termini di velocità e successo in applicazioni come l'ottimizzazione di traiettorie e i filtri di sicurezza predittivi.
Il paper propone D-APDB, un metodo distribuito accelerato primal-duale con backtracking che risolve problemi di ottimizzazione vincolata decentralizzata adattandosi automaticamente alle costanti di regolarità sconosciute e garantendo un tasso di convergenza ottimale di senza richiedere conoscenze preliminari delle costanti di Lipschitz.
Questo lavoro stabilisce garanzie di convergenza più precise e rapide per l'ottimizzatore Muon attraverso un'analisi diretta e semplificata che non richiede ipotesi restrittive, migliorando così la comprensione teorica di questo metodo e delle tecniche di ottimizzazione ortogonalizzata in generale.
Il paper propone YuriiFormer, un framework variazionale che interpreta i layer dei transformer come iterazioni di un algoritmo di ottimizzazione, permettendo di progettare un'architettura accelerata con Nesterov che supera le prestazioni di un baseline nanoGPT su TinyStories e OpenWebText.
Questo articolo dimostra che il problema del flusso di lavoro permutazionale robusto sotto incertezza budgetizzata può essere risolto in tempo polinomiale per due macchine e approssimato per un numero fisso di macchine, riducendo il problema a un numero polinomiale di istanze del problema nominale tramite una tecnica di dualizzazione applicata a un obiettivo min-max.
Il documento dimostra che l'immagine reale del quoziente categorico è metricamente rara, un fenomeno che spiega come la geometria dello spazio di ottimizzazione guidi i punti critici e i minimi energetici verso stati ad alta simmetria con stabilizzatori non banali.
Questo lavoro presenta un metodo di ottimizzazione multistadio basato su scenari, che utilizza l'approccio delle particelle Fleming-Viot per generare scenari di eventi rari di bassa produzione eolica e solare, consentendo un controllo robusto e costo-efficace delle centrali convenzionali per mitigare i rischi di carenza di energia nei sistemi elettrici ad alta penetrazione di rinnovabili.
Questo articolo dimostra che l'ottimizzazione della politica per il controllo misto H2/H-infinito presenta una struttura non convessa benigna in cui ogni punto stazionario è globalmente ottimo, grazie a un nuovo framework di "Extended Convex Lifting" che caratterizza l'insieme ammissibile e fornisce formule esplicithe del gradiente per facilitare metodi scalabili.
Questo articolo propone un metodo di localizzazione basato sull'appartenenza a un insieme che, assumendo errori di misura limitati ma sconosciuti, caratterizza la posizione incognita tramite un insieme di localizzazione non convesso e ne calcola efficienti approssimazioni esterne (scatole o ellissoidi) e interne mediante programmazione convessa, offrendo un approccio geometrico diretto alternativo alle rilassamenti SDP.
Il lavoro presenta una soluzione probabilistica per problemi di controllo ottimo lineare-quadratico con vincoli sullo stato, fornendo una rappresentazione della funzione valore e un controllo ottimo in forma forte per mantenere il processo all'interno di un insieme dato, insieme a formule esplicite per casi rilevanti.
Questo lavoro dimostra che, per dati casuali ad alta dimensionalità, il bias implicito della discesa del gradiente su una rete neurale ReLU approssima con alta probabilità la soluzione a norma L2 minima, con un errore dell'ordine di , grazie a una nuova analisi primale-duale che traccia l'evoluzione delle previsioni e la rapida stabilizzazione dei pattern di attivazione.