9241 articoli
Il paper propone l'algoritmo FlexDOME, il primo metodo a garantire teoricamente una violazione dei vincoli forte quasi costante, un regret sublineare e la convergenza all'ultima iterazione nell'apprendimento per rinforzo online sicuro per processi decisionali di Markov vincolati, ottenuti attraverso margini di sicurezza decrescenti e regolarizzazione in un quadro primal-dual.
Il paper presenta MoToRec, un framework innovativo che risolve il problema del cold-start nelle raccomandazioni trasformando i dati multimodali in token semantici discreti tramite un RQ-VAE regolarizzato con sparsità, migliorando significativamente le prestazioni rispetto agli stati dell'arte.
Il documento presenta Fun-DDPS, un framework generativo che combina modelli di diffusione nello spazio delle funzioni con surrogati neurali differenziabili per superare le sfide dei problemi inversi nella cattura e stoccaggio del carbonio, ottenendo risultati significativamente più precisi ed efficienti rispetto ai metodi deterministici e alle tecniche di campionamento tradizionali.
Il paper presenta dXPP, un framework di differenziazione basato su penalità che decolla la risoluzione di problemi di programmazione quadratica (QP) dalla fase di differenziazione, consentendo l'uso di solver black-box e migliorando efficienza e robustezza rispetto ai metodi tradizionali basati sul sistema KKT.
Questo studio dimostra che ottimizzatori basati su momentum come Adam e Muon, quando applicati a reti neurali omogenee lisce, seguono traiettorie approssimate di discesa ripida normalizzata con un tasso di apprendimento decrescente, portando a una bias implicito verso punti KKT di problemi di massimizzazione del margine la cui identità dipende dalla norma scelta dall'ottimizzatore.
Il paper propone un metodo per selezionare l'ordine ottimale delle variabili nei modelli di Ising autoregressivi, sfruttando la struttura del campo casuale di Markov sottostante per ridurre la complessità del modello e migliorare la qualità dei campioni generati rispetto agli ordini variabili naive.
Questa guida fornisce un quadro modulare per derivare limiti di regret ad alta probabilità nell'Empirical Risk Minimization, organizzando le dimostrazioni in una ricetta a tre passaggi basata sulla complessità di Rademacher localizzata e estendendo l'analisi ai casi con componenti di disturbo, inclusi gli scenari in cui i dati sono condivisi tra la stima dei disturbi e l'ERM.
Il paper presenta SigmaQuant, un framework di quantizzazione eterogenea adattivo e consapevole dell'hardware che bilancia efficienza e accuratezza nell'inferenza di DNN su dispositivi edge senza richiedere una ricerca esaustiva dello spazio di progettazione.
Il paper propone PSQE, un approccio teorico-pratico che migliora l'allineamento di entità multimodale non supervisionato potenziando la qualità e l'equilibrio dei pseudo-seed tramite informazioni multimodali e ricampionamento, risolvendo così il problema della copertura sbilanciata del grafo e migliorando le prestazioni dei modelli basati su apprendimento contrastivo.
Questo lavoro propone un sistema di memoria neurale generalizzato che consente aggiornamenti flessibili e selettivi basati su istruzioni in linguaggio naturale, permettendo agli agenti adattivi di gestire fonti di informazioni eterogenee in ambienti non stazionari senza i costi e la fragilità delle tecniche di adattamento tradizionali.
Il paper presenta FlexGuard, un moderatore di contenuti LLM basato su un punteggio di rischio continuo e calibrato che supera le limitazioni dei classificatori binari fissi, garantendo una maggiore robustezza e adattabilità a diversi livelli di severità nell'applicazione delle regole di sicurezza.
Questo articolo presenta un operatore neurale basato su integrali di contorno (BINO) che risolve efficientemente problemi di deformazione di mesh formulandoli come equazioni di elasticità lineare, permettendo di calcolare i campi di spostamento interni direttamente dalle condizioni al contorno con elevata accuratezza e rispetto dei principi fisici.
Questo lavoro estende le garanzie teoriche dell'apprendimento per rinforzo offline a spazi di azione grandi o continui utilizzando politiche parametriche, superando i limiti degli algoritmi precedenti basati sulla discesa dello specchio per stato e rivelando una sorprendente unificazione tra RL offline e apprendimento per imitazione.
Questo lavoro fornisce una teoria geometrica formale dell'"alignment tax" nello spazio delle rappresentazioni, definendo il suo tasso come proiezione quadrata della direzione di sicurezza sul sottospazio delle capacità, derivando un fronte di Pareto ricorsivo e una legge di scala che scompone il costo in una componente irriducibile e un residuo di impacchettamento.
Questo studio presenta un modello linguistico addestrato su 5,8 milioni di cartelle cliniche di 1,8 milioni di pazienti in Danimarca orientale che, oltre a raggiungere elevate prestazioni nell'automazione della codifica ICD-10, ha rivelato un sistematico sottocodificamento delle diagnosi secondarie con implicazioni significative per la ricerca epidemiologica e la sorveglianza sanitaria.
Il paper introduce CoPeP, un nuovo benchmark per valutare l'apprendimento continuo nei modelli linguistici proteici, dimostrando che l'incorporazione di metadati temporali e l'uso di metodi specifici migliorano le prestazioni rispetto all'addestramento congiunto tradizionale.
Il paper propone IDER, un nuovo approccio basato sulla proprietà di idempotenza che, integrando una distillazione dell'idempotenza con i metodi di replay esistenti, risolve il problema della dimenticanza catastrofica migliorando al contempo l'accuratezza e l'affidabilità delle previsioni nell'apprendimento continuo.
Il paper presenta BornoViT, un modello Vision Transformer leggero ed efficiente con soli 0,65 milioni di parametri, che classifica con successo i caratteri e le cifre scritti a mano in bengalese raggiungendo un'accuratezza del 95,77% sul dataset BanglaLekha e del 91,51% su un dataset autonomo, offrendo una soluzione ottimizzata per ambienti con risorse limitate.
Questo lavoro fornisce un quadro teorico unificato che dimostra come l'ottimizzazione della politica relativa ai gruppi (GRPO) sia una statistica U, permettendo di derivare limiti di errore, dimostrare l'equivalenza asintotica con un algoritmo "oracolo" e stabilire una legge di scalatura universale per la dimensione del gruppo.
Questo studio applica la Teoria dell'Apprendimento Singolare (SLT) per interpretare il fenomeno del "grokking" come una transizione di fase tra bacini di soluzione competitivi, derivando espressioni analitiche per il coefficiente di apprendimento locale e fornendo evidenze empiriche che collegano tale coefficiente alla dinamica di generalizzazione nelle reti quadratiche.