12604 articoli
Questo lavoro introduce il framework Logits Convex Optimization (LCO), che colma il divario di stabilità tra l'addestramento supervisionato e il reinforcement learning nei grandi modelli linguistici sfruttando la convessità dei logit per garantire un'ottimizzazione più stabile ed efficace rispetto ai metodi tradizionali come PPO.
Questo articolo stabilisce una fondazione decisionale per l'uso della perdita di Nash-Sutcliffe nell'addestramento e nella valutazione di modelli su più serie temporali, dimostrando che minimizzarla equivale a stimare una media ponderata dei dati e permettendo così di gestire in modo coerente serie stazionarie con proprietà stocastiche diverse.
Questo lavoro estende l'analisi delle proprietà di generalizzazione dei metodi a caratteri casuali ai kernel a valori operatore, fornendo un quadro teorico unificato per le reti neurali e gli operatori neurali che stabilisce tassi di apprendimento ottimali e condizioni sulla quantità di neuroni necessari.
Questo paper propone il framework ICS-RL, che combina la previsione delle intenzioni nemiche tramite LSTM con un meccanismo di sinergia contestuale e agenti DQN eterogenei, permettendo ai droni autonomi di prendere decisioni proattive e adattive che massimizzano il successo della missione e riducono l'esposizione in ambienti aerei contesi.
Il paper presenta HiMAC, un framework di apprendimento per rinforzo gerarchico che scompone il processo decisionale a lungo termine in pianificazione macro e esecuzione micro, ottenendo prestazioni superiori e una maggiore efficienza nel campionamento rispetto ai metodi esistenti su diversi ambienti complessi.
Il framework SoberDSE risolve il problema della selezione algoritmica nella esplorazione dello spazio di progettazione (DSE) per la Sintesi di Alto Livello, superando gli stati dell'arte tramite un meccanismo di apprendimento automatico che identifica dinamicamente l'algoritmo più performante per ogni istanza specifica, garantendo risultati superiori anche in scenari con pochi dati.
Questo articolo presenta MiM-MU, un metodo innovativo per l'oblio delle macchine nei modelli di diffusione testo-immagine che elimina i concetti indesiderati minimizzando l'informazione reciproca, ottenendo così una rimozione efficace senza compromettere la qualità delle generazioni rimanenti e senza richiedere alcuna compensazione post-remediale.
Questa lettera propone DWAFM, un nuovo modello di previsione del traffico che integra un'embedding dinamica di grafi pesati con meccanismi di attenzione e MLP nel dominio della frequenza per catturare efficacemente le dipendenze spazio-temporali complesse e dinamiche nei dati del traffico.
Il paper introduce AG-REPA, una strategia di selezione causale dei livelli basata sull'ablatione per guidare l'allineamento delle rappresentazioni nel Flow Matching audio, dimostrando che l'addestramento è più efficace quando si allineano i livelli che guidano causalmente il campo di velocità piuttosto che quelli semplicemente ricchi di informazioni rappresentative.
Gli autori propongono FW-MRS, un algoritmo di sottocampionamento rappresentativo pesato per le feature che riduce l'impatto delle variabili fortemente distorte durante il debiasing, preservando al contempo le prestazioni di generalizzazione sui compiti successivi senza alterare significativamente le variabili già rappresentative.
Il paper propone BadRSSD, il primo attacco backdoor che compromette lo strato di rappresentazione dei modelli di diffusione auto-supervisionati, manipolando lo spazio latente tramite PCA e vincoli coordinati per generare immagini target specifiche in modo stealthy mantenendo l'alta utilità del modello.
Il paper presenta One-Token Verification (OTV), un metodo efficiente che stima la correttezza del ragionamento in un singolo passaggio durante la generazione, riducendo significativamente la latenza e l'uso dei token rispetto alle tecniche di verifica tradizionali.
Il paper propone Fed-ADE, un framework federato non supervisionato che stima le dinamiche di incertezza e di rappresentazione per adattare dinamicamente il tasso di apprendimento in modo specifico per ogni client, garantendo una robusta post-adattamento in scenari con distribuzione non stazionaria.
Il paper presenta Thoth, una nuova famiglia di modelli linguistici di grandi dimensioni sottoposti a un'addestramento intermedio ("mid-training") sul corpus Book-of-Thoth, che conferisce loro capacità di comprensione e ragionamento sui dati temporali, superando le limitazioni dei modelli esistenti e dimostrando prestazioni superiori su benchmark specifici come KnoTS.
Questo lavoro colma il divario tra gli approcci basati su valori e su politiche nei GFlowNet introducendo un obiettivo di bilanciamento della valutazione su episodi parziali che migliora l'affidabilità e la flessibilità dell'addestramento, permettendo l'uso di politiche di ritorno parametriche e di dati offline.
Il paper presenta CausalSAGE, un nuovo framework di raffinamento che risolve l'incertezza causale nei grafi ancestrali parziali (PAG) trasformandoli in grafi aciclici diretti (DAG) attraverso l'espansione delle variabili discrete, vincoli strutturali e un'ottimizzazione differenziabile unificata.
Questo studio dimostra che le tecniche di distillazione dei dataset, spesso considerate sicure per la privacy, possono effettivamente rivelare informazioni sensibili attraverso un nuovo attacco chiamato Information Revelation Attack (IRA) che sfrutta le traiettorie dei pesi codificate nei dati sintetici per inferire l'algoritmo di distillazione, l'architettura del modello e persino recuperare campioni originali.
Il documento propone un innovativo schema multigrid neurale che sostituisce i classici smussatori con operatori neurali addestrati a livello di griglia per risolvere efficientemente e con robustezza le equazioni integrali, superando i limiti dei metodi tradizionali nella riduzione degli errori ad alta frequenza.
Il paper presenta LLaDA-o, un modello di diffusione omni multimodale basato su un framework Mixture of Diffusion e una strategia di adattamento della lunghezza dei dati, che ottiene prestazioni all'avanguardia nella comprensione e generazione multimodale.
Questo studio presenta un metodo basato su reti neurali grafiche (GNN) per ricostruire con precisione le strutture a piccola scala nei flussi reattivi turbolenti su mesh complesse e non strutturate, superando i limiti degli attuali modelli di deep learning e migliorando l'accuratezza delle simulazioni a grana grossa.