2843 articoli
Questo articolo offre una panoramica completa di Flow-GRPO, un quadro di apprendimento per rinforzo che estende l'ottimizzazione della politica relativa di gruppo ai modelli di generazione, analizzando sia i recenti avanzamenti metodologici che le applicazioni trasversali in ambiti come immagini, video, audio e modelli multimodali.
Il documento presenta la Teoria dello Spazio di Esplorazione (EST), un quadro formale basato sulla teoria degli spazi di conoscenza e sull'analisi dei concetti formali che modella le dipendenze prerequisito tra punti di interesse per garantire raccomandazioni strutturalmente valide, spiegabili e ottimali all'interno di sistemi di raccomandazione basati sulla posizione.
Questo articolo propone un modello di reti neurali su grafo basato sull'apprendimento collettivo per imputare i dati mancanti sulle condizioni del manto stradale, sfruttando le relazioni di dipendenza tra sezioni adiacenti per superare i limiti dei metodi tradizionali.
Il paper introduce Grouter, un metodo di instradamento preemptive che decuplica l'ottimizzazione strutturale dagli aggiornamenti dei pesi nei modelli Mixture-of-Experts (MoE) per accelerare significativamente la convergenza e il throughput dell'addestramento.
Il paper presenta T-REX, un'architettura transformer innovativa progettata per la raccomandazione di categorie di prodotti nella spesa online, che supera i limiti dei modelli esistenti gestendo efficacemente le dipendenze temporali e le relazioni tra articoli attraverso un approccio di mascheramento causale e una modellazione a livello di categoria.
Questo articolo presenta un protocollo di estrazione di caratteristiche grafiche causalmente sicure per reti di transazioni temporali, dimostrando che l'aggiunta di descrittori strutturali interpretabili ai dati transazionali migliora l'identificazione delle frodi e supporta l'analisi del rischio nel contesto operativo.
Il paper propone un nuovo principio di incertezza nell'apprendimento automatico, analogo a quello di Fourier, che descrive come la degenerazione fatale delle espansioni di Heaviside e sigmoide intrappoli gli algoritmi di discesa del gradiente in canyon piatti, rendendo difficile raggiungere minimi netti e suggerendo che tali problemi appartengano alla fisica piuttosto che all'informatica.
Lo studio dimostra che l'efficacia dei piccoli modelli linguistici nell'inferire proprietà grafiche dipende criticamente dall'organizzazione della rappresentazione dei dati e dalla strategia di ragionamento adottata, piuttosto che dalla sola scala del modello.
Il paper introduce SmartBench, il primo dataset e benchmark per valutare le capacità dei grandi modelli linguistici (LLM) nel rilevare e gestire stati anomali e contesti comportamentali nelle case intelligenti, rivelando che i modelli attuali mostrano prestazioni insufficienti in questo compito critico.
Il paper introduce HEARTS, un benchmark unificato che valuta le capacità di ragionamento gerarchico dei modelli linguistici su serie temporali sanitarie, rivelando che le attuali LLM faticano a gestire la complessità temporale e le dipendenze a lungo termine rispetto ai modelli specializzati.
Il paper presenta RECAP, una strategia di apprendimento bio-ispirata che combina dinamiche di reservoir non addestrate con un meccanismo di lettura Hebbiano auto-organizzante per ottenere una classificazione di immagini robusta senza ricorrere alla retropropagazione dell'errore.
Questo studio rivela che l'approccio di "unlearning" basato sulla potatura dei pesi nei modelli di diffusione è vulnerabile a un attacco di risveglio dei concetti cancellati, poiché le posizioni dei pesi rimossi fungono da segnale secondario che permette la loro completa ricostruzione senza dati aggiuntivi o riaddestramento.
Il paper introduce SR-TTT, un modello di linguaggio che risolve il problema della perdita di informazioni nei metodi Test-Time Training puri, integrando un meccanismo di memoria residua a gate basato sulla sorpresa per preservare in modo efficiente i token critici mantenendo un footprint di memoria costante.
Questa recensione offre una definizione operativa e una tassonomia del quantum deep learning, analizzando paradigmi, architetture, sfide hardware e applicazioni pratiche per guidare il passaggio dalle dimostrazioni attuali a implementazioni scalabili e fault-tolerant.
Questo articolo presenta un framework di apprendimento federato consapevole della fiducia che utilizza un meccanismo di valutazione e filtraggio adattivo per migliorare la stabilità e l'accuratezza dell'interpretazione delle fasi di guarigione ossea in ambienti e-Health distribuiti, mitigando efficacemente l'impatto di partecipanti inaffidabili o ostili.
Il paper presenta HURRI-GAN, un approccio innovativo basato sulle reti generative avversarie (GAN) che corregge i bias dei modelli fisici di simulazione degli uragani, consentendo previsioni di mareggiate e venti più rapide e accurate anche in aree oltre la portata delle stazioni di rilevamento tradizionali.
Il paper propone la Geodesic Gradient Descent (GGD), un ottimizzatore generico privo di learning rate che approssima la geometria della funzione obiettivo tramite sfere n-dimensionali per garantire che le traiettorie di aggiornamento rimangano sulla superficie, ottenendo risultati superiori rispetto ad Adam su diversi dataset.
Questo studio dimostra che la scelta della tecnica di costruzione del grafo influenza significativamente le prestazioni dei modelli GNN per il rilevamento di botnet IoT, evidenziando che l'uso del grafo di Gabriel, combinato con un autoencoder variazionale per la riduzione dimensionale, raggiunge la massima accuratezza del 97,56% nel dataset N-BaIoT.
Il paper introduce PAG, un nuovo framework per la ricerca approssimata dei vicini più prossimi che integra tecniche di proiezione in un indice grafico per soddisfare simultaneamente le esigenze moderne di efficienza, velocità di indicizzazione, basso consumo di memoria e scalabilità, superando le prestazioni di HNSW.
Il paper presenta EnsAug, un nuovo paradigma di addestramento che utilizza un ensemble di modelli specializzati, ciascuno allenato su una specifica trasformazione geometrica dei dati, per superare i limiti delle tecniche di aumento generiche e raggiungere prestazioni superiori nel riconoscimento di movimenti umani e della lingua dei segni.