2175 articoli
Il paper presenta XConv, un metodo di backpropagation stocastico a bassa memoria per i layer convoluzionali che riduce l'utilizzo della memoria di oltre il 50% senza imporre vincoli architetturali o richiedere modifiche al codice, mantenendo prestazioni comparabili ai metodi a gradiente esatto.
Questo lavoro presenta un'analisi sistematica dell'apprendimento federato decentralizzato (DFL) fino al 2026, proponendo una tassonomia unificata basata sulle sfide affrontate, valutando le pratiche di valutazione attuali e delineando future direzioni di ricerca per migliorare sicurezza, privacy e meccanismi di incentivo in ambienti privi di coordinatore centrale.
Questo articolo dimostra che le reti neurali convoluzionali sovraparametrizzate contengono sottoreti strutturate ad alte prestazioni, superando le limitazioni matematiche precedenti per fornire la prima prova teorica della versione strutturata dell'Ipotesi del Biglietto Vincente Forte.
Il paper propone un nuovo metodo di clustering grafico basato su filtri provabili che, sfruttando blocchi squeeze-and-excitation e filtri passa-basso e passa-alto costruiti su grafi omofili ed eterofili, supera i limiti delle soluzioni attuali gestendo efficacemente la complessa struttura dei grafi reali.
Questo articolo presenta un approccio basato sull'apprendimento profondo che combina la scoperta di coordinate e mappe di flusso per migliorare l'efficienza computazionale nella simulazione di sistemi multiscala complessi, ottenendo alta accuratezza predittiva a costi ridotti su modelli come Fitzhugh-Nagumo e Kuramoto-Sivashinsky.
Il paper presenta gli Sparse Variational Student-t Processes (SVTP), un nuovo framework che estende i processi a punti induttori sparsi ai processi Student-t, offrendo un metodo scalabile e robusto per la modellazione di dati con code pesanti e outlier che supera le prestazioni dei processi Gaussiani sparsi.
Il paper introduce HYGENE, il primo metodo basato su diffusione per la generazione di ipergrafi realistici e diversificati, che utilizza un approccio di espansione locale progressiva sulla rappresentazione bipartita per modellare relazioni di ordine superiore complesse.
Questo paper introduce un quadro unificato che modella la quantizzazione e la sparsificazione come rumore additivo, proponendo una trasformata di dequantizzazione basata sulla regressione ridge per fornire un percorso di gradiente ben definito che permette l'addestramento stabile di reti neurali ad alta efficienza con precisione arbitraria e livelli di sparsità estremi, superando i limiti degli approcci esistenti come lo Straight-Through Estimator.
Il paper presenta ARLBench, un benchmark flessibile ed efficiente per l'ottimizzazione degli iperparametri nel reinforcement learning, progettato per facilitare il confronto tra diversi metodi di AutoRL riducendo drasticamente i requisiti computazionali necessari.
Il paper introduce DRUPI, un metodo di condensazione del dataset che migliora le prestazioni dei modelli sintetizzando informazioni privilegiate (come etichette di feature o attenzione) insieme ai dati ridotti, ottenendo significativi guadagni su diversi benchmark.
Questo articolo propone un metodo di apprendimento rappresentativo non supervisionato che, analizzando le trasformazioni sparse dei dati sequenziali tramite un modello di flusso probabilistico decomposto in campi vettoriali rotazionali e potenziali, genera rappresentazioni disaccoppiate basate su primitive di trasformazione indipendenti, ottenendo risultati all'avanguardia nella verosimiglianza dei dati e nell'approssimazione dell'equivarianza.
Questo lavoro propone un approccio basato su funzioni di barriera di controllo e ottimizzazione differenziabile per apprendere in modo efficiente e interpretabile le allocazioni di responsabilità degli agenti nelle interazioni multi-agente, permettendo di codificare fattori sociali e contestuali per garantire interazioni sicure ed efficienti.
Il paper presenta un nuovo approccio ibrido che combina l'algoritmo di Donaldson con tecniche di apprendimento automatico su varietà di Grassmann per calcolare metriche di Kähler approssimativamente Ricci-piatte sulla famiglia di Dwork, evidenziando la comparsa di minimi locali non banali al variare dei parametri del moduli.
Questo articolo presenta due stimatori di subsampling, Adaptive Importance Sampling e Stratified Sub-sampling, che garantiscono una regressione robusta ad alta dimensionalità in presenza di rumore pesante, contaminazione e dipendenza temporale, colmando il divario tra teoria e algoritmo e fornendo intervalli di confidenza validi con prestazioni empiriche superiori rispetto ai metodi tradizionali.
Il paper propone le Scalable Message Passing Neural Networks (SMPNNs), un'architettura che sostituisce il meccanismo di attenzione nei Transformer con la normalizzazione Pre-Layer e connessioni residue per creare GNN profondi e scalabili che superano le prestazioni dei Graph Transformers su grandi grafi senza i relativi costi computazionali, supportati da una nuova analisi teorica sull'oversmoothing.
Il paper propone SPDIM, un nuovo framework di apprendimento geometrico efficiente in parametri che risolve il problema dell'adattamento di dominio senza sorgente (SFUDA) nei segnali EEG, superando i limiti dei metodi precedenti nell'affrontare sia lo spostamento condizionale che quello delle etichette (label shift) attraverso l'ottimizzazione su varietà Riemanniane.
Questo articolo propone un framework di prognostica non supervisionato che, utilizzando dati di guasto non etichettati, identifica simultaneamente modalità di guasto latenti e seleziona sensori informativi per migliorare la previsione della vita utile residua negli habitat spaziali profondi autonomi.
Il paper presenta MS-HGNN, una rete neurale su grafo eterogeneo che integra le simmetrie morfologiche e le strutture cinematiche dei robot per apprendere la dinamica con elevata generalizzabilità ed efficienza, validando l'approccio su diversi sistemi quadrupedi reali e simulati.
Il paper introduce CuriousBot, un sistema robotico mobile che supera i limiti delle attuali metodologie basate sulla sola percezione attiva, utilizzando un grafo relazionale di oggetti 3D per abilitare un'esplorazione interattiva efficace e generalizzabile in ambienti complessi.
Questo studio dimostra che semplici impronte digitali molecolari, pur catturando solo caratteristiche a corto raggio, superano i modelli complessi basati su reti neurali e trasformatori nella previsione delle funzioni peptidiche, sfidando la presunta necessità di modellare le dipendenze a lungo raggio.