10924 articoli
Questo lavoro propone e analizza due nuovi algoritmi, RDNGD e RDFW, per l'ottimizzazione duale su varietà Riemanniane, estendendo le tecniche esistenti a spazi non euclidei e fornendo complessità teoriche e validazione sperimentale.
Questo articolo introduce UniBiO, un nuovo algoritmo stocastico basato sulla convessità uniforme di livello inferiore, che garantisce la convergenza a punti stazionari -ottimali con complessità oracle quasi ottimale, colmando il divario tra i casi di forte convessità e convessità generale nell'ottimizzazione bilevel.
Il paper presenta GRIP, un framework che migliora l'efficienza dei dati nel pre-addestramento dei LLM unificando il bilanciamento globale e la selezione locale attraverso un approccio geometrico adattivo, permettendo di superare le prestazioni di modelli addestrati su dataset tre volte più grandi.
Il paper presenta StaTS, un modello di diffusione per la previsione probabilistica delle serie temporali che ottimizza alternativamente un programma di rumore adattivo basato sullo spettro e un denoiser guidato dalla frequenza per migliorare la preservazione strutturale e l'invertibilità rispetto ai metodi esistenti.
Il paper introduce CARE, un framework di aggregazione consapevole dei confondenti che migliora l'accuratezza della valutazione degli LLM modellando esplicitamente le correlazioni negli errori dei giudici senza richiedere etichette di verità fondamentale.
Questo studio confronta i metodi econometrici con gli algoritmi di causalità machine learning nell'analisi delle serie temporali per le decisioni politiche, utilizzando il caso delle misure COVID-19 nel Regno Unito per dimostrare che, sebbene i primi offrano regole temporali chiare, i secondi esplorano uno spazio strutturale più ampio identificando relazioni causali più numerose.
Il paper presenta LittleBit-2, un framework che massimizza il guadagno energetico spettrale nei modelli LLM compressi sotto 1 bit allineando la geometria latente tramite rotazione interna e quantizzazione iterativa congiunta, ottenendo nuove prestazioni all'avanguardia su Llama-2 e Llama-3 senza sovraccarico inferenziale.
Questo articolo presenta un nuovo approccio di apprendimento per rinforzo, denominato L-REINFORCE, che garantisce la stabilità probabilistica dei sistemi di controllo utilizzando un numero finito di dati campionati, colmando così il divario tra teoria del controllo e apprendimento automatico senza modello.
Questo lavoro introduce un framework di valutazione guidato da proprietà formali, basato su generatori di dataset su larga scala e metriche quantitative, per analizzare sistematicamente l'espressività, la generalizzabilità e la robustezza delle reti neurali su grafi (GNN), rivelando compromessi fondamentali tra diversi metodi di pooling globale e delineando nuove direzioni di ricerca per architetture più affidabili.
Il paper propone REMIND, un framework unificato che affronta l'apprendimento multimodale medico in presenza di dati mancanti analizzando la distribuzione a coda lunga delle combinazioni di modalità, risolvendo i problemi di incoerenza del gradiente e di spostamento concettuale attraverso un'architettura Mixture-of-Experts specializzata per gruppo e un'ottimizzazione robusta distribuzionalmente.
Il paper propone BiJEPA, un'architettura di apprendimento auto-supervisionato bi-direzionale che, attraverso una regolarizzazione della norma per garantire stabilità, supera i limiti delle predizioni unidirezionali apprese su dati sintetici, caotici e immagini per ottenere rappresentazioni simmetriche più robuste e complete.
Il paper introduce LitBench, uno strumento open-source basato su grafi per la creazione di dataset e il benchmarking di modelli linguistici specializzati in compiti letterari, che dimostra come modelli di piccole dimensioni addestrati su dati di dominio possano competere con sistemi avanzati come GPT-4o.
Il documento presenta RBF-Gen, un framework di modellazione surrogata guidato dalla conoscenza che integra dati scarsi e competenze di dominio tramite una rete generativa per migliorare l'accuratezza predittiva nell'ottimizzazione di design ad alta dimensionalità.
Il paper presenta Mag-Mamba, un nuovo framework per la raccomandazione di punti di interesse che risolve l'asimmetria spazio-temporale accoppiata modellando le dinamiche di transizione come rotazioni di fase nel dominio complesso, ottenendo risultati superiori rispetto agli stati dell'arte su tre dataset reali.
Il paper introduce l'Expert Divergence Learning, una strategia di pre-addestramento che utilizza una perdita ausiliaria basata su etichette di dominio per massimizzare la divergenza tra le distribuzioni di routing degli esperti, mitigando così l'omogeneizzazione e migliorando le prestazioni dei modelli linguistici basati su Mixture-of-Experts.
Il paper propone M3-AD, un framework multimodale unificato e consapevole della riflessione che, attraverso risorse dati dedicate e il modello RA-Monitor, migliora l'affidabilità e la capacità di auto-correzione dei modelli linguistici multimodali nell'individuazione di anomalie industriali complesse.
Questo studio dimostra che, nella rilevazione del Parkinson prodromico tramite fMRI con dati estremamente scarsi, l'uso di una rigorosa valutazione a livello di soggetto rivela una significativa perdita di prestazioni rispetto alle divisioni a livello di immagine e individua che architetture leggere come MobileNet generalizzano meglio di modelli più profondi.
Lo studio dimostra che il fine-tuning di dominio su modelli linguistici, specialmente quando include dati contenenti informazioni personali identificabili (PII), compromette significativamente la sicurezza riducendo la capacità di rifiuto e aumentando le risposte dannose e le fughe di dati privati, mentre tecniche come lo scambio di ruoli offrono solo una mitigazione parziale di questi rischi.
Il paper sostiene che le capacità e le propensioni dei sistemi di intelligenza artificiale siano proprietà disposizionali che richiedono una misurazione scientifica basata su relazioni controfattuali, criticando le attuali pratiche di valutazione per la loro incapacità di distinguere tali disposizioni dalle mere prestazioni osservabili.
Il paper determina la larghezza minima delle reti neurali -adiche con funzione di attivazione analoga al ReLU necessarie per approssimare universalmente funzioni continue a valori in su sottoinsiemi compatti aperti rispetto alle norme e .