13021 articoli
Questo studio introduce nuove misure di informazione spettrale-correlata per quantificare l'efficienza di codifica delle popolazioni neuronali, applicandole a dati biologici per rivelare differenze nell'efficienza di codifica e dimostrandone l'efficacia nell'addestramento di reti neurali ricorrenti tramite apprendimento auto-supervisionato, favorendo così l'emergere di cellule di luogo e di direzione della testa.
Questo articolo presenta un metodo innovativo per valutare le prestazioni e la generalizzabilità di nuovi modelli di intelligenza artificiale calcolando le correlazioni neuronali tra reti diverse, offrendo un approccio leggero per la validazione esterna e l'efficienza della memoria.
Il paper introduce COLA, un framework post-hoc che ottimizza le spiegazioni controfattuali sparse calcolando un accoppiamento tramite trasporto ottimo e utilizzando attribuzioni Shapley per ridurre drasticamente il numero di modifiche necessarie mantenendo l'effetto target.
Questo articolo propone il "Dyadic Block Sketching", un nuovo approccio multi-scala per i banditi lineari che supera i limiti delle tecniche di sketching tradizionali adattando dinamicamente la dimensione dello sketch per garantire regret sublineare senza richiedere conoscenze preliminari sulle proprietà della matrice.
Questo lavoro propone il primo metodo per l'oblio delle etichette nel Vertical Federated Learning, utilizzando un meccanismo di mixup a livello di rappresentazione per generare embedding sintetici che consentono la rimozione efficace delle informazioni sensibili senza compromettere le prestazioni sui dati rimanenti.
Questo lavoro dimostra che è possibile ottenere una scalabilità polinomiale nell'approssimazione di operatori neurali per famiglie strutturate di equazioni differenziali stocastiche retroattive non markoviane, superando i limiti esponenziali tipici grazie a un'architettura che incorpora bias induttivi specifici derivati dalla funzione di Green e dall'esponenziale di Doléans-Dade.
Il paper propone SDPO, un nuovo framework di apprendimento per rinforzo che allinea i modelli di diffusione a pochi passi agli obiettivi specifici tramite un campionamento a doppio stato e un'apprendimento della differenza di ricompensa densa, superando così le limitazioni dei metodi RL esistenti in termini di qualità del campione e stabilità dell'ottimizzazione.
Questo studio presenta un modello di diffusione ricorrente a super-risoluzione (SRDM) che, superando i limiti temporali dei dati climatici tradizionali, genera previsioni ad alta risoluzione per quantificare con precisione l'impatto dei cambiamenti climatici sulla generazione di energia eolica e fotovoltaica in scenari futuri.
Questo lavoro propone G-NLL, una misura di incertezza teoricamente fondata basata sulla sola sequenza generata tramite decoding greedy, che supera i metodi esistenti più costosi dal punto di vista computazionale mantenendo prestazioni all'avanguardia.
Questo articolo analizza la complessità campionaria dell'apprendimento per rinforzo online in sistemi dinamici non lineari non episodici a spazi continui, proponendo un algoritmo che garantisce limiti di rimorso polinomiali per diverse classi di modelli, inclusi quelli parametrizzati da reti neurali.
Il lavoro presenta InfoBridge, un metodo che sfrutta i modelli di bridge diffusion per stimare l'informazione mutua tra variabili casuali, offrendo un stimatore non distorto che supera le limitazioni degli approcci convenzionali su dati complessi e reali.
Il paper presenta SIGS, un framework neuro-simbolico che automatizza la ricerca di soluzioni analitiche per equazioni differenziali, inclusi sistemi di PDE non lineari accoppiate, unendo grammatiche formali e ottimizzazione numerica per ottenere risultati con precisione ed efficienza superiori rispetto ai metodi esistenti.
Il paper presenta LIFT, un metodo basato su trasformatori che genera previsioni a 24 ore e stime di incertezza per i parametri ionosferici locali (foF2, hmF2, TEC) integrando variabili esogene e dati climatici, dimostrando una capacità di generalizzazione superiore rispetto al modello IRI.
Il paper presenta FinBloom, un modello linguistico di grandi dimensioni (LLM) da 7 miliardi di parametri basato su Bloom e addestrato su dati finanziari in tempo reale, progettato per agire come un agente finanziario in grado di recuperare e integrare automaticamente informazioni contestuali aggiornate per supportare decisioni e operazioni di trading dinamiche.
Il paper presenta "Semantic Parallelism", un nuovo paradigma implementato nel framework Sem-MoE che ottimizza l'inferenza dei modelli MoE su larga scala collocando proattivamente esperti e token attivanti sullo stesso dispositivo tramite una schedulazione collaborativa modello-dati, riducendo così drasticamente i costi di comunicazione e migliorando il throughput rispetto alle soluzioni esistenti.
Questo articolo propone le TDistNN, una variante delle reti neurali probabilistiche che sostituisce l'assunzione gaussiana con una distribuzione t per generare intervalli di previsione più stretti e robusti rispetto ai valori anomali, migliorando così la quantificazione dell'incertezza nelle regressioni.
Questo studio dimostra che, oltre all'accuratezza, un modello di ricompensa efficace deve generare una varianza sufficiente per evitare paesaggi di ottimizzazione piatti e garantire un addestramento efficiente nell'ambito del Reinforcement Learning from Human Feedback (RLHF).
Il paper propone un framework di apprendimento operatoriale basato sulla decomposizione del dominio e su uno schema iterativo chiamato Schwarz Neural Inference (SNI) per risolvere equazioni differenziali parziali su geometrie arbitrarie, migliorando significativamente la generalizzazione geometrica e l'efficienza dei dati rispetto ai metodi esistenti.
Il paper introduce "Sparsity Forcing", un framework di post-addestramento basato sul reinforcement learning che ottimizza il compromesso tra efficienza e accuratezza nei modelli linguistici multimodali, permettendo di ridurre fino al 75% dei token con un impatto minimo sulle prestazioni e accelerando significativamente l'inferenza.
Questo lavoro propone un metodo di conversione vocale basato sul trasporto ottimo discreto e sulla proiezione baricentrica per allineare gli embedding audio, dimostrando non solo l'efficacia del sistema ma anche la sua capacità di generare un potente attacco avversario che induce i rilevatori a classificare la voce sintetica come reale.