9536 articoli
Questo lavoro presenta Alt-FL, un approccio di apprendimento federato che integra crittografia omomorfa e dati sintetici in un'alternanza strategica per migliorare l'accuratezza del modello, garantire la privacy dei dati e ridurre significativamente i costi computazionali.
Il paper introduce LAGO, un framework di ottimizzazione che integra l'ottimizzazione bayesiana globale potenziata dal gradiente con metodi di raffinamento locale basati su regioni di fiducia, selezionando dinamicamente tra le due strategie per garantire un'esplorazione efficiente dello spazio di progettazione senza compromettere la convergenza rapida nelle regioni promettenti.
Il lavoro dimostra che le reti neurali con attivazioni che soddisfano una condizione di tipo equazione differenziale di Riccati producono output Pfaffiani, garantendo che i loro insiemi di superlivello e i luoghi di caduta del rango delle parentesi di Lie ammettano limiti sulla complessità topologica dipendenti esclusivamente dall'architettura e uniformi rispetto ai pesi.
Questo lavoro dimostra che l'uso dei flussi normalizzanti nella cromodinamica quantistica su reticolo permette di ottenere stimatori non distorti con una riduzione della varianza fino a 60 volte per osservabili gluonici, mantenendo tale efficienza indipendentemente dal volume del reticolo e consentendo così di minimizzare i costi computazionali di addestramento.
Questo articolo propone l'ipotesi del valore latente, sostenendo che l'RLAIF funziona perché i prompt costituzionali attivano direzioni di valore umano già codificate nello spazio delle rappresentazioni del modello durante il preaddestramento, spiegando così i limiti e i meccanismi di allineamento osservati empiricamente.
Il paper propone CAFedCL, un nuovo framework di apprendimento contrastivo federato che rompe il ciclo di bias dei prototipi causato dallo squilibrio delle classi attraverso un'aggregazione basata sulla fiducia, l'aumento generativo e la regolarizzazione geometrica, garantendo così migliori prestazioni e equità rispetto alle soluzioni esistenti.
Il paper propone SEHFS, un nuovo metodo per la selezione delle caratteristiche nell'apprendimento multi-vista multi-etichetta che utilizza l'entropia strutturale per modellare correlazioni di ordine superiore e un framework ibrido teoria dell'informazione-matrici per superare i limiti degli ottimi locali e migliorare le prestazioni.
Questo lavoro propone un Autoencoder Sparsamente Attivato a Livello di Passo (SSAE) che, superando i limiti degli approcci basati sui token, disgiunge le informazioni incrementali dai passaggi di ragionamento dei LLM per estrarre caratteristiche interpretabili che rivelano la capacità del modello di prevedere la correttezza e la logica dei propri ragionamenti.
Questo articolo propone un quadro bayesiano generalizzato per l'inferenza causale che, evitando la modellazione esplicita della verosimiglianza e aggiornando direttamente le stime degli effetti causali tramite funzioni di perdita, trasforma gli stimatori esistenti in strumenti dotati di una completa quantificazione dell'incertezza, garantendo al contempo robustezza agli errori di stima delle variabili di disturbo e validità frequentista.
Il paper propone cPNN, una rete neurale progressiva continua basata su RNN che risolve congiuntamente il problema della deriva concettuale e delle dipendenze temporali nei flussi di dati in evoluzione, prevenendo al contempo la dimenticanza catastrofica.
Il paper propone le Symbolic Reward Machines (SRM) e i relativi algoritmi di apprendimento QSRM e LSRM per superare i limiti delle Reward Machine tradizionali, consentendo l'elaborazione diretta delle osservazioni ambientali tramite formule simboliche senza richiedere etichette manuali, mantenendo al contempo prestazioni superiori rispetto ai metodi RL di base e paragonabili a quelle delle RM esistenti.
Questo articolo propone un nuovo quadro teorico e computazionale basato su funzioni di valore definite su spazi metrici e reti neurali fisicamente informate, per la caratterizzazione precisa e la stima certificabile dei domini di attrazione sicuri e robusti per sistemi non lineari discreti incerti soggetti a vincoli di stato.
Questo articolo dimostra che le reti Transformer possiedono un potere espressivo universale paragonabile alle reti maxout e ReLU, caratterizzando la loro capacità di approssimare funzioni lineari a tratti continue attraverso un numero di regioni lineari che cresce esponenzialmente con la profondità, grazie al fatto che i meccanismi di self-attention implementano operazioni di tipo max e i livelli feedforward realizzano trasformazioni affini.
Il paper propone MANDATE, un trasformatore multi-scala che migliora il rilevamento delle frodi nei grafi mitigando i limiti induttivi delle GNN attraverso codifiche posizionali, strategie di embedding differenziate per omofilia/eterofilia e fusione per grafi multi-relazionali.
Il paper presenta DynFormer, un operatore neurale innovativo che supera i limiti degli attuali Transformer applicati alle equazioni differenziali parziali integrando principi di dinamica complessa per separare le scale fisiche, riducendo drasticamente sia l'errore relativo che il consumo di memoria GPU attraverso meccanismi di attenzione strutturata e mixing frequenza locale-globale.
Questo studio propone una strategia di addestramento che cicla un singolo modello attraverso diversi regimi di sparsità delle attivazioni, dimostrando che tale approccio migliora la generalizzazione rispetto all'addestramento denso standard su CIFAR-10.
Questo articolo dimostra che è possibile adattare i framework di deep learning per creare embedding con topologia toroidale intrinseca, offrendo un'alternativa stabile e performante agli embedding ipersferici che facilita l'implementazione efficiente su dispositivi embedded (TinyML) grazie alla loro rappresentazione naturale in interi con overflow.
Questo lavoro propone un modello analitico per l'accuratezza dell'inferenza end-to-end e un algoritmo di intelligenza artificiale adattiva al canale che massimizza il throughput di elaborazione ai bordi, adattando dinamicamente la compressione delle feature e la complessità del modello in base alle condizioni del canale.
Questo articolo propone un approccio all'eliminazione certificata del machine learning che, sfruttando la definizione di "sensibilità di ritenzione" invece di quella globale basata sulla privacy differenziale, riduce il rumore necessario mantenendo inalterata la garanzia di eliminazione e migliorando l'utilità del modello.
Il paper presenta un nuovo framework scalabile per la quantificazione dell'incertezza nel clustering basato sulla densità, che combina il paradigma del posterior martingala con stimatori neurali di densità per propagare l'incertezza nella struttura dei cluster, garantendo consistenza frequentista e scalabilità su dati ad alta dimensionalità.