Efficient Reasoning at Fixed Test-Time Cost via Length-Aware Attention Priors and Gain-Aware Training

Il paper propone un metodo per migliorare l'efficienza del ragionamento nei Transformer a costo di test fisso, introducendo durante l'addestramento un prior di attenzione sensibile alla lunghezza e un controller "Guardian" che, senza aggiungere parametri o latenza durante l'inferenza, riduce l'entropia incrociata di validazione mantenendo invariati i costi computazionali.

Rian AtriWed, 11 Ma🤖 cs.LG

Transductive Generalization via Optimal Transport and Its Application to Graph Node Classification

Questo lavoro stabilisce nuovi limiti di generalizzazione trasduttiva basati sul trasporto ottimo e sulle distanze di Wasserstein, dimostrando che sono efficientemente calcolabili e correlati all'errore empirico nella classificazione di nodi su grafi, rivelando inoltre come l'aggregazione delle GNN influenzi la generalizzazione attraverso un compromesso tra concentrazione intra-classe e separazione inter-classe.

MoonJeong Park, Seungbeom Lee, Kyungmin Kim, Jaeseung Heo, Seunghyuk Cho, Shouheng Li, Sangdon Park, Dongwoo KimWed, 11 Ma🤖 cs.LG

DendroNN: Dendrocentric Neural Networks for Energy-Efficient Classification of Event-Based Data

Il paper presenta DendroNN, una rete neurale ispirata ai dendriti biologici che utilizza un meccanismo di ricollegamento senza gradienti e un'architettura hardware asincrona per classificare efficientemente dati basati su eventi, raggiungendo un'efficienza energetica fino a 4 volte superiore rispetto alle soluzioni neuromorfiche esistenti.

Jann Krausse, Zhe Su, Kyrus Mama, Maryada, Klaus Knobloch, Giacomo Indiveri, Jürgen BeckerWed, 11 Ma🤖 cs.AI

Reward-Zero: Language Embedding Driven Implicit Reward Mechanisms for Reinforcement Learning

Il paper introduce Reward-Zero, un meccanismo di ricompensa implicito che trasforma le descrizioni dei compiti in linguaggio naturale in segnali di progresso densi e semanticamente allineati tramite embedding linguistici, accelerando l'addestramento e migliorando la generalizzazione degli agenti di Reinforcement Learning senza richiedere ingegneria specifica per ogni compito.

Heng Zhang, Haddy Alchaer, Arash Ajoudani, Yu SheWed, 11 Ma🤖 cs.LG

Interactive 3D visualization of surface roughness predictions in additive manufacturing: A data-driven framework

Questo lavoro presenta un framework basato sui dati che combina un regressore a perceptron multistrato e una rete generativa avversaria condizionale per prevedere la rugosità superficiale nella manifattura additiva, integrando un'interfaccia web interattiva che visualizza le previsioni su modelli 3D per ottimizzare l'orientamento e i parametri di stampa.

Engin Deniz Erkan, Elif Surer, Ulas YamanWed, 11 Ma🤖 cs.LG

Democratising Clinical AI through Dataset Condensation for Classical Clinical Models

Questo articolo propone un quadro di ottimizzazione di ordine zero con privacy differenziale che estende la condensazione dei dataset ai modelli clinici non differenziabili, consentendo la condivisione sicura di dati sintetici che preservano l'utilità predittiva senza esporre informazioni sensibili dei pazienti.

Anshul Thakur, Soheila Molaei, Pafue Christy Nganjimi, Joshua Fieggen, Andrew A. S. Soltan, Danielle Belgrave, Lei Clifton, David A. CliftonWed, 11 Ma🤖 cs.AI

Flow Field Reconstruction via Voronoi-Enhanced Physics-Informed Neural Networks with End-to-End Sensor Placement Optimization

Questo studio propone VSOPINN, un approccio che integra le reti neurali fisicamente informate (PINN) con un'ottimizzazione differenziabile del posizionamento dei sensori basata su diagrammi di Voronoi, per ricostruire con precisione e robustezza campi di flusso complessi anche in presenza di dati sparsi o guasti dei sensori.

Renjie Xiao, Bingteng Sun, Yiling Chen, Lin Lu, Qiang Du, Junqiang ZhuWed, 11 Ma🤖 cs.LG

SPAARS: Safer RL Policy Alignment through Abstract Exploration and Refined Exploitation of Action Space

Il paper introduce SPAARS, un framework di apprendimento curricolare per l'allineamento delle politiche RL che combina un'esplorazione sicura nello spazio latente con un'ottimizzazione diretta nello spazio delle azioni, superando i limiti di prestazione dei metodi basati su CVAE e dimostrando miglioramenti significativi nell'efficienza del campione e nei risultati su diversi benchmark robotici.

Swaminathan S K, Aritra HazraWed, 11 Ma🤖 cs.AI

Reviving ConvNeXt for Efficient Convolutional Diffusion Models

Il paper introduce il Fully Convolutional Diffusion Model (FCDM), un'architettura basata su ConvNeXt che dimostra come i modelli convoluzionali moderni possano offrire un'alternativa altamente efficiente e competitiva rispetto ai Transformer per la generazione di immagini, riducendo drasticamente i requisiti computazionali e di tempo di addestramento.

Taesung Kwon, Lorenzo Bianchi, Lennart Wittke, Felix Watine, Fabio Carrara, Jong Chul Ye, Romann Weber, Vinicius AzevedoWed, 11 Ma🤖 cs.AI

Impact of Markov Decision Process Design on Sim-to-Real Reinforcement Learning

Questo studio analizza sistematicamente come le scelte di progettazione del Processo Decisionale di Markov influenzino il trasferimento sim-to-real nell'apprendimento per rinforzo per il controllo dei processi industriali, dimostrando sperimentalmente che l'uso di modelli di dinamica basati sulla fisica è fondamentale per raggiungere un successo reale fino al 50% in compiti di precisione dove i modelli semplificati falliscono.

Tatjana Krau, Jorge Mandlmaier, Tobias Damm, Frieder HeieckWed, 11 Ma🤖 cs.LG