Robust Amortized Bayesian Inference with Self-Consistency Losses on Unlabeled Data

Questo articolo propone un approccio semi-supervisionato per l'inferenza bayesiana ammortizzata che, sfruttando funzioni di perdita basate sull'autocoerenza bayesiana su dati non etichettati, migliora drasticamente la robustezza e l'accuratezza delle stime posteriori anche in scenari reali al di fuori del dominio dei dati di addestramento simulati.

Aayush Mishra, Daniel Habermann, Marvin Schmitt + 2 more2026-03-04📊 stat

SEM-CTRL\texttt{SEM-CTRL}: Semantically Controlled Decoding

Il paper presenta \texttt{SEM-CTRL}, un approccio unificato che integra la ricerca ad albero Monte Carlo a livello di token e le grammatiche di risposta logica per imporre vincoli sintattici e semantici durante il decoding dei LLM, garantendo così output validi senza necessità di fine-tuning e permettendo anche a modelli piccoli di superare le prestazioni di varianti più grandi.

Mohammad Albinhassan, Pranava Madhyastha, Alessandra Russo2026-03-04🤖 cs.AI