Ensembling Language Models with Sequential Monte Carlo

Deze paper introduceert een unificerend framework en een byte-level Sequential Monte Carlo-algoritme om meerdere taalmodellen met verschillende vocabulaires te combineren in ff-ensembles, waardoor er consistent kan worden gesampled uit geaggregeerde verdelingen die superieure prestaties leveren ten opzichte van traditionele gemiddelde waarschijnlijkheidsbenaderingen.

Robin Shing Moon Chan, Tianyu Liu, Samuel Kiegeland + 5 more2026-03-06🤖 cs.AI

Sample-Optimal Locally Private Hypothesis Selection and the Provable Benefits of Interactivity

Deze paper presenteert een optimaal, interactief lokaal differentieel privé-algoritme voor hypothese-selectie dat de steekproefcomplexiteit van O(klogk)O(k \log k) doorbreekt tot O(k)O(k) met slechts O(loglogk)O(\log \log k) interactierondes, waarbij het concept van 'kritieke queries' voor statistische query-algoritmen wordt geïntroduceerd.

Alireza F. Pour, Hassan Ashtiani, Shahab Asoodeh2026-03-05🤖 cs.LG