1071 papers
Dit paper presenteert de eerste toepassing van sparse autoencoders op het tijdreeks-foundationmodel Chronos-T5, waarbij wordt aangetoond dat causaal kritieke kenmerken zich bevinden in de middenlagen die abrupte dynamiek detecteren, in plaats van in de semantisch rijkste laatste laag.
Het CLIPO-papier introduceert een contrastief leermethode binnen beleidsoptimalisatie die het RLVR-framework generaliseert door de consistentie van tussenstappen te waarborgen, waardoor hallucinaties worden onderdrukt en de robuustheid en generalisatie van redenerende grote taalmodellen aanzienlijk worden verbeterd.
Dit artikel toont aan dat het "Lost in the Middle"-fenomeen een inherente geometrische eigenschap is van de architectuur van causal decoders die al bij initialisatie aanwezig is, ongeacht training of positiële encoding, en wordt veroorzaakt door de interactie tussen causale masking en residual connections.
Dit artikel pleit voor een verschuiving van voorspellingsgerichte naar wetenschappelijk bruikbare taalembeddings die, gebaseerd op cognitieve inzichten, prioriteit geven aan meetbaarheid, interpreteerbaarheid en robustheid om betekenis als een betrouwbaar wetenschappelijk instrument te benutten.
Dit artikel identificeert zes onafhankelijke dimensies waarin generatie en herkenning binnen de formele taaltheorie fundamenteel verschillen, weerlegt het simplistische idee dat generatie altijd makkelijk is, en verbindt deze asymmetrie met concepten als verrassing (surprisal) en de operationele beperkingen van grote taalmodellen.
Dit paper introduceert een betrouwbaar Retrieval-Augmented Generation-framework dat expliciete redenering en verifiëring integreert om hallucinaties in biomedische vraagbeantwoording te verminderen, wat resulteert in verbeterde nauwkeurigheid en transparantie op benchmarks zoals BioASQ en PubMedQA.
Dit artikel toont aan dat de taallmodelhoofd (LM head) een gradiëntbottleneck vormt waarbij 95-99% van de gradiëntnorm wordt onderdrukt door de dimensieverschil tussen de features en het vocabulaire, wat leidt tot suboptimale trainingsdynamiek en de noodzaak van nieuwe ontwerpen.
Dit paper introduceert ReMix, een nieuwe routeringsmethode voor Mixture-of-LoRAs die het probleem van onbalans in leerbare routingsgewichten oplost door niet-leerbare gewichten te combineren met een onbevooroordeelde gradiëntschatter op basis van reinforcement learning, wat leidt tot een aanzienlijk betere prestatie dan bestaande parameter-efficiënte finetuning-methoden.
OpenClaw-RL is een framework dat agenten in staat stelt om via live interactie te leren door zowel evaluatieve als richtgevende signalen uit volgende toestanden te halen, waardoor dezelfde policy effectief kan worden getraind op uiteenlopende taken zoals persoonlijke gesprekken, terminal-uitvoeringen en GUI-interacties.
Deze paper introduceert een kalibratie-redeneringsframework dat een Audio Large Language Model middels een kalibratiefase en versterkingslering (GRPO) optimaliseert voor het nauwkeurig analyseren, lokaliseren en beschrijven van meerdimensionale spraakkwaliteit en artefacten.
Dit paper introduceert ExeVRM, een model-agnostisch reward model dat op basis van uitvoervideo's en gebruikersinstructies de succesvolheid van computergebruiksagenten evalueert en hiermee state-of-the-art prestaties behaalt die zelfs proprietary modellen als GPT-5.2 en Gemini-3 Pro overtreffen.
Dit paper introduceert Adaptive Activation Cancellation (AAC), een real-time inferentieframework dat hallucinaties in grote taalmodellen effectief onderdrukt door deze te behandelen als gestructureerde interferentie, waardoor de feitelijke nauwkeurigheid op alle geteste schalen verbetert zonder enige afname in de algemene prestaties of vloeiendheid.
Dit paper introduceert ViDia2Std, het eerste handmatig geannoteerde parallelle corpus voor het vertalen van alle 63 Vietnamese provinciedialecten naar Standaard-Vietnamees, en toont aan dat dialectnormalisatie de prestaties van downstream NLP-taken aanzienlijk verbetert.
Dit technische rapport introduceert Sabi'a-4 en Sabiazinho-4, een nieuwe generatie taalmodellen die specifiek zijn getraind op Braziliaans-Portugese juridische data en lange context, en die uitstekende prestaties leveren op het gebied van juridisch schrijven, dialoogkwaliteit en agentische taken tegen een gunstige prijs-kwaliteitverhouding.
Dit paper introduceert S-GRADES, een open-source webbenchmark die veertien diverse datasets voor het beoordelen van studentenantwoorden (van essays tot korte antwoorden) consolideert om de generalisatie en betrouwbaarheid van grote taalmodellen in verschillende evaluatiesettingen te bestuderen.
Het paper introduceert GR-SAP, een kader dat generatieve replay gebruikt om veilige uitlijning van grote taalmodellen te behouden tijdens fine-tuning door synthetische uitlijningsdata te genereren, waardoor de noodzaak van toegang tot de oorspronkelijke uitlijningsdata wordt weggenomen.
Deze paper introduceert RINoBench, het eerste uitgebreide benchmark voor de evaluatie van geautomatiseerde systemen die onderzoeksideeën beoordelen op originaliteit, en onthult dat hoewel grote taalmodellen menselijke redeneringen nabootsen, hun feitelijke beoordelingen van originaliteit significant afwijken van menselijke expertoordelen.
Dit onderzoek toont aan dat grote taalmodellen (LLMs) slangtermen voor opioïden op sociale media effectiever kunnen ontwarren en gerelateerde berichten kunnen identificeren dan traditionele lexicon-methoden, waardoor de monitoring van de opioïden-crisis aanzienlijk kan worden verbeterd.
Dit paper introduceert DIBJudge, een robuust fijn-tuningkader dat gebruikmaakt van een gedesintegreerd informatie-flesnek om de systematische vertaalbias in meertalige LLMs te mitigeren door spurious correlaties te isoleren en te onderdrukken.
Dit paper introduceert een dynamisch kennisfusieframework dat contrastief leren en gestructureerde slotinformatie combineert om de prestaties en generalisatie van multi-domein dialoogstatus-tracking te verbeteren ondanks beperkte annotatie en complexe dialogen.