1077 papers
ReflexiCoder is een nieuw reinforcement learning-framework dat grote taalmodellen leert om code autonoom te genereren, te reflecteren op fouten en zichzelf te corrigeren zonder externe hulp, wat leidt tot state-of-the-art prestaties en een aanzienlijke vermindering van de inferentie-overhead.
Dit paper introduceert ROSE, een geoptimaliseerde versie van SparseGPT die door middel van een twee-niveau herschikking van de pruning-sequentie gebaseerd op geschatte verlieswaarden, de prestaties van één-slag (one-shot) pruning van grote taalmodellen aanzienlijk verbetert.
Dit paper introduceert CoCA, een GRPO-versterkingsleerframework dat een 'confidence-first'-paradigma mogelijk maakt door betrouwbaarheid en antwoordkwaliteit gelijktijdig te optimaliseren via gesegmenteerde credittoewijzing, waardoor de onzekerheidsschatting van grote taalmodellen betrouwbaarder en praktischer wordt.
Het paper introduceert VerChol, een grammatica-gedreven tokenisatiemethode die de beperkingen van statistische tokenizers voor agglutinerende talen oplost door morfologische grenzen te respecteren in plaats van woorden willekeurig te fragmenteren.
Dit paper introduceert ConStory-Bench, een benchmark en geautomatiseerde checker om inconsistenties in langdurige verhalen gegenereerd door grote taalmodellen te evalueren en analyseert de patronen van deze fouten.
Dit paper introduceert een ensemble-methode met LLM's voor het semantisch taggen van VN-Veiligheidsraadresoluties, waarbij nieuwe evaluatiemetrics (CPR en TWF) worden gebruikt om hallucinaties te minimaliseren en de beste output te selecteren, zelfs met kostenefficiëntere modellen.
InfoGatherer is een raamwerk dat onzekerheid modelleert met behulp van Dempster-Shafer-betrouwbaarheidsverdelingen om via principieel bewijsmateriaal uit documenten en gerichte follow-upvragen betrouwbare beslissingen te ondersteunen in kritieke domeinen zoals juridische en medische taken.
Dit paper introduceert LongNAP, een model dat multimodale gebruikersinteracties analyseert om de volgende actie te voorspellen, en toont aan dat het door het combineren van parametrisch en in-context leren significant beter presteert dan bestaande methoden.
Dit onderzoek toont aan dat het modelleren van de auteurscontext, een oplossing voor de ecologische valkuil, de prestaties van een groter 8B Llama-model significant verbetert, zowel tijdens het fine-tunen met QLoRA als bij voortgezette pre-training via de HuLM-opdracht.
Dit paper introduceert een gestructureerd herschrijvingskader met impliciete stijlvorming dat kleine taalmodellen in staat stelt om met weinig data en zonder extra inferentie-tokenen hoogwaardige, consistent gestileerde rollenspellen te genereren, zelfs op consumenthardware.
Dit artikel presenteert een interpreteerbaar model dat psychologische theorieën combineert met taaldata van sociale media om dynamische mentale gezondheid te voorspellen door individuele eigenschappen en situationele context te integreren, waarbij theoriegedreven kenmerken concurrerende prestaties leveren met een hogere begrijpelijkheid dan pure taalembeddings.
Dit paper introduceert ProCap, een nieuw raamwerk dat verandercaptioning transformeert van statische beeldvergelijking naar dynamisch proceduremodeling door een twee-traps architectuur te gebruiken die een procedure-encoder en leerbare query's combineert om expliciet te beschrijven hoe veranderingen plaatsvinden.
Dit paper introduceert Track-SQL, een framework dat generatieve taalmodellen verbetert voor multi-turn Text-to-SQL-taken door middel van twee extraherende modules voor schema- en contexttracking, wat leidt tot state-of-the-art prestaties op de SparC- en CoSQL-datasets.
Dit paper introduceert MASFactory, een grafiekgerichte framework voor het orkestreren van LLM-gebaseerde multi-agent systemen via 'Vibe Graphing', een mens-in-de-lus methode die natuurlijke taalintenties omzet in uitvoerbare workflows en herbruikbare componenten biedt.
ViewFusion is een tweestapsframework dat multi-view ruimtelijke redenering verbetert door expliciete kruisbeeldvoorberekening te scheiden van de uiteindelijke vraagbeantwoording, wat leidt tot een significant hogere nauwkeurigheid op MMSI-Bench.
Dit onderzoek concludeert dat, hoewel moderne grote taalmodellen rubric-gebaseerde evaluaties van Oostenrijkse A-niveau Duitse essays kunnen uitvoeren, hun lage overeenkomst met menselijke beoordelingen (maximaal 40,6% voor subdimensies en 32,8% voor eindcijfers) betekent dat ze momenteel niet betrouwbaar genoeg zijn voor gebruik in een echte gradingomgeving.
Deze studie toont aan dat het blootstellen van grote taalmodellen aan domeinspecifieke teksten via voortgezette vooropleiding hun persoonlijkheidsvorming beïnvloedt, waarbij een 'onderdrukkingsvoordeel' wordt ontdekt: verminderde sociale eigenschappen leiden tot betere complexe redeneerprestaties, wat een blauwdruk biedt voor 'persoonlijkheidsengineering'.
In dit paper presenteren de auteurs DeepSight, het eerste multimodale taalmodel dat specifiek is ontworpen om driedimensionale scene-interpretatie te verbeteren door dieptekaarten direct te koppelen aan taal, ondersteund door een nieuw dataset en een aangepaste ViT-encoder.
Dit artikel presenteert een neuro-symbolische pijplijn die grote taalmodellen en een SAT-oplosser combineert om impliciete premissen in enthymemen expliciet te maken en deze te vertalen naar logische formules voor het verifiëren van logische gevolgtrekkingen.
Deze paper introduceert een methode waarbij Diffusie-taalmodellen de benodigde uitvoerlengte schatten op basis van de prompt, waardoor het contextvenster dynamisch kan worden ingekort voor aanzienlijke rekenefficiëntie zonder prestatieverlies.