1889 papers
Dit paper introduceert R-TAP, een efficiënt recursief denk-en-antwoordproces dat LLMs en VLMs in staat stelt om via iteratieve redeneringscycli en een betrouwbaarheidsgenerator nauwkeurigere antwoorden te genereren met minder fouten en minder zelfreflecterende patronen dan traditionele single-pass-methoden.
Deze paper introduceert een nieuw surrogaatmodel dat zowel de frequentieverdeling als de langetermijn-correlaties van symbolische sequenties, zoals taal en DNA, gelijktijdig behoudt door fractioneel Gaussisch ruis op de empirische histogrammen te mappen.
Dit artikel toont aan dat duurzame zelf-evolutie van grote taalmodellen alleen mogelijk is wanneer een zelf-synthetiserend pipeline de leerbare informatiewinst per iteratie garandeert, wat wordt bereikt door een asymmetrische co-evolutie, capaciteitsgroei en proactieve informatieverwerving binnen een triadisch rolmodel.
Dit artikel toont aan dat bij end-to-end getrainde sparse attention de Q/K/V-projecties het routing-signaal absorberen, waardoor geleerde poorten nauwelijks beter presteren dan willekeurige poorten en post-hoc methoden nodig zijn om dit co-adaptatieprobleem te omzeilen.
Dit onderzoek toont aan dat bij LLM-agenten veiligheidsopleiding behouden blijft na daaropvolgende optimalisatie voor nuttigheid, en dat alle trainingsconfiguraties uiteindelijk op een lineaire Pareto-grens belanden in plaats van een ideale 'beste van beide werelden'-strategie te vinden.
Het artikel introduceert HELIOS, een nieuw model dat vroege en late fusie combineert met LLM-redenering om de prestaties van tabel-tekstretriever voor open-domein vragen te verbeteren door onnodige context te filteren, relevante knopen dynamisch uit te breiden en logische inferentie op ster-graf-niveau uit te voeren, wat leidt tot aanzienlijke verbeteringen op de OTT-QA-benchmark.
Dit onderzoek toont aan dat het NLLB-200-neuraal vertaalmodel niet alleen taalfamilie-structuren heeft geleerd, maar ook universele conceptuele associaties en semantische relaties over diverse talen heen heeft geïnternaliseerd, wat wijst op een taal-neutrale conceptuele representatie.
Dit artikel presenteert een systematische theoretische en empirische analyse van memorisatie in diffusion-taalmodellen, waarbij wordt aangetoond dat een verhoogde steekproefresolutie de kans op exacte extractie van trainingsdata vergroot, maar dat deze modellen onder bepaalde omstandigheden aanzienlijk minder gevoelig zijn voor het lekken van persoonsgegevens dan autoregressieve modellen.
Dit paper introduceert RO-N3WS, een divers Roemeens spraakdataset van meer dan 126 uur die is ontworpen om de generalisatie van automatische spraakherkenning in low-resource en out-of-distribution scenario's te verbeteren door middel van uitgebreide evaluaties en openbare beschikbaarheid van modellen en data.
Dit onderzoek introduceert een gericht graafmodel en een experimenteel kader voor tijdsafhankelijke tekstvisualisatie, waarbij een studie met synthetische LLM-gegenereerde teksten aantoont dat het voor gebruikers lastig is om patronen te herkennen en dat visualisaties mogelijk meer op de individuele gebruiker moeten worden afgestemd.
Het artikel introduceert GLoRIA, een efficiënt en interpreteerbaar framework dat metagegevens gebruikt om lage-rang-aanpassingen te sturen voor het verbeteren van automatische spraakherkenning in dialecten met beperkte data.
MUSE is een open-source platform voor veilige evaluatie van grote taalmodellen dat multimodale aanvalsmethoden, een gedetailleerd beoordelingssysteem en moduswisseling integreert om te tonen dat bestaande veiligheidsalignatie kwetsbaar is voor multi-turn-aanvallen over verschillende mediavormen heen.
Dit paper introduceert CoDAR, een tweestapsframework dat de prestaties van continue diffusie-taalmodellen aanzienlijk verbetert door token-ronding te laten uitvoeren door een contextuele autoregressieve decoder, waardoor ze concurrerend worden met discrete modellen.
Dit artikel introduceert VC-STaR, een zelflerend kader dat visuele contrasten benut om hallucinaties in redeneringen van visueel-taalmodellen te verminderen en zo het nieuwe dataset VisCoR-55K creëert voor superieure visuele redeneercapaciteiten.
Het paper introduceert FlashEvaluator, een framework dat de Generator-Evaluator-paradigma verbetert door sequenties parallel te verwerken in één doorloop voor sublineaire complexiteit en betere selectieprecisie, wat succesvol is toegepast in de online aanbevelingssystemen van Kuaishou met aanzienlijke omzetstijgingen.
Dit artikel introduceert SteerEval, een hiërarchisch benchmarkkader dat de controleerbaarheid van grote taalmodellen evalueert op drie niveaus van gedragsgranulariteit en aantoont dat de effectiviteit van besturingsmethoden afneemt naarmate de specificatie gedetailleerder wordt.
Dit artikel introduceert ExpGuard, een gespecialiseerd beveiligingsmodel en bijbehorend dataset (ExpGuardMix) voor het modereren van LLM-inhoud in financiële, medische en juridische domeinen, dat door middel van uitgebreide evaluaties een superieure weerstand tegen domeinspecifieke aanvallen toont ten opzichte van bestaande state-of-the-art modellen.
Dit paper introduceert GPUTOK, een GPU-versnelde byte-level BPE-tokenizer die bij lange contexten tot 7,6 keer sneller is dan bestaande CPU-oplossingen terwijl het de outputkwaliteit behoudt.
Deze studie toont aan dat het vergroten van de recursiediepte bij Recursive Language Models, ondanks de belofte van onbeperkte context, leidt tot 'overdenken' dat de prestaties op eenvoudige taken verslechtert en de uitvoeringstijd en kosten exponentieel doet stijgen.
StitchCUDA is een geautomatiseerd multi-agent framework dat rubric-gebaseerde agente versterkende leer gebruikt om volledige, hoogpresterende GPU-programma's te genereren en zo de beperkingen van eerdere methoden die zich enkel op individuele kernels richtten, overbrugt.