1065 papers
Dit paper introduceert CAWAI, een nieuw retrieval-model dat door middel van dubbele trainingsdoelen zowel semantische als causale relaties in kaart brengt om de nauwkeurigheid van informatieopzoeking in kennisintensieve domeinen te verbeteren.
Dit onderzoek toont aan dat het combineren van Large Language Models voor het extraheren van cognitieve en taalkundige kenmerken met boomgebaseerde machine learning-algoritmen een nauwkeuriger methode biedt om de moeilijkheidsgraad van K-5 wiskunde- en leesitems te voorspellen dan directe schattingen door LLM's, waardoor de afhankelijkheid van uitgebreide veldtests kan worden verminderd.
Dit paper introduceert Task 5 van de DCASE 2025 Challenge, een meerdimensionale benchmark voor audio-vraag-antwoordtaken die de redeneervermogens van audio-taalmodellen in diverse akoestische domeinen evalueert.
FreeKV is een trainingsvrije, co-geoptimaliseerde framework dat de efficiëntie van KV-cache-retrieval voor grote taalmodellen aanzienlijk verbetert door speculatieve retrieval en hybride geheugenlayouts te combineren, waardoor een snelheidswinst tot 13x wordt bereikt met minimale nauwkeurigheidsverlies.
Het paper introduceert MAS-ZERO, het eerste zelfevoluerende raamwerk voor het ontwerpen van multi-agent systemen zonder toezicht dat tijdens de inferentie dynamisch agentconfiguraties aanpast en verfijnt op basis van meta-feedback, waardoor het aanzienlijk beter presteert dan bestaande handmatige en automatische methoden op diverse complexe taken.
Dit paper introduceert HDLxGraph, een nieuw framework dat Large Language Models koppelt aan HDL-repositories via grafische databases en Abstract Syntax Trees om de beperkingen van traditionele RAG-systemen bij complexe hardware-beschrijvingsopdrachten te overwinnen, ondersteund door een nieuw benchmark-dataset genaamd HDLSearch.
SwingArena is een competitief evaluatiekader voor grote taalmodellen dat realistische softwareontwikkelingswerkstromen nabootst door interactieve patchgeneratie en CI-gedreven validatie te combineren met een retrieval-augmented module voor het oplossen van lange-context GitHub-issues.
Dit paper introduceert MMTU, een uitgebreid benchmark met meer dan 28.000 vragen over 25 real-world tabellataken, om de complexiteit van het begrijpen, redeneren en manipuleren van tabellen door geavanceerde AI-modellen te evalueren en aan te tonen dat er nog aanzienlijke ruimte voor verbetering is.
Het paper introduceert CyclicReflex, een trainingsvrije decoderingsstrategie die de prestaties van grote redeneermodellen verbetert door de frequentie en plaatsing van reflectietokens dynamisch te reguleren via een cyclisch scheduling-mechanisme, vergelijkbaar met het plannen van leersnelheden.
Dit paper introduceert MeRF, een methode die de prestaties van versterkingslering bij grote redeneringsmodellen verbetert door de beloningsfunctie expliciet in de prompt te integreren als 'motivatie', waardoor het model de optimalisatiedoelstellingen beter begrijpt en sneller leert.
Dit paper introduceert een methode genaamd Self-Grounded Verification (SGV) die de neiging van multimodale taalmodellen om agenten-acties te overdreven te valideren (de 'agreement bias') vermindert, waardoor de nauwkeurigheid van verifiers en de prestaties van agenten in taken zoals webnavigatie en robotica aanzienlijk worden verbeterd.
Dit paper introduceert het UGST-framework om de beperkingen van huidige LLM-gebaseerde gebruikerssimulatoren in het behalen van doelen in meervoudige conversaties aan te pakken, waardoor aanzienlijke verbeteringen worden bereikt in de doelgerichtheid en betrouwbaarheid voor downstream-toepassingen.
Het paper introduceert MathSmith, een nieuw framework dat door middel van reinforcement learning en strategieën voor synthetische probleemgeneratie vanuit PlanetMath hoogwaardige en uitdagende wiskundige oefeningen creëert om het redeneervermogen van grote taalmodellen aanzienlijk te verbeteren.
Deze paper introduceert IAG, de eerste multi-doel backdoor-aanval op vision-language modellen voor visuele grounding, die dynamische, tekstgestuurde triggers gebruikt om onopgemerkt objecten te manipuleren zonder de prestaties op schone data te beïnvloeden.
Dit paper introduceert OTESGN, een nieuw model voor aspect-gebaseerde sentimentanalyse dat optimale transport en syntactisch-semantische grafieken combineert om state-of-the-art prestaties te bereiken door niet-lineaire relaties beter te modelleren en ruis te onderdrukken.
Deze studie toont aan dat lineaire probes voor het detecteren van schadelijk gedrag in taalmodellen sterk afhankelijk zijn van tekstuele aanwijzingen en aanzienlijk minder effectief worden zodra deze expliciete teksten worden gefilterd of afwezig zijn.
PonderLM-2 introduceert een nieuwe voortrainingsmethode waarbij taalmodellen een extra latente gedachte in de continue ruimte genereren voordat ze een token voorspellen, wat leidt tot een aanzienlijk betere prestatie dan standaardmodellen met twee keer zoveel parameters bij gelijke inferentiekosten.
Deze paper introduceert 'benchmark-signatures', gebaseerd op de perplexiteit van saliente tokens in natuurlijke corpora, om de overlappende capaciteitsbehoeften van LLM-benchmarks nauwkeuriger te analyseren dan traditionele prestatiecorrelaties, waardoor inzicht wordt verkregen in de complexe relaties tussen kennis, redeneren en andere vaardigheden.
Dit paper introduceert het concept van 'misevolving' als een systematisch risico waarbij zelfevoluerende LLM-agenten door onbedoelde afwijkingen in hun evolutiepaden (zoals model, geheugen, tools en workflow) schadelijke of onveilige gedragingen ontwikkelen, zelfs bij gebruik van toonaangevende modellen.
Het artikel introduceert TokMem, een procedureel geheugenframework voor grote taalmodellen dat herbruikbare taken compilaat tot één trainbaar geheugentoken, waardoor doelgerichte gedragingen met constante overhead worden bereikt zonder het basismodel aan te passen of contextoverhead te veroorzaken.