4198 papers
Dit paper introduceert HyWIA, een nieuwe methode voor gestructureerde pruning van grote taalmodellen die via een hybride, adaptieve benadering zowel grof- als fijnkorrelige gewichtsbelangrijkheden combineert om prestatieverlies te minimaliseren.
Dit artikel pleit ervoor dat grote taalmodellen waardevolle wetenschappelijke modellen zijn voor publieke talen als externe, sociale entiteiten, en verdedigt deze positie door een modelconstrucie te ontwikkelen op basis van het interne werkingsmechanisme van deze modellen.
In deze studie worden uitlegbare machine learning-technieken toegepast op een 28-jarige dataset om de toxiciteit van mosselen in de Golf van Triest te voorspellen, waarbij een random forest-model en SHAP-analyse belangrijke bijdragen leveren aan het identificeren van de veroorzakende algensoorten en omgevingsfactoren voor een betere vroegwaarschuwing.
Dit artikel presenteert een methode die Large Language Models en evolutionaire algoritmen combineert om interpreteerbare besturingspoliieken in standaard programmeertalen te synthetiseren voor dynamische systemen, zoals de pendel en de bal in de beker, waardoor transparantie en menselijke aanpasbaarheid worden vergroot ten opzichte van traditionele black-box benaderingen.
Het paper introduceert EoRA, een nieuwe, fine-tuning-vrije methode die de nauwkeurigheid van gecomprimeerde grote taalmodellen verbetert door laag-rang matrices toe te voegen, waardoor een betere balans tussen prestaties en rekentijd wordt bereikt zonder de beperkingen van compressieformaten.
Dit paper introduceert een generieke 'Token Cleaning'-pijplijn voor het fijnafstemmen van grote taalmodellen, die individuele onnuttige tokens filtert op basis van hun invloed op modelupdates om zo de prestaties op downstream-taken te verbeteren.
Deze paper introduceert DIFU-Ada, een trainingsvrij raamwerk voor adaptatie tijdens de inferentie dat het vermogen van diffusiegebaseerde neurale combinatorische optimalisatieoplossers aanzienlijk verbetert om zonder extra training te generaliseren over verschillende probleemgroottes en -types, zoals het overschakelen van het Traveling Salesman Problem naar varianten zoals het Prize Collecting TSP.
Deze paper stelt een methode voor om Piping and Instrumentation Diagrams (P&ID's) via natuurlijke taal te benaderen door ze om te zetten in een kennisgrafiek op basis van het DEXPI-datamodel en deze te integreren met Large Language Models via graph-RAG, waardoor hallucinaties worden verminderd en engineers beter kunnen communiceren met procesinformatie.
Deze paper introduceert SCAM, het grootste en meest diverse dataset van real-world typografische aanvalsaantallen tot nu toe, en toont aan dat deze aanvalsmethoden de prestaties van multimodale foundation modellen significant ondermijnen, terwijl grotere taalmodellen de kwetsbaarheid verkleinen.
Dit paper introduceert twee nieuwe datagedreven algoritmen die offline versterkte leer- en overlevingsanalyse technieken combineren om optimale prijs- en voorraadbeheerstrategieën te leren in een omgeving met gecensureerde en afhankelijke vraag, waarbij de uitdagingen van ontbrekende winstinformatie en het verlies van de Markov-eigenschap worden overwonnen door het probleem te benaderen als een hoog-ordelijk Markov-beslissingsproces.
Dit paper introduceert SwitchMT, een nieuwe methode die adaptief taakwisselbeleid en diepe spiking Q-netwerken combineert om schaalbaar en energiezuinig meertaakleren voor autonome agenten mogelijk te maken zonder taakinterferentie of toegenomen netwerkcomplexiteit.
Dit overzichtspaper introduceert het interdisciplinaire veld van LLM-psychometrie, waarin psychometrische principes worden toegepast om grote taalmodellen te evalueren, valideren en verbeteren met het oog op mensgerichte AI.
Dit paper introduceert REI-Bench, het eerste benchmark voor robottaakplanning dat systematisch de negatieve impact van vage referentiële uitdrukkingen in menselijke instructies analyseert en een effectieve oplossing biedt via taakgerichte contextcognitie om robots toegankelijker te maken voor niet-experts zoals ouderen en kinderen.
Dit paper introduceert een trainingsmethode waarbij LLM's worden gefinetuned met instructies die zijn aangevuld met pseudo-code, wat leidt tot aanzienlijke verbeteringen in het volgen van instructies en redeneertaken zonder de prestaties op andere gebieden te schaden.
Deze data-gedreven survey analyseert de groeiende onderzoeksstroom naar beperkingen van grote taalmodellen (LLLMs) tussen 2022 en 2025, waarbij redeneren als meest bestudeerd thema naar voren komt en een significant verschuiving in onderzoekstrends tussen ACL en arXiv wordt vastgesteld.
Dit artikel introduceert een consistentie-gebaseerde abductieve redeneerframework dat testtijd-logische regels en meerdere pre-getrainde modellen combineert om prestatieverlies door distributieverschuivingen in nieuwe omgevingen effectief te mitigeren en zo zowel de precisie als het recall significant te verbeteren.
Deze studie concludeert dat voor de verkoopvoorspelling in de detailhandel, ondanks de complexiteit van de data, geavanceerde deep learning-modellen onderpresteren ten opzichte van geoptimaliseerde boomgebaseerde ensemble-methoden zoals XGBoost, wat aantoont dat de afstemming op de probleemkarakteristiek belangrijker is dan architecturale complexiteit.
Dit paper introduceert SILVR, een methode waarbij een video-model voor robotplanning zichzelf iteratief verbetert via zelfverzamelde trajecten, waardoor robuuste prestaties worden bereikt op nieuwe taken zonder menselijke beloningsfuncties of expertdemonstraties.
Dit paper introduceert ReLIFT, een nieuwe trainingsmethode die reinforcement learning en online fine-tuning afwisselt om de beperkingen van RL te overwinnen en modellen effectief nieuwe kennis en redeneervermogens voor de moeilijkste vragen aan te leren.
Dit survey biedt een uitgebreid overzicht van differentiele privacy in machine learning, waarbij het de evolutie van de theorie, de integratie in modellen en de praktische evaluatie bespreekt om veilige en verantwoorde AI-systemen te bevorderen.