1966 papers
Deze studie analyseert 92 open-source taalmodellen en toont aan dat het meenemen van ontwerpfactoren zoals data-samenstelling en architecturale keuzes, naast modelgrootte, de voorspelling van downstream-prestaties aanzienlijk verbetert en inzicht biedt in hoe specifieke ontwerpbeslissingen de eindcapaciteiten vormen.
Dit survey biedt een systematische review van de transformatieve rol van grote taalmodellen in de bio-informatica, waarbij recente vooruitgang, uitdagingen en toekomstige richtingen worden belicht om innovaties in de precisiegeneeskunde te stimuleren.
Dit paper introduceert LLaVE, een reeks multimodale embedding-modellen die gebruikmaken van hardheid-gewogen contrastief leren om de discriminatie van moeilijke negatieve paren te verbeteren, waardoor state-of-the-art prestaties worden bereikt op de MMEB-benchmark met een opmerkelijke schaalbaarheid en generalisatie naar videotaak.
Het paper introduceert Vision-R1, een multimodaal groot taalmodel dat door middel van een zelfgeconstrueerde dataset en een geavanceerde trainingsstrategie met versterkende leer (RL) de redeneerprestaties aanzienlijk verbetert en daarmee bijna gelijk komt aan de prestaties van OpenAI O1 op wiskundige benchmarks.
Dit paper introduceert een nieuw generatief model en bewijst dat next-token prediction leidt tot representaties die de logaritmen van de posterieure kansen op latente, mensinterpreteerbare concepten benaderen, wat de lineaire representatiehypothese theoretisch onderbouwt en empirisch wordt gevalideerd op verschillende LLM-families.
Dit paper introduceert MoBLLM, een kostenefficiënt fundamenteel model op basis van open-source grote taalmodellen dat door middel van parameter-efficiënt fijnafstemmen superieure prestaties, robuustheid en overdraagbaarheid bereikt bij het voorspellen van individuele mobiliteit in diverse real-world scenario's.
Dit artikel introduceert de Chain of Correction (CoC), een methode die gebruikmaakt van meervoudige chat-interacties met grote taalmodellen om volledige tekstherkenning uit spraak nauwkeuriger en vloeiender te corrigeren door fouten segment voor segment te verhelpen op basis van de volledige context.
Dit paper introduceert AnesSuite, een uitgebreide dataset-suite en evaluatiebenchmark voor anesthesiologische redeneerredenering in grote taalmodellen, en presenteert Morpheus, een open-source modelreeks die aanzienlijke verbeteringen boekt in zowel gespecialiseerde als algemene medische taken.
DRA-GRPO is een plug-and-play methode die de GRPO-algoritme voor wiskundig redeneren verbetert door middel van een diversiteitsbewuste beloningsaanpassing die redundantie tegengaat en zo leidt tot hogere nauwkeurigheid met minder trainingsdata.
Dit onderzoek toont aan dat grote taalmodellen in interactieve settingen vaak overtuigender zijn dan gemotiveerde mensen, waarbij hun superioriteit afhangt van de context (waarheid of misleiding), het specifieke model en het aantal interacties, en mogelijk wordt veroorzaakt door een hogere uitgesproken overtuiging in hun taalgebruik.
Dit paper introduceert mCLM, een modulair chemisch taalmodel dat moleculen tokeniseert op basis van functionele bouwstenen in plaats van atomen, waardoor het niet alleen beter voorspelbare eigenschappen genereert, maar ook synthetiseerbare moleculen produceert die compatibel zijn met geautomatiseerde laboratoriumsynthese.
Dit paper introduceert DTR, een innovatieve verdediging op het moment van inferentie die multimodale jailbreak-aanvallen op Vision-Language-modellen effectief neutraliseert door de gewichten van visuele tokens dynamisch aan te passen via optimalisatie van de KV-cache, zonder afhankelijk te zijn van gespecialiseerde veiligheidsdata of kostbare beeld-naar-tekst conversie.
Dit artikel introduceert 'Chain-of-Lure', een universeel jailbreak-kader dat onbeperkte synthetische verhalen en een helper-LLM gebruikt om schadelijke intenties te verbergen en succesvolle aanvallen op grote taalmodellen uit te voeren, terwijl het ook verdedigingsstrategieën voorstelt.
Dit paper introduceert Negative-aware Fine-Tuning (NFT), een geavanceerde supervised learning-methode die LLM's in staat stelt om autonoom te leren van hun eigen fouten in wiskundige redenering, waardoor het de prestaties van bestaande RL-algoritmen evenaart of overtreft en de theoretische kloof tussen supervised learning en reinforcement learning dicht.
Dit paper introduceert SQUiD, een neurosymbolisch framework dat grote taalmodellen gebruikt om automatisch relationele databases te synthetiseren uit ongestructureerde tekst door schema's te genereren en tabellen te vullen.
Dit paper introduceert Intuitor, een methode voor Reinforcement Learning from Internal Feedback (RLIF) die grote taalmodellen in staat stelt om zonder externe beloningen of gelabelde data te leren door gebruik te maken van hun eigen zelfvertrouwen als beloningssignaal, wat resulteert in prestaties die vergelijkbaar zijn met traditionele methoden op wiskundige benchmarks en betere generalisatie naar domeinen zoals codegeneratie.
Dit paper introduceert RPM, een nieuw raamwerk voor black-box grote taalmodellen dat persoonlijke redeneerstructuren uit ruwe gedragsdata afleidt om generieke output te vervangen door beter afgestemde en interpreteerbare antwoorden.
Deze empirische studie in de sociale wetenschappen toont aan dat het verrijken van grote taalmodellen met relevante data en automatische validatie tijdens het genereren en selecteren van onderzoeksideeën de haalbaarheid en kwaliteit van deze ideeën significant verbetert en onderzoekers effectief ondersteunt in hun eigen creatieve proces.
Het artikel introduceert RefTool, een raamwerk dat grote taalmodellen in staat stelt om kennisintensieve redeneringsopdrachten beter uit te voeren door automatisch uitvoerbare hulpmiddelen te creëren op basis van externe referenties en deze hiërarchisch te organiseren voor effectief gebruik.
Dit paper introduceert VeriTrail, de eerste methode voor het detecteren van hallucinaties in gesloten domeinen met traceerbaarheid, die niet alleen de einduitvoer controleert maar ook identificeert waar hallucinaties in meervoudige generatiestappen zijn ontstaan, en dit ondersteunt met nieuwe datasets en betere prestaties dan bestaande methoden.