1991 papers
Deze paper introduceert een trainingsvrije methode die hallucinatiedetectie bij grote taalmodellen aanzienlijk verbetert door tijdens het bemonsteren ruis toe te voegen aan modelparameters of activaties om Bayesiaanse onzekerheid beter te benutten dan standaard token-bemonstering.
Dit paper introduceert LLM-ProS, een nieuwe evaluatiemethode die de prestaties van toonaangevende grote taalmodellen analyseert op ICPC-wedstrijdproblemen om hun redeneervermogen, nauwkeurigheid en efficiëntie te benchmarken.
Deze paper introduceert een robuust adaptatiekader voor grote multimodale modellen dat de prestaties en generalisatie bij het detecteren van hatelijke memes verbetert, terwijl het tegelijkertijd de interpretatievermogen en weerstand tegen adversariale aanvallen versterkt.
Deze paper introduceert MemeXplain, een nieuw dataset en een multi-stap optimalisatiestrategie voor Vision-Language Models, die de detectie van propagandistische en hatelijke memes in het Arabisch en Engels aanzienlijk verbetert door gelijktijdig labels te voorspellen en uitleg te genereren.
Deze paper introduceert een nieuwe reinforcement learning-methode die grote taalmodellen direct fine-tuned om hun antwoorden op feitelijke vragen te koppelen aan nauwkeurig gekalibreerde betrouwbaarheidsinschattingen, waardoor zowel over- als ondervertrouwen wordt gestraft en de modellen een algemeen bewustzijn van hun eigen zekerheid ontwikkelen.
Deze studie analyseert 92 open-source taalmodellen en toont aan dat het meenemen van ontwerpfactoren zoals data-samenstelling en architecturale keuzes, naast modelgrootte, de voorspelling van downstream-prestaties aanzienlijk verbetert en inzicht biedt in hoe specifieke ontwerpbeslissingen de eindcapaciteiten vormen.
Dit survey biedt een systematische review van de transformatieve rol van grote taalmodellen in de bio-informatica, waarbij recente vooruitgang, uitdagingen en toekomstige richtingen worden belicht om innovaties in de precisiegeneeskunde te stimuleren.
Dit paper introduceert LLaVE, een reeks multimodale embedding-modellen die gebruikmaken van hardheid-gewogen contrastief leren om de discriminatie van moeilijke negatieve paren te verbeteren, waardoor state-of-the-art prestaties worden bereikt op de MMEB-benchmark met een opmerkelijke schaalbaarheid en generalisatie naar videotaak.
Het paper introduceert Vision-R1, een multimodaal groot taalmodel dat door middel van een zelfgeconstrueerde dataset en een geavanceerde trainingsstrategie met versterkende leer (RL) de redeneerprestaties aanzienlijk verbetert en daarmee bijna gelijk komt aan de prestaties van OpenAI O1 op wiskundige benchmarks.
Dit paper introduceert een nieuw generatief model en bewijst dat next-token prediction leidt tot representaties die de logaritmen van de posterieure kansen op latente, mensinterpreteerbare concepten benaderen, wat de lineaire representatiehypothese theoretisch onderbouwt en empirisch wordt gevalideerd op verschillende LLM-families.
Dit paper introduceert MoBLLM, een kostenefficiënt fundamenteel model op basis van open-source grote taalmodellen dat door middel van parameter-efficiënt fijnafstemmen superieure prestaties, robuustheid en overdraagbaarheid bereikt bij het voorspellen van individuele mobiliteit in diverse real-world scenario's.
Dit artikel introduceert de Chain of Correction (CoC), een methode die gebruikmaakt van meervoudige chat-interacties met grote taalmodellen om volledige tekstherkenning uit spraak nauwkeuriger en vloeiender te corrigeren door fouten segment voor segment te verhelpen op basis van de volledige context.
Dit paper introduceert AnesSuite, een uitgebreide dataset-suite en evaluatiebenchmark voor anesthesiologische redeneerredenering in grote taalmodellen, en presenteert Morpheus, een open-source modelreeks die aanzienlijke verbeteringen boekt in zowel gespecialiseerde als algemene medische taken.
DRA-GRPO is een plug-and-play methode die de GRPO-algoritme voor wiskundig redeneren verbetert door middel van een diversiteitsbewuste beloningsaanpassing die redundantie tegengaat en zo leidt tot hogere nauwkeurigheid met minder trainingsdata.
Dit onderzoek toont aan dat grote taalmodellen in interactieve settingen vaak overtuigender zijn dan gemotiveerde mensen, waarbij hun superioriteit afhangt van de context (waarheid of misleiding), het specifieke model en het aantal interacties, en mogelijk wordt veroorzaakt door een hogere uitgesproken overtuiging in hun taalgebruik.
Dit paper introduceert mCLM, een modulair chemisch taalmodel dat moleculen tokeniseert op basis van functionele bouwstenen in plaats van atomen, waardoor het niet alleen beter voorspelbare eigenschappen genereert, maar ook synthetiseerbare moleculen produceert die compatibel zijn met geautomatiseerde laboratoriumsynthese.
Dit paper introduceert DTR, een innovatieve verdediging op het moment van inferentie die multimodale jailbreak-aanvallen op Vision-Language-modellen effectief neutraliseert door de gewichten van visuele tokens dynamisch aan te passen via optimalisatie van de KV-cache, zonder afhankelijk te zijn van gespecialiseerde veiligheidsdata of kostbare beeld-naar-tekst conversie.
Dit artikel introduceert 'Chain-of-Lure', een universeel jailbreak-kader dat onbeperkte synthetische verhalen en een helper-LLM gebruikt om schadelijke intenties te verbergen en succesvolle aanvallen op grote taalmodellen uit te voeren, terwijl het ook verdedigingsstrategieën voorstelt.
Dit paper introduceert Negative-aware Fine-Tuning (NFT), een geavanceerde supervised learning-methode die LLM's in staat stelt om autonoom te leren van hun eigen fouten in wiskundige redenering, waardoor het de prestaties van bestaande RL-algoritmen evenaart of overtreft en de theoretische kloof tussen supervised learning en reinforcement learning dicht.
Dit paper introduceert SQUiD, een neurosymbolisch framework dat grote taalmodellen gebruikt om automatisch relationele databases te synthetiseren uit ongestructureerde tekst door schema's te genereren en tabellen te vullen.