1018 artículos
PonderLM-3 es un marco de preentrenamiento que permite la ponderación adaptativa a nivel de token mediante un enmascaramiento diferenciable, optimizando la asignación de recursos computacionales adicionales solo en los tokens que más los necesitan para mejorar la calidad de generación y reducir el costo de inferencia en comparación con métodos anteriores.
Este estudio empírico, titulado "VeriInteresting", analiza las interacciones entre el razonamiento de los modelos, la especialización y las estrategias de ingeniería de prompts en la generación de código Verilog, identificando patrones generalizables y específicos mediante una evaluación factorial controlada de diversos modelos de lenguaje.
Este artículo presenta una tubería autoalojada y sin APIs que convierte PDFs de conferencias en bancos de preguntas de opción múltiple mediante un modelo de lenguaje local y un control de calidad determinista, garantizando la privacidad y la trazabilidad de los resultados educativos.
El informe técnico presenta Fish Audio S2, un sistema de texto a voz de código abierto que permite la generación multi-locutor y multi-turno con control mediante instrucciones en lenguaje natural, destacando por su alta eficiencia en inferencia en tiempo real y la disponibilidad pública de sus pesos y herramientas.
El artículo presenta MASEval, un marco de evaluación agnóstico que demuestra que las decisiones de implementación del sistema (como la topología y la lógica de orquestación) impactan el rendimiento tanto como la elección del modelo, permitiendo así una comparación sistemática de componentes completos de sistemas multiagente.
Este estudio demuestra que los Autoencoders Dispersos (SAE) en modelos Gemma capturan representaciones semánticas abstractas e invariantes al script, ya que las oraciones serbias escritas en alfabetos latino y cirílico activan características superpuestas significativamente más que las paráfrasis, lo que sugiere que el aprendizaje prioriza el significado sobre la forma ortográfica.
Este trabajo presenta MultiGraSCCo, un nuevo benchmark multilingüe de anonimización en diez idiomas que utiliza traducción automática para generar datos sintéticos anotados con identificadores personales, ofreciendo un recurso seguro y culturalmente adaptado para el desarrollo y evaluación de sistemas de protección de la privacidad en el ámbito médico.
Este artículo evalúa una estrategia de cribado sin etiquetas que utiliza incrustaciones de texto derivadas de Word2Vec y Transformers para filtrar candidatos a electrocatalizadores de soluciones sólidas complejas, demostrando que el modelo Word2Vec ligero, basado en una combinación lineal de elementos, logra a menudo la mayor reducción de candidatos manteniendo un rendimiento cercano al óptimo medido.
El artículo presenta ConFu, un nuevo marco de muestreo especulativo que mejora la velocidad de inferencia de los modelos de lenguaje grande al permitir que los modelos borrador anticipen la dirección futura de la generación mediante tokens de contemplación y prompts suaves, logrando una mayor tasa de aceptación de tokens que el estado del arte EAGLE-3.
El artículo presenta SciTaRC, un nuevo conjunto de datos de preguntas sobre tablas científicas que requiere razonamiento lingüístico y cálculos complejos, revelando que incluso los modelos de IA más avanzados actuales fallan significativamente debido a un "cuello de botella de ejecución" que afecta tanto a los métodos basados en código como a los de razonamiento en lenguaje natural.
El artículo presenta PathoScribe, un marco unificado impulsado por modelos de lenguaje grandes que transforma los archivos de patología estáticos en una biblioteca viva y razonable, permitiendo la recuperación semántica, la construcción automatizada de cohortes y la integración clínica con una precisión y eficiencia significativamente superiores a los métodos tradicionales.
El artículo presenta VoxEmo, un benchmark integral para la evaluación de modelos de lenguaje de voz en el reconocimiento de emociones, que aborda desafíos como la variabilidad de los prompts y la ambigüedad humana mediante un conjunto de datos multilingüe, un protocolo de etiquetas suaves y estrategias de consenso para alinear mejor los resultados generativos con la percepción subjetiva humana.
El artículo presenta BiCLIP, un marco sencillo y eficiente que mejora la adaptación de dominios en modelos de visión y lenguaje mediante una transformación geométrica canónica aprendida a partir de pocas muestras, logrando resultados de vanguardia en múltiples benchmarks.
El artículo presenta a Guardian, un sistema de tubería multi-LLM que utiliza modelos especializados y un mecanismo de consenso, junto con ajuste fino QLoRA, para extraer y procesar información de manera auditable y coordinada durante las primeras 72 horas críticas de investigaciones de personas desaparecidas.
Este artículo presenta un marco automatizado para el análisis temático de datos cualitativos clínicos que, mediante la refinación iterativa del libro de códigos y el seguimiento completo de la procedencia, supera a múltiples enfoques de referencia en calidad y reproducibilidad, logrando una alineación significativa con temas anotados por expertos en corpus clínicos.
Este artículo presenta un marco de decisión consciente de la confianza que analiza una única trayectoria de razonamiento para seleccionar adaptativamente entre métodos de un solo o múltiples caminos, logrando una precisión comparable a los enfoques de consistencia autoconsciente tradicionales mientras reduce el costo de inferencia hasta en un 80%.
El artículo presenta a Sentinel, un agente de IA autónomo que supera a los clínicos individuales en la sensibilidad para detectar emergencias y priorizar alertas en la monitorización remota de pacientes, ofreciendo una solución escalable y de bajo costo que resuelve el problema de la sobrecarga de datos que limitó los ensayos clínicos anteriores.
El artículo presenta la Atención Exclusiva (XSA), una modificación sencilla de la atención auto-referencial que mejora el rendimiento de los Transformers al restringir la atención a información ortogonal al propio token, logrando resultados superiores en tareas de modelado de lenguaje, especialmente a medida que aumenta la longitud de la secuencia.
Este estudio diagnostica sistemáticamente la brecha de rendimiento entre el texto y las imágenes en modelos multimodales, identificando que las imágenes de texto amplifican errores de lectura y cálculo, y propone un método de auto-distilación que utiliza trazas de razonamiento en texto puro para cerrar esta brecha y mejorar significativamente la precisión en tareas visuales.
El estudio demuestra que el ajuste fino (fine-tuning) de modelos de lenguaje pequeños con un corpus centrado en soluciones biológicas puede corregir su sesgo hacia enfoques sintéticos y aumentar significativamente su preferencia por soluciones basadas en la biología sin degradar sus capacidades generales.