6184 artículos
El artículo presenta TrainDeeploy, un marco que habilita la primera canalización completa de entrenamiento y ajuste fino en el dispositivo para modelos Transformer y CNN en chips de ultra bajo consumo, logrando una adaptación eficiente en el extremo mediante estrategias como LoRA que reducen significativamente el uso de memoria y el volumen de transferencia de datos.
El estudio demuestra que los modelos de lenguaje pueden adquirir subliminalmente preferencias de un modelo generador a través de parafraseos fieles, incluso cuando el contenido semántico es irrelevante o contradice explícitamente dicha preferencia, lo que revela una vulnerabilidad crítica en los pipelines de entrenamiento con datos sintéticos que no puede detectarse mediante inspección de contenido.
El artículo presenta EDA, un marco eficiente en parámetros y datos que restaura el rendimiento de la decodificación especulativa en modelos de lenguaje ajustados mediante una arquitectura desacoplada, una estrategia de regeneración de datos y un mecanismo de selección de muestras, logrando así una adaptación rápida y de bajo costo sin necesidad de reentrenamiento completo.
El artículo presenta BRACE, un algoritmo para problemas de banditos con incumplimiento que permite elegir entre optimizar el bienestar de las recomendaciones o el tratamiento, ofreciendo estimaciones de efectos estructurales certificados y válidos incluso en escenarios de identificación débil o heterogeneidad.
Este trabajo demuestra que el algoritmo de dualidad del espacio de estados de Mamba-2 puede implementarse completamente mediante primitivas estándar compiladas por XLA sin kernels personalizados, logrando una inferencia autoregresiva con caché portátil y de alto rendimiento en CPU, GPU y TPU.
Este estudio analiza el aprendizaje de la estructura de redes de Markov y bayesianas mediante un oráculo de independencia condicional no fiable, demostrando que las redes de Markov pueden identificarse incluso con un número moderadamente exponencial de errores bajo ciertas condiciones de conectividad, mientras que las redes bayesianas no toleran ningún error para una identificación garantizada, y propone algoritmos para los casos en que la estructura es identificable.
Este artículo presenta el algoritmo a-TMFG, una solución escalable que supera las limitaciones de memoria y tiempo del Triangulated Maximally Filtered Graph tradicional mediante el uso de grafos de vecinos más cercanos aproximados y la estimación de correlaciones bajo demanda para construir representaciones gráficas en conjuntos de datos masivos.
Este artículo propone un enfoque de control óptimo riguroso para el entrenamiento de Transformers, modelando la arquitectura como un sistema de partículas controlado que se transforma en un proceso de decisión de Markov sobre medidas de probabilidad, lo que permite demostrar la existencia de políticas óptimas globales y ofrecer una alternativa robusta a los métodos basados en gradientes sin requerir suavidad ni convexidad.
El artículo presenta SCDP, un enfoque que utiliza modelos de difusión y entrenamiento con observaciones mixtas para aprender locomoción de humanoides exclusivamente a partir de sensores a bordo, eliminando la necesidad de estimación de estado explícita y logrando un rendimiento robusto tanto en simulación como en un robot real.
El artículo presenta "Routing without Forgetting" (RwF), una arquitectura de transformador que aborda el aprendizaje continuo en línea mediante la generación dinámica de prompts a través de recuperación asociativa basada en energía, superando a los métodos existentes sin necesidad de identificadores de tarea explícitos ni optimización iterativa.
Este trabajo demuestra teórica y experimentalmente que el algoritmo Adam converge automáticamente y de forma lineal en polinomios altamente degenerados gracias a un mecanismo de desacoplamiento que amplifica la tasa de aprendizaje, superando así a los métodos tradicionales como el descenso de gradiente y el momentum en este tipo de funciones.
Este trabajo introduce una estrategia de recorte de parámetros basada en la divergencia de Rényi para estabilizar el aprendizaje en modelos de privacidad diferencial variacional no paramétrica, logrando simultáneamente garantías de privacidad más estrictas y un mejor rendimiento en tareas posteriores.
Este artículo caracteriza la capacidad de memorización de las redes neuronales profundas con activación ReLU, demostrando que el producto de los cuadrados de su ancho y profundidad es óptimo hasta factores logarítmicos para memorizar puntos de datos separados por una distancia .
Este artículo presenta un marco unificado para la factorización de matrices no negativas tradicional y convexa bajo modelos de Tweedie y Binomial Negativa, derivando reglas de actualización multiplicativa mediante algoritmos MM y demostrando mediante evaluaciones empíricas que la elección del modelo de ruido y el enfoque convexo mejoran significativamente el ajuste y la recuperación de características en datos complejos.
El artículo presenta BrainHO, un nuevo enfoque que aprende la organización jerárquica intrínseca de las redes cerebrales a partir de datos de fMRI mediante un mecanismo de atención jerárquica y restricciones de consistencia, logrando un rendimiento superior en el diagnóstico de trastornos cerebrales y la identificación de biomarcadores interpretables sin depender de subredes predefinidas.
El artículo presenta SparseLoom, un sistema demostrador que utiliza la técnica de "model stitching" para reensamblar subgrafos de modelos dispersos sin reentrenamiento, logrando en SoCs de borde una reducción de hasta el 74% en las violaciones de objetivos de nivel de servicio, un aumento de 2,31 veces en el rendimiento y una disminución del 28% en la sobrecarga de memoria en comparación con los sistemas existentes.
Esta revisión analiza sistemáticamente las fuentes de ruido en el aprendizaje automático cuántico fotónico, examina su impacto en algoritmos clave como los circuitos cuánticos variacionales y las redes neuronales cuánticas, y explora estrategias de mitigación y avances experimentales para desarrollar sistemas robustos y escalables.
Este artículo presenta un marco de redes generativas adversarias condicionales (cGAN) que utiliza datos de pozos para sintetizar imágenes realistas de secciones delgadas de rocas carbonatadas a partir de datos petrográficos dispersos, permitiendo una visualización continua de la porosidad del subsuelo para mejorar la caracterización de yacimientos y aplicaciones de transición energética.
El artículo presenta FreqCycle, un marco innovador que integra módulos de aprendizaje en los dominios temporal y frecuencial para capturar patrones de baja y media-alta frecuencia, logrando así un rendimiento superior y una mayor eficiencia en la predicción de series temporales.
Este trabajo presenta un marco para introducir sesgos controlados en conjuntos de datos reales y demuestra empíricamente cómo el sesgo de selección y el de etiqueta afectan la evaluación y la mitigación de modelos de clasificación, revelando que la ausencia de sesgo en el conjunto de prueba elimina la aparente compensación entre equidad y precisión.