8316 artículos
El artículo presenta OptiRoulette, un meta-optimizador estocástico que selecciona dinámicamente reglas de actualización durante el entrenamiento, logrando una convergencia hasta 5.3 veces más rápida y mejoras significativas en la precisión de prueba en comparación con AdamW en múltiples conjuntos de datos de clasificación de imágenes.
Este artículo propone una representación unificada de los modelos de difusión y el emparejamiento de flujos mediante ecuaciones lineales, revelando que la correlación entre los datos ruidosos y el objetivo predicho puede ser débil, lo cual podría afectar el proceso de aprendizaje.
Este artículo presenta el marco Annealed Co-Generation (ACG), que facilita la co-generación multivariada en aplicaciones científicas mediante el modelado progresivo de pares de variables con difusión de baja dimensión y un proceso de recocido de tres etapas, evitando así la carga computacional y el desequilibrio de datos inherentes a los modelos conjuntos de alta dimensión.
El artículo presenta RACER, un método de enrutamiento de modelos de lenguaje grande que aborda el problema de la selección de modelos como un problema de riesgo controlado, generando conjuntos anidados de modelos calibrados para minimizar el error de enrutamiento y mejorar la precisión sin depender de supuestos distribucionales.
El artículo presenta Evo, un modelo de lenguaje autoregresivo-difusivo que unifica ambos paradigmas en un flujo latente evolutivo para equilibrar dinámicamente la planificación y el refinamiento, logrando un rendimiento de vanguardia en diversas tareas manteniendo una alta velocidad de inferencia.
Este artículo presenta un marco novedoso para la predicción de interacciones en redes biológicas multiplex que, mediante el aprendizaje de representaciones conscientes del contexto, la destilación de conocimiento y el uso de modelos fundacionales, supera a los métodos actuales al lograr una generalización robusta en escenarios de cero disparos para entidades no vistas.
El artículo presenta NAT, un marco unificado que optimiza el aprendizaje por refuerzo en modelos de lenguaje al actualizar la política utilizando solo un subconjunto de tokens mediante un estimador de gradiente no sesgado, logrando un rendimiento comparable al método completo con una reducción significativa en costos computacionales y uso de memoria.
El artículo presenta GraphSkill, un marco de codificación guiado por agentes que mejora el razonamiento sobre grafos complejos mediante una recuperación jerárquica de documentación técnica y un agente de autodepuración que utiliza casos de prueba generados automáticamente, todo ello respaldado por un nuevo dataset de evaluación.
Este artículo demuestra que los Modelos de Recompensa de Proceso (PRM) actuales son vulnerables a ataques adversarios al priorizar la fluidez sobre la lógica real, por lo que propone un marco de diagnóstico de tres niveles y herramientas de código abierto para evaluar y mitigar estas falencias antes de su implementación.
Este artículo demuestra que el modelo Transformer, basado en mecanismos de atención, supera a los enfoques tradicionales como ARIMA y a otras redes neuronales recurrentes (LSTM y BiLSTM) en la predicción de la carga eléctrica a corto plazo, logrando un error porcentual medio absoluto (MAPE) del 3,8% en datos de PJM.
Esta encuesta ofrece una revisión exhaustiva de Flow-GRPO, un marco de aprendizaje por refuerzo que extiende la optimización de políticas relativas grupales a modelos generativos de flujo, analizando sus avances metodológicos y sus aplicaciones en diversas modalidades como imágenes, video, audio y modelos multimodales para alinear las salidas con preferencias humanas.
Este artículo presenta la Teoría del Espacio de Exploración (EST), un marco formal basado en retículos que adapta la Teoría del Espacio de Conocimiento para los sistemas de recomendación basados en ubicación, garantizando matemáticamente que las sugerencias respeten las dependencias semánticas y de prerequisitos entre puntos de interés.
Este artículo presenta un modelo de redes neuronales gráficas basado en aprendizaje colectivo que integra las características de las secciones adyacentes y sus dependencias para imputar eficazmente los datos faltantes en las condiciones del pavimento, superando las limitaciones de los métodos tradicionales.
El artículo presenta Grouter, un método de enrutamiento preventivo que desacopla la optimización estructural de las actualizaciones de pesos mediante la destilación de estructuras de modelos MoE ya entrenados, logrando acelerar significativamente la convergencia y el rendimiento del entrenamiento.
El artículo presenta T-REX, una arquitectura basada en transformadores diseñada para Amazon que mejora las recomendaciones de carritos de compras en línea mediante la generación de secuencias de categorías personalizadas, resolviendo desafíos como patrones repetitivos y dependencias temporales mediante innovaciones en muestreo, codificación posicional y modelado causal.
Este artículo presenta un protocolo de extracción de características de grafos causal y libre de fugas para la detección de fraudes en redes de transacciones temporales, demostrando que, aunque los atributos de las transacciones son el principal predictor, las características estructurales del grafo ofrecen una interpretabilidad complementaria y mejoran el análisis de riesgo en flujos de trabajo de investigación.
Este artículo propone un nuevo principio de incertidumbre en el aprendizaje automático que explica la degeneración fatal de las expansiones de Heaviside y sigmoide, donde la agudeza de un mínimo está inversamente relacionada con la suavidad de los cañones de optimización, un fenómeno de naturaleza física análogo al principio de incertidumbre de Fourier.
El estudio demuestra que la capacidad de los modelos de lenguaje pequeños para inferir propiedades de grafos depende críticamente de una representación que preserve la estructura vecinal y de estrategias de razonamiento multi-rama, en lugar de depender únicamente de la escala del modelo.
El artículo presenta SmartBench, el primer conjunto de datos diseñado para evaluar la capacidad de los grandes modelos de lenguaje (LLM) para detectar estados anómalos en hogares inteligentes, revelando que incluso los modelos más avanzados actuales tienen un rendimiento insuficiente en esta tarea crítica.
El artículo presenta HEARTS, un nuevo benchmark unificado que evalúa las capacidades de razonamiento jerárquico de los modelos de lenguaje grandes (LLM) sobre series temporales de salud mediante 16 conjuntos de datos y 110 tareas, revelando que estos modelos actuales tienen un rendimiento limitado y dependen de heurísticas simples en comparación con los modelos especializados.