4236 artículos
Este artículo propone XSAM, una implementación mejorada y más fiel de la Minimización Consciente de la Agudeza (SAM) que ofrece una interpretación intuitiva de su funcionamiento y supera sus limitaciones actuales mediante una estimación explícita de la dirección del máximo y un espacio de búsqueda optimizado, logrando un rendimiento superior con un costo computacional insignificante.
El artículo presenta \texttt{InFusionLayer}, una herramienta de código abierto en Python que implementa el Análisis de Fusión Combinatoria (CFA) mediante funciones de característica rango-puntuación y diversidad cognitiva para crear arquitecturas de aprendizaje en conjunto que mejoran el rendimiento en problemas de clasificación multiclase dentro de flujos de trabajo de PyTorch, TensorFlow y Scikit-learn.
El artículo propone FlowSem-MAE, un paradigma de preentrenamiento tabular nativo de protocolos que supera las limitaciones de los enfoques basados en secuencias al preservar la semántica de los campos definidos por el protocolo mediante unidades semánticas de flujo (FSU), logrando una clasificación superior de tráfico cifrado con la mitad de datos etiquetados.
El artículo presenta OmniGuide, un marco flexible que mejora el rendimiento de los modelos de política generalista visión-lenguaje-acción (VLA) en tareas complejas al integrar diversas fuentes de orientación como funciones de energía diferenciables que guían la generación de acciones en el espacio 3D.
El artículo presenta CAADRL, un marco de aprendizaje profundo por refuerzo que aprovecha la estructura de agrupamiento del Problema de Recogida y Entrega mediante codificación y decodificación jerárquica para lograr un rendimiento competitivo con tiempos de inferencia significativamente menores que los métodos basados en búsqueda colaborativa.
Este artículo resuelve tras veinte años la conjetura sobre la cuantización de la curvatura de Ricci en bitnets binarios, demostrando su validez para estructuras de árbol y grafos completos mediante un mecanismo de cancelación universal, refutándola en casos generales con contraejemplos de bucles y extendiendo el análisis a redes DAG gaussianas donde se observa una dicotomía de signo entre curvaturas positivas y negativas.
Este trabajo propone pre-entrenar modelos de lenguaje utilizando datos sintéticos generados por autómatas celulares neuronales, logrando mejoras en el rendimiento y la convergencia que superan a las obtenidas con grandes volúmenes de texto natural, lo que abre un camino hacia modelos más eficientes mediante pre-entrenamiento totalmente sintético.
El artículo presenta HTMuon, un optimizador que mejora el entrenamiento de modelos de lenguaje grandes al corregir la supresión de espectros de pesos de cola pesada inherente a Muon mediante una corrección espectral basada en la teoría de auto-regularización de colas pesadas, logrando así un mejor rendimiento en preentrenamiento y clasificación de imágenes.
El artículo propone SAPO, una mejora de una sola línea de código para el algoritmo GRPO que estabiliza el entrenamiento de agentes de búsqueda mediante una restricción condicional de KL, eliminando el colapso catastrófico por desviación de la distribución de muestreo y logrando mejoras significativas en diversos benchmarks.
Este estudio aplica por primera vez autoencoders dispersos al modelo de series temporales Chronos-T5, revelando que las características causalmente más críticas para la predicción se encuentran en las capas intermedias dedicadas a la detección de cambios abruptos, en lugar de en las capas finales que codifican conceptos temporales semánticamente ricos.
El artículo demuestra que las redes neuronales aprenden primero la distribución marginal antes que la condicional completa, manteniéndose en un plateau de pérdida determinado por la ambigüedad del problema hasta que un mecanismo de enrutamiento interno y la dinámica del ruido de los gradientes facilitan una transición colectiva hacia la solución condicional óptima.
Este artículo introduce las redes neuronales port-Hamiltonianas estocásticas (SPH-NNs), un modelo que garantiza la pasividad y la aproximación universal de sistemas dinámicos estocásticos mediante la parametrización de la Hamiltoniana con redes neuronales, demostrando superioridad en la precisión energética y la estabilidad a largo plazo frente a baselines tradicionales en osciladores no lineales.
Este artículo presenta una teoría cuantitativa basada en desviaciones grandes para la fase de "catapulta" en el entrenamiento de redes neuronales mediante SGD, identificando un criterio explícito que determina cuándo se producen grandes picos de aplanamiento del NTK con alta probabilidad y cuándo su ocurrencia decae rápidamente.
El artículo presenta "Amnesia", un ataque adversarial ligero que manipula las activaciones internas de los modelos de lenguaje grandes (LLM) de peso abierto para eludir sus mecanismos de seguridad y generar contenido dañino sin necesidad de entrenamiento adicional.
Este trabajo propone un marco de aprendizaje residual multi-etapa para mitigar el sesgo de aprendizaje de frecuencias en modelos cuánticos, demostrando mediante experimentos que esta técnica mejora significativamente la capacidad de los circuitos parametrizados para aproximar funciones con múltiples componentes espectrales.
El artículo presenta Multi-Level Concept Splitting (MLCS) y Deep-HiCEMs, métodos que permiten descubrir y representar jerarquías de conceptos multinivel a partir de supervisión de alto nivel, superando las limitaciones de los modelos anteriores para lograr intervenciones interpretables y mejoras en el rendimiento.
El artículo presenta KernelSkill, un marco de trabajo multiagente que mejora la optimización de kernels de GPU mediante el uso de habilidades de expertos guiadas por conocimiento y una arquitectura de memoria dual, logrando aceleraciones significativas y una tasa de éxito del 100% en comparación con métodos anteriores basados en LLM.
El artículo presenta ES-dLLM, un marco de inferencia sin entrenamiento que acelera los modelos de difusión de lenguaje grande (dLLM) mediante el salto temprano de tokens en capas iniciales basado en la variación de representaciones intermedias y puntuaciones de confianza, logrando aceleraciones de hasta 16,8 veces sin comprometer la calidad de generación.
Esta encuesta presenta la primera taxonomía unificada del Aprendizaje en el Espacio de Pesos (WSL), categorizando los métodos en comprensión, representación y generación de pesos para habilitar aplicaciones prácticas como la recuperación de modelos, el aprendizaje federado y la reconstrucción sin datos.
El artículo presenta Equivariant Asynchronous Diffusion (EAD), un modelo de difusión novedoso que combina horarios de desruido asíncronos y sincrónicos mediante un mecanismo de programación dinámica para superar las limitaciones de los métodos existentes y lograr un rendimiento superior en la generación de conformaciones moleculares 3D.