5657 artículos
Este estudio establece límites superiores de generalización PAC para osciladores neuronales basados en ecuaciones diferenciales de segundo orden, demostrando teóricamente y validando numéricamente que sus errores de estimación crecen polinomialmente con el tamaño de la red y la duración temporal, y que regularizar las constantes de Lipschitz mejora su capacidad de generalización en sistemas estructurales no lineales.
Este artículo establece teoremas de aproximación universal global para funcionales lineales de firmas en espacios de trayectorias lineales a trozos, demostrando su aplicabilidad a procesos estocásticos como el movimiento browniano y permitiendo la aproximación de funcionales dependientes de la trayectoria y ecuaciones diferenciales estocásticas.
Este trabajo demuestra que los conceptos ausentes que activan neuronas son comunes en los modelos de IA, que los métodos explicativos estándar no los detectan, y propone extensiones sencillas para revelar estas "ausencias codificadas" y mejorar la interpretabilidad y el desesgo de los modelos.
Este artículo propone un marco híbrido cuántico-clásico que combina redes LSTM con Máquinas de Nacimiento de Circuitos Cuánticos (QCBM) para predecir la volatilidad financiera, demostrando mediante datos del mercado chino un rendimiento superior frente a los modelos clásicos en métricas clave como el error cuadrático medio.
El artículo propone ACP-SL, un esquema de aprendizaje dividido que utiliza una puntuación de importancia de canales basada en etiquetas para eliminar canales menos relevantes y comprimir los datos transmitidos, reduciendo así la sobrecarga de comunicación sin comprometer la precisión.
Este artículo presenta -GaBO, una nueva familia de algoritmos de optimización bayesiana para el simplex de probabilidad que, basándose en la geometría de la información para definir kernels y optimizadores geométricos, supera a los enfoques euclidianos restringidos en diversas aplicaciones reales y problemas de referencia.
El artículo presenta In-Context RLVR, un método que utiliza el "Ganancia de Evidencia" derivada del aprendizaje en contexto para reponderar implícitamente las recompensas y priorizar trazas de razonamiento de alta calidad durante el entrenamiento, mejorando así tanto la precisión como la calidad del razonamiento en modelos de lenguaje.
Este artículo presenta el "pseudo-proyector", una modificación ligera inspirada en el paradigma multigrid que corrige las representaciones ocultas de los modelos basados en transformadores para reducir la sensibilidad al ruido y mejorar la dinámica de entrenamiento y la robustez sin alterar su arquitectura central.
Este artículo presenta un marco jerárquico novedoso de aprendizaje multi-tarea y multi-fidelidad basado en procesos gaussianos que unifica la similitud entre tareas y las características de los datos de diferentes fidelidades para mejorar la precisión y la eficiencia en el modelado sustituto de sistemas de fabricación.
Este artículo presenta HR-GAT, un modelo de red de atención gráfica jerárquica que utiliza datos geoespaciales para predecir la demanda de espectro con una precisión un 21% superior a la de modelos convencionales, abordando eficazmente los patrones espaciales complejos y la autocorrelación en cinco ciudades canadienses.
El artículo presenta GAST, un método innovador de ajuste fino eficiente en parámetros que supera las limitaciones de los enfoques existentes al realizar simultáneamente una selección adaptativa de datos y capas mediante un alineamiento de gradientes, logrando así un rendimiento superior al reducir la redundancia informativa.
El artículo presenta CarbonBench, el primer punto de referencia global que utiliza aprendizaje cero-shot para evaluar y estandarizar la escalabilidad de los flujos de carbono en ecosistemas no observados, integrando más de 1,3 millones de datos de 567 torres de flujo para mejorar la modelización climática y la contabilidad de carbono.
El artículo presenta MSSR, un marco de repetición de experiencias que estima la fuerza de la memoria a nivel de muestra y programa ensayos en intervalos adaptativos para mitigar el olvido catastrófico y mantener una adaptación rápida durante el ajuste fino continuo de modelos de lenguaje grandes.
El artículo presenta OptEMA, un nuevo optimizador basado en medias móviles exponenciales adaptativas que logra tasas de convergencia óptimas en el régimen de ruido cero sin requerir conocimiento previo de constantes de Lipschitz ni reconfiguración manual de hiperparámetros.
Este artículo demuestra teóricamente que el modelado generativo mediante deriva es equivalente al ajuste de puntuaciones (score matching) bajo un kernel gaussiano, estableciendo un marco variacional y espectral que explica la convergencia, justifica el uso de kernels laplacianos y la importancia del operador stop-gradient, mientras propone un nuevo esquema de annealing para acelerar el entrenamiento.
El artículo presenta SignalMC-MED, un nuevo benchmark multimodal basado en 22,256 visitas con señales sincronizadas de ECG y PPG que evalúa modelos fundacionales de biosignales, demostrando que los modelos específicos del dominio superan a los generales, la fusión multimodal mejora los resultados y las características manuales siguen siendo valiosas.
Este artículo presenta el Indicador de Sobreajuste-Subajuste (OUI) como una señal estructural temprana y eficiente que, al analizar los patrones de activación de las neuronas en PPO, permite discriminar con precisión entre tasas de aprendizaje óptimas e inestables mucho antes de completar el entrenamiento, diferenciando además los comportamientos ideales de las redes actor y crítico.
Este trabajo introduce los "neural debuggers", modelos de lenguaje que emulan las funciones de los depuradores tradicionales permitiendo la ejecución interactiva paso a paso y la inferencia de estados, lo que sienta las bases para sistemas de codificación autónomos más avanzados.
Este artículo propone una nueva familia de optimizadores basados en normas de operadores normalizadas (como MOGA) que garantizan una estabilidad independiente del ancho de la red y permiten una transferencia efectiva de hiperparámetros, superando las limitaciones de métodos existentes como AdamW y Muon mediante una perspectiva geométrica de descenso de gradiente.
El paper presenta C2FMAE, un autoencoder enmascarado de aprendizaje auto-supervisado que resuelve la tensión entre el aprendizaje de semántica global y detalles locales mediante un enfoque jerárquico de tres niveles (semántico, de instancia y píxel) con un decodificador en cascada y un currículo de enmascaramiento progresivo, logrando mejoras significativas en tareas de visión por computadora.