23 artículos
Este artículo presenta dos técnicas de software, Escalamiento Consciente de Desbordamiento (OAS) y Escalamiento de Bloque Macro (MBS), que reducen significativamente el error de cuantización en el formato MXFP4, cerrando la brecha de precisión con NVFP4 a menos del 1% sin requerir cambios en el hardware.
El paper presenta ARKV, un marco ligero y adaptativo que gestiona dinámicamente la memoria de la caché KV asignando niveles de precisión según la importancia de los tokens, logrando reducir el uso de memoria en 4x sin sacrificar significativamente la precisión en inferencias de largo contexto.
Este trabajo presenta ChatNeuroSim, un marco de agentes basado en modelos de lenguaje grande que automatiza el despliegue y la optimización de aceleradores de memoria en cómputo (CIM) mediante la gestión integral del flujo de trabajo y una técnica de poda del espacio de diseño que reduce significativamente el tiempo de ejecución en comparación con los métodos tradicionales.
El artículo presenta bsort, un algoritmo de ordenamiento no basado en comparaciones para enteros y números de punto flotante que unifica estos casos mediante una derivación del quicksort binario, logrando un tiempo de ejecución asintótico de y un espacio auxiliar de , con un rendimiento competitivo en datos de tamaño de palabra pequeño.
El artículo introduce la desigualdad , un criterio que demuestra cómo la fragmentación de la reutilización de memoria en los modelos de Mezcla de Expertos (MoE) genera una doble penalización en la inferencia de contexto largo, volviéndolos estructuralmente menos eficientes que sus contrapartes densas de calidad equivalente.
Este artículo demuestra por primera vez que el uso directo de núcleos tensoriales FP64 en GPUs NVIDIA, combinado con optimizaciones de fusión de kernels en la biblioteca MFEM, acelera significativamente las simulaciones de elementos finitos de alto orden a escala exascale, logrando mejoras de rendimiento de hasta 2 veces y una eficiencia energética del 83% en sistemas como Alps.
Este artículo presenta y evalúa un motor de matemáticas de precisión dinámica para microcontroladores ESP32 que combina aritmética de punto fijo, un módulo CORDIC y multiplicación de matrices optimizada para lograr aceleraciones significativas en operaciones trigonométricas y de álgebra lineal mediante la conmutación en tiempo real entre rutas de ejecución de punto fijo y de coma flotante.
Este trabajo demuestra que el algoritmo de dualidad del espacio de estados de Mamba-2 puede implementarse completamente mediante primitivas estándar compiladas por XLA sin kernels personalizados, logrando una inferencia autoregresiva con caché portátil y de alto rendimiento en CPU, GPU y TPU.
El artículo presenta SparseLoom, un sistema demostrador que utiliza la técnica de "model stitching" para reensamblar subgrafos de modelos dispersos sin reentrenamiento, logrando en SoCs de borde una reducción de hasta el 74% en las violaciones de objetivos de nivel de servicio, un aumento de 2,31 veces en el rendimiento y una disminución del 28% en la sobrecarga de memoria en comparación con los sistemas existentes.
Este trabajo presenta una arquitectura totalmente residente en GPU y sin bloqueos para la verificación masiva de la conjetura de Goldbach, que logra una eficiencia paralela superior al 98% y acelera el proceso en 45,6 veces al eliminar la comunicación con el host mediante un mecanismo de robo de trabajo asíncrono y el uso de memoria compartida optimizada.
El artículo presenta DyLLM, un marco de inferencia sin entrenamiento que acelera la generación de modelos de lenguaje de difusión enmascarada al identificar y calcular selectivamente solo los tokens salientes, logrando un aumento de hasta 9,6 veces en el rendimiento sin comprometer la precisión.
El artículo presenta RedFuser, un marco automático que fusiona operaciones de reducción en cascada en un único bucle mediante un método teórico formal, logrando aceleraciones de 2 a 5 veces en comparación con los compiladores de IA más avanzados y igualando el rendimiento de los kernels escritos a mano.
El documento presenta RAGPerf, un marco de referencia de código abierto y bajo costo que permite el análisis detallado y la configuración modular de sistemas de generación aumentada por recuperación (RAG) mediante la evaluación de su rendimiento, uso de recursos y precisión en diversos escenarios y componentes.
Este trabajo presenta "Linear Layouts", un enfoque novedoso que modela la disposición de tensores mediante álgebra lineal sobre para generar código eficiente, permitir conversiones genéricas entre layouts y reducir la complejidad en compiladores como Triton.
Este artículo demuestra que el rendimiento real de la transferencia de datos a gran escala depende de un diseño holístico hardware-software que aborde seis paradigmas críticos más allá del ancho de banda de la red, introduciendo el modelo de "Patrón de Cuenca de Drenaje" para identificar y resolver los cuellos de botella que limitan el rendimiento en entornos de producción.
Este artículo analiza las estrategias de paralelización para la implementación de modelos de lenguaje grandes (LLM) densos, demostrando que la paralelización tensorial optimiza la latencia mientras que la paralelización de pipeline mejora el rendimiento, permitiendo mediante su combinación un control efectivo sobre el equilibrio entre ambos factores.
Este artículo presenta un controlador en línea de caja negra que optimiza el rendimiento de los modelos de lenguaje mediante mediciones de extremo a extremo y, a partir de este ejemplo, aboga por la inclusión de métricas de rendimiento y sostenibilidad del sistema en las fichas técnicas para fomentar la confianza en la IA.
Este artículo presenta el diseño, análisis y rendimiento de una lista saltatoria determinista concurrente en nodos NUMA de muchos núcleos, evaluando además implementaciones de colas y tablas hash concurrentes frente a la biblioteca TBB de Intel, e introduciendo estrategias de gestión de memoria y uso jerárquico de estructuras de datos para reducir las latencias y los fallos de página.
Esta encuesta analiza sistemáticamente los enfoques de enrutamiento y cascada dinámicos entre múltiples modelos de lenguaje grandes (LLM) independientes, proponiendo un marco conceptual que equilibra la eficiencia y el rendimiento al seleccionar modelos adaptativos según la complejidad de la consulta, superando así las limitaciones de los despliegues estáticos.
Este estudio demuestra que la versión experimental de Python 3.14 sin GIL mejora significativamente el rendimiento y la eficiencia energética en cargas de trabajo paralelizables, pero resulta contraproducente en tareas secuenciales o con alta contención de recursos debido al aumento en el uso de memoria y energía.