2384 artículos
El artículo presenta HTMuon, un optimizador que mejora el entrenamiento de modelos de lenguaje grandes al corregir la supresión de espectros de pesos de cola pesada inherente a Muon mediante una corrección espectral basada en la teoría de auto-regularización de colas pesadas, logrando así un mejor rendimiento en preentrenamiento y clasificación de imágenes.
El artículo presenta ADVERSA, un marco de red-teaming automatizado que evalúa la degradación progresiva de las defensas de seguridad en modelos de lenguaje grandes mediante interacciones multi-turno, revelando que los jailbreaks exitosos tienden a ocurrir en las primeras rondas y destacando la importancia de medir la fiabilidad de los jueces y los sesgos de los atacantes.
Este estudio aplica por primera vez autoencoders dispersos al modelo de series temporales Chronos-T5, revelando que las características causalmente más críticas para la predicción se encuentran en las capas intermedias dedicadas a la detección de cambios abruptos, en lugar de en las capas finales que codifican conceptos temporales semánticamente ricos.
Este estudio analiza el rendimiento de los modelos de lenguaje grandes (LLM) en la generación de parches de seguridad para vulnerabilidades Java, revelando que, aunque preservan la funcionalidad, sufre un alto índice de fracaso debido a malentendidos semánticos que comprometen la seguridad, lo que subraya la necesidad de validación rigurosa antes de su despliegue.
El artículo demuestra que las redes neuronales aprenden primero la distribución marginal antes que la condicional completa, manteniéndose en un plateau de pérdida determinado por la ambigüedad del problema hasta que un mecanismo de enrutamiento interno y la dinámica del ruido de los gradientes facilitan una transición colectiva hacia la solución condicional óptima.
El artículo presenta TASER, un marco de defensa descentralizado para enjambres de UAVs que mitiga ataques de puerta trasera sofisticados mediante el análisis y refinamiento de la concentración espectral de los gradientes, logrando así suprimir tareas maliciosas sin depender de la detección de valores atípicos.
El artículo presenta "Amnesia", un ataque adversarial ligero que manipula las activaciones internas de los modelos de lenguaje grandes (LLM) de peso abierto para eludir sus mecanismos de seguridad y generar contenido dañino sin necesidad de entrenamiento adicional.
El artículo presenta Multi-Level Concept Splitting (MLCS) y Deep-HiCEMs, métodos que permiten descubrir y representar jerarquías de conceptos multinivel a partir de supervisión de alto nivel, superando las limitaciones de los modelos anteriores para lograr intervenciones interpretables y mejoras en el rendimiento.
El artículo presenta KernelSkill, un marco de trabajo multiagente que mejora la optimización de kernels de GPU mediante el uso de habilidades de expertos guiadas por conocimiento y una arquitectura de memoria dual, logrando aceleraciones significativas y una tasa de éxito del 100% en comparación con métodos anteriores basados en LLM.
El artículo presenta ES-dLLM, un marco de inferencia sin entrenamiento que acelera los modelos de difusión de lenguaje grande (dLLM) mediante el salto temprano de tokens en capas iniciales basado en la variación de representaciones intermedias y puntuaciones de confianza, logrando aceleraciones de hasta 16,8 veces sin comprometer la calidad de generación.
Este artículo propone un ataque de perturbación multi-flujo que explota las vulnerabilidades de los modelos de lenguaje con modo de pensamiento al intercalar múltiples tareas simultáneas, logrando altas tasas de éxito en evadir mecanismos de seguridad y provocar el colapso del proceso de razonamiento en modelos avanzados.
El artículo propone un estándar de ejecución consciente de la supervivencia (SAE) para sistemas de trading criptográfico con agentes tipo OpenClaw, que mitiga los riesgos de ejecución no autorizada mediante invariantes de última milla y métricas de brecha de delegación, logrando reducciones drásticas en la pérdida máxima y el riesgo de cola en pruebas con datos reales de Binance.
El artículo presenta Equivariant Asynchronous Diffusion (EAD), un modelo de difusión novedoso que combina horarios de desruido asíncronos y sincrónicos mediante un mecanismo de programación dinámica para superar las limitaciones de los métodos existentes y lograr un rendimiento superior en la generación de conformaciones moleculares 3D.
El artículo presenta CSRO, un marco innovador que sustituye los oráculos de aprendizaje por refuerzo tradicionales por modelos de lenguaje grandes para generar políticas multiagente interpretables y codificadas en código humano legible, logrando un rendimiento competitivo mientras facilita la comprensión y depuración de las estrategias.
El artículo propone un paradigma de "dispersión suave" basado en un proxy de bits significativos más altos integrado en una instrucción RISC-V personalizada que, al omitir multiplicaciones insignificantes, reduce drásticamente las operaciones MAC y el consumo de energía en redes neuronales convolucionales sin pérdida de precisión, superando significativamente a los métodos tradicionales de dispersión rígida.
El artículo presenta CLIPO, un enfoque que integra aprendizaje contrastivo en la optimización de políticas para generalizar el Aprendizaje por Refuerzo con Recompensas Verificables (RLVR), mejorando así la robustez y la generalización de los modelos de lenguaje al corregir inconsistencias en los pasos intermedios del razonamiento que el RLVR tradicional ignora.
Este artículo demuestra que el fenómeno "Lost in the Middle", caracterizado por un rendimiento en forma de U en los modelos de lenguaje, es una propiedad geométrica inherente a la arquitectura de los transformadores causales que ya está presente en la inicialización antes de cualquier entrenamiento o codificación posicional, debido a la interacción entre el enmascaramiento causal y las conexiones residuales.
El artículo presenta AR-VLA, un experto de acción autoregresivo independiente que mantiene una memoria a largo plazo para generar trayectorias de acciones continuas y coherentes, superando las limitaciones de los modelos VLA reactivos actuales al abordar la desincronización entre el razonamiento lento y el control rápido mediante un mecanismo de reanclaje.
El artículo propone un sistema que automatiza la mejora de productos de datos mediante agentes de IA especializados en un bucle de optimización continua, el cual equilibra la automatización con la supervisión humana para transformar los datos en activos observables y refinables.
Este artículo presenta una nueva visión unificada de la asimetría entre generación y reconocimiento en la teoría de lenguajes formales, identificando seis dimensiones divergentes (incluyendo dos nuevas: direccionalidad y temporalidad) para desmitificar la noción de que la generación es siempre fácil y el análisis siempre difícil, y conectando estas diferencias con el marco de la sorpresa en el procesamiento del lenguaje natural y las arquitecturas de los modelos de lenguaje grandes.