🤖 machine learning

MoECa: Aligning Feature Reuse with Expert Decomposition in Diffusion Transformers

El artículo propone MoECa, un marco de caché de grano fino que acelera los Diffusion Transformers mediante la Mezcla de Expertos al realizar la reutilización de características a nivel de rama de experto en lugar de a nivel de token, logrando aceleraciones de hasta 2.93 $\times$ mientras preserva la calidad de la generación.

Autores originales: Maoliang Li, Haojing Chen, Jiayu Chen, Zihao Zheng, Xinhao Sun, Hailong Zou, Xiang Chen

Publicado 2026-08-05

📖 8 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Maoliang Li, Haojing Chen, Jiayu Chen, Zihao Zheng, Xinhao Sun, Hailong Zou, Xiang Chen

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás intentando pintar una obra maestra, pero en lugar de usar un solo pincel, tienes un equipo mágico de cientos de diminutos artistas, cada uno especializado en un estilo diferente: algunos son maestros de la textura, otros del color y otros de la iluminación. Así es como funcionan los generadores de imágenes de IA modernos, conocidos como Transformadores de Difusión. Comienzan con una pantalla llena de ruido estático y, paso a paso, van "eliminando el ruido" hasta que emerge una imagen clara. Para que estas imágenes luzcan increíbles, la IA utiliza un truco ingenioso llamado "Mezcla de Expertos" (Mixture-of-Experts o MoE). Piensa en esto como un gerente inteligente que, para cada pequeña sección de la imagen, despierta solo al equipo de artistas específicos más adecuados para ese trabajo, en lugar de pedirle a todos que trabajen a la vez. Esto ahorra energía y permite que la IA sea increíblemente inteligente.

Sin embargo, hay un inconveniente. Crear una imagen requiere cientos de estos "pasos de eliminación de ruido", y la IA tiene que realizar una cantidad masiva de cálculos por cada paso. Es como tener que repintar todo el lienzo desde cero cada vez que añades una nueva capa de detalle. Para acelerar esto, los científicos han probado una técnica llamada "almacenamiento en caché de características" (feature caching). Esto es como decir: "Oye, esta parte de la pintura no ha cambiado mucho desde el último paso, así que reutilicemos la pintura vieja en lugar de mezclar colores nuevos". El problema es que la forma antigua de hacer esto era demasiado torpe. Trataba a toda la pequeña sección de la imagen como una única unidad. Si incluso un detalle minúsculo en esa sección necesitaba una capa fresca de pintura, el método antiguo obligaba a la IA a repintar la sección entera, desperdiciando tiempo. Si era demasiado conservador, reutilizaba toda la sección incluso cuando partes de ella habían cambiado, lo que resultaba en un desastre borroso.

Aquí es donde entra en juego un nuevo estudio llamado MoECa. Los investigadores se dieron cuenta de que, dado que la IA utiliza equipos de "expertos" especializados, la estrategia de almacenamiento en caché debe ser igual de especializada. En lugar de tratar una sección de la imagen como un bloque único, MoECa mira dentro del bloque y ve a los expertos individuales trabajando en él. Descubrieron que, mientras un experto podría estar ocupado cambiando la textura de una hoja, otro experto que trabaja en la misma sección podría estar perfectamente feliz reutilizando su trabajo anterior en el cielo. Al descomponer la imagen al nivel de estas ramas de expertos individuales, MoECa puede decidir exactamente qué partes repintar y qué partes reutilizar.

El artículo muestra que este enfoque de "grano fino" es un cambio de paradigma. Al alinear la estrategia de almacenamiento en caché con la forma en que realmente trabajan los expertos, la IA puede saltarse cálculos redundantes sin perder calidad. En sus pruebas, el nuevo método hizo que el proceso de generación de imágenes fuera hasta 2.93 veces más rápido mientras mantenía las imágenes tan nítidas y detalladas como la versión lenta original. Es como actualizar de un equipo de construcción que repinta toda la casa cada vez que se necesita arreglar una ventana, a un equipo que solo pinta la ventana específica que necesita, dejando el resto de la casa intacta y lista para continuar.

El Problema: El Error de "Todo o Nada"

Para entender por qué se necesita MoECa, tenemos que observar cómo piensan estos modelos de IA. En el pasado, al intentar acelerar la generación de imágenes, los investigadores utilizaban un método de almacenamiento en caché a "nivel de token". Imagina un token como un pequeño cuadrado en tu lienzo. La regla antigua era simple: "Si este cuadrado cambia aunque sea un poquito, repinta todo el cuadrado. Si no cambió, deja el cuadrado entero tal como está".

Pero en los modelos con "Mezcla de Expertos", un solo cuadrado no es solo una cosa; es una colaboración entre varias ramas de "expertos" diferentes. El análisis del artículo reveló una falla en la regla antigua: estos expertos no todos cambian al mismo tiempo. Un experto puede estar trabajando en la textura rugosa de la corteza de un árbol, que cambia rápidamente a medida que la imagen se forma. Otro experto en el mismo cuadrado puede estar trabajando en las hojas verdes y lisas, que se mantienen muy estables.

Si utilizas la vieja regla de "todo o nada", te enfrentas a un dilema. Si decides repintar todo el cuadrado porque la corteza cambió, pierdes tiempo repintando las hojas estables. Si decides reutilizar todo el cuadrado para ahorrar tiempo, terminas con hojas borrosas e incorrectas porque la corteza no fue actualizada. El artículo argumenta que este desajuste entre el almacenamiento en caché de "todo el cuadrado" y la realidad de los "expertos divididos" es la razón principal por la que los métodos actuales de aceleración no están funcionando tan bien como podrían.

La Solución: La Estrategia de "Nivel de Experto" de MoECa

Los autores proponen MoECa (Almacenamiento en Caché de Mezcla de Expertos), un sistema que cambia las reglas del juego. En lugar de preguntar "¿Deberíamos repintar todo este cuadrado?", MoECa pregunta: "¿Deberíamos repintar el trabajo de este experto específico en este cuadrado?".

Así es como funciona MoECa en la práctica:

Almacenamiento en caché a nivel de rama: Trata cada rama de experto como su propia unidad pequeña. Recuerda la salida del "experto en corteza" y del "experto en hojas" por separado.
Emparejamiento Inteligente: Cuando la IA pasa al siguiente paso, MoECa comprueba qué expertos están activos. Si el "experto en corteza" sigue siendo el mismo de antes, comprueba si su trabajo ha cambiado lo suficiente como para importar. Si el "experto en hojas" también es el mismo, comprueba ese también.
Control Adaptativo: El sistema es lo suficientemente inteligente como para saber que algunos expertos son más sensibles que otros. Por ejemplo, un experto que se enfoca en detalles finos (como el borde de una cafetera) es muy sensible a los cambios. MoECa les otorga un "umbral de reutilización" más bajo, lo que significa que es más probable que los repinte para asegurar la calidad. Un experto que trabaja en un fondo borroso podría recibir un umbral más alto, permitiendo que se reutilice con más frecuencia.
Actualizaciones Sincronizadas: Una parte crucial de MoECa es asegurar que la parte de "atención" de la IA (que observa toda la imagen para entender el contexto) se mantenga en sintonía con la parte de los "expertos". Si los expertos se actualizan pero la parte de atención no, la imagen se confunde. MoECa asegura que se actualicen juntos, evitando que la IA se "emborrache" con información antigua.

Los Resultados: Más Rápido Sin el Desenfoque

Los investigadores probaron MoECa en varios modelos de IA populares, incluyendo la familia DSMoE y DiT-MoE. Los resultados fueron impresionantes.

Velocidad: En los mejores casos, MoECa hizo que la generación de imágenes fuera 2.93 veces más rápida (específicamente en el modelo HiDream-I1 para tareas de texto a imagen). En otros modelos, logró aceleraciones de alrededor de 2.14x a 2.83x.
Calidad: A pesar del enorme aumento de velocidad, la calidad de las imágenes se mantuvo casi idéntica al método lento original. El artículo midió esto utilizando métricas como FID (que mide qué tan realistas son las imágenes) y PSNR (que mide qué tan cerca está la imagen acelerada de la original). Por ejemplo, en el modelo DSMoE-L-E48, MoECa logró una aceleración de 2.83x manteniendo la puntuación FID en 9.54, que es casi la misma que la del modelo original de 9.20.
Comparación: Al compararlo con otros métodos de aceleración como ToCa, DuCa y TeaCache, MoECa produjo consistentemente los resultados más rápidos con el menor costo computacional (FLOPs), todo ello manteniendo o incluso mejorando la calidad de la imagen.

El artículo también analizó por qué esto funciona tan bien. Encontraron que en los modelos con más expertos (como la configuración E48 con 48 expertos), hay más oportunidades de encontrar ramas "estables" para reutilizar. Por eso los modelos E48 vieron aceleraciones ligeramente mayores (hasta 2.83x) en comparación con los modelos con menos expertos. Cuanto más especializado es el equipo, más puedes elegir quién trabaja y quién descansa.

Lo Que Esto Significa para el Futuro

El artículo concluye que la clave para acelerar estos poderosos modelos de IA no es solo hacerlos trabajar más rápido en general, sino entender cómo funcionan internamente. Al darse cuenta de que los "expertos" dentro de la IA tienen diferentes ritmos y necesidades, podemos construir sistemas de almacenamiento en caché más inteligentes que respeten esas diferencias.

MoECa no requiere el reentrenamiento de los modelos de IA; funciona con los modelos tal como son, simplemente cambiando la forma en que procesan la información durante la creación de la imagen. Aunque el estudio actual se centra en la generación de imágenes en una sola computadora, los autores sugieren que este enfoque de "grano fino" podría ser la clave para desbloquear una generación aún más rápida para video y tareas más complejas en el futuro. Por ahora, demuestra que, a veces, la forma más rápida de pintar una obra maestra es dejar que los artistas adecuados descansen mientras los demás siguen trabajando.

Resumen Técnico: MoECa – Alineando la Reutilización de Características con la Descomposición de Expertos en Transformers de Difusión

1. Planteamiento del Problema

Los Transformers de Difusión (DiTs) se han convertido en el paradigma dominante para la generación visual, y la integración de arquitecturas de Mezcla de Expertos (Mixture-of-Experts, MoE) (DiT-MoE) ha potenciado aún más la capacidad del modelo mediante la activación dispersa. Sin embargo, la eficiencia de la inferencia sigue siendo un cuello de botella debido al proceso iterativo de eliminación de ruido. Aunque el almacenamiento en caché de características (feature caching) ha surgido como una estrategia de aceleración primaria mediante la reutilización de características intermedias a través de los pasos temporales, los métodos existentes operan principalmente a nivel de token.

Los autores identifican un desajuste estructural fundamental al aplicar el almacenamiento en caché a nivel de token en modelos DiT-MoE:

Descomposición Interna: En un DiT-MoE, la actualización de las características de un solo token se descompone en múltiples ramas de expertos enrutadas.
Heterogeneidad: Diferentes ramas de expertos dentro del mismo token exhiben distintos patrones de evolución temporal. Algunas ramas permanecen estables a través de los pasos temporales, mientras que otras cambian rápidamente.
Suboptimalidad: Tratar todo el token como una unidad de almacenamiento en caché atómica fuerza una decisión de "todo o nada". Esto conduce a una recomputación innecesaria de las ramas estables (redundancia) o a una reutilización excesiva de las ramas que cambian rápidamente (degradación de la calidad).

Consecuentemente, la granularidad de los mecanismos de almacenamiento en caché existentes está desalineada con la estructura intrínseca de evolución de características de los modelos MoE.

2. Metodología: MoECa

Para abordar este desajuste, los autores proponen MoECa, un marco de almacenamiento en caché de grano fino, consciente de las características y de la estructura, que desplaza la unidad de almacenamiento en caché del nivel de token al nivel de rama de experto.

2.1 Arquitectura de Caché de Expertos

MoECa mantiene un caché de estados intermedios para cada rama de experto en lugar de todo el token.

Definición de Estado: Para un token $i$ en el paso temporal $t$ , el sistema rastrea el resultado de enrutamiento actual (expertos seleccionados y pesos) y lo compara con el estado de referencia en caché del último paso de actualización $t_0$ .
Partición: Las ramas actuales se particionan en dos conjuntos:
1. Conjunto de Recomputación ( $R_i^t$ ): Ramas que requieren computación fresca.
2. Conjunto de Reutilización: Ramas que pueden reutilizar de forma segura las características almacenadas en caché.
Sincronización: Para evitar la deriva de representación, MoECa sincroniza las actualizaciones entre la ruta MoE y la ruta de Atención. Si cualquier rama es recomputada, la salida de atención también se actualiza en el mismo paso; de lo contrario, ambas rutas reutilizan sus estados en caché.

2.2 Decisión de Reutilización a Nivel de Experto

La decisión de reutilizar o recomputar una rama específica se basa en un mecanismo de puntuación por rama que evalúa tres señales:

Peso de Enrutamiento ( $w$ ): La contribución actual de la rama a la representación del token.
Deriva Temporal ( $\Delta$ ): El cambio en el peso de enrutamiento entre el paso actual y el paso en caché.
Contribución Histórica ( $o$ ): La magnitud relativa de la característica de salida de la rama en el estado en caché.

La puntuación de recomputación $s_{i,p}^t$ se calcula como:
$s_{i,p}^t = w_{i,p}^t + \lambda_1 \Delta_{i,p}^t + \lambda_2 o_{i,p}^{t_0}$
Las ramas que exceden un umbral $\tau$ son seleccionadas para la recomputación.

2.3 Control Adaptativo Consciente del Experto

Reconociendo que diferentes expertos exhiben diversos patrones de respuesta espacial (especialización), MoECa introduce un mecanismo de umbral adaptativo:

Entropía Espacial: El sistema estima la entropía de respuesta espacial de cada experto en línea utilizando una Media Móvil Exponencial (EMA) de las estadísticas de activación.
Umbralización Adaptativa: Los expertos con baja entropía (respuestas concentradas y orientadas al detalle) reciben umbrales más bajos, lo que los hace más propensos a ser recomputados para preservar los detalles locales. Los expertos con alta entropya (respuestas amplias y de fondo) reciben umbrales más altos, favoreciendo la reutilización.
Fórmula: $\tau_e^t = \tau_0 (1 + \alpha(2\bar{H}_e^t - 1))$ , donde $\bar{H}$ es la entropía normalizada.

3. Contribuciones Clave

Análisis Estructural: El artículo proporciona un análisis que revela que la redundancia entre pasos temporales en DiT-MoE se caracteriza mejor a nivel de rama de experto que a nivel de token, destacando el desajuste estructural del almacenamiento en caché existente a nivel de token.
Marco MoECa: La propuesta de un marco de almacenamiento en caché de grano fino que alinea la reutilización de características con la estructura de descomposición MoE, permitiendo decisiones de reutilización independientes para diferentes ramas dentro del mismo token.
Control Adaptativo: La introducción de un mecanismo de umbralización adaptativo consciente del experto que tiene en cuenta la heterogeneidad de la especialización de los expertos, equilibrando la aceleración con la calidad de la generación.
Validación Empírica: Evaluación exhaustiva en múltiples modelos DiT-MoE (DSMoE, DiT-MoE, HiDream-I1) demostrando ventajas en la relación velocidad-calidad.

4. Resultados Experimentales

Los autores evaluaron MoECa en generación condicional de clase (ImageNet) y generación de texto a imagen (DrawBench200) utilizando modelos que van desde DSMoE-S-E16 hasta DSMoE-L-E48.

Aceleración: MoECa logra aceleraciones significativas en comparación con los baselines densos y otros métodos de caché.
- En DSMoE-L-E48, logra una aceleración de latencia de 2.14× y una aceleración de FLOPs de 2.83× manteniendo un FID de 9.54.
- En HiDream-I1 (1024px), logra una aceleración de FLOPs de 2.93× (5.61s de latencia frente a 14.29s del baseline).
Preservación de la Calidad: MoECa supera consistentemente o iguala a otros baselines de caché (ToCa, DuCa, TeaCache) en términos de FID, Inception Score, PSNR y SSIM.
- En comparaciones cualitativas, MoECa preserva mejor los detalles de alta frecuencia (por ejemplo, texturas, bordes) que los métodos a nivel de token, que tienden a presentar un desenfoque estructural.
Eficiencia: El método reduce los FLOPs de manera más efectiva que las estrategias de reducción de pasos (por ejemplo, reducción del 33% de los pasos) que a menudo sufren una degradación significativa de la calidad.
Sobrecarga (Overhead): La lógica de control (puntuación, enrutamiento, actualizaciones de caché) añade una sobrecarga mínima, representando solo el 4.8% del tiempo de inferencia de extremo a extremo en DSMoE-S-E16. La sobrecarga de memoria es moderada, almacenando los estados de las ramas sin exceder significativamente la huella de memoria de otros métodos de almacenamiento en caché a nivel de token.

5. Significado y Reivindicaciones

El artículo afirma que MoECa representa una evolución necesaria en las estrategias de aceleración de difusión para arquitecturas MoE. Al desplazar la granularidad del almacenamiento en caché para alinearla con la descomposición de expertos, MoECa resuelve la suboptimalidad inherente a la reutilización a nivel de token.

Los autores enfatizan que su enfoque no requiere entrenamiento (training-free), no requiere modificaciones en los pesos preentrenados del modelo ni en su grafo de enrutamiento. El significado radica en demostrar que la reutilización de grano fino y consciente de la estructura puede desbloquear ahorros computacionales sustanciales (hasta 2.93×) sin comprometer la calidad de la generación, un equilibrio que los métodos de grano grueso (reducción de pasos) o los métodos de grano fino desalineados (almacenamiento en caché a nivel de token) no logran alcanzar simultáneamente.

El estudio concluye que, si bien el trabajo actual se centra en la generación de imágenes en un solo GPU, los principios de alinear la granularidad del almacenamiento en caché con la descomposición interna del modelo son aplicables a contextos más amplios, aunque la generación de video y el servicio paralelo de expertos siguen siendo trabajos futuros.