🤖 AI

A/B Agent: A Self-Evolving Agent for Strategy Iteration in Industrial A/B Testing

Este artículo presenta A/B Agent, un marco de autoevolución que aprovecha un árbol de experiencia jerárquico y un Tree-RAG de múltiples rutas para generar, ejecutar e iterar autónomamente estrategias de recomendación industrial mediante pruebas A/B de bucle cerrado, logrando mejoras significativas en el GMV en sistemas de comercio electrónico del mundo real.

Autores originales: Zhuohang Jiang, Yuxin Chen, Yongsen Pan, Zheng Hu, Wenqi Fan, Qing Li, Hongyang Wang, Jun Wang, Wenwu Ou

Publicado 2026-08-06

📖 4 min de lectura☕ Lectura para el café

CC BY 4.0

Autores originales: Zhuohang Jiang, Yuxin Chen, Yongsen Pan, Zheng Hu, Wenqi Fan, Qing Li, Hongyang Wang, Jun Wang, Wenwu Ou

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que eres el capitán de una nave espacial masiva y de alta velocidad (un sistema de recomendación) intentando entregar el snack perfecto a cada pasajero. A veces, aciertas y todos están felices. Otras veces, entregas una papa picante a alguien que quería algo dulce, o te quedas sin combustible porque no planeaste bien la ruta. En el mundo real, empresas como Kuaishou utilizan un método llamado "pruebas A/B" para descubrir la mejor ruta. Es como poner en marcha dos versiones diferentes de la nave al mismo tiempo: una con el mapa antiguo y otra con una idea nueva. Si el nuevo mapa logra que más pasajeros lleguen a sus snacks más rápido, te quedas con él. Pero aquí está el truco: hacer esto manualmente es agotador. Requiere un equipo de navegadores expertos para dibujar constantemente nuevos mapas, realizar pruebas, revisar los resultados y ajustar la configuración. Es lento, y a menudo olvidan las lecciones aprendidas de los desvíos fallidos de ayer.

Recientemente, los científicos han estado enseñando a las computadoras a leer y comprender estos mapas antiguos usando "Modelos de Lenguaje Extensos" (IA superinteligente que lee texto) y "RAG" (Generación Aumentada por Recuperación, que es como darle a la IA una biblioteca para buscar respuestas antes de hablar). Pero incluso estos ayudantes de IA tan inteligentes tienen un problema: a menudo tratan la biblioteca como una pila plana de papeles. Podrían encontrar una historia sobre una "ruta de desierto" cuando en realidad necesitas una "ruta de montaña", o podrían pasar por alto el hecho de que una estrategia que funcionó para los "snacks" podría ser peligrosa para las "bebidas". Les cuesta ver el panorama general de cómo se conectan las diferentes partes de la nave, y no pueden aprender fácilmente de sus propios errores con el tiempo sin que un jefe humano les diga qué hacer después.

Aquí es donde el artículo introduce el A/B Agent, un nuevo tipo de navegador de IA "autoevolutivo" diseñado para solucionar estos problemas. En lugar de solo leer una pila plana de notas, el A/B Agent construye un gigantesco y organizado "Árbol de Experiencia". Imagina un árbol donde las raíces son los grandes objetivos de negocio, las ramas son las diferentes partes de la nave (como la barra de snacks o la sala de máquinas) y las hojas son estrategias específicas que funcionaron o fallaron en el pasado. Cuando la IA necesita una nueva idea, no solo busca palabras clave; escala el árbol para encontrar la rama exacta que coincida con la situación actual, asegurándose de capturar el tipo de conocimiento correcto.

Una vez que elige una estrategia, el A/B Agent no se detiene ahí. Actúa como un científico incansable que realiza la prueba, observa los resultados y luego actualiza inmediatamente su propio árbol. Si una nueva ruta atrae a más pasajeros pero hace que el motor se sobrecaliente (una métrica de "guardrail" o salvaguarda), la IA lo nota, ajusta la configuración y lo intenta de nuevo. Continúa este ciclo —pensar, probar, aprender y actualizar su propia base de conocimientos— hasta que encuentra el equilibrio perfecto. El artículo muestra que este sistema no es solo una teoría; cuando se probó en un entorno real de compras de videos cortos, logró mejorar el "Valor Bruto de Mercancía" (el dinero total gastado por los usuarios) en un 4.829% mientras mantenía todas las métricas de seguridad en positivo. Incluso superó a algunos de los modelos de IA más avanzados del mundo en la creación de estrategias que eran tanto correctas como creativas. Esencialmente, el A/B Agent convierte el caótico proceso de ensayo y error en un ciclo inteligente y de mejora continua que se vuelve cada vez mejor por sí solo.

Resumen Técnico: Agente A/B para la Iteración de Estrategias Industriales

1. Planteamiento del Problema

Los sistemas de recomendación industrial dependen en gran medida de las pruebas A/B a gran escala para iterar estrategias, un proceso que actualmente es laborioso y consume mucho tiempo. Requiere que expertos humanos diseñen estrategias, configuren experimentos, analicen resultados y ajusten parámetros de forma repetitiva. Un cuello de botella crítico es la fragmentación del conocimiento histórico; los valiosos conocimientos de experimentos pasados se encuentran dispersos en fuentes heterogéneas (documentos, código, registros) sin una abstracción unificada, lo que dificulta la reutilización sistemática.

Aunque se han propuesto agentes de Generación Aumentada por Recuperación (RAG) para asistir, los enfoques actuales sufren de dos limitaciones principales:

Organización de Conocimiento Plana: Los sistemas RAG tradicionales recuperan fragmentos de texto basados en la similitud semántica, fallando al modelar las relaciones jerárquicas entre escenarios de negocio, etapas de recomendación, objetivos de optimización y contextos experimentales. Esto conduce a una recuperación desajustada y a una transferencia deficiente entre escenarios.
Falta de Autoevolución: Los agentes actuales suelen proporcionar recomendaciones de un solo paso sin un marco de optimización de largo horizonte. No pueden refinar estrategias de forma autónoma basándose en el feedback secuencial de A/B ni consolidar progresivamente las prácticas exitosas en una base de conocimientos.

En consecuencia, la industria carece de un sistema automatizado capaz de transformar los registros históricos fragmentados en experiencias estructuradas y transferibles, y de refinar continuamente las estrategias mediante bucles de retroalimentación en línea.

2. Metodología

El artículo propone A/B Agent, un marco de bucle cerrado diseñado para la optimización de estrategias de recomendación industrial. El marco consta de tres componentes estrechamente acoplados:

2.1 Organización del Conocimiento de Estrategia Histórica

Para abordar la fragmentación del conocimiento, el sistema estructura los registros de experimentos históricos en un Árbol de Experiencia Jerárquico.

Estructuración de Registros: Los informes de experimentos brutos se convierten en un esquema unificado que cubre trasfondo de negocio, escenario, etapa, objetivo, descripción de la estrategia, parámetros, métricas y riesgos.
Extracción Agéntica: Un agente de estrategia descompone los registros en "fragmentos de estrategia" atómicos y autónomos desde múltiples perspectivas (problema, escenario, mecanismo).
Construcción del Árbol: Estos fragmentos se organizan en un árbol $T_E = (V_E, E_E)$ donde los nodos representan categorías (dominio, escenario, etapa, objetivo) y las hojas almacenan detalles específicos de la estrategia. Esta estructura permite una recuperación precisa dentro de las ramas correspondientes y la transferencia de conocimiento entre ramas relacionadas.

2.2 Generación de Estrategias Autónoma Consciente del Objetivo

Ante una nueva solicitud de optimización, el agente genera estrategias ejecutables utilizando un enfoque de Multi-Path Tree-RAG:

Recuperación de Multi-Ruta: El sistema mapea la solicitud a una ruta semántica en el árbol de experiencia y recupera candidatos utilizando tanto recuperación dispersa (términos exactos) como densa (semántica).
Impulso Consciente del Contexto: A diferencia del RAG plano, este módulo potencia los candidatos que coinciden estructuralmente con el escenario, la etapa y el objetivo de la solicitud. Calcula una puntuación de relevancia de la ruta del árbol basada en la distancia de la ruta más corta entre los nodos en la jerarquía.
Reclasificación y Generación: Un reclasificador (Qwen-Reranker) realiza una puntuación detallada basada en mecanismos y restricciones. El generador de estrategias adapta entonces los mecanismos transferibles a la tarea objetivo, considerando las restricciones de ingeniería y las condiciones de despliegue.
Juicio: Los candidatos generados son evaluados por jueces basados en agentes para verificar la relevancia contextual, la consistencia de la evidencia y la seguridad antes de ser convertidos en una configuración de prueba A/B ejecutable.

2.3 Autoevolución de Estrategias Guiada por Experimentos

Tras el despliegue, el sistema entra en un bucle de autoevolución:

Construcción del Árbol de Experimentos: Las sucesivas versiones de los experimentos se organizan en un Árbol de Experimentos ( $T^*_A$ ), donde los nodos representan variantes de estrategia y las aristas representan modificaciones.
Evaluación de Utilidad: El sistema define una función de utilidad $U(v)$ que equilibra las ganancias en métricas principales frente a la degradación de métricas de salvaguarda (penalizando impactos negativos en la experiencia del usuario o la estabilidad de la plataforma).
Ajuste Iterativo: El agente compara nodos padre-hijo y hermanos para identificar modificaciones efectivas. Si una rama se satura o viola las salvaguardas, recupera mecanismos alternativos del árbol de experiencia para crear nuevas ramas. Los resultados validados se destilan de nuevo en el árbol de experiencia, cerrando el bucle para la acumulación continua de conocimiento.

3. Contribuciones Clave

El artículo describe las siguientes contribuciones:

Marco A/B Agent: Un agente de bucle cerrado para la minería de estrategias históricas, permitiendo la transferencia entre escenarios, el análisis de resultados A/B y la optimación de parámetros en sistemas de recomendación industrial.
Árbol de Experiencia Jerárquico: Una estructura novedosa que descompone las estrategias históricas en habilidades transferibles, soportando una recuperación y generación estructurada y consciente del objetivo.
Mecanismo de Autoevolución: Un enfoque de ajuste A/B guiado por el árbol de experimentos que permite el análisis conjunto de métricas, la optimización de parámetros y la actualización continua del conocimiento sin intervención manual.
Conjunto de Datos Industrial: La construcción de un conjunto de datos que contiene 310 estrategias de recomendación históricas a través de tres escenarios de comercio electrónico, incluyendo configuraciones, resultados y métricas multidimensionales.
Validación Empírica: Evaluaciones exhaustivas offline y online que demuestran la efectividad del marco.

4. Resultados Experimentales

El artículo evalúa A/B Agent en tres escenarios de comercio electrónico industrial en la plataforma Kuaishou.

Desempeño Offline:
- A/B Agent logró la puntuación media general más alta de 7.244, superando al LLM de propósito general más fuerte (Claude-Sonnet-4.6, 7.151) por un 1.3%.
- Comparado con la base de referencia RAG más fuerte en cada escenario, A/B Agent mejoró la puntuación general en un 25.0%, 31.7% y 23.5%, respectivamente.
- Superó a GPT-5.5 en exactitud y a Claude-Sonnet-4.6 en novedad, demostrando que el conocimiento industrial estructurado y la recuperación consciente de la transferibilidad producen resultados superiores.
Pruebas A/B Online:
- En un despliegue real para recomendaciones de comercio electrónico de video corto, A/B Agent logró una mejora del 4.829% en el Cart GMV.
- Crucialmente, mantuvo ganancias positivas en todas las métricas de salvaguarda (incluyendo Live GMV, Tiempo de Visualización y Pedidos de la Plataforma), mientras que las iteraciones experimentales anteriores del agente mostraron compensaciones que fueron resueltas posteriormente mediante la autoevolución.
- El agente navegó con éxito la frontera de Pareto, pasando de configuraciones iniciales con riesgos de salvaguarda a un estado final que mejoró tanto las métricas de negocio como la seguridad de la plataforma.
Estudio de Ablación:
- Eliminar la base de conocimientos causó una caída absoluta de la puntuación de 0.238 (aproximadamente el 3.3% de la puntuación total), resaltando la importancia de la experiencia histórica.
- Reemplazar el Tree-RAG jerárquico con un RAG Plano resultó en una caída absoluta de 0.015 (aproximadamente el 0.2% del total), confirmando el valor de la organización jerárquica.
- Eliminar las mejoras de recuperación (ej. impulso consciente del escenario) provocó caídas absolutas que oscilaron entre 0.070 y 0.122 (aproximadamente del 1.0% al 1.7% del total).

5. Significado y Reivindicaciones

El artículo afirma que A/B Agent aborda la brecha entre los agentes de LLM generales y los requisitos específicos y complejos de la iteración de estrategias industriales. Su importancia radica en:

Sistematización del Conocimiento Fragmentado: Al organizar los datos históricos no estructurados en un árbol jerárquico, el sistema permite una transferencia de conocimiento fiable entre diferentes contextos de negocio, algo que los sistemas RAG planos no logran alcanzar.
Mejora Continua Autónoma: El marco va más allá de la generación de un solo paso hacia un bucle de autoevolución donde el agente aprende del feedback en línea, refinando estrategias y parámetros de forma autónoma.
Equilibrio entre Optimización y Seguridad: El mecanismo de autoevolución guiado por experimentos modela explícitamente la compensación entre las ganancias de métricas principales y las restricciones de salvaguarda, permitiendo al agente navegar hacia soluciones Pareto-óptimas que los expertos humanos podrían tener dificultades para encontrar manualmente.

Los autores concluyen que A/B Agent traduce eficazmente el conocimiento de la estrategia histórica en mejoras medibles del negocio online, ofreciendo una solución escalable para la optimización de estrategias industriales manteniendo la salud del sistema. Se señala que el trabajo futuro se centrará en un alineamiento más fuerte de los requisitos y la verificación automatizada de la viabilidad de ingeniería.