SIA: A Synthesize-Inject-Align Framework for Knowledge-Grounded and Secure E-commerce Search LLMs with Industrial Deployment

Resumen Técnico: Marco de Trabajo SIA para Búsqueda en E-commerce

1. El Problema

La implementación industrial de Modelos de Lenguaje Grandes (LLM) en sistemas de búsqueda de comercio electrónico enfrenta dos desafíos críticos que limitan su adopción a gran escala:

• Alucinaciones de Conocimiento: Los LLMs generales carecen de una codificación profunda de conocimientos dinámicos y de grano fino específicos del comercio electrónico (como relaciones de SKU, atributos de productos y comportamientos de usuarios). Esto genera errores fácticos y recomendaciones incorrectas.
• Vulnerabilidades de Seguridad y Cumplimiento: Las barreras de seguridad generales son fácilmente eludidas mediante ataques de "jailbreak" (ej. prompts que inducen a recomendar productos prohibidos o ilegales), lo que representa riesgos legales y de control de riesgos para la plataforma.

Las soluciones existentes, como el ajuste fino (fine-tuning) estándar o la generación aumentada por recuperación (RAG), presentan limitaciones: el ajuste fino puede causar "olvido catastrófico" de capacidades generales, mientras que RAG introduce latencia y depende de la precisión de la recuperación.

2. Metodología: El Marco SIA

Los autores proponen SIA (Synthesize-Inject-Align), un marco integral de tres etapas diseñado para crear un LLM de búsqueda en e-commerce que sea tanto fundamentado en conocimiento como seguro.

Fase 1: Síntesis (Synthesize) - Generación de Datos Conscientes del Conocimiento
En lugar de usar datos crudos, el marco sintetiza corpus de alta calidad combinando fuentes heterogéneas:

• Transformación de Conocimiento Contextual: Se fusionan grafos de conocimiento estructurados (KG) y registros de comportamiento no estructurados. Utilizando un LLM potente (Deepseek-R1), se generan descripciones naturales ricas en semántica, preguntas y respuestas sobre atributos, comparaciones de productos y resúmenes de reseñas.
• Síntesis de Cadenas de Pensamiento (CoT): Se extraen logs reales de sesiones de usuarios (corrección de consultas, secuencias de clics-compra) para inferir la lógica de decisión latente. Se generan pares de "Razonamiento-Respuesta" explícitos para entrenar la capacidad de razonamiento multi-paso del modelo.
• Corpus de Seguridad Proactiva: Se define un marco de temas de alto riesgo (política, ilegalidad, pornografía, etc.) y se sintetizan datos defensivos que incluyen:
  • Pares de preguntas/respuestas seguras.
  • Ataques de jailbreak simulados (role-playing, codificación ofuscada, inyección contextual) para entrenar la resistencia del modelo.
  • Casos límite para generar análisis cautelosos.

Fase 2: Inyección (Inject) - Pre-entrenamiento con Expansión de Parámetros
Para inyectar conocimiento masivo sin olvidar las capacidades generales, se utiliza una estrategia de Depth Up-Scaling (Escalado de Profundidad):

• Expansión de Capas: Se insertan nuevas capas de Transformer entre las capas originales del modelo base (Qwen2.5-14B), aumentando la profundidad equivalente a 15B parámetros.
• Inicialización y Aprendizaje Jerárquico: Las nuevas capas se inicializan con mapeo de identidad residual. Se emplea una tasa de aprendizaje adaptativa: alta para las nuevas capas (para absorber rápidamente el conocimiento de e-commerce) y muy baja o congelada para las capas originales (para preservar el conocimiento general).
• Replay de Conocimiento: Durante el pre-entrenamiento continuo, se mezcla un 60% de datos de e-commerce con un 40% de datos de dominio general para mitigar el olvido catastrófico.

Fase 3: Alineación (Align) - Ajuste Fino de Dominio y Seguridad
Se realiza un ajuste fino dual para optimizar el rendimiento en tareas específicas y la robustez de seguridad:

• Alineación de Tareas (Multi-Task Instruction Tuning): Se utiliza un conjunto de instrucciones jerárquico (instrucciones simples, compuestas y complejas con restricciones) para tareas como sugerencia de consultas, corrección de errores y generación de títulos.
• Alineación de Seguridad (Adversarial Training): Se entrena un modelo de "Red Team" (SIA-Red) para generar ataques de jailbreak sofisticados contra el modelo de seguridad. Estos ataques se utilizan para entrenar al modelo principal, fortaleciendo sus defensas.
• Mezcla de Datos: Se utiliza una proporción balanceada de datos: 60% instrucciones de tareas de e-commerce, 20% instrucciones de propósito general y 20% instrucciones de seguridad alineada.

3. Contribuciones Clave

1. Método de Síntesis de Datos Innovador: Una técnica que transforma grafos de conocimiento y logs en corpus de lenguaje natural rico en razonamiento y seguridad, abordando la escasez de datos de alta calidad en el dominio.
2. Técnica de Inyección Eficiente: El uso de Depth Up-Scaling permite inyectar conocimiento masivo manteniendo las capacidades generales y evitando el olvido catastrófico, superando las limitaciones de métodos como LoRA o Adapter para conocimientos complejos.
3. Alineación de Dominio de Grano Fino: Una estrategia dual que combina ajuste fino de instrucciones y entrenamiento adversarial específico del dominio, logrando un equilibrio entre rendimiento de tareas y cumplimiento de seguridad.
4. Validación Industrial a Gran Escala: Implementación y despliegue exitoso en JD.com, la plataforma de comercio electrónico más grande de China, con pruebas A/B reales.

4. Resultados

El modelo SIA-15B fue evaluado y desplegado en JD.com, mostrando resultados superiores:

• Rendimiento en Dominio de E-commerce:

  • Superó significativamente al modelo base (Qwen2.5-14B) y a modelos generales avanzados (DeepSeek-V3) en tareas clave.
  • EKQA (Preguntas de conocimiento): 58.01 vs 23.87 (Base).
  • Comprensión de Atributos (PAU): 91.72 vs 50.65 (Base).
  • Corrección de Consultas (EQEC): 74.29 vs 39.04 (Base).
  • Preservación General: Mantuvo o mejoró ligeramente el rendimiento en benchmarks generales (C-Eval, MMLU, GSM8K), demostrando que no hubo olvido catastrófico.

• Seguridad y Cumplimiento:

  • En el conjunto de evaluación JDSec (8 dimensiones de riesgo), SIA-15B logró la tasa de éxito de ataque (ASR) más baja, superando a modelos como GPT-4o y DeepSeek-V3 en la mayoría de las categorías (ej. ASR promedio de 13.65 vs 16.68 del base).

• Impacto en Negocio (Pruebas A/B en Producción):

  • Sugerencia de Búsqueda: +1.339% en CTR (Tasa de Clics).
  • Corrección de Consultas: +10% en F1-score del servicio de corrección.
  • Generación de Títulos: +1.93% en CVR (Tasa de Conversión).
  • Resumen de Reseñas: +0.15% en UCVR.
  • El modelo cubre ahora más del 90% de los escenarios de revisión de control de riesgos en el ecosistema de JD.com.

5. Significado e Impacto

El marco SIA demuestra que es posible desplegar LLMs en entornos industriales de alta exigencia (como el comercio electrónico) resolviendo la tensión entre especialización y generalidad, así como entre inteligencia y seguridad.

• Escalabilidad: La estrategia de expansión de profundidad y mezcla de datos ofrece una ruta viable para actualizar modelos con conocimiento dinámico sin reentrenar desde cero.
• Seguridad Proactiva: Al integrar la síntesis de datos de seguridad y el entrenamiento adversarial desde la fase de pre-entrenamiento, se mitigan riesgos antes de que el modelo sea expuesto al usuario.
• Validación Real: A diferencia de muchos trabajos académicos, este marco ha sido validado en producción a gran escala, demostrando mejoras tangibles en métricas de negocio críticas y seguridad operativa.

El trabajo establece un nuevo estándar para la construcción de sistemas de IA seguros y fundamentados en conocimiento para aplicaciones verticales críticas.