SIA: A Synthesize-Inject-Align Framework for Knowledge-Grounded and Secure E-commerce Search LLMs with Industrial Deployment

Título: SIA: Um Framework Synthesize-Inject-Align para LLMs de Busca em E-commerce Baseados em Conhecimento e Seguros com Implantação Industrial

1. Problema e Motivação

A aplicação de Grandes Modelos de Linguagem (LLMs) em sistemas de busca de e-commerce enfrenta dois desafios críticos que impedem sua implantação industrial em larga escala:

1. Alucinação de Conhecimento: Modelos genéricos carecem de codificação profunda de conhecimento dinâmico e granular do e-commerce (ex: relações entre SKUs, comportamentos de usuários específicos), levando a erros factuais e recomendações imprecisas.
2. Vulnerabilidades de Segurança e Conformidade: As barreiras de segurança padrão são frequentemente contornadas por ataques de "jailbreak" (ex: indução à venda de produtos proibidos), criando riscos legais e de controle de risco para a plataforma.

Soluções existentes, como Retrieval-Augmented Generation (RAG), sofrem com latência e precisão de recuperação, enquanto técnicas de Fine-tuning tradicionais (como LoRA) têm capacidade limitada para codificar conhecimento complexo sem causar "esquecimento catastrófico" das capacidades gerais do modelo.

2. Metodologia: O Framework SIA

Os autores propõem o SIA (Synthesize-Inject-Align), uma solução end-to-end composta por três estágios principais para construir um LLM de busca em e-commerce que seja ao mesmo tempo fundamentado em conhecimento e seguro.

Fase 1: Synthesize (Síntese de Dados Conscientes do Conhecimento)

O objetivo é transformar dados heterogêneos da plataforma em "livros didáticos" de linguagem natural de alta qualidade.

• Síntese Contextual: Combina Grafos de Conhecimento (KGs) estruturados (categorias, marcas, especificações) com logs de comportamento não estruturados. LLMs são usados para traduzir esses dados em descrições textuais ricas e fluentes.
• Síntese de Cadeia de Pensamento (CoT): Gera dados de instrução com cadeias de raciocínio explícitas baseadas em logs reais de sessões de usuários (correção de consultas, sequências de clique-compra) para aprimorar o raciocínio multi-etapa.
• Corpus de Segurança Proativo: Cria um corpus de segurança específico para e-commerce cobrindo 6 categorias de alto risco (política, ilegalidade, pornografia, etc.). Inclui pares de Q&A seguros, prompts de jailbreak simulados (red-teaming) e casos de fronteira para treinar o modelo a identificar e recusar violações desde a origem.

Fase 2: Inject (Injeção de Conhecimento via Expansão de Parâmetros)

Para injetar conhecimento massivo sem perder capacidades gerais, o framework utiliza uma estratégia de expansão de parâmetros baseada em Depth Up-Scaling.

• Expansão de Profundidade: Novas camadas de Transformer são inseridas entre as camadas originais do modelo base (Qwen2.5-14B), aumentando a capacidade do modelo (equivalente a 15B parâmetros).
• Inicialização e Aprendizado Hierárquico: As novas camadas são inicializadas para preservar a identidade residual. Utiliza-se uma taxa de aprendizado adaptativa:
  • Camadas novas: Taxa de aprendizado alta para absorção rápida de conhecimento de e-commerce.
  • Camadas originais: Taxa de aprendizado baixa ou congelada para preservar capacidades gerais.
• Mitigação de Esquecimento: Durante o pré-treinamento contínuo, os dados de e-commerce e dados de domínio geral são misturados dinamicamente (razão 6:4) para evitar o sobreajuste ao domínio específico.

Fase 3: Align (Alinhamento de Domínio Aprimorado)

Um método de alinhamento de dupla via para otimizar desempenho em tarefas e robustez de segurança.

• Alinhamento de Tarefa (Instrução Multi-tarefa): Uso de um dataset de instrução hierárquico (Instruções Simples, Compostas e Restritas) cobrindo tarefas como sugestão de busca, correção de consultas e geração de títulos.
• Alinhamento de Segurança (Treinamento Adversarial): Treinamento intensivo com dados gerados por um modelo de "Red Team" (SIA-Red) que cria ataques de jailbreak sofisticados. O modelo é ajustado para resistir a essas tentativas.
• Estratégia de Mistura de Dados: Para evitar a especialização excessiva, o conjunto de dados de alinhamento é composto por 60% de tarefas de e-commerce, 20% de instruções gerais e 20% de instruções de segurança.

3. Contribuições Principais

1. Método de Síntese de Dados Inovador: Integração de grafos de conhecimento e logs comportamentais com cadeias de raciocínio explícitas e dados de segurança proativos.
2. Técnica de Injeção Eficiente: Uso de Depth Up-Scaling com inicialização de camadas e agendamento de taxas de aprendizado para injetar conhecimento massivo sem esquecer capacidades gerais.
3. Método de Alinhamento de Dupla Via: Combinação de ajuste fino de instrução multi-tarefa e treinamento adversarial específico para o domínio, garantindo robustez em dimensões de alta sensibilidade.
4. Validação Industrial em Larga Escala: Implantação real na JD.com, a maior plataforma de e-commerce autogerida da China, com testes A/B em cenários críticos.

4. Resultados Experimentais

O modelo SIA-15B foi comparado com o modelo base (Qwen2.5-14B-Instruct) e outros modelos de ponta (DeepSeek-V3, GPT-4o).

• Desempenho em E-commerce: O SIA-15B superou significativamente o modelo base e o DeepSeek-V3 em tarefas de conhecimento (EKQA: 58.01 vs 23.87), entendimento de atributos (PAU: 91.72 vs 50.65) e correção de consultas (EQEC: 74.29 vs 39.04).
• Preservação de Capacidades Gerais: O modelo manteve ou melhorou ligeiramente seu desempenho em benchmarks gerais (C-Eval, MMLU, GSM8K), demonstrando que o esquecimento catastrófico foi mitigado.
• Segurança e Conformidade: No conjunto de testes de segurança JDSec, o SIA-15B apresentou a menor taxa de sucesso de ataque (ASR) entre todos os modelos testados (13.65 vs 16.68 do baseline), superando até mesmo o GPT-4o em várias categorias de risco.
• Testes A/B Online (JD.com):
  • Sugestão de Consulta: Aumento de 1.339% no CTR (Taxa de Clique).
  • Correção de Consulta: Melhoria de 10% no F1-score do serviço de correção online.
  • Geração de Títulos: Aumento de 1.93% na Taxa de Conversão (CVR).
  • Resumo de Avaliações: Aumento de 0.15% na Taxa de Conversão por Unidade (UCVR).
  • Controle de Risco: O modelo foi implantado cobrindo >90% dos cenários de revisão de risco, com melhorias significativas na detecção de phishing e auditoria de conteúdo.

5. Significado e Impacto

O trabalho demonstra que é possível implantar LLMs complexos em ambientes industriais de alto risco e alta demanda (como e-commerce) resolvendo o dilema entre especialização de domínio e segurança.

• Viabilidade Industrial: Prova que técnicas avançadas de Depth Up-Scaling e síntese de dados podem ser escaladas em clusters industriais (Ascend 910B) com requisitos de baixa latência.
• Segurança Nativa: Estabelece um novo padrão para segurança em LLMs de e-commerce, onde a proteção não é apenas um adendo, mas construída desde a síntese dos dados até o alinhamento final.
• Reprodutibilidade: O framework oferece um roteiro claro para outras empresas de e-commerce que desejam integrar IA generativa em seus sistemas de busca e recomendação sem comprometer a precisão ou a conformidade regulatória.

Em resumo, o SIA representa um avanço significativo na aplicação prática de IA generativa, transformando a busca em e-commerce de uma simples correspondência de palavras-chave para um sistema de compreensão de intenção e raciocínio seguro e fundamentado em dados.