SIA: A Synthesize-Inject-Align Framework for Knowledge-Grounded and Secure E-commerce Search LLMs with Industrial Deployment

논문 요약: SIA 프레임워크 (Synthesize-Inject-Align)

이 논문은 JD.com(중국 최대의 자사형 이커머스 플랫폼) 에서 실제 배포된 대규모 언어 모델 (LLM) 기반 이커머스 검색 시스템의 개발 과정을 다룹니다. 저자들은 이커머스 환경에서 LLM 을 적용할 때 발생하는 **지식 환각 (Knowledge Hallucination)**과 **보안 취약점 (Security Vulnerabilities)**이라는 두 가지 핵심 문제를 해결하기 위해 SIA (Synthesize-Inject-Align) 프레임워크를 제안했습니다.

1. 문제 정의 (Problem)

일반적인 범용 LLM 을 이커머스 검색에 직접 적용할 때 다음과 같은 한계가 존재합니다.

• 지식 환각 (Knowledge Hallucination): 동적이고 세분화된 상품 지식 (SKU 관계, 사용자 행동 로그 등) 을 충분히 인코딩하지 못해 사실과 다른 답변을 생성하거나, 잘못된 상품 추천을 하는 문제가 발생합니다.
• 보안 및 규정 준수 위험 (Security & Compliance Risks): 일반 안전 가이드라인만으로는 이커머스 특유의 위험 (금지된 상품 추천, 불법 정보 유출 등) 을 효과적으로 차단하지 못하며, 지능적인 '자일브레이크 (Jailbreak)' 공격에 취약합니다.
• 기존 방법론의 한계:
  • 지속적 사전 학습 (CPT): 도메인 지식 주입 시 '파괴적 망각 (Catastrophic Forgetting)'이 발생하여 일반 능력이 저하됨.
  • 파라미터 효율적 미세 조정 (LoRA 등): 복잡한 지식 체계 (예: SKU 그래프) 를 인코딩하기에 파라미터 용량이 부족함.
  • RAG (검색 증강 생성): 검색 정확도에 의존하며 지연 시간 (Latency) 이 증가함.

2. 제안 방법론: SIA 프레임워크 (Methodology)

SIA 는 **데이터 합성 (Synthesize) → 지식 주입 (Inject) → 정렬 (Align)**의 3 단계로 구성된 엔드 - 투 - 엔드 솔루션입니다.

1 단계: Synthesize (지식 인식 데이터 합성)
다양한 소스의 이커머스 데이터를 고품질 자연어 코퍼스로 변환합니다.

• 맥락 인식 지식 변환: 지식 그래프 (구조화 데이터) 와 행동 로그 (비구조화 데이터) 를 LLM 을 통해 자연어 설명으로 변환하여 모델의 지식 흡수 효율을 높입니다.
• Chain-of-Thought (CoT) 합성: 실제 사용자 세션 로그 (검색 - 클릭 - 구매 경로, 오류 수정 등) 를 기반으로 명시적인 추론 체인을 포함한 데이터를 생성하여 모델의 다단계 추론 능력을 강화합니다.
• 안전 중심 데이터 구축: 이커머스 특유의 고위험 주제 (정치, 불법 상품, 도박 등 6 가지 카테고리) 를 정의하고, 이를 방어하는 Q&A, 자일브레이크 공격 시뮬레이션, 경계 사례 데이터를 생성하여 원천적으로 안전성을 확보합니다.

2 단계: Inject (Depth Up-Scaling 기반 지식 주입)
파괴적 망각을 방지하면서 대규모 도메인 지식을 주입하기 위한 효율적인 사전 학습 전략입니다.

• Depth Up-Scaling (깊이 확장): 기존 Transformer 블록 사이에 새로운 레이어를 삽입하여 파라미터를 확장합니다.
• 계층적 학습률 스케줄링:
  • 새로운 레이어: 높은 학습률을 적용하여 이커머스 지식과 안전 지식을 빠르게 학습시킵니다.
  • 기존 레이어: 낮은 학습률 또는 동결 (Freeze) 을 적용하여 일반 언어 능력을 유지합니다.
• 지식 재생 (Knowledge Replay): 학습 배치마다 이커머스 코퍼스 (60%) 와 일반 도메인 코퍼스 (40%) 를 혼합하여 일반 능력의 저하를 방지합니다.

3 단계: Align (세분화된 도메인 강화 정렬)
모델의 능력을 하위 태스크와 안전성 측면에서 정밀하게 조정합니다.

• 다중 태스크 지시 미세 조정 (Multi-task Instruction Tuning): 단순 지시, 복합 지시, 비즈니스 규칙이 포함된 제약적 복합 지시 등 3 단계 계층 구조의 지시 데이터를 사용하여 복잡한 이커머스 태스크 수행 능력을 향상시킵니다.
• 적대적 훈련 (Adversarial Training): 레드팀 (Red-teaming) 모델을 활용해 다양한 자일브레이크 공격 시나리오를 생성하고, 이를 방어하는 데이터를 통해 모델의 안전성 강건성을 높입니다.
• 데이터 혼합 전략: 이커머스 태스크 (60%), 일반 지시 (20%), 안전 정렬 데이터 (20%) 를 균형 있게 혼합하여 과적합을 방지하고 일반화 능력을 유지합니다.

3. 주요 기여 (Key Contributions)

1. 새로운 이커머스 지식 데이터 합성 방법: 지식 그래프와 행동 로그를 결합하고 CoT 및 안전 데이터를 포함한 고품질 자연어 코퍼스를 생성하는 방법론 제시.
2. 효율적인 지식 주입 기술 (Depth Up-Scaling): 파라미터 확장 및 계층적 학습 전략을 통해 대규모 지식을 주입하면서도 일반 능력을 보존하고 망각을 완화하는 기술.
3. 세분화된 도메인 강화 정렬: 태스크 수행력과 안전 강건성을 동시에 강화하는 듀얼 경로 (Dual-path) 정렬 전략 (계층적 지시 + 적대적 훈련).
4. 산업 규모 검증 및 배포: JD.com 플랫폼에서 5 가지 핵심 검색 시나리오에 대한 A/B 테스트를 통해 비즈니스 지표 개선을 입증하고 실제 운영에 성공적으로 배포함.

4. 실험 결과 (Results)

• 도메인 전문성: 제안된 SIA-15B 모델은 이커머스 지식 질문 답변 (EKQA), 속성 이해 (PAU), 쿼리 수정 (EQEC) 등에서 기존 Qwen2.5-14B-Instruct 및 DeepSeek-V3 보다 월등히 높은 성능을 기록했습니다. (예: EKQA 점수 23.87 → 58.01)
• 일반 능력 보존: C-Eval, MMLU 등 일반 벤치마크에서 기존 모델의 성능을 유지하거나 소폭 향상시켜 '파괴적 망각'이 발생하지 않음을 입증했습니다.
• 안전성 및 규정 준수: JD.com 의 자체 보안 평가 세트 (JDSec) 에서 공격 성공률 (ASR) 이 기존 모델 대비 크게 감소했습니다. 특히 금지된 상품 추천 등 고위험 시나리오에서 DeepSeek-V3 및 GPT-4o 보다 우수한 방어 성능을 보였습니다.
• 실무 A/B 테스트 (JD.com 배포):
  • 검색 쿼리 제안: 전체 CTR(클릭률) 1.339% 증가.
  • 검색 쿼리 수정: 온라인 수정 서비스의 F1 점수 10% 향상.
  • 상품 제목 생성: 추천 전환율 (CVR) 1.93% 증가.
  • 리뷰 요약: 단위 전환율 (UCVR) 0.15% 증가.
  • 보안 리스크 관리: 코드 보안, 피싱 감지 등 5 가지 보안 태스크에서 정확도가 크게 향상되어 플랫폼 내 90% 이상의 리스크 검토 시나리오에 적용됨.

5. 의의 및 결론 (Significance)

이 논문은 이커머스 검색 분야에서 LLM 의 상용화를 가로막는 지식 정확도와 보안이라는 두 가지 난제를 체계적으로 해결한 사례입니다.

• 기술적 의의: 단순한 미세 조정을 넘어, 데이터 합성 단계에서부터 안전성을 설계하고, 파라미터 확장 기법을 통해 지식 주입과 일반 능력 보존의 균형을 맞춘 새로운 아키텍처를 제시했습니다.
• 산업적 의의: JD.com 과 같은 초대규모 플랫폼에서 실시간 저지연 요구사항을 충족하며, 비즈니스 지표 (CTR, CVR 등) 를 직접적으로 개선한 성공적인 배포 사례를 통해 LLM 의 산업 적용 가능성을 입증했습니다.

결론적으로, SIA 프레임워크는 이커머스 환경에 특화된 안전하고 지능적인 LLM 을 구축하기 위한 표준적인 방법론으로 평가받으며, 향후 동적 지식 업데이트 및 멀티모달 융합 등으로의 확장을 예고하고 있습니다.