1. 문제 정의 (Problem Statement)

• 배경: SQL 은 데이터 분석 및 백엔드 개발에서 가장 널리 사용되는 언어이지만, 복잡한 조인 (Join), 중첩된 서브쿼리, 그리고 깊은 비즈니스 로직으로 인해 이해하기가 매우 어렵습니다. 특히 레거시 시스템에서는 주석 (Comment) 이 부족하거나 부실하여 코드 가독성, 유지보수성, 그리고 지식 전수가 심각하게 저해됩니다.
• 기존 접근법의 한계:
  • 데이터 부족: 기존 Text-to-SQL 벤치마크 (Spider, Bird 등) 는 사용자의 의도를 묻는 짧은 질문 (Question) 을 제공하지만, SQL 쿼리의 실행 로직을 기술적으로 설명하는 상세한 주석 (Comment) 데이터는 부족합니다.
  • LLM 의 이해도 부족: 기존 LLM 은 SQL 의 복잡한 문법과 스키마 컨텍스트를 충분히 이해하지 못합니다. 단순한 파인튜닝 (SFT) 만으로는 조인 타입의 미묘한 차이, 집계 함수의 논리, 비즈니스 로직의 맥락을 정확히 파악하지 못해 부정확하거나 불완전한 주석을 생성합니다.
  • 과제: 단순한 "질문 생성"이 아닌, 개발자가 실제로 필요로 하는 기술적 설명 (Technical Explanation) 을 생성하는 것이 핵심 과제입니다.

2. 제안 방법론: SQL-Commenter

저자는 LLaMA-3.1-8B 를 기반으로 한 3 단계 파인튜닝 파이프라인을 제안합니다.

가. 데이터 구축 (Data Construction)

• SFT 데이터: Spider 와 Bird 벤치마크의 원본 데이터를 활용하여, DeepSeek-V3.1 을 이용해 SQL 쿼리, 질문, 스키마 정보를 바탕으로 상세한 기술적 주석을 자동 생성한 후, 20 명 이상의 전문가 (데이터 분석가, DBA) 가 정밀하게 검증하고 수정하여 고품질 15,071 개의 <SQL, 주석> 쌍을 구축했습니다.
• DPO 데이터: 동일한 SQL 쿼리에 대해 '선호 (Chosen)'되는 고품질 주석과 '거부 (Rejected)'되는 저품질 주석 (기술적 오류, 불완전함, 모호함 등을 의도적으로 포함) 의 쌍을 3,016 개 구축했습니다. 이는 인간 선호도를 학습하기 위한 것입니다.

나. 3 단계 학습 프로세스

1. 연속 사전 학습 (Continual Pre-training, CPT):
   • SQL 관련 대규모 코퍼스 (The Stack v1.2, Stack Overflow, GitHub 프로젝트 등 약 85 만 개의 고유 SQL 쿼리) 와 일반 도메인 데이터를 혼합하여 학습합니다.
   • 목적: LLM 이 SQL 의 문법, 의미론, 그리고 일반적인 패턴에 대한 깊은 이해를 갖도록 기초 지식을 강화합니다.
2. 지도 미세 조정 (Supervised Fine-Tuning, SFT):
   • 위에서 구축한 고품질 SFT 데이터로 모델을 학습시킵니다.
   • 목적: 모델이 SQL 쿼리를 입력받아 기술적으로 정확하고 유창한 주석을 생성하는 태스크에 적응하도록 합니다.
3. 직접 선호도 최적화 (Direct Preference Optimization, DPO):
   • 핵심 기여: CPT 와 SFT 를 거친 후에도 발생하는 미세한 의미론적 오류나 맥락 부재를 해결하기 위해 도입되었습니다.
   • 방식: 선호하는 주석 (Chosen) 과 선호하지 않는 주석 (Rejected) 의 쌍을 사용하여, 모델이 선호하는 출력의 확률을 높이고 비선호 출력의 확률을 낮추는 손실 함수를 최적화합니다.
   • 효과:
     • 미세한 의미론 학습: 조인 타입 구분, HAVING 절 해석 등 구체적인 쿼리 구조를 정확히 이해하도록 합니다.
     • 맥락 의존적 품질 평가: 단순 기술적 설명을 넘어 비즈니스 로직을 반영한 주석을 생성하도록 유도합니다.

3. 주요 기여 (Key Contributions)

1. 최초의 DPO 적용: SQL 주석 생성 작업에 Direct Preference Optimization (DPO) 을 처음 도입하여, 기존 SFT 기반 방법론의 한계를 극복하고 인간 전문가의 기대에 부합하는 고품질 주석을 생성하도록 했습니다.
2. 고품질 데이터셋 공개: 복잡한 분석 쿼리와 전문가 검증 주석을 포함하는 대규모 SFT 및 DPO 데이터셋을 공개했습니다. 이는 기존 벤치마크의 단순한 '질문' 데이터를 넘어선 기술적 설명 데이터입니다.
3. SOTA 성능 달성: CPT, SFT, DPO 를 결합한 새로운 방법론 (SQL-Commenter) 을 제안하여, 자동 평가 지표와 인간 평가 모두에서 기존 최첨단 모델들을 압도하는 성능을 입증했습니다.

4. 실험 결과 (Experimental Results)

저자는 Spider와 Bird 벤치마크를 사용하여 평가进行了.

• 자동 평가 지표 (BLEU-4, METEOR, ROUGE-L):
  • Spider Test: Qwen3-14B(가장 강력한 베이스라인) 대비 BLEU-4 에서 9.48%p, METEOR 에서 5.80%p, ROUGE-L 에서 12.03%p 향상.
  • Bird Dev: Qwen3-14B 대비 BLEU-4 에서 9.36%p, METEOR 에서 4.37%p, ROUGE-L 에서 14.24%p 향상.
  • 전체적으로 모든 메트릭에서 기존 모델들을 크게 상회하는 성능을 보였습니다.
• 인간 평가 (Correctness, Completeness, Naturalness):
  • 6 명의 SQL 전문가가 4 점 척도로 평가한 결과, SQL-Commenter 는 정확성 (Correctness), 완전성 (Completeness), 자연스러움 (Naturalness) 모든 항목에서 베이스라인 모델 (Qwen3-14B, DeepSeek-32B 등) 을 압도했습니다.
  • 특히 복잡한 분석 쿼리에서 논리적 누락이나 사실적 오류가 현저히 적었습니다.
• Ablation Study:
  • CPT, SFT, DPO 중 어느 단계도 제거할 수 없음을 확인했습니다. 특히 DPO가 제거될 경우 성능이 급격히 하락하여, DPO 가 전문가 수준의 품질을 달성하는 데 가장 결정적인 역할을 함을 입증했습니다.

5. 의의 및 결론 (Significance & Conclusion)

• 기술적 의의: SQL 과 같은 도메인 특화 언어 (DSL) 에 대해 LLM 을 단순히 파인튜닝하는 것을 넘어, 선호도 최적화 (Preference Optimization) 를 통해 모델의 추론 능력과 맥락 이해도를 획기적으로 높였습니다.
• 실용적 가치: 레거시 시스템의 SQL 코드 이해도를 높여 유지보수 비용을 절감하고, 데이터 과학자와 개발자 간의 소통 장벽을 낮춥니다.
• 한계 및 향후 과제: 현재 모델 (7B 파라미터) 은 매우 복잡한 중첩 구조나 연쇄적인 논리 (Compositional Reasoning) 를 이해하는 데 여전히 약점이 있습니다. 향후 더 큰 규모의 모델이나 GRPO 와 같은 고급 정렬 기법을 적용하여 논리적 추론 능력을 further 향상시키는 것이 필요하다고 결론지었습니다.

이 논문은 SQL 코드 주석 생성 분야에서 LLM 의 능력을 한 단계 업그레이드하는 중요한 이정표로 평가받으며, 공개된 데이터셋과 코드는 향후 연구의 기반이 될 것입니다.