💬 NLP

SPENCE: A Syntactic Probe for Detecting Contamination in NL2SQL Benchmarks

이 논문은 NL2SQL 벤치마크의 훈련 데이터 오염을 탐지하고 정량화하기 위해 제어된 구문 프로빙 프레임워크인 SPENCE 를 제안하며, 이를 통해 Spider 와 같은 오래된 벤치마크는 오염 가능성이 높은 반면 최신인 BIRD 벤치마크는 상대적으로 오염되지 않았음을 규명했습니다.

원저자: Mohammadtaher Safarzadeh, Hitesh Laxmichand Patel, Afshin Orojlooyjadid, Graham Horwood, Dan Roth

게시일 2026-04-21

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Mohammadtaher Safarzadeh, Hitesh Laxmichand Patel, Afshin Orojlooyjadid, Graham Horwood, Dan Roth

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

🕵️‍♂️ 1. 문제: "시험 문제 암기"의 함정

지금까지 AI 모델들은 'Spider', 'BIRD' 같은 유명한 데이터베이스 질문 테스트에서 아주 높은 점수를 받았습니다. 마치 천재 학생이 시험을 치는 것처럼 보였죠.

하지만 연구팀은 의심을 했습니다.

"이 AI 가 진짜로 데이터베이스를 이해해서 답을 내는 걸까? 아니면 과거에 본 시험 문제 (또는 비슷한 문제) 를 암기해서 그냥 답을 뱉어내는 걸까?"

만약 AI 가 문제를 외웠다면, 질문을 조금만 바꿔서 (예: "누가?"를 "어떤 사람이?"로 바꾸기) 물어보면 당황해서 틀릴 것입니다. 하지만 진짜로 이해했다면, 질문이 조금 달라져도 같은 답을 낼 수 있어야 합니다.

🎭 2. 해결책: SPENCE (변장한 시험지)

연구팀은 SPENCE라는 도구를 만들어 AI 를 테스트했습니다. 이 도구의 역할은 **'질문을 변장시키는 마술사'**입니다.

원본 질문: "2018 년 알라메다 카운티에 문을 연 학교는 몇 개야?"
변장 (Paraphrase):
- 약간 변형: "1980 년 알라메다 카운티에서 개교한 학교의 월평균 수는?" (의미는 같지만 문장 구조가 다름)
- 완전 변형: "DOC 52 번 관할 하에 1980 년에 개교한 학교를 월별로 계산하면 몇 개일까?" (단어 순서와 표현이 완전히 바뀜)

이렇게 의미는 똑같지만 문장 구조 (구문) 가 점점 더 달라지는 10 가지 버전의 질문을 만들어 AI 에게 물어봤습니다.

📉 3. 실험 결과: "오래된 시험지" vs "새로운 시험지"

연구팀은 4 개의 다른 시험지 (Spider, SParC, CoSQL, BIRD) 를 사용했습니다. 결과는 놀라웠습니다.

오래된 시험지 (Spider, 2018 년 출시):
- AI 가 원래 질문에는 90% 를 맞췄지만, 질문이 조금만 변형되자마자 점수가 뚝 떨어졌습니다.
- 비유: 마치 공부 잘하는 척하는 학생이, 선생님이 문제를 조금만 다르게 출제하자마자 "아, 이건 외운 게 아니네!" 하며 당황해서 틀리는 상황입니다. 이는 AI 가 과거 데이터를 **암기 (Contamination)**했음을 의미합니다.
새로운 시험지 (BIRD, 2023 년 출시):
- AI 는 원래 질문뿐만 아니라, 질문이 아무리 변형되어도 점수가 거의 변하지 않았습니다.
- 비유: 이 학생은 진짜 원리를 이해했기 때문에, 문제가 어떻게 변장되든 정답을 찾아냅니다.

🔍 4. 핵심 발견: "시간의 흐름"이 답이다

연구팀은 이 현상을 **Kendall's τ(켄달의 타우)**라는 통계 지표로 수치화했습니다.

오래된 데이터일수록: 질문이 변할수록 점수가 급격히 떨어지는 강한 상관관계가 있었습니다. (암기 증거)
새로운 데이터일수록: 질문이 변해도 점수가 일정하게 유지되었습니다. (진짜 이해)

이는 **"AI 가 과거에 공개된 시험 문제를 학습 데이터로 접했을 가능성이 매우 높다"**는 강력한 증거입니다.

🛡️ 5. 왜 이것이 중요한가요?

지금까지 AI 성능을 평가할 때 "시험 점수"만 보고 "이 모델은 훌륭하다"고 평가했습니다. 하지만 이 논리는 SPENCE를 통해 다음과 같은 사실을 알려줍니다.

"점수가 높다고 해서 무조건 똑똑한 게 아닙니다. 질문이 조금만 달라져도 망가지는 모델은, 그냥 시험지를 외운 것일 뿐입니다."

💡 요약

이 논문은 **"AI 가 진짜로 생각하는지, 아니면 시험 문제를 암기하고 있는지 확인하는 새로운 검사법 (SPENCE)"**을 소개합니다.

비유: AI 를 학생이라고 했을 때, SPENCE 는 "문제를 살짝 바꿔서 물어보는 교실 시험"입니다.
결론: 오래된 시험지 (Spider 등) 에서는 AI 가 외운 문제만 맞췄지만, 최신 시험지 (BIRD) 에서는 진짜 실력을 보여주었습니다.
제안: 앞으로 AI 를 평가할 때는 단순히 점수만 보지 말고, **"질문이 변했을 때 얼마나 잘 대처하는지"**를 반드시 확인해야 합니다.

이 연구는 AI 개발자와 사용자 모두에게 **"점수표만 믿지 말고, 진짜 이해도를 검증하자"**는 중요한 경고를 전하고 있습니다.

1. 문제 정의 (Problem)

자연어에서 SQL 로 변환 (NL2SQL) 하는 작업에서 대규모 언어 모델 (LLM) 은 벤치마크 데이터셋 (Spider, SParC, CoSQL, BIRD 등) 에서 높은 성능을 보이고 있습니다. 그러나 이러한 보고된 정확도는 데이터 오염 (Data Contamination) 으로 인해 과장되었을 가능성이 큽니다. 즉, 모델이 벤치마크의 질문이나 구조적으로 유사한 패턴을 학습 과정에서 암기 (Memorization) 하여, 실제 일반화 능력이 아닌 암기된 결과로 높은 점수를 얻는 경우가 많습니다. 기존 연구들은 단순 문자열 중복 (String Overlap) 을 확인하거나, 데이터 오염 퀴즈 등을 사용하지만, 문법적 변형 (Syntactic Variation) 에 대한 모델의 민감도를 체계적으로 측정하여 오염을 탐지하는 방법은 부족했습니다.

2. 방법론 (Methodology)

저자들은 SPENCE (Syntactic Probing and Evaluation of NL2SQL Contamination Effects) 라는 새로운 프레임워크를 제안했습니다. 이 프레임워크는 자연어 질문의 문법적 구조를 변형하여 모델의 성능 변화를 측정함으로써 오염 여부를 정량화합니다.

데이터셋: Spider, SParC, CoSQL, BIRD 등 4 개의 주요 NL2SQL 벤치마크의 개발 세트 (Development Set) 사용.
문법적 변형 생성 (Paraphrase Generation):
- 각 원본 질문 (NL Query) 에 대해 10 개의 문법적 변형 (Paraphrase) 을 생성합니다.
- 생성 시 원본 질문의 Gold SQL 과 데이터베이스 스키마를 프롬프트에 포함시켜, 생성된 문장이 의미적으로 동일하고 실행 가능한 SQL 을 유도하도록 합니다.
- 생성된 변형들은 依存구문 트리 편집 거리 (Tree Edit Distance, TED) 를 계산하여 원본과의 문법적 거리 (Rank 1~10) 에 따라 순위를 매깁니다. Rank 1 은 원본과 가장 유사하고, Rank 10 은 가장 구조적으로 다릅니다.
- 임베딩 기반 코사인 유사도 필터링과 인간 검증을 통해 의미적 일관성을 보장합니다.
평가 프로토콜:
- 생성된 변형 질문을 NL2SQL 모델에 입력하여 실행 정확도 (Execution Accuracy) 를 측정합니다.
- 원본 질문 대비 변형 질문의 정확도 변화 ( $\Delta$ Accuracy) 를 분석합니다.
- 가설:
  - $H_0$ (오염 없음): 변형에 관계없이 정확도가 일정함 (강건한 일반화).
  - $H_1$ (오염 존재): 문법적 거리가 멀어질수록 정확도가 급격히 떨어짐 (암기 기반 성능).
통계적 분석: 변형 순위 (Rank) 와 정확도 변화 사이의 상관관계를 Kendall's $\tau$ 로 계산하고, 부트스트랩 (Bootstrap) 을 통해 신뢰 구간을 산출합니다.

3. 주요 기여 (Key Contributions)

SPENCE 프레임워크 제안: NL2SQL 벤치마크의 데이터 오염을 탐지하기 위해 제어된 문법적 프로빙 (Controlled Syntactic Probing) 을 수행하는 체계적인 방법론을 제시했습니다.
오염의 정량화: 단순한 성능 점수가 아니라, 문법적 변형에 따른 성능 저하 패턴 (Rank Sensitivity) 을 통해 모델이 벤치마크를 암기했는지 여부를 통계적으로 증명합니다.
벤치마크별 오염 수준 비교: 오래된 벤치마크 (Spider 등) 와 최신 벤치마크 (BIRD) 간의 오염 정도 차이를 실증적으로 보여줍니다.
대안적 설명 배제: 성능 저하가 질문 길이, 어휘 중복 (Lexical Overlap), 스키마 링크 실패, 또는 변형 생성기 (Paraphrase Generator) 의 편향 때문이 아님을 다양한 실험을 통해 입증했습니다.

4. 실험 결과 (Results)

벤치마크별 성능 차이:
- Spider (2018 년 출시), SParC (2019), CoSQL (2019): 모든 모델에서 문법적 거리가 멀어질수록 (Rank 증가) 정확도가 급격히 하락했습니다. Kendall's $\tau$ 값이 -0.6 ~ -0.95 사이로 강한 음의 상관관계를 보였습니다. 이는 모델이 원본 질문에 과도하게 의존하고 있음을 시사합니다.
- BIRD (2023 년 출시): 문법적 변형에 따른 성능 변화가 거의 없었으며, Kendall's $\tau$ 값이 0 에 근접했습니다. 이는 최신 벤치마크가 상대적으로 오염이 적고 모델의 일반화 능력을 더 잘 반영함을 의미합니다.
모델별 특성: 모델의 크기 (70B vs 405B) 나 유형 (Reasoning 모델 vs 일반 모델) 에 관계없이, 오래된 벤치마크에서는 일관된 성능 저하 패턴이 관찰되었습니다.
통제 실험:
- 질문 길이: 변형된 질문의 길이가 성능 저하의 원인이 아님을 확인했습니다.
- 어휘 중복 (Jaccard Similarity): 어휘 중복도를 통제하더라도 문법적 거리에 따른 성능 저하가 지속됨을 확인하여, 문제가 표면적 유사성이 아닌 구조적 의존성임을 입증했습니다.
- 스키마 링크: 변형된 질문에서도 스키마 링크가 깨지지 않았음에도 LLM 이 잘못된 SQL 을 생성했으므로, 이는 스키마 링크 실패가 아닌 모델의 암기 의존성 때문임을 확인했습니다.

5. 의의 및 결론 (Significance & Conclusion)

신뢰할 수 있는 평가 지표: NL2SQL 벤치마크의 리더보드 점수만으로는 모델의 실제 능력을 판단하기 어렵습니다. SPENCE 는 문법적 강건성 (Syntactic Robustness) 을 측정함으로써, 모델이 벤치마크를 암기했는지 아니면 진짜로 일반화했는지를 구별하는 강력한 도구입니다.
벤치마크의 진화 필요성: 오래된 벤치마크 (Spider 등) 는 이미 데이터 오염으로 인해 신뢰도가 낮아졌으며, 최신 벤치마크 (BIRD) 가 더 나은 대안임을 시사합니다.
향후 연구 방향: 이 프레임워크는 텍스트 - 코드 생성, 질문 답변 (QA) 등 다른 NLP 작업으로 확장 가능하며, 대규모 언어 모델의 데이터 오염을 체계적으로 감사 (Audit) 하는 표준 프로토콜로 자리 잡을 수 있습니다.

요약하자면, 이 논문은 LLM 이 NL2SQL 벤치마크에서 높은 점수를 얻는 것이 실제 능력인지, 아니면 데이터 암기 때문인지를 문법적 변형에 대한 민감도를 통해 과학적으로 검증하는 새로운 방법론 (SPENCE) 을 제시하고, 이를 통해 기존 벤치마크의 오염 실태를 규명했습니다.