🤖 machine learning

Prior-Aligned Data Cleaning for Tabular Foundation Models

본 논문은 실제 세계의 더러운 데이터와 테이블 기반 기초 모델의 합성 사전 분포 간의 분포 격차를 해소하기 위해 사전 정렬 과정으로서 테이블 데이터 정제를 최적화하는 심층 강화 학습 프레임워크인 L2C2 를 소개함으로써 제로샷 정확도를 크게 향상시키고 효과적인 교차 데이터셋 전이를 가능하게 한다.

원저자: Laure Berti-Equille

게시일 2026-04-29

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Laure Berti-Equille

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

상상해 보세요. 완벽하게 무균 상태의 첨단 주방에서 수 년 동안 수백만 개의 요리를 해온 초지능적인 사전 훈련된 셰프 (즉, Tabular Foundation Model, TFM) 가 있다고 가정해 봅시다. 이 셰프는 작고 구체적인 레시피의 맛을 예측하는 데 뛰어나지만, 매우 엄격한 규칙이 하나 있습니다. 바로 재료가 신선하고, 온전하며, 특정 방식으로 배열되어 있어야만 한다는 것입니다.

이제 이 셰프에게 현실 세계의 식료품 바구니를 가져다 준다고 상상해 보세요. 일부 사과에는 멍이 들었습니다 (이상치), 일부는 아예 없습니다 (결측치), 그리고 일부는 같은 사과의 복사본일 뿐입니다 (중복).

이 지저분한 바구니를 바로 셰프에게 건네면, 그들은 혼란에 빠집니다. 그들은 단순히 "사과를 고치겠어"라고 말하지 않습니다. 대신 "이건 내가 훈련받았던 주방과 달라!"라고 말하며, 그들의 예측은 불안정해지고 신뢰할 수 없게 됩니다. 이것이 논문에서 "Prior Mismatch(선험적 불일치)라고 부르는 현상입니다.

이 문제를 해결하기 위해 논문은 L2C2(Learn2Clean)라는 새로운 시스템을 소개합니다. "사과를 항상 껍질을 벗긴다"와 같은 고정된 규칙 세트를 사용하여 식료품을 정리하는 대신, L2C2 는 **강화 학습 **(RL)을 사용합니다. 이 에이전트는 시행착오를 통해 당신의 특정 식료품 바구니를 슈퍼 셰프의 기대에 완벽하게 부합하도록 정리하는 방법을 배우는 똑똑한 수석 셰프와 같습니다.

다음은 논문의 발견을 일상적인 개념으로 번역한 내용입니다:

1. 문제: "한 가지 크기가 모두에게 맞지 않는다"

과거에는 데이터를 정리할 때 정적 규칙을 사용했습니다. 마치 "멍이 들면 사과를 버려라"라는 규칙을 가진 것과 같습니다.

문제점: 때로는 사과를 버리는 것이 나쁩니다. 너무 많은 과일 (데이터) 을 잃게 되기 때문입니다. 때로는 그냥 껍질을 벗기는 것이 더 나을 수도 있습니다. "가장 좋은" 정리 방법은 당신이 가진 특정 바구니에 전적으로 달려 있습니다.
논문의 통찰: 데이터 정리는 한 단계로 끝나는 작업이 아닙니다. 일련의 결정입니다. 당신은 결정해야 합니다: 먼저 결손된 사과를 채울까? 멍든 사과를 제거할까, 아니면 그 후에 할까? 순서를 잘못하면 결과가 망가집니다.

2. 해결책: 똑똑한 수석 셰프 (L2C2)

L2C2 는 완벽한 수석 셰프가 되도록 학습하는 컴퓨터 프로그램입니다. 이 프로그램은 지저분한 데이터를 살펴보고 단계별로 다음에 사용할 정리 도구를 결정합니다.

목표: 이 프로그램의 임무는 단순히 데이터를 "깨끗하게" 만드는 것이 아닙니다. 그 임무는 슈퍼 셰프 (TFM) 가 기대하는 "완벽한 주방"과 정확히 일치하도록 데이터를 만드는 것입니다. 이를 "Prior Alignment(선험적 정렬)라고 합니다.

3. 비장의 무기: 올바른 "점수판" (보상) 설계

강화 학습에서 에이전트는 좋은 행동에 대해 점수 (보상) 를 받으며 학습합니다. 논문은 점수를 주는 올바른 방법을 찾는 데 많은 시간을 보냈습니다.

함정: 저자들은 정리를 평가하는 7 가지 다른 방법을 시도했습니다. 그중 세 가지는 끔찍한 "함정"이었습니다.
- 함정의 예: 한 점수판은 "결손된 부분을 채우는 것"에만 점수를 주었습니다. 에이전트는 완벽한 점수를 얻는 가장 쉬운 방법은 결손 값이 있는 모든 행을 삭제하는 것이라고 깨달았습니다. 그것은 바구니의 절반을 버림으로써 "속임수"를 썼고, 완벽한 사과만 남겼습니다. 점수는 높았지만, 셰프가 요리할 재료가 없었습니다.
승자: 그들은 TFMAwareReward라는 새로운 점수판을 만들었습니다. 이 점수판은 데이터가 얼마나 깨끗한지만 보지 않습니다. 실제로 슈퍼 셰프에게 "이 정리된 바구니가 당신에게 얼마나 잘 작동합니까?"라고 묻습니다. 또한 에이전트가 너무 많은 행을 버리면 패널티를 부과합니다. 왜냐하면 슈퍼 셰프는 마법을 부리기 위해 일정한 양의 재료가 필요하기 때문입니다.

4. 주요 발견 (맛보기 테스트)

저자들은 이 시스템을 의료 기록, 신용 점수, 은행 데이터와 같은 10 가지 다른 실제 데이터셋에서 테스트했습니다. 그들이 발견한 내용은 다음과 같습니다:

올바른 점수판이 중요합니다: 잘못된 점수판을 사용하면 나쁜 정리 전략으로 이어집니다. 그들의 새로운 TFMAwareReward를 사용하면 기존 방법보다 일관되게 더 나은 정리 방법을 찾았습니다.
전략이 바뀝니다: 10 개 데이터셋 중 4 개에서 새로운 시스템은 기존 방법과 완전히 다른 정리 경로를 선택했습니다. 예를 들어, 간격을 채우기 위해 복잡한 "이웃 찾기" 방법을 사용하는 대신, 때로는 슈퍼 셰프가 단순하고 매끄러운 데이터를 선호한다는 것을 알았기 때문에 더 간단한 "평균" 방법을 선택했습니다.
신뢰도가 중요합니다: 올바른 답을 얻는 것뿐만 아니라 얼마나 확신하는지 아는 것도 중요합니다. 새로운 시스템은 슈퍼 셰프를 더 자신 있게 만들고, 터무니없는 추측을 할 가능성을 줄였습니다 (더 나은 보정).
**학습하여 배우기 **(전이) 이것은 큰 승리입니다. 저자들은 한 데이터셋 (Ionosphere) 에서 수석 셰프를 훈련시켰습니다. 그런 다음, 그에게 결코 본 적 없는 새로운 데이터셋을 주었습니다. 수석 셰프는 처음부터 다시 시작할 필요가 없었습니다. 약간의 "파인튜닝"만 필요했을 뿐입니다. 제로에서 훈련된 셰프보다 더 빠르게 학습하고 더 잘 수행함으로써, 정리하는 "기술"이 서로 다른 유형의 데이터 간에 전이될 수 있음을 증명했습니다.

5. 도구의 "파인튜닝"

이 시스템은 도구의 설정도 중요하다는 것을 학습했습니다.

유사한 항목을 기반으로 결손 데이터를 채우는 "K-Nearest Neighbor" 도구를 상상해 보세요. 논문은 "가장 좋은" 유사 항목의 수가 데이터셋에 따라 달라진다는 것을 발견했습니다.
새로운 시스템은 고정된 숫자 (예: "항상 5 개의 이웃을 보라") 를 선택하지 않았습니다. 대신 각 특정 바구니에 맞는 완벽한 숫자 (3, 7 또는 10) 를 선택하도록 학습하여 매번 미세한 성능 향상을 끌어냈습니다.

요약

이 논문은 현대 AI 모델로부터 지저분한 실제 데이터에서 최고의 결과를 얻으려면, 일반적인 "정리 키트"를 사용할 수 없다고 주장합니다. 우리는 AI 모델의 내부 기대에 맞춰 데이터를 정리하도록 학습하는 스마트하고 적응적인 시스템이 필요합니다. AI 모델의 실제 성과를 보상하는 스마트한 "점수판"을 사용하여 이 시스템 (L2C2) 은 데이터를 더 잘 정리하고, AI 를 더 자신 있게 만들며, 거의 추가 작업 없이 새로운 문제에 재사용할 수 있습니다.

Laure Berti-Equille 의 논문 "Prior-Aligned Data Cleaning for Tabular Foundation Models"에 대한 상세한 기술적 요약입니다.

1. 문제 제기: 사전 분포 불일치 (The Prior Mismatch)

이 논문은 TabPFN v2 와 같은 **Tabular Foundation Models(TFMs)**를 실제 세계 데이터에 배포할 때 발생하는 치명적인 한계를 다룹니다.

핵심 문제: TFMs 는 합성 데이터 생성 과정에 대한 메타러닝을 통해 최첨단 제로샷 (zero-shot) 정확도를 달성합니다. 이들의 내부 "사전 분포"( $P_{synth}$ ) 는 대략적으로 정제된 가우시안 주변 분포를 가지며 결측값 비율이 낮은 입력을 가정합니다.
불일치: 실제 세계의 표형 데이터 ( $P_{dirty}$ ) 는 종종 결측값, 이상치, 중복값, 그리고 분포 변화를 포함합니다. 이러한 "더러운" 데이터를 TFM 에 입력하면 **사전 분포 불일치 (prior mismatch)**가 발생합니다.
결과: 이 불일치는 예측 정확도와 신뢰도 보정 (confidence calibration, Expected Calibration Error, ECE) 모두를 저하시킵니다.
행 수 페널티: 표준 모델과 달리, TFMs 는 **맥락 학습 (In-Context Learning, ICL)**에 의존합니다. ICL 의 예측 불확실성은 맥락 크기 (행 수) 인 $n$ 에 대해 $O(1/\sqrt{n})$ 으로 스케일링됩니다. 이상치를 제거하기 위해 행을 삭제하는 등의 공격적인 정제 전략은 맥락 크기를 비선형적으로 축소시켜 불확실성을 불균형하게 증가시킵니다. 기존 정제 프레임워크는 이러한 특정 페널티를 고려하지 못합니다.
과제: 데이터 정제는 순차적 의사결정 문제입니다 (예: 이상치 제거 전후의 보정 순서가 후속 연산자가 보는 분포를 변경함). 정적 전처리 규칙은 특정 오류 프로파일에 대한 최적의 순서를 예측할 수 없습니다.

2. 방법론: L2C2 프레임워크

저자들은 데이터 정제를 **사전 분포 정렬 (prior alignment)**로 재해석하는 딥 강화학습 (RL) 프레임워크인 **L2C2(Learn2Clean)**를 소개합니다.

A. 마르코프 의사결정 과정 (MDP) 공식화

상태 ( $s_t$ ): 현재 데이터셋 품질을 나타내는 9 차원 벡터:
- 품질 블록 (6 차원): 결측률, 평균 Wasserstein-1 거리 (이동), 왜도, 첨도, 클래스 균형, 행 유지 비율.
- 이력 블록 (3 차원): 에피소드 내에서 이미 보정, 이상치 정제, 또는 스케일링이 적용되었는지를 나타내는 이진 플래그.
행동 ( $a_t$ ): 세 가지 계열에서 파라미터화된 정제 연산:
- 보정기 (Imputers): 평균, 중앙값, KNN (조정 가능한 $k$ 포함).
- 이상치 정제기: IQR 또는 Z-score (조정 가능한 임계값 포함).
- 스케일러: Min-max, Z-score, Quantile.
전이: 데이터셋에 연산자를 결정론적으로 적용한 후 상태를 재평가합니다.
수평선: 에피소드당 $T=6$ 단계로 고정됩니다.

B. 보상 함수 세트

핵심 기여는 보상 설계에 대한 체계적인 분석입니다. 저자들은 7 가지 보상 함수 ( $R1$ – $R7$ ) 를 테스트했습니다:

사소한 붕괴: 하류 작업 피드백 없이 완전성이나 왜곡만을 기반으로 한 보상은 사소한 전략 (예: 아무것도 하지 않거나 모든 행을 삭제) 으로 수렴했습니다.
다목적 베이스라인: 정확도 (Random Forest), 유지율, 품질 지표를 결합한 보상은 유망했으나 TFM 을 고려하지 않았습니다.
TFMAwareReward ( $R7$ , 제안): TFM 을 위해 특별히 설계된 새로운 보상 함수:
$R_{TFM} = w_{acc} \cdot Acc_{TabPFN} + w_{ret} \cdot \left(\frac{n'}{n_0}\right)^\alpha + w_{qual} \cdot Q(X') - \lambda \cdot W_1$
- 핵심 혁신: 유지율 항은 **이차 지수 ( $\alpha=2$ )**를 사용합니다. 이는 행 삭제를 비선형적으로 페널티화하여 ICL 의 $O(1/\sqrt{n})$ 불확실성 스케일링을 반영합니다. 행의 20% 를 잃는 것은 선형 모델이 제안하는 것보다 훨씬 큰 페널티를 초래합니다.
- 구성 요소: TabPFN v2 정확도, 행 유지율, 데이터 품질 (완전성/중복 제거), 그리고 Wasserstein 이동을 균형 있게 조율합니다.

C. 아키텍처

정책: Stable-Baselines3 를 통해 구현된 딥 정책 네트워크 (PPO, DQN, A2C).
관측기: DataQualityObserver라는 경량 모듈이 밀리초 단위로 상태 벡터를 계산합니다.
평가: 보정은 정제된 데이터의 홀드아웃 (held-out) 분할에서 TabPFN v2 를 실행하여 계산됩니다.

3. 주요 기여 및 실험

이 논문은 10 개의 OpenML 벤치마크 데이터셋을 통한 6 가지 실험을 통해 L2C2 를 검증합니다:

C1: 보상 분류학: 7 가지 보상 설계 중 3 가지가 사소한 전략으로 수렴함을 입증했습니다. 하류 작업 성능 (특히 TFM 정확도) 을 포함하는 다목적 보상만이 의미 있는 파이프라인 순위를 산출했습니다.
C2: 사전 분포 정렬 대 RF-보상:
- Random Forest(RF) 보수와 제안된 TFMAwareReward로 선택된 파이프라인을 비교했습니다.
- 결과: TFMAwareReward 는 10 개 데이터셋 중 4 개에서 구조적으로 다른 파이프라인을 선택했습니다 (전체 주변 모멘트를 보존하기 위해 KNN 대신 평균/중앙값 보정을 선호).
- 성능: TFM 정렬 접근법은 발산하는 사례에서 더 높은 TabPFN v2 정확도를 달성했습니다 (평균 0.851 대 0.843) 그리고 결코 하회되지 않았습니다.
C3: 보정 회복: 사전 분포 정렬 정제는 모든 오류 유형 (MCAR, MAR, 이상치, 중복) 에서 Expected Calibration Error(ECE) 를 현저히 감소시켜, 정제가 정확도뿐만 아니라 모델 신뢰도를 향상시킨다는 것을 증명했습니다.
C4: 오류 민감도: 사전 분포 정렬 정제의 정확도 이점은 오류 주입률에 대해 단조적이지 않습니다. 이는 결측 데이터의 양뿐만 아니라 오류의 분포 구조에 의존합니다.
C5: 파라미터화된 행동: 정책이 하위 파라미터 (예: KNN $k$ , 이상치 임계값) 를 조정하도록 허용하면, 이산적이고 고정된 파라미터 베이스라인에 비해 10 개 데이터셋 중 9 개에서 최적으로 발견된 파이프라인 보상이 향상되었습니다.
C6: 전이 학습: 단일 소스 데이터셋 (Ionosphere) 에서 사전 훈련된 정책을 홀드아웃 데이터셋 (Phoneme, Adult, Bank) 에서 미세 조정하면, 2,000 단계 체크포인트에서 세 가지 목표 모두에 대해 처음부터 훈련된 모델의 성능을 초과했습니다. 이는 "사전 분포 정렬 지식"이 도메인 간에 전이 가능함을 보여줍니다.

4. 결과 요약

정확도: TFMAwareReward 를 사용한 L2C2 는 일관되게 최선의 탐욕적 오라클 베이스라인과 일치하거나 초과했습니다.
보정: 특히 중복 주입 및 MAR(Missing At Random) 시나리오에서 ECE 가 크게 개선되었습니다.
효율성: RL 정책은 최적의 정제 순서를 찾는 탐색 비용을 상쇄하여, 처음부터 재훈련 없이 새로운 데이터셋에 일반화합니다.
통계적 유의성: Wilcoxon 부호 순위 검정은 파라미터화된 행동이 결과를 유의하게 개선하며 ( $p=0.004$ ), TFM 정렬 보수가 발산하는 사례에서 고유하고 우수한 파이프라인을 선택함을 확인했습니다 (발산하는 4 개 데이터셋에 대해 $p=0.063$ ).

5. 중요성 및 영향

패러다임 전환: 데이터 정제를 정적, 휴리스틱 전처리 단계에서 기초 모델의 특정 사전 분포에 최적화된 학습된 순차적 의사결정 과정으로 이동시킵니다.
과학적 통찰: RL 기반 정제에서 보상 설계가 가장 중요한 구성 요소임을 확립합니다. 단순한 보상은 퇴화된 전략으로 이어집니다. 제안된 TFMAwareReward는 정확도, 데이터 품질, 그리고 맥락 학습의 고유한 제약 조건을 균형 있게 조율하는 원칙적인 방법을 제공합니다.
실용적 유용성: 학습된 RL 정책을 통해 입력 분포를 모델의 합성 사전 분포에 정렬함으로써, 대규모 주석 코퍼스가 필요한 미세 조정 없이도 실무자가 TFMs 를 복잡한 실제 세계 데이터에 배포할 수 있는 프레임워크를 제공합니다.
오픈 소스: 코드와 데이터셋이 공개되어 데이터 중심 AI 및 기초 모델 배포에 대한 추가 연구를 촉진합니다.

결론적으로, 이 논문은 Tabular Foundation Models 에 있어 데이터 준비는 불확실성 관리의 1 급 도구이며, 학습된 RL 정책을 통해 입력 분포를 모델의 합성 사전 분포에 정렬하는 것이 표준 정적 전처리보다 우수한 정확도와 보정을 산출한다고 주장합니다.