당신이 미스터리를 해결하기 위한 궁극의 "탐정 봇"을 만들려고 한다고 상상해 보세요. 이 봇은 두 가지 유형의 단서를 살펴봐야 합니다: 현장의 사진과 (온도, 시간, 이름 같은) 사실이 담긴 스프레드시트입니다. 이 봇을 똑똑하게 만들기 위해, 각 단서 유형을 봇이 이해할 수 있는 언어로 바꿔줄 특별한 "번역기"가 필요합니다.

사진의 경우, 우리는 놀라운 번역기들(유명한 ViT 모델 같은 것들)을 가지고 있습니다. 하지만 스프레드시트의 경우는 어떨까요? 수년 동안 과학자들은 MLP(평범하고 얕은 신경망)라는 매우 단순하고 기본적인 번역기를 사용해 왔습니다. 이것은 마치 피자를 배달하는 데 스포츠카 부대를 보유하고 있으면서 자전거를 사용하는 것과 같습니다. 논문은 바로 이 자전거 때문에 피자가 식어서 도착하는 것일 수도 있지, 배달 경로 자체가 문제인 것이 아니라고 주장하며 이것이 큰 실수라고 말합니다.

거대한 발견: "번역기"가 생각보다 더 중요하다

이 연구의 저자들은 이 이론을 테스트하기로 했습니다. 그들은 지루한 자전거(평범한 MLP)를 스프레드시트를 위한 가장 진보된 최첨단 "스포츠카"로 교체했습니다. 이 새로운 번역기들은 인컨텍스트 러닝 표 형식 파운데이션 모델(In-Context Learning Tabular Foundation Models, 말이 너무 기니 ICL 슈퍼-번역기라고 부릅시다)이라고 불립니다.

여기서 반전이 있습니다: 어떤 탐정 봇이 "최고"인지에 대한 순위가 어떤 번역기를 사용하느냐에 따라 완전히 바뀐다는 것입니다.

만약 당신이 약한 번역기로 봇을 테스트한다면, 화려하고 복잡한 탐정 기법이 천재처럼 보일 수 있습니다. 하지만 만약 당신이 강력한 번역기로 바꾼다면, 그 똑같이 화려한 기법은 평범해 보일 수 있는 반면, 단순하고 지루한 기법이 갑자기 슈퍼히어로처럼 보일 수 있습니다. 논문은 우리가 단지 나쁜 번역기를 사용했기 때문에 수년 동안 잘못된 기법들을 칭송해 왔을 수도 있다고 시사합니다.

"기계 속의 유령" 문제

이 새로운 ICL 슈퍼-번역기들에는 큰 장애물이 있었습니다. 이 모델들은 정답이 포함된 "컨텍스트"(풀린 예시들의 목록)를 보고 새로운 "쿼리"(정답이 없는 미스터리)의 답을 추측하는 방식으로 작동합니다.

저자들은 기묘한 글리치를 발견했습니다: 모델은 정보가 "컨텍스트"에 있는지 "쿼리"에 있는지에 따라 동일한 정보를 다르게 인식합니다.

당신이 가장 좋아하는 영화를 친구에게 설명한다고 상상해 보세요.

• 컨텍스트 모드: 당신은 결말을 이미 본 후에 영화를 설명하고 있습니다. 당신은 반전을 알고 있습니다.
• 쿼리 모드: 당신은 결말을 보기 전에 영화를 설명하고 있습니다. 당신은 다음에 무슨 일이 일어날지 추측하고 있습니다.

비록 같은 영화일지라도, 당신의 설명(임베딩)은 지식 상태가 다르기 때문에 완전히 달라집니다. 논문은 이 모델들이 훈련 데이터를 "컨텍스트" 역할에 두고 테스트 데이터를 "쿼리" 역할에 두었을 때, 컴퓨터 메모리 내에서 서로 다른 동네에 머물게 된다는 것을 발견했습니다. 이는 마치 뉴욕의 지도를 보고 런던의 지도를 맞추려는 것과 같습니다. 모델이 자신이 보고 있는 도시가 어디인지 혼동했기 때문입니다.

논문이 배제한 내용:
저자들은 이 차이가 단순히 데이터가 달라서 발생하는 것이라는 생각을 명시적으로 테스트하여 배제했습니다. 그들은 정확히 동일한 데이터 포인트가 두 역할 모두에 사용되었을 때도 모델이 이를 다르게 취급한다는 것을 보여주었습니다. 이것은 데이터의 문제가 아니라, 이 모델들이 작동하는 방식의 구조적 결함입니다.

"바닐라" 함정

이 글리치 때문에, 저자들은 이 모델들에 데이터를 입력하는 세 가지 방법을 테스트했습니다:

1. 바닐라 (나이브한 방식): 훈련 데이터를 컨텍스트로, 테스트 데이터를 쿼리로 그냥 입력합니다.
2. LOFO (Leave-One-Fold-Out): 모든 데이터가 한 번씩 쿼리가 될 수 있도록 데이터를 섞는 복잡한 방식입니다.
3. NP (Non-Partitioned): 모델이 훈련 데이터를 컨텍스트와 쿼리 양쪽 모두에서 동시에 보도록 하는 영리한 트릭입니다.

결론: "바닐라" 방식은 재앙입니다. 논문은 나이브한 방식을 사용하는 것이 일관되게 성능을 떨어뜨린다는 것을 보여줍니다. 이것은 마치 주차 브레이크를 채운 채 스포츠카를 운전하는 것과 같습니다. 저자들은 이 방식을 완전히 피할 것을 강력히 권장합니다. 대신, NP (Non-partitioned) 방식이 이 모델들의 풀 파워를 잠금 해제하는 "열쇠"로 권장됩니다.

화려한 퓨전이 정말 필요한가?

오랫동안 연구자들은 사진과 스프레드시트를 결합하기 위해 매우 복잡하고 비용이 많이 드는 시스템이 필요하다고 생각했습니다. 이러한 시스템은 종종 수백만 개의 파라미터를 가지며 특수한 사전 학습을 요구합니다.

논문은 놀라운 사실을 발견했습니다: 사진과 스프레드시트가 모두 유용한 데이터셋에서, 단순한 "바이리니어 퓨전"(기본적인 수학적 트릭)을 강력한 번역기와 결합하는 것이 초정밀 복잡한 시스템만큼이나 잘 작동한다는 것입니다.

실제로, 사용된 화려하고 복잡한 시스템들은 기본 베이스라인보다 평균 13.2배 더 많은 파라미터를 가집니다. 저자들은 충분히 강력한 번역기를 사용한다면, 과하게 설계된 비싼 퓨전 방식이 필요하지 않다고 제안합니다. 단순한 접근 방식이 똑같이 효과적이며 훨씬 저렴합니다.

"단일 모달리티" 경고

논문은 또한 한 종류의 단서가 쓸모없는 데이터셋에 대해서도 경고합니다.

• 만약 스프레드시트가 그냥 노이즈인 데이터셋(예: CCD 데이터셋)이라면, 사진에 스프레드시트를 추가하는 것은 실제로 봇의 성능을 해칩니다.
• 만약 사진이 쓸모없는 경우(예: 스프레드시트가 왕인 Petfinder 데이터셋)라면, 사진을 추가하는 것이 성능을 해칩니다.

저자들은 퓨전 모듈이 쓸모없는 단서를 "무시"하도록 마법처럼 학습하지 않는다는 것을 발견했습니다. 대신, 그것은 혼란을 느껴 단독으로 좋은 단서만 사용했을 때보다 성능이 더 떨어집니다. 이는 무턱대고 데이터를 결합하는 것이 항상 정답은 아니라는 것을 시사합니다. 때로는 올바른 단서를 선택하는 것이 중요합니다.

얼마나 확신할 수 있는가?

저자들은 단순히 추측만 한 것이 아니라, 7개의 서로 다른 실제 데이터셋(의료 피부 이미지부터 예술 경매, 자동차 매물까지)에 걸쳐 광범endo한 실험을 수행했습니다.

• 그들은 성능을 측정하기 위해 F1 스코어(표준적인 정확도 측정 방식)를 사용했습니다.
• 그들은 "리프트(성능 향상)"가 번역기가 좋아짐에 따라 줄어든다는 것을 증명하기 위해 OLS 회귀 및 스피어먼 상관계수와 같은 통계 도구를 사용했습니다.
• 그들은 **MMD (Maximum Mean Discrepancy)**를 사용하여 "컨텍스트-쿼리 변화"를 확인했습니다. 이는 두 그룹 사이의 거리를 측정하는 수학적 방법입니다.

논문은 번역기의 선택이 "결정적인 혼란 변수(critical confound)"라고 결론짓습니다. 즉, 올바른 번역기를 선택하지 않으면 실험 전체가 오해를 불러일으킬 수 있다는 뜻입니다. 이 결과는 시뮬레이션이 아닌 측정된 데이터에 기반하며, 저자들은 "바닐라" 추출 방식은 피해야 하며 "NP" 방식이 대부분의 경우에 적합한 길이라는 점에 자신감을 보이고 있습니다.

그러니 다음에 탐정 봇을 만들 때, 꼭 기억하세요: 탐정에게만 집중하지 말고, 당신의 번역기가 눈가리개를 쓰고 있지는 않은지 확인하세요.