COGITAO: A Visual Reasoning Framework To Study Compositionality & Generalization

이 논문은 인간과 같은 지능의 핵심인 구성성과 일반화 능력을 체계적으로 연구하기 위해, 28 가지 변환을 조합하여 수백만 개의 고유한 시각적 과제를 생성할 수 있는 모듈형 프레임워크이자 벤치마크인 'COGITAO'를 제안하고, 최신 비전 모델들이 익숙한 요소들의 새로운 조합에 대해 일반화하는 데 실패함을 입증합니다.

핵심

1. 문제: AI 는 왜 '공부'를 못 할까?

우리는 아이들에게 '사과'와 '배'를 가르치면, 나중에 '오렌지'를 보고도 "과일이다!"라고 알아챕니다. 또한 '사과를 두 번 자르다'라는 말을 들으면, '배'를 두 번 자르는 상황도 금방 이해합니다. 이것이 **인간의 창의적인 사고 (조립적 일반화)**입니다.

하지만 최신 AI 모델들은 이 부분이 매우 약합니다.

• 비유: AI 는 마치 악보를 외운 피아노 치기와 같습니다. C-D-E 순서로 치는 법은 완벽하게 외웠지만, 갑자기 D-C-E 순서로 치라고 하면 당황해서 멈춰버립니다. AI 는 새로운 조합이 나오면 "이건 훈련 데이터에 없었어!"라고 말하며 실패합니다.

2. 해결책: COGITAO (코기타오) 란 무엇인가?

연구진은 AI 의 이런 약점을 정확히 측정하기 위해 COGITAO라는 도구를 만들었습니다.

• 비유: COGITAO 는 레고 블록 실험실입니다.
  • 이 실험실에는 28 가지의 기본 레고 블록 조작법 (위/아래로 이동, 회전, 반전, 색 바꾸기 등) 이 있습니다.
  • 연구진은 이 조작법들을 무작위로 섞어 "이 블록을 먼저 회전하고, 그다음 위로 옮기고, 색을 바꾸라"는 수백만 가지의 새로운 미션을 만들어냅니다.
  • 중요한 점은, AI 가 훈련할 때는 "회전 + 이동"만 배웠는데, 시험에서는 "이동 + 회전"이나 "회전 + 이동 + 반전" 같은 새로운 조합을 물어본다는 것입니다.

3. 실험 결과: AI 는 여전히 '암기'만 할 뿐이다

연구진은 최신 AI 모델들 (Transformer 등) 을 이 레고 실험실에 투입했습니다. 결과는 충격적이었습니다.

• 훈련된 상황 (In-Domain): "회전 + 이동"을 배운 AI 는 이 조합을 아주 잘 수행합니다. (90% 이상 성공)
• 새로운 상황 (Out-of-Distribution): 하지만 "이동 + 회전"을 요구하면, AI 는 0% 에 가까운 점수를 받습니다.
• 왜? AI 는 규칙을 이해한 게 아니라, "회전하고 이동하는 그림"을 외웠을 뿐이기 때문입니다. 순서만 바뀌거나 블록 개수가 조금만 달라져도, AI 는 그 '외운 그림'을 찾아내려다 실패합니다.

4. 핵심 발견: AI 의 두 가지 치명적 약점

논문은 AI 가 실패하는 두 가지 패턴을 찾아냈습니다.

1. 고집 (Stubbornness): AI 는 새로운 지시 (예: "위쪽으로 이동") 를 받아도, 훈련 때 본 대로 "오른쪽으로 이동"을 강행합니다. 마치 "내가 아는 게 최고야!"라고 고집을 부리는 것과 같습니다.
2. 구조적 실패: AI 는 복잡한 작업을 할 때, 각 단계 (원자적 작업) 를 분리해서 다시 조합하는 능력이 없습니다. 마치 레고 조립 설명서를 보고 "A 를 B 에 붙여라"는 지시를 받았을 때, A 와 B 를 따로 떼어내어 다시 붙이는 법을 모르고, 그냥 "A 와 B 가 붙어 있는 사진"만 기억하고 있는 것과 같습니다.

5. 결론 및 의의

이 논문은 **"AI 가 진짜로 똑똑해지려면, 단순히 더 많은 데이터를 먹이는 것만으로는 부족하다"**는 것을 증명합니다.

• COGITAO 의 역할: 이 도구는 AI 가 단순히 패턴을 매칭하는지, 아니면 실제로 논리적으로 사고하는지를 가려내는 진단 키트 역할을 합니다.
• 미래: 이 연구를 통해 AI 개발자들은 "단순 암기"를 넘어, 작은 규칙들을 조합해 새로운 문제를 해결할 수 있는 진정한 지능을 가진 모델을 만들려고 노력해야 함을 깨달았습니다.

한 줄 요약:

"지금의 AI 는 레고 블록을 외워서 맞추는 '암기왕'일 뿐, 새로운 블록 조합을 스스로 만들어내는 '창의적인 건축가'는 아닙니다. COGITAO 는 바로 이 차이를 정확히 찾아내는 자입니다."

기술 요약

1. 문제 정의 (Problem)

현대 머신러닝 모델은 인간과 달리 구성적 일반화 (Compositional Generalization) 와 체계적 일반화 (Systematic Generalization) 능력에서 심각한 한계를 보입니다.

• 구성적 일반화: 학습된 기본 개념 (원자적 요소) 을 새로운 방식으로 조합하여 학습되지 않은 상황에 적용하는 능력 (예: 'dax'라는 동사를 배웠다면 'dax twice'나 'sing and dax'를 즉시 이해하는 것).
• 현황: 자연어 처리 (NLP) 분야에서는 SCAN, COGS 등의 벤치마크를 통해 이 문제가 활발히 연구되고 있으나, 컴퓨터 비전 (Vision) 분야에서는 기존 벤치마크가 유연성이 부족하고, 시각적 복잡성과 관계적 구조가 혼재되어 있어 구성적 추론의 본질을 정밀하게 평가하기 어렵습니다.
• 목표: 시각적 추론의 본질적인 구성적 능력을 격리하여 평가할 수 있는 통제된 환경을 제공하고, 최신 모델들이 왜 새로운 조합에 실패하는지 진단하는 프레임워크 개발.

2. 방법론 (Methodology)

저자들은 COGITAO라는 새로운 프로시저 기반 (Procedural) 데이터 생성 프레임워크를 제안했습니다.

A. 프레임워크 구조

• 환경: 격자 (Grid) 기반의 추상적 시각 환경 (ARC-AGI 에서 영감).
• 객체 (Objects): 크기, 모양, 대칭성, 색상 패턴 등이 다양한 23,000 개의 사전 생성된 객체들을 사용하며, 객체 간 중첩을 방지합니다.
• 변환 (Transformations): 28 가지의 원자적 (Atomic) 객체 변환 작업 (이동, 회전, 반사, 자르기, 색상 변경, 채우기 등) 을 정의했습니다.
  • 핵심 규칙: 모든 변환은 서로 조합 가능해야 하며 (Composable), 다른 변환들의 조합과 시스템적으로 동등하지 않아야 합니다 (Non-redundant).
• 작업 생성:
  • 입력 격자와 변환 시퀀스 (Transformation Sequence) 를 기반으로 출력 격자를 생성합니다.
  • 변환의 깊이 (Depth) 를 조절하여 단순한 작업부터 복잡한 다단계 조합까지 무한에 가까운 고유한 작업 규칙을 생성할 수 있습니다 (예: 깊이 5 에서 약 $1.7 \times 10^8$개의 고유 작업).
• 확장성:
  • RGB 렌더링: 합성 격자 데이터를 실제 자연어 이미지 (RGB) 로 변환하여 현실 세계 비전 모델 전이 (Transfer) 연구 지원.
  • 순차적 COGITAO: 입력 - 출력 쌍뿐만 아니라 변환 과정의 모든 중간 상태를 시퀀스로 제공하여 세계 모델 (World Model) 연구 지원.

B. 실험 설계 (Benchmark Studies)

모델의 일반화 능력을 평가하기 위해 두 가지 주요 연구 (Study) 를 수행했습니다.

1. 구성적 일반화 (CompGen): 학습 시 본 변환 시퀀스와 다른 조합 (Unseen Combinations) 또는 더 깊은 깊이 (Deeper Depth) 의 시퀀스로 테스트.
   • 예: 학습 시 '이동 + 회전'을 배웠다면, 테스트 시 '회전 + 이동'이나 '이동 + 회전 + 반사'를 수행하는지 확인.
2. 환경적 일반화 (EnvGen): 변환 시퀀스는 동일하지만 환경 파라미터 (객체 수, 격자 크기, 객체 크기/복잡도) 를 변경하여 테스트.
   • 예: 12 개 객체로 학습하고 34 개 객체로 테스트.

C. 평가 모델

약 100 만 파라미터 크기로 조정된 다양한 아키텍처를 비교 평가했습니다.

• Vanilla Transformer: 표준 비전 트랜스포머.
• Grid-TF: 격자 구조와 객체 위치 인코딩 (OPE) 등을 도입한 트랜스포머.
• PL-TF (Pondering Looped Transformer): 반복적 추론과 적응형 계산 시간을 가진 순환형 트랜스포머.
• LLaDA: 확산 기반 (Diffusion-based) 언어 모델.
• ResNet: 전통적인 합성곱 신경망 (Baseline).

3. 주요 기여 (Key Contributions)

1. COGITAO 프레임워크 도입: 28 가지 원자적 변환을 자유롭게 조합하여 수백만 개의 통제된 입력 - 출력 규칙을 생성할 수 있는 프로시저 기반 프레임워크를 제시.
2. 다양한 벤치마크 및 데이터셋 공개: 구성적 일반화 (CompGen) 와 환경적 일반화 (EnvGen) 의 특정 측면을 타겟팅한 벤치마크 데이터셋과 생성 코드를 오픈소스화.
3. RGB 및 시퀀스 확장: 단순 격자뿐만 아니라 RGB 이미지 렌더링과 시퀀스 기반 작업 (World Model 연구용) 으로 확장 가능하도록 설계.
4. 근거 기반 벤치마킹: 구성적 추론에 적합한 인덕티브 바이어스 (Inductive Bias) 를 가진 최신 모델들을 평가하고, 이들이 분포 외 (OOD) 조합에서 실패함을 체계적으로 증명.

4. 실험 결과 (Results)

• 성능: 모든 모델 (Grid-TF, PL-TF, LLaDA 등) 이 분포 내 (In-Domain, ID) 작업에서는 높은 정확도를 보였으나, 분포 외 (Out-of-Distribution, OOD) 조합 (새로운 변환 순서, 더 깊은 깊이, 새로운 환경) 에서는 성능이 급격히 하락했습니다.
  • 특히 PL-TF가 OOD 환경에서 상대적으로 가장 좋은 성능을 보였으나, 여전히 완벽한 일반화에는 실패했습니다.
  • Vanilla Transformer와 ResNet은 OOD 설정에서 거의 0% 에 가까운 성능을 기록했습니다.
• 실패 모드 분석:
  1. ID 편향 (ID Bias): 모델이 학습된 특정 변환 (예: 오른쪽 이동) 을 OOD 작업 (예: 위쪽 이동) 에도 강제로 적용하는 경향.
  2. 구조적 구성 실패: 원자적 변환을 학습했음에도, 이를 분해하여 새로운 순서로 재조합하는 능력이 부족함. 모델은 패턴 매칭을 할 뿐, 구성적 규칙을 추론하지 못함.
• 스케일링의 한계: 모델 크기를 늘리거나 (1M → 25M 파라미터), 데이터 양을 늘리는 것만으로는 구성적 일반화 격차를 해결하지 못함. 이는 아키텍처의 근본적인 한계를 시사합니다.
• LLM 평가: Frontier LLM 들 (GPT-4, o3 등) 도 In-Context Learning (ICL) 설정에서 유사한 실패 모드를 보이며, 규모만으로는 이 문제가 해결되지 않음을 확인.

5. 의의 및 중요성 (Significance)

• 진단 도구: COGITAO 는 복잡한 자연 이미지 데이터의 노이즈를 제거하고, 구성적 추론의 핵심 능력만을 격리하여 평가할 수 있는 정밀한 진단 도구를 제공합니다.
• 연구 방향 제시: 현재 최신 모델들이 패턴 매칭과 암기에 의존하고 있음을 명확히 보여주며, 진정한 구성적 이해 (Structured Compositional Understanding) 를 위한 새로운 아키텍처와 인덕티브 바이어스 개발의 필요성을 강조합니다.
• 실제 적용 가능성: 격자 기반의 단순한 환경에서 구성적 일반화를 실패하는 모델은 로봇 공학, 세계 모델, 복잡한 시각 추론 등 실제 세계의 노이즈가 많은 환경에서도 실패할 가능성이 높다는 가설을 지지합니다.
• 오픈 소스 생태계: 재현 가능한 데이터 생성 코드와 벤치마크를 공개하여 향후 구성적 일반화 연구의 표준으로 자리 잡을 것으로 기대됩니다.

결론적으로, 이 논문은 머신러닝 모델이 인간과 같은 유연한 추론 능력을 갖추기 위해서는 단순한 데이터 스케일링을 넘어, 구조화된 구성적 추론을 학습할 수 있는 새로운 아키텍처가 필요함을 강력하게 주장하며, 이를 검증하기 위한 COGITAO 프레임워크를 제시합니다.