TikZilla: Scaling Text-to-TikZ with High-Quality Data and Reinforcement Learning

이 논문은 대규모 언어 모델이 텍스트 설명을 고품질의 TikZ 과학 도표로 변환하는 능력을 향상시키기 위해, DaTikZ-V4 라는 대규모 고품질 데이터셋을 구축하고 역그래픽 기반 이미지 인코더를 활용한 강화 학습을 도입한 'TikZilla' 모델을 제안하며, 이를 통해 GPT-4o 를 능가하고 GPT-5 와 대등한 성능을 달성함을 보여줍니다.

핵심

티크질라 (TikZilla): 과학 그림을 그리는 '초소형 천재'의 탄생

이 논문은 인공지능 (AI) 이 과학 논문이나 보고서에 들어갈 복잡한 도표와 그래프를 직접 그리는 방법을 혁신적으로 개선한 연구입니다. 특히, 텍스트 설명을 보고 LaTeX 라는 프로그래밍 언어로 된 '티크 (TikZ)' 코드를 만들어내는 기술을 다룹니다.

이 내용을 일반인이 이해하기 쉽게 요리사와 건축가의 비유로 설명해 드리겠습니다.

---

1. 문제: "그림 그려줘"라고 말하면 왜 엉망이 될까?

과학자들은 논문 작성 시 TikZ라는 도구를 많이 씁니다. 이는 마치 레고 블록이나 정밀한 건축 설계도와 같습니다. 텍스트로 "여기에 빨간 원이 있고, 그 옆에 파란 사각형이 있어"라고 말하면 AI 가 그 설계도 (코드) 를 작성해야 합니다.

하지만 기존 AI 들은 이 일을 잘 못했습니다.

• 데이터 부족: AI 가 배울 수 있는 '명령문 - 설계도' 쌍이 너무 적었습니다.
• 나쁜 레시피: 기존 데이터의 설명이 너무 막연했습니다. "그림을 그려줘"라고만 했지, "빨간색, 3cm 크기, 왼쪽에 위치"처럼 구체적이지 않아 AI 가 엉뚱한 것을 그렸습니다.
• 눈을 못 뜬 상태: AI 는 코드를 작성할 때, 그 코드가 실제로 어떤 그림으로 나타나는지 눈을 감고 있었습니다. 그래서 코드는 잘 썼는데, 그림은 엉망이 되거나 무한 루프에 빠지는 경우가 많았습니다.

2. 해결책 1: 더 많은 레시피, 더 정확한 설명 (DaTikZ-V4)

연구팀은 먼저 AI 가 배울 데이터 (레시피) 를 대폭 업그레이드했습니다.

• 거대한 도서관: 기존 데이터보다 4 배 이상 많은 200 만 개 이상의 과학 그림 데이터를 수집했습니다. (arXiv, GitHub 등에서 가져옴)
• 전문 번역가 (VLM): 원래 있던 설명들은 너무 막연해서 AI 가 이해하기 어려웠습니다. 그래서 시각 언어 모델 (VLM) 이라는 '전문 번역가'를 투입했습니다. 이 번역가는 그림을 보고 "빨간 원이 있고, 화살표가 오른쪽으로 가며, 텍스트는 초록색이다"처럼 정밀하고 구체적인 설명을 다시 써주었습니다.
• 수리공 (LLM Debugging): 코드가 오류가 나서 실행되지 않는 경우가 많았습니다. AI 가 스스로 오류를 찾아 고치는 '수리공'을 도입하여, 실행 가능한 코드만 남겼습니다.

3. 해결책 2: 눈 뜨고 배우기 (강화 학습, RL)

이게 가장 중요한 부분입니다. 기존에는 AI 가 코드를 한 번 쓰고 끝냈다면, 이번에는 AI 가 그 코드로 그림을 그려보고, 그 결과를 평가받습니다.

• 비유: 요리사 (AI) 가 요리를 만들고, 미식가 (Reward Model) 가 그 요리를 맛보고 점수를 줍니다.
  • "음, 이 레시피대로 만든 그림이 원본과 너무 달라. 점수 0 점!"
  • "오, 이 레시피는 원본과 거의 똑같네. 점수 100 점!"
• AI 는 이 점수를 보고 "아, 다음엔 이렇게 고쳐야겠다"라고 스스로 학습합니다. 이를 강화 학습 (Reinforcement Learning) 이라고 합니다.
• 특히, 이 '미식가'는 일반적인 이미지 비교가 아니라, 과학 도표의 의미를 이해하도록 특별히 훈련되었습니다.

4. 결과: 작은 몸집, 거대한 실력 (TikZilla)

이렇게 훈련된 모델을 TikZilla라고 이름 붙였습니다.

• 작은 몸집: 이 모델은 GPT-4o 나 GPT-5 같은 거대 AI 보다 훨씬 작습니다 (30 억~80 억 파라미터). 마치 스마트폰용 앱이 거대 서버급 성능을 내는 것과 같습니다.
• 압도적인 성능:
  • 컴파일 성공률: 코드를 작성해서 그림으로 변환할 때 실패하는 경우가 거의 없습니다 (95% 이상).
  • 품질: 인간 전문가들이 평가했을 때, 거대 AI 인 GPT-4o 보다 점수가 높았고, 최신 모델인 GPT-5 와도 대등한 실력을 보였습니다.
  • 효율: 더 적은 계산량으로 더 빠르고 정확한 그림을 그립니다.

5. 요약: 왜 이것이 중요한가?

이 연구는 **"작은 AI 도 충분히 똑똑하게 일할 수 있다"**는 것을 증명했습니다.

• 과거: 거대하고 비싼 AI 를 써야만 그림을 그릴 수 있었고, 결과도 자주 엉망이었습니다.
• 현재: TikZilla는 작고 오픈소스 (무료) 이면서도, 과학 논문 수준의 고품질 도표를 자동으로 그려냅니다.

한 줄 요약:

"이제 AI 가 과학자의 '눈'과 '손'을 대신해, 텍스트 설명만으로도 완벽한 과학 도표를 그릴 수 있게 되었습니다. 그리고 그 AI 는 거대하고 비싼 것이 아니라, 작고 효율적인 '초소형 천재'입니다."

이 기술이 발전하면, 과학자들은 복잡한 도표 그리는 시간을 아껴서 진짜 중요한 연구에 집중할 수 있게 될 것입니다.

기술 요약

TIKZILLA: 고품질 데이터와 강화 학습을 통한 텍스트 - TikZ 생성 확장

이 논문은 과학적 도면 생성을 위한 텍스트 - TikZ(Text-to-TikZ) 작업의 한계를 극복하고, 소형 오픈 소스 모델이 거대 상용 모델과 경쟁할 수 있도록 한 TikZilla 프로젝트와 DaTikZ-V4 데이터셋을 소개합니다.

1. 문제 정의 (Problem)

과학 논문 작성에서 TikZ 는 정밀하고 해석 가능한 벡터 그래픽을 생성하는 데 사실상의 표준 언어로 사용됩니다. 그러나 기존 연구들은 다음과 같은 심각한 한계를 겪고 있었습니다:

• 데이터의 부족과 노이즈: 기존 데이터셋 (DaTikZ-V3 등) 은 크기가 작고, 원본 캡션이 도면을 재현하기에 불충분하거나 노이즈가 많아 텍스트와 렌더링된 이미지 간의 불일치를 초래했습니다.
• 지도 학습 (SFT) 의 한계: 기존 접근법은 주로 지도 미세 조정 (SFT) 에 의존했습니다. 이는 모델이 생성된 코드의 시각적 의미 (렌더링된 결과) 를 직접 경험하지 못하게 하여, 무한 루프, 관련 없는 내용 삽입, 잘못된 공간 관계 등의 오류를 빈번하게 발생시켰습니다.
• 복잡한 구문: TikZ 의 높은 학습 곡선과 다양한 구문은 인간과 LLM 모두에게 숙달하기 어렵게 만듭니다.

2. 방법론 (Methodology)

저자들은 데이터 품질 향상과 강화 학습 (RL) 을 결합한 2 단계 파이프라인을 제안했습니다.

2.1 DaTikZ-V4 데이터셋 구축

기존 데이터셋의 규모와 품질을 획기적으로 개선한 DaTikZ-V4를 구축했습니다.

• 규모 확장: arXiv, GitHub, TeX StackExchange, 합성 데이터를 활용하여 이전 버전 (V3) 대비 4 배 이상 큰 200 만 개 이상의 고유 TikZ 샘플을 확보했습니다.
• 데이터 정제 및 디버깅:
  • 규칙 기반 필터링: tikz-cd, circuitikz 등 다양한 환경 추출, 외부 파일 의존성 제거, 동적 패키지 포함 등을 통해 표준화된 코드를 확보했습니다.
  • LLM 기반 디버깅: 컴파일 실패율이 높은 (특히 arXiv 데이터) 코드를 LLM(Qwen-32B) 을 사용하여 오류 로그와 함께 수정하여 사용 가능한 코드의 비율을 크게 높였습니다.
• 고품질 설명 생성: 원본 캡션의 한계를 극복하기 위해 **시각 언어 모델 (VLM, Qwen2.5-VL)**을 활용하여 각 TikZ 도면에 대한 정밀하고 구조화된 텍스트 설명을 생성했습니다. 이는 도면 재구성을 위한 필수 정보를 제공합니다.

2.2 TikZilla 모델 학습 파이프라인

소형 Qwen 모델 (3B, 8B) 기반의 TikZilla 시리즈를 개발했습니다.

1. 지도 미세 조정 (SFT): DaTikZ-V4 를 사용하여 모델이 TikZ 구문과 태스크 특화 토큰 분포에 적응하도록 학습시킵니다.
2. 강화 학습 (RL): SFT 모델을 기반으로 **GRPO (Group Relative Policy Optimization)**를 적용합니다.
   • 도메인 특화 보상 모델: 일반적인 이미지 유사도 지표 (CLIPScore 등) 대신, 역그래픽 (Inverse Graphics) 작업 (이미지 $\to$ TikZ) 으로 학습된 이미지 인코더를 보상 모델로 사용합니다.
   • 보상 계산: 생성된 TikZ 코드로 렌더링된 이미지와 Ground Truth 이미지 간의 임베딩 거리를 **Earth Mover's Distance (EMD)**를 사용하여 계산하여 의미론적 정합성을 보상합니다.
   • 형식 보상: 유효한 LaTeX 문서 구조 (\documentclass, \begin{document} 등) 를 준수하는지 확인합니다.

3. 주요 기여 (Key Contributions)

1. 캡션 품질 분석: 기존에 널리 사용되던 캡션이 과학적 도면을 재구성하기에 불충분함을 실증적으로 입증하고, VLM 기반 설명의 우수성을 확인했습니다.
2. 대규모 고품질 데이터셋 (DaTikZ-V4): 200 만 개 이상의 샘플을 포함하며, LLM 디버깅과 VLM 설명을 통해 데이터 품질을 극대화했습니다.
3. 도메인 특화 보상 모델: 역그래픽으로 학습된 이미지 인코더를 기반으로 한 보상 모델을 도입하여, 일반적 지표보다 인간 평가와 높은 상관관계를 보이는 의미론적 보상을 제공합니다.
4. TikZilla 모델: 3B 및 8B 파라미터 규모의 소형 오픈 소스 모델을 공개했습니다. 이 모델들은 자동 평가 지표와 인간 평가 모두에서 GPT-4o 를 능가하며, GPT-5 와도 경쟁하는 성능을 보입니다.

4. 실험 결과 (Results)

• 자동 평가 지표: TikZilla-3B-RL 과 TikZilla-8B-RL 은 CLIPScore, DreamSIM, TeX 편집 거리 (TED) 등 모든 주요 지표에서 GPT-5 와 GPT-4o 를 능가했습니다. 특히 컴파일 성공률 (Compilation Rate) 은 **9598%**로, 기존 모델들의 5080% 대비 압도적으로 높습니다.
• 인간 평가: 9 명의 전문가 (PhD, 포닥, 교수 등) 가 참여한 평가에서 TikZilla-3B-RL 은 GPT-4o 보다 0.5 점, GPT-5 와 동급 (이미지 정합성 기준) 의 점수를 받았습니다. 5 점 척도에서 베이스 모델 대비 1.5~2 점 향상되었습니다.
• 효율성: RL 학습을 통해 불필요한 토큰이 제거되어 더 짧고 효율적인 코드를 생성하며, 컴파일 오류를 대폭 줄였습니다.
• OOD (Out-of-Distribution) 성능: TikZ가 아닌 다른 도구 (matplotlib 등) 로 생성된 SPIQA 벤치마크에서도 GPT-5 를 능가하는 강건성을 보여주었습니다.

5. 의의 및 결론 (Significance)

이 연구는 소형 오픈 소스 모델이 고품질 데이터와 도메인 특화 강화 학습을 통해 거대 상용 모델 (GPT-4o, GPT-5) 을 과학적 도면 생성 분야에서 능가할 수 있음을 입증했습니다.

• 재현 가능성 및 접근성: 비용이 많이 드는 상용 모델에 대한 의존을 줄이고, 재현 가능하고 효율적인 텍스트 - 이미지 생성 시스템을 구축할 수 있음을 보여줍니다.
• 과학적 도구로서의 가치: 연구자들이 텍스트 설명만으로 고품질의 과학적 도면을 자동으로 생성할 수 있게 하여 연구 워크플로우를 가속화할 잠재력을 가집니다.
• 향후 과제: 자동 생성된 설명의 편향성 문제 해결, 더 정교한 보상 함수 설계, 그리고 LaTeX 표나 CAD 등 다른 구조화된 생성 작업으로의 확장 가능성을 제시합니다.

결론적으로, TikZilla는 데이터의 양과 질, 그리고 의미론적 피드백을 통한 강화 학습의 시너지를 통해 텍스트 - 그래픽 생성 분야의 새로운 기준을 제시한 중요한 연구입니다.