Transparent AI for Mathematics: Transformer-Based Large Language Models for Mathematical Entity Relationship Extraction with XAI

이 논문은 BERT 기반의 트랜스포머 모델과 SHAP 기반의 설명 가능한 인공지능 (XAI) 기법을 결합하여 수학 텍스트에서 개체와 관계를 추출하는 MERE 태스크의 정확도 (99.39%) 와 투명성을 동시에 확보한 프레임워크를 제시합니다.

핵심

이 논문은 **"수학 문제를 읽는 AI 가 어떻게 작동하는지, 그리고 그 결정 과정을 우리가 어떻게 이해할 수 있는지"**에 대한 연구입니다.

복잡한 수학적 텍스트를 자동으로 이해하고, 그 속의 숫자와 연산자 (덧셈, 뺄셈 등) 사이의 관계를 찾아내는 기술을 개발했는데요. 마치 **수학 문제를 푸는 'AI 튜터'**를 만들었다고 생각하시면 됩니다.

이 연구의 핵심 내용을 일상적인 비유로 설명해 드릴게요.

---

1. 연구의 목표: "수학 문제를 '관계'로 읽는 AI"

일반적으로 AI 는 문장을 읽을 때 단어 하나하나를 기억합니다. 하지만 이 연구는 수학을 **"사람과 사람 사이의 관계"**로 보았습니다.

• 비유: 수학 문제를 "A 와 B 의 관계"로 해석하는 것입니다.
  • 예: "사과 10 개를 아이 5 명에게 나누어 주었다."
  • AI 는 '10'과 '5'를 **사람 (엔티티)**으로 보고, '나누어 주었다'는 행위를 **관계 (연산)**로 봅니다.
  • 즉, "10 과 5 는 '나누기' 관계다!"라고 AI 가 판단하는 것입니다.

2. 사용된 기술: "수학의 두뇌" (BERT)

연구진은 BERT라는 최신 AI 모델을 사용했습니다. BERT 는 마치 수학 문제를 수백만 권의 책으로 공부한 천재 학생과 같습니다.

• 작동 원리: 이 학생은 문장을 왼쪽에서 오른쪽, 오른쪽에서 왼쪽으로 동시에 읽으며 문맥을 완벽하게 파악합니다.
• 결과: 이 학생 (BERT) 은 99.39% 라는 놀라운 정확도로 수학 문제의 관계를 찾아냈습니다. 다른 모델들 (Electra, RoBERTa 등) 보다 훨씬 잘했습니다.

3. 가장 중요한 부분: "블랙박스 열기" (XAI & SHAP)

일반적인 AI 는 **"정답은 맞췄는데, 왜 그 정답을 냈는지 알려주지 않는 블랙박스"**입니다. 하지만 이 연구는 SHAP이라는 도구를 써서 AI 의 두뇌를 투명하게 만들었습니다.

• 비유: "수학 문제 풀이 과정 공개"
  • 보통 AI 가 "정답: 나누기"라고만 말하면, 우리는 "왜? 왜 나누기라고 생각했지?"라고 의아해합니다.
  • 이 연구는 AI 가 **"'나누어'라는 단어를 보고 '나누기'라고 판단했고, '아이'라는 단어는 영향을 덜 미쳤다"**라고 구체적인 이유를 보여줍니다.
  • SHAP 그래프: 마치 AI 가 문제를 풀 때 **어떤 단어를 강조 (빨간색)**하고, **어떤 단어를 무시 (파란색)**했는지 색칠한 지도를 보여주는 것과 같습니다.

4. 실험 결과: AI 가 무엇을 배웠을까?

AI 가 수학을 어떻게 이해하는지 분석한 결과는 매우 흥미롭습니다.

• 명확한 신호: '제곱근 (Square Root)'이나 '나누기 (Division)' 같은 연산은 '루트 (root)', '나누어 (divided)', '각각 (each)' 같은 특정 단어가 나오면 AI 가 매우 확신을 가지고 판단했습니다.
• 모호한 신호: '덧셈 (Addition)'이나 '뺄셈 (Subtraction)'은 특정 단어 하나보다는 '전체 (total)', '모두 (all)', '같다 (equals)' 같은 문맥을 종합해서 판단했습니다.
• 결론: AI 가 단순히 숫자를 외운 게 아니라, 문장의 의미와 맥락을 진짜로 이해하고 있다는 증거입니다.

5. 왜 이 연구가 중요한가요?

이 기술은 단순히 문제를 푸는 것을 넘어, 다음과 같은 미래를 열 수 있습니다.

1. 지능형 교육: 학생이 틀린 문제를 풀 때, AI 가 "너는 '나누기'를 '곱하기'로 착각했어. '나누어'라는 단어를 다시 봐!"라고 이유를 설명하며 가르쳐 줄 수 있습니다.
2. 자동 증명: 복잡한 수학 논리를 AI 가 자동으로 검증해 줄 수 있습니다.
3. 신뢰성: AI 가 왜 그 답을 냈는지 설명해주기 때문에, 선생님이나 연구자들이 AI 를 더 신뢰하고 사용할 수 있습니다.

요약

이 논문은 **"수학 문제를 읽는 AI 를 만들었고 (BERT), 그 AI 가 왜 그런 답을 냈는지 설명할 수 있게 만들었다 (SHAP)"**는 내용입니다.

마치 수학을 가르치는 AI 튜터가 단순히 정답만 알려주는 게 아니라, **"이 단어를 보고 이렇게 생각했어"**라고 친절하게 설명해 주는 것과 같습니다. 이는 AI 가 우리와 더 잘 소통하고, 교육과 연구 분야에서 더 신뢰받게 되는 중요한 첫걸음입니다.

기술 요약

논문 요약: 수학적 개체 관계 추출을 위한 투명하고 설명 가능한 AI

1. 연구 배경 및 문제 정의 (Problem)

• 배경: 수학 텍스트는 전문적인 개체 (Operands, 숫자 등) 와 복잡한 관계 (Operators, 연산자 등) 가 포함되어 있어 자연어 처리 (NLP) 작업에서 이해하기 어렵습니다. 기존의 수학 문제 해결 시스템은 종종 수학적 논리 구조를 명확히 파악하지 못하거나, 모델의 의사결정 과정이 '블랙박스'로 남아 있어 신뢰성이 부족합니다.
• 문제 정의: 본 연구는 수학적 텍스트 이해를 수학적 개체 관계 추출 (Mathematical Entity Relation Extraction, MERE) 작업으로 정의합니다. 여기서 피연산자 (Operands) 를 '개체 (Entity)'로, 연산자 (Operators) 를 '관계 (Relation)'로 간주하여, 텍스트에서 이들을 자동으로 식별하고 관계를 분류하는 것을 목표로 합니다.
• 핵심 과제: 높은 정확도의 추출 모델 구축과 동시에, 모델이 왜 특정 관계를 예측했는지에 대한 **투명성과 설명 가능성 (Explainability)**을 확보하는 것입니다.

2. 제안된 방법론 (Methodology)

2.1 데이터 수집 및 전처리

• 데이터셋 구성: 'Bangla MER'와 'Somikoron' 두 개의 기존 데이터셋을 결합하여 새로운 MERE 데이터셋을 구축했습니다. 총 3,284 개의 고유한 수학 문장으로 구성되며, 6 가지 주요 관계 (덧셈, 뺄셈, 곱셈, 나눗셈, 제곱근, 팩토리얼) 를 포함합니다.
• 전처리 과정:
  • 불필요한 특수 문자 제거.
  • 예측에 기여하지 않는 불용어 (Stop words) 제거.
  • Lemmatization(어간 추출) 및 **Stemming(어근 추출)**을 수행하여 토큰 크기를 줄이고 모델 복잡도를 낮췄습니다.
  • 수식과 관련 텍스트를 분석하여 개체와 관계를 수동으로 라벨링했습니다.

2.2 모델 아키텍처 (Transformer-Based)

• 기본 모델: **BERT (Bidirectional Encoder Representations from Transformers)**를 기반으로 한 모델을 제안했습니다.
• 학습 방식:
  • 사전 학습된 bert-base-uncased 모델을 파인튜닝 (Fine-tuning) 했습니다.
  • 입력 텍스트는 토큰화 (Tokenization) 후 위치 인코딩과 세그먼트 임베딩을 거쳐 BERT 의 24 개 트랜스포머 레이어를 통과합니다.
  • 최종fully connected layer 와 Softmax 를 통해 관계 클래스를 예측합니다.
• 하이퍼파라미터: 학습률 (2e-04), 최대 시퀀스 길이 (50), 배치 크기 (12), 에포크 (40) 등을 최적화하여 사용했습니다.

2.3 설명 가능한 AI (XAI) 통합

• SHAP (SHapley Additive exPlanations) 적용: 모델의 예측을 해석하기 위해 협력 게임 이론에 기반한 SHAP 알고리즘을 도입했습니다.
• 기능:
  • 각 입력 토큰 (단어) 이 최종 예측에 기여한 정도 (SHAP 값) 를 계산합니다.
  • 긍정적 기여 (빨간색) 와 부정적 기여 (파란색) 를 시각화하여, 어떤 단어가 특정 수학 관계 (예: '나눗셈' 예측 시 'divided', 'equally' 등) 를 결정하는 핵심 요소인지 분석합니다.

3. 주요 결과 (Results)

• 성능 비교: BERT, ELECTRA, RoBERTa, ALBERT, DistilBERT, XLNet 등 다양한 트랜스포머 모델을 비교 평가했습니다.
  • BERT가 정확도 99.39%, 마이크로 F1 스코어 99.36%, 매크로 F1 스코어 99.27% 로 가장 우수한 성능을 기록했습니다.
  • 다른 모델들 (95~97% 대) 보다 유의미하게 높은 성능을 보였습니다.
• 오류 분석: 혼동 행렬 (Confusion Matrix) 분석 결과, 전체 657 개의 테스트 샘플 중 13 건만 오분류되었습니다. 특히 '덧셈'과 '나눗셈' 간의 혼동이 일부 있었으나, 전반적으로 매우 높은 정확도를 유지했습니다.
• SHAP 분석 결과:
  • 모델은 단순한 숫자 값보다는 연산자를 나타내는 키워드 (예: 'root', 'square', 'divided', 'factorial' 등) 에 더 큰 가중치를 두어 예측함을 확인했습니다.
  • '제곱근'과 '나눗셈'의 경우 특정 키워드 (root, divided 등) 에 의해 예측이 명확하게 분리되는 반면, '덧셈'이나 '뺄셈'은 문맥적 단서 (total, equals 등) 를 종합적으로 활용하는 것으로 나타났습니다.
  • 이는 모델이 수학 문제의 표면적 숫자 암기가 아닌, **의미론적 패턴 (Semantic patterns)**을 학습했음을 시사합니다.

4. 주요 기여 (Key Contributions)

1. MERE 태스크 정의: 수학 문제를 개체 - 관계 추출 문제로 재정의하고, 이를 해결하기 위한 전용 데이터셋을 구축했습니다.
2. 고성능 모델 제안: BERT 기반의 파인튜닝된 모델을 통해 수학 텍스트 내 개체 관계 추출에서 99% 이상의 높은 정확도를 달성했습니다.
3. 투명성 확보 (XAI): SHAP 를 활용하여 블랙박스 모델의 의사결정 과정을 시각화하고 설명함으로써, 교육 및 연구 분야에서 모델에 대한 신뢰성을 높였습니다.
4. 종합적 프레임워크: 데이터 수집, 전처리, 모델 학습, 평가, 그리고 설명 가능성 분석을 아우르는 통합적인 MERE 프레임워크를 제시했습니다.

5. 의의 및 향후 전망 (Significance & Future Work)

• 의의: 이 연구는 수학 텍스트 처리 분야에서 딥러닝의 정확성과 XAI 의 투명성을 결합한 선구적인 사례입니다. 자동화된 수학 문제 해결, 지식 그래프 구축, 지능형 교육 시스템 (예: 수학 문제 자동 채점 및 해설 생성) 등에 직접적으로 적용 가능합니다.
• 한계 및 향후 과제:
  • 현재 데이터셋은 6 가지 기본 연산에 국한되어 있으며, 문장 길이가 짧고 단순합니다. 향후 대수학, 기하학, 미적분 등 더 복잡한 수학 문제로 확장할 예정입니다.
  • BERT 와 SHAP 를 동시에 사용함으로써 발생하는 높은 계산 비용 (Computationally heavy) 을 최적화할 필요가 있습니다.

결론적으로, 본 논문은 Transformer 기반 모델이 수학 텍스트의 복잡한 관계를 높은 정확도로 추출할 수 있음을 입증했을 뿐만 아니라, SHAP 를 통해 그 과정을 투명하게 설명함으로써 AI 기반 수학 교육 및 연구 도구의 실용성을 크게 향상시켰습니다.