Can We Improve Educational Diagram Generation with In-Context Examples? Not if a Hallucination Spoils the Bunch

기술 요약: 문맥 내 예시를 통한 교육용 다이어그램 생성 개선

문제 정의
생성형 인공지능(AI)은 교육용 자료, 특히 다이어그램을 제작하기 위해 컴퓨팅 교육 분야에서 점점 더 많이 활용되고 있습니다. 그러나 이러한 출력물의 품질은 교육자와 학생들에게 여전히 중요한 우려 사항입니다. 엔티티/관계 추출이나 표준 문맥 내 학습(ICL)과 같은 기존의 다이어그램 코드 생성 방식은 지나친 장황함, 열악한 레이아웃 품질, 그리고 가장 결정적으로 환각(hallucination) 현상으로 인해 어려움을 겪는 경우가 많습니다. 대규모 언어 모델(LLM)에서의 환각은 제공된 입력 문맥이나 사실적 지식과의 불일치로 정의되며, 이는 사실성(세계 지식과 모순되거나 검증 불가능한 사실을 꾸며내는 것)과 충실성(사용자의 지시나 입력 문맥에서 벗어나는 것)으로 분류됩니다. 실증 연구에 따르면, 최고 성능의 모델에서도 환각 발생률이 3%에서 86%에 달할 수 있습니다. 본 연구가 다루는 핵심 과제는 소스 텍스트의 맥락을 엄격히 준수하면서도 사실적 오류나 논리적 불일치를 도입하지 않는, 신뢰할 수 있고 고품질인 교육용 다이어그램을 생성하는 것입니다.

방법론
본 연구는 관련 있는 문맥 내 예시를 선택하기 위해 **수사 구조 이론(Rhetorical Structure Theory, RST)**을 활용하여 다이어그램 코드(구체적으로 Graphviz의 dot 구문)를 생성하는 새로운 ICL 방법을 제안합니다. 이 접근 방식은 텍스트의 응집성을 "기본 담화 단위(Elementary Discourse Units, EDUs)" 간의 계층적 관계로 분석하는 RST가, LLM이 사용자의 기대와 일치하는 응집 관계를 시각화하도록 유도할 수 있다는 전제에 기반합니다.

제안된 파이프라인은 제로샷(0-shot) 베이스라인과 비교되는 두 가지 변형인 RST1과 RST2를 포함합니다:

1. RST 분석 (1단계): LLM이 소스 텍스트를 분석하여 Stede 등의 주석 가이드라인에 따라 EDU와 그 수사적 관계(핵심부(nuclei) 및 부속부(satellites))를 식별합니다. 이 단계는 0-shot 베이스라인에서는 생략됩니다.
2. 유사도 검색 (2단계): 시스템은 생성된 RST 분석 결과와 미리 제작된 4개의 예시 텍스트-분석-다이어그램 삼중항(triplet) 사전와 비교합니다. 모델은 입력값과 RST 구조가 가장 유사한 예시를 선택합니다.
3. 예시 구성 (3단계):
   • RST1: 선택된 예시로부터 소스 텍스트와 그에 대응하는 다이어그램 코드를 사용합니다.
   • RST2: RST 분석 결과와 그에 대응하는 다이어그램 코드를 사용합니다.
4. ICL 생성 (4단계): 선택된 예시를 데몬스트레이션(demonstration)으로 사용하여 초기 다이어그램 코드를 생성합니다.
5. 수정 및 정교화 (5~7단계): 생성된 코드는 렌더링이 가능할 때까지 구문 오류를 수정하는 반복적인 수정 과정을 거칩니다. 이후 정교화 단계(6단계)에서는 특정 루브릭(rubric)을 바탕으로 레이아웃 미학(예: 선 교차 감소, 대칭성 확보)을 개선하도록 모델에 프롬프트를 제공하며, 마지막으로 최종 수정 사이클을 거칩니다.

본 연구는 GPT-4o와 o3 모델을 활용하였으며, 난이도(기초, 중급, 고급)별로 분류된 25개의 소스 텍스트를 대상으로 테스트를 진행했습니다. 총 150개의 다이어그램이 생성되었고 평가되었습니다.

주요 기여

1. RST 기반 ICL 방법: 저자들은 제로샷 생성과 비교하여 문맥 불일치와 환각을 줄이는 것을 목표로, 다이어그램 코드 생성을 위한 문맥 내 데몬스트레이션 선택을 위해 RST 분석에 기반한 새로운 방법을 제안하고 평가합니다.
2. 평가 루브릭: 세 가지 차원에서 다이어그램 품질을 평가하기 위한 5단계 척도의 루브릭을 개발했습니다:
   • 논리적 조직(C1): 흐름, 구조, 언어적 명확성 및 관례 준수.
   • 연결성(C2): 연결의 균일성 및 응집성 (예: 고립된 노드의 부재).
   • 레이아웃 미학(C3): 선 교차, 요소 가려짐, 비대칭성, 정렬 불량 등의 문제 존재 여부.
3. 환각 분석: AI 환각(사실성 및 충실성 모두)과 다이어그램 품질 사이의 관계, 그리고 다단계 생성 파이프라인을 통한 오류 전파에 대한 심층적인 조사를 수행했습니다.

결과

• 모델 성능: o3 모델은 모든 방법과 지표에서 GPT-4o보다 일관되게 우수한 성능을 보였으며, 이는 추론 능력이 더 강력한 모델이 이 방식의 혜택을 더 많이 받는다는 것을 시사합니다.
• 방법론적 효능:
  • o3를 사용한 RST1은 논리적 조직(C1) 측면에서 가장 높은 비율의 고품질 다이어그램(점수 > 3)을 생성했습니다.
  • RST2는 일반적으로 연결성(C2) 측면에서 RST1 및 0-shot보다 낮은 성능을 보였는데, 이는 LLM이 생성한 RST 분석을 입력값으로 처리하는 과정의 복잡성 때문인 것으로 보입니다.
  • RST 기반 방식은 제로샷 생성에 비해 사실적 환각 발생률을 낮추고 입력 문맥에 대한 충실성을 향상시켰습니다.
• 환각 발견 사항:
  • 검증된 소스 텍스트를 사용했음에도 불구하고, AI가 생성한 다이어그램의 최대 20%에서 사실적 환각이 발견되었습니다.
  • 문맥 복잡도: 소스 텍스트의 복잡도가 높을수록(고급 수준) 환각 발생률이 높아지고 다이어그램 품질 점수가 낮아지는 상관관계가 나타났습니다.
  • 오류 전파: RST2 파이프라인에서, 초기 RST 분석(1단계) 또는 유사도 검색(2단계)에서 발생한 환각이 최종 다이어그램 출력으로 빈번하게 전이되었습니다.
  • 자기 수정의 한계: LLM은 자신의 레이아웃 오류를 탐지하고 수정하는 데 어려움을 겪었습니다. 즉, 정교화 단계(6단계)는 환각을 제거하거나 새로운 레이아웃 문제를 도입하는 데 자주 실패했습니다.
• 자동 평가: LLM을 이용한 자동 평가(E1, E2, E3 방법)는 인간의 평가와 중간 정도의 일치도를 보였으며, 지시 기반 성찰(E3) 및 지시/ICL 결합 방식(E2)이 특히 o3 모델과 함께 사용되었을 때 가장 좋은 결과를 냈습니다.

의의 및 주장
본 논문은 RST 기반 ICL 방법이 모델의 출력을 사용자 기대와 일치시키고 문맥 불일치를 줄임으로써, 자동으로 생성된 교육용 다이어그램의 신뢰성을 높이는 유망한 경로를 제공한다고 주장합니다. 그러나 저자들은 LLM의 확률적 특성으로 인해 품질이 가변적이며 다단계 파이프라인이 오류 전파의 위험을 초래한다는 점을 인정하며 신중한 입장을 유지합니다.

본 연구는 제안된 방법이 사실적 환각을 감소시키고 충실성을 개선하지만, 완전한 해결책은 아니라고 결론짓습니다. 저자들은 환각의 지속적인 위험을 고려할 때, 생성형 AI를 교육적 맥락에 적용하기 위해서는 주요 이해관계자(교사와 학생)를 보호하기 위한 필수적인 안전장치가 필요함을 강조합니다. 또한, LLM의 확률성을 완전히 설명하기 위해서는 추가적인 실증적 조사가 필요하며, 현재 사용된 제한된 예시 세트는 존재하는 모든 응집 관계를 포괄하지 못한다는 점을 명시하고 있습니다.