Mi:dm 2.0 Korea-centric Bilingual Language Models
KT는 포괄적인 데이터 파이프라인과 문화적 정렬을 활용하여 한국 특화 벤치마크에서 최첨단 성능을 달est하는 동시에 연구 및 상업적 활용을 모두 지원하며 MIT 라이선스 하에 제공되는 11.5B 및 2.3B 파라미터 변체로 구성된 이중 언어 거대 언어 모델 제품군인 Mi:dm 2.0을 선보입니다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
당신이 로봇에게 단순히 한국어를 가르치는 것을 넘어, 한국 문화의 **정서(soul)**를 이해하도록 가르치려 한다고 상상해 보세요. 그것이 바로 KT(코리아텔레콤) 팀이 새로운 창조물인 미둠(Mi:dm) 2.0을 통해 해낸 일입니다.
기존의 대부분의 AI 모델을 회화 책을 암기한 관광객이라고 생각해 보세요. 그들은 한국어로 "안녕하세요"나 "감사합니다"라고 말할 수는 있지만, 왜 절을 하는지, 상사와 친구에게 각각 어떤 수준의 예의를 갖춰야 하는지, 혹은 농담 속에 담긴 깊은 역사적 참조를 이해하지 못할 수도 있습니다. 반면, 미둠 2.0은 현지 거주자가 되도록 설계되었습니다. 이 모델은 단순히 언어를 구사하는 것이 아니라, 한국 사회에 속해 있는 것처럼 생각하고, 추론하며, 느낍니다.
다음은 쉬운 비유를 사용한 제작 과정의 상세 내용입니다.
1. 문제점: "관광객" vs "현지인"
저자들은 많은 AI 모델이 한국어를 말할 수는 있지만, 종종 부자연스럽거나 문화적 뉘앙스를 놓친다는 점에 주목했습니다. 이는 마치 현지 시장에서 음식을 주문하려는 관광객이 현지 관습을 몰라 실수로 요리사를 불쾌하게 만드는 것과 같습니다. 기존 모델들은 데이터가 너무 적거나, 품질이 낮거나, 혹은 한국적인 삶의 특유한 "분위기(vibe)"를 제대로 포착하지 못한 데이터로 학습되었습니다.
2. 해결책: "문화적 식단"
이를 해결하기 위해 팀은 단순히 더 많은 데이터를 주입한 것이 아니라, 더 나은 데이터를 주입했습니다. 그들은 학습 데이터를 미식가가 요리를 준비하는 과정처럼 다루었습니다.
- 재료 (데이터): 인터넷에서 무작정 긁어모으지 않았습니다. 그들은 엄격한 "품질 관리" 파이프라인을 구축했습니다. 깨진 문장, 무례한 댓글, 혼란스러운 텍스트를 걸러내고 명확하고 고품질이며 문화적으로 관련성이 높은 이야기, 뉴스, 책만을 남기는 체를 상상해 보세요.
- 합성 보충제 (Synthetic Supplement): 고품질의 한국어 데이터는 희귀하기 때문에(특정한 희귀 향신료를 찾는 것과 같습니다), 그들은 "합성" 데이터를 만들었습니다. 기존 지식을 활용해 건조한 백과사전 항목을 교과서 수업으로 바꾸거나, 뉴스 기사를 대화 형식으로 재구성하는 등 지식을 새로운 형식으로 다시 써서 AI가 다양한 출처로부터 학습할 수 있도록 했습니다.
- 균형 잡힌 메뉴: AI가 "인문학"(역사, 문학)만 너무 많이 먹고 "STEM"(과학, 기술, 공학, 수학)은 충분히 섭
3. 두 가지 모델: "마스터 셰프"와 "포켓 나이프"
그들은 서로 다른 필요에 맞게 두 가지 버전의 AI를 출시했습니다.
- 미둠 2.0 베이스 (11.5 Billion Parameters): 이것을 마스터 셰프라고 생각하세요. 크고 강력하며, 깊은 추론, 긴 이야기 쓰기, 어려운 수학 문제 풀기와 같은 복잡한 작업을 처리합니다. 이 모델은 80억 개의 파라미터를 가진 더 작은 모델을 가져와 기본 구조를 바꾸지 않고도 더 똑똑하게 만들기 위해 더 깊게 "늘리는(stretching)" 방식으로 구축되었습니다.
- 미둠 2.0 미니 (2.3 Billion Parameters): 이것은 포켓 나이프입니다. 작고 가벼우며, 전력이 제한된 기기(스마트폰이나 노트북 등)에서 실행되도록 설계되었습니다. 마스터 셰프의 지식을 가져와 가장 중요한 기술만을 남기고 "가지치기(pruning)"하여, 거대한 주방 없이도 훌륭한 일을 수행할 수 있게 했습니다.
4. 학습 과정: "독서"에서 "대화"로
- 사전 학습 (도서관 읽기): 먼저, AI는 수백만 개의 문서를 읽으며 언어의 기초, 사실, 논리를 학습했습니다.
- 사후 학습 (도제 교육): 독서 후, AI는 전문적인 도제 과정을 거쳤습니다. 그들은 특정 기술을 가르쳤습니다.
- 지시 이행: 단순히 AI가 원하는 것이 무엇이라고 "생각"하는 것이 아니라, 요청받은 대로 정확히 수행하고 "예, 알겠습니다"라고 말하는 법을 배웠습니다.
- 안전성: 무엇을 말하지 말아야 하는지를 배웠습니다. AI가 혐오 표현이나 불법 행위와 같은 유해한 주제를 인식하고, 책임감 있는 성인처럼 정중하게 거절하도록 가르쳤습니다.
- 도구 사용: 실시간 답변을 얻기 위해 계산기나 검색 엔진과 같은 외부 도구를 사용하는 방법을 배웠습니다.
5. 결과: "현지인 테스트" 통과
팀은 특별한 한국어 테스트(한국 문화 IQ 테스트와 같은)를 통해 미둠 2.0을 다른 유명 AI 모델들과 비교 테스트했습니다.
- 판결: 미둠 2.0은 단순히 통과한 것이 아니라, 테스트를 완벽히 해냈습니다. 한국의 역사, 문화, 복잡한 사회적 상황을 이해하는 데 있어 다른 모델들보다 높은 점수를 기록했습니다.
- "건초더미 속의 바늘": 그들은 AI가 방대한 문서 속에서 아주 작은 정보 조각을 찾아낼 수 있는지 테스트했습니다(건초더미에서 바늘 찾기처럼). 미둠 2.0은 이 작업에 탁월했으며, 길고 상세한 대화에서도 길을 잃지 않고 처리할 수 있음을 증명했습니다.
- 안전성: AI가 못되거나 위험한 말을 하도록 유도하는 까다로운 질문을 던졌을 때, 미둠 2.0은 경쟁 모델들보다 더 잘 버텨내며 강력한 "도덕적 나침반"을 보여주었습니다.
요약
미둠 2.0은 특히 **한국 중심적(Korea-centric)**이 되도록 설계된 이개 국어(한국어-영어) AI입니다. 단순히 한국어를 할 줄 아는 일반적인 로봇이 아니라, 한국 사회의 뉘앙스, 유머, 가치를 이해할 수 있도록 고품질의 문화적 풍요로움이 담긴 데이터를 먹고 자랐습니다. 복잡한 작업을 위한 강력한 두뇌(베이스)가 필요하든, 일상적인 작업을 위한 민첩한 조력자(미니)가 필요하든, 이 AI는 기계라기보다 지식 풍부한 현지인 친구처럼 느껴지도록 설계되었습니다.
참고: 논문에 따르면 이 모델들은 연구 및 상업적 이용을 위해 MIT 라이선스로 공개되었으며, 개발자들은 안전을 위해 노력하지만 어떤 AI도 완벽하지 않으며 여전히 실수를 할 수 있음을 인정합니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.