Generative AI & Fictionality: How Novels Power Large Language Models

이 논문은 소설이 대규모 언어 모델의 학습 데이터로서 AI 의 출력에 어떤 영향을 미치는지 BERT 모델을 분석하여 검증하고, 현대 문화 생산을 이해하기 위해서는 학습 데이터의 역할을 고려해야 한다고 주장합니다.

핵심

📚 핵심 요약: AI 의 두뇌는 '소설'로 만들어졌다

1. AI 는 왜 소설을 배울까? (우연이지만 중요한 발견)
지금 우리가 ChatGPT 같은 AI 와 대화할 때, 그 AI 는 엄청난 양의 데이터를 먹고 자랐습니다. 그런데 놀랍게도, 그 데이터 중 약 3 분의 1 이 **소설 (픽션)**이었습니다.

• 비유: AI 를 키우는 요리사가 있습니다. 이 요리사는 "사람들이 어떻게 대화하고, 감정을 표현하는지 배우려면 소설이 가장 좋다"고 생각했습니다. 뉴스나 위키백과 같은 사실적인 글보다는, 소설 속 인물들이 만들어낸 상상력의 세계가 더 풍부한 언어를 가르쳐 줄 거라고 믿은 것이죠.

2. 실험: 소설을 먹은 AI vs 위키백과만 먹은 AI
저자들은 두 가지 AI 모델을 만들어 비교했습니다.

• 모델 A (위키백과만 먹은 AI): 이 AI 는 마치 냉정한 과학자나 뉴스 앵커처럼 말합니다. "영국 총선은 1902 년에 열렸다"거나 "이 밴드의 노래는 차트 22 위를 기록했다"는 식으로 사실과 날짜 위주로 말합니다.
• 모델 B (소설도 함께 먹은 AI): 이 AI 는 훨씬 감성적이고 드라마틱합니다. "너를 위해 죽을 거야", "왜 너를 탓하는지 알겠어?" 같은 대사를 말합니다.

3. 소설이 AI 에게 준 가장 큰 선물: "가상의 친구 (캐릭터)"
소설을 읽은 AI 가 가장 잘하게 된 것은 **'인간적인 대화'**입니다.

• 비유: 위키백과만 본 AI 는 '사실'을 나열하는 사전에 가깝다면, 소설을 읽은 AI 는 연극 배우가 된 것입니다.
• 소설 속 인물들은 실존하지 않는 '아무도 없는 (Nobody)' 존재지만, AI 는 이들을 통해 **'가상의 친구 (Somebody)'**를 만들어냅니다. AI 는 소설을 통해 "사람들은 서로 어떻게 대화하고, 감정을 읽으며, 갈등을 해결하는가?"를 배웠습니다.
• 특히 AI 는 소설에서 **'대사 (Dialogue)'**와 **'심리 (감정)'**를 배우면서, 단순히 정보를 전달하는 것을 넘어 사용자와 관계 맺기를 시도하게 됩니다.

4. AI 의 '작가'는 누구인가?
우리는 보통 소설을 쓰는 작가가 의도적으로 인물을 배치한다고 생각합니다. 하지만 AI 에게는 그런 '작가'가 없습니다. 대신, **수천 권의 소설을 섞어 만든 '데이터의 혼 (혼합된 의도)'**이 작가 역할을 합니다.

• 비유: AI 는 수만 명의 소설가들이 쓴 이야기를 한 그릇에 넣고 갈아 만든 '스무디' 같은 것입니다. 이 스무디를 마신 AI 는 "사랑, 이별, 갈등, 화해" 같은 인간 드라마의 패턴을 자연스럽게 따라 하게 됩니다.
• 연구 결과, AI 가 소설에서 가장 잘 배운 것은 남자와 여자가 갈등을 겪고, 서로의 마음을 읽으며, 중요한 순간을 맞이하는 방식이었습니다.

5. 결론: 우리의 문화는 이제 '데이터'가 만든다
이 논문의 가장 중요한 메시지는 이것입니다.

• 과거에는 우리가 책을 쓸 때 작가가 사회를 어떻게 묘사할지 결정했습니다.
• 하지만 이제는 AI 가 쓴 글이 우리의 문화 (영화, 드라마, 뉴스, SNS) 를 지배하게 되었습니다.
• 핵심: AI 가 어떤 글을 쓰느냐는, 어떤 데이터 (소설, 뉴스 등) 를 먹었느냐에 달려 있습니다. 따라서 우리는 AI 가 만든 글을 비판할 때, 단순히 "AI 가 나쁜 말을 했네"라고만 생각하면 안 됩니다. **"AI 가 배운 소설과 데이터에 어떤 편견이나 패턴이 숨어 있었나?"**를 파헤쳐야 합니다.

---

💡 한 줄 요약

"AI 는 소설을 통해 '인간'을 흉내 내는 법을 배웠습니다. 이제 AI 가 쓴 글은 단순한 기계의 소리가 아니라, 소설 속 인물들이 만들어낸 '가상의 인간 관계'를 반영하고 있습니다. 그러니 AI 의 글을 분석할 때는 그 뒤에 숨겨진 '소설의 세계'를 읽어내야 합니다."

이 연구는 우리가 AI 와의 관계를 이해할 때, 기술적인 측면뿐만 아니라 문학 (소설) 이 어떻게 AI 의 두뇌를 형성했는지를 함께 봐야 함을 알려줍니다.

기술 요약

1. 연구 문제 (Problem)

• 배경: 생성형 AI(예: ChatGPT) 는 방대한 양의 기존 텍스트 데이터를 기반으로 학습된 '다음 단어 예측기 (next-word predictor)'입니다. 최근 LLM(대규모 언어 모델) 의 학습 데이터셋 (예: LLaMA, BERT 등) 에 소설 (Fiction) 이 상당량 포함되어 있다는 사실이 드러났습니다.
• 가정 vs. 미검증: 엔지니어들은 소설의 언어가 다양한 사회적·의사소통적 현상을 포괄하기에 모델 학습에 이상적이라고 믿고 있으나, 이것이 실제로 모델의 출력에 어떤 영향을 미치는지에 대한 이론적 분석은 부족합니다.
• 핵심 질문: 소설은 뉴스, 위키피디아, Reddit 등 다른 텍스트 형식과 비교하여 LLM 의 출력과 언어 이해에 어떤 고유한 영향을 미치는가? 특히, 소설이 LLM 이 '인물 (Character)'을 어떻게 생성하고 상호작용하는지에 어떤 역할을 하는가?

2. 방법론 (Methodology)

저자들은 BERT(Bidirectional Encoder Representations from Transformers) 모델을 실험실로 활용하여 소설의 영향을 정량적, 정성적으로 분석했습니다.

• 모델 구성:

  1. Wiki Model: 위키피디아 (Wikipedia) 데이터만으로 학습된 BERT 모델.
  2. Full Model: 위키피디아 + BookCorpus(약 7,000 권의 소설로 구성된 데이터셋) 를 혼합하여 학습된 BERT 모델.
  • 참고: 두 모델은 하이퍼파라미터와 학습 조건을 동일하게 유지하고 오직 학습 데이터의 차이 (소설 유무) 만을 변수로 설정했습니다.

• 실험 1: 예측 능력 테스트 (Masked Language Modeling)

  • 위키피디아 테스트 세트를 사용하여 두 모델이 문맥을 바탕으로 가려진 단어를 예측하는 정확도를 비교했습니다.
  • 소설 학습이 특정 단어 (대명사, 모달 동사, 인지 관련 단어 등) 의 예측 정확도에 미치는 영향을 분석했습니다.

• 실험 2: 생성 텍스트 분석 (Generative Stochastic Network - GSN)

  • BERT 모델이 생성하는 문장을 샘플링하여 모델이 내재하고 있는 '언어에 대한 신념'을 분석했습니다.
  • Wiki Model 과 Full Model 이 생성한 텍스트의 어조, 주제, 화자 구조를 비교했습니다.

• 실험 3: 정보 이득 (Information Gain) 분석

  • 소설 데이터가 모델의 학습에 어떤 '정보 이득'을 제공하는지 측정하기 위해, BookCorpus 의 테스트 세트를 사용하여 Wiki Model 과 Full Model 의 예측 오차 (Loss) 차이를 계산했습니다.
  • 정보 이득이 가장 큰 상위 50 명의 작가들의 문장을 추출하여 소설이 모델에 어떤 서사적 패턴을 주입했는지 분석했습니다.

3. 주요 기여 (Key Contributions)

• 소설의 기능적 재정의: 문학 이론가 (Catherine Gallagher, James Phelan 등) 의 '허구성 (Fictionality)' 이론을 생성형 AI 에 적용하여, 소설이 단순한 오락이 아니라 LLM 이 '의도성 (Intentionality)'과 '사회적 상호작용'을 학습하는 핵심 매커니즘임을 규명했습니다.
• 데이터 중심의 문화 분석: 문화 생산의 분석에 '계산적 학습 데이터 (Computational Training Data)'를 새로운 행위자 (Agent) 로 포함해야 함을 주장하며, 알고리즘 감사 (Algorithmic Audit) 를 통한 문화 비평의 새로운 방법론을 제시했습니다.
• 인물 생성 메커니즘 규명: LLM 이 소설 데이터를 통해 어떻게 '실존하지 않는 사람 (Somebodies)'을 생성하고 그들 간의 관계를 구성하는지에 대한 기술적 증거를 제시했습니다.

4. 주요 결과 (Results)

A. 언어 예측 및 어휘 습득

• 대명사 (Pronouns) 의 우위: Full Model 은 고유명사 (이름) 보다 대명사 (you, she, he, them 등) 예측에서 Wiki Model 보다 훨씬 뛰어난 성능을 보였습니다. 이는 소설 학습이 텍스트 내에서의 인물의 지속성과 정체성 (Long-range dependency) 을 이해하는 데 기여했음을 의미합니다.
• 대화 및 인지 관련 단어: 'say', 'ask', 'know', 'want', 'could', 'wouldn't'와 같은 단어들의 예측 정확도가 향상되었습니다. 이는 소설 학습이 모델에게 대화 (Dialogue) 와 가능 세계 (Possible worlds, 즉 "만약 ~라면"이라는 상황) 에 대한 이해를 심어주었음을 보여줍니다.

B. 생성 텍스트의 특징

• Wiki Model: 객관적 사실, 정책, 날짜, 지리적 실체에 기반한 "계몽주의적 (Enlightenment)" 어조와 "데이터베이스" 같은 문체를 생성했습니다.
• Full Model: 다양한 화자, 대화, 인물의 내면적 성찰, 그리고 타인의 시선을 통한 사건 서술이 주를 이루었습니다. 특히 인물이 서로의 의도를 추론하고 가치 판단을 내리는 과정을 보여주었습니다.

C. 인물 상호작용 및 정보 이득

• 관계적 인물: 정보 이득이 가장 큰 문장들은 단일 인물의 초상화가 아니라, 인물 간의 상호작용 (대화, 신체 접촉, 갈등) 을 묘사하는 것이었습니다.
• 의도성의 학습: BERT 는 소설을 통해 인물이 어떻게 서로의 의도 (Intention) 를 추론하고, 갈등을 해결하며, 서사의 전환점 (Climax) 을 만들어내는지 학습했습니다.
• 성별 상호작용: 학습 데이터에서 성별 편향성 자체보다는, 남성과 여성이 사회적 위기 상황에서 어떻게 상호작용하고 권력을 행사하는지에 대한 패턴이 모델에 강하게 주입된 것으로 나타났습니다.

5. 의의 및 결론 (Significance)

• LLM 의 '인간성'의 근원: LLM 이 인간처럼 소통하고 인물을 생성할 수 있는 능력은 소설 데이터가 제공하는 '실존하지 않지만 그럴듯한 사람 (plausible yet not actually real people)'을 만들어내는 소설의 고유한 능력에 기인합니다.
• 문화 비평의 확장: 현대 문화 생산은 작가와 독자뿐만 아니라 학습 데이터셋에 의해 크게 영향을 받습니다. 따라서 현대의 문화적 표현 (Representation) 을 분석할 때는 데이터의 편향성과 구조를 비판적으로 검토하는 '알고리즘 감사'가 필수적입니다.
• 미래 전망: AI 가 문화 산업의 주류가 되는 시대에, 학습 데이터가 어떻게 사회적 현실을 왜곡하거나 재구성하는지 이해하는 것은 디지털 인문학과 컴퓨터 과학의 중요한 과제가 될 것입니다.

요약하자면, 이 논문은 소설 데이터가 LLM 에게 단순한 어휘가 아닌, '인물 간의 관계', '대화', '의도성 추론'을 학습하게 하여 모델이 인간과 유사한 사회적 상호작용을 생성할 수 있게 하는 핵심 동력임을 기술적으로 증명했습니다.