이 논문은 AI 가 현대 소설에 대한 의존도가 높음에도 불구하고, 서사적 인과관계의 역설, 정보적 재평가의 어려움, 그리고 다중 규모 정서 구조의 부재라는 세 가지 근본적 장벽 때문에 소설 생성에 실패하는 'AI 소설 역설'을 규명하고, 이러한 기술이 완성될 경우 인간 조작의 강력한 수단이 될 수 있다는 위험성을 경고합니다.
AI 회사들은 저작권 문제가 터질 정도로 위험을 무릅쓰고 최신 소설들을 대량으로 가져가 학습시켰습니다. 왜일까요?
비유: AI 는 마치 요리사와 같습니다. 위키백과나 뉴스 같은 '사실 정보'는 재료의 기본 맛 (소금, 설탕) 을 알려주지만, 소설은 **요리사의 '감각'과 '창의성'**을 가르쳐 줍니다.
핵심: AI 는 단순히 사실을 외우는 게 아니라, 인간이 어떻게 생각하고, 감정을 느끼고, 관계를 맺는지를 배우기 위해 소설이 필요합니다. 그래서 소설이 없으면 AI 는 '똑똑한 기계'일 뿐, '인간을 이해하는 존재'가 될 수 없습니다.
2. 하지만 AI 는 왜 소설을 못 쓸까? (3 가지 장애물)
소설을 쓰는 것은 단순히 문장을 이어 붙이는 게 아니라, 훨씬 더 복잡한 일이기 때문입니다.
① 시간의 역설: "예상치 못한데, 결국 당연한" 이야기
문제: AI 는 앞으로만 보며 다음 단어를 예측합니다. (다음에 뭐가 올지 확률로 계산)
소설의 특징: 좋은 소설은 "지금 당장은 놀랍지만, 뒤돌아보면 '아, 원래 그랬구나'라고 느껴지는" 구조를 가집니다.
비유:
AI: 길을 가다가 "다음에 뭐가 나올까?"라고만 생각합니다.
소설 작가: "이 길의 끝에서 이 사건이 일어나야 한다"는 최종 목적지를 먼저 정하고, 그걸 위해 중간에 돌을 치우고, 길을 꺾습니다.
AI 는 뒤에서 앞으로 (Retrospectively) 이야기를 설계하는 능력을 아직 못 합니다. 그래서 이야기가 너무 평범하거나, 갑자기 엉뚱한 방향으로 흘러가 버립니다.
② 정보의 재평가: "사소한 것이 곧 핵심이 된다"
문제: AI 는 보통 자주 나오는 말이나 중요해 보이는 말에 집중합니다.
소설의 특징: 소설에서는 아무런 역할 없어 보이는 사소한 디테일이 나중에 치명적인 열쇠가 되기도 합니다. (예: 미스터리 소설에서 처음에 등장하는 시계, 혹은 평범한 대화)
비유:
AI: "이 단어는 자주 쓰이니까 중요할 거야"라고 생각합니다. (통계적 중요도)
소설 독자: "아, 이 책상 위의 **바로미터 (기압계)**가 왜 나왔지? 나중에 폭풍우가 오거나, 누군가의 심리 상태를 보여주는 열쇠였구나!"라고 뒤늦게 의미를 부여합니다.
AI 는 글을 읽는 도중에는 중요하지 않던 단어가 나중에 중요해졌을 때, **과거의 그 단어를 다시 평가 (Revalue)**할 수 있는 능력이 부족합니다.
③ 감정의 오케스트라: "한 번에 여러 층위의 감정"
문제: AI 는 문장 하나하나의 감정은 잘 파악합니다. 하지만 책 전체의 감정 흐름을 조율하는 건 어렵습니다.
소설의 특징: 소설은 단어의 감정, 문장의 리듬, 장면의 분위기, 그리고 **전체 이야기의 감정 곡선 (고조와 절정)**이 동시에 맞아야 합니다.
비유:
AI: 악기 하나 (예: 피아노) 는 잘 치지만, 오케스트라 전체를 지휘하지는 못합니다.
소설: 처음의 잔잔한 음악이 점점 고조되어 절정에 이르고, 다시 차분해져야 합니다. AI 가 쓴 소설은 기술적으로는 완벽해도 **"감정이 평평하다 (Flat)"**는 평을 받습니다. 마치 감정이 없는 로봇이 감정을 연기하는 것처럼 느껴지는 거죠.
3. 결론: 우리가 AI 소설을 사랑하게 될 날은 언제?
이 논문은 두 가지 중요한 점을 경고합니다.
기술적 한계: AI 가 소설을 잘 쓰려면, 단순히 더 많은 책을 읽는 게 아니라 시간을 거슬러 올라가거나, 사소한 것을 다시 평가하거나, 복잡한 감정을 조율하는 새로운 방식의 사고가 필요합니다.
위험한 가능성: 만약 AI 가 이 모든 것을 마스터한다면?
좋아: 우리는 더 깊은 이해와 공감을 얻을 수 있습니다.
나빠: AI 는 인간의 감정을 가장 잘 자극하는 기술을 완벽하게 장악하게 됩니다. 이는 우리가 원치 않는 방향으로 인간의 생각과 행동을 조작할 수 있는 강력한 도구가 될 수 있습니다.
한 줄 요약:
"AI 는 소설을 배우고 싶어 하지만, 아직은 인간의 감정을 조율하고, 사소한 것을 의미 있게 바꾸는 마법을 모릅니다. 하지만 그 마법을 배우게 된다면, 우리는 AI 가 쓴 이야기에 푹 빠질 수도 있고, 동시에 AI 에게 조종당할 수도 있는 위험한 시대가 올 것입니다."
이 논문은 기술의 발전 속도보다, 우리가 그 기술을 어떻게 통제하고 인간성을 지킬 것인가에 대한 고민이 더 시급하다고 말하고 있습니다.
논문 제목: AI-픽션 역설 (The AI-Fiction Paradox)
저자: Katherine Elkins (Kenyon College) 주제: 대규모 언어 모델 (LLM) 이 현대 소설 (현대 픽션) 에 의존하면서도 왜 이를 생성하는 데 실패하는지에 대한 이론적, 구조적 분석.
1. 문제 제기 (Problem Statement)
AI-픽션 역설: AI 모델 개발은 방대한 현대 소설 데이터에 의존하고 있으며 (Meta 의 경우 저작권 위반 소지가 있는 수천 권의 도서를 포함하여 법적 리스크를 감수할 정도로), 이 데이터가 없으면 모델 성능이 떨어집니다. 그러나 정작 이 데이터로 훈련된 모델들은 소설을 생성하는 데 극심한 어려움을 겪습니다.
기존 가설의 모순: 기계 학습에서 훈련 데이터의 양과 질이 출력 품질을 결정한다는 일반적인 가설과 달리, 소설 데이터는 방대함에도 불구하고 AI 가 이를 복제하거나 생성하는 데 실패합니다.
핵심 질문: 왜 현대 소설은 AI 개발에 필수적인가? 그리고 왜 AI 는 소설을 생성하지 못하는가? 이는 소설의 어떤 고유한 특성이 현재 AI 아키텍처와 충돌하는가?
2. 방법론 (Methodology)
이론적 분석: 소설의 서사적, 정보적, 정서적 특성을 계산적 관점에서 재정의하고, 현재 트랜스포머 (Transformer) 아키텍처의 한계와 대조합니다.
실험적 데이터 및 벤치마크 분석:
저자의 과거 연구 (GPT-2/3 파인튜닝 실험, DivaBot 프로젝트 등) 와 최신 연구 (Rettberg & Wigers, Brigham, Karpinska 등) 의 결과를 종합합니다.
NoCha 벤치마크: 문장 수준의 분석은 잘 수행하지만 책 전체에 걸친 글로벌 추론 (Global Reasoning) 에서 성능이 급격히 떨어짐 (59.8% → 41.6%) 을 지적합니다.
NovelQA 벤치마크: 비연속적인 서사 요소들의 통합적 증거 추론에서 AI 의 실패를 확인합니다.
감정 아크 (Sentiment Arc) 분석: 텍스트의 감정적 흐름을 시계열 데이터로 매핑하여 서사 구조를 분석하는 저자의 독자적 방법론을 적용합니다.
정의: 소설의 플롯은 "순간적으로는 놀랍지만, retrospectively(사후적으로) 보면 필연적"이어야 합니다.
AI 의 한계: 트랜스포머 아키텍처는 '앞으로 생성 (Forward Generation)' 로직에 기반하여 다음 토큰의 확률적 가능성을 최적화합니다. 이는 국소적 일관성 (Local Coherence) 에는 강하지만, 서사 전체를 관통하는 '예측 불가능한 필연성'을 설계하는 데 실패합니다.
결과: AI 는 플롯의 전개를 예측할 수는 있어도, 등장인물의 심리적 변화가 독자에게 '필연적'으로 느껴지도록 장기적인 서사 아크를 유지하지 못합니다.
정의: 소설에서는 초기에 중요해 보이지 않는 사소한 디테일 (예: 플랑베르의 '기압계') 이 나중에 서사의 핵심이 되거나, 반대로 중요한 정보가 숨겨져 있는 경우가 많습니다. 독자는 서사를 읽는 과정에서 정보의 중요도를 후회적으로 재평가 (Retrospectively Reweighting) 합니다.
AI 의 한계: 트랜스포머의 어텐션 메커니즘은 생성 과정에서 가중치가 고정되어 있으며, 이후의 새로운 정보 (반전 등) 를 바탕으로 과거 토큰의 중요도를 동적으로 재조정할 수 없습니다.
결과: AI 는 소설 특유의 '정보적 시간 여행' (Informational Time Travel) 을 수행하지 못해, 서사적 긴장감과 반전을 효과적으로 구현하지 못합니다.
다. 다중 스케일 정서 아키텍처 (Multi-scale Emotional Architecture)
정의: 매력적인 소설은 단어, 문장, 장면, 전체 아크 등 여러 스케일에서 동시에 정서를 조율 (Orchestration) 해야 합니다.
AI 의 한계: 현재 AI 는 국소적 의미 일관성은 유지하지만, 장편 서사 전체에 걸쳐 정서적 고조와 감소를 설계하는 능력이 부족합니다.
결과: AI 생성 소설은 기술적으로 완벽할지라도 '정서적 평탄함 (Emotional Flatness)'을 보이며, 독자를 몰입시키거나 긴장감을 조성하지 못합니다. (Stephen Marche 의 소설 리뷰 등에서 확인됨).
4. 결과 및 시사점 (Results & Implications)
소설 데이터의 필요성: AI 가 소설 데이터를 필요로 하는 이유는 단순히 언어 패턴 때문이 아니라, 소설이 인간 행동 모델링에 필수적인 패턴을 집중하고 있기 때문입니다.
내면 심리에서 외부 행동, 사회적 결과로 이어지는 완전한 인과 사슬.
오해와 수정 (Error Correction), 신념의 변화 과정.
복잡한 사회적 네트워크와 숨겨진 정보 (Subtext) 처리.
기술적 한계의 본질: 단순히 컨텍스트 윈도우 (Context Window) 를 늘리는 것만으로는 소설 생성의 문제를 해결할 수 없습니다. 생성 - 평가 (Generate-and-Evaluate) 사이클이나 인간 개입 (Human-in-the-loop) 이 필요한 구조적 변화가 필요합니다.
위험성 (The Stakes):
만약 AI 가 소설의 정서적 아크와 서사적 조작 기술을 완전히 습득한다면, 이는 단순한 창작 도구를 넘어 대규모 인간 조작 (Human Manipulation) 의 도구가 될 수 있습니다.
AI 가 인간의 취약점, 신념 수정, 정서적 반응을 완벽하게 모델링할 경우, 맞춤형 설득과 조작이 가능해지며, 이는 인간 자율성에 대한 심각한 위협이 됩니다.
5. 결론 (Conclusion)
이 논문은 AI 가 소설을 생성하지 못하는 것이 단순한 기술적 부족이 아니라, 소설이 가진 시간적 역설, 정보적 재평가, 다중 스케일 정서 조율이라는 고유한 특성이 현재 AI 아키텍처의 근본적인 한계와 충돌하기 때문임을 이론적으로 증명합니다.
또한, AI 가 소설의 정서적 기술을 습득하는 것은 창의적 성취를 넘어, 인간 심리를 조작할 수 있는 강력한 기술이 될 수 있음을 경고합니다. 따라서 AI 소설 생성 기술의 발전 속도에 맞춰, 문학 연구자와 윤리학자들은 인간 자율성을 보호할 수 있는 방안을 모색해야 합니다.