LLMs Generate Kitsch

"LLMs Generate Kitsch" (클링게, 오르틀리브, 콜러 저) 논문에 대한 상세한 기술적 요약입니다.

1. 문제 제기

이 논문은 생성형 AI 분야에서 커지고 있는 긴장 관계를 다룹니다:

• 현상: 대규모 언어 모델 (LLM) 은 텍스트, 이미지, 코드 등 창의적 산물을 생성하는 데 increasingly 사용되고 있으며, 통제된 연구에서 인간이 생성한 작품보다 인간 사용자들에게 더 높은 평가를 받는 경우가 많습니다.
• 비판: 기술적 유능함과 인기가 있음에도 불구하고, 이러한 산물은 종종 "일반적인", "공허한", 또는 "AI 슬롭 (AI slop)"으로 인식됩니다. 표면적으로는 아름답지만 깊이가 부족하기 때문입니다.
• 간극: 기존 문헌은 LLM 이 사용자들에게 "좋아"하면서도 예술적으로 공허하다고 인식되는 콘텐츠를 생성하는 이유를 설명할 수 있는 통합된 이론적 틀을 결여하고 있습니다. 저자들은 이것이 결함이 아니라 체계적인 특징이라고 주장합니다: LLM 은 체계적으로 키치 (kitsch) 를 생성합니다.

2. 이론적 틀: 키치의 정의

저자들은 예술 철학과 심리학에 기반하여 키치를 쿨카 (Kulka, 1996) 와 도플레스 (Dorfles, 1969) 의 기준에 따라 세 가지 구체적 기준으로 정의합니다:

1. 고정된 감정 (Stock Emotions) 에 대한 호소: 키치는 사랑, 향수, 애국심 등 보편적으로 공감 가능하지만 성찰이 부족한 "광범위한" 감정을 자아냅니다. 복잡하고 미묘하거나 독창적인 감정 경험 대신 "고정된 감정"에 의존합니다.
2. 유능하지만 관습적인 표면 형식: 키치는 기술적으로 숙련되어 있습니다 (문법적으로 정확하고 일관성 있음). 그러나 확립된 관습적 표현 규범에 엄격히 부합합니다. 청중을 혼란스럽게 할 수 있는 스타일적 혁신을 피하며, 인지적 도전을 우선시하기보다 "쾌락적 유창성 (hedonic fluency, 처리의 용이성)"을 우선시합니다.
3. 예술적 가치의 부재: 미적으로 즐겁지만, 키치는 예술의 "위조"입니다. 이는 새로운 관점을 제시하거나 관람자의 경험을 변형시키기보다, 관람자의 기존 연상 작용을 거울처럼 비추어 줍니다. 진정한 예술적 의도가 결여되어 있습니다.

3. 방법론

이 논문은 이론적 주장과 새로운 실증 연구를 결합합니다.

A. 이론적 주장 (제 3 절)

저자들은 현대 LLM 의 학습 목표가 필연적으로 키치로 이어진다고 주장합니다:

• 예술적 의도의 부재: LLM 은 내면의 삶이나 독창적 의도 없이 다음 토큰 분포에서 샘플링합니다.
• 관습적인 표면: 다음 토큰 예측 목표는 학습 데이터에서의 빈번한 이어짐을 보상하므로, 스타일적 혁신은 통계적으로 일어나기 어렵습니다.
• 대중적 호소력 최적화: 인간 피드백을 통한 강화 학습 (RLHF) 은 명시적으로 모델이 인간의 "좋아함 (likes)"을 극대화하도록 조정하며, 이는 대중적 호소력과 소외적이거나 도전적인 콘텐츠 회피와 상관관계가 있습니다.

B. 실증 연구 (제 4 절)

LLM 의 출력이 인간에게 키치로 인식되는지 테스트하기 위해 저자들은 두 단계 연구를 수행했습니다:

• 자극물 생성:
  • 인간 출처: 플래시 픽션 대회에서 10 편의 단편 소설 (~500 단어) 을 선별했습니다.
  • LLM 생성: GPT-4o 에게 각 인간 소설의 서사적 전제를 추출한 후, 오직 그 전제만을 기반으로 (원본 텍스트를 보지 않고) 유사한 길이의 새로운 이야기를 생성하도록 프롬프트를 입력했습니다. 이로써 유사한 주제/캐릭터를 가진 10 쌍의 (인간, LLM) 이야기가 생성되었습니다.
• 파일럿 연구:
  • 참가자: 60 명의 개별 참가자 (485 표).
  • 과제: 한 쌍의 이야기 중 어느 것이 더 "키치적인지" 평가하고 "키치"에 대한 자유 형식 정의를 작성했습니다.
  • 발견: 정의가 매우 다양했습니다. 참가자들은 정의에 따라 네 가지 그룹으로 분류되었습니다: 감정적으로 강렬한 (Emotionally Charged), 쾌락적 유창성 (Hedonic Fluency), 나쁜 예술 (Bad Art), 니치 취향 (Niche Taste).
• 본 연구:
  • 참가자: 101 명의 개별 참가자 (505 표).
  • 과제: 참가자들은 네 가지 정의를 제시받고 가장 동의하는 것을 선택한 후, 이야기 쌍을 키치성과 즐거움에 대해 평가했습니다.
  • 분석: 키치 판단, 즐거움, 정의 그룹 간의 관계를 분석하기 위해 혼합 효과 로지스틱 회귀를 사용했습니다.

4. 주요 결과

1. 키치에 대한 인식: 키치 정의를 통제할 때, 인간 평가자들은 인간이 쓴 이야기보다 LLM 이 생성한 이야기를 일관되게 더 키치적인 것으로 식별했습니다.
   • "감정적으로 강렬한" 정의 (학문적 관점에 가장 근접) 하에서 **85.1%**의 평가가 AI 이야기를 더 키치적인 것으로 식별했습니다.
   • "쾌락적 유창성" 하에서는 **70.6%**가 AI 이야기를 더 키치적인 것으로 식별했습니다.
   • 전체적으로 모든 평가의 **59.5%**가 AI 이야기를 더 키치적인 것으로 찾았습니다.
2. "좋아함" 역설: AI 이야기를 더 키치적인 것으로 식별했음에도 불구하고, 참가자들은 더 즐겼습니다.
   • 모든 선호도 평가의 **67%**가 LLM 이야기를 선호했습니다.
   • 이 선호도는 모든 정의 그룹에서 유지되었습니다.
3. 정의의 상이한 효과:
   • "나쁜 예술" 그룹의 경우, 이야기를 키치로 식별하는 것이 즐거움을 현저히 감소시켰습니다 (90.7% 에서 28.6% 로).
   • "쾌락적 유창성"과 "감정적으로 강렬한" 그룹의 경우, 이야기를 키치로 식별하는 것이 즐거움을 증가시켰습니다 (예: 유창성 그룹은 28 퍼센트 포인트 증가).
   • 결론: 많은 사용자에게 "키치" (처리하기 쉽고 감정적으로 공명하는) 는 "즐거운" 것과 동의어입니다.

5. 주요 기여

• 이론적 종합: 이 논문은 LLM 의 기술적 학습 메커니즘 (다음 토큰 예측, RLHF) 을 철학적 개념인 키치와 직접 연결하는 최초의 엄밀한 논증을 제공합니다.
• 실증적 검증: 인간이 LLM 출력을 선호함에도 불구하고 이를 키치로 인식한다는 최초의 실증적 증거를 제시합니다.
• 방법론적 통찰: 이 연구는 "즐거움"이 AI 예술을 평가하는 데 결함이 있는 지표임을 보여줍니다. 높은 즐거움 점수는 실제로 예술적 가치보다는 높은 수준의 키치 (대중적 호소력) 를 나타낼 수 있습니다.
• 광범위한 적용성: 저자들은 이 주장을 텍스트를 넘어 다른 양식 (이미지, 음악) 과 비예술적 영역 (코딩, 과학 연구) 으로 확장하며, 이러한 분야의 완전 자동화된 생성도 "점진적"이거나 "키치스러운" 출력을 초래할 것이라고 시사합니다.

6. 중요성과 함의

• AI 연구에 대해: 이 발견은 현재 RLHF 최적화 전략이 본질적으로 키치 생성으로 편향되어 있음을 시사합니다. "진정한" 예술이나 혁신적인 연구를 창출하려면 관습적이고 대중적 호소력을 가진 생성의 순환을 깨기 위한 인간의 개입 (창의성) 이 필요합니다.
• 미래 연구에 대해: AI 창의성을 평가하는 연구자들은 단순한 선호도 설문 조사를 넘어 이동해야 합니다. 참가자들이 미적 개념을 어떻게 정의하는지 고려하고, AI 출력을 "좋아"하는 것이 예술적 가치를 가진다는 것과 동일하지 않음을 인식해야 합니다.
• 문화적 영향: 이 논문은 "AI 슬롭"이 즉각 소비 가능하고 감정적으로 안전하도록 최적화되어 있기 때문에 문화 소비를 지배할 수 있는 미래를 경고합니다. 이는 진정한, 도전적이거나 모호한 인간의 창의성을 압도할 수 있습니다.

요약하자면, 이 논문은 LLM 이 설계상 키치를 생성한다고 주장합니다. 확률과 인간의 승인을 극대화하도록 학습된 결과, 기술적으로 숙련되고 감정적으로 공명하지만 예술적으로 공허한 콘텐츠를 생성합니다. 실증 데이터는 인간이 이러한 "키치"를 즐긴다는 것을 확인하면서도, 키치의 정의를 명시적으로 만들었을 때 진정한 인간 창의성과 구별할 수 있음을 보여줍니다.