기술 요약: 의미는 지표가 아니다

문제 정의

본 논문은 현재의 사회기술적 시스템(예: 소셜 미디어 플랫폼, 의료, 교육, 거버넌스)이 가진 근본적인 한계, 즉 "인간의 의미"를 규모 있게 표현하지 못하는 문제를 지적한다. 이러한 시스템들은 박층적 기술(thin descriptions)—표준화된 수치적 지표(예: 참여율, GDP, 시험 점수, 클릭률)—에 의존하며, 이는 획일성을 강요한다. 이러한 박층적 기술은 대규모 데이터셋을 처리하는 데에는 효과적이지만, 인간 경험에 있어 실제로 중요한 문화적 맥락과 이질성을 부호화하는 데 필요한 요소들을 제거해 버린다.

저자들은 인간의 의미 있는 경험을 지원하지 못하는 문제가 단순히 더 나은 지표를 선택하는 문제가 아니라, **표현 형식(representational format)**의 실패라고 주장한다. 전통적인 지표들은 복잡하고 맥락 의존적인 인간의 활동을 정량화 가능한 대리물(proxies)로 환원하며, 이는 지표가 본래 나타내고자 했던 가치로부터 이탈하는 "대리 실패(proxy failure)"(예: 진정한 사회적 연결보다 '좋아요'를 우선시하는 현상)를 초래한다. 핵심 과제는 맥ual적 풍부함을 희생시키지 않으면서도, 어떻게 인간의 의미를 계산 가능한 시스템 내에서 가독성(legible) 있게(인지 및 처리 가능하게) 만들 것인가 하는 점이다.

이론적 프레임워크 및 방법론

본 논문은 주요 표현 전략으로서 박층적 기술에서 **후층적 기술(thick description)**로의 전환을 제안한다. 클리포드 기어츠(Clifford Geertz)의 인류학적 프레임워크를 인용하여, 후층적 기술은 기호와 행동을 특정 문화적 맥락 내에서 해석함으로써, 단순히 관찰 가능한 사실을 기록하는 것을 넘어 의미의 층위를 밝혀내는 언어적 표현으로 정의된다.

• 박층적 vs 후층적: 박층적 기술은 맥락 없이 사실과 관찰 가능한 행동만을 다룬다. 후층적 기술은 맥락, 해석, 주관적 관점, 그리고 행위의 상징적 차원을 고려한다.
• LLM의 역할: 핵심적인 방법론적 제안은 대규모로 후층적 기술을 자동 생성하고 처리하기 위해 **거대언어모델(LLM)**을 사용하는 것이다. 역사적으로 후층적 기술은 문화적 맥락을 해석할 인류학자나 문학 비평가와 같은 인간 전문가를 필요로 했으며, 이는 확장성의 병목 현상을 일으켰다. 저자들은 언어적 능력을 갖춘 LLM이 이러한 풍부한 맥락적 표현을 자동 생성하는 "규모 있는 문화 비평가" 역할을 수행함으로써 이 병목을 부분적으로 해결할 수 있다고 상정한다.
• 접근 방식: 본 논문은 특정 실험 데이터셋이나 구현된 단일 시스템을 제시하지 않는다. 대신, AI 적용의 새로운 방향으로서 **도메인 불가지론적 질적 코딩(domain-agnostic qualitative coding)**을 위한 기술적 접근법을 제안하는 **포지션 페이퍼(position paper)**를 제공한다. 이는 사전에 정의된 정적인 양적 변수에 의존하는 대신, LLM을 사용하여 특정 맥락에 맞는 맞춤형 코딩 체계를 실시간으로 생성하는 것을 포함한다.

주요 기여

본 논문은 AI, 사회학, 인문학 분야에 다음과 같은 개념적, 전략적 기여를 한다:

1. 지표 문제의 재정의: "의미는 지표가 아니다"라고 주장한다. 인간의 의미를 표현하는 해결책은 더 나은 수치적 대리물을 찾는 것이 아니라, 후층적 기술에 기반한 새로운 표현 형식을 채택하는 것이다.
2. 의미의 가독성: 제임스 C. 스콧(James C. Scott)의 "가독성" 개념을 AI에 적용하여, 현재의 시스템은 오직 박층적 데이터만을 가독성 있게 만든다고 주장한다. 본 논문은 LLM을 사용하여 문화적 맥락과 인간의 의미를 사회기술적 시스템 내에서 가독성 있게 만드는 방안을 제안한다.
3. 다섯 가지 핵심 과제: 후층적 기술을 성공적으로 확장하기 위해 해결해야 할 다섯 가지 구체적인 과제를 명시한다:
   • 맥락 보존(Context Preservation): 의미는 본질적으로 맥락 의존적이다. 시스템은 국가나 언어와 같은 대리 변수뿐만 아니라, 사건의 구체적인 문화적, 상황적 맥락에 대한 정보를 유지해야 한다.
   • 해석적 다원주의(Interpretive Pluralism): 의미에 대한 단일한 "진실의 원천"은 존재하지 않는다. 시스템은 동일한 기호나 사건에 대해 여러 개의 상충하는 해석을 하나의 변수로 붕괴시키지 않고 표현할 수 있어야 한다.
   • 관점의 통합(Integration of Perspectives): 견고한 표현을 위해서는 경험 근접적(experience-near) 관점(삶의 구체적이고 주관적인 경험)과 경험 원격적(experience-distant) 관점(분석적이고 학술적인 틀)의 통합이 필요하다.
   • 내용 vs 규모(Content vs. Magnitude): 시스템은 의미의 내용(질적인 "그것은 무엇인가?")과 의미의 규모(양적인 "얼마나 많은가?")를 구분해야 하며, 하나를 다른 하나로 환원하는 것을 피해야 한다.
   • 역동적 의미 형성(Dynamic Meaning-Making): 의미는 정적이지 않으며, 협상의 역동적인 과정이다. 시스템은 문화적 의미를 고정된 것으로 취급하는 대신, 변화하는 해석적 틀에 적응해야 한다.
4. 도메인 불가지론적 질적 코딩: 본 논문은 구체적인 기술적 방향을 제시한다. 즉, 전통적인 사회과학에서 사용되는 정적인 코딩을 넘어, 특정 데이터셋을 위해 실시간으로 맞춤형 질적 코딩 체계를 생성하는 데 LLM을 활용하는 것이다.

결과 및 주장

포지션 페이퍼로서 저자들은 특정 실험의 경험적 결과를 보고하지 않는다. 대신, "결과"는 이론적 논증과 향후 연구를 위한 로드맵이다:

• 실행 가능성 논거: 본 논문은 LLM이 인간 수준의 해석에 근접한 후층적 기술을 생성할 수 있는 경험적 능력이 있다고 주장한다. 이를 뒷받//하는 근거로, LLM이 "도그 휘슬(dog whistles, 은어/암호)"을 식렬하거나 단어의 의미를 중의성 없이 구분해내는 최근의 연구 사례들을 제시한다.
• 현재 접근법의 한계: 저자들은 "의미"를 최적화하려는 현재의 시도들(예: 소셜 미디어 알고리즘을 '의미 있는' 상호작용을 우선하도록 변경하는 것)이 왜 실패하는지 강조한다. 이는 하나의 박층적 지표를 다른 박층적 지표로 대체하는 것에 불과하기 때문이다.
• 확장성: 저자들은 후층적 기술을 위한 인간 분석의 병목 현상이 LLM을 통해 극복될 수 있다고 주장하며, 이를 통해 이러한 풍부한 표현들을 대규모 시스템에 배포할 수 있다고 본다.

의의 및 범위

본 논문은 생성형 AI 적용에 있어 매우 중요한 개입을 시도한다. 그 의의는 다음과 같다:

• 최적화를 넘어: 사회기술적 시스템을 단순히 효율성이나 참여 지표를 위해 최적화해야 한다는 지배적인 패러다임에 도전하며, 시스템이 인간 경험에서 "정말로 중요한 것"을 지원하도록 설계되어야 한다고 제안한다.
• 통합적 프레임워크: 문화의 표현, 생성 모델의 한계, AI 가치의 "풀스택 정렬(full-stack alignment)"에 대한 필요성 등 다양한 AI 이슈를 다루기 위한 통합적 프레임워크로서 후층적 기술을 제시한다.
• 정치적 및 기술적 필연성: 저자들은 AI를 인간의 웰빙을 위해 사용하려는 정치적 의지는 존재하지만, 인간의 의미를 표현할 기술적 능력은 현재 결여되어 있다고 주장한다. 본 논문은 미래의 정치적, 사회적 솔루션을 뒷받침하는 데 필요한 기술적 토대(LLM을 통한 후층적 기술)를 제공하고자 한다.

논문은 도메인 불가지론적 질적 코딩을 규모 있게 개발하기 시작하자는 겸허한 촉구로 마무리된다. 저자들은 악의적인 행위자가 이러한 도구를 감시("사상죄" 추적)에 이용할 가능성이나, 시스템 자체가 측정하는 문화적 현상을 왜곡할 위험(재귀성) 등 상당한 위험을 인정한다. 그럼에도 불구하고, 기술을 통해 인간의 의미를 약화시키는 것이 아니라 강화하고자 하는 모든 사회가 이러한 능력을 개발하는 것은 필수적인 전제 조건이라고 주장한다.