Plurification in/of language technology -- The integration of culture in next-generation AI

기술 요약: 언어 기술에서의 다원화(Plurification)

문제 제기
본 논문은 자연어 처리(NLP) 및 언어 기술(LT) 내에서 '문화'를 어떻게 실행 가능한 형태로 구현할 것인가라는 중대한 과제를 다룬다. 현재의 접근 방식들은 문화를 정적인 측정 가능한 변수로 취급하거나, 단순히 훈련 데이터에 "타 문화"의 사례를 더 많이 추가하는 방식으로 해결하려 한다. 저자들은 이것이 불충분하다고 주장하는데, 그 이유는 문화가 역동적이고, 내부적으로 다양하며, 권력, 정체성, 맥락과 깊게 얽혀 있기 때문이다. 기존의 NLP 시스템은 종종 해석을 형성하는 사회적 규범과 배경 지식을 모델링하는 데 실패하며, 이로 인해 지배적인 담론을 재생산하고 소수자의 목소리, 지역적 지식, 문화 특유의 의미를 과소 대표하는 경우가 잦다. 핵심 문제는 문화적 정렬(cultural alignment)이 표면적인 기술적 적응(예: 프롬프트 디자인이나 사후 검열)을 통해서는 달성될 수 없으며, 여러 개의 현지 중심적 지식 체계가 공존할 수 있도록 하는 '다원적 인식론(plural epistemologies)'을 향한 근본적인 전환을 요구한다는 점이다.

방법론
본 논문은 기술 인류학에 기반한 질적, 사례 기반 접근 방식을 채택한다. 저자들은 NLP 내의 문화에 대한 기존 접근 방식들을 체계적으로 분석하고 구조화하기 위해 "기술적 활동의 5개 층위"(Koch et al., 2024)라는 사회 기술적 모델을 활용한다. 이 모델은 분석을 다음 다섯 가지 뚜렷한 층위로 조직한다:

1. 기술적 핵심(Technological Core): 소프트웨어, 모델 아키텍처, 훈련 절차, 디코딩 전략.
2. 지식 영역(Knowledge Domain): 훈련에 사용되는 코퍼스, 언어 자원, 상징적 범주.
3. 지식 생태계(Knowledge Ecologies): 더 넓은 사회적, 규범적, 실용적 환경 (예: 지역 지식 체계, 법적 프레임워크).
4. 정치 경제(Political Economies): 데이터 추출 관행, 어노테이션 노동, 자금 조달, 권력의 비대칭성.
5. 사용 맥락(Contexts of Use): 기술이 배치되고 해석되는 실제 설정 및 공동체.

저자들은 이러한 층위 전반에 걸쳐 문화적 차원을 통합하려는 시도를 보여주는 NLP 연구의 구체적인 사례들을 선정한다. 선정 기준은 해당 개입이 언어/지식의 수를 확장하는지, 보편화된 가정을 도전하는지, 현지 전문가를 참여시키는지, 그리고 그것이 내재된 기능인지 혹은 표면적인 출력 적응인지를 기준으로 한다.

주요 기여 및 분석
본 논문은 "다원화(plurification, 다수의 인식론을 통합하는 것)"가 어떻게 얕은 수준의 문화적 적응을 넘어 다섯 가지 층위 전체에서 일어날 수 있는지를 보여주기 위해 연구를 종합한다:

• 층위 1 (기술적 핵심): 논문은 언어 중립적인 의미 층을 제안하는 보편적 지식 핵심(Universal Knowledge Core, UKC)(Giunchiglia et al.)에 관한 연구를 강조한다. 영어를 피벗 언어로 중심에 두는 대신, UKC는 개념 수준에서 의미를 표현하여 여러 언어가 공유된 구조 위에 자신들의 어휘 형태를 매핑할 수 있도록 한다. 이는 언어적 균질화 없이 다대다(many-to-many) 다국어 관계를 지원한다.
• 층위 2 (지식 영역): 논문은 NLP를 언어 기록학(language documentation)과 연결하는 Steven Bird의 연구를 인용하며, 데이터셋은 사회적 역사를 가진 구성된 인공물임을 강조한다. 저자는 저자원 언어를 위한 자원의 가용성과 상호 운용성을 개선하기 위해 데이터 성명서(data statements)와 공식적인 어노테이션 프레임워크를 옹호한다. 또한 Giunchiglia의 온톨로지에 관한 연구를 인용하여, 구조화된 개념 표현이 어떻게 단일한 규범적 스키마로 강제하지 않고도 이질적인 지식 체계를 정렬할 수 있는지 보여준다.
• 층위 3 (지식 생태계): 논문은 다양성을 인식하는 AI를 옹호하는 규범적 프레임워크(예: 아프리카 연합 AI 프레임워크, 유네스코 가이드라인)를 검토한다. 그러나 현재의 기업 주도 프레임워크가 종종 표면적이고 이윤 지향적이며, 이로 인해 지역 및 지역적 지식이 충분히 통합되지 못하는 "AI 거버넌스 위기"를 초래한다고 비판적으로 지적한다.
• 층위 4 (정치 경제): 저자들은 현재의 언어 기술이 공동체를 설계자가 아닌 데이터 소스로 취급하는 추출적 성격을 띠고 있음을 분석한다. **Nekoto et al.**과 Bird를 인용하며, 논문은 참여형 기계 번역과 지속 가능한 언어 발전을 주장한다. 또한 데이터 수집 및 어노테이션에 투입된 노동에 대한 공정한 보상, 소유권, 이익 공유를 강조하며, 벤치마크 최적화에서 공동체 혜택으로의 전환을 제안한다.
• 층위 5 (사용 맥락): 논문은 문화적 적절성은 상황에 따라 달라지며 기술적 지표만으로는 검증될 수 없다고 주장한다. 저자들은 언어 공동체를 인식론적 권위자로 대우할 것을 촉구한다. 이 단계에서의 "다원화"는 현지 프레임워크가 모델의 목표와 평가를 구조화하도록 하여, 시스템이 사회적으로 이해 가능하고 추출적이지 않도록 만드는 "제3의 공간"을 창출하는 것을 포함한다.

결과
분석 결과, NLP 연구가 문화적으로 민감한 시스템(예: 방언 모델링, 다국어 데이터)을 향해 진전해 왔음에도 불구하고, 대부분의 개입은 부분적이며 출력 및 표현 층위에 집중되어 있음이 드러났다. 권력, 거버넌스, 사회적 맥락에 관한 더 깊은 질문들은 여전히 해결되지 않은 상태로 남아 있다. 논문의 결론은 다음과 같다:

• 문화는 안정적인 변수가 아니라 역동적인 사회-기술적 현상이다.
• 기술적 적응(예: 더 많은 데이터를 추가하는 것)만으로는 문화적 불일치의 근본 원인을 해결할 수 없다.
• 진정한 문화의 실행(operationalization)은 계산적 형식화의 한계를 탐색하는 성찰적 접근을 요구한다.
• 현재의 접근 방식은 시간 경과에 따른 문화적 변화를 추적하거나 그에 따르는 높은 비용을 고려하는 데 실패하는 경우가 많다.

의의 및 주장
본 논문은 NLP에서 문화를 실행하는 데 있어 순수한 기술적 해결책이 아닌 "다원적 사회-기술적 접근(plural socio-technical approach)"이 필요하다고 주장한다. 이 논문의 의의는 문화적 다양성을 더 많은 사례로 해결해야 할 데이터 문제로 보는 것이 아니라, 모든 기술적 활동 층위에 스며들어야 하는 설계 지향점으로 재정의했다는 점에 있다. 저자들은 다음과 같이 상정한다:

• 다원화는 진행 중인 과정이다: 이는 최종 상태가 아니라, 언어 공동체로 인식론적 권위를 재분배하는 지속적인 설계 지향이다.
• 사회-기술적 통합은 필수적이다: 문화 인지적 NLP는 알고리즘, 데이터, 정치 경제, 그리고 지역적 맥락 사이의 상호작용을 고려해야 한다.
• 형식화의 한계: 사회-문화적 맥락의 역동적이고 다면적인 특성 때문에 문화는 오직 부분적으로만 형식화될 수 있으며, 시스템은 불일치와 맥ual적 타당성에 대해 반응할 수 있는 상태를 유지해야 한다.

궁극적으로 본 논문은 언어 기술이 진정으로 포용적이 되기 위해서는 "초지능(super-intelligence)의 환상"을 넘어, 다수의 현지 중심적 지식 체계를 인정하는 다원적(pluriversal) 설계를 수용해야 한다고 주장한다.