Culturally-Grounded Governance for Multilingual Language Models: Rights, Data Boundaries, and Accountable AI Design

기술 요약: 다국어 언어 모델을 위한 문화적 기반의 거버넌스

문제 정의
다국어 대규모 언어 모델(MLLM)은 다양한 문화적, 언어적, 정치적 맥락에서 점점 더 많이 배치되고 있습니다. 그러나 기존의 거버넌스 프레임워크와 기술적 방법론은 주로 영어 중심의 데이터, 동질적인 사용자 인구, 그리고 추상적인 공정성 개념을 가정합니다. 이는 저자원 언어와 문화적으로 소외된 공동체에 체계적인 위험을 초래합니다. 현재의 MLLM은 종종 지역적 규범, 권리 및 기대치와 일치하지 못하며, 이는 데이터 비대칭성, 편향된 모델 행동, 그리고 소외된 언어 화자들이 경험하는 피해에 대한 책임 메커니ism의 부재로 이어집니다. 나아가, 전통적인 평가 지표(예: BLEU 점수)는 번역 정확도에만 좁게 집중되어 있으며, 모델이 상호 문화적 이해를 촉진하거나 컴퓨터 지원 협업 작업(CSCW) 및 인간-컴퓨터 상호작용(HCI) 맥락에서 협력적 에이전트로서 기능할 수 있는 능력은 고려하지 않습니다.

방법론
본 논문은 협업 시스템 내에서의 MLLM 신뢰성을 포괄적으로 조사하기 위한 체계적 문헌 고찰을 제시합니다. 저자들은 선행된 체계적 검토 연구들의 방법론을 채택하여, ACM 디지털 라이브러리와 구글 스칼라(Google Scholar)에서 지난 10년간 발표된 논문을 검색하였습니다(최근 LLM 연구의 급증을 고려하여 ACM 디지털 라이브러리에 대해서는 최근 5년으로 특정 필터를 적용함). 검색에는 "다국어 언어 모델", "협업 내 MLLM"과 같이 MLLM과 협업을 교차시키는 키워드와 함께 "인간 중심 AI" 및 "데이터 품질"과 같은 용어를 활용하였습니다.

검토 대상 코퍼스에는 최신 트렌드를 포착하기 위해 피어 리뷰를 거친 출판물과 관련 arXiv 프리프린트가 포함되었습니다. 논문은 다국어, 다문화 협업 맥락 내의 MLLM에 초점을 맞추고 다음 네 가지 핵심 속성 중 하나 이상을 다루는 것을 포함 기준으로 하여 선정되었습니다:

1. 데이터 품질
2. 신뢰성 및 운용성
3. 인간 중심 설계
4. 인간의 감독

데이터 추출은 출판 매체, 연도, 방법론, 그리고 이 네 가지 속성과 관련된 연구 결과들을 분석하는 방식으로 진행되었습니다. 본 검토는 모델의 행동, 데이터 비대칭성, 그리고 사회기술적 위해를 합성하여 거버넌스 프레임워크를 도출합니다.

주요 기여 및 결과
본 논문은 새로운 기술적 벤치마크나 실험적 모델을 제안하는 것이 아닙니다. 대신, 다국어 AI 거버넌스를 사회문화적 및 권리 기반의 문제로 재정의하는 **개념적 의제(conceptual agenda)**를 기여합니다. 본 검토는 기존 문헌을 종합하여 세 가지 상호 연관된 거버넌스 과제를 식별합니다:

1. 문화적 및 언어적 불평등: 훈련 데이터와 평가 관행이 고자원 언어(예: 영어, 중국어, 스페인어)에 불균형적으로 치우쳐 있어, 저자원 언어에서의 성능 저하와 편향을 초래합니다.
2. 지역적 규범과의 불일치: 글로벌 배포는 종종 현지의 규범, 가치 및 권력 구조와 일치하지 못하며, 이는 스테레오타입의 강화와 문화적 오해의 위험을 안고 있습니다.
3. 제한된 책임성: 소외된 언어 공동체가 겪는 피해를 해결하기 위한 강력한 메커니즘이 부족합니다.

본 검토는 신뢰성의 네 가지 핵심 속성을 중심으로 연구 결과를 구조화합니다:

• 데이터 품질: 문헌들은 부적절한 토큰화와 편향된 훈련 데이터가 저대표 언어에 대한 오해를 불러일으킨다는 점을 강조합니다. 합성 데이터 생성, 모델 퓨전, 그리고 행렬 분해(예: 어휘적으로 중첩되는 토큰 활용)와 같은 방법들이 저자원 스크립트에 유망함을 보여주지만, 포괄적인 다국어 평가는 여전히 공백으로 남아 있습니다.
• 신뢰성 및 운용성: MLLM은 다양한 입력에 대해 일관된 성능을 유지해야 하며, 특히 의료와 같은 고위험 영역에서 그러합니다. 연구에 따르면 퓨샷 학습(few-shot learning)이 교차 언어 과제에 도움을 줄 수 있지만, 저대표 언어를 우선시하기 위해서는 공정성 원칙(예: 롤스의 공정성)이 필요합니다. 멀티모달 통합 또한 적응성을 높이는 방법으로 언급됩니다.
• 인간 중심 설계: 효과적인 MLLM은 다양한 문화적 배경을 가진 비기술적 사용자들에게도 접근 가능해야 합니다. 본 검토는 다양한 언어적 요구를 수용하지 못하는 것이 교육적, 경제적 격차를 심화시킬 위험이 있음을 강조합니다. 설계는 단순한 번역을 넘어 아프리카 언어를 위한 SERENGETI 프레임워크에서 볼 수 있듯이 문화적 맥락을 포함해야 합니다.
• 인간의 감독: 윤리적 개발을 위해서는 지속적인 모니터링, 규제 준수, 그리고 인간 참여형(human-in-the-loop) 접근 방식이 필요합니다. 본 검토는 사회 정치적 위험을 완화하고 인간의 가치와 정렬을 보장하기 위해 윤리적 원칙(선행, 악행 금지, 정의)을 내재화하고 AI 감사 프레임워크를 활용할 것을 권고합니다.

의의 및 주장
본 논문은 다국어 언어 모델이 규모와 중립성이라는 명목 하에 기존의 글로벌 불평등을 재생산하는 것을 방지하기 위해 문화적으로 근거한 거버넌스가 필수적이라고 주장합니다. 본 논문의 의의는 담론을 순수하게 기술적인 혁신(예: 정렬 전략 또는 자원 가용성)에서 다문화적 협업 및 사회문화적 권리로 전환하는 데 있습니다.

저자들은 사회문화적 렌즈를 통해 MLLM 거버넌스를 재정의함으로써 연구 커뮤니티가 다음과 같은 일을 할 수 있다고 주장합니다:

• 현재의 연구와 다양한 교차 문화적 환경에서의 실제 응용 사이의 간극을 식별한다.
• 다양한 언어 데이터셋과 투명성을 의무화하는 정책 및 법적 프레임워크를 옹호한다.
• AI 연구자, 언어학자, 사회과학자, 그리고 문화 이론가 사이의 학제 간 협력을 촉진한다.
• MLLM이 단순히 번역 정확도를 넘어 신뢰, 이해, 그리고 형평성 있는 참여를 얼마나 잘 촉진하는지를 평가하는 새로운 평가 지표를 개발한다.

궁극적으로, 본 논문은 MLLM이 글로벌 협업에서 진정으로 신뢰할 수 있고 효과적이기 위해서는 단순한 번역 도구가 아니라, 언어적 다양성과 지역적 권력 구조를 존중하는 문화적으로 인지된 협력적 에이전트로 설계되어야 한다고 상정합니다.