Toward Human-Centered AI-Assisted Terminology Work

기술 요약: 인간 중심의 AI 보조 용어 작업(Terminology Work)을 향하여

문제 제기
생성형 인공지능(GenAI), 특히 거대언어모델(LLM)의 급격한 등장은 용어 작업(TW)에 이중적인 과제를 안겨준다. LLM은 정의 생성, 용어 대응어 제안, 개념적 관계 식별과 같은 자동화의 기회를 제공하지만, 동시에 심각한 위험도 초래한다. 현재의 LLM은 오류, 환각(hallucination), 다양한 형태의 편향성에 취약하여 단독적인 용어 작업 목적으로 사용하기에는 신뢰도가 떨어진다. 더욱이, 이 기술들을 통합하는 과정을 안내할 확립된 원칙이 부재한 상태이다. 인간의 전문성이 대체될 수 있다는 오해에 기반하여 효율성 압박이 과도한 자동화로 이어질 수 있으며, 이는 용어학자의 자율성을 저해하고, 전문적 역량을 저평가하며, 언어적 및 개념적 다양성을 침식할 수 있다는 우려가 지배적이다. 핵심 문제는 GenAI의 효율성 증대와 용어 생산에서의 인간의 주체성, 정확성, 윤리적 표준 유지라는 필요성 사이의 균형을 맞출 프레임워크가 없다는 점이다.

방법론
본 논문은 경험적 실험 설계보다는 개념적이고 이론적인 접근 방식을 채택한다. 본 논문은 다음 세 가지 주요 영역의 기존 학술 연구를 종합한다:

1. 인간 중심 인공지능(HCAI): Shneiderman(2020) 등의 연구를 중점적으로 인용하여, 인간의 번영, 인간 주체성의 증폭, 그리고 높은 수준의 자동화와 강력한 인간 통제의 호환성을 우선시하는 패러다임으로서 HCAI를 설정한다.
2. 번역학(Translation Studies): HCAI 원칙이 번역 분야에 어떻게 적용되었는지, 특히 "디지털 테일러리즘(digital Taylorism)"에서 "증강 번역(augmented translation)"으로의 전환과 인간과 기계 사이의 공생 관계에 대해 검토한다.
3. 용어 작업 문헌: 용어의 성격, 검증의 역할, 그리고 용어 추출, 정의 생성, 대응어 제안과 같은 과업에서 나타나는 현재 LLM 성능의 한계를 포함한 용어 작업의 구체적인 인식론적 및 직업적 특성을 분석한다.

방법론은 이러한 교차 분야들에 대한 비판적 분석을 통해 용어 작업 내 AI 통합을 위한 개념적 프레임워크를 제안하는 과정을 포함한다. 또한, 용어 작업에서의 LLM 성능(예: 용어 추출, 정의 생성)에 관한 기존의 소규모 연구들을 검토하여 현재의 한계와 인간 개입의 필요성을 입증한다.

주요 기여
본 논문은 세 가지 상호 연관된 차원으로 구성된, 용어 작업에 특화된 인간 중심 AI(HCAI) 프레임워크를 제안한다:

1. 증강된 용어학자 (The Augmented Terminologist):

   • 자동화와 통제의 호환성: 본 논문은 높은 수준의 자동화와 강력한 인간 통제가 상호 배타적인 것이 아니라, 서로 호환 가능하며 바람직한 것이라고 주장한다. AI가 인간의 대체물이 아닌, 인간의 지시에 종속된 지원 구성 요소로서 기능하는 "AI-in-the-loop" 모델을 옹호한다.
   • 역량 강화 vs. 모사: 용어 작업에서 AI의 일차적 목표는 인간의 지능을 단순히 모사하는 것이 아니라 용어학자의 역량을 강화(empower)하는 것이어야 한다. AI는 데이터 집약적인 과업(예: 패턴 인식, 신속한 후보 생성)을 처리하고, 인간은 개념 모델링, 검증 및 최종 의사결정에 대한 권한을 보유한다.
   • 새로운 기술 세트: AI의 통합은 AI 출력물을 비판적으로 평가하고, 효과적인 프롬프트를 작성하며, 윤리적 함의를 이해하고, 특정 하위 과업에 적절한 자동화 수준을 선택할 수 있는 능력을 포함하는 "AI 리터러시"를 요구한다.

2. 윤리적 AI (Ethical AI):

   • 전문적 가치의 보호: 프레임워크는 AI 도입이 용어학자의 웰빙이나 언어적 정밀성, 인식론적 다양성, 세계관의 공정한 표현과 같은 전문적 가치를 훼st하지 않아야 함을 강조한다.
   • 편향 완화: 본 논문은 학습 데이터 구성(예: 영어 및 미국 중심 콘텐츠의 지배력)과 알고리즘 작동 방식에서 기인하는 LLM 고유의 편향(언어적, 시간적, 문화적, 인식론적, 사회적 편향)을 상세히 다룬다. 부정확하거나 왜곡된 용어가 유통되는 것을 방지하기 위해, 용어학자가 상류(프롬프트 작성, 출처 선택) 및 하류(비판적 검토, 디바이어싱) 개입을 통해 이러한 편향을 완화하는 데 필수적임을 상정한다.

3. 인간 중심 디자인 (Human-Centered Design, HCD):

   • 사용자 중심 통합: AI 도구는 별도의 챗봇을 통해 접근하는 방식이 아니라, 용어 작업 워크플로우 내에 직접 내장되어 마찰을 줄여야 한다.
   • 참여적 디자인: AI 도구가 전문적 관행과 일치하도록 용어학자들이 도구의 구상, 설계 및 개선 과정에 적극적으로 참여해야 한다.
   • 인지적 에르고노믹스(Cognitive Ergonomics): 시스템은 인지 부하를 줄이고, 설명 가능성(예: 출처 검증을 위한 검색 증강 생성, RAG)을 통해 의사결정을 지원하며, 의도적인 인터페이스 설계(예: 독립적 분석 후에 제안이 나타나도록 하는 확인 대화창, 앵커링 효과 방지)를 통해 주의력 저하와 같은 위험을 완화하도록 설계되어야 한다.

결과 및 발견
본 논문은 새로운 실험 데이터를 제시하는 대신, 기존의 증거들을 종합하여 다음과 같은 결론을 도출한다:

• LLM의 한계: 현재의 LLM은 용어 관련 과업에서 일관성이 없고 신뢰할 수 없다. 특정 맥락(예: 용어 추출)에서는 전통적인 통계적 방법보다 뛰어난 성능을 보일 수 있으나, 빈번하게 환각 현상을 일으키고, 지역적 변이형을 혼동하며, 깊이 있는 개념적 관계 파악에 어려움을 겪는다.
• 인간의 필수불가결성: 이러한 한계와 권위 있는 검증의 필요성 때문에, 인간 용어학자는 여전히 필수적이다. 이들의 역할은 수동적 실행에서 감독, 정교화 및 윤리적 관리자로 전환된다.
• 무분별한 자동화의 위험: 구조화되지 않은 GenAI의 채택은 편향을 증폭시키고, 언어적 다양성을 침식하며, 용어학자의 전문적 주체성을 약화시켜, 작업자가 단순히 기계 출력물의 검증자로 전락하는 "디지털 테일러리즘"으로 이어질 위험이 있다.
• HCAI의 실현 가능성: 번역학의 증거들은 기술이 인간의 판단을 대체하기보다 증강하도록 설계된다면, 높은 수준의 자동화가 강력한 인간 통제와 공존할 수 있음을 시사한다.

의의
본 논문은 인간 중심의 지향점이 단순히 바람직한 수준을 넘어, AI가 용어 작업의 본질적인 역할을 강화하도록 보장하기 위해 반드시 필요하다고 주장한다. 전문적 주체성과 의사결정 권한을 보존함으로써, 이러한 접근 방식은 전문적인 의사소통, 번역, 표준화, 그리고 언어와 문화 간의 지식 전달에 필수적인 용어 산출물의 정확성과 신뢰성을 수호한다. 본 논문은 오늘날 AI 통합에 대해 내리는 결정이 용어 작업이 지식의 정확한 전달을 지속적으로 지원할 것인지, 아니면 편향과 개념적 왜곡의 위험에 굴복할 것인지를 결정할 것이라고 결론짓는다. 또한 용어학자가 AI와 어떻게 상호작용하는지를 경험적으로 평가하고, 다양한 조건 하에서 LLM의 역량을 체계적으로 측정하기 위한 지속적인 연구 과제를 촉구한다.