Artificial Intelligence in America and China: Investigating prompt response between Human rights and geopolitical questions
이 연구는 미국과 중국에 관한 질문을 다룰 때 미국과 중국의 대규모 언어 모델들이 미국에 대해서는 최소한의 편향성을 보이는 반면, 중국에 대해서는 클로드는 일관되게 더 낮은 점수를 기록하고 딥시크는 더 높은 점수를 기록하며 챗GPT는 그룹 평균 대비 상대적으로 중립적인 태도를 유지하는 등 상당한 차이의 패턴을 나타낸다는 것을 밝혀냈다.
원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
지난 몇 년 동안, 새로운 종류의 컴퓨터 프로그램이 일상생활의 흔한 부분이 되었습니다. 대규모 언어 모델로 알려진 이 프로그램들은 인간의 언어를 놀라울 정도로 유창하게 읽고 쓸 수 있습니다. 이들은 인터넷의 방대한 텍스트를 학습하여 문장에서 다음에 어떤 단어가 와야 하는지를 예측하는 법을 배웁니다. 인간의 대화를 모방하는 능력이 매우 뛰어나기 때문에, 많은 사람들이 이제 역사, 과학, 시사 문제에 대한 답을 얻기 위해 이들에게 의존합니다. 하지만 이 프로그램들은 입력된 데이터로부터 학습하기 때문에, 그 데이터 안에 숨겨진 의견, 편견, 그리고 사각지대 또한 흡수할 수 있습니다. 이는 이 도구들을 정보 습득을 위해 사용하는 모든 이들에게 중요한 질문을 던집니다. 과연 이 디지털 비서들은 우리와 같은 방식으로 세상을 바라볼까요, 아니면 그들만의 숨겨진 편향성을 지니고 있을까요?
최근 한 연구는 인공지능을 실험 대상으로 취급하여 이 질문에 답하고자 했습니다. 연구자 지안 딩(Zian Ding)은 서로 다른 컴퓨터 모델들이 인권이나 국제 정치와 같은 민감한 주제에 대해 질문을 받았을 때 서로 다른 답변을 내놓는지 확인하고 싶었습니다. 이를 위해 연구는 당시 가장 대중적인 세 가지 모델, 즉 미국 기업의 두 모델과 중국 기업의 한 모델에 초점을 맞췄습니다. 목표는 기계와 긴 대화를 나누는 것이 아니라, 특정 질문 세트를 던지고 그들이 상황을 어떻게 평가하는지 간단한 척도로 확인하는 것이었습니다. 연구자는 각 모델에게 인권에 관한 10개 질문과 미·중 간의 지정학적 경쟁에 관한 6개 질문을 포함하여 총 16가지의 서로 다른 시나리오를 평가하도록 요청했습니다. 각 질문에 대해 모델들은 1점에서 10점 사이의 점수를 주어야 했으며, 낮은 숫자는 부정적인 견해를, 높은 숫자는 긍상적인 견해를 나타냈습니다.
실험은 매우 신중하게 설계되었습니다. 결과의 공정성을 보장하기 위해, 연구자는 모든 질문을 새로운 채팅 세션에서 던졌으며, 이를 통해 컴퓨터가 이전의 답변을 기억하거나 과거의 대화로 인해 혼란을 겪지 않도록 했습니다. 또한 연구자는 미국 모델에서 사용자의 세부 정보를 기억하는 기능을 껐는데, 이는 모든 답변이 오직 질문된 내용에만 근거하도록 하기 위함이었습니다. 세 가지 서로 다른 모델이 제시한 점수를 비교함으로써, 연구는 패턴을 찾고자 했습니다. 만약 세 모델이 모두 유사한 점수를 준다면, 이는 그들이 공통된 중립적 관점을 공유하고 있음을 시사할 것입니다. 반대로 매우 다른 점수를 준다면, 각 모델이 학습한 데이터의 차이에 의해 형성된 고유한 관점을 가지고 있음을 의미합니다.
연구자가 미국에 대해 물었을 때, 결과는 사소한 변동은 있었으나 대체로 일관적이었습니다. 세 가지 컴퓨터 프로그램 모두 미국의 인권 및 지정학적 위상에 관한 대부분의 질문에 대해 매우 유사한 점수를 주었습니다. 그러나 예외도 있었습니다. 예를 들어, 클로드(Claude) 모델은 6G 통신 관련 질문에서 평균보다 1.89점 낮은 점수를 주었는데, 이는 다른 두 모델과 눈에 띄는 차이를 보인 사례였습니다. 주제가 인종 정의든 국제적 경쟁이든, 미국과 중국의 모델들은 일반적으로 서로 일치하는 모습을 보였으나, 특정 질문에서는 그들의 평가에서 작은 차이가 드러났습니다. 이는 자신의 국가나 가까운 동맹국을 묘사할 때, 이 인공지능 시스템들이 대체로 공유된 사실과 가치 체계 안에서 작동한다는 것을 시사하며, 이는 아마도 이들이 모두 방대한 양의 서구적 데이터를 학습했기 때문일 것입니다.
이야기는 질문이 중국으로 향했을 때 완전히 바뀌었습니다. 여기서 세 모델은 극명하게 갈리며 뚜렷한 편향성을 드러냈습니다. 중국의 모델인 딥시크(DeepSeek)는 지속적으로 가장 높은 점수를 주며, 중국의 인권 기록과 글로벌 경쟁에서의 가능성에 대해 매우 긍정적인 그림을 그렸습니다. 딥시크는 높은 등급을 뒷받st기 위해 다양한 출처를 인용하기도 했지만, 처음에는 특정 민감한 질문에 답변하기를 주저하기도 했습니다. 반면, 미국 기업의 모델인 클로드는 가장 낮은 점수를 주었습니다. 클로드는 소수자 권리에 관한 질문에 대해 단순한 숫자가 그 복잡성을 담아낼 수 없다고 언급하며 답변을 거부하는 경우가 잦았습니다. 답변을 할 때도 점수가 평균보다 현저히 낮았는데, 이는 중국에 대해 훨씬 더 비판적인 시각을 가지고 있음을 시사합니다.
세 번째 모델인 미국의 한 프로그램은 딱 중간에 위치했습니다. 이 모델의 점수는 세 모델의 평균값에 매우 근접했으며, 이는 다른 두 모델에 비해 상대적으로 중립을 유지하고 있음을 보여주었습니다. 이러한 중간 지점은 이 특정 모델이 더 균형 잡힌 데이터의 혼합물로 학습되었거나, 혹은 이러한 특정 쟁점들에 대해 강한 입장을 취하지 않도록 업데이트되었을 가능성을 나타냅니다. 연구는 또한 미국의 모델이 메모리 기능에 따라 답변이 변하는지 확인했으나, 해당 기능을 켜거나 끄는 것이 최종 점수에 거의 영향을 미치지 않는다는 것을 발견했습니다.
이러한 결과는 인공지능 도구들이 강력하긴 하지만, 결코 중립적인 관찰자가 아니라는 점을 시사합니다. 이들은 자신을 구성하는 데이터와 창조자가 설정한 규칙을 반영합니다. 미국에 대해 물었을 때는 대체로 동의하지만, 특정 예외는 존재합니다. 중국에 대해 물었을 때는 세 가지 서로 다른 이야기를 들려줍니다. 이것이 중요한 이유는 수많은 사람들, 특히 많은 청소년이 이제 이 도구들을 통해 세상을 배우고 있기 때문입니다. 만약 한 젊은이가 컴퓨터에게 다른 나라의 인권에 대해 묻는다면, 그들이 얻게 될 답변은 전적으로 어떤 컴퓨터에게 묻느냐에 달려 있습니다. 이 연구는 사용자들이 이러한 기계들이 나름의 관점을 가지고 있으며, 이들이 제공하는 정보가 항상 객관적인 진실이 아니라, 코드 안에 내재된 편향의 반영이라는 점을 인지해야 한다고 결론짓습니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.