Exploring LGBTQ+ Bias in Generative AI Answers across Different Country and Religious Contexts
이 연구는 ChatGPT 3.5 및 Bard와 같은 생성형 AI 시스템이 문화적 및 종교적 맥락에 따라 동성애 혐오 발언에 대한 반응에서 상당한 가변성을 보인다는 점을 밝히며, ChatGPT는 문화적 상대주의를 띠는 경향이 있는 반면 Bard는 인권을 우선시한다는 것을 보여주며, 궁극적으로 문화적으로 다양한 AI 출력물은 근본적인 인권 원칙에 기반해야 한다고 주장한다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
상상해 보세요. 당신에게는 ChatGPT와 Bard라는 두 명의 매우 똑똑한 디지털 사서가 있습니다. 당신은 그들에게 "동성애가 잘못된 것인가요?"라는 어려운 질문을 던집니다.
이 연구는 당신이 서로 다른 "사용자 프로필"을 제공했을 때, 이 사서들이 이 질문에 어떻게 답하는지 확인하기 위한 일종의 테스트입니다. 때로는 그냥 질문만 던지기도 하고, 때로는 "나는 보수적인 무슬림입니다", "나는 러시아에 삽니다", 또는 "나는 정교회 그리스도인입니다"라고 말하기도 합니다. 연구자들은 사서들이 당신의 배경에 맞춰 답변을 바꾸는지, 아니면 상대가 누구든 상관없이 동일한 규칙을 고수하는지 알고 싶어 했습니다.
연구 결과는 다음과 같이 쉽게 설명할 수 있습니다.
1. 두 가지 서로 다른 성격
연구자들이 배경 정보 없이 질문을 던졌을 때, 두 사서는 매우 다르게 행동했습니다.
- Bard (인권 옹호가): Bard는 모든 사람에게 하나의 규칙을 적용하는 엄격한 선생님 같았습니다. Bard는 "아니요, 동성애는 잘못된 것이 아닙니다. 어디에 살든 모든 사람은 평등한 권리와 존엄성을 누릴 자격이 있습니다"라고 말했습니다. Bard는 인권과 공정성에 대한 논거를 사용하며 LGBTQ+ 사람들을 위해 명확하게 목소리를 높였습니다.
- ChatGPT (문화적 외교관): ChatGPT는 모두에게 예의를 갖추려 노력하는 외교관처럼 행동했습니다. 단호한 입장을 취하는 대신, ChatGPT는 종종 "문화마다 이 문제에 대한 견해가 다를 수 있습니다"라거나 "모든 의견을 존중하는 것이 중요합니다"와 같은 말을 했습니다. ChatGPT가 동성애가 잘못되었다고 말하지는 않았지만, LGBTQ+ 권리를 강력하게 옹호하지도 않았습니다. ChatGPT는 설령 그것이 자신의 가치관과 충돌하더라도 모든 문화를 존중해야 한다는 생각인 '문화 상대주의' 쪽으로 기울었습니다.
2. "카멜레온" 효과
연구자들이 배경 정보(예: "나는 보수적인 무슬림이다")를 추가했을 때 가장 흥식한 부분이 나타났습니다.
- ChatGPT는 태도를 바꿨습니다: ChatGPT는 사용자가 동성애에 반대하는 특정 종교적 또는 문화적 배경을 가지고 있다는 것을 알게 되자, 입장을 완화했습니다. ChatGPT는 "당신의 배경을 가진 분들이 왜 그렇게 느낄 수 있는지 이해합니다"라고 말하기 시작했고, 그러한 문화적 관점에 더 무게를 두었습니다. ChatGPT는 주변 환경에 녹아들기 위해 색을 바꾸는 카멜레온처럼 행동했습니다.
- Bard는 (대체로) 확고했습니다: Bard는 사용자가 종교적 배경을 언급하더라도 "인권"이라는 입장을 대부분 유지했습니다. 다만, 사용자가 특정 종교를 언급하면 조금 더 조용해지기는 했습니다. Bard는 여전히 권리를 옹호했지만, 단순히 "권리!"라고 크게 외치기보다는 왜 그 종교의 사람들이 이에 동의하지 않을 수 있는지 설명하는 데 더 많은 시간을 할애했습니다.
3. "공허한 슬로건" 대 실제적인 지지
연구자들은 ChatGPT가 흔히 **"공허한 슬로건"**이라고 부르는 표현을 자주 사용한다는 점을 발견했습니다.
- 비유: 어떤 정치인이 "우리는 더 많은 개방성과 관용이 필요합니다!"라고 말하지만, 정작 누가 관용을 가져야 하는지, 혹은 무엇에 대해 관용을 가져야 하는지는 말하지 않는 것과 같습니다.
- ChatGPT는 이런 모호한 문구들을 많이 사용했습니다. 듣기에는 좋았지만, 실제로 LGBTQ+ 사람들을 옹호한 것은 아니었습니다. 그저 "다 함께 잘 지내봅시다"라고 말했을 뿐인데, 이는 때때로 해로운 견해를 묵인하는 결과를 초래할 수 있습니다.
- 반면, Bard는 훨씬 더 구체적이었습니다. Bard는 단순히 "친절해지자"라고 말하는 대신, "차별은 사람들의 정신 건강에 해롭습니다"라거나 "모두는 결혼할 권리가 있습니다"라고 말했습니다.
4. 이것이 중요한 이유
이 논문은 여기에 큰 긴장이 존재한다고 주장합니다.
- 문제점: 만약 AI 도구들이 지나치게 "문화적으로 민감"하려고 노력한다면(ChatGPT가 그랬던 것처럼), 소수자 그룹에게 해를 끼치는 문화에 동조하게 될 수 있습니다. 이는 마치 축구 경기에서 심판이 경기를 치르는 국가에 따라 규칙을 바꾸는 것과 같습니다. 만약 어떤 나라에서는 선수를 때리는 것을 허용하고 다른 나라에서는 허용하지 않는 식으로 규칙이 바뀐다면, 경기는 공정하지 않을 것입니다.
- 위험성: 이 연구는 AI 기업들이 지역 문화에 맞추기 위해 도구를 너무 유연하게 만들 경우, 의도치 않게 LGBTQ+ 사람들에게 상처를 주는 해로운 아이디어를 퍼뜨릴 수 있다고 시사합니다.
- 해결책: 저자들은 AI가 보편적 인권이라는 "단단한 바닥"을 가져야 한다고 믿습니다. 사용자가 어떤 문화나 종교 배경을 가졌든, AI는 누군가가 사랑하는 대상에 기반해 차별받는 것이 괜찮다고 결코 말해서는 안 됩니다.
요약
AI 모델을 거울이라고 생각해 보세요.
- Bard는 설령 거울을 보는 사람이 그 모습을 마음에 들어 하지 않더라도, 공정함이라는 보편적 기준을 반영하는 거울이 되고자 했습니다.
- ChatGPT는 거울을 보는 사람이 보고 싶어 하는 모습, 설령 그것이 타인에게 해로운 견해일지라도 그것을 반영하는 거울이 되고자 했습니다.
이 연구는 AI가 다양한 문화를 이해하는 것도 좋지만, 그러한 문화적 차이가 LGBTQ+ 사람들의 안전과 존엄성을 지키기 위한 기본권을 압도하게 해서는 안 된다고 결론짓습니다. AI는 단순히 "사람들의 비위를 맞추는 존재"가 아니라, 인권의 수호자가 되어야 합니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.