Competing Visions of Ethical AI: A Case Study of OpenAI
OpenAI에 대한 이 사례 연구는 해당 조직의 공적 담론이 안전과 위험을 강력하게 강조하는 반면, 학술 및 옹호 윤리 체계를 통합하는 데는 눈에 띄게 소홀하다는 점을 드러내며, 이는 잠재적인 윤리 세탁(ethics-washing)에 대한 우려와 거버넌스 개선의 필요성을 제기한다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
인공지능(AI)의 세계를 거대하고 북적이는 건설 현장이라고 상상해 보십시오. 이곳에서 만들어지고 있는 기계들은 이야기를 쓰고, 복잡한 수학 문제를 풀며, 심지어 예술 작품을 창조할 수 있을 정도로 믿기지 않을 만큼 강력합니다. 하지만 이 기계들이 너무나 새롭고 빠르기 때문에, 이를 만드는 사람들은 여전히 규칙을 찾아가는 과정에 있습니다. 이 분야에서는 어떻게 하면 이 똑똑한 기계들을 '선하게' 만들 수 있을지에 대한 큰 논쟁이 있습니다. 어떤 이들은 '윤리(ethics)'에 대해 이야기하는데, 이는 도덕적 나침반, 즉 옳고 그름, 공정함, 정의에 대한 깊은 질문들의 집합과 같습니다. 다른 이들은 '안전(safety)'에 대해 이야기하는데, 이는 안전모나 안전벨치처럼 기계가 충돌하거나 누군가를 다치게 하는 것을 막기 위한 실질적인 조치에 가깝습니다. 모두가 이 두 가지가 모두 필요하다는 점에는 동의하지만, 문제는 실제로 누가 무엇에 대해 이야기하고 있으며, 그들이 정한 규칙을 정말로 따르고 있느냐는 것입니다.
이 논문은 AI 세계에서 가장 큰 건설팀 중 하나인 OpenAI라는 회사를 면밀히 살펴봅니다. 연구원들은 이 회사가 이러한 거대한 아이디어들에 대해 시간이 흐름에 따라 어떻게 말해왔는지 알고 싶어 했습니다. 그들은 단순히 회사가 말하는 것을 듣는 데 그치지 않고, 디지털 탐정이 되어 수천 개의 문서, 블로그 게시물, 연구 논문을 스캔하여 회사가 '윤리', '안전', '리스크(위험)', '정렬(alignment)'과 같은 단어를 정확히 얼마나 자주 사용했는지 계산했습니다. 그들은 회사의 공개적인 목소리를 하나의 거대한 도서관처럼 취급하며, 어떤 책이 가장 많이 읽히고 있고 어떤 책이 먼지만 쌓인 채 방치되어 있는지 서가를 확인했습니다.
데이터가 들려주는 이야기는 다소 놀랍습니다. 연구원들이 일반 대중과 소통하는 공간인 OpenAI의 공식 웹사이트를 살펴보았을 때, '윤리'라는 단어는 거의 보이지 않았습니다. 이 단어는 전체 기사의 4% 미만에서 나타났습니다. 이는 마치 집 주인이 '화재 안전'과 '비상구'에 대해서는 계속 이야기하면서도, 정작 본인이 성냥을 들고 있음에도 불구하고 '화재'라는 단어 자체는 단 한 번도 언급하지 않는 집을 방문한 것과 같았습니다. 실제로 '안전'이라는 단어는 1년 동안 거의 700번 등장한 반면, '윤리'는 단 7번만 등장했습니다.
OpenAI의 공개 메시지는 윤리라는 깊고 철학적인 언어 대신, '안전', '리스크', '정렬'과 같은 기술적인 용어들로 가득 차 있었습니다. 연구원들은 회사가 '윤리'라는 단어를 사용할 때조차, 그것이 진지한 토론이라기보다는 헤드라인에서의 짧은 언급이나 문단 속의 한 문장처럼 스쳐 지나가는 수준인 경우가 많다는 것을 발견했습니다. 그것은 마치 윤리라는 단어를 구축을 위한 도구가 아니라 벽에 붙이는 장식품처럼 사용하고 있는 것 같았습니다. 흥란하게도, 연구원들은 회사의 자체 태그와 라벨이 변화하고 있다는 점을 주목했습니다. 때때로 어떤 기사는 '윤리 및 안전'으로 라벨이 붙어 있었지만, 그 안의 본문은 윤리에 대해 거의 언급하지 않았습니다. 이는 라벨이 회사가 생각하는 방식의 깊은 변화를 반영하기보다는, 대중에게 특정한 신호를 보내기 위해 변화하고 있음을 시사합니다.
하지만 연구원들이 회사의 학술 논문, 즉 과학자들을 위해 작성된 진지하고 기술적인 문서들을 살펴보았을 때는 이야기가 약간 달랐습니다. 여기서는 '윤리'라는 단어가 약 17%의 논문에서 더 자주 등장했습니다. 그러나 이러한 진지한 문서들에서도 윤리라는 단어는 연구의 핵심 주제라기보다 여백, 각주, 또는 가치 목록의 짧은 항목으로서 주로 사용되었습니다. 연구원들은 OpenAI가 기술적 안전과 리스크 관리에 대해서는 매우 능숙하게 이야기하지만, '윤리'에 관한 무거운 도덕적 담론은 주로 주변부로 밀어내어, 그들이 기계를 만드는 엄격한 규칙책이라기보다는 평판을 위한 배지처럼 취급한다는 점을 시사합니다.
요약하자면, 이 논문은 OpenAI가 '안전'과 '리스크'를 말하기 위한 매우 큰 확성기를 구축한 반면, '윤리'에 대해서는 목소리를 매우 낮추었다고 제안합니다. 그들이 선을 행한다는 아이디어를 무시하는 것은 아니지만, 그것을 공정함과 정의에 대한 깊은 질문보다는 기술적인 해결책과 위험 회피에 초점을 맞춘 방식으로 프레임화하고 있습니다. 연구원들은 이러한 화법이 회사를 책임감 있게 보이게 만들 수도 있지만, 동시에 무엇이 진정으로 '옳고' '그름'인지에 대한 어렵고 복잡한 질문들이 기술적 안전이라는 벽 뒤로 숨겨져 배경으로 밀려나게 만든다고 결론짓습니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.