Ethics in Online Software Experimentation: A Body of Knowledge and the Cactus Model

디지털 세상에서 기업들은 소프트웨어를 더 좋게, 더 빠르게, 혹은 더 매력적으로 만들기 위해 끊임없이 소프트웨어를 미세하게 조정합니다. 그들은 버튼의 색상을 바꾸거나, 메뉴를 재배치하거나, 가격을 보여주는 새로운 방식을 테스트할 수도 있습니다. 이러한 변화가 효과가 있는지 확인하기 위해, 그들은 흔히 온라인 실험이라고 불리는 것을 실행하곤 합니다. 이 테스트에서 실제 사람들이 자신들이 연구의 일부라는 사실을 항상 알지 못한 채 소프트웨어를 사용하게 됩니다. 한 가지 흔한 방법은 사용자 그룹 중 하나에는 기능의 버전 A를 보여주고, 다른 그룹에는 버전 B를 보여준 뒤 그들의 행동을 비교하는 것입니다. 이러한 접근 방식은 기업이 사람들이 무엇을 원하는지 배우는 데 도움을 주지만, 동시에 평범한 사용자들을 자신의 선택과 데이터가 가설 검증을 위해 조작되는 상황에 놓이게 만듭니다. 이러한 관행은 혁신을 이끌어내기도 하지만, 한 가지 조용하지만 심각한 질문을 던집니다. 기업이 이러한 테스트를 수행할 수 있다고 해서, 반드시 해야만 하는가? 그리고 만약 한다면, 어떻게 하면 소프트웨어를 가능하게 하는 사람들에게 피해를 주지 않을 수 있을까?

브라질의 두 연구자는 이러한 디지털 테스트의 윤리적 측면을 살펴봄으로써 이 질문들에 대한 답을 찾고자 했습니다. 그들은 많은 기업이 이러한 실험을 수행하고 있음에도 불구하고, 사람들을 공정하게 대우하는 규칙들이 종종 모호하거나, 흩어져 있거나, 혹은 완전히 무시되고 있다는 점에 주목했습니다. 연구자들은 소프트웨어 팀이 실제로 사용할 수 있는 명확한 가이드를 구축하고자 했습니다. 그들은 단순히 옳고 그름에 대한 추상적인 아이디어를 나열한 것이 아니라, 이러한 테스트 중에 발생하는 구체적인 문제들을 수집하고 이를 해결할 실질적인 방법들과 매칭했습니다. 그들의 목표는 전문가들이 단 하나의 테스트를 출시하기 전부터 그들의 실험이 가져올 도덕적 결과에 대해 숙고할 수 있도록 돕는 모델(카쿠스 모델)을 만드는 것이었습니다.

이 가이드를 구축하기 위해, 연구자들은 광범위한 기존 정보를 살펴보았습니다. 그들은 우선 지속적이고 온라인적인 실험(continuous and online experimentation)의 윤리에 관한 특정 연구들을 검색했으나, 이 주제에 대해 쓰인 글이 매우 적다는 것을 발견했습니다. 문제는 단지 몇 편의 논문만으로는 해결하기에 너무 크다는 것을 깨달은 그들은 검색 범위를 넓혔습니다. 그들은 인공지능, 일반 컴퓨터 과학, 심지어 의학 연구와 같은 관련 분야의 윤리 규칙들을 살펴보았습니다. 그들은 공통된 주제를 찾기 위해 행동 강령, 기술 지침, 학술 논문들을 읽었습니다. 이 방대한 자료 집합으로부터 그들은 정직, 공정성, 개인의 선택 능력에 대한 존중과 같은 16가지 핵심 윤리 원칙을 식별해 냈습니다. 그런 다음 그들은 이러한 원칙들이 현실 세계에서 구체적으로 어떤 방식으로 위반되는지 깊이 파고들어 48가지의 구체적인 사례를 찾아냈습니다. 예를 들어, 사용자에게 테스트의 진정한 목적을 숨기거나, 사람들이 자신에게 해로운 결정을 내리도록 속이는 시스템을 설계하는 것이 위반 사례가 될 수 있습니다.

문제들을 목록화한 후, 연구자들은 이를 해결할 53가지 방법을 찾아냈습니다. 그들은 이를 단순히 무작위 목록으로 남겨두지 않고, 모두 서로 연결했습니다. 그들은 어떤 특정 해결책이 어떤 특정 문제를 해결하며, 그 해결책이 근저에 깔린 윤리적 원칙을 어떻게 뒷받침하는지를 보여주었습니다. 이는 구조화된 지식의 지도를 만들어 냈습니다. 이것은 "만약 당신이 이 문제를 발견한다면, 취해야 할 구체적인 행동은 이것이며, 그것이 보호하는 가치는 이것이다"라고 말해주는 도구입니다. 이 지도는 그들의 주요 기여인 '카쿠스 모델(Cactus Model)'이라 불리는 새로운 사고방식의 토대가 되었습니다.

카쿠스 모델은 이러한 실험을 책임지는 사람들이 더 나은 결정을 내릴 수 있도록 설계되었습니다. 이름은 척박한 환경에서도 보호막을 가지고 살아남는 끈질긴 식물인 선인장에서 유래했습니다. 마찬가지로, 이 모델은 빠르고 압박감이 심한 소프트웨어 개발 환경에서 윤리적 의사결정을 위한 보호 구조를 제공합니다. 이 모델은 팀에게 정확히 무엇을 해야 한다고 말하지는 않지만, 그들의 선택이 가져올 결과에 대해 숙고할 수 있는 단계적인 방법을 제시합니다. 모델은 서로 유기적으로 작동하는 네 가지 층위로 구성되어 있습니다.

첫 번째 층위는 잠재적인 문제를 찾기 위해 실험을 면밀히 살펴보는 것입니다. 팀은 "무엇이 잘못될 수 있는가?"라고 묻습니다. 그들은 윤리적 문제 지도를 사용하여 설계를 점검합니다. 그들은 테스트가 투명한지, 모든 사용자를 공정하게 대하는지, 혹은 사용자의 거부권을 존중하는지 등을 묻습니다. 그들은 문제가 발생할 가능성이 얼마나 높은지, 그리고 얼마나 많은 사람에게 영향을 미칠지를 평가합니다. 이 단계는 막연한 걱정을 구체적이고 식별 가능한 이슈로 바꿉니다.

두 번째 층위는 결과를 따져보는 것입니다. 여기서 팀은 발견한 문제들을 두고 "왜 우리가 이 문제들을 무시하고 싶어 하는가?"라고 자문합니다. 종종 시간을 절약하거나 돈을 더 벌기 위한 것과 같은 비즈니스적인 이유가 팀으로 하여금 윤리적 안전장치를 건너뛰도록 유혹합니다. 모델은 그 유혹을 직접 적게 하고, 이를 초래할 수 있는 해악과 직접 비교하도록 강제합니다. 그들은 사용자의 신뢰, 개인정보 보호, 그리고 웰빙에 미칠 영향을 살펴봅니다. 이 단계는 결정이 단순히 직감에 의한 것이 아니라, 트레이드오프(상충 관계)가 명확히 드러난 합리적인 선택이 되도록 보장합니다.

세 번째 층위는 행동을 취하는 것입니다. 팀이 위험과 이득을 저울질한 후에는 무엇을 할지 결정합니다. 계획대로 실험을 진행하거나, 문제를 해결하기 위해 설계를 변경하거나, 혹은 실험을 완전히 취소할 수 있습니다. 만약 진행하기로 결정했다면, 모델은 그들이 사용자를 보호하기 위해 지도에서 구체적인 해결책을 선택하도록 안내합니다. 예를 들어, 만약 불공정한 대우의 위험을 발견했다면, 모든 사용자 그룹이 동등하게 대우받도록 하는 규칙을 추가할 수 있습니다. 이 단계는 그들의 윤리적 추론을 소프트웨어나 테스트 과정의 구체적인 변화로 전환합니다.

마지막 층위는 경험으로부터 배우는 것입니다. 실험이 끝난 후, 팀은 일어난 일을 되돌아봅니다. 그들은 자신들이 내린 선택을 검토하고 그 예측이 맞았는지 확인합니다. 그들은 다음에 실험을 수행할 때 더 잘할 수 있도록 배운 점을 기록합니다. 이 단계는 단일 실험을 조직 전체의 교훈으로 바꾸어 주기 때문에 매우 중요하며, 미래에 똑같은 실수를 반복하지 않도록 돕습니다.

연구자들은 다양한 가격 전략을 테스트하고자 했던 한 배달 앱의 실제 사례를 통해 이 모델을 테스트했습니다. 그들은 팀이 가격을 변경하는 것이 사용자들에게 불공정하거나 혼란스럽게 느껴질 수 있다는 점을 어떻게 포착할 수 있는지 보여주었습니다. 층위들을 따라가면서, 팀은 가격이 어떻게 설정되는지에 대해 더 정직해져야 하며, 취약한 사용자들이 불공정하게 타겟팅되지 않도록 보장해야 한다는 점을 깨달았습니다. 그 후 그들은 지도에 있는 구체적인 해결책들을 사용하여 계획을 조정했고, 사용자들에게 명확한 설명을 추가하고 테스트 대상에 포함될 수 있는 범위에 제한을 두었습니다. 이 사례는 모델이 단일 테스트뿐만 아니라 동시에 일어나는 여러 테스트 군(families of tests)에도 작동하며, 팀이 매번 처음부터 시작할 필요 없이 여러 다른 프로젝트에 걸쳐 동일한 윤리적 표준을 적용할 수 있음을 보여주었습니다.

본 연구는 이러한 실험을 실행할 도구는 강력하지만, 이를 윤리적으로 가이드할 도구는 부족해 왔다고 결론짓습니다. 연구자들은 그 간극을 메우기 위해 지식 체계와 사고 모델을 제공했습니다. 그들은 이것이 모든 윤리적 딜레마를 영원히 해결하는 최종적인 해결책이 아니라는 점을 강조합니다. 대신, 이것은 보이지 않는 것을 보이게 만드는 출발점입니다. 이는 소프트웨어 팀이 코드나 데이터와 동일한 언어로 윤리를 이야기할 수 있게 해줍니다. 윤리적 추론 과정을 명확하고 구조화함으로써, 이 모델은 혁신을 향한 추진력이 기술을 사용하는 사람들의 희생을 담보로 하지 않도록 돕습니다. 이 연구는 적절한 프레임워크가 있다면, 기업들이 사용자를 존엄과 존중으로 대하면서도 계속해서 그들로부터 배울 수 있다는 점을 시사합니다.