Algorithmic neutrality

문제 제기
알고리즘이 인간 삶의 중요한 측면들을 점점 더 많이 지배함에 따라, 알고리즘의 공정성에 대한 광범한 담론이 촉발되고 있습니다. 그러나 기술 산업, 대중, 그리고 정책 입안자들이 디지털 세계를 이해하는 방식의 핵심임에도 불구하고, **알고리즘 중립성(algorithmic neutrality)**이라는 개념은 크게 간과되어 왔습니다. 거대 기술 기업들(예: 구글, 메타, 트위터)은 중립성을 비판에 대한 방패이자 지향해야 할 이상으로 자주 호출하는 반면, 비판자들은 도덕적으로 중립적인 알고리즘은 존재할 수 없다고 주장합니다. 본 논문은 알고리즘 중립성의 정의, 가능성, 그리고 규범적 중요성에 관한 체계적인 연구가 부족함을 지적합니다. 구체적으로 저자는 다음과 같은 질문을 던집니다: 알고리즘 중립성이란 무엇인가? 그것은 가능한가? 그리고 그것의 규범적 중요성은 무엇인가?

방법론
본 논문은 기술 철학 및 윤리학에 기반한 개념 분석을 채택합니다. 저자는 다음과 같은 방법론적 단계를 거칩니다:

1. 사례 연구 접근법: 분석은 검색 엔진을 전형적인 사례 연구로 삼아 우선적으로 다룬 후, 이를 광범위한 알고리즘 시스템으로 일반화합니다.
2. 개념적 정의: 저자는 "과학에서의 중립성" 프레임워크를 응용하여 중립성을 정의합니다. 과학적 중립성이 (진리를 목표로 하는) 핵심 과학적 관행에 비학문적 가치(예: 재정적 이익, 정치적 이데올로기)가 개입하지 않을 것을 요구하듯, 알고리즘 중립성은 시스템의 목적(aim) 관점에서 정의됩니다.
3. 다차원성을 통한 논증: 저자는 많은 알고리즘 시스템의 목적(예: 검색에서의 "관련성" 또는 채용에서의 "자격 요건")이 다차원적 개념이라고 주장합니다. 비교 불가능성(incomparability)에 관한 문헌(예: Sen, Parfit)을 인용하며, 저자는 어떤 개념이 특정한 가중치가 부여되지 않은 여러 차원을 가질 때, 그 목적이 시스템의 출력을 결정하기에 불충분하다(underdetermine)고 상정합니다.
4. 역할의 구분: 분석은 외부 가치가 수행할 수 있는 두 가지 역할을 구분합니다: 목적을 **압도(overriding)**하는 것(예: 덜 관련 있는 결과를 더 높게 순위 매기는 것)과 목적을 **보완(supplementing)**하는 것(예: 목적 자체가 불충분할 때 동점을 해결하거나 차원을 가중하는 것)입니다.

주요 기여

1. 알고리즘 중립성의 정의: 본 논문은 알고리즘 중립성을 가치의 부재가 아니라, 시스템의 목적과 외부 가치 사이의 특정한 관계로 규정합니다. 알고리즘 시스템은 오직 시스템의 목적에 외재적인 가치들이 결과 전달 방식에 아무런 역할을 하지 않을 때만 중립적입니다. 관련성이 목적인 검색 엔진의 경우, 중립성은 관련성 이외의 어떤 가치도 순위 결정에 영향을 미치지 않을 것을 요구합니다.
2. 불가능성 테제: 저자는 검색 엔진과 대부분의 강력한 알고리즘 시스템에서 알고리즘 중립성이 불가능함을 입증합니다. "관련성"이나 "자격 요건"과 같은 목적들은 다차원적이기 때문에, 이들은 항목을 순위 매기거나 분류하는 방식을 결정하기에 불충분합니다. 비교 불가능한 경우(모든 차원에서 어느 하나가 다른 하나보다 엄격히 우월하거나 열등하지 않은 경우)에는 외부 가치가 반드시 역할을 해야 합니다. 따라서 외부 가치는 필연적으로 목적을 보완하게 됩니다.
3. 규범적 재평가: 본 논문은 중립성이 **허구적 이상(false ideal)**이자 **결함 있는 방패(faulty shield)**라고 주장합니다.
   • 허구적 이상: 중립성은 본질적으로 선하거나 악한 것이 아닙니다. 규범적 중요성은 시스템이 중립적인가에 있는 것이 아니라, 어떤 외부 가치가 역할을 하는지, 그리고 그들이 어떤 역할을 하는지에 있습니다.
   • 결함 있는 방패: 기업들이 중립성을 방어로 주장하는 것은 개념적으로 일관성이 없습니다. 왜냐하면 진정한 중립성은 불가능하기 때문입니다. 또한, 설령 시스템이 "국지적 중립성"(예: 정치적 가치에 대해 중립적임)을 갖더라도, 다차원적 목적을 가중하는 과정이 불가피하기 때문에 특정 집단에 불이익을 줄 수 있습니다.
4. 편향의 정교화: 논문은 압도적 편향(overriding bias)(외부 가치가 목적을 압도함)과 보완적 편향(supplementing bias)(외부 가치가 목적을 보완함)을 구분합니다. 압도적 편향은 피할 수 있고 흔히 부당한 것으로 간주되지만, 보완적 편향은 불가피합니다. 그럼에도 불구하고, 어떤 가치가 목적을 보완해야 하는지에 대한 비판은 여전히 유효하고 필요합니다.

결과

• 검색 중립성은 불가능하다: 관련성의 다차원적 성격 때문에, 검색 엔진은 오로지 관련성에 기반하여 페이지를 순위 매길 수 없습니다. 페이지들이 서로 비교 불가능할 때, 검색 엔진은 차원(예: 현저성, 주제 적합성)에 가중치를 두기 위해 필연적으로 외부 가치를 사용해야 합니다.
• 전역적 vs 국지적 중립성: "전역적 중립성"(어떠한 종류의 외부 가치도 역할을 하지 않음)은 불가능합니다. "국지적 중립성"(정치적 이데올로기와 같은 특정 종류의 가치가 역할을 하지 않음)은 가능하지만, 차원을 가중하는 과정이 불필요한 불평등을 초래할 수 있으므로 모든 불공정성에 대한 불만을 해결하기에는 불충분합니다.
• 규범적 전환: 논의는 "알고리즘이 중립적인가?"에서 "어떤 가치가 역할을 해야 하며, 어떻게 해야 하는가?"로 전환되어야 합니다. 예를 들어, 아동 보호를 위해 관련성을 압도하는 것(아동 음란물 억제)이나, 사회 정의를 증진하기 위해 관련성을 보완하는 것(동점 상황에서 소수계 소유 기업의 순위를 높이는 것)은 규범적으로 선할 수 있습니다. 반대로, 독점 기업이 재정적 이익을 위해 관련성을 압도하는 것은 흔히 불공정합니다.

의의
본 논문은 알고리즘 중립성이 허구적 이상이자 결함 있는 방패라고 주장합니다.

• 허구적 이상으로서: 중립성 그 자체를 추구하는 것은 이해관계자들이 실질적인 규범적 질문, 즉 어떤 가치가 알고리즘의 결과를 안내해야 하는지, 그리고 시스템의 일차적 목적을 어느 정도까지 추구할 가치가 있는지에 대한 판단을 가로막습니다.
• 결함 있는 방패로서: 기술 기업들이 잘못에 대해 중립성을 주장하는 것은 공허한 방어입니다. 왜냐하면 (1) 이러한 시스템에서 진정한 중립성은 개념적으로 불가능하며, (2) 중립성 자체가 본질적으로 선한 것은 아니기 때문입니다. 본 논문은 논의의 초점이 중립성/비중립성이라는 이분법에서 벗어나, 외부 가치가 알고리즘 의사결정에서 수행하는 구체적인 역할에 대한 미묘한 분석으로 이동해야 한다고 결론짓습니다.