From Epistemic Justification to Methodological Decision: The Epistemicization of Hypotheses and the Status of H₀–H₁ in Scientific Research

과학은 종종 질문으로부터 하나의 부정할 수 없는 진리로 이어지는 직선으로 상상되곤 한다. 실험실에서 연구자는 아이디어를 제안하고, 데이터를 수집하며, 자신의 아이디어가 옳다는 것을 증명하기를 희망한다. 한 세기 넘게 철학자들은 우리가 어떻게 과학적 아이디어가 실제로 참인지 확신할 수 있는지에 대해 논쟁해 왔으며, 실재와 일치하는지 확인하는 검증(verification)과 무언가를 틀렸음을 증로하려는 반증(falsification) 같은 개념들에 집중해 왔다. 이러한 논쟁은 지식에 대한 우리의 생각을 형성했지만, 과학자들이 수행하는 실제적인 일상 업무에 대해서는 공백을 남겨두었다. 연구자들은 진리의 본질에 대해 논쟁하는 동안, 심리학에서 농업에 이르는 다양한 분야의 연구자들은 결코 완벽하게 명확하지 않은 데이터를 바탕으로 결정을 내리느라 분주하다. 그들은 불확실성, 작은 표본 크기, 그리고 무작위 소음(random noise)에 직면하며, 절대적인 확실성을 기다리지 않고 앞으로 나아갈 방법이 필요하다. 바로 여기서 통계적 의사결정의 도구들, 구체적으로는 과학자들이 답을 100% 확신할 수 없을 때조차 행동할 수 있게 해주는 20세기에 개발된 체계가 등장한다.

누하치 야잔 대학교(Nuh Naci Yazgan University)의 연구자인 뷜렌트 바야트(Bülent Bayat)의 새로운 논문은 이 두 세계 사이에서 커져온 깊은 혼란, 즉 철학적 진리 탐구와 실질적인 의사결정의 필요성 사이의 혼란을 조사한다. 이 논문은 과학자들과 교과서들이 통계적 도구를 마치 철학적 증명인 것처럼 취급함으로써 근본적인 실수를 저질러 왔다고 주장한다. 수십 년 동안 연구자들은 자신의 아이디어를 테스트하기 위해 표준적인 방법을 사용해 왔으며, 종종 자신의 예측을 '가설'이라고 명명한 뒤 통계적 검정을 바탕으로 그것이 '증명되었다'거나 '반증되었다'고 선언해 왔다. 바야트는 이것이 범주 오류(category error)라고 제안한다. 문제의 통계 체계인 네이만-피어슨 의사결정 이론(Neyman–Pearson decision theory)은 우주에서 무엇이 참인지를 알려주기 위해 설계된 것이 아니다. 대신, 그것은 과학자 집단이 불확실성에 직면했을 때 다음에 무엇을 할지에 대해 일관되고 합리적인 선택을 하도록 돕기 위해 만들어졌다.

문제의 핵심은 이 통계적 게임의 두 주요 등장인물을 어떻게 말하느냐에 있다. 표준적인 접근 방식에서 연구자는 '귀무가설(null hypothesis)'을 설정하는데, 이는 기본적으로 아무런 흥미로운 일이 일어나지 않고 있다는 기본 가정이며, '대립가설(alternative hypothesis)'은 무언가 일어나고 있다는 연구자 자신의 아이디어이다. 데이터가 들어오면 연구자는 자신의 아이디어를 지지하기 위해 기본 가정을 기각할지 결정한다. 바야트는 이 체계의 원래 설계에서 이 두 아이디어는 현실에 대한 경쟁적인 주장으로 의도된 것이 아니었다고 지적한다. 그것들은 하나는 참이고 다른 하나는 거짓인 대칭적인 반대 개념으로 의도된 것이 아니었다. 대신, 그것들은 의사결정 과정을 위한 두 가지 서로 다른 경로로 설계되었다. 목표는 진리를 찾는 것이 아니라, 실수를 범할 위험을 제어하는 것이었다. 이 체계는 과학자들이 "만약 아무 일도 일어나지 않는다고 가정한다면, 이 정도로 극단적인 데이터를 볼 확률은 매우 낮으므로, 우리는 무언가 일어나고 있는 것처럼 행동하기로 선택하겠다"라고 말할 수 있게 해준다. 이것은 행동에 관한 규칙이지, 사실에 대한 진술이 아니다.

이러한 명확한 설계에도 불구하고, 이 방법이 가르쳐지고 사용되는 방식은 원래의 의도에서 크게 벗어나 왔다. 교과서와 연구 논문들은 기본 가정을 기각하는 것을 연구자의 아이디어가 참이라는 '증거'로 자주 묘사한다. 그들은 마치 가설이 우주에 의해 검증된 것처럼 가설을 '수용'한다고 말한다. 바야트는 이러한 혼란이 지식을 정당화하는 방법에 중점을 두었던 긴 철학적 논쟁의 역사에서 비롯되었다고 추적한다. 철학자들이 검증과 반증에 대해 오랫동안 논쟁했기 때문에, 과학자들은 자신들의 통계적 검정이 그러한 철학적 이론들의 실질적인 적용이라고 믿기 시작했다. 그들은 통계적 출력을 이론의 진위에 대한 직접적인 판결로 취급하기 시작했다. 논문은 이것이 오해라고 주장한다. 통계적 검정은 당신의 이론이 참인지 알려주는 것이 아니라, 당신이 수집한 데이터가 미리 합의된 행동 변화 규칙을 촉발할 만큼 충분히 이례적인지를 알려줄 뿐이다.

이러한 혼란은 과학을 오도할 수 있는 의례적인 방식으로 이어졌다. 연구자들은 종종 H1부터 H14까지 번호가 매겨진 긴 가설 목록을 작성하며, 각 가설을 증명하거나 반증되어야 할 별개의 주장처럼 취급한다. 그들은 마치 통계적 검정이 현실에 대한 최종 판결을 내린 것처럼 "가설이 지지되었다"라거나 "귀무가설이 반증되었다"와 같은 언어를 사용한다. 바야트는 이러한 언어가 위험하다고 설명하는데, 왜냐하면 그것이 통계적 검정이 실제로는 위험을 관리하기 위한 도구일 뿐이라는 사실을 숨기기 때문이다. 과학자가 귀무가설을 "반증했다"라고 말할 때, 그는 대립가설이 참임을 증명했다는 뜻이 아니다. 그는 단지 데이터가 기본 가정하에서는 일어날 가능성이 낮았기 때문에 특정 경로를 따르기로 결정했으며, 자신이 틀릴 수도 있는 작고 미리 정의된 확률을 수용하겠다는 의미일 뿐이다. 이 체계는 개별 연구가 절대적 진리를 찾아냈음을 보장하기 위해서가 아니라, 많은 연구를 거듭하며 집단으로서의 과학자들이 오류를 적게 범하도록 보장하기 위해 설계되었다.

또한 논문은 이러한 혼란이 연구자의 역할에 대한 이해에 어떤 영향을 미치는지 살펴본다. 철학적 관점에서 과학자는 진리를 찾는 탐구자이며, 가능한 한 정확한 세계의 그림을 구축하려고 노력하는 사람이다. 의사결정 이론의 관점에서 과학자는 위험 관리자이며, 장기적인 오류율을 낮게 유지하는 선택을 하려고 노력하는 사람이다. 이들은 서로 다른 직업이다. 이 둘을 혼동함으로써, 우리는 통계적 도구에게 그것이 만들어진 목적 이상의 일을 요구하게 된다. 우리는 결정 규칙에게 무엇이 실재하는지를 말해달라고 요구하는데, 그것은 단지 언제 행동해야 하는지를 알려주기 위해 설계되었을 뿐이다. 이는 우리가 데이터로부터 그것이 줄 수 있는 것보다 더 많은 것을 요구하게 만들고, 결국 과학적 결론이 확실해 보이지만 실제로는 단지 기계적인 과정의 결과일 뿐인 상황을 초end 만든다.

바야트의 작업은 우리가 이러한 통계적 도구 사용을 중단해야 한다고 제안하는 것이 아니다. 반대로, 논문은 이러한 도구들이 불확실성에도 불구하고 우리가 앞으로 나아갈 수 있게 해주기 때문에 현대 과학에 필수적이라고 주장한다. 문제는 도구 자체가 아니라 그 결과를 어떻게 해석하느냐이다. 해결책으로 제시된 것은 통계적 결정을 철학적 진리의 틀 안에 억지로 밀어 넣는 것을 멈추는 것이다. 대신, 우리는 이 도구들이 다른 범주에 속한다는 것을 인식해야 한다: 그것들은 우리가 답을 모를 때 어떻게 행동할지를 규제하는 방법이다. 만약 우리가 "무엇이 참인가"라는 질문과 "다음에 무엇을 해야 하는가"라는 질문을 분리할 수 있다면, 우리는 이 도구들을 더 효과적으로 사용할 수 있다. 우리는 통계적 검정이 이론을 증명했다고 가장하는 것을 멈추고, 그것이 단지 어려운 조건 하에서 합리적인 선택을 하도록 도와주었음을 이해하기 시작할 수 있다.

논문은 과학의 역사가 지식의 의미를 걱정하는 철학자들과 의사결정의 메커니즘을 걱정하는 통계학자들 사이에 분열을 만들어냈다고 결론짓는다. 오랫동안 이 두 집단은 서로 엇갈린 대화를 나누어 왔으며, 이는 과학자들이 자신의 통계적 검정이 철학적 증명이라고 생각하는 현재의 혼란을 초래했다. 바야트는 나아갈 방향이 통계를 더 철학적으로 만들기 위해 수정하는 것이 아니라, 두 수준을 명확히 구분하는 것이라고 제안한다. 우리는 H0와 H1 구조가 우리의 결정을 조직하기 위한 방법이지, 현실의 지도라는 점을 이해해야 한다. 이러한 구분을 받아들임으로써, 과학자들은 자신들의 도구가 위험과 불확실성에 기반한 결정을 내리는 것임을 인정하며, 절대적 진리를 발견했다고 주장하기보다는 더 정직하고 명료하게 도구를 사용할 수 있다. 이러한 관점의 전환은 과학을 약화시키는 것이 아니라, 우리의 방법론을 실제 목적에 부합하게 함으로써 과학을 더욱 강화한다.