A Vision for the Future of an AI-Integrated Research Ecosystem

과학의 세계를 연구자들이 저자, 편집자, 그리고 사서 역할을 하는 거대하고 북적이는 도서관이라고 상상해 보십시오. 오랫동안 이 도서관은 단순한 규칙에 따라 운영되었습니다: 인간이 책을 쓰고, 인간이 사실을 확인하며, 인간이 무엇을 출판할지 결정하는 것입니다. 하지만 최근, 새로운 종류의 조력자가 도착했습니다: 바로 생성형 AI입니다. 이것을 초고속으로 초안을 작성하고, 사실을 찾아내며, 심지어 몇 초 만에 책 한 권 전체를 요약할 수 있는 매우 빠르고 똑똑한 로봇 비서라고 생각해보십시오. 이는 일을 더 빠르게 처리하기 위한 꿈같은 일처럼 들리지만, 도서관에는 약간의 패닉을 불러일으켰습니다. 모두가 이렇게 묻고 있습니다: "만약 로봇이 책을 쓰는 것을 도왔다면, 진짜 저자는 누구인가? 그 이야기는 사실인가? 그리고 만약 로보트가 책을 검토하기까지 시작한다면, 우리는 엉터리로 가득 찬 도서관을 갖게 되지 않을까?" 이 논문은 이 혼란 속으로 뛰어들어 더 큰 질문을 던집니다: 단순히 사람들이 로봇을 사용하는 것을 잡아내는 것에 집중하는 대신, 어떻게 하면 처음부터 신뢰가 내장된 방식으로 도서관 전체를 재설계할 수 있을 것인가?

저자인 라이언 E. 도허티(Ryan E. Dougherty)와 나탈리 키슬러(Natalie Kiesler)는 단순히 추측하는 것이 아니라, 현재 시스템의 균열을 살펴보고 있습니다. 그들은 현재의 초점이 AI를 "감시"하는 것(사람들이 AI를 사용했음을 인정하게 만드는 것)에 맞춰져 있는 것은, 마치 새는 지붕을 고치기 위해 그저 빗물을 받는 양동이를 놓는 것과 같다고 주장합니다. 그것도 필요하지만, 비를 멈추게 하지는 못합니다. 그들은 진짜 문제가 우리가 과학을 공유하는 방식 전체(논문, 리뷰, 그리고 보상)가 이미 어려움을 겪고 있으며, AI는 단지 그 압박을 악화시키고 있다는 점이라고 제안합니다.

우리가 어디로 향하고 있는지 이해하도록 돕기 위해, 저자들은 우리를 2036년으로 여행에 초대하여 두 가지 매우 다른 미래를 보여줍니다.

밝은 미래
2036년, 코딩 교육에 대해 놀라운 발견을 한 한 연구자를 상상해 보십시오. 이 세상에서 그들은 서류 작업과 싸우며 1년을 보내지 않습니다. 대신, AI 도구들이 초정밀하게 조직된 팀의 조력자 역할을 합니다. AI는 즉각적으로 수학적 계산을 확인하고, 데이터를 검증하며, 새로운 발견을 우리가 이미 알고 있는 모든 것과 연결합니다. 그러면 인간 전문가가 개입하여 중대한 질문을 던집니다: "이것이 실제로 중요한가? 이것이 말이 되는가?" 이 미래에서 '논문'은 단순히 정적인 문서가 아닙니다. 그것은 원시 데이터 및 코드와 연결된, 살아 움직이는 객체입니다. 지식은 더 빠르게 흐르고, 찾기 쉬워지며, AI가 지루하고 오류가 잦은 작업을 처리함으로써 인간은 거시적인 관점에 집중할 수 있게 되어 더욱 신뢰할 수 있게 됩니다.

어두운 미래
이제 다른 2036년을 상상해 보십시오. 여기서는 도서관이 물에 잠겨 있습니다. AI가 매일 수백만 편의 연구 논문과 리뷰를 쏟아냅니다. 어떤 인간도 그 많은 것을 다 읽을 수 없기에, 사람들은 요약본의 요약본을 만들어주는 다른 AI에 의존합니다. '과학'의 양은 엄청나지만, 아무도 무엇이 진짜이고 무엇이 가짜인지 알지 못합니다. 출판에 대한 압박은 미친 듯이 높고, 시스템에 대한 신뢰는 무너졌습니다. 이 시나리오에서 도전 과제는 새로운 발견을 찾는 것이 아니라, 어떤 것을 믿을 수 있는지 알아내는 것입니다. 인간들은 시스템이 무너지는 것을 막기 위해 지쳐가고 있지만, 소음이 너무 커서 진실을 들을 수가 없습니다.

저자들은 이 두 가지 이야기를 통해 근본적인 긴장 상태를 강조합니다: 동일한 기술이 과학을 투명하게 만들 수도 있지만, 우리가 방식을 바꾸지 않는다면 과학을 거짓말의 늪으로 만들 수도 있다는 것입니다. 그들은 이 미래 중 하나가 보장되었다고 주장하는 것이 아니라, 대신 우리가 지금 당장 선택을 내려야 함을 보여주기 위해 이 두 가지를 사용합니다.

네 가지 큰 질문
이 선택을 헤쳐 나가기 위해, 저자들은 네 가지 주요 사항을 재고해야 한다고 제 제안합니다:

1. "논문"이 여전히 아이디어를 공유하는 올바른 방법인가?
   현재 연구 논문은 프로젝트의 압축된 스냅샷과 같습니다. 독자가 그 뒤에 있는 원시 데이터나 코드를 볼 수 없다고 가정합니다. 하지만 오늘날 우리는 모든 것을 공유할 수 있는 도구를 가지고 있습니다. 저자들은 '논문'이 주된 사건이 되어서는 안 된다고 제안합니다. 대신, 실제 연구 객체는 데이터와 코드 자체가 되어야 하며, 이는 쉽게 찾고 재사용할 수 있어야 합니다(그들이 "FAIR"라고 부르는 개념). 논문은 단지 그 데이터의 이야기를 들려주는 하나의 방식일 뿐입니다. 이렇게 하면 AI가 어디에서 도움을 주었고 어디에서 인간이 핵심적인 역할을 했는지 명확해집니다.

2. "리뷰"는 어떤 모습이어야 하는가?
   현재 동료 검토(전문가가 출판 전 논문을 확인하는 과정)는 망가져 있습니다. 연구에 따르면 서로 다른 검토자 그룹이 동일한 논문에 대해 극명하게 의견이 갈리는 경우가 많습니다. 때때로 리뷰는 그저 무작위적인 추측에 불과합니다. 게다가 검토자들은 종종 익명이며 보수를 받지 않기 때문에, 부주의하거나 심지어 AI가 생성한 리뷰가 몰래 통과되기도 합니다. 저자들은 리뷰가 단순히 판결(합격 또는 불합격)이 아니라, 그 자체로 가치 있는 기여가 되어야 한다고 주장합니다. 우리는 리뷰를 실제 학술 활동처럼 취급해야 합니다: 검토자에게 공로를 인정하고, 그들의 작업을 확인하며, 그들이 단순히 체크박스를 채우는 것이 아니라 실제로 도움이 되고 있는지 확인해야 합니다.

3. 인간 검토자가 여전히 필요한가?
   저자들은 AI가 인용구가 진짜인지, 혹은 수학적 계산이 맞는지와 같은 지루한 부분을 검토하는 데 탁월하다고 제안합니다. 하지만 아이디어가 중요한지, 공정한지, 창의적인지를 판단하는 '영혼'의 영역에는 인간이 필요합니다. 만약 AI가 검증 작업을 수행한다면, 아마도 우리는 똑같은 지루한 확인 작업을 수행하는 데 많은 인간을 투입할 필요가 없을 것입니다. 그러나 우리는 편향을 포착하고 무엇이 중요한지 결정하기 위해 반드시 인간이 필요합니다. 위험한 점은, 만약 우리가 모든 것을 AI에게 맡긴다면, 과학을 정직하게 유지하는 인간의 판단력을 잃을 수도 있다는 것입니다.

4. 우리는 누구의 이익을 대변하고 있는가?
   시스템 내의 모든 구성원은 서로 다른 것을 원합니다: 저자는 빠르게 출판하기를 원하고, 검토자는 업무를 줄이고 싶어 하며, 편집자는 고품질의 논문을 원합니다. AI는 각자의 직무에서 번거로운 부분을 자동화하기 쉽게 만들지만, 만약 우리 모두가 힘든 일을 피하기 위해 자동화에만 의존한다면, 시스템은 빨라질지언정 아무것도 배우지 못할 것입니다. 저자들은 단순히 빠르게 하는 것이 아니라, 선하고 정직한 과학을 수행하는 것이 보상받는 방식으로 규칙을 바꿔야 한다고 주장합니다.

세 가지 큰 도전 과제
저자들은 우리가 단 하나의 도구로 이를 "해결"할 수 없다고 결론짓습니다. 대신 공동체가 함께 해결해야 할 세 가지 큰 도전 과제를 제안합니다:

• 교정된 신뢰 (Calibrated Trust): 우리는 AI 도구가 얼마나 신뢰할 수 있는지 측정할 방법이 필요합니다. 현재 "AI가 도왔다"라고 말하는 것은 그저 주장일 뿐입니다. AI가 얼마나 자주 사실을 지어내거나 오류를 놓치는지 알 수 있는 표준 테스트가 필요하며, 그래야 우리가 언제 그것을 믿을 수 있을지 알 수 있습니다.
• 출처 (Provenance - 종이 기록): 우리는 정확히 어떤 도구가 어떻게 사용되었는지를 자동으로 기록하는 시스템이 필요합니다. 모든 논문에 AI가 어디에 사용되었고 어디에서 인간이 개입했는지를 보여주는 디지털 영수증이 함께 따라오는 것을 상상해 보십시오. 이것은 연구자들이 사용하는 소프트웨어에 내장되어야 합니다.
• 합성된 세계에서의 무결성 (Integrity in a Synthetic World): AI가 무엇이든 써낼 수 있는 상황에서, 오용을 막기 위해 단순히 AI를 "탐지"하는 것에만 의존할 수는 없습니다. 그것은 패배가 예정된 싸움입니다. 대신, 누가 혹은 무엇이 썼는지와 상관없이 작업의 가치가 명확해지는 문화를 구축해야 합니다.

앞으로 나아갈 길
이 논문은 마법 지팡이를 제시하지 않습니다. 대신 사고방식의 전환을 제안합니다. 우리는 AI를 감시하려고 노력하는 것을 멈추고, 신뢰할 수 있는 과학이 기본값이 되도록 만드는 인프라를 구축하기 시작해야 합니다. 이는 데이터를 논문만큼 가치 있게 여기고, 리뷰를 실제 업무로 취급하며, 신뢰를 측정하는 새로운 방법을 만드는 것을 의미합니다.

저자들은 공동체 전체에 행동 촉구를 하며 끝을 맺습니다: 과학자로서 우리가 실제로 무엇을 가치 있게 여기는지에 대해 큰 대화를 나눕시다. 우리는 속도를 원하는가, 아니면 진실을 원하는가? 우리는 더 많은 논문을 원하는가, 아니면 더 나은 아이디어를 원하는가? 기술은 어느 쪽이든 우리를 더 빠르게 만들겠지만, 그것이 우리를 더 낫게 만들 것인지는 우리가 오늘 내리는 선택에 달려 있습니다. 과학의 미래는 로봇이 무엇을 할 수 있느냐에 관한 것이 아니라, 우리 인간이 그들과 함께 무엇을 만들기로 결정하느냐에 달려 있습니다.