AI-generated Academic Publications and Research Integrity: A Cross-National Analysis of Trends, Detection Methods, and Policy Responses (India vs. Global Standards, 2020-2026)

학술 연구라는 조용하고 엄격한 세계에서, 신뢰의 기초는 출판된 논문의 단어들이 그것을 주장하는 인간의 정신에 의해 쓰였다는 단순한 약속 위에 세워집니다. 수 세기 동안 이 시스템은 전문가들이 타인의 저작물을 검토하여 정직성과 독창성을 확인하는 동료 검토(peer review)에 의존해 왔습니다. 그러나 이 약속에 도전하는 새로운 기술이 등장했습니다. 거대 언어 모델은 인간의 글쓰기와 유사하게 유창하고 설득력 있는 텍스트를 생성할 수 있는 컴퓨터 프로그램입니다. 이러한 도구들은 몇 분 만에 논문 전체를 초안할 수 있습니다. 동시에, 이러한 기계 작성 텍스트를 더욱 인간처럼 보이게 만들기 위해 작은 결함과 변화를 추가하여 위장하도록 설계된 새로운 유형의 소프트웨어가 등장했습니다. 이는 과학계에 어려운 상황을 초래합니다. 만약 논문이 컴퓨터에 의해 작성되었음에도 사람이 쓴 것처럼 제출된다면, 이는 인류 지식의 기록을 오염시킵니다. 이는 단순히 부정행위의 문제가 아닙니다. 정확한 데이터에 의존하는 의료 처치, 공학 표준, 정책 결정의 신뢰성을 위협하는 일입니다. 오늘날 과학자들이 직면한 핵심 질문은 단순히 이런 일이 일어나고 있는지 여부가 아니라, 얼마나 광범위하게 퍼져 있는지, 그리고 우리가 가진 규칙과 도구가 이를 막기에 충분한지 여부입니다.

P.P. 사바니 대학교(P.P. Savani University)의 자이니시 바가트(Jainish Bhagat)가 수행한 최근 연구는 이러한 질문들을 수치적 근거를 통해 다룹니다. 이 연구는 이러한 글쓰기 도구들이 급격히 부상했던 시기인 2020년부터 2026년 사이의 인도와 글로벌 패턴을 비교합니다. 저자는 철회된 논문의 데이터베이스, 저널 제출물을 검사하여 컴퓨터 생성 징후를 찾아낸 연구, 그리고 대학 정책에 대한 설문조사를 포함한 다양한 출처로부터 데이터를 수집했습니다. 그들은 컴퓨터 생성 콘텐츠가 감지 가능한 상태로 포함된 원고 제출 건수가 폭발적으로 증가했다는 사실을 발견했습니다. 전 세계적으로 이 수치는 6년 동안 거의 2,850% 성장했습니다. 인도에서는 그 성장이 더욱 가팔라 3,100% 이상 상승했습니다. 이것이 인도의 모든 논문이 가짜라는 의미는 아니지만, 이러한 도구를 사용하여 원고를 만드는 사용 속도가 세계 평균보다 빠르게 가속화되고 있음을 나타냅니다. 연구는 이것이 급격히 확장되는 연구 공동체, 출판에 대한 강렬한 압박, 그리고 학술적 산문을 작성할 수 있는 도구의 가용성 증가가 결합된 요인에 의해 주도되고 있다고 시사합니다.

연구진은 그다음으로 이러한 컴퓨터 생성 논문들이 실제로 저널에 제출되는 논문들 중 얼마나 흔한지를 살펴보았습니다. 그들의 분석에 따르면, 전 세계 제출물의 약 18%, 그리고 인도의 제출물 중 21%가 인공지능에 의해 작성되었거나 그 도움을 받았음을 나타내는 흔적을 포함하고 있습니다. 이는 소수의 고립된 사례라기에는 매우 상당한 비중입니다. 또한 연구는 특정 분야가 다른 분야보다 더 영향을 받는지 조사했습니다. 그 결과 컴퓨터 과학 및 의학과 같은 기술적 주제에서 더 높은 탐지율을 보였는데, 이는 이 분야들이 높은 압박을 받을 뿐만 아니라 이러한 도구들이 잘 생성해내는 유형의 언어에 크게 의존하기 때문인 것으로 보입니다. 그러나 이 문제는 한 가지 유형의 연구에 국한되지 않으며, 사회 과학과 공학 분야 전반에 걸쳐 나타납니다.

연구의 주요 부분은 이러한 논문들을 잡아내는 도구들에 집중되었습니다. 저자는 특이한 단어 패턴을 찾는 소프트웨어와 텍스트의 예측 가능성을 측정하는 통계적 분석을 포함한 다양한 탐지 방법을 테스트했습니다. 그들은 단일 방법으로는 완벽한 것이 없다는 것을 발견했습니다. 논문이 컴퓨터에 의해 직접 작성된 경우, 탐지 도구는 약 62%에서 78%의 확률로 이를 정확히 식별할 수 있습니다. 그러나 텍스트가 탐지기를 속이도록 설계된 "휴머니저(humanizer)" 소프트웨어를 통과할 경우 상황은 변합니다. 이 경우 단일 방법 탐지기의 정확도는 현저히 떨어집니다. 연구는 가장 효과적인 접근 방식이 언어적 패턴, 통계적 이상 징후, 정보 출처 검증 등 여러 가지 다른 방법들을 결합하는 것이라고 결론짓습니다. 이러한 결합된 접근 방식을 사용하더라도 도구들은 여전히 위장된 콘텐츠의 일부를 놓치기 때문에, 사기와 탐지 사이의 전쟁은 계속 진행 중입니다.

또한 이 논문은 대학들이 이 도전에 어떻게 대응하고 있는지 조사했습니다. 연구진은 100개의 인도 대학을 대상으로 설문 조사를 실시하고 이들의 정책을 50개의 선도적인 글로벌 기관들과 비교했습니다. 그들은 상당한 격차를 발견했습니다. 인도의 대학 중 단 34%만이 연구에서의 인공지능 사용을 명시적으로 다루는 공식적인 정책을 보유하고 있었습니다. 반면, 글로벌 표본의 67%는 그러한 정책을 가지고 있었습니다. 더욱이, 인도에 존재하는 정책들은 대개 이러한 도구의 사용을 전면 금지하는 엄격한 금지 조치인 경향이 있습니다. 전 세계적으로 많은 기관은 다른 접근 방식, 즉 인공지능의 사용을 허용하되 저자가 이를 명확히 공개하는 방향으로 움직이고 있습니다. 연구는 엄격한 금지가 오히려 이러한 행위를 지하로 숨어들게 만들어 탐지를 더 어렵게 만드는 반면, 투명성 정책은 책임감을 창출하는 시스템을 만든다고 주장합니다. 연구자가 도구 사용을 인정하면 그 사용 방식에 대해 판단을 받을 수 있지만, 이를 숨기면 사기를 저지르는 것이 됩니다.

이러한 발견을 바탕으로, 저자는 정당한 혁신을 저해하지 않으면서 연구의 무결성을 보호하기 위한 일련의 실질적인 단계들을 제안합니다. 그들은 대학이 단순한 금지보다는 공개를 요구하는 명확한 규칙을 채택해야 한다고 제안합니다. 이를 통해 연구자들은 유용한 도구를 활용하면서도 그들의 방법에 대해 정직함을 유지할 수 있습니다. 또한 기관들이 제출물을 스크리닝하기 위해 다중 방법 탐지 시스템에 투자할 것을 권고하며, 비록 완벽한 도구는 없지만 여러 점검을 결합하는 것이 아무것도 없는 것보다 낫다는 점을 인정합니다. 마지막으로, 연구는 교육이 매우 중요하다는 점을 강조합니다. 많은 연구자가 이러한 도구를 공개 없이 사용하는 것이 윤리 위반임을 인지하지 못할 수 있습니다. 연구자들에게 책임 있는 사용에 대해 교육하고 부정행위에 대한 명확하고 일관된 결과(consequences)를 확립함으로써, 과학계는 이 새로운 현실을 관리할 수 있습니다. 연구는 이것이 도덕적 붕괴의 위기가 아니라 관리의 과제라고 결론짓습니다. 데이터는 문제가 실재하며 커지고 있음을 보여주지만, 증거에 기반한 정책과 정직한 탐지를 통해 과학 문헌의 무결성은 보존될 수 있습니다.