Credential farming in the age of generative AI: relocating trust from outputs to communities
이 논문은 생성형 AI가 역량의 대리 지표로서 전통적인 학술적 자격의 신뢰성을 약화시켰으며, 이에 따라 인식론적 신뢰의 중심을 다듬어진 결과물에서 학술적 판단력을 진정으로 배양하고 목격하는 관계적 공동체와 형성적 과정으로 전환할 필요가 있다고 주장한다.
원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
수십 년 동안 과학계는 단순하고 신뢰할 수 있는 가정 하나에 기반하여 운영되어 왔습니다. 그것은 바로 만약 당신이 세련된 연구 논문을 만들어낼 수 있다면, 그 안에 담긴 내용을 이해하고 있어야 한다는 것입니다. 이 개념은 학위, 출판된 논문, 직함과 같은 자격 요건에 의존하며, 이는 한 사람이 비판적으로 사고하고 공유된 지식에 기여할 수 있는 능력을 나타내는 약속된 척도로 작용합니다. 이러한 문서들이 인간의 정신을 측정하는 완벽한 도구는 아니었지만, 이를 만들어내는 과정에 진정한 노력과 깊은 학습이 필요했기에 충분히 신뢰할 만했습니다. 그러나 생성형 인공지능의 부상은 이 연결 고리를 깨뜨리기 시작했습니다. 이제 사람은 컴퓨터 프로그램을 사용하여 데이터 분석과 인용까지 포함된 결점 없는 연구 논문을 작성할 수 있지만, 정작 그 단어들이 무엇을 의미하는지, 혹은 어떻게 그러한 결론에 도달했는지는 전혀 알지 못할 수도 있습니다. 이러한 변화는 문서 자체는 완벽해 보이지만, 그 뒤에 있는 사람은 아무것도 배우지 못했을 수도 있다는 위험한 간극을 만들어냅니다.
이 새로운 현실은 우리가 과학자와 의사를 선발하는 방식 전체를 위협하고 있습니다. 만약 기관들이 계속해서 제출된 논문만으로 사람을 판단한다면, 그들은 답을 찾아내는 기술을 익힌 사람이 아니라 컴퓨터에게 답을 묻는 기술을 숙달한 사람들을 채용하게 될 위험을 안게 됩니다. 전 세계 대학의 학생부터 교수까지 포함된 일련의 연구자들은 해결책이 AI를 사용하는 사람을 잡아내기 위한 더 나은 도구를 만드는 것이 아니라, 우리가 신뢰를 두는 곳을 바꾸는 것이라고 주장해 왔습니다. 그들은 최종 결과물을 보는 대신, 한 사람이 공동체 안에서 어떻게 배우고 생각하는지의 과정을 보아야 한다고 제안합니다.
고등학생부터 의학 연구자에 이르기까지 다양한 구성원으로 이루어진 이 논문의 저자들은 전통적인 역량 평가 방식이 붕열하고 있다고 주장합니다. 그들은 이를 "자격 농사(credential farming)"라고 부르는 현상으로 설명하는데, 이는 개인이 학위나 출판물이 부여하는 사회적 가치는 추출하면서도, 그 직함에 의미를 부여하는 과학적 실체에는 실제로 기여하지 않는 것을 말합니다. 과거에는 연구 논문을 생산하는 것이 누군가가 특정 주제를 숙달하기 위해 수년간 보낸 시간의 증거였습니다. 오늘날 생성형 AI는 실제 지식과 상관없이 누구나 즉각적으로 그 동일한 증거를 생성할 수 있게 합니다. 저자들은 이를 탐지 소프트웨어로 해결하려는 시도가 패배가 예정된 싸움이라고 지적합니다. 이러한 도구들은 종-종 신뢰할 수 없으며, 영어가 모국어가 아닌 필자들에게 불공평하게 작end를 줄 수 있고, 지식인과 무지한 자를 구분하던 경계를 더 이상 유지해주지 못하기 때문입니다.
연구자들은 탐지의 전쟁을 벌이는 대신, 초점을 결과물에서 과학자의 형성(formation)으로 옮길 것을 제안합니다. 그들은 진정한 역량은 문서에 저장되는 것이 아니라, 집단 내에서 목격되는 긴 학습 과정을 통해 구축된다고 주장합니다. 이 개념은 우리가 자신의 실수를 목격하고 사고를 안내할 수 있는 타인과 함께 작업하며 배운다는 아이디어에서 기인합니다. 건강한 과학 공동체에서 구성원은 단순히 사실을 읽는 것뿐만 아니라, 자신의 논리를 설명하고, 틀렸음을 인정하며, 동료들의 피드백을 바탕으로 생각을 수정해야 하는 대화에 참여함으로써 배웁니다. 이러한 종류의 학습은 흉내 내기가 어렵습니다. 왜냐하면 그것은 시간과 타인과의 관계 속에서 일어나기 때문이며, 반면 컴퓨터는 작성자의 정신을 드러내지 않는 완벽해 보이는 에세이를 즉각적으로 생성할 수 있습니다.
이 아이디어를 테스트하기 위해, 저자들은 연구 공동체가 신뢰를 재구축하기 위해 취할 수 있는 세 가지 실질적인 단계를 설명합니다. 첫째, 그들은 새로운 구성원을 선발할 때 이력서의 명확성보다는 사고의 깊이를 기준으로 삼을 것을 제勧め합니다. 여기에는 "새로운 아이디어가 당신의 세계관을 흔들었던 때는 언제였는가?"와 같이 단 하나의 정답이 없는 개방형 질문을 던지는 것이 포함됩니다. 컴퓨터는 그럴듯한 답변을 생성할 수는 있겠지만, 실제 인간이 대화에 가져오는 진정한 망설임, 성찰, 그리고 개인적인 역사를 복제할 수는 없습니다. 둘째, 그들은 사람들이 최종 보고서를 작성해야 한다는 압박 없이 자유롭게 이야기할 수 있는 작고 비공식적인 그룹을 구축할 것을 권장합니다. 이러한 작은 모임은 사람이 "이 부분을 이해하지 못하겠습니다"라고 말하고 도움을 받을 수 있는 정직한 교류의 장을 제공하며, 이는 실제 삶에서 학습이 일어나는 방식을 반영합니다. 마지막으로, 저자들은 이러한 새로운 방법들이 새로운 지표로 변질되지 않도록 주의할 것을 촉구합니다. 만약 사람들이 얼마나 자주 말하는지 또는 얼마나 빨리 답하는지를 측정하기 시작한다면, 그것은 결국 진정한 이해가 아닌 숫자를 최적화하는 예전의 문제를 재현하는 것에 불과할 것입니다.
이 논문은 이러한 변화가 특히 비공식적인 네트워크를 통해 학습하는 저자원 환경의 연구자들에게 매우 중요하다고 강조합니다. 이들은 깊은 호기심과 실제적인 기술을 갖추고 있을 수 있지만, 엘리트 대학이 기대하는 방식으로 자신을 표현할 수 있는 세련된 어휘력이 부족할 수 있습니다. 형성(formation)과 공동체적 관계에 집중함으로써, 기관들은 현재 소외되어 있는 이 유능한 인재들을 찾아낼 수 있습니다. 저자들은 이 접근 방식이 완벽한 해결책은 아니며, 주관적인 대화에서 발생할 수 있는 편향성과 같은 자체적인 위험을 안고 있다는 점을 인정합니다. 그들은 성품을 관찰하는 것이 어렵다는 점과, 자신들의 팀 또한 여전히 배우고 있는 학생들을 포함하고 있어 내부에서 스스로의 형성을 완전히 인증할 수 없다는 점을 인정합니다.
궁극적으로, 이 논문은 기계가 논문은 쓸 수 있어도 신뢰할 만한 사람이 될 수는 없다고 결론짓습니다. 과학 기관의 과제는 더 이상 문서의 존재 여부를 검증하는 것이 아니라, 사람이 진정으로 생각하는 법을 배웠는지 판단하는 것입니다. 이는 최종 결과물을 심판하는 것에서 벗어나, 학습이라는 여정 자체를 목격하는 방향으로 나아가야 함을 의미합니다. 이는 번쩍이고 제조된 결과물이 아니라, 과학자가 되어가는 과정의 혼란스럽고 어렵고도 인간적인 과정을 가치 있게 여기도록 시스템을 재건하라는 부름입니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.