Humanly: A Configurable and Traceable Environment for Human-AI Collaborative Writing
Humanly는 상세한 활동 기록과 AI 보조를 통해 작성 과정을 검증 가능한 증거로 변환하고 봉인된 인증서를 생성함으로써, 교육 및 전문적인 시나리오 전반에서 인간과 AI의 협업을 탐지하고 수동 타이핑과 자동화를 구분할 수 있게 해주는 구성 가능한 글쓰기 플랫폼입니다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
투명 잉크의 미스터리
당신이 미스터리를 풀려는 탐정이라고 상상해 보세요. 하지만 당신이 가진 유일한 단서는 책상 위에 남겨진 마지막 쪽지뿐입니다. 당신은 그 글의 내용은 읽을 수 있지만, 누가 썼는지, 키보드로 타이핑했는지, 로봇에게 받아 적게 했는지, 아니면 책에서 베껴온 것인지 전혀 알 수 없습니다. 이것이 현재 우리 디지털 세상의 "글쓰기 진위성(writing authenticity)"이 처한 상태입니다. 오랫동안 우리는 완성된 결과물만을 보고 그 글이 인간이 쓴 것인지 인공지능(AI)이 만든 것인지 추측하려 노력해 왔습니다. 이는 마치 케이크를 한 입 맛보는 것만으로 그것이 처음부터 직접 구운 것인지, 아니면 가게에서 사 온 것인지 구별하려는 것과 같습니다. 때로는 글을 매우 매끄럽게 쓰는 인간이 로봇을 사용했다는 의심을 받기도 하고, 반대로 로봇이 글을 조금 서툴게 썼을 때는 그냥 넘어가는 일도 발생합니다.
문제는 "완성된 텍xt"가 전체 이야기를 들려주지 않는다는 점입니다. 그것은 단어들이 실제로 어떻게 그 자리에 도달하게 되었는지에 대한 번거롭고, 창의적이며, 때로는 혼란스러운 과정을 숨깁니다. 작성자가 문장 하나를 붙잡고 한 시간 동안 씨름했나요? 문법 실수를 고치기 위해 똑똑한 컴퓨터의 도움을 받았나요? 아니면 로봇이 전체를 다 쓰고 인간은 그저 "제출" 버튼만 눌렀나요? 이를 해결하기 위해 컴퓨터 과학과 언어학 분야의 과학자들은 단순히 케이크를 보는 것이 아니라, 베이킹 과정 전체를 지켜보는 도구를 만들고 있습니다. 그들은 모든 키 입력, 모든 멈춤, 그리고 인간이 AI의 도움을 요청하는 순간을 기록하여, 보이지 않는 과정을 가시적이고 신뢰할 수 있는 기록으로 바꾸고자 합니다.
HUMANLY: 작가들을 위한 "블랙박스"
여기서 HUMANLY라는 새로운 플랫폼이 등장합니다. HUMANLY를 단순한 워드 프로세서가 아니라, 고도의 기술이 적용된 투명한 "베이킹 스튜디오"라고 생각해보세요. HUMANLY는 빈 페이지를 주고 운에 맡기는 대신, 관리자(교사, 컨퍼런스 주최자, 또는 작가 자신 등)가 누군가 타이핑을 시작하기 전에 게임의 규칙을 설정할 수 있게 해줍니다. 그들은 다음과 같이 결정할 수 있습니다: "문장을 다듬는 데 AI를 사용할 수는 있지만, 전체를 쓰게 해서는 안 된다"라거나, "30분의 시간이 주어지며, 인터넷에서 복사하여 붙여넣기를 할 수 없다"와 같은 규칙 말입니다.
규칙이 설정되면 작성자는 작업 공간에 들어갑니다. 작성자가 글을 쓰는 동안 HUMANLY는 작성자의 '생각'을 엿보는 스파이가 아니라, 그들이 '어떻게 작업하는지'를 관찰하는 매우 세심한 보안 카메라 역할을 합니다. HUMANLY는 상세한 "활동 로그"를 기록합니다. 당신이 단어를 느리게 쳤는지, 오랫동안 멈췄는지, AI의 도움을 받기 위해 텍스트를 강조 표시했는지, 혹은 갑자기 큰 덩어리의 텍스트를 붙여넣었는지 등을 파악합니다. 심지어 당신이 화면에서 눈을 떼었는지, 혹은 타이핑 리듬이 인간이 따라갈 수 없을 정도로 갑자기 빨라졌는지까지 추적합니다.
글쓰기가 끝나면 HUMANLY는 단순히 문서만 저장하지 않습니다. 전체 세션을 하나의 봉인된 인증서로 패키징합니다. 이 인증서를 전체 세션에 대한 "타임캡슐"이라고 상상해 보세요. 여기에는 최종 이야기와 함께 글쓰기 과정의 재생 영상(전체 세션에 대한 '되감기' 버튼 같은 것)과 기록이 조작되지 않았음을 증명하는 특별한 디지털 스탬프가 포함되어 있습니다. 만약 교사나 독자가 결과물을 확인하고 싶다면, 이 인증서를 열어 문서가 정확히 어떻게 만들어졌는지 확인할 수 있습니다. 예를 들어, "텍서트의 86%는 인간이 직접 쳤고, 3%는 붙여넣기 했으며, 11%는 AI의 도움을 받았다"는 것을 볼 수 있습니다.
"타이핑 탐정"과 로봇 테스트
HUMANLY의 가장 멋진 부분 중 중 하나는 "타이핑 탐지기(Typing Detector)"입니다. 연구진은 이 시스템이 인간이 키를 두드리는 것과 로봇(또는 컴퓨터 에이전트)이 대신 타이핑하는 것을 구별할 수 있는지 알고 싶었습니다. 이를 테스트하기 위해 그들은 "레드 팀(Red Teaming)"이라는 게임을 진행했는데, 이는 시스템을 속이려고 시도하는 친근한 보안 훈련과 같습니다. 그들은 인간이 정상적으로 글을 쓰게 했고, 그다음 강력한 AI 에이전트가 컴퓨터를 제어하여 텍스트를 대신 타이핑하도록 했습니다.
결과는 꽤 명확했습니다. HUMANLY 타이핑 탐지기는 로봇을 찾아내는 데 매우 뛰어났습니다. 테스트에서 이 시스템은 실제 인간 작성자를 오해하는 경우 없이(인간에 대한 오탐률 0%) 자동화된 타이핑을 85%의 확률로 정확히 식별해 냈습니다. 또한 거대 언어 모델을 사용하는 다른 방식들이 추측을 내놓는 데 몇 초 또는 몇 분이 걸리는 데 반해, 이 시스템은 1초도 안 되는 시간에 매우 빠르게 타이핑 패턴을 분석했습니다. 시스템은 키 사이의 간격과 같은 아주 미세한 디테일을 살펴봅니다. 인간은 보통 미세한 멈춤과 불규칙한 리듬을 가지지만, 로봇은 완벽하고 기계적인 속도로 타이핑하거나 인간의 손가락으로는 감당할 수 없는 짧은 간격을 보입니다.
왜 중요한가 (그리고 할 수 없는 것)
이 논문은 HUMANLY가 교사, 편집자, 그리고 글쓰기에 대한 신뢰가 필요한 모든 이들에게 유용한 도구라고 제안합니다. 사용자 연구에서 교사, 학생, 검토자 역할을 맡은 사람들은 시스템이 사용하기 쉽고 공정한 증거를 제공한다고 느꼈습니다. 이는 학생의 글이 "너무 완벽해" 보이거나, 작가가 AI를 사용했다는 부당한 의심을 받을 때 발생하는 혼란을 해결하는 데 도움을 줍니다.
하지만 저자들은 이 시스템이 할 수 없는 것에 대해서도 매우 주의 깊게 언급하고 있습니다. HUMANLY 인증서는 마법 같은 독심술사가 아닙니다. 그것은 오직 HUMANLY 창 내부에서 일어나는 일만을 기록합니다. 만약 작성자가 다른 컴퓨터를 사용하거나, 목소리 녹음기로 이야기를 받아 적거나, HUMANLY와 연결되지 않은 웹사이트에서 텍스트를 복사해 온다면 시스템은 알 수 없습니다. 이 시스템은 작성자가 외부로부터 도움을 받지 않았음을 증명할 수는 없으며, 오직 화면에서 일어나는 일을 목격한 것만을 증명할 수 있습니다. 이는 투명성을 위한 강력한 도구이지만, 인간의 정직성에 대한 완벽한 판결은 아닙니다.
궁극적으로 HUMANLY는 대화의 중심을 "이 텍스트가 AI처럼 보이는가?"에서 "이 텍스트가 정확히 어떻게 만들어졌는가?"로 전환합니다. 이는 글쓰기 과정을 미스터리에서 읽고, 확인하고, 신뢰할 수 있는 하나의 이야기로 바꾸어 놓으며, 한 번의 키 입력마다 그 과정을 투명하게 보여줍니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.