Detecting Cognitive Signatures in Typing Behavior for Non-Intrusive Authorship Verification

이 논문은 1 억 3 천 6 백만 건 이상의 키스트로크 데이터를 기반으로 타이핑 타이밍의 인지적 서명을 분석하여, 기존 AI 생성 텍스트 탐지의 한계를 극복하고 사생활을 보호하는 비침습적 저자 검증 프레임워크를 제안합니다.

핵심

이 논문은 **"누가 이 글을 실제로 썼는지"**를 확인하는 새로운 방법을 제안합니다. 기존의 방법들이 AI 가 쓴 글과 사람이 쓴 글을 '글 자체'를 분석해서 구분하려다 실패하고 있는 상황에서, 이 연구는 **'글을 쓰는 과정 (타이핑 행동)'**에 집중합니다.

쉽게 비유하자면, "글의 내용 (결과물)"이 아니라 "글을 쓰는 손의 움직임 (과정)"을 통해 진위를 가린다는 것입니다.

핵심 내용을 일상적인 언어와 비유로 설명해 드리겠습니다.

---

1. 문제: 왜 기존 방법은 실패할까요?

지금까지 AI 가 쓴 글을 잡으려면 "이 글의 문체나 어휘가 AI 특유의 패턴인가?"를 분석했습니다. 하지만 AI 가 점점 똑똑해져서 사람처럼 글을 쓰게 되니, 이 방법은 더 이상 통하지 않습니다.

• 비유: 가짜 지폐를 구별하려고 지폐의 '무늬'만 보고 판단하려는데, 가짜 지폐가 진짜와 똑같이 무늬를 찍어내니 구별이 안 되는 상황입니다.

2. 해결책: '생각의 흔적'을 읽는 것

이 논문은 키보드를 단순한 입력 도구가 아니라, **"사람의 뇌가 작동하는 창 (Window)"**으로 봅니다.
사람이 글을 쓸 때는 세 가지 단계를 거칩니다:

1. 생각하기 (Planning): 무엇을 쓸지 머릿속으로 구상합니다. 이때는 긴 멈춤이 생깁니다.
2. 글로 옮기기 (Translating): 생각한 내용을 키보드로 빠르게 타이핑합니다. 이때는 연속된 타자가 나옵니다.
3. 수정하기 (Revising): 실수를 고치거나 다듬습니다. 이때는 지우기 (Backspace) 와 다시 입력이 반복됩니다.

반면, AI 가 쓴 글을 사람이 복사해서 타이핑하거나, 남의 글을 베껴 쓰는 경우는 다릅니다.

• 비유: 남이 쓴 글을 베끼는 사람은 '생각'할 필요가 없습니다. 마치 녹음된 음악을 듣고 그대로 따라 부르는 것과 같습니다. 멈춤이 없거나, 멈춤이 글의 난이도와 상관없이 일정합니다.

3. 핵심 기술: '인지 부하 상관관계 (CLC)'

연구진은 이 두 가지 패턴을 구분하는 지표를 만들었습니다. 바로 **CLC(Cognitive Load Correlation)**입니다.

• 진짜 작가: 글이 어렵고 복잡할수록 (예: 복잡한 문장, 새로운 아이디어) 생각하는 시간이 길어집니다. 즉, "글이 어렵다" ↔ "타이핑이 느려진다"는 연관성이 강하게 나타납니다.

• 가짜 (복사/전사): 글이 어렵든 쉬우든, 타이핑 속도는 일정합니다. "글이 어렵다" ↔ "타이핑이 느려진다"는 연관성이 거의 없습니다.

• 비유:

  • 진짜 작가는 "산 (어려운 주제) 을 오르는 중"입니다. 경사가 가파를수록 숨이 차서 걸음이 느려집니다.
  • 가짜 작가는 "산 아래 평지를 걷는 중"입니다. 경사가 가파르든 말든, 그냥 일정한 속도로 걷습니다.

4. 사생활 보호: "누가 썼는지"가 아니라 "어떻게 썼는지"

이 기술은 사생활을 침해하지 않도록 설계되었습니다.

• 무엇을 보나요? 키를 누른 '순간'과 '다음 키를 누르기까지 걸린 시간'만 봅니다.
• 무엇을 보지 않나요? 어떤 키를 눌렀는지, 화면에 어떤 글자가 뜨는지는 전혀 보지 않습니다.
• 비유: 경찰이 범인의 '얼굴'을 보지 않고, 범인이 걸을 때의 '걸음걸이 리듬'만 분석하는 것과 같습니다. 그래서 "누가 썼는지 (신원)"를 밝히는 게 아니라, "이 글이 진짜 사람 생각의 흐름으로 쓰였는지 (과정)"만 증명합니다.

5. 위조는 왜 불가능할까요?

만약 가짜 작가가 "내가 진짜처럼 생각하며 타이핑하는 척"을 하려고 한다면 어떨까요?

• 비유: 가짜 작가는 글의 내용 (어떤 단어가 어렵고, 어떤 문장이 복잡한지) 을 미리 분석하고, 거기에 맞춰 인위적으로 멈춤을 만들어야 합니다.
• 하지만 진짜 작가는 무의식적으로 글의 난이도에 따라 멈춥니다. 가짜 작가가 그 '무의식적인 리듬'까지 완벽하게 흉내 내는 것은, 글을 처음부터 다시 쓰는 것만큼이나 어렵습니다.
• 연구에 따르면, 이 '생각의 리듬'을 위조하려면 글자 하나하나의 타이밍까지 계산해야 하므로, 차라리 직접 글을 쓰는 게 더 빠릅니다.

6. 결론: "결과"가 아닌 "과정"을 믿자

이 논문은 우리에게 새로운 시각을 줍니다.

• 과거: "이 글이 AI 가 쓴 것 같으니 의심하자." (결과물 분석)
• 미래: "이 글이 쓰이는 동안 사람의 '생각'이 흐르는 흔적이 있었나?" (과정 분석)

키보드는 이제 단순한 입력 장치가 아니라, 사람의 두뇌가 작동하는 흔적을 남기는 도구가 되었습니다. 이 기술을 통해 우리는 AI 시대에 '진짜 인간이 쓴 글'을 더 신뢰할 수 있게 될 것입니다.

---

한 줄 요약:

"글의 내용만 보면 AI 와 사람을 구별하기 어렵지만, 글을 쓰면서 머릿속에서 생각한 시간 (멈춤) 과 글의 난이도가 얼마나 잘 맞아떨어지는지를 보면, 그 글이 진짜 사람의 손에서 나왔는지 바로 알 수 있습니다."

기술 요약

1. 문제 정의 (Problem Statement)

• 배경: 생성형 AI 의 급속한 발전으로 인해 AI 가 생성한 텍스트와 인간이 작성한 텍스트를 구별하는 것이 어려워졌습니다. 현재 AI 텍스트 감지기는 모델 출력이 인간 언어 분포에 수렴함에 따라 정보 이론적 한계에 직면해 있으며, 워터마킹은 쉽게 제거되고 프로커링 (감시) 은 침습적입니다.
• 핵심 문제: 기존 방법론들은 모두 텍스트의 결과물 (Output) 에만 초점을 맞추고 있어 신뢰성이 떨어집니다.
• 목표: 결과물이 아닌 작성 과정 (Process) 을 분석하여, 해당 텍스트가 실제 인간에 의해 구상되고 작성되었는지를 비침습적으로 검증하는 새로운 프레임워크를 제시하는 것입니다.

2. 방법론 (Methodology)

A. 이론적 기반: 인지 서명 (Cognitive Signatures)

저자는 키보드 타이핑이 단순한 입력 장치가 아니라 인간의 인지 과정을 반영하는 창구라고 주장합니다. Flower 와 Hayes 의 글쓰기 인지 과정 모델 (계획, 번역, 수정) 을 기반으로 타이핑 타이밍에 다음과 같은 패턴이 존재한다고 정의합니다.

• 계획 (Planning): 문장이나 구의 시작 전 긴 멈춤 (1,000~5,000ms) 발생.
• 번역 (Translating): 언어 단위 (절 등) 에 맞춰 일정한 속도로 타자치는 버스트 (Burst) 패턴.
• 수정 (Revising): 삭제, 커서 이동, 재입력 등 특유의 패턴.
• 대조: 기계적 전사 (Transcription) 는 이러한 인지적 변이가 없으며, 일정한 모터 신호 (Stationary Motor Signal) 만 보입니다.

B. 핵심 지표: 인지 부하 상관관계 (Cognitive Load Correlation, CLC)

• 정의: 텍스트의 내용 복잡도 (Content Complexity) 와 타이핑 지연 시간 (Keystroke Interval, IKI) 간의 상관관계.
• 원리:
  • 진짜 작성 (Genuine Composition): 내용이 어렵거나 복잡한 부분일수록 작성자가 실시간으로 구상하므로 멈춤 시간이 길어짐. (양의 상관관계, $\rho \approx 0.3 \sim 0.6$)
  • 전사 (Transcription): 내용은 이미 존재하므로 타이밍은 오직 타자 속도에만 의존함. 내용 난이도와 무관함. (상관관계 거의 없음, $\rho < 0.15$)

C. 비침습적 검증 프레임워크

• 아키텍처: 브라우저 확장 프로그램, 데스크톱 플러그인 또는 LMS 기능으로 작동하는 경량 백그라운드 프로세스.
• 데이터 수집: 키스트로크 이벤트의 타이밍 메타데이터만 수집 (키 입력 내용 자체는 수집하지 않음).
• 개인정보 보호를 위한 양자화 (Quantization):
  • 생체 인식 (Who typed?) 정보를 제거하기 위해 타이밍 데이터를 양자화합니다.
  • $r = 5$ms 단위로 반올림하여, 모터 제어의 정밀한 생체 정보 (15ms 미만) 는 제거하되, 인지적 특징 (200ms 이상) 은 유지합니다. 이를 통해 재식별 (Re-identification) 위험을 최소화합니다.

3. 주요 기여 (Key Contributions)

1. 인지 서명 개념 정립: 타이핑 행동에서 '내용 복잡도와 타이밍 간의 상관관계 (CLC)'를 인간 작문의 고유한 서명으로 정의했습니다.
2. 비침습적 검증 프레임워크 제안: 기존 작성 인터페이스 내에서 작동하며, 텍스트 내용 자체를 모니터링하지 않고 타이밍 메타데이터만 분석하여 사생활을 보호하는 시스템을 설계했습니다.
3. 적대적 공격에 대한 견고성 분석:
   • 기존 키스트로크 동역학 (모터 수준) 은 모방이 가능하지만, 인지 서명은 의미론적 내용 (Semantic Content) 과 얽혀 있어 위조가 매우 어렵다고 증명했습니다.
   • 적대자가 CLC 를 위조하려면 텍스트를 암기하고, 내용 난이도에 맞춰 인위적으로 멈춤 시간을 조절하며, 문법적 구조와 일치하는 버스트 패턴을 만들어내야 하므로 공격 비용이 과도하게 높아집니다.
4. 대규모 데이터 기반 분석: 1 억 3,600 만 건 이상의 키스트로크 이벤트를 포함하는 기존 데이터셋 (ScholaWrite, Aalto 등) 을 종합하여 이론적 성능을 평가했습니다.

4. 결과 및 평가 (Results & Evaluation)

• 분류 정확도: 명시된 가정 하에 85~95% 의 진위 판별 정확도를 추정했습니다.
  • 1,500 단어 이상의 문서일 경우 통계적 검정력 (Statistical Power) 이 0.99 를 초과합니다.
• 데이터 기반: 단일 실험이 아닌, ScholaWrite(학술적 작성), Aalto 136M(전사), neuroQWERTY 등 다양한 공개 데이터셋의 통계를 종합하여 도출된 이론적 한계치입니다.
• 개인정보 보호 - 유용성 트레이드오프: 5ms 양자화를 통해 생체 정보 유출 (Leakage) 을 크게 줄이면서도 CLC 기반 검증 정확도는 유지되는 것으로 모델링되었습니다.

5. 의의 및 한계 (Significance & Limitations)

의의

• 패러다임 전환: 텍스트 결과물 분석에서 작성 과정 (Process Attestation) 분석으로의 전환을 제안합니다.
• 사생활 보호: 감시 (Surveillance) 가 아닌 인간 - 컴퓨터 상호작용 (HCI) 문제로서 접근하여, 텍스트 내용 유출 없이 저자성을 검증할 수 있는 프라이버시 보존형 생체 인증 방식을 제시합니다.
• AI 시대 대응: AI 가 생성한 텍스트는 인간의 '실시간 인지적 고뇌 (Real-time cognitive struggle)'를 모방할 수 없으므로, 이 신호를 포착하는 것이 AI 텍스트 탐지의 새로운 해법입니다.

한계 및 향후 과제

• 실험적 검증 부재: 현재 평가는 분석적 (Analytical) 이며, 동일한 참가자를 대상으로 작성과 전사를 비교한 통제된 사용자 연구는 향후 과제로 남았습니다.
• 인구 통계학적 편향: 데이터가 주로 대학 교육받은 성인 및 데스크톱 타자 사용자에 치우쳐 있어, 비원어민, 모바일 사용자, 운동 장애가 있는 사용자에게 대한 검증이 필요합니다.
• 적대적 공격 비용: 매우 동기가 부여된 적대자가 텍스트를 암기하고 연습하여 CLC 를 위조할 가능성은 이론상 존재하지만, 이는 사실상 직접 작성하는 것과 유사한 비용이 들어 공격 동기를 무력화시킵니다.

결론

이 논문은 키보드가 단순한 입력 도구가 아니라 '마음의 창'임을 강조하며, 타이핑 타이밍에 내재된 인지적 서명 (Cognitive Signatures) 을 활용하여 AI 생성 텍스트와 인간 작문을 구별하는 혁신적인 접근법을 제시합니다. 이는 사생활을 침해하지 않으면서도 신뢰할 수 있는 저자성 검증 시스템을 구축할 수 있는 중요한 기술적 토대를 마련합니다.