기술 요약: LLM 이용 약관의 규제적 회색 지대

문제 정의

대규모 언어 모델(LLM)이 학술 연구 파이프라인과 일상생활에 점점 더 통합되고 있음에도 불구하고, 이들의 사용을 규정하는 서비스 약관(ToS)은 여전히 충분히 검토되지 않은 상태로 남아 있다. 이러한 도구들은 상당한 효용을 제공하지만, 비동의 성적 이미지 생성이나 전문적인 환경에서의 환각 현상(hallucination)과 같은 고위험 오용 사례들은 기업의 정책과 사용자 행동 사이의 괴리를 극명하게 보여준다.

식별된 핵심 문제는 ToS가 정당한 사용자, 특히 연구자들에게 불확실성을 초래하는 "규제적 회색 지대"를 형성하고 있다는 점이다. 저자들은 연구자 전용 접근 권한이 축소되거나, "pay-to-play"(유료 결제 기반) 모델로 전환되거나, 혹은 완전히 제거되는 "포스트-API(post-API)"로의 변화를 관찰한다. 또한, 일반 사용자와 연구자 간의 사용 제한에 관한 구체성 측면에서도 상당한 불균형이 존재한다. 약관은 동적이며 임의의 간격으로 업데이트되고, 복잡하고 모호하거나 모순적인 언어로 작성되어 있다. 이는 연구자들이 허용 가능한 사용의 경계를 추측하게 만들며, 잠재적으로 이러한 기술의 사회적 영향에 관한 새로운 지식 생성을 저해할 수 있다. 또한, xAI의 Grok을 통해 아동 성적 학대 물질(CSAM)과 같은 불법 콘텐츠가 지속적으로 생성되는 사례에서 알 수 있듯이, 이러한 약관의 집행은 일관성이 없는 것으로 보인다.

방법론

본 연구는 2025년 11월 기준 5개의 주요 LLM 제공업체인 Anthropic, DeepSeek, Google, OpenAI, xAI의 ToS를 조사하기 위해 문서 분석(document analysis) 접근법을 채택하였다. 이 업체들은 2025년 당시의 높은 인지도와 대규모 사용자 기반을 바탕으로 선정되었다.

분석 과정은 다음과 같은 **귀추적, 반복적 접근 방식(abductive, iterative approach)**을 따랐다:

1. 데이터 수집: 각 기업의 웹사이트에서 최신 ToS를 수집하였다. 저자들은 특히 Google의 경우, 정책들이 분산되어 있어(예: 일반적인 "생성형 AI 금지 사용 정책"과 특정 Gemini API 약관의 차이) 탐색에 상당한 어려움이 있었다고 언급하였다.
2. 교차 참조: 분석은 가장 포괄적인 문서인 Anthropic을 기준으로 삼아 기초적인 "약관 테이블(Table of Terms)"을 구축하는 것으로 시작되었다. 이후 나머지 4개사의 ToS를 이 기준점에 따라 교차 참조하였다.
3. 범주화: 조항들을 사전 정의된 테마 및 새롭게 나타난 테마(예: 불법 활동, 아동 안전, 개인정보 보호, 핵심 인프라 등)로 분류하였다. 저자들은 어떤 기업이 특정 카테고리를 포함하고 있는지 정량화하였으며, 해당 카테고리 내에서의 구체성 수준을 기록하였다었다.
4. 함의 분석: 분류된 데이터를 바탕으로 보안 연구, 계산 사회 과학, 심리학 연구 등의 분야를 중심으로 일반 사용자와 학계 및 산업계 연구자들에게 미치는 구려한 영향을 분석하였다.

주요 기여

• 비교 자원 제공: 저자들은 5개 플랫폼 간의 ToS를 비교한 교차 참조 리소스 테이블을 제작하여 공개(OSF를 통해)하였다. 이 리소스는 특정 조항, 카테고리 및 예외 사항(예: 최소 연령 요구 사항)을 상세히 다룬다.
• 규제적 회색 지대 식별: 본 논문은 ToS가 불확실성을 조성하는 구체적인 영역, 특히 "고위험(high-stakes)" 사용 사례, 인간 추론, 그리고 금지된 콘텐츠의 정의에 관한 영역을 매핑하였다.
• 연구 특화 분석: 본 연구는 현재의 ToS가 보안 연구(예: 레드팀 활동), 계산 사회 과학(예: 프로파일링 및 감성 분석), 기만 또는 인간-LLM 비교를 포함하는 심리학 연구와 같은 정당한 연구 방향을 어떻게 제한하는지를 명시적으로 강조한다.

결과

분석 결과, 사용 제한의 엄격성과 구체성에서 상당한 차이가 있음이 드러났다:

• 일반적 제한: 5개 업체 모두 불법 활동, 아동 안전 위반, 플랫폼 남용을 금지한다. 그러나 이러한 금지의 깊이는 크게 다르다.
  • Anthropic과 OpenAI는 감정 인식, 무기 개발, 특정 유형의 허위 정보와 같은 상세한 시나리오를 포함하여 가장 광범위하고 구체적인 약관을 보유하고 있다.
  • xAI, DeepSeek, Google은 종종 더 넓고 모호한 언어를 사용한다. 예를 들어, Google의 정책은 구체적인 조항이 적은 "가벼운 터치(light touch)" 방식의 정책으로 묘사되었으며, DeepSeek의 약관은 "상대적으로 체계적이지 않은 상위 수준의 목록"을 가진 것으로 기록되었다.
• 아동 안전: 모든 기업이 아동 안전을 다루지만, 정의는 제각각이다. Anthropic은 전 세계적으로 만 18세 미만을 아동으로 정의하는 반면, DeepSeek은 "귀하의 국가에서 요구하는 최소 연령"을 참조한다.
• 고위험 사용 사례: 대부분의 제공업체(Anthropic, OpenAI, xAI)는 고위험 애플리케이션(예: 의료, 법률, 고용)에 대해 "인간 개입(human-in-the-loop)" 감독을 요구한다. 그러나 저자들은 Anthropic과 OpenAI가 자신들의 ToS에서 의료를 엄격한 감독이 필요한 고위험 분야로 분류하면서도, 동시에 의료용 애플리케이션(예: "Claude for Healthcare", "ChatGPT Health")을 상업화하고 있다는 모순점을 지적한다.
• 연구 제한 사항:
  • 보안 및 정보: OpenAI는 검토 없이 "국가 안보 또는 정보 목적"으로 사용하는 것을 명시적으로 금지하며, 이는 보안 연구자들을 저해한다.
  • 인간 추론 및 프로파일링: Anthropic과 OpenAI는 감정을 추론하거나 개인적 특성을 바탕으로 개인을 프로파일링하는 시스템을 구축하는 것을 제한한다. 이는 온라인 행동과 오프라인 속성을 연결하는 계산 사회 과학 연구에 직접적인 영향을 미친다.
  • 기만: 인간을 사칭하는 등의 기만적 기술을 금지하는 약관은 기만에 의존하거나 인간의 행동과 LLM의 반응을 비교하는 심리학 연구에 불확실성을 초래한다.
• 집행 격차: 논문은 비동의 성적 이미지(특히 아동 및 여성 관련) 생성을 금지하는 약관에도 불구하고, xAI의 Grok과 같은 플랫폼에서 대규모의 콘텐츠 생성(2025년 12월 25일 이후 20,000개 이상의 이미지)이 목격되었다는 점을 강조하며, 이는 내부 메커니즘 및 집행의 실패를 시사한다고 지적한다.

의의 및 주장

본 논문은 현재의 환경이 사용자들로 하여금 LLM 사용 위험을 탐색하기 위해 사실상 "법률 전문가"가 되도록 강요하고 있다고 주장한다. 저자들의 주장은 다음과 같다:

1. 책임의 전가: 기업들이 모델 자체에 강력한 안전장치를 구현하기보다, 복잡한 ToS를 통해 해악에 대한 책임을 사용자에게 전가하는 우려스러운 추세가 존재한다.
2. 독립적 연구에 대한 위협: ToS의 제한적이고 모호한 성격은 AI의 사회적 영향을 평가하는 데 필수적인 독립적 연구를 위협한다. 저자들은 "레드팀(red-teaming)" 및 취약점 연구가 종종 금지되어 있어, 안전성에 대한 독립적인 검증이 방해받고 있다고 언급한다.
3. 정책적 개입의 필요성: 저자들은 정책 입안자와 연구 기관이 ToS에 표준화된 **"연구용 부속서(Research Use addendum)"**를 도입하도록 옹호할 것을 제안한다. 이 프레임워크는 기존의 학술 라이선스 계약을 모델로 하여, 윤리적 감독 하에 민감한 주제를 포함한 정당한 연구 활동을 명시적으로 허용해야 한다.
4. 규제의 지연: 본 연구는 EU AI 법안이나 영국 온라인 안전법과 같은 규제들이 LLM의 급격한 진화와 그로 인해 발생하는 구체적인 해악을 따라잡는 데 어려움을 겪고 있음을 강조하며, 이로 인해 ToS가 유일하면서도 종종 효과적이지 못한 방어선이 되는 공백이 발생하고 있음을 보여준다.

논문은 이러한 규제적 회색 지대를 명확히 하고 독립적 연구를 보호하기 위한 개입 없이는, 더 안전하고 신뢰할 수 있는 AI 시스템의 발전이 그들을 규제하기 위해 만들어진 바로 그 약관들에 의해 저해될 것이라고 결론짓는다.