Chat First, Worry Later: Understanding Individuals' Privacy Perceptions Using ChatGPT in a Work Context

기술 요약: 먼저 채팅하고, 걱정은 나중에: 업무 맥락에서 ChatGPT를 사용하는 개인의 프라이버시 인식 이해

문제 제기
생성형 인공지능(GenAI) 도구, 특히 ChatGPT와 같은 대규모 언어 모델(LLM)은 교육, 의료, IT와 같은 다양한 분야에서 업무 루틴을 빠르게 변화시키고 있습니다. 이러한 도구들은 효율성 증대를 제공하지만, 그 통합 과정에서 상당한 프라이버시 문제를 야기합니다. GenAI의 기저 모델은 방대한 텍스트 코퍼스에 의존하며, 여기에는 종종 사용자 생성 콘텐츠가 포함됩니다. 또한 이러한 모델은 민감한 학습 데이터를 무의식적으로 기억하고 재현할 수 있는 능력을 갖추고 있습니다. 더욱이, 사용자의 입력값은 추가적인 모델 학습을 위해 저장 및 활용될 수 있으며, 기술적 취약점이나 표적 공격을 통해 노출될 수 있습니다.

이러한 위험에도 불구하고, 전문적인 환경에서 개인이 이러한 프라이버시 위험을 어떻게 인식하는지, 그리고 이러한 인식이 실제 사용 행동에 어떻게 영향을 미치는지에 대한 이해에는 공백이 존재합니다. 기존 연구는 주로 초기 기술 채택(예: 기술 수용 모델)이나 일반적인 프라이버시 우려에 초점을 맞추었으며, 일반적인 프라이버시 태도와 ChatGPT가 데이터를 처리하고 저장하는 방식에 관한 구체적인 기술적 숙련도를 구분하는 데 실패했습니다. 또한, 행동과 역량을 형성하는 데 있어 조직 정책의 역할 역시 충분히 탐구되지 않았습니다.

연구 방법론
저자들은 ChatGPT를 업무 루틴에 통합하여 사용하는 유럽 내 다양한 고용 분야의 참여자 $N = 224$명을 대상으로 정량적 사용자 연구를 수행했습니다. 연구는 Prolific Academic과 타겟 이메일 아웃리치를 통해 배포된 Google Forms 기반의 온라인 설문조사를 활용했습니다.

• 구성 개념 및 측정:
  • 조직 정책: GenAI 가이드라인의 존재 여부 및 유형(사용 가능한 대상을 제한하는 "사용자 제약"과 사용 방법을 제한하는 "사용 제약"으로 분류)을 다중 응답 형식을 통해 평가하였습니다.
  • 통합 프라이버시 우려: 제3자에게 개인 정보를 공개하는 것과 관련된 위험에 대한 주관적 인식을 포착하기 위해 기존 척도(예: Smith et al., 1996; Dinev and Hart, 2006a)를 변형하여 개발한 새로운 구성 개념입니다. 5점 리커트 척도로 측정되었습니다.
  • ChatGPT 숙련도: ChatGPT의 데이터 저장 및 처리 메커니즘에 대한 명시적 지식을 평가하기 위해 특별히 설계된 새로운 구성 개념입니다. 이는 OpenAI의 공식 프라이버시 정책 및 기술 문서를 직접 바탕으로 한 11개의 "참/거짓" 지식 질문을 사용하여 측정되었습니다.
  • 사용 행동: 두 가지 지표, 즉 사용 빈도(4점 리커트 척도)와 사용 사례(8가지 애플리케이션 유형 목록에서 선택된 서로 다른 적용 유형의 개수)로 측정되었습니다.
• 데이터 분석: 연구는 기술적 배경 변수 검증을 위한 기술 통계, t-검정, 상관관계 분석, 그리고 직접 및 간접 효과를 조사하기 위한 Mplus 8을 이용한 경로 모델링을 채택했습니다. 분석 과정에서 관련 인구통계학적 변수(성별, 연령, 교육 수준)를 통제하였습니다.

주요 기여

1. 새로운 구성 개념 개발: 본 논문은 일반적인 기술적 역량을 넘어, 데이터 프라이버시 정책 및 도구의 기술적 기능에 대한 사용자의 이해를 구체적으로 측정하기 위해 "ChatGPT 숙련도"를 별도의 지표로 도입하였습니다.
2. 프라이버시 구성 개념의 통합: 저자들은 GenAI 맥락에서 데이터 공개에 대한 주관적 태도를 더 잘 포착하기 위해, 인지된 프라이버시 위험과 우려의 요소를 결합한 통합적 프레임워크인 "통합 프라이버시 우려"를 제안합니다.
3. 맥락적 초점: 초기 채택이나 일반적인 사용에 초점을 맞춘 기존 연구와 달리, 본 연구는 업무 맥락에서의 기성 사용자들을 대상으로 하여 조직 거버넌스, 개인의 지식, 그리고 실제 사용 패턴 사이의 상호작용을 조사합니다.
4. 정량적 통찰: 본 연구는 이전 작업들이 주로 질적 인터뷰나 일화적 피드백에 의존했던 것과 달리, 조직 정책, 프라이버시 인식, 사용 행동 간의 관계에 대한 정량적 증거를 제공합니다.

결과

• 조직 정책과 숙련도: 조직 정책은 ChatGPT 숙련도와 유의미한 정적 상관관계를 보였습니다. 확립된 정책을 가진 조직의 직원들은 그러지 않은 조직의 직원들에 비해 ChatGPT가 데이터를 저장하고 처리하는 방식에 대해 더 나은 이해도를 나타냈습니다.
• 낮은 전반적 숙련도: 긍정적인 상관관계에도 불구하고, 전반적인 ChatGPT 숙련도는 낮게 나타났으며, 지식 기반 진술의 36%만이 올바르게 검증되었습니다. 주목할 만한 오개념이 관찰되었는데, 참가자의 90%가 자신의 개인 정보가 자동으로 익명화된다고 잘못 믿고 있었습니다.
• 프라이비시 우려의 영향: 높은 수준의 통합 프라이버시 우려는 ChatGPT의 사용 빈도와 사용 사례의 다양성 모두에 부정적인 영향을 미쳤습니다. 이러한 부정적 효과는 GenAI 정책이 없는 조직의 사용자들 사이에서 특히 두드러졌는데, 이는 이들이 행동을 유도하기 위해 오로지 개인의 우려와 지식에만 의존하고 있음을 시사합니다.
• 정책의 조절 역할: 확립된 정책이 있는 조직에서는 개인의 프라이버시 우려와 숙련도가 사용 행동에 미치는 영향이 유의미하지 않았습니다. 이는 조직의 가이드라인이 사용에 관한 개인의 의사결정 과정을 대체하거나 표준화할 수 있음을 시사합니다.
• 정책 유형: 본 연구는 "사용자 제약"과 "사용 제약"이 개인의 사용 행동에 미치는 영향 사이에 유의미한 차이가 없음을 발견했습니다.
• 사용 다양성: 정책이 있는 조직의 참가자들은 정책이 없는 조직의 참가자들에 비해 더 넓은 범위의 애플리케이션에 ChatGPT를 활용하였습니다.

의의 및 주장
본 논문은 업무 맥락 내에서 ChatGPT 사용자의 프라이버시 기반 행동에 대한 정량적 통찰을 제공한 첫 번째 연구라고 주장합니다. 연구는 조직 정책이 사용자의 기술적 이해(숙련도)를 높이는 데는 성공적이지만, 프라이버시 우려를 반드시 제거하는 것은 아니라는 점을 강조합니다. 대신, 정책은 구조화된 지침을 제공함으로써 보다 다각적인 사용을 촉진하는 반면, 정책의 부재는 사용자들이 잠재적으로 부정확한 개인적 가정(예: 자동 익명화에 대한 믿음)이나 도구의 효용을 제한하는 제약적인 프라이버시 우려에 취약하게 만든다는 것을 보여줍니다.

저자들은 구조화된 조직적 지침이 사용자의 역량을 향상시키고 GenAI 도구의 다양하고 효율적인 사용을 가능하게 하는 핵심 요소라고 겸허히 결론짓는 동시에, 규제된 환경에서도 데이터 프라이버시에 관한 사용자의 지식 격차가 여전히 상당하다는 점을 인정합니다. 본 연구는 새로운 기술적 솔루션이나 미래의 응용 방안을 제안하기보다는, 조직 정책 수립 및 사용자 교육 전략에 정보를 제공하기 위한 실증적 근거를 제시합니다.