Tracking Conversations: Measuring Content and Identity Exposure on AI Chatbots
본 논문은 20 개의 인기 있는 AI 채팅봇에 대한 웹 추적을 체계적으로 측정하여, 대부분의 채팅봇이 비공개 채팅 모드에서도 제 3 자 분석, 광고 및 세션 재생 서비스와 민감한 사용자 콘텐츠 및 신원 정보를 공유한다는 사실을 밝혀냈습니다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
AI 채팅봇을 고급 기술로 무장한 친절한 사서로 상상해 보세요. 여러분이 그들에게 다가가 속삭임처럼 질문을 던지면, 그들은 여러분을 돕기 위해 책을 꺼냅니다. 과거에는 여러분이 "이건 나랑 사서 사이의 대화일 뿐이야"라고 생각했을지도 모릅니다.
하지만 이 연구 논문은 여러분이 사서와 대화하는 동안, 한 무리의 낯선 사람들이 일방향 유리벽 뒤에 서서 메모를 하고, 사진을 찍으며, 심지어 오디오도 녹음하고 있다는 사실을 밝혀냈습니다.
연구자들이 발견한 내용을 간단한 비유로 정리해 보겠습니다.
1. 설정: "유리 집" 사서들
연구자들은 ChatGPT, Gemini, Claude 등 가장 인기 있는 AI 채팅봇 웹사이트 20 개를 조사했습니다. 그들은 무작위 질문을 던진 것이 아니라, 매우 구체적이고 민감한 질문을 했습니다: "내 근처에서 임신 테스트 키트를 어디서 구할 수 있나요?"
이는 도서관에 들어가 매우 낮은 목소리로 의료 조언을 구하는 것과 같습니다. 연구자들은 그 특정 정보가 여러분의 입에서 나온 후 어떻게 되는지 확인하고 싶었습니다.
2. 큰 드러냄: "제 3 자 엿보는 사람들"
이 연구는 20 개 채팅봇 중 17 개가 대화 세부 정보를 외부 회사 (제 3 자) 와 공유하고 있음을 발견했습니다.
이렇게 생각해 보세요. 여러분이 방에서 사적인 대화를 나누고 있는데, 벽이 유리로 되어 있고 채팅봇 소유주가 17 명의 이웃을 초대해 엿듣게 한 것입니다.
- "세션 재생" 카메라: 세 개의 채팅봇은 "Microsoft Clarity"라는 도구를 사용했습니다. 이는 방을 녹화할 뿐만 아니라 여러분이 한 말과 사서가 대답한 내용을 그대로 텍스트로 기록하는 보안 카메라와 같습니다. 연구자들은 이 카메라들이 "임신 테스트" 대화의 전체 텍스트를 Microsoft 로 전송하여 그들이 여러분의 사적인 의료 질문을 읽을 수 있게 했음을 발견했습니다.
- "채팅 ID" 엽서: 채팅봇이 전체 텍스트를 보내지 않더라도, 15 개는 광고주와 분석 회사에 "엽서"를 보냈습니다. 이 엽서에는 여러분이 무엇을 물었는지 적혀 있지 않지만, 고유한 채팅 ID나 특정 대화에 대한 링크가 포함되어 있습니다. 마치 마케팅 회사에 "나는 404 호실에 있어요"라는 메모를 보내는 것과 같습니다. 그들은 아직 여러분이 임신 테스트에 대해 물었는지 모를지라도, 여러분이 그 특정 방에 있다는 것을 알고 있으며, 나중에 그 방을 여러분의 신원과 연결할 수 있습니다.
3. "이름표" 문제
연구자들은 많은 채팅봇이 대화 내용과 함께 여러분의 신원(이름, 이메일 또는 계정 ID)을 넘겨주고 있음을 발견했습니다.
- "지원 위젯" 누출: 일부 채팅봇에는 화면에 작은 "도움" 버튼이 있습니다. 페이지를 로드할 때, 이 버튼들은 여러분이 버튼을 클릭하지 않았더라도 자동으로 여러분의 이름과 이메일 주소를 버튼 제작사 (Intercom 등) 에게 외쳐댑니다.
- "해시된" 비밀: 일부 채팅봇은 이메일 주소를 "교란" (해시) 시켜 보냈습니다. 이는 수신자만 해독할 수 있는 비밀 코드를 보내는 것과 같습니다. 만약 여러분이 쇼핑 사이트와 채팅봇 사이트에서 동일한 교란된 코드를 사용한다면, 광고주들은 두 가지를 연결하여 "아, 기저귀를 산 사람이 임신 테스트에 대해 물어본 사람과 같은 사람이군"이라고 깨닫게 됩니다.
4. "시크릿" 모드: 효과가 있을까요?
많은 채팅봇은 아무것도 저장되지 않는다고 약속하는 "비공개" 또는 "임시" 채팅 모드를 제공합니다. 연구자들은 이를 테스트했습니다.
- 결과: 효과가 있었습니다! 비공개 모드에서는 "이웃들의 무리"가 대부분 사라졌습니다. 외부 회사의 수가 크게 감소했으며, 테스트한 비공개 채팅에서는 아무도 대화 텍스트나 신원을 보지 못했습니다.
- 하지만: 채팅봇의 개인정보 보호 정책은 명시적으로 "비공개 모드가 광고주를 차단한다"고 말하지 않았습니다. 단지 기록을 저장하지 않는 것에 대해 언급했을 뿐입니다. 연구자들은 규칙이 명확히 설명하지 않았음에도 불구하고, 비공개 모드의 설계가 추적을 막았음을 발견했습니다.
5. "개인정보 보호 정책" vs 현실
연구자들은 채팅봇이 (긴 지루한 개인정보 보호 정책에서) 한다고 말한 것과 실제로 한 것을 비교했습니다.
- 불일치: 일부 정책은 "우리는 파트너와 데이터를 공유합니다"라고 모호하게 표현했습니다. 다른 정책들은 구체적이었지만 가장 큰 유출자를 놓쳤습니다. 예를 들어, 세 개의 채팅봇은 정책에서 특정 파트너를 나열했지만 Microsoft Clarity 를 언급하는 것을 잊었습니다. Clarity 가 바로 그들의 사적인 대화를 평문으로 기록하고 있었음에도 불구하고요.
- 예외: Duck.ai 라는 한 채팅봇은 "정직한 사서"였습니다. 그들은 누구와도 데이터를 공유하지 않았으며, AI 에게 질문을 보내기 전에 위치 정보를 제거했습니다.
요약
이 논문은 AI 채팅봇이 훌륭한 도구이지만, 현재는 유리 집처럼 지어졌다고 결론 내립니다.
- 20 개 중 17 개의 채팅봇이 외부 회사가 엿보게 합니다.
- 3 개의 채팅봇은 외부 회사가 여러분의 사적인 의료 또는 개인 질문을 소리 내어 읽게 합니다.
- 15 개의 채팅봇은 광고주에게 여러분의 대화와 신원을 연결하는 고유 ID 를 보냅니다.
- 비공개 모드만이 이웃들을 효과적으로 차단하는 유일한 "커튼"이지만, 채팅봇들은 이것이 무엇을 하는지 항상 알려주지 않습니다.
연구자들은 채팅봇 소유주들이 더 나은 벽 (설계 변경) 을 구축하고 누가 듣고 있는지 더 정직하게 알려야 (명확한 정책) 한다고 제안합니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.