🤖 AI

CIDER: A Dataset of Contextual Disclosure Boundaries for Privacy Preference Alignment

이 논문은 추론 시점의 개인화를 통해 대규모 언어 모델을 미묘하고 개별적인 프라이버시 선호도에 정렬하여 평가하고 개선하기 위해, 인간의 주석으로부터 도출된 맥락적 정보 공개 경계에 관한 대규모 데이터셋인 CIDER를 소개한다.

원저자: Bingcan Guo, Eryue Xu, Jijie Zhou, Zhiping Zhang, Tianshi Li

게시일 2026-08-11

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Bingcan Guo, Eryue Xu, Jijie Zhou, Zhiping Zhang, Tianshi Li

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

로봇에게 좋은 친구가 되는 법을 가르치고 있다고 상상해 보세요. 단순히 "비밀을 말하지 마라"와 같은 거대한 규칙책을 주는 식으로는 안 될 겁니다. 그건 너무 모호하니까요. 만약 당신이 로봇에게 "내 생일에 대해 말하지 마"라고 한다면, 모두가 생일을 외치고 있는 깜짝 파티 현장에서는 로봇이 혼란에 빠질 수도 있습니다. 하지만 낯선 이와 함께 있는 조용한 저녁 식사 자리라면, 그 비밀은 반드시 굳게 잠겨 있어야 합니다. 이것이 바로 **프라이버시(사생활)**라는 까다로운 세계입니다. 프라이버시는 단순히 "출입 금지"라고 적힌 벽이 아니라, 그 자리에 누가 서 있는지, 날씨는 어떤지, 그리고 상대방을 얼마나 신뢰하는지에 따라 열리고 닫히는 보이지 않는 움직이는 문들과 같습니다.

과학자들은 컴퓨터가 "낯선 사람에게 의료 기록을 공유하지 마라"와 같은 일반적인 규칙을 따르는 데 점점 더 능숙해지고 있다는 사실을 오래전부터 알고 있었습니다. 하지만 일반적인 규칙을 아는 것과 당신만의 구체적이고 개인적인 감정을 이해하는 것 사이에는 간극이 존재합니다. 어떤 사람은 점심 사진을 공유하는 것을 좋아하지만 누군가 자신의 연봉을 언급하면 불안해할 수도 있습니다. 또 다른 사람은 정확히 그 반대일 수도 있죠. 연구자들이 해결하려고 노력 중인 큰 질문은 이것입니다. "AI에게 이러한 독특하고 개인적인 '프라이비시 경계'를 가르쳐서, 당신이 차를 따뜻하게 유지하고 싶을 때 실수로 그 차를 쏟아버리지 않게 할 수 있을까?"

여기에 AI가 이러한 개인적인 비밀을 배우기 위한 거대한 훈련 캠프 역할을 하는 새로운 연구, CIDER가 등장했습니다. 연구진은 169명의 실제 사람들을 모아 간단하지만 까다로운 질문을 던졌습니다. "내가 당신에 대한 이 이야기를 다음의 아홉 가지 방식으로 말해도 괜찮습니까?" 그들은 이야기를 매번 조금씩 변형했습니다. 때로는 당신의 전체 이름을 사용하고, 때로는 그냥 "한 친구"라고 지칭하며, 때로는 아주 세세한 디테일까지 다 제공하고, 때로는 모호하게 유지하기도 했습니다. 그들은 사람들의 답변이 무작위가 아니라는 것을 발견했습니다. 어떤 이들은 모호한 세부 사항은 괜찮지만 이름이 언급되는 것은 싫어했습니다. 또 어떤 이들은 이름은 상관없지만 아주 작은 디테일이 나오는 것에는 질색했습니다.

연구팀은 이 데이터를 가져가 12개의 서로 다른 AI 모델에 테스트를 진행했습니다. 그 사람이 이전에 했던 말들을 바탕으로, 특정 인물이 다음에 무엇을 말할지 맞히는 게임을 시킨 것입니다. 이는 마치 AI가 당신의 과거 선택들을 살펴보고 당신만의 개인적인 프라이버시 스타일을 파악해야 하는 "규칙 맞히기" 게임과 같습니다. 결과는 희망적인 소식과 현실적인 점검이 섞여 있었습니다. 가장 크고 똑똑한 AI 모델들(Anthropic이나 OpenAI의 모델들)은 이 작업에 매우 능숙해졌습니다. 이 모델들은 한 사람의 과거 선택 사례를 단 6개만 제공받았을 때, 과거의 이력이 전혀 없을 때보다 훨씬 높은 정확도(최대 11.41%포인트 더 높음)로 그 사람의 미래 선택을 예측할 수 있었습니다. 이 똑똑한 모델들은 단순히 단어를 이해하는 것이 아니라 상황의 '분위기(vibe)'를 이해하는 듯 보였습니다.

하지만 연구는 모든 AI가 다 똑같지는 않다는 점도 밝혀냈습니다. 더 작고 단순한 모델들은 경직된 지름길에 의존하는 경향이 있었습니다. 그들은 내용을 제대로 이해하기보다는 "이름이 있으면 '아니오'라고 해라" 또는 "세부 사항이 너무 많으면 '아니오'라고 해라"와 같은 방식을 학습했습니다. 마치 수업 내용은 이해하지 못한 채 정답지만 암기한 학생 같았습니다. 더욱이, 똑똑한 모델들은 예측 능력이 좋아졌지만, 때때로 잘못된 방향으로 너무 확신을 갖기도 했습니다. 그들은 "아니오"라고 말해야 할 때 멈추거나, "예"라고 말해서는 안 될 때 "예"라고 말하는 등 새로운 종류의 불균형을 만들어냈습니다. 오직 Claude Sonnet 4.6만이 오류의 균형을 깨뜨리지 않으면서 정확도를 개선하는 데 성공했습니다.

결론적으로, CIDER는 우리가 AI가 진정으로 우리의 개인적인 프라이버시를 존중할 수 있는 단계에 가까워지고 있음을 시사하지만, 아직 해결된 문제는 아닙니다. 최고의 AI는 단순히 많은 데이터뿐만 아니라, 우리의 선택 뒤에 숨겨진 미묘하고 인간적인 맥락을 이해하는 능력을 갖춰야 합니다. 이는 프라이버시가 단순히 정보를 숨기는 것이 아니라, 누구와 정보를 공유할 것인지 정확히 아는 것에 관한 문제이며, AI 또한 우리만큼이나 그 춤사위를 잘 배워야 한다는 점을 상기시켜 줍니다.

기술 요약: CIDER - 개인의 프라이버시 선호도 정렬을 위한 맥락적 정보 공개 경계 데이터셋

문제 정의

대규모 언어 모델(LLM)이 일상적인 커뮤니케이션에 점점 더 많이 통합되고 있지만, 인간의 프라이버시 선호도와 정렬하는 능력은 여전히 일관되지 않습니다. 기존 연구는 주로 규제와 문헌에서 도출된 일반적이고 집단 수준의 프라이버시 규범에 따라 모델을 평가하기 위해 맥락적 무결성(Contextual Integrity, CI) 프레임워크에 의존합니다. 그러나 이러한 규범은 본질적으로 거칠게 분류되어 있으며, 사람들이 실제 생활에서 보여주는 역동적이고 미묘하며 개별화된 프라이버시 행동을 포착하지 못합니다.

핵심 과제는 개별적인 프라이버시 경계를 이끌어내고 모델링하는 것입니다. 공공 규범과 달리, 개인의 경계는 삶의 경험과 상황적 위험 인식을 통해 암묵적으로 형성되므로 사용자가 명시적으로 설명하기 어렵습니다. 현재의 평가 방법은 특히 AI 매개 커뮤니케이션 시나리오에서, 특정 맥락에 따른 공개 선호도에 적응하는 LLM의 능력을 체계적으로 조작하여 평가할 수 있는 방법론이 부족합니다.

방법론

CIDER 데이터셋

이러한 격차를 해소하기 위해 저자들은 169명의 참가자로부터 얻은 60개의 대인 커뮤니케이션 시나리오 기반의 14,850개 인간 주석으로 구성된 CIDER(Contextual Information Disclosure Boundaries Elicited from Real Users)를 소개합니다.

시나리오 구축: 시나리오는 프라이버시 규범을 위반하는 다양한 데이터 공유 관행을 다루는 PrivacyLens 데이터셋에서 유도되었습니다. 각 시나리오는 커뮤니케이션 역할(발신자, 대상자, 수신자)과 AI 매개 조건(인간 vs. AI 어시스턴트)을 변화시켜 여러 맥락으로 구체화되었습니다.
공개 변체(Disclosure Variants): 각 맥락에 대해, 저자들은 다음 두 가지 차원에 따라 체계적으로 변화하는 9가지 공개 변체를 생성했습니다:
1. 상세도(Granularity): 일반적(G1), 중간 정도 상세함(G2), 매우 상세함(G3).
2. 식별 가능성(Identifiability): 식별 불가(I1), 부분적 식별 가능(I2), 완전한 식별 가능(I3).
데이터 수집: 참가자들은 할당된 맥락 내에서 각 변체의 허용 여부(Yes/No)를 평가했습니다. 이 데이터셋은 1,650개의 맥락적 공개 경계를 형성하며, 이는 개별화된 결정 패턴을 나타냅니다.

태스크 정식화

본 논문은 프라이버시 선호도 예측 태스크를 정식화합니다. $N$ 개의 맥락에 걸친 사용자의 과거 공개 경계( $B$ )가 주어졌을 때, 모델은 사용자의 잠재적 프라이버시 선호도( $p$ )를 추론하고 새로운 미학습 맥락( $c_{new}$ )에 대한 사용자의 공개 결정( $\hat{y}$ )을 예측해야 합니다.

평가는 파라미터 업데이트 없이 **인컨텍스트 학습(in-context learning)**을 통한 추론 시점의 개인화에 초점을 맞춥니다. 저자들은 네 가지 조건을 비교합니다:

HC (High Context, 고맥락): 시나리오와 변체에 대한 전체적인 의미론적 맥락과 함께 제공되는 과거의 경계.
HL (Low Context, 저맥락): 구조적 라벨(상세도/식별 가능성)은 제공하되 의미론적 내용은 삭제된 상태로 제공되는 과거의 경계.
H (History Only, 이력만 제공): 맥락이나 라벨 없이 이진 결정값만 제공되는 과거의 경계.
No-History Baseline (이력 없음 베이스라인): 사용자 이력 없이 타겟 시나리오에만 기반한 예측.

실험은 다양한 히스토리 길이( $k \in \{1, 4, 5, 6\}$ )를 가진 12개의 오픈 및 독점 LLM(GPT-5.4, Claude Sonnet 4.6, Llama 4, Qwen3 제품군 포함)을 대상으로 수행되었습니다.

주요 기여

CIDER 데이터셋: 집단 수준의 규범을 넘어 특정 사용자의 경계를 모델링하기 위해 개별화된 맥록적 공개 행동을 포착한 최초의 개인화 데이터셋입니다.
개인적 경계의 조작화: 상세도와 식별 가능성에 의해 정의된 공개 변체에 대한 이진 벡터로서 프라이버시 선호도를 표현하는 구조화된 프레임워크를 제공합니다.
평가 벤치마크: 인컨텍스트 학습을 사용하여 개인화된 프라이버시 정렬을 평가하기 위한 엄격한 프로토콜을 제시하며, 모델 규모, 추론 능력, 개인화 충실도 사이의 트레이드오프를 강조합니다.
연구 툴킷: 공개 변체를 생성하고 실제 사용자로부터 결정을 이끌어내는 재사용 가능한 파이프라인을 제공하여 향후 종단적 연구를 지원합니다.

결과

예측 정확도 및 개인화

일반적 개선: 인컨텍스트 개인화는 일반적으로 예측 정확도를 향상시킵니다. 6개의 과거 사례( $k=6$ )만을 사용했을 때, 정확도는 이력 없는 베이스라인 대비 최대 11.41 퍼센티지 포인트 향상되었습니다.
모델 규모 및 추론 능력: 규모가 크고 추론 능력이 있는 모델(예: 중간 정도의 추론 노력을 기울인 GPT-5.4, Claude Sonnet 4.6)은 작은 모델보다 크게 앞섭니다. 이러한 모델들은 의미론적 맥락(HC 조건)을 효과적으로 활용하여 사용자 특유의 선호도를 이해합니다.
- GPT-5.4는 HC 조건 하에서 $k=6$ 일 때 **72.45%**의 정확도를, Claude Sonnet 4.6은 **71.98%**의 정확도를 달성했습니다.
- 작은 모델들(예: Llama 3.1 8B, Qwen3-8B)은 종종 낮은 정확도(예: ~59.70%)에서 정체되며, 의미론적 이해보다는 구조적 휴리스틱(상세도 및 식별 가능성 라벨)에 의존하는 경향이 있습니다. 어떤 경우에는 전체 의미론적 맥락(HC)을 제공하는 것이 오히려 작은 모델들에게 HL 조건보다 도움이 되지 않거나 방해가 되기도 했습니다.

오류 분석 및 트레이드오프

불균형한 오류 이동: 개인화가 전반적인 정확도를 높이기는 하지만, 종종 거짓 양성(FP)과 거짓 음성(FN)의 불균형한 변화를 초래합니다.
- 대부분의 모델은 "쉬운" 변체(낮은 상세도/식별 가능성)에 대해서는 FN을 줄이지만, FP는 증가시킵니다.
- 반대로 "어려운" 변체(높은 상세도/식별 가능성)에 대해서는 FP를 줄이지만, FN은 증가시키는 경향이 있습니다.
균형 잡힌 성능: Claude Sonnet 4.6은 모든 변체에 대해 FP와 FN 비율을 모두 줄이는 균형 잡힌 개선을 달성한 유일한 모델이었습니다.
실패 모드: 잘못된 예측에 대한 분석 결과 네 가지 오류 유형이 발견되었습니다:
1. 자기 공개 편향(Self-Disclosure Bias): 모델이 자기 공개는 항상 허용된다고 가정함.
2. 패턴 외삽(Pattern Extrapolation): 모델이 의미론적 추론 없이 과거의 "Yes" 패턴을 맹목적으로 외삽함.
3. 규범 기반 덮어쓰기(Norm-Based Override): 모델이 특정 사용자 선호도보다 일반적인 윤리 규범을 우선시함.
4. 규칙 기반 일반화(Rule-Based Generalization): 모델이 미묘한 새로운 맥락에서 실패하는 단순화된 규칙(예: "신뢰할 수 있는 발신자 = Yes")을 도출함.

개인화 vs. 집단/규범 정렬

비교 분석 결과, 개인 수준의 예측이 집단 기반 경계의 67.92% 사례에서, 규범 기반 경계의 60.69% 사례에서 집단 수준의 예측보다 동등하거나 더 우수한 성능을 보였으며, 이는 개인화된 모델링의 필요성을 입증합니다.

의의 및 주장

본 논문은 CIDER를 개인화된 프라이버시 정렬을 진전시키기 위한 핵심 자원으로 위치시킵니다. 연구 결과는 현재 LLM 능력의 이중적 현실을 드러냅니다:

가능성: 강력한 추론 능력을 갖춘 프런티어 모델들은 인컨텍스트 히스토리를 사용하여 개인의 프라이버시 경계를 효과적으로 학습하고 적응할 수 있으며, 정적인 규범 기반 접근 방식보다 크게 뛰어난 성능을 보입니다.
한계: 현재의 모델들, 특히 온디바이스용 소규모 모델들은 의미론적 맥락을 활용하여 개인화하는 데 어려움을 겪으며, 종종 불균형한 오류율(거짓 음성을 위해 거짓 양성을 희생함)을 보입니다. 또한, 대규모 모델을 위한 중앙 집중식 인프라에 대한 의존은 개인화를 위해 사용자 데이터를 전송함으로써 그 자체로 프라이버시 위험을 생성하는 '프라이버시 역설'을 야기합니다.

저자들은 LLM을 개인의 프라이버시 선호도에 정렬시키기 위해서는 더 풍부한 행동 이력뿐만 아니라, 특히 소규모 온디바이스 배포를 위해 정보를 해석하고 활용하는 개선된 모델 능력이 필요하다고 결론짓습니다. 또한 개인화 충실도를 높이기 위해 타겟팅된 전략(예: 파인튜닝, 더 나은 프롬프팅)에 초점을 맞춘 향후 연구를 촉구합니다.