🤖 AI

Understanding Privacy by Formalizing It

본 논문은 알고리즘 및 AI 개발을 안내하기 위해 다양한 프라이버시 이론과 원칙을 체계적으로 명시하고자 다중 양상 논리를 활용하여, 규범적 위치 이론 내에서 프라이버시 권리에 대한 인식론적 권리로서의 형식화를 제안한다.

원저자: Réka Markovich, Truls Pedersen, Marija Slavkovik

게시일 2026-06-23

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Réka Markovich, Truls Pedersen, Marija Slavkovik

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

큰 문제: 프라이버시는 너무 모호하다

당신이 "예의 바른" 로봇을 만들려고 한다고 상상해 보세요. 만약 당신이 로봇에게 "예의 바르게 행동해"라고 말한다면, 로봇은 혼란에 빠질 것입니다. 그게 말을 가로채지 말라는 뜻인가요? "부탁합니다"라고 말해야 한다는 건가요? 아니면 당신을 쳐다보지 말라는 뜻인가요? 구체적인 정의가 없다면 로봇은 무엇을 해야 할지 알 수 없습니다.

저자들은 프라이버시가 바로 그 모호한 지시와 같다고 주장합니다. 인공지능(AI)과 컴퓨터가 인간의 사고보다 더 빠르게 데이터를 처리하는 현대 사회에서, 우리는 기계에게 "프라이버시"가 정확히 무엇을 의미하는지 알려주어야 합니다. 현재 사람들은 서로 다른 정의를 사용하여 프라이버시에 대해 논쟁하고 있으며, 이러한 정의들이 수학적으로 정밀하지 않기 때문에 알고리즘을 통해 프라이버시 침해 여부를 확인할 수 없습니다.

이 논문의 목표는 이 무질서하고 모호한 프라이버시라는 개념을 (논리를 사용하여) 컴퓨터가 이해할 수 있는 엄격한 수학적 레시피로 바꾸는 것입니다.

도구 상자: "법률 레고" 세트

이 레시피를 만들기 위해 저자들은 **다중 양상 논리(Multi-modal Logic)**라는 특별한 유형의 논리를 사용합니다. 이것을 다양한 종류의 규칙들을 서로 끼워 맞출 수 있게 해주는 "법률 레고" 세트라고 생각하면 됩니다.

그들은 (법학자 호펠드(Hohfeld)의 연구에 기반한) **규범적 지위 이론(Theory of Normative Positions)**이라는 프레임워크에 의존합니다. 체스를 한다고 상상해 보세요. 체스에서는 단순히 "기물"만 있는 것이 아니라, 특정한 권한과 제한이 있습니다:

청구권(Claim-Right): 당신에게는 무언가를 할 권리가 있고, 다른 누군가는 당신에게 그것을 허용해야 할 의무가 있습니다. (예: "나에게는 내 성에 대한 권리가 있고, 당신은 들어오지 말아야 할 의무가 있다.")
특권/자유(Privilege/Freedom): 당신은 무언가를 할 자유가 있으며, 아무도 당신을 막을 수 없습니다. (예: "나는 내 땅 위를 걸을 자유가 있다.")
권력(Power): 당신은 다른 사람을 위한 규칙을 변경할 수 있는 능력이 있습니다. (예: "나는 내 땅을 팔 수 있고, 이는 당신의 출입 능력을 변화시킨다.")
면제(Immunity): 당신은 타인에 의해 규칙이 변경되지 않도록 보호받습니다. (예: "누구도 내 허락 없이 내 땅을 팔 수 없다.")

저자들은 이 "레고"들을 사용하여 다양한 버전의 프라이버시를 구축합니다.

프라이버시의 다양한 "맛"

이 논문은 유명한 사상가들이 프라이버시를 어떻게 정의했는지 살펴보고, 이를 그들의 논리 언어로 번역합니다. 분석된 주요 "맛"들은 다음과 같습니다:

1. "방해 금지" 표지판 (혼자 있을 권리)

개념: 프라이버시란 아무도 당신의 비밀을 알아서는 안 된다는 것을 의미합니다.
논리: 이것은 국가가 모든 개인에 대해, '그 누구도' 특정 정보를 알 수 없도록 하는 규칙을 보장해야 할 의무가 있는 규칙으로 번 translation됩니다.
함정: 저자들은 현실 세계에서 우리가 항상 "혼자"일 수는 없다는 점을 깨달았습니다. 때로는 의사가 당신의 건강 데이터를 알아야 하고, 서버가 당신의 위치를 알아야 택배를 보낼 수 있습니다. 따라서 논리는 "좋아, 의사는 알지만, 의사가 보험사에 그 정보를 말해서는 안 된다"라고 말할 수 있을 만큼 유연해야 합니다.

2. "조절 노브" (접근 제어권)

개념: 프라이버시는 보이지 않는 것이 아니라, 자신의 데이터에 대한 '주인'이 되는 것입니다. 당신이 누가 무엇을 볼지 결정합니다.
논리: 이것은 "권력"으로 모델링됩니다. 당신은 접근을 허용하거나 거부할 수 있는 권력을 가집니다. 누군가가 당신의 데이터를 볼 수 있더라도 (웨이터가 당신의 주문을 보는 것처럼), 당신은 그들이 그 정보를 다른 사람과 공유할 수 있는지 여부를 통제할 권리가 있습니다.
비유: 당신이 유리 벽이 있는 방 안에 있다고 상상해 보세요. 당신은 사람들이 당신을 보는 것을 막을 수는 없지만(그들은 볼 수 있습니다), 당신에게는 리모컨이 있습니다. 버튼을 누르면 유리가 불투명해집니다. 누르지 않으면 투명하게 유지됩니다. 논리는 누가 그 리모컨을 쥐고 있는지를 정의합니다.

3. "맥락 전환" (맥락적 무결성)

개념: 데이트 앱에 자신의 HIV 상태를 공유하는 것은 괜찮지만, 직장 상사에게 공유하는 것은 안 됩니다. 프라이버시는 상황에 따라 달라집니다.
논리: 저자들은 "정보는 특정 목적을 위해 특정 맥락에서 공유되지 않는 한 프라이버시를 유지한다"라는 규칙을 작성하려고 시도합니다. 만약 데이터가 "데이트 맥락"에서 "직업 면접 맥락"으로 넘어간다면, 논리는 이를 위반으로 표시합니다.

4. "투명한 거울" (알 권리)

개념: 때때로 프라이버시는 숨기는 것이 아니라, 누가 당신을 보고 있는지 아는 것에 관한 것입니다.
논리: 이것은 "누군가 당신의 데이터에 접근하면, 당신은 그 사실을 알 권리가 있다"라는 규칙입니다. 이는 도둑을 기록할 뿐만 아니라 당신에게 "누군가 방금 당신의 일기장을 보았습니다"라고 문자 메시지를 보내는 보안 카메라와 같습니다.

이것이 왜 중요한가요?

저자들은 지금 당장 모든 프라이버시 문제를 해결하려는 것이 아닙니다. 대신, 그들은 설계도를 만들고 있습니다.

이 논문 이전: 우리는 서로 다른 사람들이 "프라이버시는 X다", "프라이버시는 Y다", "프라이버시는 Z다"라고 말하는 것을 보았습니다. 그들은 서로 다른 정의를 사용하고 있기 때문에 서로 겉도는 논쟁을 하고 있었습니다.
이 논문 이후: 우리는 정의 X와 정의 Y를 가져와서 동일한 수학적 논리 기계에 실행해 볼 수 있습니다. 기계는 우리에게 "이 두 정의는 사실 같다"라거나, "이 두 정의는 서로 모순된다"라고 말해줄 수 있습니다.

결론

이 논문은 기초적인 단계입니다. 저자들은 "우리가 프라이버시에 대한 공정한 AI 시스템을 구축하려면, 컴퓨터가 혼란 없이 읽을 수 있는 언어로 프라이버시의 규칙을 쓸 수 있어야 한다"라고 말합니다.

그들은 프라이버시 권리에 대한 "사전"과 "문법"을 만들었습니다. "감시로부터의 자유"와 같은 추상적인 아이디어를 엄격한 논리 공식(예: Oa→b...)으로 변환함으로써, 그들은 새로운 기술이나 법률이 실제로 프라이버시를 존중하고 있는지, 아니면 몰래 규칙을 어기고 있는지 컴퓨터가 자동으로 확인할 수 있게 되기를 희망합니다.

요약하자면: 그들은 "프라이버시"라는 개념을 모호한 느낌에서 컴퓨터가 따를 수 있는 정밀한 지침 세트로 바꾸고 있습니다.

기술 요약: 프라이버시의 형식화를 통한 이해

문제 제기
본 논문은 특히 인공지능(AI) 및 디지털화의 맥락에서, 프라이버시라는 개념을 알고리즘적 분석과 구현에 적합한 형식으로 변환하는 과제를 다룬다. 프라이버시 보호에 대한 광범end한 합의는 존재하지만, 개념 자체는 통일된 정의가 결여되어 있으며 법학, 사회과학, 컴퓨터 과학 분야에서 다양한 해석이 존재한다. 데이터 내 패턴 인식과 같은 현재의 AI 역량은 명시적으로 공유되지 않은 정보를 추론함으로써 프라이버시를 침해할 수 있으나, 기존의 규제 프레임워크는 종종 모호하거나 상충하는 개념화에 의존하고 있다. 저자들은 의미 있는 알고리즘적 제한이나 자율 규제 메커니즘을 부과하기 위해서는 프라이버시 권리가 형식적으로 명시되어야 한다고 주장한다. 이러한 정밀함 없이는 서로 다른 프라이버시 개념들을 비교하거나, 그것들이 동일한 기저의 아이디어를 지칭하는지 판단하는 것이 불가능하다.

방법론
저자들은 다양한 프라이버시 이론을 특징짓기 위해 형식 논리적 접근 방식을 채택한다. 이 방법론은 세 가지 주요 구성 요소로 이루어진다:

이론적 프레임워크: 본 논문은 W.N. 호펠드(W.N. Hohfeld)의 권리 분석에 뿌리를 둔 **규범적 지위 이론(Theory of Normative Normative Positions)**을 활용한다. 이 프레임워크는 네 가지 원자적 유형의 권리와 그 상관 관계인 클레임 권리(및 의무), 특권(및 권리 부재), 권한(및 책임), 면제(및 불능)를 구분한다. 저자들은 이를 모든 이들에 대해 가지는 권리인 **멀티탈 권리(multital rights)**와 복합적인 조합인 **분자적 권리(molecular rights)**로 확장한다. 특히 저자들은 지식/정보와 같은 인식적 재화의 분포 및 접근성에 관한 권리인 **인식적 권리(epistemic rights)**에 초점을 맞춘다.
논리적 형식화: 다양한 권리를 표현하기 위해 **다중 양상 논리(multi-modal logic)**를 구축한다. 언어 $L$ $L$ 은 명제 논리에 네 가지 양상을 확장한다:
- 에이전시 ( $E_a$ ): "에이전트 $a$ 가 ~하도록 조치한다..." (근방 의미론을 통해 모델링됨).
- 방향성 의무 ( $O_{a \to b}$ ): "에이전트 $a$ 는 $b$ 에 대하여 ~해야 할 의무가 있다..." (표준 의무 논리, 공리 D).
- 인식적 지식 ( $K_a$ ): "에이전트 $a$ 는 ~임을 안다..." (표준 S5 지식 논리).
- 진리적 필연성 ( $\Box$ ): "it is necessary that..." (S5).
  이 논리는 '행위'에 대한 강한 가정을 피하기 위해 약한 행위 논리(weak action logic)를 사용하여, '행위'에 대한 폭넓은 해석을 허용하면서도 지식과 필연성에 대한 표준적 속성을 유지한다.
형식화 과정: 저자들은 특정 프라이버시 정의와 이론들을 이 논리적 언어에 매핑한다. 이들은 "혼자 있을 권리", "정보에 대한 통제", "맥락적 무결성(contextual integrity)"과 같은 개념들을 위의 양상들의 조합을 포함하는 공식으로 번역한다.

주요 기여 및 결과
본 논문은 여러 저명한 프라이버시 접근 방식에 대한 초기 형식적 표현을 제공하며, 이들이 어떻게 서로 다른 규범적 지위로 번역되는지를 보여준다:

혼자 있을 권리 / 통제: 저자들은 "혼자 있을 권리"(워런과 브랜다이스)와 웨스틴(Westin)의 "통제" 정의를 형식화한다. 이들은 다음을 구분한다:
- 당위적 상태(Ought-to-be) 공식 (예: $O\Diamond E_a \neg K_b \phi$ , 이는 원하는 상태를 기술함).
- 특정 에이전트를 포함하는 당위적 행위(Ought-to-do) 공식 (예: 국가 $s$ 가 기업 $c$ 에게 에이전트 $a$ 가 $b$ 가 $\phi$ 를 알지 못하게 하는 것을 가능하게 하라는 의무를 부과함).
- 저자들은 멀티탈 자유(공개 의무의 부재)와 면제(타인이 이 자유를 변경할 수 없음)를 형식화하여, 프라이버시가 단일한 원자적 클레임이 아니라 복잡한 분자적 권리임을 보여준다.
맥락적 무결성과 도달 불가능한 프라이버시: 절대적인 통제는 불가능하다는 니센바움(Nissenbaum)의 비판에 대응하여, 본 논문은 접근이 불가피한 시나리오를 형식화한다. 이 경우, 프라이버시는 추가적인 확산에 대한 통제권이나, 정보를 반드시 알게 된 이들이 그것을 조사하거나 논평하는 것을 방지할 권리로 재정의된다 (예: $E_a O_{b \to a} \neg E_b K_a \phi$ ).
투명성: 본 논문은 "알고 있는지 여부(knowing whether)" 연산자를 사용하여 "접근 권한이 있는지 여부를 아는 권리"(투명성)를 형식화함으로써 논리적 역설을 피하고, 의무 이행자가 권리 보유자에게 접근 상태에 대해 알려야 함을 보장한다.
집행: 저자들은 권리의 **집행 권한(power to enforce)**에 대한 형식화를 포함한다. 이들은 프라이버시 의무의 위반으로부터 원래의 의무를 집행하거나 보상을 제공하기 위한 사법부에 대한 새로운 클레임 권리로의 전이를 모델링한다.

의의 및 주장
본 논문은 논리적 명세(specification)를 서로 다른 프라이버시 개념 간의 구분을 명확히 하기 위한 목표이자 방법으로 사용하는 것이 주요 기여라고 주장한다. 이러한 프라이버시 개념들을 '규범적 지위 이론' 내에서 형식화함으로써, 저자들은 다음을 목표로 한다:

프라이버시 명세를 알고리즘적 분석이 가능하도록 만들어, 프라이버시 위반을 탐지할 수 있는 알고리즘 구축을 가능하게 한다.
서로 다른 프라이버시 개념들(예: 법학 대 컴퓨터 과학)이 동등한지 혹은 별개인지 판단하기 위한 공통 기반을 제공한다.
AI 및 멀티 에이전트 시스템(MAS)에서의 "정책-코드화(policy-as-code)" 및 "법률-코드화(law-as-code)" 이니셔티브의 기초가 되는, 구현 가능한 프라이버시 권리 명세의 토대를 마련한다.

저자들은 본 논문이 메타 논리적 결과(완전성 또는 결정 가능성 증명 등)를 제공하는 것이 아니라, 서로 다른 프라이버시 이론이 규범적 지위에 어떻게 매핑되는지에 대한 형식적 개념 분석에 집중하고 있음을 명시한다. 이들은 이것이 초기 단계임을 인정하며, 향-후 연구에서는 이러한 권리의 가변성(defeasibility)을 다루고 LogiKEy와 같은 프레임워크를 사용하여 이러한 형식들을 테스트할 계획이다.