💻 컴퓨터 과학

RuleConEx: an intrinsically interpretable neural network unifying logical rules and counterfactual explanations for data access control

RuleConEx는 접근 결정, ABAC 준수 IF-THEN 규칙, 그리고 유효한 반사실적 설명을 단일 순전파 내에서 통합하여, 최신 모델에 필적하는 정확도를 달성하는 동시에 사용자 지향적 설명 가능성과 감사자 지향적 설명 가능성 사이의 조절 가능한 절충안을 제공하는 본질적으로 해석 가능한 신경망이다.

원저자: Benoît Martin Azanguezet Quimatio, Erick Tsafack Nteudem, Paul Valery Nguezet

게시일 2026-10-23

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Benoît Martin Azanguezet Quimatio, Erick Tsafack Nteudem, Paul Valery Nguezet

원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

디지털 세계에서 접근 제어는 문지기 역할을 합니다. 이 시스템은 누가 건물에 들어올 수 있는지, 누가 파일을 열 수 있는지, 또는 누가 계좌 간에 돈을 이동할 수 있는지를 결정합니다. 수십 년 동안 이러한 결정은 관리자들이 "재무 부서의 매니저는 송장을 승인할 수 있다"와 같이 명시적인 규칙 목록을 작성하여 이루어졌습니다. 이러한 목록은 읽고 확인하기 쉬웠지만 경직되어 있었습니다. 환경이 변하면 규칙을 수동으로 다시 작성해야 했으며, 이는 느리고 오류가 발생하기 쉬운 과정이었습니다. 최근 과학자들은 이러한 결정을 자동으로 내리기 위해 방대한 양의 과거 데이터로부터 패턴을 학습하는 컴퓨터 시스템의 일종인 딥러닝에 주목하고 있습니다. 이 시스템들은 매우 정확하여 종종 사람이 작성한 규칙보다 뛰어난 성능을 보이지만, 치명적인 결함이 있습니다. 바로 불투명성입니다. 이들은 인간이 쉽게 추적할 수 없는 복잡한 내부 계산을 통해 결정을 내리며, 이로 인해 특정 인물의 접근이 왜 거부되었는지 설명하는 것이 불가능해집니다. 이러한 투명성의 결여는 단순한 기술적 불편함이 아니라 법적 장애물입니다. 일반 데이터 보호 규정(GDPR)과 같은 규제는 개인에게 영향을 미치는 자동화된 결정에 대해 조직이 설명할 것을 요구하며, 불투명한 시스템은 이러한 요구를 충족할 수 없습니다.

카메룬의 드샹가 대학교(University of Dschang) 연구진은 이 구체적인 문제를 해결하기 위해 RuleConEx라고 불리는 새로운 시스템을 개발했습니다. 그들의 목표는 매우 정확하면서도 완전히 투명하며, 서로 다른 두 가지 인간적 필요를 충족하는 두 가지 방식으로 자신의 추론 과정을 설명할 수 있는 스마트 접근 제어 시스템을 구축하는 것이었습니다. 그들은 감사자에게는 시스템이 따르는 일반적인 규칙을 알려주는 동시에, 거부된 사용자에게는 접근 권한을 얻기 위해 어떤 작은 변화를 할 수 있는지 정확히 알려줄 수 있는 시스템을 원했습니다. 이를 달성하기 위해 연구팀은 단순히 정답을 추측하는 것이 아니라, 결정을 내리는 바로 그 순간에 두 가지 유형의 설명을 생성하는 신경망을 만들었습니다. 한 가지 설명은 과거의 전통적인 규칙 목록과 유사하게 전체 정책을 설명하는 명확하고 논리적인 "if-then" 문장의 형태를 띱니다. 다른 하나는 "반사실적(counterfactual)" 설명으로, "내가 허가를 받으려면 무엇이 달라져야 하는가?"라는 질문에 답하며 사용자의 속성에 대한 구체적이고 유효한 변경 사항을 제안합니다.

연구진은 아마존(Amazon)의 실제 데이터와 복잡한 조직 구조를 모방하도록 설계된 합성 데이터를 포함하여 다양한 접근 제어 시나리오를 나타내는 11개의 서로 다른 데이터셋을 통해 이 새로운 시스템을 테스트했습니다. 그들은 RuleConEx를 기존의 가장 우수한 딥러닝 모델 및 전통적인 머신러닝 도구들을 포함한 여러 방법과 비교했습니다. 결과에 따르면 RuleConEx는 높은 수준의 정확도를 달 Achieved 하여, 기존의 불투명한 시스템들과 대등한 성능을 보였으며, 설명을 전혀 제공하지 않는 표준 딥러닝 모델보다는 약간 낮은 수준의 정확도만을 보였습니다. 더 중요한 것은, 이 시스템이 설계된 대로 이중 설명을 성공적으로 생성했다는 점입니다. 생성된 논리적 규칙은 약 80%의 접근 요청을 커버했으며, 시스템의 실제 결정에 충실한 것으로 밝혀졌습니다. 즉, 규칙이 시스템이 생각하는 방식을 진정으로 반영했다는 의미입니다. 반사실적 설명 또한 매우 효과적이었습니다. 96%의 사례에서 제안된 변경 사항은 유효했으며 실제로 접근 권한을 부여받는 결과로 이어졌고, 일반적으로 사용자는 단 두 개의 속성만 변경하면 되었습니다.

이 연구의 핵심적인 발견은 연구진이 이 두 가지 유형의 설명 사이의 긴장을 어떻게 관리했는가 하는 점이었습니다. 보통 사용자에게 매우 짧고 단순한 제안을 주는 시스템은 감사자를 위한 규칙이 너무 광범위해지거나, 그 반대의 경우가 발생할 수 있습니다. 연구팀은 단 하나의 설정값으로 이 균형을 조절할 수 있다는 것을 발견했습니다. 이 설정을 조정함으로써, 사용자가 접근할 수 있는 매우 짧고 달성하기 쉬운 경로를 우선시하거나, 감사자에게 사용자의 특정 상황에 완벽히 부합하는 규칙 세트를 제공하는 것을 우선시할 수 있었습니다. 그들은 전체적인 정확도를 잃지 않으면서도 이 균형을 연속적으로 이동할 수 있음을 입증했습니다. 이는 시스템이 고정된 트레이드오프에 갇혀 있지 않음을 의미합니다. 즉, 관리자는 좌절한 사용자에게 대응하든 공식적인 감사를 수행하든, 상황에 가장 적합한 상세 수준과 설명 유형을 선택할 수 있습니다.

또한 이 연구는 시스템이 데이터를 "보는" 방식이 매우 중요하다는 것을 밝혔습니다. 연구진은 규칙이 읽기 쉽고 정확하려면, 시스템이 단순히 개별적인 특성을 독립적으로 보는 것이 아니라 사용자와 리소스 간의 관계(예: 두 대상이 동일한 부서에 속해 있는지 여부)를 이해해야 한다는 것을 발견했습니다. 이러한 연결성을 이해하지 못하면 규칙이 길고 혼란스러우며 부정확해졌습니다. 나아가, 연구팀은 보안 문제도 다루었습니다. 만약 시스템이 결정을 설명한다면, 악의적인 행위자가 그 설명을 이용해 시스템을 해킹하는 방법을 알아낼 수 있지 않을까 하는 우려입니다. 그들은 이러한 위험이 존재하지만, 자신들의 설계가 피해를 제한한다고 주장했습니다. 시스템은 전체 규칙집을 노출하는 대신 거부된 요청에 필요한 특정 변경 사항만을 공개하며, 사용자가 실제로 변경할 수 있는 속성으로 제안을 제한함으로써 리소스 자체에 대한 민감한 정보의 유출을 방지합니다.

궁극적으로 이 연구는 고위험 환경에서 강력한 인공지능을 신뢰할 수 있게 만드는 데 있어 중요한 진전을 의미합니다. 이는 시스템이 정확하면서도 블랙박스일 필요는 없다는 것을 증명합니다. 논리적 규칙과 실행 가능한 제안을 하나의 학습 가능한 모델로 통합함으로써, 연구진은 현대 딥러닝의 성능을 유지하면서도 투명성에 대한 법적 요구를 충족하는 도구를 만들어냈습니다. 이 시스템은 자동화된 결정에 대한 감사를 가능하게 하고 사용자가 왜 접근이 거부되었는지 이해하도록 도움으로써, 머신러닝의 복잡성과 명확성에 대한 인간의 필요 사이의 간극을 메워줍니다. 이 연구 결과는 적절한 설계가 뒷받침된다면, 지능적인 시스템이 똑똑할 뿐만 아니라 자신이 어떻게 생각하는지에 대해서도 정직할 수 있음을 시사합니다.

기술 요약: RuleConEx

문제 정의

Nobi 등이 제안한 DLBAC(Deep Learning-based Access Control) 모델과 같은 딥러닝 기반 접근 제어 모델은 높은 예측 정확도를 제공하지만, 완전한 불투명성이라는 문제를 안고 있습니다. 이러한 해석 가능성의 결여는 자동화된 결정에 대한 설명 의무를 규정한 GDPR(제22조)과 같은 규정 준수와 관련하여 심각한 법적 및 운영적 장벽을 형성합니다.

이 분야의 기존 설명 가능성 솔루션들은 불충분합니다:

사후 분석 방법(Post-hoc methods, 예: SHAP, LIME)은 실제 결정 메커니즘에 충실하지 않고 조작될 수 있는 국소적 근사치를 제공합니다.
별도의 자기 설명 모델(Separate self-explaining models)은 설명 가능성의 한 가지 측면만을 다룹니다. HyperLogic는 전역적인 IF-THEN 규칙을 생성하지만, 거부된 사용자에게 실행 가능한 반사실적 설명(counterfactuals)을 제공하지 못합니다. HyConEx는 국소적인 반사설적 설명을 생성하지만, 관리자를 위한 전역적인 감사 가능 규칙을 제공하지 않습니다.
현재의 한계: 기존의 어떤 아키텍처도 단일 순전파(forward pass) 내에서 전역적 기호 규칙과 국소적 실행 가능 반사실적 설명을 본질적으로 통합하지 못하며, 반사실적 결과가 구성상 유효한 범주형 튜플(categorical tuples)임을 보장하지 못합니다.

방법론

저자들은 논리적 규칙과 반사실적 설명을 통합하는 본질적으로 해석 가능한 신경망인 RuleConEx(Rule-based Counterfactual eXplainer)를 제안합니다.

아키텍처

RuleConEx는 두 개의 서로 다른 브랜치를 매개변수화하고 그 출력을 하나의 결정으로 융합하는 공유 하이퍼네트워크(shared hypernetwork)를 중심으로 구축되었습니다.

공유 하이퍼네트워크: 브랜치의 매개변수를 생성하는 TabResNet 트렁크(trunk)입니다. 이는 다음 두 가지 방식으로 쿼리됩니다:
- 전역 쿼리(Global query, 학습된 벡터 + 가우시안 노이즈): 모든 요청에 대해 단일하고 일관된 규칙 세트를 보장하기 위해 규칙 브랜치를 매개변수화합니다.
- 국소 쿼리(Local query, 입력 인스턴스의 잠재 인코딩): 반사실적 브랜치를 매개변수화합니다.
규칙 브랜치(전역): $K=48$ 개의 규칙 뉴런을 가진 이진화된 DR-Net(Differentiable Rule Network)입니다. 이는 네트워크 가중치로부터 직접 디코딩된 IF-THEN 규칙 세트를 생성합니다. 규칙은 Xu와 Stoller의 ABAC 정책 언어와 일치하도록 특정 관계 리터럴(relational literals, 예: $user\_attr_i = resource\_attr_j$ ) 및 부정(negation)의 어휘를 사용합니다.
반사실적 브랜치(국소): 하이퍼네트워크에 의해 매개변수화된 국소 선형 분류기입니다. 이는 타겟 클래스에 도달하기 위해 범주형 속성을 수정할 때의 이득(gain)을 계산하여 반사실적 설명을 생성합니다. 결정적으로, 이는 구성상 유효성(validity by construction)을 강제하여, 출력값이 유효한 범주형 튜플임을 보장하고 불변 속성(예: 리소스 속성)의 마스크를 준수하도록 합니다.
융합(Fusion): 두 브랜치의 로짓(logits)은 학습된 소프트맥스 정규화 가중치( $\alpha_r$ 및 $\alpha_h$ )를 통한 가중 합을 통해 최종 접근 결정으로 결합됩니다.

훈련 및 손실 함수

모델은 다음과 같은 복합 손실 함수를 최소화하도록 공동 훈련됩니다:
$\mathcal{L} = \mathcal{L}_{CE} + \lambda_r \mathcal{L}_{rule} + \lambda_h \mathcal{L}_{loc} + \lambda_{cf} \mathcal{L}_{cf} + \lambda_{sp} \mathcal{L}_{sparsity} + \lambda_{len} \mathcal{L}_{length} + \lambda_{ent} \mathcal{L}_{entropy}$
주요 구성 요소는 다음과 같습니다:

반사실적 손실( $\lambda_{cf}$ ): 수정된 튜플(반사실적 사례)이 타겟 클래스로 분류되도록 독려합니다.
규칙 제약 조건: 규칙 길이(최대 8개 리터럴)에 페널티를 부여하고 단일 클래스 투표(엔트로피)를 장려합니다.
충실도 측정(Faithfulness Measurement): 이전 연구들과 달리, RuleConEx는 충실도를 가정하는 대신 디코딩된 규칙과 최종 융합 결정 사이의 엄격하고 가중치가 적용된 일치도를 측정합니다.

주요 기여

통합 아키텍처: RuleConEx는 최초로 단일 순전파 내에서 접근 결정, 전역 IF-THEN 규칙, 그리고 국소적 반사실적 설명을 모두 생성하는 모델입니다.
본질적 유효성 및 충실도:
- 규칙은 정확합니다: 규칙 브랜치가 계산하는 함수는 완전히 디코딩 가능하며, 충실도는 가정이 아닌 측정의 대상입니다.
- 반사실적 설명은 구성상 유효한 범주형 튜플입니다: 사후 투영(post-hoc projection) 없이도 이산적 속성을 처리합니다.
관계적 리터럴: 모델은 입력 공간과 규칙 어휘에 관계적 제약(사용자와 리소스 속성 간의 동일성)을 명시적으로 포함합니다. 저자들은 이러한 요소가 없을 경우 기호적 모델(예: 의사결정 나무)이 정책 구조를 효과적으로 포착하는 데 실패함을 입증했습니다.
조절 가능한 트레이드오프: 논문은 $\lambda_{cf}$ $λ_{c f}$ (반사실적 손실의 가중치)라는 단일 계정을 제어 메커니즘으로 식별합니다. 이 계수를 스윕(sweep)함으로써 다음 사이의 연속적인 이동이 가능합니다:
- 사용자 지향적 설명 가능성: 더 짧은 반사실적 설명(더 적은 속성 변경).
- 감사자 지향적 설명 가능성: 규칙과 반사실적 설명 사이의 높은 일관성(전역 규칙에 의해 정당화되는 더 많은 반사실적 사례).
- 이 트레이드오프는 정확도에 통계적으로 감지 가능한 차이를 만들지 않고 달성됩니다.

실험 결과

모델은 5개의 무작위 시드를 사용하여 11개의 DLBAC 벤치마크 데이터셋(3개의 실제 Amazon 데이터셋 및 8개의 합성 데이터셋)에서 평가되었습니다.

정확도: RuleConEx는 평균 **92.1%**의 정확도를 달성했습니다. 이는 HyConEx, Random Forest, Linear SVM과 통계적으로 구별되지 않으며, 불투명한 MLP 베이스라인보다 단 0.6 퍼센트 포인트 낮을 뿐입니다.
규칙 품질:
- 규칙은 평균적으로 요청의 **80%**를 커버합니다.
- 엄격한 충실도(규칙과 최종 결정 사이의 일치도)는 0.80입니다.
- 규칙은 간결하며(평균 길이 약 4.5개 리터럴), 주로 관계적입니다.
반사실적 품질:
- 반사실적 사례의 **96%**가 유효한 범주형 튜플입니다.
- 평균 2개의 속성을 수정합니다.
- 플립 성공률(Flip success rate)은 100%입니다.
일관성: 규칙과 반사실적 설명 사이의 일치도(타겟 클래스 규칙에 의해 정당화되는 유효한 반사실적 사례의 비율)는 0.18(기본 설정)에서 0.43( $\lambda_{cf}$ 를 완화했을 때) 사이입니다. 이는 HyperLogic와 HyConEx를 병치하여 별도로 훈련했을 때의 일관성(0.22)보다 현저히 높습니다.
절제 연구(Ablation Studies):
- 공유 하이퍼네트워크 자체는 중립적이며, 이점은 공동 훈련에서 옵니다.
- 전역 쿼리의 가우시안 노이즈는 불필요합니다.
- 관계적 리터럴은 필수적입니다. 이를 제거하면 규칙의 정확도와 커버리지가 크게 떨어집니다.

의의 및 주장

이 논문의 주요 기여는 예측 정확도의 향상이 아니라, 두 가지 상호 보완적인 설명 형태를 단일한 조절 가능한 모델 내에서 통합했다는 점이라고 주장합니다.

명시적 제어: RuleConEx는 거부된 사용자(접근을 위한 짧고 실행 가능한 경로가 필요한 사용자)와 감사자(일관된 전역 규칙이 필요한 감사자)의 요구 사이에서 균형을 맞추기 위한 명시적인 튜닝 메커니즘( $\lambda_{cf}$ )을 제공합니다. 두 모델을 단순히 병치하는 방식으로는 이러한 연속적인 트레이드오프를 제공할 수 없습니다.
보안적 함의: 저자들은 규칙과 반사실적 설명을 모두 노출하는 것이 새로운 공격 표면을 생성한다고 주장합니다. 이에 따라 저자들은 권한 분리(privilege separation) 모델을 제안합니다:
- 감사자는 전역 규칙과 브랜치 로짓을 받습니다.
- 요청자는 거부 시 결정 사항과 함께 하나의 제한된 반사실적 설명(가변 속성으로 제한됨)만을 받습니다.
- 이는 모든 클래스에 대해 전체 반사실적 집합을 반환하는 시스템에 비해 정책 경계에 대한 정보 누출을 제한합니다.

저자들은 모델이 높은 정확도와 해석 가능성을 달성하면서도, 규칙과 반사실적 설명 사이의 일관성은 구조적 보장이 아닌 튜닝 가능한 속성임을 결론지으며, 정책 누출을 정량화하고 인간 감사자가 이 설명을 어떻게 활용하는지 검증하기 위한 후속 연구가 필요하다고 밝힙니다.