💻 computer science

Beyond Best Response: Quantal Stackelberg Deception as Insurance Against Attacker Misspecification

본 논문은 공격자의 제한된 합리성을 모델링함으로써 전통적인 스택켈버그 보안 게임에 대한 강력한 대안으로서 양적 스택켈버그 균형(Quantal Stackelberg Equilibrium, QSE)을 제안하며, 이론적 분석과 사이버 보안 사례 연구를 통해 QSE가 모델 오설정 및 불확실성에 직면했을 때 실현된 방어자 효용 측면에서 고전적인 최적 대응 전략보다 유의미하게 우수함을 입증한다.

원저자: Asif Rahman, Md. Abu Sayed, Ahmed Ann Noor Ryen, Ahmed Hemida, Charles A. Kamhoua, Christopher Kiekintveld

게시일 2026-08-11

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Asif Rahman, Md. Abu Sayed, Ahmed Ann Noor Ryen, Ahmed Hemida, Charles A. Kamhoua, Christopher Kiekintveld

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 그랜드마스터를 상대로 고액의 판돈이 걸린 체스 경기를 하고 있다고 상상해 보십시오. 이 게임의 고전적인 버전인 "스택켈버그 보안 게임(Stackelberg Security Game)"의 규칙은 상대방인 그랜드마스터가 슈퍼컴퓨터라고 가정합니다. 즉, 그들은 당신의 모든 수를 보고, 완벽한 대응책을 즉각적으로 계산하며, 결코 실수를 저지르지 않는 존재입니다. 만약 두 가지 수가 그들에게 똑같이 좋아 보인다면, 규칙은 그들이 마법처럼 당신에게 가장 유리한 수를 선택할 것이라고 가정합니다. 이는 이론적으로는 잘 작동하지만, 현실 세계—특히 혼란스럽고 무질서한 사이버 보안의 영역—에서는 공격자가 슈퍼컴퓨터가 아닙니다. 그들은 인간(또는 인간처럼 행동하는 자동화된 스크립트)이며, 혼란을 느끼고, 추측을 하며, 때로는 잘못된 문을 선택하기도 합니다.

이 논문은 게임 이론과 컴퓨터 과학의 특정 분야인 **사이버 기만(cyber deception)**을 깊이 파고듭니다. 사이버 기만을 마술사의 트릭이라고 생각해 보십시오. 방어자(선한 쪽)는 가짜 타겟인 "허니팟(honeypots)" 또는 "미끼(decoys)"를 설치하여, 공격자가 진짜 보물 대신 빈 껍데기에 시간과 에너지를 낭비하도록 속입니다. 저자들이 던지는 핵심 질문은 이것입니다. 만약 우리가 공격자를 완벽하고 실수 없는 로봇이라고 가정하고 방어를 설계했는데, 실제 공격자는 다소 혼란스러워하거나 "제한된 합리성(bounded rational)"을 가진 존재라면, 우리의 계획은 무너질 것인가? 저자들은 공격자가 수학적으로 완벽한 옵션을 선택하는 대신, 실수를 저지르는 정도에 따라 움직인다고 가정하는 **양적 반응(Quantal Response)**이라는 새로운 사고방식을 탐구합니다.

"혼란스러운" 공격자의 마법

연구진(대학 및 국방 연구소 소속 팀)은 대담한 아이디어를 테스트하기로 했습니다: 만약 우리가 완벽한 로봇을 이기려고 애쓰는 대신, 혼란에 빠진 인간을 위해 계획을 세운다면 어떻게 될까?

기존의 방식(스택켈버그 보안 게임 또는 SSE)에서는 방어자가 공격자가 항상 최선의 타겟을 찾아낼 것이라고 가정합니다. 만약 공격자에게 두 타겟이 똑같아 보인다면, 기존 모델은 공격자가 방어자에게 유리한 쪽으로 승부를 결정짓는다고 가정합니다. 이는 마치 심판이 두 선수가 동점일 경우, 두 선수 모두 상대 팀이 이기도록 양보할 것이라고 가정하는 것과 같습니다. 저자들은 이것이 위험한 환상이라고 주장합니다. 실제로 두 타겟이 똑같아 보인다면, 혼란에 빠진 공격자는 주의력을 분산시키거나, 실수로 방어자에게 가장 불리한 타겟을 선택할 수도 있습니다.

이를 해결하기 위해 연구팀은 **양적 스택켈버그 평형(Quantal Stackelberg Equilibrium, QSE)**이라는 새로운 전략을 도입했습니다. QSE는 공격자가 단 하나의 최선의 수를 선택한다고 가정하는 대신, "로짓(logit)" 함수에 기반하여 움직인다고 가정합니다. "합리성"이라고 표시된 다이얼(그리스 문자 람다, $\lambda$ 로 표현됨)을 상상해 보십시오.

다이얼을 끝까지 올리면(무한한 합리성), 공격자는 완벽한 로봇이 되며 QSE는 기존 모델과 똑같이 작동합니다.
다이얼을 낮추면, 공격자는 약간 "취했거나" 혼란스러운 상태가 됩니다. 그들은 여전히 더 좋은 타겟을 선호하지만, 실수를 저질러서 가끔 더 나쁜 타겟을 선택하기도 합니다.

"타이 브레이킹(Tie-Breaking)"의 함정

이 논문의 가장 큰 발견은 **동점(ties)**에 관한 것입니다. 많은 사이버 보안 시나리오에서 방어자는 동일한 여러 대의 서버를 보호해야 합니다. 완벽한 로봇에게 이 서버들은 완벽한 동점 상황입니다. 기존 모델(SSE)은 공격자가 방어자에게 유리하게 이 동점을 깨뜨릴 것이라고 가정합니다. 하지만 저자들은 현실 세계에서 동점 상황은 함정이라는 것을 발견했습니다.

공격자가 약간 혼란스러운 상태라면(이는 거의 항상 그렇습니다), 그들은 동점 상황에서 방어자에게 유리하게 승부를 결정짓지 않습니다. 대신, 그들은 동점인 타겟들에 공격을 균등하게 분산시킵니다. 만약 방어자가 세 개의 동일한 가짜 서버와 한 개의 진짜 서버를 가지고 있고 공격자가 혼란스럽다면, 공격자는 기존 모델이 예측한 0%가 아니라, 진짜 서버를 20% 확률로, 가짜 서버들을 80% 확률로 공격할 수 있습니다.

저자들은 유명한 Log4Shell 및 Ripple20 취약점을 활용하여 시뮬레이션을 실행했으며, 기존의 "완벽한 로봇" 모델이 시스템의 안전성을 과대평가하고 있다는 것을 발견했습니다. 공격자가 친절하게 방어자의 편을 들어 동점을 깨줄 것이라고 가정함으로써, 기존 모델은 이득을 놓치고 있었습니다.

보험 정책

연구팀은 144개의 서로 다른 시나리오에서 공격자의 혼란 수준과 게임의 규칙을 변경하며 새로운 QSE 전략을 기존 전략과 테스트했습니다. 결과는 놀라웠습니다.

"보험" 효과: QSE 전략은 보험 정책처럼 작용했습니다. 설령 방어자가 공격자의 혼란 정도를 잘못 예측하더라도, QSE 전략은 기존 전략보다 더 나은 성능을 보였습니다.
이득: 기존 모델이 실패한 경우, 새로운 QSE 전략은 방어자의 성공률을 46%에서 175%까지 향상시켰습니다.
강건성(Robustness): 새로운 전략은 단순히 "혼란스러운" 공격자뿐만 아니라, "만족하는(satisficing, 적당히 괜찮은 옵션을 선택하는)" 공격자, 다른 유형의 수학적 오류(가우시안 노이즈)를 사용하는 공격자, 심지어 적대적으로 행동하는 공격자에게도 잘 버텨냈습니다.

저자들은 이러한 이점이 진짜 서버를 더 잘 숨기거나 미끼를 완전히 새로운 방식으로 배치해서 얻은 것이 아니라는 점을 발견했습니다. 두 전략은 거의 동일해 보였습니다. 마법은 바로 동점의 수학에 있었습니다. QSE 전략은 공격자가 동점인 타겟에 대해 표를 나누어 던질 가능성에 대해 미리 "비용을 지불"한 반면, 기존 전략은 공격자가 항상 방어자를 위해 투표할 것이라고 가정했습니다.

이것이 왜 중요한가

이 논문은 혼란스러운 현실의 사이버 전쟁에서, 적을 완벽한 천재라고 가정하는 것은 나쁜 생각임을 시사합니다. 공격자가 작은 무작위 실수를 할 것이라고 예상하는 방어를 구축함으로써, 당신은 훨씬 더 강력해질 수 있습니다.

저자들은 공격자가 얼마나 혼란스러운지 정확히 알 필요 없이 그 혜택을 볼 수 있다는 것을 보여주었습니다. 공격자가 약간 혼란스럽든 매우 혼란스럽든, QSE 전략이 승리합니다. 이는 자동차 운전에 비유할 수 있습니다: 만약 다른 운전자가 항상 규칙을 완벽하게 따를 것이라고 가정한다면, 당신은 도로 가장자리에 너무 가깝게 운전할 수도 있습니다. 하지만 그들이 약간 경로를 이탈할 수도 있다고 가정한다면, 자연스럽게 조금 더 안전하게 운전하게 되고, 결국 더 많은 사고에서 살아남게 됩니다.

결국, 이 논문은 당신의 수학에 약간의 "인간적 실수"를 추가하는 것이 계획을 약하게 만드는 것이 아니라, 오히려 더 견고하게 만든다는 것을 증명합니다. 이 추가적인 안전을 위한 비용은 미미하지만, 그 보상—다양한 실수와 오해를 견뎌낼 수 있는 능력—은 엄청납습니다. 저자들은 이 접근 방식이 완벽과는 거리가 먼 실제 공격자들로부터 디지털 네트워크를 보호하려는 모든 이들에게 실질적이고 강력한 도구가 된다고 결론지었습니다.

기술 요약: 최적 대응을 넘어: 공격자 오설정(Misspecification)에 대한 보험으로서의 양자 스택켈버그 기만(Quantal Stackelberg Deception)

1. 문제 정의

스택켈버그 보안 게임(SSG)은 방어자와 공격자 간의 상호작용, 특히 사이버 기만(예: 허니팟)을 모델링하는 표준 프레임워크이다. 고전적인 강한 스택켈버그 균형(Strong Stackelberg Equilibrium, SSE)은 완벽하게 합리적인 공격자를 가정한다. 즉, 공격자가 방어자의 혼합 전략을 관찰하고 자신의 기대 효용을 극대화하는 대상을 선택하며, 동점(tie) 상황에서는 방어자에게 유리한 방향으로 결정한다는 가정이다.

본 논문은 사이버 기만 시나리오의 현실적인 측면에서 이러한 가정에 두 가지 결정적인 결함이 있음을 지적한다.

기초적 불일치: 기만의 목적은 불확지성과 실수를 유도하는 것이다. 완벽한 지식과 합리성을 가진 공격자를 가정하는 것은 게임의 목적 자체와 모순된다.
강건성 부족: 현실에서 플레이어들은 정확한 게임 모델(보상, 신호, 합리성 수준 등)을 공유하지 않는다. SSE 솔루션은 모델 설정 오류에 강건하지 않다. 구체적으로, "동점 처리 규칙"(동점 시 공격자가 방어자에게 유리한 쪽을 선택함)은 하나의 관습일 뿐이며, 실제 환경에서는 자주 실패한다. 실제 네트워크에는 교환 가능한 자산(예: 취약한 서버의 여러 복제본)이 존재하여 공격자에게 정확한 효용 동점을 발생시킨다. SSE 최적화 도구는 가장 유리한 동점 결과의 가치를 "예약(book)"하지만, 실제 공격자(또는 제한된 합리성을 가진 공격자)는 이 동점된 대상들에 확률을 분산시키며, 이로 인해 방어자는 예측보다 현저히 낮은 효용을 실현하게 된다.

2. 방법론

저자들은 완벽한 최적 대응 함수를 양자 응답(Quantal Response, QR) 함수로 대체할 것을 제안하며, 이를 통해 **양자 스택켈버그 균형(Quantal Stackelberg Equilibrium, QSE)**을 도출한다.

게임 모델: 사이버 물리 환경에서의 2인 비영합 게임이다. 방어자는 무작위 전략(노드에 기만 배치)을 확정하고, 공격자는 타겟을 선택한다. 보상은 실제 취약점(CVE)으로부터 도출되며, 이는 CVSS(Common Vulnerability Scoring System) 점수로 산정된다.
양자 응답: 결정론적인 최적 대응 대신, 공격자는 로지스틱 함수에 의해 정의되는 확률 $\sigma_a(j)$ 로 타겟 $j$ 를 선택한다:
$\sigma_a(j | A_d; \lambda) = \frac{\exp(\lambda \cdot U^a_j)}{\sum_k \exp(\lambda \cdot U^a_k)}$
여기서 $\lambda$ 는 합리성 파라미터이다. $\lambda \to \infty$ 가 되면 모델은 고전적인 SSE로 수렴한다. $\lambda \to 0$ 이면 공격자는 균등하게 무작위로 선택한다.
솔루선 접근 방식:
- QSE 목적 함수는 (불연속적인 SSE 목적 함수와 달리) 매끄럽고 연속적으로 미분 가능하므로, 정수 계획법 대신 경사 하강 기반 최적화(구체적으로는 Sequential Least Squares Programming, SLSQP)를 사용할 수 있다.
- 저자들은 동점 처리 규칙 없이도 QSE의 존재를 증명한다.
- 또한 "스택켈버그 회복(Stackelberg Recovery)" 정리를 확립한다: 게임이 표준적인 유도성(inducibility) 속성을 만족한다면, $\lambda \to \infty$ 일 때 QSE 값은 SSE 값으로 수렴한다.

3. 주요 기여

QSE 공식화: $\lambda \to \infty$ 일 때 고전적인 SSE를 정확히 회복하는 협력적 사이버 물리 기만을 위한 QSE의 공식적 정의를 제공한다. 논문은 존재 증명과 효율적인 경사 기반 솔버를 제시한다.
동점에 대한 이론적 통찰: ("예약된 가치 vs 실현된 가치" 분석을 통해) SSE 대비 QSE의 이점이 단순히 더 많은 타겟에 기만을 분산시키는 데 있는 것이 아니라, **동점 분할(tie-splitting)**에 있음을 입증한다. SSE 전략은 종종 동점인 타겟 집합을 생성하는데, 관습적으로는 공격자가 방어자에게 유리한 쪽을 선택한다고 가정하지만, 양자 공격자는 이들 사이에서 확률을 균등하게 나눈다. QSE는 이러한 분할을 최적화함으로써, 동점 처리 불확실성으로 인한 가치 손실에 대해 효과적으로 "보험"을 든다.
실증적 검증: 두 개의 네트워크(8노드 및 16노드)에서 실제 CVE(예: Log4Shell, Ripple20)와 CVSS 점수를 사용하여 광범위한 평가를 수행했다. 연구는 144개의 오설정 시나리오(가정된 $\lambda^*$ 와 실제 $\lambda$ 의 차이)와 25개의 파라미터 구성을 테스트했다.

4. 결과

합리성 오설정에 대한 강건성: 방어자가 가정한 합리성( $\lambda^*$ )과 실제 공격자의 합리성( $\lambda$ )이 다른 144개 시나리오 모두에서, QSE 전략은 SSE 전략보다 우수한 성능을 보였다. 실현된 효용 이득은 절대적인 수치로는 작았으나(+0.03 ~ +0.49 효용 포인트), 체계적이었다.
모델 오설정에 대한 강건성: 로그 모델로 튜닝된 QSE 전략은 공격자의 결정 규칙이 로그(logit) 모델이 아닐 때도 우수함을 유지했다. QSE는 다음의 공격자들을 상대로 SSE보다 뛰어난 성능을 보였다:
- $\epsilon$ -greedy 공격자
- 만족자(Satisficing) 공격자 (균등 및 적대적 동점 처리)
- 가우시안(프로빗) 노이즈 모델
- 레벨-1 추론 공격자
- QSE가 약간 열세였던 유일한 경우는 단일 최적 대응에 엄격한 점 질량(point mass)을 두는 경우(거의 완벽한 합리성)였으며, 이는 바로 SSE가 설계된 영역이다.
"동점 세금(Tie Tax)": 분석 결과, SSE 실패의 주요 원인은 "예약된 가치"(유리한 동점 처리를 가정함)와 "실현된 가치"(동점이 분할됨) 사이의 격차인 "동점 세금"임이 확인되었다. QSE는 최적화 과정에서 이 분할을 가격에 반영함으로써 이 격차를 제거한다.
파라미터 민감도 및 상대적 이득: 25가지 서로 다른 파라미터 구성(포획 보상, 탈출 페널티, 비용 척도 등 변동)에 걸쳐 강건성 격차(평균 실현 QSE 효용과 평균 실현 SSE 효용의 차이)를 평가했을 때, QSE가 일관되게 승리했다. 이 상대적 비교에서 이득은 SSE 베이스라인 대비 **46%에서 175%**에 달했다.
계산 효율성: 경사 기반 솔버는 빠르게 수렴하며(16노드 네트워크에서 1초 미만), 이는 대화형 사용에 실용적이다.

5. 의의 및 주장

본 논문은 QSE가 모델 오설정과 제한된 합리성에 대한 일종의 보험 역할을 한다고 주장한다.

최소한의 프리미엄: QSE를 채택하는 비용은 매우 낮다. (공격자가 실제로 완벽하게 합리적일 때 지불하는) "프리미엄"은 무시할 수 있는 수준인 반면, 오류(합리성 추정 또는 동점 처리 오류)에 대한 보호 효과는 상당하다.
초점의 전환: QSE의 이점은 SSE보다 더 많은 노드를 커버하는 데서 오는 것이 아니라, 동점 노드에 대한 **가중치 조정(calibration of weights)**에 있다. QSE와 SSE의 최적 전략은 지원(support, 어떤 노드가 타겟팅되는지) 측면에서는 거의 동일하지만, QSE는 공격자가 동점 옵션 사이에서 확률을 분할할 가능성을 올바르게 고려한다.
실무적 시사점: 방어자는 QSE의 이점을 얻기 위해 공격자의 합리성 파라미터 $\lambda$ 를 정밀하게 추정할 필요가 없다. 적절한 고정값(예: $\lambda=2$ 또는 $5$)을 사용하는 것만으로도 다양한 공격자 행동과 모델 오류에 대해 강건성을 제공한다. 논문은 교환 가능한 자산이 존재하는 현실적인 환경에서 "완벽한 합리성" 가정은 오히려 리스크가 될 수 있으며, 양자 선택을 통해 응답 함수를 부드럽게 만드는 것이 훨씬 강건하고 계산 효율적인 대안임을 시사한다.