🤖 AI

Chai: Agentic Discovery of Cryptographic Misuse Vulnerabilities

Chai는 자연적으로 발생하는 신호를 활용하고 전통적인 발견 패러다임을 역전시켜 라이브러리 수준의 결함을 목록화하고 이를 의존성 그래프 전반에 전파함으로써, 널리 사용되는 SSL 및 브라우저 라이브러리의 치명적인 취약점을 포함하여 100개 이상의 보안 문제를 밝혀내는 AI 기반 시스템이다.

원저자: Corban Villa, Sohee Kim, Austin Chu, Alon Shakevsky, Raluca Ada Popa

게시일 2026-06-26

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Corban Villa, Sohee Kim, Austin Chu, Alon Shakevsky, Raluca Ada Popa

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 복잡한 보안 시스템, 예를 들어 은행 금고의 결함을 찾으려고 노력하고 있다고 상상해 보십시오. 보통 보안 전문가들은 한 번에 하나의 은행을 뚫으려고 시도하며, 약한 잠금장치나 숨겨진 문을 찾습니다. 이는 느리고 비용이 많이 들며, 동일한 약한 잠금장치가 수천 개의 다른 은행에서도 사용되고 있다는 사실을 놓칠 수도 있습니다.

이 논문은 Chai(차이로 명명되었으나, 여기서는 "암호학적 오용 발견(Cryptographic Misuse Discovery)"을 의미함)라고 불리는 새로운 시스템을 소개합니다. Chai는 게임의 판도를 바꿉니다. 단순히 하나의 은행을 조사하는 것이 아니라, 모든 은행의 설계도를 한꺼번에 비교하여 어디에서 서로 일치하지 않는지를 찾아내는 매우 똑똑한 탐정처럼 행동합니다.

Chai가 어떻게 작동하는지 쉬운 개념으로 나누어 설명하겠습니다.

1. 문제점: "조용한" 실수

컴퓨터 보안의 세계에는 컴퓨터가 충돌(crash)을 일으키기 때문에 찾기 쉬운 버그가 있습니다(예: 메모리 오류). 하지만 암호학적 버그(디지털 키와 서명이 작동하는 방식의 실수)는 다릅니다. 이들은 컴퓨터를 충돌시키지 않고, 그저 해커가 몰래 들어올 수 있게 조용히 허용할 뿐입니다.

이를 위한 "충돌 감지기"는 존재하지 않습니다. 이를 찾으려면 보통 해커가 무엇을 할지 예측하고 컴퓨터가 어떻게 반응할지 기대해야 합니다. 하지만 이는 어렵습니다. 왜냐matrix면 가능한 경우의 수가 수백만 가지이며, 인간 전문가가 이를 모두 확인할 수는 없기 때문입니다.

2. 기존 방식 vs. Chai 방식

기존 방식 (일대일 탐정): 한 명의 탐정을 고용해 하나의 은행에 들어가서 모든 문을 살펴보고 모든 자물쇠를 따려고 시도한다고 상상해 보십시오. 그러고 나서 다음 은행을 위해 또 다른 탐정을 고용합니다. 이는 느립니다. 만약 첫 번째 은행에 약한 잠금장치가 있다면, 두 번째 은행에도 정확히 똑같은 약한 잠금장치가 있다는 사실을 놓칠 수 있습니다.
Chai 방식 (그룹 비교): Chai는 50명의 서로 다른 보안 요원(소프트웨어 라이브러리)이 있는 방의 판사처럼 행동합니다. Chai는 그들에게 동시에 정확히 똑같은 까다로운 키나 메시지를 전달합니다.
- 만약 49명의 요원이 "출입 불가"라고 말하는데 1명의 요원이 "들어오세요"라고 한다면, Chai는 즉시 알 수 있습니다: 그 한 명의 요원이 틀렸다는 것을요.
- 이것을 **차분 테스트(Differential Testing)**라고 합니다. "완벽한" 정답을 알 필요 없이, Chai는 단지 그룹 간의 불일치를 찾습니다.

3. AI의 초능력

"Chai는 어떻게 어떤 까다로운 키를 건네줄지 어떻게 아나요?"라고 물을 수 있습니다.

기존 도구들: 모든 종류의 키에 대해 엄격한 규칙(문법)을 가진 규칙책을 프로그래밍해야 했습니다. 만약 규칙책이 틀리면, 해당 도구는 실패했습니다.
Chai의 AI: 창의적인 해커처럼 행동하는 스마트한 AI 에이전트를 사용합니다. 이 에이전트는 경직된 규칙책이 필요하지 않습니다. 보안 규칙을 살펴보고, "이 부분을 바꾸면 어떻게 될까?"라고 생각하며 새로운 까다로운 키를 생성합니다. 만약 요원들이 서로 의견이 다르면, AI는 이를 통해 학습하고 다음에는 훨씬 더 까다로운 키를 시도합니다.

4. "도미노 효과" (결함 추적)

이 부분이 Chai가 정말 영리해지는 지점입니다.
Chai가 특정 보안 요원(라이브러리)이 규칙에 대해 혼란스러워한다는 것을 발견하면, 거기서 멈추지 않습니다. Chai는 다음과 같이 묻습니다: "누가 이 혼란스러운 요원을 고용했는가?"

비유: 특정 브랜드의 "보안 잠금장치"가 결함이 있다는 것을 알아냈다고 가정해 봅시다. 전 세계의 모든 집을 일일이 확인하는 대신, Chai는 **공급망(supply chain)**을 조사합니다. 그 특정 브랜드의 잠금장치를 구매한 모든 건설 회사(앱)의 목록을 찾아냅니다.
그런 다음 그 건설 회사들에 타겟 메시지를 보냅니다: "알려드립니다. 귀하는 이 특정 잠금장치를 사용하고 있습니다. 가짜 키를 사용했을 때 귀하의 현관문이 열립니까?"
이 과정은 하나의 발견을 라이브러리 수준에서부터 수백 개의 앱에 대한 수백 가지의 발견으로 전환시킵니다.

5. Chai가 실제로 찾아낸 것

연구진은 Chai를 세 가지 주요 디지털 보안 시스템(X.509 인증서, JWT, SAML)에 대해 테스트했습니다.

WolfSSL 발견: 이들은 수십억 개의 기기(라우터, 스마트 기기 등)에서 사용되는 라이브러리인 wolfSSL에서 치명적인 결함을 발견했습니다. 이 라이브러리는 가짜 신뢰 체인을 수용하여, 해커가 신뢰할 수 있는 서버인 척 할 수 있게 허용했습니다. WolfSSL 제작자들은 몇 시간 내에 이를 수정했습니다.
브라우저 및 리눅스 발견: 이들은 주요 웹 브라우저와 리눅스 운영 체제에서 사용되는 라이브러리들에서도 유사한 보안 버그들을 발견했습니다.
총 발견 횟수: Chai는 총 100개 이상의 취약점과 보안 버그를 찾아냈습니다.

요 요약

Chai는 수십 개의 보안 소프트웨어 라이브러리와 동시에 "틀린 그림 찾기" 게임을 하기 위해 AI를 사용하는 시스템입니다. 불일치를 발견하면, Chai는 그 불일치를 단서로 취급합니다. 그런 다음 그 단서를 공급망으로 추적하여, 그 하나의 불일치 때문에 취약해질 수 있는 모든 앱을 찾아냅니다.

모든 건물을 하나씩 부수며 침입하는 대신, Chai는 잘못된 설계도 하나를 찾아내고, 그 설계도로 지어진 모든 건물을 식별한 뒤, 그들에게 한꺼번에 경고를 보냅니다. 이는 위험한 보안 구멍을 찾는 과정을 이전보다 더 빠르고, 저렴하며, 효과적으로 만듭니다.

기술 요약: Chai: 에이전트 기반의 암호학적 오용 취약점 발견

1. 문제 정의

암호학적 오용(cryptographic misuse) 취약점의 발견은 AI 보조 보안 연구에 있어 독특한 과제를 제기한다. 메모리 안전성 버그가 위반을 확인하고 오탐을 걸러낼 수 있는 인스트루멘테이션(예: 새니타이저)을 통해 검증될 수 있는 것과 달리, 암호학적 오용은 이를 뒷받침할 만한 '오라클(oracle)'이 부족하다. 암호학적 구현이 프로토콜을 오용하고 있는지 여부를 식별하는 것은 종종 명세(specification)의 의도에 대한 주관적인 판단을 요구하며, 이로 인해 AI 에이전트에만 의존할 경우 높은 오탐률이 발생한다.

또한, 암호학적 프로토콜(예: JWT, X.509, SAML)은 수십 개의 라이브러리와 언어에 걸쳐 구현된 다수의 명세로 구성된다. 이러한 구현체들은 미처 정의되지 않은 모호한 부분(underspecified corners)을 서로 다르게 해결하곤 한다. 독립적으로 보았을 때 올바르게 보이는 동작(예: 토큰에 내장된 키를 수락하는 것)이, 애플리케이션의 신뢰 가정이 라이브러리의 동작과 일치하지 않을 경우 취약점이 될 수 있다. 단일 애플리케이션 코드베이스만을 감사하여 결함을 찾는 전통적인 방식은 이러한 문제를 탐지하는 데 실패하는데, 그 이유는 위험이 애플리케이션 자체의 코드가 아니라 애플리케이션과 외부 의존성 간의 계약(contract)에 존재하기 때문이다.

2. 방법론: Chai 시스템

Chai는 차분 테스트(differential testing)와 에이전트 기반 탐색(agentic discovery)을 결념하여 암호학적 오용 취약점을 발견하고 검증하는 AI 기반 시스템이다. 이 시스템은 하나의 코드베이스에서 많은 결함을 찾는 기존의 패러다임을 뒤집어, 라이브러리 수준에서 결함을 목록화하고 이를 의존성 그래프를 통해 전파한다.

시스템은 두 가지 주요 단계로 작동한다.

1단계: 증폭된 차분 테스트 (Amplified Differential Testing)

Chai는 라이브러리 수준을 불일치의 근거지로 취급한다.

입력 생성: 고정된 문법(XML 기반 SAML과 같은 복잡한 프로토콜의 경우 구축하기 어려움)을 사용하는 대신, Chai는 AI 에이전트를 사용하여 테스트 입력을 생성한다. 이 에이전트들은 단순히 어떻게 인코딩할지가 아니라, 무엇을 조사할지에 대해 추론하기 위해 방대한 프로토콜 지식을 활용한다.
적응형 반복: 시스템은 시드 입력을 변경할 것을 제안하는 변이 에이전트(mutation agent), 메시지를 결정론적으로 조립하는 빌더(builder), 그리고 이들을 모든 구현된 라이브러리 전체에서 동시에 평가하는 하네스(harness)를 사용한다.
자원 할당: 중복된 탐색을 방기하기 위해, Chai는 다중 팔 가진 강도(multi-armed bandit) 알고리즘(UCB1)을 사용하여 특정 변이 그룹(공격 패밀리와 연산의 조합)에 '리스(lease)'를 할당한다. 이를 통해 시스템이 알려진 패턴에 수렴하는 대신 다양한 행동 영역(예: 서명 무결성, 키 신뢰, 파싱)을 탐색하도록 보장한다.
불일치 탐지: 여러 라이브러리가 동일한 입력을 처리했을 때 서로 다른 결과(예: 하나는 수락하고 다른 것은 거부함)를 생성하면 불일치가 기록된다.
분류: 분류기는 불일치를 다음 네 가지 범주로 라벨링한다:
1. 취약점(Vulnerability): 공격자가 보안 결정을 무력화할 수 있음.
2. 보안 버그(Security Bug): 라이브러리가 명세를 위반하지만, 일반적인 공격자의 능력을 넘어서는 역량이 필요함.
3. 모호성(Ambiguity): 명세가 재량권을 허용하며, 라이브러리들이 각기 다른 방어 가능한 선택을 함. 이는 다운스트림 취약점의 단서로 취급됨.
4. 조치 불필요한 차이(Non-actionable Difference): 보안상 결과가 없음.

2단계: 불일치 추적 (Discrepancy Tracing)

이 단계는 1단계에서 식별된 '모호성'을 다룬다.

역방향 검색: Chai는 의존성 그래프(17개 생태계의 패키지 매니페스트로부터 구축됨)를 쿼리하여, 모호한 동작을 보이는 라이브러리에 전이적으로 의존하는 모든 애플리케이션을 식별한다.
표적 감사: 애플리케이션 코드베이스를 개방형으로 검색하는 대신, 에이전트는 좁고 폐쇄적인 감사를 수행한다. 에이전트는 라이브러리가 강제하지 못한 보안 속성을 애플리케이션이 실제로 신뢰하는지 여부를 구체적으로 확인한다(예: "이 앱은 토큰에 제공된 키를 신뢰하는가?").
개념 증명(PoC): 취약할 가능성이 있는 애플리케이션에 대해, 시스템은 설정 가정을 최소화하기 위해 샌드박스 환경에서 PoC를 생성한다.

3. 주요 기여

하이브리드 신호 생성: Chai는 차분 테스트와 AI를 결합하여 검증 가능한 신호를 생성한다. 차분 테스트는 결정론적인 불일치(오라클)를 제공하고, AI는 수작업으로 만든 문법 없이도 의미 있는 입력을 생성하기 위한 프로토콜 지식과 적응형 탐색을 제공한다.
역전된 발견 패러다임: 이 시스템은 "하나의 프로젝트, 많은 버그"에서 "하나의 라이브러리 결함, 많은 애플리케이션"으로 전환한다. 라이브러리 수준에서 불일치를 식별하고 이를 다운스트림으로 추적함으로써, Chai는 복합적인 효율성 이득을 달야한다.
체계적인 모호성 처리: Chai는 명세의 모호성을 노이즈가 아닌, 다운스트림 취약점으로 이어지는 고가치의 단서로 명시적으로 취급한다. 이는 기존의 차분 테스트 도구들이 흔히 무시했던 클래스이다.
구현: X.509, JWT, SAML 프로토콜을 아우르며 8개 언어의 47개 라이브러리를 활용하는 완전한 시스템을 구현하였다.

4. 결과 및 평가

Chai는 X.509, JWT, SAML 구현을 대상으로 평가되었다.

발견 규모: 시스템은 100개 이상의 취약점과 보안 버그를 찾아냈다.
주요 발견 사항:
- wolfSSL: 수십억 대의 기기에서 사용되는 라이브러리인 wolfSSL에서 두 건의 치명적인 체인 검증 우회(CVE-2026-11310 및 CVE-2026-11999)를 발견했다. 이들은 몇 시간 내에 유지 관리자에 의해 확인 및 패치되었다. 주목할 점은, 이 결함들이 Anthropic의 Mythos를 사용한 최근의 감사에서도 발견되지 않았다는 것이다.
- 브라우저 및 OS 라이브러리: 주요 웹 브라우저 뒤에 있는 TLS 라이브러리와 주요 리눅스 배포판의 보안 버그를 발견했다.
- 다운스트림 영향: 오픈 소스 RAG 시스템의 토큰 취소 우회 및 아이덴티티 서비스의 SAML 어설션 재생(replay) 취약점을 포함한 다운스트림 애플리케이션의 취약점을 식별했다.
효율성 비교:
- 베이스라인(예: MLCerts, jwt-fuzzer, AFL++)과 비교했을 때, Chai는 약 2배 더 많은 고유한 차이점을 발견하면서도 훨씬 적은 입력값과 낮은 비용을 사용했다(예: 147개의 고유한 X.509 불일치를 약 $52.5에 발견한 반면, 베이스라인은 73개를 약$ 560에 발견함).
- Chai의 발견은 대부분 고유했다. 147개의 X.509 발견 중 132개가 어떤 베이스라인에서도 발견되지 않았다.
- Chai는 소수의 라이브러리만이 입력을 수락하는 "레프트 테일(left-tail)" 불일치를 성공적으로 식별하였는데, 이는 라이브러리 수준의 결함을 나타내는 강력한 신호인 반면, 베이스라인은 주로 균등한 분할 주변에 밀집되는 경향을 보였다.
모델 불가지론(Model Agnosticism): 시스템은 네 가지 다른 LLM(GPT-5.5, Opus 4.8, Gemini 3.5 Flash, Kimi K2.6) 전반에서 효과적으로 작동하였으며, 이는 가치가 특정 독점 모델이 아닌 시스템 설계에 있음을 나타낸다.

5. 의의 및 주장

본 논문은 Chai가 암호학적 오용 발견을 자동화하는 실질적인 경로를 보여준다고 주장한다. 이 영역은 검증 가능한 오라클의 부재로 인해 자동화된 분석이 어려웠던 분야이다.

확장성: 하나의 테스트 입력을 모든 구현체로 증폭하고 모호성을 다운스트림으로 추적함으로써, Chai는 철저한 감사를 용이하게 만들고 보안의 경제성을 방어자 쪽으로 이동시킨다.
퍼징을 넘어: 충돌(crash) 탐지에 의존하는 전통적인 퍼징과 달리, Chai는 행동적 불일치에 의근하여 충돌을 일으키지 않는 로직 수준의 취약점을 찾을 수 있다.
오용 저항성: 연구 결과는 라이브러리가 명확한 문서화 없이 핵심 보안 체크(예: 재생 방지 또는 키 검증)를 애플리케이션에 위임하는 반복적인 패턴을 강조한다. Chai의 접근 방식은 이러한 암묵적 계약을 공개하여, 라이브러리 동작과 애플리케이션 가정 사이의 불일치에서 발생하는 취약점 발견을 가능하게 한다.

저자들은 시스템이 강력하긴 하지만, 유지 관리자의 시간을 낭비하는 오보를 방지하기 위해 최종 검증에는 인간의 검토가 필수적임을 강조하며, 본 시스템은 인간 보안 연구자를 대체하는 것이 아니라 지원하기 위해 설계되었음을 밝힌다.