LLMs for Zero-Shot Threat Detection via Structured Risk Indicators
이 논문은 검색 증강 생성을 활용하여 사용자 활동 타임라인으로부터 구조화되고 해석 가능한 위험 지표를 생성하는 2단계 LLM 프레ме워크를 제안하며, 이러한 지표의 품질이 성능의 주요 동인임을 입증함으로써 내부자 위협 및 APT 탐지에서 최첨단(state-of-the-art) 제로샷 성능을 달성한다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
현대 조직의 디지털 요새에서 보안 시스템은 침입자를 감시하기 위해 끊임없이 작동합니다. 이 시스템 중 일부는 컴퓨터 사이를 흐르는 트래픽을 스캔하여 데이터 스트림 내의 수상한 패턴을 찾습니다. 다른 시스템은 컴퓨터 자체에 직접 자리 잡고 내부에서 일어나는 일, 즉 누가 로그인하는지, 어떤 파일이 열리는지, 어떤 장치가 연결되는지, 그리고 어떤 이메일이 전송되는지를 모니터링합니다. 이러한 내부 모니터링은 가장 위험한 위협이 내부로부터 오는 경우가 많기 때문에 매우 중요합니다. 공격자가 정당한 비밀번호를 훔치거나 직원을 설득하여 회사에 해를 끼치게 만들면, 그들은 시스템 내에서 일반 사용자처럼 보이면서 이동할 수 있습니다. 이들을 잡아내기 위해 보안 팀은 프로젝트를 위해 늦게까지 일하는 사람과 은밀하게 민감한 데이터를 훔치는 사람을 구별해야 하며, 이는 단 한 순간이 아니라 시간의 흐름에 따른 한 사람의 행동 전체를 이해해야 하는 작업입니다.
퀸즐랜드 대학교의 연구진은 컴퓨터가 특정 나쁜 행동의 사례들에 대해 수년간의 학습을 거치지 않고도 이러한 구분을 할 수 있도록 돕는 새로운 방법을 개발했습니다. 연구진은 컴퓨터에게 지저도한 가공되지 않은 보안 로그 더미를 보고 즉시 "위협" 또는 "안전"이라고 외치라고 요구하는 대신, 신중한 분석가처럼 행동하는 2단계 시스템을 구축했습니다. 먼저, 시스템은 사용자의 활동을 하나의 타임라인으로 정리하고 강력한 언어 모델에게 그 타임라인을 명확하고 구조화된 위험 요소 목록으로 번역하도록 요청합니다. 모델은 비정상적인 시간에 파일에 접근하거나 이상한 서버에 연결하는 것과 같이 잘못되었을 가능성이 있는 구체적인 사항들을 식별하도록 요청받습니다. 그다음, 두 번째 모델은 이러한 위험 목록의 시퀀스를 시간에 따라 관찰하여 공격이 전개되고 있음을 암시하는 패턴을 포착합니다. 이 접근 방식은 신뢰받던 직원이 악의적으로 변하는 내부자 위협과, 정교한 외부 공격자가 네트워크에 오랫동안 숨어 있는 고도 지속 위협(APT)을 모두 탐지할 수 있게 해줍니다.
연구진은 이 방법을 두 가지 서로 다른 보안 데이터 세트에 대해 테스트했습니다. 한 데이터 세트는 약 100명의 직원을 대상으로 18개월 동안 발생한 이메일 교환부터 파일 전송까지 모든 것을 포착한 내부자 위협 시나리오를 시뮬레이션했습니다. 다른 데이터 세트는 컴퓨터 간의 수천 건의 연결을 추적하며 네트워크에 대한 은밀한 외부 공격을 시뮬레이션했습니다. 두 경우 모두, 새로운 시스템은 언어 모델에 의존했던 기존의 최선 방법보다 성능이 유의미하게 뛰어났습니다. 내부자 위협 데이터에서 이 새로운 접근 방식은 공격을 정확하게 식별하는 능력을 향상시키는 동시에 오경보를 11퍼센트 포인트 이상 줄였습니다. 네트워크 공격 데이터에서는 그 개선 폭이 더욱 극적이었으며, 31퍼센트 포인트 이상 뛰어올랐습니다. 이 성공의 핵심은 단순히 더 큰 컴퓨터 뇌를 사용하는 것이 아니라, 정보를 처리하는 방식을 바꾸는 데 있었습니다. 첫 번째 모델이 복잡한 로그를 판단을 내리기 전에 단순하고 해석 가능한 위험 지표로 분해하도록 강제함으로써, 시스템은 정상적인 업무와 악의적인 활동 사이의 미묘한 차이를 훨씬 더 잘 포착할 수 있게 되었습니다.
가장 흥-미로운 발견 중 하나는 시스템이 맥락(context)의 필요성을 어떻게 다루는지였습니다. 연구진은 규모가 작고 성능이 낮은 언어 모델의 경우, 사용자의 과거 행동에 대한 요약을 제공하는 것이 훨씬 더 나은 위험 지표를 생성하는 데 도움이 된다는 것을 발견했습니다. 마치 모델이 현재의 상황에서 무엇이 비정상적인지 이해하기 위해 사용자의 이력을 볼 필요가 있는 것과 같았습니다. 그러나 더 크고 유능한 모델의 경우, 이러한 추가적인 역사적 맥락이 거의 영향을 미치지 않았는데, 이 모델들은 이미 스스로 높은 품질의 위험 지표를 생성할 수 있었기 때문입니다. 이는 초기 위험 평가의 품질이 이러한 위협을 포착하는 데 있어 가장 중요한 요소임을 시사합니다. 만약 첫 번째 단계에서 위험에 대한 명확하고 정확한 그림을 만들어낸다면, 두 번째 단계는 공격 패턴을 쉽게 인식할 수 있습니다. 만약 첫 번째 단계가 모호하거나 혼란스럽다면, 최종 분류기가 아무리 강력하더라도 시스템은 어려움을 겪게 됩니다.
또한 본 연구는 데이터가 그룹화되는 방식이 매우 중요하다는 점을 밝혔습니다. 시스템은 개별적인 사건이나 기계 간의 연결을 보는 대신, 한 사람의 모든 활동을 하나의 연속된 이야기로 볼 때 가장 잘 작동합니다. 연구진이 데이터를 사람 중심이 아닌 두 컴퓨터 사이의 연결 중심으로 그룹화했을 때, 시스템의 성능은 크게 떨어졌습니다. 이는 공격자의 행동이 다양한 도구와 로그를 가로지르는 행위로 정의되며, 전체 그림을 볼 때만 시스템이 위협의 전체 범위를 볼 수 있기 때문입니다. 연구진은 시스템이 첫 번째 데이터 세트의 내부자 위협을 포착하는 데는 탁월했지만, 매우 은밀한 네트워크 공격을 포함한 두 번째 데이터 세트는 신호가 훨씬 더 희미하여 더 어려운 과제를 제시했다고 언급했습니다. 그럼에도 불구하고, 구조화된 접근 방식은 여전히 견고한 탐지 기반을 제공했으며, 복잡한 보안 데이터를 관리 가능하고 해석 가능한 조각들로 분해하는 것이 강력한 전략임을 입증했습니다.
궁극적으로, 이 연구는 자동화된 위협 탐지의 미래가 컴퓨터에게 가능한 모든 공격을 암기하도록 훈련시키는 것이 아니라, 행동에 대해 구조적인 방식으로 추론하도록 가르치는 데 있음을 보여줍니다. 언어 모델을 사용하여 가공되지 않은 데이터를 명확한 위험 지표로 번역하고, 그 지표들을 시간에 따라 분석함으로써, 보안 시스템은 더욱 정확하고 신뢰할 수 있게 될 수 있습니다. 연구 결과는 가장 효과적인 설정이 추적하고자 하는 특정 위협의 유형과 사용되는 모델의 역량에 따라 달라질 수 있음을 시사하지만, 핵심 원칙은 동일합니다. 즉, 중간 단계에서의 명확성이 최종 결과의 더 나은 결정으로 이어진다는 것입니다. 이 접근 방식은 내부자로부터, 그리고 눈에 띄지 않게 숨어 있는 외부자로부터 조직을 보호하기 위한 유망한 길을 제시합니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.