Hierarchical Agentic Incident Response with Digital-Twin-Validated Attack Inference
본 논문은 공격 추론을 위한 미세 조정된 LLM, 보정(calibration)을 위한 디지털 트윈 검증, 그리고 다단계 사고 대응을 자동화하기 위한 롤아웃 계획을 통합하여 엔터프라이즈 네트워크 테스트베드에서 프런티어 LLM 베이스라인보다 현저히 높은 복구 성공률을 달하는 계층적 에이전트 프레임워크를 제시한다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
네트워크가 침해되었을 때, 보이지 않는 침묵의 적을 상대로 시간은 촉박하게 흘러갑다. 방어자들은 혼란스러운 퍼즐에 직면한다. 그들은 흩어진 경고와 이상한 데이터 급증을 목격하지만, 침입자가 어떻게 이동했는지, 무엇을 건드렸는지, 혹은 다음에 어디를 공격할지에 대한 전체적인 이야기는 보지 못한다. 이 안개 속에서 올바른 움직임을 결정하기 위해서는 두 가지 어려운 과제가 필요하다. 첫째는 불완전한 단서로부터 공격자의 경로를 정확히 추측하는 것이고, 둘째는 새로운 문제를 일으키지 않으면서 피해를 막을 수 있는 복구 순서를 선택하는 것이다. 수십 년 동안 보안 팀은 인간 전문가가 이를 조립하는 방식에 의존해 왔으나, 이는 공격이 복잡하거나 팀 규모가 작을 때 종종 실패하는 느리고 소모적인 과정이다. 자율 방어 분야는 이러한 인간의 노동을 스스로 생각하고 계획하며 행동할 수 있는 지능형 시스템으로 대체하고자 노력해 왔지만, 위험한 실수를 저지르지 않고 사이버 공격에 대해 추론할 수 있는 기계를 만드는 것은 여전히 까다로운 과제로 남아 있었다.
홍콩 시립 대학교와 포덤 대학교 연구진의 새로운 연구는 세 가지 서로 다른 도구를 하나의 계층화된 시스템으로 결합함으로써 이 문제에 대한 신선한 접근법을 제시한다. 그들은 인공지능이 단순히 정답을 추측하는 것이 아니라, 행동하기 전에 자신의 추측을 스스로 테스트하는 프레임워크를 구축했다. 이 시스템은 보안 로그와 시스템 데이터를 읽어 공격의 예상 시퀀스를 재구성하는 탐정 역할을 하는 특화된 언어 모델로 시작된다. 시스템은 이 재구성된 내용을 즉시 수용하는 대신, 실제 네트워크의 동작을 완벽하게 모방하는 가상 복제본인 '디지털 트윈' 내부에서 의심되는 공격 시퀀스를 실행한다. 만약 가상 공격이 실제 경고와 동일한 결과를 생성한다면, 시스템은 자신의 추측이 옳다는 것을 알게 된다. 만약 가상 결과가 다르다면, 시스템은 그 불일치를 탐정 모델로 다시 보내 이야기를 수정하도록 한다. 이러한 추측, 테스트, 수정의 순환은 계획이 환각이 아닌 현실에 대한 확고한 이해를 바탕으로 구축되도록 보장한다.
시스템이 상황을 확신하게 되면, 두 단계의 의사결정으로 나뉜 계획 단계로 넘어간다. 첫 번째 단계인 전술 계층(tactical layer)은 전체 네트워크를 살펴보고 어떤 고장 난 부분을 먼저 고칠지 결정한다. 이 단계는 많은 가능한 미래를 시뮬레이션하는 방법을 사용하여 총 다운타임을 최소화하는 복구 순서를 찾아낸다. 두 번째 단계인 운영 계층(operational layer)은 전술 계획가가 선택한 특정 구성 요소를 가져와 그것을 정확히 어떻게 고칠지 파악한다. 여기서 또 다른 인공지능 에이전트가 서버 격리나 비밀번호 재설정과 같은 상위 수준의 복구 단계를 제안한다. 이러한 단계들이 실제 네트워크에 적용되기 전에, 세 번째 에이전트가 이들을 구체적인 컴퓨터 명령어로 변환하여 디지털 트윈에서 다시 실행한다. 이 최종 점검은 명령어가 실제로 작동할지, 그리고 시스템을 예기치 않게 중단시키지는 않을지를 검증한다. 이 엄격한 시뮬레이션을 통과한 후에야 시스템은 실제 네트워크에 복구를 실행한다.
연구진은 33개의 상호 연결된 구성 요소를 포함하는 현실적인 컨테이너화된 네트워크 테스트베드에서 세 가지 유형의 다단계 공격(단순한 공격부터 매우 정교한 공격까지)을 시뮬레이션하여 이 프레임워크를 테스트했다. 그들은 이 시스템을 표준적인 프롬프팅만을 사용하는 다른 고급 인공지능 모델들과 비교했다. 결과는 새로운 접근 방식의 명확한 우위를 보여주었다. 가장 단순한 공격 시나리오에서, 이 프레임워크는 90%의 확률로 네트워크를 완전히 복구하는 데 성공한 반면, 가장 우수한 경쟁 모델들은 72%의 성공률을 보였다. 공격이 더 복잡해질수록 격차는 더 벌어졌는데, 새로운 시스템은 8688%의 성공률을 유지한 반면, 다른 모델들은 6067%를 기록했다. 이는 복구 성공률에서 18~31 퍼센트 포인트의 향상을 의미한다. 또한, 이 시스템은 더 효율적이었는데, 일반적으로 구성 요소당 6개의 간결한 상위 수준 행동 시퀀스를 확정하는 반면, 경쟁 모델들은 종종 7개에서 15개의 행동을 생성하여 실행 시간이 더 길고 가변적이었다.
이 연구는 인공지능을 시뮬레이션된 현실에 접지시키는 것이 고위험 환경에서 오류의 위험을 크게 줄일 수 있음을 입증한다. 시스템이 실제 세계를 건드리기 전에 자신의 이론을 재현하고 명령어를 검증하도록 강제함으로써, 연구진은 순수 언어 모델이 결여하고 있는 책임의 루프를 만들어냈다. 이 연구가 사이버 방어의 모든 문제를 해결했다고 주장하는 것은 아니지만, 자동화된 대응을 더 신뢰할 수 있게 만드는 구체적인 방법을 제공한다. 연구 결과는 자율 보안의 미래가 인공지능을 고립된 상태에서 더 똑똑하게 만드는 데 있는 것이 아니라, 인공지능에게 안전한 샌드박스를 제공하여 마침내 행동할 때 정밀함과 자신감을 가지고 행동하도록 하는 데 있음을 시사한다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.