Proving the Utility of Large Language Models in Cybersecurity Simulations: A Comprehensive Examination
이 논문은 대규모 언어 모델을 YAML 기반 네트워크 설정과 통합하는 것이 환경 생성을 자동화하고 기존 강화 학습 방법 대비 25,000배에서 50,000배의 속도 향상을 달성하는 동시에 높은 침해율과 현실성을 유지함으로써 사이버 보안 시뮬레이션을 유의미하게 향상시킨다는 것을 입증한다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
디지털 세계는 끊임없는 공격을 받고 있습니다. 매일 자동화된 프로그램과 인간 공격자들은 컴퓨터 네트워크의 약점을 찾아내어 내부로 침투해 데이터를 훔치거나 피해를 입힐 방법을 모색합니다. 이를 막기 위해 보안 전문가들은 실제 네트워크를 모방한 연습 환경을 구축합니다. 이것은 새로운 방어 전략을 실제 시스템에 위험을 주지 않고 테스트할 수 있는 훈련장과 같습니다. 수년 동안 이러한 연습장을 만드는 일은 느리고 수동적인 작업이었습니다. 전문가들은 컴퓨터 간의 연결부터 실행 중인 특정 소프트웨어에 이르기까지 네트워크의 모든 세부 사항을 복잡한 코드를 사용하여 직접 작성해야 했습니다. 네트워크가 변경되면 그 모든 것을 다시 손으로 다시 써야 했습니다. 이 과정은 너무 시간이 많이 걸려 연구자들이 테스트할 수 있는 시나리오의 수를 제한했고, 결과적으로 다음 대규모 공격에 대비하기 위한 도구를 더 적게 갖게 만들었습니다.
테서랙트 아카데미(Tesseract Academy), 일렉티 컨설팅(Electi Consulting), 그리고 앨런 튜링 연구소(Alan Turing Institute)의 연구진이 발표한 새로운 연구는 이 과정을 획기적으로 가속화할 수 있는 방법을 제시합니다. 그들은 대규모 언어 모델(LLM)로 알려진 인공지능에게 힘든 일을 맡겼습니다. 연구진은 코드를 한 줄씩 쓰는 대신, AI에게 일련의 지침과 좋은 네트워크 구성의 몇 가지 예시를 제공했습니다. 그러자 AI는 그들을 대신해 전체 설정을 컴퓨터가 쉽게 읽을 수 있는 구조화된 데이터 형식인 YAML 형식으로 작성했습니다. 연구진은 이 방법이 매우 효과적이라는 것을 발견했습니다. AI는 인간의 수정 없이도 약 70%의 확률로 유효하고 즉시 사용 가능한 네트워크 지도를 생성했습니다. 더 중요한 것은, 이 AI가 만든 네트워크를 사용하여 공격 전략을 테스트했을 때 그 결과가 놀라울 정도로 빠르고 효과적이었다는 점입니다.
연구진은 단순한 설정부터 AI가 생성한 복잡한 환경에 이르기까지 여섯 가지 서로 다른 네트워크 시나리오를 만들어 시스템을 테스트했습니다. 그런 다음 두 가지 유형의 공격자를 이 네트워크들에 맞붙였습니다. 첫 번째는 시행착오를 통해 학습하는 전통적인 컴퓨터 프로그램인 강화 학습 방식이었습니다. 이 프로그램은 네트워크를 단계별로 탐색하며 어떤 것이 작동하는지 확인하기 위해 다양한 행동을 시도해야 했습니다. 이 프로그램은 단 하나의 네트워크를 뚫는 법을 배우는 데 15분에서 29분이 걸렸으며, 그마저도 목표물로 가는 최적의 경로를 찾는 데 자주 실패했습니다. 두 번째 공격자는 대규모 언어 모델로 작성된 스크립트였습니다. 이 스크립트는 학습할 필요가 없었습니다. 단순히 네트워크 지도를 분석하고 침투 계획을 작성했습니다. 모든 테스트에서 AI가 작성한 스크립트는 0.1초도 채 되지 않아 네트워크 침투에 성공했습니다.
속도의 차이는 단순히 조금 더 빠른 수준이 아니라 거대한 도약이었습니다. AI 생성 스크립트는 전통적인 학습 프로그램보다 약 25,000배에서 50,000배 더 빠르게 작업을 완료했습니다. 전통적인 프로그램이 복잡한 네트워크를 통과하는 방법을 찾느라 고군분투하는 동안, 특히 다단계 공격 체인을 모방한 AI 스크립트는 94.5%의 확률로 네트워크 침투에 성공했습니다. 연구진은 AI가 어떤 컴퓨터끼리 통신할 수 있고 어떤 것들이 디지털 벽에 의해 차단되는지와 같은 네트워크의 규칙을 이해하는 데 특히 뛰어나다고 언급했습니다. AI 스크립트가 고가치 목표물에 도달하기 위해 한 컴퓨터에서 다른 컴퓨터로 빠르게 이동하는 데 집중하는 특정 전술이 가장 신뢰할 수 있고 효율적인 방법임이 증명되었습니다.
이러한 성공은 사이버 보안 연구가 수행되는 방식의 변화를 강조합니다. 연구는 AI에게 빈 템플릿을 주는 대신 예시를 통해 안내함으로써, 시스템이 불가능한 네트워크 연결이나 모순된 보안 규칙과 같은 흔한 실수를 피할 수 있음을 보여주었습니다. 또한 연구진은 AI와 대화하는 방식에서의 미묘한 함정도 발견했습니다. AI의 실수를 바로잡기 위해 대화 중에 AI가 그 수정 사항을 "기억"하도록 시도했을 때, AI는 나중에 더 미묘한 오류를 범하기 시작했습니다. 연구진은 대화를 통한 주고받는 방식보다는 완벽하고 사전 승인된 예시를 유지하고 AI가 그 구조를 복사하게 하는 것이 더 낫다는 것을 발견했습니다.
이러적인 결과는 대규모 언어 모델이 인간 전문가나 전통적인 소프트웨어가 따라올 수 없는 속도로 현실적인 훈련 환경을 생성하고 방어 전략을 테스트하는 강력한 도구로 작용할 수 있음을 시사합니다. 연구진은 이러한 결과가 실제 공격이 아닌 시뮬레이션에서 나온 것이며, 발견된 취약점이 진정으로 유의미하려면 향후 실제 데이터를 통합해야 한다고 주의를 기울였습니다. 그러나 수천 개의 독특하고 복잡한 네트워크 시나리오를 몇 초 만에 생성할 수 있는 능력은 방어 체계를 더 철저하고 빈번하게 테스트할 수 있는 문을 열어줍니다. 이러한 디지털 전장을 자동화함으로써 보안 팀은 더 넓은 범위의 위협에 대해 방어 체계를 테스트하여 공격자보다 한발 앞서 나갈 수 있을 것입니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.