GARAGE: Characterizing the Automation Boundary in LLM-based Attack Graph Generation
이 논문은 차량 보안을 위한 정확하고 확장 가능하며 아키텍처에 구애받지 않는 자동 공격 그래프 생성을 가능하게 하기 위해, 파편화된 사이버 위협 인텔리전스를 도메인 특화 지식 베이스로 합성하는 RAG 기반 프레임워크인 GARAGE를 소개한다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
인터넷을 모든 책이 컴퓨터 해킹에 관한 이야기로 가득 찬 거대하고 혼란스러운 도서관이라고 상상해 보십시오. 수년 동안 보안 전문가들은 다음 번 거대한 강탈 사건을 예측하기 위해 이 이야기들을 읽으려고 노력해 왔지만, 책들은 엉망이고 정리되지 않은 필체로 쓰여 있으며, 이야기들은 수백만 개의 서로 다른 선반 위에 흩어져 있습니다. 이것이 바로 **사이버 위협 인텔리전스(CTI)**의 세계입니다. 즉, 악의적인 행위자들이 시스템에 침입하는 방법에 대한 방대한 단서들의 집합체입니다. 이 혼돈을 이해하기 위해 전문가들은 **공격 그래프(Attack Graphs)**를 사용하는데, 이는 마치 상세한 보물 지도와 같습니다. 단순히 하나의 잠금 해제 도구만을 나열하는 대신, 이 지도는 전체 여정을 보여줍니다: "앞문을 통해 들어가서, 주방을 거쳐 몰래 이동한 뒤, 사다리를 타고 다락방으로 올라가 마침내 금고를 연다." 자동차의 세계에서 이러한 지도들은 매우 중요한데, 현대의 차량은 기본적으로 바퀴 달린 컴퓨터이기 때문입니다. 만약 해커가 라디오에서 브레이크로 침투할 수 있다면, 자동차 전체가 위험에 처하게 됩니다. 연구자들이 던져온 핵심적인 질문은 이것입니다: "우리는 초지능 컴퓨터에게 이 지저널하고 무질서한 도서관의 책들을 읽게 하고, 우리가 본 적도 없는 자동차에 대해서도 자동으로 이 보물 지도를 그리도록 가르칠 수 있을까?"
여기, 연구진이 만든 새로운 도구인 GARAGE가 등장합니다. 이 도구는 그림도 그릴 줄 아는, 지치지 않고 매우 체계적인 사서 역할을 합니다. 연구팀은 12,786개의 알려진 소프트웨어 결함(CVE라고 불림)과 140개의 실제 자동차 해킹 사례를 학습시켜 거대한 디지털 두뇌를 구축했습니다. 그들은 단순히 데이터를 쏟아부은 것이 아니라, **검색 증강 생성(RAG)**이라는 시스템을 사용하여 자동차 보안의 특정 언어를 사용하는 구조화된 "지식 베이스(Knowledge Base)"로 데이터를 정리했습니다. RAG를 안전망이라고 생각하십시오. 컴퓨터가 지도를 그리려고 할 때, 자신의 기억에만 의존해 추측하는 대신 먼저 도서관에서 사실을 찾아보도록 강제하는 것입니다. 이는 컴퓨터가 존재하지 않는 가짜 자물쇠나 열쇠를 만들어내는 "환각(hallucination)" 현상을 방지하는 데 도움을 줍니다.
연구진은 네 가지 실제 자동차 해킹 사례(유명한 지프 체로키 및 BMW i3 사건 등)를 이용한 "공격 예측" 게임을 통해 GARAGE를 테스트했습니다. 그들은 대상 차량의 구체적인 세부 정보를 컴퓨터로부터 숨겼으며, 이를 통해 컴퓨터가 다른 자동차로부터 배운 것에만 의존하도록 만들었습니다. 결과는 인상적인 성공과 명확한 한계가 공존했습니다. 공격이 "라디오를 해킹하여 엔진에 접근한다"와 같은 일반적인 패턴을 따를 때, 컴퓨터는 스타처럼 활약하며 최적의 모델에서 약 **60%**의 확률로 지도를 성공적으로 그려냈습니다. 심지어 한 자동차 브랜드에서 사용된 기술이 메르세데스 차량에서 쓰인 기술이 BMW에서도 통할 수 있다는 점을 깨닫는 등, 브랜드 간 지식 전이도 가능했습니다.
하지만 이 논문은 매우 날카로운 경계선을 긋고 있습니다. 컴퓨터는 특정 하드웨어 내부의 정확한 코드나 특정 차량 하드 드라이브의 고유한 파일 경로와 같이 아주 세밀하고 구체적인 디테일이 필요한 경우 엄청나게 고전했습니다. 이러한 경우 컴퓨터의 "추측"은 자주 실패했으며, 연구진은 생성된 지도의 **76.9%**에 적어도 하나 이상의 가짜 요소가 포함되어 있음을 발견했습니다. 이는 이 논문의 가장 중요한 발견으로 이어집니다. 바로 **자동화의 경계(automation boundary)**가 존재한다는 것입니다. GARAGE는 "큰 그림"의 전략(전술적 패턴)을 포착하는 데는 탁월하지만, 아직 세부적인 구현 사항(구현 디테일)에 있어서 인간 전문가를 대체할 수는 없습니다. 연구진은 이 도구를 사용하는 가장 좋은 방법은 "인간 참여형(Human-in-the-loop)" 보조 도구로 사용하는 것이라고 제안합니다. 즉, 컴퓨터가 보물 지도의 초안을 그리게 하고, 그 후 인간 보안 전문가가 사다리가 실제로 존재하는지, 금고가 정말 그 자리에 있는지 확인하기 위해 구체적인 단계들을 검토하게 하는 것입니다.
또한 이 연구는 이러한 디지털 사서들을 운영하는 비용에 대해서도 조사했습니다. 연구진은 값비싼 최상위 "독점적(Proprietary)" 모델부터 저렴한 오픈 소스 모델에 이르기까지 8가지의 서로 다른 AI 모델을 테스트했습니다. 그 결과, 가장 비싼 모델들이 가장 정확하긴 했지만, 일부 저렴한 모델들은 비용과 성능 사이에서 훌륭한 균형을 제공한다는 것을 발견했습니다. 예를 들어, 한 오픈 소스 모델은 프리미엄 모델 비용의 아주 작은 부분만으로도 준수한 성능을 보여주었습니다. 궁극적으로, 이 논문은 우리가 자동차 보안을 완전히 자동화할 수는 없지만, GARAGE와 같은 도구들이 전문가들이 더 빠르게 작업하고 더 많은 위협을 포착할 수 있도록 도울 수 있다고 결론짓습니다. 단, 컴퓨터는 숙련된 장인이 아니라 유능한 견습생이라는 점을 기억해야 한다는 전제하에 말입니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.