인터넷을 데이터가 교통량처럼 흐르고 사람들이 디지털 주택에 거주하는 거대하고 북적이는 도시라고 상상해 보세요. 이 도시에는 집을 침입하거나, 우편물을 훔치거나, 혼란을 일으키려는 문제아들이 항상 존재합니다. 모두를 안전하게 지키기 위해, 우리는 보안 운영 센터(SOC)라고 불리는 특별한 경찰서들을 가지고 있습니다. 이곳은 단순히 컴퓨터가 있는 방이 아닙니다. 이곳은 인간 탐정들이 화면을 지켜보고, 단서를 분석하며, 사이버 범죄자들이 실질적인 피해를 입히기 전에 그들을 저지하는 지휘 본부입니다. 하지만 문제는 도시가 점점 커지고 있다는 점입니다. 나쁜 놈들은 더 똑똑해지고, 빨라지며, 더 교활해지고 있습니다. 경찰서는 매일 수천 개의 알람이 쏟아지는 홍수에 잠겨 있습니다. 이 알람들 중 대부분은 누군가 토스트를 태워서 울리는 연기 감지기처럼 잘못된 경보(오보)이지만, 탐정들은 그 하나하나를 모두 확인해야 합니다. 이는 "경보 피로(alert fatigue)"로 이어집니다. 즉, 인간이 너무 지치고 압도되어 실제 불이 난 것을 놓칠 수도 있게 되는 것입니다.

이를 해결하기 위해, 우리는 인공지능(AI)으로 구동되는 로봇 조수들을 투입하기 시작했습니다. 이 로봇들은 인간보다 훨씬 빠르게, 순식간에 수백만 개의 단서를 스캔할 수 있습니다. 하지만 여기에는 함정이 있습니다. 만약 우리가 로봇에게 모든 것을 맡긴다면, 그들은 우리가 이해할 수 없는 실수를 저지르거나 영리한 해커들에게 속을 수도 있습니다. 반대로 로봇이 충분히 돕도록 허용하지 않는다면, 우리는 다시 압도당하는 상황으로 돌아가게 됩니다. 그래서 과학자들에게 던져진 큰 질문은 이것입니다: 어떻게 하면 인간 탐정과 AI 로봇이 서로를 신뢰하고, 각자 무엇을 하는지 정확히 알며, 아무도 지치거나 큰 실수를 하지 않고 함께 협력할 수 있는 완벽한 팀워크를 구축할 것인가? 이것이 바로 호주의 한 연구팀이 해결하고자 했던 퍼즐입니다.

논문의 핵심 아이디어: 인간과 로봇 탐정을 위한 팀업 가이드

여러분이 읽고 있는 이 논문, "신뢰할 수 있는 자율성을 갖춘 보안 운영 센터를 위한 인간-AI 협업의 통합 프레임워크(A Unified Framework for Human–AI Collaboration in Security Operations Centers with Trusted Autonomy)"는 본질적으로 그 완벽한 팀을 만들기 위한 규칙 책입니다. 저자인 아마다 모신(Ahmad Mohsin)과 그의 동료들은 단순히 보안 시스템에 AI를 덧붙이고 요행을 바라는 식으로는 안 된다고 주장합니다. 대신, 그들은 우리가 로봇을 얼마나 신뢰하는지와 업무가 얼마나 까다로운지에 따라 인간의 두뇌와 로봇의 속도를 혼합하는 구조적인 방법을 제안합니다.

이것을 마치 초보 운전자를 가르치는 과정이라고 생각해보세요. 첫날부터 번화한 고속도로에서 운전하게 하지는 않을 것입니다(그것은 너무 위험하니까요). 여러분은 빈 주차장에서 시작합니다 (레벨 1: AI가 돕지만, 인간이 핸들을 잡고 있음). 그들이 숙련되고 여러분이 더 신뢰하게 되면, 조용한 도로에서 운전하게 합니다 (레벨 2: AI가 운전하지만, 인간이 면밀히 관찰함). 마지막으로, 그들이 뛰어나고 도로가 안전하다는 것이 증명되면, 여러분은 뒷좌석에서 낮잠을 자는 동안 AI가 스스로 운전하게 할 수도 있습니다 (레벨 4: AI가 완전히 주도권을 가짐).

논문은 보안 센터들이 이와 동일한 "레벨 업" 시스템을 사용해야 한다고 제안합니다. 그들은 다섯 단계의 자율성(AI의 독립성 정도)을 가진 프레임워크를 만들었습니다:

• 레벨 0: 인간이 모든 것을 수행합니다. AI는 계산기 같은 단순한 도구일 뿐입니다.
• 레벨 1: AI가 무엇을 할지 제안하지만, 어떤 일이 일어나기 전에 반드시 인간의 승인을 받아야 합니다.
• 레벨 2: AI가 일상적인 작업은 자동으로 처리하지만, 중요한 일을 하기 전에는 허가를 요청합니다.
• 레벨 3: AI가 대부분의 일을 스스로 수행하며, 인간은 이상하거나 위험한 일이 발생했을 때만 개입합니다.
• 레벨 4: AI가 일상적인 업무 전체를 운영하며, 인간은 나중에 보고서만 확인합니다.

이 시스템의 핵심은 신뢰입니다. 논문은 로봇에게 즉시 열쇠를 넘겨줄 수는 없다고 설명합니다. 신뢰는 우정처럼 시간이 지나면서 쌓이는 것입니다. 만약 AI가 좋은 결정을 내리고, 왜 그런 결정을 내렸는지 설명한다면(그래서 인간이 이해할 수 있도록), 인간은 AI를 더 신뢰하게 되고 AI는 더 많은 일을 할 수 있게 됩니다. 만약 AI가 이유를 설명하지 않는 "블랙박스"라면, 인간은 통제권을 유지할 것이고 로봇은 하는 일이 줄어들 것입니다.

"로봇 아바타" 시뮬레이션 테스트

그들의 아이디어가 실제로 작동하는지 확인하기 위해, 연구원들은 단순히 이론만 쓴 것이 아니라 테스트를 구축했습니다. 그들은 실제 회사의 컴퓨터 네트워크와 똑같이 보이도록 설계된 비디오 게임 세계 같은 "사이버 레인지(cyber range)"를 만들었습니다. 이 게임 속에서 그들은 인간 탐정 팀과 **사이버앨라이(CyberAlly)**라고 불리는 특별한 AI 조수를 배치했습니다. 사이버앨라이는 거대 언어 모델(LLM) 기반의 매우 똑똑한 로봇 두뇌로, 2년간의 가짜 사이버 공격 및 보안 데이터를 학습했습니다.

그들은 해커 팀(레드 팀)이 시스템 침입을 시도하고, 인간-AI 팀(블루 팀)이 이를 막으려 하는 일련의 "워게임(wargames)"을 실행했습니다. 시나리오는 선박의 깊이를 조절하는 센서를 건드리거나 기차가 물자를 배달하는 것을 막으려는 해커들의 공격처럼 현실적이었습니다.

시뮬레이션 결과는 다음과 같았습니다:

• AI가 노이즈를 걸러내는 데 도움을 주었습니다: 처음에 AI는 레벨 1 보조자 역할을 했습니다. AI는 수천 개의 알람을 살펴보고 인간에게 "이 알람 중 70%는 그냥 잘못된 경보이니 무시하세요"라고 알려주었습니다. 이는 즉각적으로 인간의 업무를 수월하게 만들었습니다.
• 팀의 속도가 빨라졌습니다: 해커가 공격했을 때, AI는 인간이 상황을 훨씬 더 빨리 파악하도록 도왔습니다. 한 테스트에서 문제를 조사하는 데 걸리는 시간이 3시간에서 단 1시간으로 줄어들었습니다. 이는 67%의 개선입니다.
• 대응 시간이 급증했습니다: 공격을 차단할 때(예: 나쁜 해커를 차단하거나 문을 잠그는 것), AI는 문제를 해결하는 데 걸리는 시간을 8시간에서 90분으로 단축하는 데 도움을 주었습니다.
• 신뢰가 자연스럽게 성장했습니다: 시작 단계에서 인간은 AI가 말하는 모든 것을 확인했습니다. 하지만 AI가 계속해서 올바른 결정을 내리고 그 근거를 명확히 설명하자, 인간은 AI를 더 신뢰하기 시작했습니다. 그들은 AI가 더 많은 일상 업무를 자동으로 처리하도록 허용했고, 이를 통해 인간은 정말 어렵고 까다로운 문제에 집중할 수 있었습니다.

이것이 미래에 의미하는 바

이 논문은 이 "신뢰할 수 있는 자율성(Trusted Autonomy)" 프레임워크가 사이버 보안의 미래를 다루는 승리하는 방법이라고 제안합니다. 이는 우리가 "인간만 있는 방식"(너무 느림)과 "로봇만 있는 방식"(너무 위험함) 중 하나를 선택해야 하는 것이 아님을 보여줍니다. 대신, 우리는 로봇이 지루하고 빠르고 반복적인 일을 처리하고, 인간이 복잡하고 무섭고 중요한 결정을 내리는 파트너십을 구축할 수 있습니다.

연구진은 AI의 독립성을 인간의 신뢰 수준에 맞게 정교하게 조정함으로써, 보안 팀이 오보로 인해 번아웃되는 것을 방지하고 실제 위협을 훨씬 더 빨리 잡아낼 수 있음을 발견했습니다. 그들은 시뮬레이션에서 이를 증명하여, 경보 피로는 줄어들고 대응 시간은 늘어났음을 보여주었습니다. 다만, 이것은 가상의 환경에서의 테스트였다는 점을 주의 깊게 언급했습니다. 결과는 매우 유망해 보이지만, 실제 세상의 보안 센터는 비디오 게임보다 해결하기 훨씬 더 복잡하고 엉망인 시스템을 가지고 있을 수 있습니다.

요약하자면, 이 논문은 미래의 사이버 경찰서에 대한 청사진을 제공합니다. 그곳은 인간과 AI가 최고의 친구가 되어, 각자가 가장 잘하는 일을 하며, 함께 우리의 디지털 도시를 안전하게 지키는 곳입니다. 이것은 인간 탐정을 로봇으로 대체하는 것이 아니라, 지치지 않고, 단서를 놓치지 않으며, 언제 지원을 요청해야 할지 항상 알고 있는 강력한 사이드킥(조력자)을 탐정에게 주는 것입니다.