ChatIDS: Explainable Cybersecurity Using Generative AI

당신의 홈 네트워크가 북적이는 성이라고 상상해 보세요. 그리고 **침입 탐지 시스템(IDS)**은 성문 앞에 서 있는 까칠하고 과잉 경계하는 경비병입니다. 이 경비병은 문제를 포착하는 데 매우 똑똑하지만, 오직 비밀스럽고 무시무시한 암호로만 말합니다. 그가 문제를 발견하면 "MALWARE-CNC Harakit botnet traffic!" 또는 *"SURICATA HTTP Response abnormal chunked!"*라고 소리를 지릅니다.

사이버 보안 전문가에게 이것은 무엇이 잘못되었는지 보여주는 명확한 지도입니다. 하지만 학생, 원격 근무자, 혹은 스마트 조명을 계속 작동시키려 노력하는 부모님과 같은 일반인에게 이것은 그저 횡설수설일 뿐입니다. 그것은 마치 경비병이 "왼쪽 탑에 드래곤이 불을 뿜고 있다!"라고 외치는데, 당신은 옆에서 "저게 드래곤인가? 불인가? 왼쪽 탑은 어디지? 도망쳐야 하나? 숨어야 하나? 마법사를 불러야 하나?"라고 생각하고 있는 것과 같습니다.

보통, 당신이 그 암호를 모른다면 세 가지 나쁜 선택지가 있습니다: 아무것도 하지 않거나, 공포에 질려 모든 것을 뽑아버리거나, 전문가에게 도움을 구걸하는 것입니다.

여기서 라이프치히 대학교 연구진의 새로운 아이디어인 ChatIDS가 등장합니다. 그들은 이렇게 물었습니다. '만약 초지능형 AI 챗봇을 사용해 경비병의 무서운 암호를 평이한 영어로 번역할 수 있다면 어떨까?'

마법의 번역기

연구진은 친절한 통역사 역할을 하는 ChatIDS라는 시스템을 구축했습니다. 그들의 실험에서 작동 방식은 다음과 같습니다:

1. 경보: IDS 경비병이 수상한 동작(예: 스마트 전구를 점령하려는 봇넷)을 포착합니다.
2. 가면: AI에게 알림을 보내기 전, ChatIDS는 '가면'을 씁니다. 이는 당신의 기기 이름을 숨기고 가짜의 더미 알림들을 섞어 넣는 작업입니다. 이것은 챗봇에게 "여기에 성에 대한 이야기가 있지만, 어떤 성인지는 알 수 없게 하고, 진짜 성을 유추하지 못하도록 가짜 드래곤들도 몇 마리 섞어 놓을게"라고 말하는 것과 같습니다.
3. 채팅: AI(구체적으로는 ChatGPT라는 모델)는 가면을 쓴 알림을 읽고 당신에게 노트를 작성합니다. "MALWARE-CNC" 대신, AI는 이렇게 말합니다. "존, 누군가 당신의 스마트 전구에 허가 없이 침입하려고 합니다. 만약 이를 막지 않는다면, 그들은 당신의 조명을 이용해 다른 컴퓨터를 공격하거나 데이터를 훔칠 수 있습니다."
4. 계획: 그다음 AI는 "전구를 뽑으세요", "공장 초기화를 하세요", "비밀번호를 변경하세요"와 같이 간단한 할 일 목록을 제공합니다.

실험 결과가 보여준 것

연구진은 스마트 홈 브리지와 라우터에 대한 공격 등 몇 가지 실제 사례를 통해 이를 테스트했습니다. 그들은 AI가 이 업무를 놀라울 정도로 잘 수행한다는 것을 발견했습니다.

• 사실 관계를 정확히 파악했습니다: 테스트 결과, 설명은 정확했습니다.
• 긴박함을 전달했습니다: AI는 당신이 왜 신경 써야 하는지를 성공적으로 설명하여, 당신이 즉각 행동해야 한다는 느낌을 받게 만들었습니다.
• 당신의 언어로 말했습니다: 무서운 전문 용어를 피하고 쉬운 단어를 사용했습니다.

하지만 연구진은 이것을 완벽하게 완성된 제품이라고 부르는 데 신중합니다. 그들은 AI가 훌륭하긴 했지만, 첫 시도에 딱 맞는 설명을 내놓기 위해서는 더 나은 지시(이를 "프롬프트 엔지니어링"이라 부릅니다)가 필요할 때가 있었다는 점을 발견했습니다. 또한, 사용자가 실제로 조언을 따르는지에 달려 있기 때문에, 이것이 실제로 현실 세계의 네트워크를 더 안전하게 만드는지 증명하기는 어렵다고 언급했습니다.

"잠깐만요" 리스트

우리가 내일 당장 ChatIDS를 사용할 수 있기 전에, 연구진은 해결되어야 할 큰 장애물들을 지적합니다. 그들은 이것이 불가능하다고 말하는 것이 아니라, "우선 이 문제들을 먼저 해결해야 한다"라고 말하는 것입니다.

• 신뢰의 함정: 만약 당신이 AI를 너무 믿게 된다면 어떻게 될까요? AI가 실수하여 당신이 필요하지 않은 상황에서 라우터를 뽑으라고 말한다면, 당신은 인터넷을 끊어버릴 수도 있습니다. 반대로, AI를 너무 믿지 못한다면 실제 경고를 무시하게 될 수도 있습니다.
• 개인정보 보호의 퍼즐: 비록 기기 이름을 숨겼더라도, AI는 여전히 무언가를 추측할 수 있습니다. 예를 들어, AI가 특정 유형의 가짜 알림이 특정 기기에는 불가능하다는 것을 알게 된다면, 당신이 실제로 어떤 기기를 가지고 있는지 알아낼 수도 있습니다.
• "책임은 누구에게 있는가?" 문제: 만약 AI가 잘못된 조언을 하여 당신의 집이 해킹당한다면, 누구에게 책임이 있을까요? 코드를 작성한 사람일까요? AI를 만든 회사일까요? 연구진은 이것이 아직 해결되지 않은 법적 미스터리라고 말합니다.
• 공포의 윤리: AI는 당신을 행동하게 만들기 위해 겁을 주는 데 능숙합니다. 하지만 당신에게 이로운 일을 하기 위해 무서운 언어를 사용하는 것이 괜찮을까요? 만약 AI가 너무 설득력이 있다면 어떻게 될까요?

결론

이 논문은 ChatIDS가 일반 사람들이 사이버 보안 알림을 이해하도록 돕는 기술적으로 실현 가능하며 유망한 방법임을 시사합니다. 그것은 비전문가에게 고대 룬 문자의 사전 대신 친절한 안내서를 건네주는 것과 같습니다.

하지만 연구진은 이것이 여전히 진행 중인 작업임을 분명히 하고 있습니다. 그들은 이것이 모든 해커를 막아낼 수 있다는 것을 증명하지 못했으며, 개인정보 보호, 신뢰, 법률과 관련된 까다로운 문제들도 아직 해결하지 못했습니다. 현재로서는, 이것이 우리가 사이버 보안의 언어를 호기심 많은 십 대(혹은 우리 모두)가 실제로 이해할 수 있는 것으로 번역할 수 있음을 보여주는 매우 멋진 실험이라는 점을 보여줍니다.