🤖 AI

An AI Security Agent for University ACMIS: Multi-Vector Threat Detection and Automated Response

이 논문은 기존의 규칙 기반 및 시퀀스 전용 시스템에 비해 우수한 위협 탐지 정확도와 신속한 자동 대응을 달성하기 위해 다층적 이상 징후 탐지, 행동 분석 및 NLP 챗봇을 통합한 대학 학사 관리 정보 시스템(ACMIS)용 AI 기반 보안 에이전트를 소개한다.

원저자: Joseph Walusimbi, Joshua Benjamin Ssentongo

게시일 2026-06-16

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Joseph Walusimbi, Joshua Benjamin Ssentongo

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

한 대학교의 컴퓨터 시스템(ACMIS라고 불리는)을 거대하고 북적이는 디지털 캠퍼스라고 상상해 보십시오. 이곳에는 학생 성적, 재무 기록, 개인 정보가 담겨 있습니다. 보통 보안 요원들은 단순한 규칙집입니다. 그들은 당신에게 열쇠가 있는지 확인하지만, 그 "열쇠"가 도난당한 것인지, 누군가 문을 1분에 500번씩 드나드는지, 혹은 한 학생이 한 달 동안 도서관 책을 한 페이지씩 아주 천천히 빼돌리고 있는지는 구별하지 못합니다.

이 논문은 새로운 종류의 보안 요원을 소개합니다: 바로 AI 보안 에이전트입니다. 이 에이전트를 단순한 규칙집이 아니라, 모든 학생의 습관을 알고 있으며, 군중을 관찰하고, 문제가 발생하기 전에 미리 포착할 수 있는 매우 똑똑한 탐정이라고 생각하십시오.

이 논문은 이 시스템을 쉬운 용어로 다음과 같이 설명합니다:

1. 문제점: 왜 기존의 경비원들은 실패하는가

전통적인 보안 시스템은 특정 "나쁜 놈"이 적힌 "지명수배" 포스터만 찾는 문지기와 같습니다. 만약 범죄자가 변장을 하거나 아주 느리게 행동한다면, 문지기는 그를 통과시켜 줍니다.

결함: 해커는 2분 동안 100번 로그인할 수도 있지만(이것은 쉽게 포착됩니다), 몇 주에 걸쳐 데이터를 조금씩 훔치거나 시스템을 속여 자신에게 더 많은 권한을 부여할 수도 있습니다. 이러한 느리고 은밀한 공격은 기존의 규칙집에는 정상적인 행동처럼 보여서 감지되지 않은 채 지나갑니다.

2. 해결책: "슈퍼 탐정" 에이전트

저자들은 세 개의 머리를 가진 와치독(Watchdog)처럼 협력하여 문제를 포착하는 AI 에이전트를 구축했습니다:

첫 번째 머리: 패턴 감시자 (Sequence Detector)
- 비유: 학생이 평소에 어떻게 행동하는지 정확히 아는 선생님을 상상해 보십시오. 만약 평소 오전 8시부터 오후 5시까지 공부하던 학생이 갑자기 새벽 3시에 로그인하여 기계적인 속도로 코드를 입력하기 시작한다면, 선생님은 의심을 품게 됩니다.
- 역할: 사용자의 정상적인 습관을 학습합니다. 만약 그들의 행동이 개인의 "지문"과 일치하지 않으면, 경고를 보냅니다.
두 번째 머리: 속도계 (Statistical Monitor)
- 비유: 톨게이트를 생각하십시오. 1분에 차 한 대가 지나가는 것은 괜찮습니다. 하지만 1분에 500대의 차가 지나가려고 한다면, 톨게이트는 무언가 잘못되었다는 것을 압니다.
- 역할: 일이 얼마나 빠르게 일어나는지 측정합니다. 만약 누군가 1분 안에 500개의 결제 번호를 생성하거나, 10분 동안 15개의 비밀번호 재설정을 시도한다면, 이 머리는 "멈춰!"라고 비명을 지릅니다.
세 번째 머리: 지도 판독기 (Graph Analyzer)
- 비유: 연결 관계를 살펴보는 탐정을 상상해 보십시오. 만약 캄팔라(Kampala)에서 한 학생이 로그인했는데, 20분 후에 동일한 계정이 나이로비(Nairobi)에서 로그인했다면, 탐정은 그것이 불가능하다는 것을 압니다 (사용자가 순간이동 장치를 가지고 있지 않는 한).
- 역할: 사용자, 기기, 위치 사이의 관계를 살펴봅니다. "불가능한 이동(Impossible Travel)"이나, 데이터를 훔치기 위해 몇 년 동안 잠들어 있던 계정이 갑자기 깨어나는 현상 등을 잡아냅니다.

3. 비밀번호를 위한 "스마트 챗봇"

대학교들은 흔히 학생들이 비밀번호를 잊어버리는 문제에 직면합니다. 보통은 그냥 "재설정"을 클릭하면 시스템이 코드를 보내줍니다. 해커들은 이 점을 이용해 시스템에 재설정 요청을 남발하여 실제 학생들을 차단할 수 있습니다.

해결책: 새로운 시스템에는 당신과 대화하는 챗봇이 있습니다. 이 챗봇은 단순히 코드를 보내는 것이 아니라, VIP 클럽의 문지기처럼 행동합니다. 당신이 누구인지 확인하기 위해 질문을 던집니다.
기술: 만약 "대량 재설정" 공격(해커가 한 번에 100개의 비밀번호를 재설정하려고 시도하는 경우)이 감지되면, 챗봇은 그 패턴을 포착하여 공격을 차단하면서도 실제 학생들은 통과시켜 줍니다. 테스트 결과, 이 챗봇은 실제 학생을 차단하지 않으면서도 이러한 공격의 87%를 잡아냈습니다.

4. "신호등" 대응 시스템

AI가 문제를 감지했을 때, 단순히 "불이야!"라고 외치며 모든 것을 중단시키지는 않습니다. 이 시스템은 4단계 신호등 시스템을 사용합니다:

초록색 (낮은 위험): 그냥 노트에 기록만 합니다. 조치가 필요 없습니다.
노란색 (중간 위험): 추가 신원 확인(예: 2차 비밀번호)을 요구하거나 사용자의 속도를 늦춥니다.
주황색 (높은 위험): 계정을 일시적으로 잠그고 해커의 컴퓨터를 차단합니다.
빨간색 (심각한 위험): 즉각적인 비상 폐쇄 모드입니다. 모든 자금을 동결하고, 세션을 종료하며, 즉시 보안 팀에 알립니다.

5. 성능은 어떠했는가?

저자들은 시뮬레이션된 대학교(147,000회의 로그인 세션이 포함된 가상의 디지털 캠퍼스)를 사용하여 이 시스템을 테스트했습니다.

기존 방식 (규칙 기반): 매우 적은 것들만 잡아냈습니다 (성공률 약 15%). 거의 모든 은밀한 공격을 놓쳤습니다.
새로운 AI 방식: 위협의 **96.6%**를 잡아냈습니다.
속도: 시스템이 해커를 차단하기로 결정했을 때, 이는 1밀리초(ms) 미만 만에 이루어졌습니다 (사람의 눈 깜빡임보다 빠릅니다).

핵심 요약

이 논문은 패턴 인식, 속도 체크, 그리고 연결 매핑을 결합함으로써, 대학교들이 기존의 보안 시스템이 놓치는 "은밀한" 해커들을 마침내 잡을 수 있다고 주장합니다. 이 시스템은 유연하게 설계되어 있어, "정상"이 무엇인지에 대한 "규칙집"만 변경한다면 동일한 "탐정의 두뇌"를 은행이나 병원에서도 사용할 수 있습니다.

중요 참고 사항: 위의 결과는 저자들이 만든 시뮬레이션된(가상의) 데이터셋을 바탕으로 합니다 (실제 대학의 공격 데이터는 구하기 어렵기 때문입니다). 이 논문은 아직 실제 운영 중인 대학교 시스템에서 테스트했다고 주장하지 않습니다.

기술 요약: 대학 ACMIS를 위한 AI 보안 에이전트

문제 정의
대학 학사 관리 정보 시스템(ACMIS)은 무차별 대입 로그인 공격부터 결제 사기, 권한 상승, 내부 데이터 유출, 학업 부정행위(academic integrity violations)에 이르기까지 다양한 스펙트럼의 보안 위협에 노출된 고가치 표적입니다. 본 논문은 현재의 보안 태세에서 결정적인 격차를 식정합니다. 즉, 기존의 규칙 기반 침입 탐지 시스템(IDS)은 정적 시그니처에 의존하기 때문에 불충분하다는 것입니다. ACMIS 내의 많은 악성 활동은 개별적으로 보았을 때 정상적인 운영과 구조적으로 구별되지 않을 수 있습니다. 예를 들어, 강사가 점진적으로 행정 권한을 축적하거나, 스크립트가 기계적인 속도로 결제 등록 번호(PRN)를 생성하는 행위는 각각은 정당해 보일 수 있으나, 행동 분석 관점에서 보면 사기 또는 남용에 해당합니다. 본 논문은 기존 시스템들이 기술적 취약점이 아닌 행동적 격차를 악용하는 이러한 "느리게 움직이는(slow-moving)" 또는 맥락 의존적인 위협을 탐지하는 데 실패한다고 주장합니다.

방법론
제안된 솔루션은 인증, 권한 부여, 금융 거래, 사용자 행동, 시스템 상태라는 다섯 가지 운영 표면을 모니터링하도록 설계된 모듈형 다층 AI 보안 에이전트입니다. 시스템 아키텍처는 핵심 AI 보안 엔진과 부문별 특화 모듈로 구성됩니다.

핵심 AI 보안 엔진: 엔진은 이벤트 스트림을 세 가지 병렬 서브 모델을 통해 처리하여 복합 위험 점수( $R$ )를 생성합니다.
- 시퀀스 이상 탐지기(Sequence Anomaly Detector): 역사적 행동 분포로부터의 이탈을 식별하기 위해 사용자 행동 시퀀스에 대해 학습된 LSTM 네트워크입니다.
- 통계적 임계값 모니터(Statistical Threshold Monitor): 역사적 베이스라인으로부터 학습된 클래스별 임계값을 사용하여 고빈도 신호(예: 로그인 시도, PRN 생성)에 대한 슬라이딩 윈도우 속도 카운터를 사용합니다.
- 그래프 기반 분석기(Graph-based Analyser): 사용자, 장치, IP 주소 및 ACMIS 엔티티 간의 관계를 모델링하여 비정상적인 관계 엣지(relational edges)를 탐지하는 그래프 신경망(GNN)입니다.
- 최종 위험 점수는 $R = \alpha s_{seq} + \beta s_{thresh} + \gamma s_{graph}$ 로 계산되며, 가중치는 검증 데이터에서 튜닝됩니다.
자동 대응 프레임워크: 시스템은 위험 점수 $R$ 에 따라 4단계 에스컬레이션 프레임을 적용합니다.
- 낮음(Low): 로깅 및 베이스라인 업데이트.
- 중간(Medium): 단계별 다요소 인증(MFA) 수행 및 속도 제한(rate-limiting).
- 높음(High): 계정 일시 잠금, IP 차단 및 트랜잭션 일시 중단.
- 심각(Critical): 긴급 정지, 금융 동결 및 세션 격리.
NLP 기반 챗봇: 검색 증강(retrieval-augmented) NLP 모델이 비밀번호 복구를 처리합니다. 이 모델은 OTP를 통해 신원을 확인하는 동시에, 지리적 위치, 장치 참신성, 요청 속도 등을 평가하여 대량 리셋 공격과 같은 남용 패턴을 모니터링합니다.
부문별 특화 모듈: 아키텍처는 도메인 지식(예: 금융 모듈의 정상적인 PRN 속도, 학술 모듈의 시험 로그인 패턴)을 핵심 탐지 엔진으로부터 분리하여, 시스템이 다른 기관의 맥락에도 적응할 수 있도록 합니다.

주요 기여

다층 탐지: ACMIS의 다섯 가지 별개 운영 표면을 포괄하는 통합 에이전트를 통해 단일 표면 모니터링의 한계를 해결했습니다.
하이브리드 아키텍처: 시퀀스 모델링(LSTM), 통계적 임계값, 그리고 그래프 기반 관계 분석을 통합하여 점 단위 이상(point anomalies)과 집합적 행동 패턴을 모두 탐지합니다.
자동 대응: 위험 점수에 따라 수동적 모니터링에서 긴급 차단으로 전환되는 정교한 4단계 프레임워크를 갖추었으며, 엔드 투 엔드 레이턴시는 밀리초 단위로 측정됩니다.
보안 복구 통합: 복구 흐름 중에 신원 검증을 수행하면서 동시에 대량 리셋 공격 벡터를 능동적으로 탐지하는 NLP 챗봇을 포함했습니다.
모듈형 설계: 핵심 이상 탐지 엔진이 부문 불가지론적(sector-agnostic)이어서, 플러그인 모듈을 통해 뱅킹, 의료 및 기타 기관 시스템으로 쉽게 적응할 수 있는 아키텍처를 제공합니다.

실험 결과
시스템은 90일 동안 2,400개 사용자 계정에 걸친 147,922개 세션의 시뮬레이션 데이터셋을 통해 평가되었으며, 여기에는 9개 위협 범주에 걸친 12,310개의 공격 세션(8.32% 유병률)이 포함되었습니다.

탐지 성능: 제안된 에이전트는 매크로 평균 F1 점수 0.966을 달성했습니다. 이는 규칙 기반 베이스라인(0.156)보다 81포인트, LSTM 전용 베이스라인(0.836)보다 13포인트 향상된 수치입니다.
특정 위협: 하이브리드 접근 방식은 특히 "휴면 계정 남용(dormant account abuse)"에 효과적이었습니다. 이 범주에서 규칙 기반 및 Isolation Forest 베이스라인은 0.000을, LSTM 전용 모델은 0.019를 기록한 반면, 제안된 모델은 0.932의 F1 점수를 달성하여 그래프 기반 구성 요소의 필요성을 입증했습니다.
전체 지표: 모델은 테스트 세트에서 정밀도(precision) 0.994와 재현율(recall) 0.998을 달성했습니다.
레이턴시: 단일 노드 프로토타입에서 치명적 단계 조치를 위한 엔드 투 엔드 응답 레이턴시는 95 백분위수 기준 0.207 ms 미만으로, 계정 차단에 필요한 서브 세컨드(sub-second) 임계값 이내에 있었습니다.
챗봇 성능: 복구 챗봇은 **97.1%**의 신원 검증 정확도와 **87.3%**의 대량 리셋 공격 탐지율을 달 기록했으며, 정상적인 고용량 복구 기간 동안 오탐(false positive)은 발생하지 않았습니다.

의의 및 주장
본 논문은 이 연구의 주요 의의가 규칙 기반 IDS의 근본적인 한계, 즉 행동적으로 미묘하거나 시간적으로 분산되어 있거나 맥락 의존적인 위협을 탐지하지 못하는 능력을 해결하는 데 있다고 주장합니다. 세 가지 서로 다른 탐지 모델을 결합함으로써, 시스템은 단일 모델 접근 방식의 "사각지대", 특히 고정된 시그니처가 없는 내부자 위협이나 느린 데이터 유출 패턴을 극복합니다.

저자들은 모듈형 아키텍처 덕분에 핵심 엔진을 단순히 부문별 모듈을 업데이트하는 것만으로 뱅킹, 의료 등 다른 분야로 재타겟팅할 수 있다는 점을 강조합니다. 논문은 공개된 라벨링된 ACMIS 로그의 희소성으로 인해 평가가 합성 데이터에 의존하고 있지만, 결과는 허용 불가능한 오탐률 없이 탐지 커버리지를 크게 개선했음을 보여주며, AI 기반 자동 대응 프레임키의 타당성을 입증한다고 결론짓습니다.