금융 기관들은 해커들의 공격이 날로 지능화되면서, 기존에 사람이 하던 보안 감시를 AI 가 대신해주길 원합니다. AI 는 방대한 데이터를 순식간에 분석해 이상 징후를 찾아낼 수 있으니까요.
하지만 현실은 **"기술은 훌륭하지만, 실제 업무에 투입하려면 너무 많은 걸 걸러야 한다"**는 것입니다. 이 논문은 은행 보안 담당자들과 인터뷰하고 설문을 통해 그 이유를 4 가지 주요 문제로 정리했습니다.
🔍 발견된 4 가지 문제 (비유로 설명)
1. 그림자 AI (Shadow AI): "규칙을 어기고 몰래 쓰는 직원들"
상황: 회사에서는 공식적으로 승인된 AI 도구만 쓰라고 하지만, 급한 일이 생기면 직원들이 개인 스마트폰으로 무료 AI 챗봇에 "이 이상한 로그가 뭐야?"라고 몰래 물어봅니다.
비유: 마치 회사 보안 규정상 외부로 문서를 가져갈 수 없는데, 급한 마음에 직원이 개인 우편함으로 중요한 서류를 보내는 것과 같습니다.
문제점: 이렇게 몰래 쓰면 회사의 감시망 밖으로 정보가 새어 나갈 수 있고, 누가 무엇을 했는지 추적할 수 없어 보안에 큰 구멍이 생깁니다.
2. 라이선스 함정 (License-first Trap): "사서 쓰지 않는 비싼 장난감"
상황: 보안 업체가 "우리 프로그램에 최신 AI 기능이 포함되어 있어요!"라고 홍보하면, 은행은 그 기능을 켜기 위해 비싼 돈을 냅니다. 하지만 막상 켜보면 너무 복잡하거나 신뢰할 수 없어서 실제 업무에서는 끄고만 둡니다.
비유:비싼 최신형 로봇 청소기를 사서 집에 두었지만, 작동법이 어렵고 청소 실력이 의심스러워서 그냥 박스째로 창고에 넣어둔 상태입니다.
문제점: 돈은 썼지만 실제 도움이 되는 건 없으며, AI 가 필요한 진짜 문제 해결에는 쓰지 못합니다.
3. 공격자 인식의 차이 (Attacker-perception Gaps): "해커는 AI 를 쓰고 있는데, 우리는 아직 놀고 있어요"
상황: 해커들은 이미 AI 를 이용해 더 정교한 피싱 메일을 보내거나, 우리 AI 가 찾아내지 못하게 변장하는 기술을 쓰고 있습니다. 하지만 은행 보안팀은 "AI 는 우리가 방어할 때만 쓰지, 해커가 쓸 리가 있겠어?"라고 생각하며 방어 태세를 늦추는 경우가 많습니다.
비유:적군이 최신형 레이저 총을 들고 있는데, 우리 군대는 "아직 총알만 쓰면 되겠지?"라고 생각하며 방패만 들고 있는 상황입니다.
문제점: 해커가 얼마나 똑똑해졌는지 모르면, 우리 AI 도 그 수준에 맞춰 방어할 수 없습니다.
4. AI 자체의 보안 부재 (Missing Security for AI): "AI 가 망가졌는지, 누가 알아요?"
상황: AI 가 이상한 판단을 내렸을 때, "왜 그렇게 판단했는지" 설명을 못 해줍니다. 또한 AI 가 시간이 지나면서 성능이 떨어지거나 (데이터 오염), 해커가 AI 를 속여 잘못된 판단을 하게 만들 수 있는데, 이를 감시하는 시스템이 없습니다.
비유:비밀번호를 알려주지 않는 자동 금고가 있는데, 금고 문이 왜 열렸는지 이유를 설명해주지 않고, 금고 내부가 녹슬었는지 확인하는 사람도 없는 상황입니다.
문제점: 은행은 "왜 그렇게 판단했는지" 설명할 수 없으면 (감사나 규제 때문에) AI 의 말을 절대 믿을 수 없습니다.
📊 연구 결과: 숫자로 보는 현실
미래는 밝지만 현재는 어둡습니다: 조사 대상자의 **71%**는 "5 년 안에 AI 가 보안의 핵심이 될 것"이라고 믿습니다. 하지만 현재는 AI 를 매일 쓰는 사람은 57% 에 불과하고, 그중에서도 실제 '사이버 위협 정보 (CTI)' 업무에 AI 를 쓰는 경우는 드뭅니다.
가장 큰 걱정: 사람들은 AI 가 해커에게 속아 넘어갈까 봐 (35% 가 직접 경험), 그리고 AI 가 왜 그런 결론을 내렸는지 설명하지 못해 감사 (Audit) 를 받을 때 당황할까 봐 가장 걱정합니다.
💡 해결책: 어떻게 해야 할까요?
저자들은 AI 를 무조건 쓰거나 아예 안 쓰는 게 아니라, 안전하게 쓰는 3 가지 방법을 제안합니다.
사람이 마지막 확인을 하세요 (Human-in-the-loop): AI 가 "이게 해킹이다!"라고 해도, 사람이 한 번 더 확인해야 합니다. AI 가 실수할 경우를 대비해 사람이 최종 결정권을 가져야 합니다.
AI 도 감시받아야 합니다: AI 가 만들어낸 결론이 감사 (Audit) 에서 문제없다고 증명될 수 있도록, AI 가 어떻게 학습했고 언제 업데이트되었는지 기록을 꼼꼼히 남겨야 합니다.
쓸모없는 기능은 끄세요: "AI 기능이 있으니까"라고 해서 다 켜지 말고, 실제로 업무에 꼭 필요한 기능만 켜고 나머지는 끄세요. 그래야 해커가 공격할 구멍 (공격 표면) 이 줄어듭니다.
🎯 한 줄 요약
"AI 는 은행 보안에 엄청난 잠재력이 있지만, 지금은 '설명할 수 없는 능력'과 '보안 구멍' 때문에 은행들이 사용을 꺼리고 있습니다. AI 를 믿고 쓰려면, AI 가 스스로를 증명하고 사람이 통제할 수 있어야 합니다."
1. 문제 정의 (Problem Statement)
금융 기관은 엄격한 규제 감독 하에 운영되면서도 급변하는 사이버 위협 환경에 직면해 있습니다. 이를 관리하기 위해 사이버 위협 인텔리전스 (CTI) 에 인공지능 (AI) 을 도입하려는 시도가 늘고 있지만, 실제 생산 환경 (Production) 에서 신뢰할 수 있는 AI 기반 CTI 의 도입 사례는 매우 제한적입니다.
기술적 성과와 운영 현실의 괴리: 기존 연구들은 사기 탐지나 피싱 예측 등 특정 작업에서 AI 의 정확도 향상을 보여주지만, 금융 분야의 실제 운영 워크플로우에 통합되거나 규제 준수 (규제 방어성, 감사 가능성) 를 충족하는 사례는 드뭅니다.
신뢰 부족: AI 모델의 예측 성능만으로는 금융 보안 팀이 이를 신뢰하고 의사결정에 활용하지 못합니다. 설명 가능성 (Explainability), 감사 가능성 (Auditability), 모델 위험 관리 (Model Risk Management) 가 충족되지 않으면 AI 는 운영상 신뢰받지 못합니다.
연구 공백: 기존 문헌은 대부분 공개 데이터셋을 활용한 벤치마크 성능 최적화에 집중하여, 실제 금융 기관의 CTI 워크플로우 통합, 분석가 신뢰, 그리고 적대적 공격 (Adversarial Attacks) 에 대한 견고성 (Robustness) 에 대한 실증적 증거가 부족합니다.
2. 연구 방법론 (Methodology)
이 연구는 **혼합 방법론 (Mixed-methods)**을 사용하여 학술적 연구와 실무적 증거를 결합했습니다.
체계적 문헌 고찰 (Systematic Literature Review, SLR):
범위: 2019 년부터 2025 년까지 발표된 330 건의 학술 논문 (IEEE, ACM, Springer 등) 을 검색.
선정: 금융 컨텍스트와 CTI, AI 를 모두 다루는 12 편의 논문만 최종 분석에 포함.
코드화: 연구 질문 (RQ) 에 따라 채택 (Adoption), 장벽 (Barriers), 신뢰 및 견고성 (Trust & Robustness) 으로 코딩 및 분석.
반구조화 인터뷰 (Semi-structured Interviews):
대상: 은행 (4 개) 과 금융 사이버 보안 전문 컨설팅사 (2 개) 의 실무자 6 명 (CISO, 사이버 방어 팀장, AI 전문가 등).
내용: AI 기반 CTI 도입 경험, 장벽, 조직적/규제적 제약, 미래 기대치 등을 심층 인터뷰.
탐색적 설문조사 (Exploratory Survey):
대상: 인터뷰 참여 기관 및 관련 분야의 실무자 14 명 (CISO, 보안 컨설턴트 등).
내용: AI 사용 빈도, 장벽 인식, 적대적 위협 경험, 규제 준수 우려 등을 정량적으로 확인.
3. 주요 기여 (Key Contributions)
금융 CTI 의 AI 도입 현황에 대한 체계적 지도:
기존 연구가 '작업별 성능'에 집중하는 반면, 이 연구는 금융 CTI 의 실제 배포 가능성, 인간-AI 협업, 적대적 조작에 대한 복원력 등 배포에 필수적인 요소를 매핑했습니다.
실무 기반의 실증적 조사 (Mixed-methods Investigation):
금융 CTI 분야 AI 도입에 대한 최초의 혼합 방법론 연구로, 기술적 성능뿐만 아니라 데이터 통합, 조달 의존성, 규제 방어성, 하이브리드 전문성 부족 등 실제 장벽을 규명했습니다.
실행 가능한 보안 가이드라인 및 아티팩트 공개:
실무자와 정책 입안자를 위한 구체적인 권장사항을 제시하고, 연구의 투명성과 재현성을 위해 검색어, 코딩 증거 행렬, 인터뷰/설문 도구 등을 오픈소스 (GitHub) 로 공개했습니다.
4. 주요 결과 및 발견 (Key Results & Findings)
연구는 AI 기반 CTI 의 신뢰성을 저해하는 **4 가지 반복적인 사회 - 기술적 실패 모드 (Socio-technical Failure Modes)**를 도출했습니다.
(1) 통제 밖의 그림자 AI 사용 (Shadow AI in the Wild)
현상: 기관의 통제와 승인 없이 직원들이 공개 LLM(대형 언어 모델) 을 CTI 관련 미션에 개인적으로 사용.
위험: 민감한 위협 정보가 외부로 유출될 수 있으며, 기관의 감사 및 규제 준수 체계를 우회하여 데이터 처리의 투명성을 떨어뜨림.
(2) 라이선스 우선의 함정 (License-first Trap)
현상: 명확한 운영 필요성보다는 벤더가 SIEM/SOAR 패키지에 AI 기능을 번들링하여 판매하는 방식에 따라 도입이 결정됨.
결과: AI 기능이 활성화되지 않거나 테스트 환경에만 머무르며, 실제 CTI 워크플로우에는 통합되지 않음.
(3) 공격자 인식 격차 (Attacker-perception Gaps)
현상: 방어팀이 공격자가 AI 를 이용해 피싱 콘텐츠를 생성하거나 탐지를 회피하는 등 공격적 활용을 과소평가함.
영향: AI 기반 CTI 파이프라인에 대한 위협 모델링이 부실하여 방어 전략이 공격자의 진화 속도를 따라가지 못함.
(4) AI 모델 자체의 보안 부재 (Missing Security for the AI)
현상: 모델 드리프트 (Drift) 모니터링, 적대적 테스트 (Adversarial Testing), 감사 준비 증거 (Audit-ready evidence) 가 부족함.
결과: 분석가들이 AI 의 판단을 신뢰하지 못하며, 규제 감사 시 AI 의사결정을 방어할 수 없음.
설문조사 주요 통계:
미래 전망: 응답자의 **71.4%**가 향후 5 년 내 AI 가 금융 사이버 보안의 핵심이 될 것으로 예상.
현재 사용: **57.1%**는 해석 가능성과 보증 (Assurance) 우려로 인해 현재 AI 사용을 드물게 하거나 제한적임.
적대적 위협: **28.6%**가 적대적 위험 (모델 회피, 데이터 중독 등) 을 직접 경험함.
주요 장벽: 데이터 품질/편향 (42.9% 주요 장벽), AI 추천에 대한 신뢰 부족 (50.0% 주요 장벽), 규제 설명 가능성 요구 (91.6% 우려).
5. 의의 및 시사점 (Significance & Implications)
이 연구는 금융 분야 AI 도입이 단순한 기술적 성능 문제가 아니라 보안, 거버넌스, 운영 프로세스의 통합 문제임을 강조합니다.
보안 관점의 전환: AI 모델은 단순히 예측 도구가 아니라, 적대적 공격에 노출될 수 있는 **공격 표면 (Attack Surface)**으로 간주되어야 합니다.
실무적 권장사항 (3 가지 보안 보호 장치):
통제된 인간 - AI 루프 (Controlled Analyst-in-the-loop): AI 출력에 대한 감사 가능한 근거 제공, 낮은 신뢰도 출력은 인간 검토로 우회, 승인된 내부 AI 게이트웨이 제공.
보안 보증 게이트 및 지속적 모니터링: 배포 전 적대적 테스트 및 드리프트 모니터링 수행, 감사 준비 문서 (모델 버전, 재학습 트리거 등) 유지.
능력 기반 통합 및 기본 비활성화: 벤더 번들 기능 중 통합되지 않은 기능은 기본 비활성화 (Disabled-by-default) 하고, 각 AI 기능에 대해 명확한 제어 목표 매핑 수행.
결론적으로, 금융 기관이 AI 기반 CTI 를 신뢰할 수 있게 운영하기 위해서는 모델의 정확도 향상뿐만 아니라, 투명한 거버넌스, 강력한 보안 통제, 그리고 규제 준수 가능한 감사 체계를 구축하는 것이 선행되어야 합니다.