🤖 machine learning

CAM-Guided Saliency Cutout and Image-Based Malware Classification

본 논문은 RawMal-TF 데이터셋을 이용한 악성코드 이미지 분류에서 CAM 기반의 살리언시 컷아웃(saliency cutout)의 효능을 조사하며, 저살리언시 컷아웃(low-saliency cutout)이 성능을 향상시키는 일반 자연 이미지와 달리 악성코드의 경우 살리언시 가이드 컷아웃 전략이 오히려 정확도를 저하시킨다는 점을 밝혀내어 두 이미지 유형 간의 상당한 도메인 차이를 강조한다.

원저자: Yasaman Ebrahimi, Martin Jurecek, Mark Stamp

게시일 2026-08-13

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Yasaman Ebrahimi, Martin Jurecek, Mark Stamp

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 로봇에게 수천 장의 사진을 보여주며 서로 다른 종류의 자동차를 인식하도록 가르치려 한다고 상상해 보세요. 만약 로봇에게 매번 똑같은 사진만 보여준다면, 로봇은 자동차를 구성하는 요소가 아니라 배경이나 특정 부분의 반짝이는 허브캡만을 암기해 버릴 수도 있습니다. 이러한 "암기"를 방지하기 위해 과학자들은 **드롭아웃(dropout)**이라는 기술을 사용합니다. 이것은 마치 로봇에게 "자, 이제 내가 이 사진의 일부를 검은색 사각형으로 가릴 거야. 그래도 네가 이게 무엇인지 맞힐 수 있니?"라고 말하는 것과 같습니다. 이는 로봇이 전체 그림을 보고 더 깊은 패턴을 학습하도록 강제합니다. 이것이 바로 컴퓨터 비전 모델을 더 똑똑하게 만들고 새로운 것을 보았을 때 실패할 확률을 낮추는 컷아웃(Cutout) 기술의 핵심입니다.

하지만 여기서 중요한 질문이 생깁니다. 어디에 그 검은색 사각형을 놓아야 할까요? 그냥 아무 데나 무작위로 던져야 할까요, 아니면 영리하게 배치해야 할까요? 일부 연구자들은 "사진에서 가장 중요한 부분(즉, '살리언시(saliency, 현저성)')을 찾아내서, 지루한 부분을 가림으로써 로봇이 흥미로운 부분에 집중하게 하자"라고 생각했습니다. 이 논문은 이 아이디어를 파고들지만, 한 가지 비틀기를 가합니다. 고양이나 자동차 사진을 보는 대신, 이들은 **악성코드(malware)**를 들여다봅니다. 악성코드는 디지털 형태의 바이러스, 즉 악의적인 컴퓨터 프로그램입니다. 과학자들은 이 바이러스의 보이지 않는 코드를 오래된 TV의 노이즈와 같은 회색조 이미지로 변환하는 방법을 찾아냈습니다. 목표는 이 "영리한 숨기기" 기술이 자연계의 사진에서 작동하는 방식과 동일하게 바이러스 이미지에서도 작동하는지 확인하는 것입니다.

실험: 무엇을 숨길 것인가 (혹은 무엇을 숨기지 않을 것인가)

연구진은 이를 테스트하기 위해 거대한 디지털 놀이터를 구축했습니다. 그들은 표준적인 로봇 두뇌(ResNet18이라 불리는 신경망)를 사용했고, 로봇에게 두 가지 매우 다른 숙제를 주었습니다. 첫 번째 세트는 17,000장의 회색조 악성코드 이미지 모음인 RawMal-TF로, 17개의 바이러스 패밀리당 1,000개의 사례를 담고 있습니다. 두 번째 세트는 제어 집단으로서, 사과, 트럭, 개구리 같은 일상의 사물 사진 100,000개가 담긴 유명한 데이터셋인 CIFAR-100입니다.

그들은 네 가지 방식으로 로봇을 훈련시켜 테스트했습니다:

No Cutout (컷아웃 없음): 로봇은 이미지를 있는 그대로 봅니다.
Random Cutout (무작위 컷아웃): 로봇은 원본 이미지와 함께 무작위로 검은색 부분이 가려진 복사본들을 봅니다.
Low-Saliency Cutout (저-현저성 컷아웃): 로봇은 (스마트한 스승 모델에 의해) "지루하고" 중요하지 않은 부분이 검은 사각형으로 가려진 복사본들을 봅니다.
High-Saliency Cutout (고-현저성 컷아웃): 로봇은 "흥미롭고" 가장 중요한 부분이 검은 사각형으로 가려진 복사본들을 봅니다.

그들은 이 검은 사각형의 크기(이미지의 5%, 10%, 20%, 또는 30%를 덮음)와 추가 복사본의 개수(원본당 4개 또는 8개)도 다르게 설정하여 테스트했습니다.

결과: 두 세계의 이야기

연구 결과는 "성공했다!"와 "잠깐, 아니야!"가 뒤섞인 흥미로운 양상을 보였습니다.

자연 이미지 (CIFAR-100)의 경우:
"영리한 숨기기" 전략이 실제로 효과가 있었습니다! 연구진이 Low-Saliency Cutout(지루한 부분을 숨기는 방식)을 사용했을 때 로봇은 업무 수행 능력이 향려되었습니다. 구체적으로, 가장 중요하지 않은 곳에 이미지의 10%를 숨겼을 때, 로봇의 정확도는 기존의 "숨기기 없는" 점수인 **62.65%**를 넘어 **63.51%**까지 뛰어올랐습니다. 이는 실세계의 사물 사진의 경우, 배경을 무시하고 주요 대상에 집중하도록 로봇에게 알려주는 것이 학습에 좋은 방법임을 시사합니다. 하지만 만약 가장 중요한 부분(High-Saliency)을 숨기려고 시도하면, 로봇은 혼란에 빠져 성능이 훨씬 떨어졌습니다.

악성코드 이미지 (RawMal-TF)의 경우:
여기서 이야기는 급격히 반전되었습니다. "영리한 숨기기" 전략은 실패했습니다. 사실, 이 방식은 상황을 더 악화시켰습니다. 악성코드 이미지에서 가장 좋은 결과는 로봇이 이미지를 완벽하게 본 No Cutout 그룹이었으며, **72.83%**의 점수를 기록했습니다. 모든 버전의 "숨기기" 기술은 다음과 같았습니다:

가장 나은 시도였던 Random Cutout(30% 크기의 사각형 사용)은 **71.55%**에 그쳤습니다.
Low-Saliency 전략(지루한 부분을 숨기는 방식)은 무작위 방식보다 약간 나을 때도 있었지만, 종종 더 나빴으며, 결코 No Cutout 점수를 넘지 못했습니다.
High-Saliency 전략(중요한 부분을 숨기는 방식)은 일관되게 최악의 결과를 보이며 점수를 크게 떨어뜨렸습니다.

이것이 의미하는 바: 바이러스는 단순한 사진이 아니다

저자들은 이러한 차이가 악성코드 이미지와 자연 이미지가 근본적으로 다르기 때문에 발생한다고 제안합니다. 개의 사진을 볼 때, "중요한" 부분은 개의 얼굴과 귀입니다. 배경의 풀밭(low-saliency)을 숨기는 것은 로봇이 개에게 집중하도록 돕습니다.

하지만 악성코드 이미지는 컴퓨터 코드를 그림으로 번역한 것에 불 불과합니다. 컴퓨터가 보는 "중요한" 부분은 우리 눈에는 무작위 노이즈처럼 보이는 특정 바이트 패턴, 파일 헤더, 또는 패딩(padding)일 수 있습니다. 연구진이 "지루한" 부분을 숨기기 위해 "스마트"한 방법을 사용했을 때, 그들은 의도치 않게 바이러스 패밀리를 식별하는 데 필수적인 구조적 단서들을 가려버렸을 수 있습니다. 이것은 마치 언어를 배울 때 모음을 가리고 배우려는 것과 같습니다. 당신은 자음만 집중하고 있다고 생각할지 모르지만, 실제로는 문장의 구조 자체를 파괴하고 있는 것입니다.

이 논문은 **살리언시 기반 컷아웃(saliency-guided cutout)**이 자연 이미지에는 강력한 도구이지만, 악성코드에는 자동으로 적용되지 않는다는 결론을 내립니다. 바이러스 이미지의 일부를 숨기는 "영리한" 방법은 단순히 그림을 보는 것이 아니라, 코드 자체의 숨겨진 구조를 이해해야 합니다. 현재로서는 가장 단순한 접근 방식, 즉 로봇에게 마스킹되지 않은 전체 이미지를 보여주는 방식이 이러한 디지털 위협을 식별하는 데 있어 여전히 최고의 성능을 보여줍니다.

기술 요약: CAM 기반 살리언시 컷아웃(Saliency Cutout) 및 이미지 기반 악성코드 분류

문제 정의

이미지 기반 악성코드 분류는 합성곱 신경망(CNN)을 활용한 분석을 위해 바이너리 실행 파일을 그레이스케일 이미지로 변 변환합니다. CNN은 이 영역에서 최첨단 성능을 달 achieves 하지만, 과적합(overfitting) 문제가 여전히 우려 사항으로 남아 있습니다. 드롭아웃(Dropout)과 컷아웃(Cutout)은 과적합을 완화하기 위한 표준적인 규제 기법입니다. 특히 컷아웃은 모델이 단일 국소 특징에 의존하는 대신 다양한 시각적 패턴으로부터 학습하도록 강제하기 위해 훈련 이미지의 무작위 공간 영역을 마스킹합니다.

본 논문의 핵심 연구 질문은 HiResCAM(High-Resolution Class Activation Mapping)을 사용하여 마스크 영역의 배치를 유도함으로써 컷아웃 규제를 개선할 수 있는가 하는 것입니다. 구체적으로, 저자들은 "저-살리언시(low-saliency)"(모델의 예측에 중요도가 낮은) 영역 또는 "고-살리언시(high-saliency)"(가장 중요한) 영역을 제거하는 것이 표준 무작위 컷아웃에 비해 더 나은 분류 성능을 제공하는지 조사합니다. 부차적인 목표는 자연 이미지 데이터셋(CIFAR-100 등)에서 관찰된 동작이 악성코드 도메인에도 그대로 적용되는지, 아니면 악성코드 이미지가 자연 이미지와 구조적 차이로 인해 별도의 처리가 필요한지를 결정하는 것입니다.

방법론

본 연구는 ResNet18을 베이스라인 아키텍처로 사용하는 통제된 실험 설계를 채택합니다. 실험은 두 가지 데이터셋을 대상으로 수행됩니다:

RawMal-TF: 17개 패밀리를 포함하며 각 1,000개의 샘플로 구성된 악성코드 데이터셋으로, 표준 그레이스케일 이미지로 변환되었습니다.
CIFAR-100: 비교 벤치마크로 사용되는 자연 이미지 데이터셋입니다.

실험 조건

네 가지 훈련 시나리오를 비교합니다:

No Cutout (컷아웃 없음): 원본 훈련 이미지를 사용하는 베이스라인입니다.
Random Cutout (무작위 컷아웃): 정사각형 영역이 무작위로 선택되는 표준 컷아웃입니다.
Low-Saliency Cutout (저-살리언시 컷아웃): "교사(teacher)" 모델(동일한 데이터로 훈련된 컷아웃 없는 ResNet18)이 생성한 HiResCAM 맵에서 활성화가 낮은 영역으로부터 컷아웃 영역이 선택됩니다.
High-Saliency Cutout (고-살리언시 컷아웃): HiResCAM 맵에서 활성화가 높은 영역으로부터 컷아웃 영역이 선택됩니다.

구현 세부 사항

교사 모델(Teacher Model): 컷아웃 없이 훈련된 ResNet18이 훈련 이미지에 대한 HiResCAM 살리언시 맵을 생성합니다.
증강(Augmentation): 각 원본 이미지에 대해 $M$ 개의 증강된 복사본( $M \in \{4, 8\}$ )이 생성됩니다. 각 복사본은 정사각형 영역이 마스킹(검은색으로 채워짐)됩니다.
컷아웃 영역: 실험에서는 이미지 면적의 5%, 10%, 20%, 30%를 덮는 마스크 크기를 테스트합니다.
선택 로직: CAM 가이드 컷아웃의 경우, 후보 윈도우들은 평균 살리언시에 의해 점수가 매겨집니다. 이 방법은 $M$ 개의 복사본 간의 다양성을 보장하기 위해(항상 절대적인 최소값이나 최대값을 선택하는 대신), 하위 10%(저-살리언시) 또는 상위 10%(고-살리언시)의 후보 중에서 윈도우를 선택합니다.
훈련 설정: 100 에포크(epoch), SGD 옵티마이저, 배치 크기 128, 코사인 스케줄링을 적용한 학습률 0.1을 사용합니다. 견고성을 평가하기 위해 세 개의 랜덤 시드(42, 43, 44)를 사용합니다. 검증 데이터는 마스킹되지 않습니다.

주요 결과

RawMal-TF (악성코드) 결과

악성코드 데이터셋에 대한 결과는 살리언시 가이드 컷아웃의 효용성에 대해 부정적입니다:

베이스라인 우위: No Cutout 베이스라인이 가장 높은 평균 최고 검증 정확도(72.83% ± 0.16%)를 달성했습니다.
컷아웃에 의한 성능 저하: 모든 컷아웃 조건(Random, Low-Saliency, High-Saliency)은 베이스라인보다 낮은 평균 검증 정확도를 보였습니다.
- 최고 Random Cutout ( $M=4$ , 30% 면적): 71.55%.
- 최고 Low-Saliency Cutout ( $M=4$ , 30% 면적): 71.43%.
- 최고 High-Saliency Cutout: 약 70.66%.
Saliency vs. Random: 저-살리언시 컷아웃은 다양한 구성에 따라 -0.56에서 +0.46 퍼센트 포인트 사이의 차이를 보이며 무작위 컷아웃과 일관되지 않은 결과를 나타냈습니다. 고-살리언시 컷아웃은 무작위 컷아웃보다 일관되게 성능이 낮았으며, 최대 -2.00 퍼센트 포인트의 결손을 보였습니다.
결론: 살리언시 가이드 배치는 악성코드 분류를 개선하지 못했습니다. 사실, 표준 무작위 방식이 가이드된 방식보다 더 나은 성능을 보였으나, 두 방식 모두 증강을 하지 않았을 때보다 열등했습니다.

CIFAR-100 (자연 이미지) 결과

대조적으로, 자연 이미지 데이터셋은 특정 살리언시 가이드 전략에 대해 긍정적인 결과를 보여주었습니다:

베이스라인: No Cutout 정확도는 **62.65% ± 0.57%**였습니다.
Low-Saliency 개선: $M=4$ 및 10% 면적의 저-살리언시 컷아웃은 **63.51% ± 0.36%**를 달성하여, 베이스라인보다 0.86 퍼센트 포인트, 대응하는 무작위 컷아웃보다 1.25 퍼센트 포인트 더 높은 성능을 보였습니다.
High-Saliency 저하: 고-살리언시 컷아웃은 모든 구성에서 베이스라인 및 무작위 컷아웃보다 현저히 낮은 성능을 보이며 일관되게 해로운 영향을 미쳤습니다.
견고성: 저-살리언시 컷아웃은 마스크 면적이 증가(20% 및 30%)하더라도 견고함을 유지했으나, 무작위 및 고-살리언시 컷아웃의 성능은 급격히 저하되었습니다.

주요 기여 및 의의

본 논문의 주요 기여는 살리언시 가이드 컷아웃이 도메인 의존적임을 실증적으로 입증했다는 점입니다.

도메인 격차: 본 연구는 자연 이미지에 효과적인 기술(특히 저-살리언시 컷아웃)이 악성코드 이미지로 자동 전이되지 않음을 확립했습니다. 악성코드 도메인에서 HiResCAM에 의해 식별된 "저-살리언시" 영역은 자연 이미지에서의 배경 정보처럼 반드시 중요하지 않은 정보는 아닙니다.
악성코드 이미지의 특성: 저자들은 악성코드 이미지가 바이트 시퀀스와 바이너리 구조(예: PE 헤더, 섹션 경계)로부터 파생되었다고 주장합니다. 악성코드 이미지 내의 국소적인 정사각형 마스크는 패밀리 분류에 결정적인 구조적 정보를 인코딩하는 연속된 바이트 영역을 제거할 수 있으며, 이는 픽셀 강도나 살리언시 점수와 무관하게 발생합니다. 결과적으로 이러한 영역을 마스킹하는 것은(교사 모델에 의해 저-살리언시로 간주되더라도) 표현을 정규화하기보다는 손상시킬 수 있습니다.
고-살리언시 위험성: 결과는 고-살리언시 영역을 마스킹하는 것이 두 도메인 모두에서 일반적으로 해롭다는 것을 확인시켜 줍니다. 이는 모델이 의존하는 가장 판별적인 특징을 제거하기 때문입니다.
향후 방향: 본 논문은 악성코드의 경우, 자연 이미지의 가정을 따르는 이미지 기반 살리언시 맵에만 의존하기보다 구조 인식형(structure-aware)(바이너리 오프셋, PE 섹션 또는 엔트로피 전이와 정렬된) 마스킹 전략이 필요함을 제안합니다.

한계 및 범위

저자들은 다음과 같은 몇 가지 한계를 명시적으로 언급했습니다:

아키텍처 특이성: 결과는 ResNet18에 대해서만 도출되었습니다. 다른 아키텍처(예: ViT, EfficientNet)에서는 성능이 다를 수 있습니다.
이미지 표현: 본 연구는 그레이스케일 이미지로 제한됩니다. 다른 바이너리-이미지 변환 방식은 테스트되지 않았습니다.
통계적 유의성: 세 개의 시드가 사용되었으나, 표본 크기가 작으므로 신뢰 구간은 탐색적인 수준으로 간주되어야 합니다.
컴퓨팅 예산: 증강된 훈련 세트( $M=4$ 또는 $8$)는 베이스라인보다 더 많은 훈련 사례를 포함하므로, 최적화 단계 측면에서 비교가 엄격하게 컴퓨팅 매칭된 것은 아닙니다.

요약하자면, 본 논문은 살리언시 가이드 컷아웃이 자연 이미지 분류를 개선할 수는 있지만, 현재로서는 그레이스케일 악성코드 분류에 아무런 이득을 주지 못하며 오히려 해로울 수 있다는 결론을 내리며, 악성코드 분석을 위한 도메인 특화 증강 전략의 필요성을 강조합니다.