🤖 AI

A Comparative Study of Adversarial Robustness in CNN and CNN-ANFIS Architectures

이 논문은 CNN과 ANFIS 결합형 구조의 적대적 공격에 대한 강건성을 비교 분석하여, 신경-퍼지 증강이 특정 아키텍처(ResNet18)에서는 강건성을 향상시킬 수 있으나 모든 구조에 보편적으로 유익한 것은 아님을 밝히고 있습니다.

원저자: Kaaustaaub Shankar, Bharadwaj Dogga, Kelly Cohen

게시일 2026-02-10

📖 2 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Kaaustaaub Shankar, Bharadwaj Dogga, Kelly Cohen

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

🤖 제목: "똑똑하지만 눈치 없는 AI vs 설명 잘하는 AI: 누가 더 맷집이 셀까?"

1. 배경: AI의 두 가지 고민 (똑똑함 vs 설명력)

우리가 사용하는 인공지능(CNN이라고 불러요)은 사진을 보고 "이건 고양이야!"라고 아주 잘 맞춥니다. 하지만 치명적인 약점이 두 가지 있어요.

첫 번째 문제 (블랙박스): AI가 왜 고양이라고 했는지 이유를 모릅니다. 그냥 "어, 고양이 같아"라고 결과만 툭 던지는 '말 없는 천재' 같아요.
두 번째 문제 (적대적 공격): 사진에 아주 미세한 노이즈(가짜 먼지 같은 것)를 살짝 뿌리면, 사람 눈에는 똑같은 고양이인데 AI는 갑자기 "이건 토스터기야!"라고 엉뚱한 소리를 합니다. 이걸 **'적대적 공격'**이라고 해요.

2. 새로운 시도: "설명 잘하는 AI" 만들기 (CNN-ANFIS)

연구팀은 이 '말 없는 천재'에게 **'논리적인 설명 능력'**을 심어주기로 했습니다. 기존의 AI가 그냥 결론만 내린다면, 여기에 **'퍼지 논리(Fuzzy Logic)'**라는 기술을 더한 거예요.

이건 마치 **'직관만 믿는 선수'**에게 **'체계적인 전략 노트'**를 쥐여주는 것과 같습니다. "귀가 뾰족하고, 수염이 있고, 털이 보드라우니까 고양이야"라고 규칙(Rule)을 만들어 설명할 수 있게 만든 것이죠. 이걸 논문에서는 CNN-ANFIS라고 부릅니다.

3. 실험: "공격받아라! 맷집 테스트"

연구팀은 이 '설명 잘하는 AI'가 과연 공격(가짜 노이즈)을 받았을 때도 잘 버티는지 테스트했습니다.

공격 방식 1 (PGD): AI의 약점을 집요하게 파고드는 '정밀 타격 공격'
공격 방식 2 (Square): 여기저기 무작위로 툭툭 건드려보는 '무차별 난사 공격'

4. 결과: "모두에게 좋은 건 아니었다!" (반전의 결과)

실험 결과는 아주 흥미로웠습니다. 모든 AI가 다 좋아진 건 아니었거든요!

레즈넷(ResNet)이라는 '베테랑 선수'에게 전략 노트를 줬더니: "오, 이제 공격을 받아도 흔들리지 않아!"라며 맷집(강인함)이 훨씬 좋아졌습니다. 베테랑의 실력에 체계적인 전략이 더해진 셈이죠.
VGG라는 '다른 스타일의 선수'에게 전략 노트를 줬더니: 오히려 "아, 너무 복잡해져서 더 헷갈려!"라며 기존보다 더 쉽게 무너졌습니다.

5. 결론: "맞춤형 전략이 필요해"

이 논문의 핵심 결론은 이겁니다.
"설명 잘하는 기능(ANFIS)을 추가한다고 해서 모든 AI가 무조건 강해지는 건 아니다. 어떤 AI 모델을 쓰느냐에 따라 맷집이 좋아질 수도 있고, 오히려 약해질 수도 있다!"

즉, AI를 만들 때 단순히 '설명 잘하는 기능'만 넣을 게 아니라, 그 AI의 원래 성격(구조)과 얼마나 잘 어울리는지를 꼭 따져봐야 한다는 뜻입니다.

요약하자면:
이 연구는 **"AI에게 '이유를 설명하는 능력'을 가르쳤을 때, 적들의 공격(가짜 데이터)에 더 잘 버티는지"**를 확인해 본 실험입니다. 결과적으로 어떤 AI에게는 최고의 방패가 되었지만, 어떤 AI에게는 오히려 짐이 되었다는 것을 밝혀냈습니다!

[기술 요약] CNN과 CNN-ANFIS 구조의 적대적 강건성 비교 연구

1. 연구 배경 및 문제 정의 (Problem Statement)

CNN의 한계: 합성곱 신경망(CNN)은 이미지 분류에서 탁월한 성능을 보이지만, 내부 의사결정 과정이 불투명한 '블랙박스(Black-box)' 특성을 가집니다. 이는 의료, 사이버 보안 등 신뢰성과 설명 가능성이 필수적인 분야에서 큰 걸림돌이 됩니다.
해결책으로서의 Neuro-Fuzzy: 이를 해결하기 위해 CNN의 완전 연결 계층(Fully Connected layers)을 적응형 퍼지 추론 시스템(ANFIS)으로 교체하여, 해석 가능한 언어적 규칙(Linguistic rules)을 제공하는 DCNFIS(Deep Convolutional Neuro-Fuzzy Inference System) 구조가 제안되었습니다.
연구의 공백: DCNFIS는 해석 가능성(Interpretability) 측면에서는 유망하지만, 입력 데이터에 미세한 노이즈를 더해 모델을 오작동시키는 **적대적 공격(Adversarial Attacks)**에 대해 얼마나 강건(Robust)한지는 아직 충분히 연구되지 않았습니다.

2. 연구 방법론 (Methodology)

본 연구는 표준 CNN 구조와 ANFIS가 결합된 하이브리드 구조의 강건성을 비교하기 위해 다음과 같은 실험 설계를 수행했습니다.

대상 아키텍처:
- Standard CNN: ConvNet, VGG, ResNet18
- CNN-ANFIS (Hybrid): 위 모델들의 분류기(Classifier) 부분을 ANFIS로 교체한 모델
데이터셋: MNIST, Fashion-MNIST, CIFAR-10, CIFAR-100 (단순 데이터부터 복잡한 데이터까지 단계적 구성)
적대적 공격 유형:
- Gradient-based (White-box): 모델의 기울기(Gradient) 정보를 이용하는 PGD(Projected Gradient Descent) 공격.
- Gradient-free (Black-box): 기울기 정보 없이 모델의 출력값만을 이용하는 Square Attack.
평가 지표:
- Clean Accuracy: 공격이 없는 상태의 정확도.
- Adversarial Accuracy: 공격을 받은 상태의 정확도.
- Robustness Ratio: $\frac{\text{Adversarial Accuracy}}{\text{Clean Accuracy}}$ (정확도 대비 강건성 비율).

3. 주요 연구 결과 (Key Results)

정확도 측면: ANFIS 통합이 모든 데이터셋이나 아키텍처에서 일관된 성능 향상을 가져오지는 않았습니다. 일부 모델(VGG-ANFIS)에서는 오히려 기본 모델보다 성능이 낮아지는 경우도 관찰되었습니다.
강건성 측면 (핵심 발견): ANFIS의 효과는 기본 CNN 아키텍처의 특성에 따라 크게 달라집니다(Architecture-dependent).
- ResNet18-ANFIS: 잔차 연결(Residual connections)을 가진 ResNet 구조에서는 ANFIS를 결합했을 때 PGD 및 Square 공격에 대한 강건성이 눈에 띄게 향상되었습니다.
- VGG-ANFIS: 반면, VGG 구조에서는 ANFIS 결합 시 오히려 기본 모델보다 적대적 공격에 더 취약해지는 경향을 보였습니다.
결론적 패턴: ResNet과 같이 강력한 특징 보존 메커니즘을 가진 구조는 퍼지 추론 계층의 이점을 잘 활용하지만, 그렇지 못한 구조에서는 오히려 성능 저하를 초래할 수 있습니다.

4. 연구의 의의 및 기여 (Significance & Contributions)

학술적 기여: 해석 가능성을 높이기 위해 도입된 Neuro-Fuzzy 하이브리드 모델이 보안 측면(적대적 강건성)에서 어떤 영향을 미치는지 최초로 체계적으로 비교 분석했습니다.
설계 지침 제공: "해석 가능성을 높인다고 해서 반드시 보안성이 높아지는 것은 아니다"라는 점을 시사하며, 특히 ResNet과 같은 특정 아키텍처와 결합했을 때 시너지 효과가 발생함을 밝혀냈습니다.
신뢰할 수 있는 AI(Trustworthy AI)로의 확장: 향후 설명 가능한 AI(XAI)를 설계할 때, 해석 가능성(Interpretability)과 강건성(Robustness) 사이의 트레이드오프(Trade-off)를 고려해야 함을 강조했습니다.

5. 향후 연구 방향 (Future Work)

DCNFIS의 퍼지 구성 요소(규칙 및 멤버십 함수)를 직접 겨냥하는 더 강력한 적대적 공격 연구.
적대적 훈련(Adversarial Training) 및 퍼지 규칙 정규화를 통한 강건성 향상 전략 연구.