💻 computer science

CNN Regularization and Model Capacity: An Empirical Investigation of L1, L2, and Dropout in Hand Sign Image Classification

이 실증적 연구는 수어 이미지 분류에서 CNN 용량을 늘리는 것이 더 나은 성능을 보장하지 않으며, 드롭아웃 규제, 특히 아키텍처 의존적 비율을 적용한 방식이 L1 및 L2 페널티보다 유의미하게 우수한 성능을 보인다는 점과 중간 크기의 모델이 96.66%의 가장 높은 정확도를 달성했다는 점을 입증한다.

원저자: Chaitanya Patil

게시일 2026-08-22

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Chaitanya Patil

원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

컴퓨터 비전의 세계에서 기계는 보는 법을 배우고 있습니다. 기계는 인간의 눈과 뇌가 하는 것처럼 이미지 속의 패턴을 인식하도록 설계된 합성곱 신경망(convolutional neural networks)이라는 디지털 뇌를 사용하여 이를 수행합니다. 이러한 시스템은 매우 강력하여 거리 표지판부터 의료 스캔까지 모든 것을 식별할 수 있습니다. 하지만 여기에는 함정이 있습니다. 이 디지털 뇌가 너무 크고 복잡해지면, 사물을 인식하는 일반적인 규칙을 배우기보다 제시된 특정 예시들을 통째로 암기하기 시작할 수 있습니다. 이를 과적합(overfitting)이라고 합니다. 특정 연습 문제의 정답을 통째로 외워버려서, 배운 내용을 새로운 질문에 적용하지 못해 실제 시험에서 낙제하는 학생을 상상해 보십시오. 이를 방prevent하기 위해 과학자들은 규제화(regularization)라고 불리는 기술을 사용합니다. 이는 학습 과정을 부드럽게 제한하여, 시스템이 한 번도 본 적 없는 데이터에서도 작동할 수 있는 더 단순하고 견고한 패턴을 찾도록 강제하는 방법입니다. 연구자들이 던져온 질문은 디지털 뇌를 크게 만드는 것이 항상 도움이 되는지, 아니면 뇌의 크기와 제약의 강도가 가장 잘 어우러지는 최적의 지점이 존재하는지에 대한 것입니다.

인도 공과대학교 바라나시(IIT Kharagpur)의 한 연구자는 일련의 디지털 뇌를 구축하여 이 질문에 답하고자 했습니다. 그 과제는 컴퓨터에게 1부터 6까지의 숫자를 나타내는 여섯 가지 서로 다른 손동작을 구별하도록 가르치는 것이었습니다. 연구자는 서로 다른 수준의 용량을 가진 세 가지 버전의 컴퓨터 비전 시스템을 만들었습니다. 첫 번째는 작은 시스템, 두 번째는 중간 크기, 세 번째는 큰 시스템이었습니다. 이들의 유일한 차이점은 내부 연결의 수였으며, 큰 시스템은 작은 시스템보다 정보가 이동할 수 있는 경로가 훨씬 더 많았습니다. 목표는 단순히 연결을 더 많이 추가하는 것이 시스템을 더 똑똑하게 만드는지, 아니면 단지 훈련 데이터를 암기하기 쉽게 만드는지를 확인하는 것이었습니다.

실험은 놀라운 발견과 함께 시작되었습니다. 시스템에 아무런 제약을 두지 않고 학습하게 했을 때, 중간 크기의 시스템이 가장 우수한 성능을 보였습니다. 이 시스템은 테스트 이미지의 손동작을 약 91.67퍼센트의 확률로 정확하게 식별했습니다. 가장 많은 학습 능력을 갖춘 큰 시스템은 오히려 성능이 떨어져 약 83.33퍼센트의 정확도를 기록했습니다. 이는 큰 시스템이 너무 강력한 나머지, 손동작의 진정한 형태를 배우는 대신 훈련 이미지의 세부 사항, 즉 무작위 노이즈까지 암기했기 때문입니다. 이는 연습 문제의 순서를 너무 열심히 외운 나머지 근본적인 개념을 이해하지 못한 학생과 같았습니다. 연결이 더 적은 중간 시스템은 균형을 찾도록 강요받았고, 노이즈에 현혹되지 않고 필수적인 특징들을 학습했습니다.

이러한 결과를 개선하기 위해 연구자는 시스템이 과적합되는 것을 막는 다양한 기술을 적용했습니다. 한 가지 방법은 큰 내부 가중치를 갖는 것에 대해 페널티를 부여하는 것으로, 이는 시스템이 내부 설정을 단순하게 유지하도록 권장하는 것과 유사합니다. 또 다른 방법은 훈련 중에 시스템의 일부를 무작위로 끄는 것으로, 시스템이 문제를 해결하기 위해 다른 경로에 의존하도록 강제하는 것입니다. 드롭아웃(dropout)이라고 알려진 이 기술은 가장 효과적인 도구임이 증명되었습니다. 이를 중간 크기 시스템에 적용했을 때, 정확도는 96.66퍼센트까지 올라갔으며 이는 전체 연구에서 달성한 가장 높은 점수였습니다.

이 연구는 또한 이러한 도구들을 사용하는 최선의 방법이 시스템의 크기에 따라 달라진다는 것을 보여주었습니다. 작은 시스템의 경우, 약간의 무작위 끄기가 효과적이었습니다. 중간 시스템의 경우, 적당한 양이 가장 좋았습니다. 하지만 암기 능력이 가장 큰 대용량 시스템의 경우, 연구자들은 좋은 결과를 얻기 위해 더 강한 강도의 무작위 끄기가 필요하다는 것을 발견했습니다. 이는 더 큰 시스템이 훈련 데이터를 암기하지 못하도록 더 강력한 제약이 필요함을 시사합니다. 연구자들은 또한 여러 방법을 결합하는 것도 테스트했지만, 단순히 이들을 쌓아 올린다고 해서 시스템이 자동으로 더 좋아지지는 않는다는 것을 발견했습니다. 사실, 최상의 결과는 복잡한 혼합물을 사용하는 것보다 단일하고 잘 조율된 방법을 사용할 때 나타났습니다.

실험 결과의 신뢰성을 확인하기 위해 서로 다른 시작 조건으로 실험을 여러 번 반복 실행하였으며, 주요 결과는 일관되게 유지되었습니다. 연구는 더 큰 컴퓨터 비전 시스템을 만드는 것이 더 나은 성능을 보장하는 것은 아니라고 결론짓습니다. 대신, 시스템의 크기는 적절한 양의 제약과 맞물려야 합니다. 적절한 제약의 균형을 갖춘 중간 크기의 시스템은 훨씬 더 큰 시스템보다 더 뛰어난 성능을 낼 수 있습니다. 이 연구는 이러한 디지털 뇌를 미세 조정하는 방법에 대한 명확하고 실질적인 가이드를 제공하며, 인공지능을 추구함에 있어 때로는 '적은 것이 더 많은 것'이며, 규칙의 강도가 뇌의 크기만큼이나 중요하다는 것을 보여줍니다.

기술 요약: CNN 정규화 및 모델 용량

문제 정의
합성곱 신경망(CNN)은 이미지 분류에 강력한 도구이지만, 모델 용량이 훈련 데이터셋의 크기에 비해 높을 경우 일반화 측면에서 상당한 문제에 직면한다. 높은 용량을 가진 모델은 일반적인 패턴을 학습하기보다 훈련 예제를 암기하는 경향이 있어 과적합(overfitting)으로 이어진다. L1 페널티, L2 가중치 감쇠(weight decay), 드롭아웃(dropout)과 같은 정규화 기법들이 과적합을 완화하기 위한 표준적인 방법들이지만, 모델 용량과 이러한 전략의 효과성 사이의 구체적인 상호작용은 여전히 활발한 연구 분야이다. 더 큰 모델이 비례하여 더 강한 정규화를 필요로 하는지, 아니면 작은 모델이 과소적합(underfitting)을 피하기 위해 더 약한 제약을 받는 것이 유리한지는 불분명하다.

연구 방법론
본 연구는 6개 클래스의 수형(hand sign) 이미지 분류 작업을 사용하여 체계적인 경험적 조사를 제시한다. 본 연구는 다음과 같은 구성 요소로 이루어진 통제된 실험 프레임워크를 채택한다:

데이터셋: 수형 1부터 6까지를 나타내는 1,080개의 훈련 이미지와 120개의 테스트 이미지(64×64×3 RGB)로 구성된 공개 데이터셋을 사용하였다. 이미지의 픽셀 값은 255.0으로 나누어 정규화되었으며, 레이블은 원-핫 인코딩(one-hot encoding)되었다.
아키텍처: 동일한 깊이를 가지되 너비(용량)가 다른 세 가지 CNN 아키텍처를 설계하였다:
- Small: 16 → 32 → 64 필터/유닛.
- Medium: 32 → 64 → 128 필터/유닛.
- Large: 64 → 128 → 256 필터/유닛.
  모든 모델은 두 개의 합성곱 계층(3×3 커널, ReLU, 2×2 max pooling), 하나의 완전 연결 계층(fully connected layer), 그리고 소프트맥스(softmax)를 사용하는 출력 계층을 활용하였다.
훈련 설정: 모델은 He Normal 초기화와 함께 Adam 옵티마이저(학습률 0.001)를 사용하여 1,000회 반복 학습되었다. 주요 손실 함수는 교차 엔트로피(cross-entropy)이다.
정규화 전략: 다음을 평가하였다:
- L1 정규화: 계수( $\lambda_1$ ) 0.001, 0.01, 0.05.
- L2 정규화: 계수( $\lambda_2$ ) 0.1, 0.3, 0.6, 1.0, 2.0.
- 드롭아웃: 첫 번째 완전 연결 계층에 적용된 비율 0.1, 0.3, 0.5.
- 결합 L1+L2: $\lambda_1=0.05$ 및 $\lambda_2=0.6$ 을 동시에 적용.
평가: 주요 지표는 테스트 정확도와 훈련 정확도이다. 실험은 주로 랜덤 시드 42를 사용하여 수행되었으며, 재현성 확인을 위해 시드 1137과 2024를 사용하였다.

주요 결과
실험은 용량과 정규화 사이의 상호작용에 관한 몇 가지 뚜렷한 발견을 도출하였다:

용량 대 성능: 모델 용량을 높이는 것이 자동으로 테스트 정확도를 향상시키지는 않았다. 정규화되지 않은 Medium 모델이 91.67%의 가장 높은 베이스라인 정확도를 달성하여, Large 모델(83.33%)과 Small 모델(84.16%)보다 우수한 성능을 보였다. Large 모델은 100%의 훈련 정확도를 달성했으나 일반화에는 실패하였는데, 이는 모델이 노이즈를 암기했음을 시사한다.
드롭아웃의 효능: 드롭아웃은 모든 구성에서 가장 강력한 성능을 나타냈다. 최적의 드롭아웃 비율은 모델 용량이 증가함에 따라 더 강한 정규화 쪽으로 이동했다:
- Small 모델: 0.1 또는 0.3에서 최적의 성능(90.83%)을 보였다.
- Medium 모델: 0.3에서 최적의 성능을 보였으며, 본 연구의 최고 정확도인 **96.66%**를 달려냈다.
- Large 모델: 0.5에서 최적의 성능(95.00%)을 보였다.
L1 및 L2 민감도:
- L2: 중간 정도의 정규화( $\lambda_2=0.1$ )는 Medium 모델의 성능을 95.00%로 향상시켰으나, 높은 강도( $\lambda_2=2.0$ )에서는 성능이 크게 저하되어 과잉 정규화(over-regularization)가 나타났다.
- L1: 아키텍처 의존적 민감도를 보였다. Small 모델의 경우, 강한 L1( $\lambda_1=0.05$ )이 정확도를 91.66%로 개선한 반면, Large 모델은 가장 약한 L1( $\lambda_1=0.001$ )에서 최적의 성능을 보였다.
결합 정규화: L1과 L2의 결합은 가장 강력한 개별 정규화 기법보다 우수하지 않았으며, Medium 모델에 대해 87.50%의 평균 테스트 정확도를 기록했다.
재현성: 선택된 검증 작업들은 주요 결과의 안정성을 확인해주었으나, 일부 변동이 관찰되었다 (예: 시드 1137에서 드롭아웃 0.3을 적용한 Medium 모델의 정확도가 96.66%에서 93.34%로 하락함).

의의 및 주장
본 논문은 보편적 이론의 원천이라기보다 탐색적 경험 연구로서의 입지를 다진다. 주요 기여는 다음과 같다:

단일 아키텍처 패밀리 내에서 세 가지 뚜렷한 용량 수준에 걸친 정규화 전략의 통제된 비교를 제공한다.
모델 용량 그 자체는 일반화 성능의 예측 인자가 아님을 입증한다. 즉, 적절한 제약이 없다면 더 큰 모델이 더 작은 모델보다 일반화에 취약할 수 있다.
더 큰 모델일수록 더 높은 드롭아웃 비율의 이점을 얻는다는 경험적 경향을 확립하며, 이는 높은 용량이 공동 적응(co-adaptation)을 방지하기 위해 더 공격적인 정규화를 필요로 한다는 직관과 일치한다.
정규화 방법들이 반드시 선형적으로 결합되는 것은 아님을 강조한다. L1+L2 결합 방식은 개별 방식보다 뛰어난 성과를 내지 못했다.

저자는 이러한 결론이 조사된 특정 아키텍처, 데이터셋, 하이퍼파라미터 범위 및 조건에 국한된다는 점을 명시적으로 밝힌다. 저자는 보편적인 정규화 스케일링 법칙을 제공하려는 것이 아니라, 용량-정규화 상호작용에 대한 향후 연구에 정보를 제공하기 위한 경험적 관찰을 제공하고자 한다.

유사한 논문