A Classification-Regression Cooperative Fuzzy Surrogate- Assisted Evolutionary Algorithm for Expensive High- Dimensional Multi-Objective Optimization

기술 요약: 고비용 고차원 다목적 최적화를 위한 분류-회귀 협력 퍼지 대리 모델 기반 진화 알고리즘

1. 문제 정의
본 논문은 목적 함수 평가(objective function evaluation)가 계산적으로 매우 비용이 많이 들며(예: 물리적 실험 또는 고충실도 시뮬레이션 필요), 사용 가능한 평가 횟수가 엄격히 제한되는 **고비용 고차원 다목적 최적화 문제(MOPs)**를 해결하는 문제를 다룹니다.

기존의 대리 모델 기반 진화 알고리즘(SAEAs)에서 발생하는 특정 과제인 **모델-상태 불일치(model-state mismatch)**를 식별하였습니다. 데이터가 희소한 고차원 공간에서는 다음과 같은 문제가 발생합니다:

• 전체 차원의 회귀 모델(Kriging 등)은 불안정해지고 신뢰도가 낮아집니다.
• 초기 단계의 분류 경계는 불균형하고 불안정하여, 신뢰할 수 없는 레이블에 기반한 조기 착취(premature exploitation)를 초래합니다.
• 기존 방법들은 전역 탐색(회귀)과 국소 착취(분류)를 별개로 취급하며, 현재 대리 모델의 신뢰도에 따라 이러한 작업들을 조정하는 통합된 메커니즘이 부족합니다.

2. 방법론: HDFC-ASS
저자들은 HDFC-ASS(Classification-Regression Cooperative Fuzzy Surrogate-Assisted Evolutionary Algorithm)를 제안합니다. 이 프레임워크는 공유된 평가 아카이브(evaluated archive)를 통해 연결된 두 개의 순차적 단계로 작동하며, 수렴-다양성-불확실성(CDU) 모델 관리 기준을 통해 비싼 평가 자원을 할당합니다.

• 단계 1: 변수 상관관계 가이드 무작위 부분 공간 증분 크리깅 (전역 탐색)

  • 전체 차원의 모델을 구축하는 대신, 의사 결정 변수와 목적 함수 간의 관련성을 피어슨(Pearson) 및 스피어만(Spearman) 상관계수를 사용하여 추정합니다.
  • 핵심적인 관련 변수와 무작위로 샘플링된 보완 변수를 결합하여 **정보력이 있는 저차원 부분 공간(informative low-dimensional subspaces)**을 구축합니다.
  • 이러한 부분 공간 내에서 증분 크리깅(Incremental Kriging) 모델을 학습하고 업데이트합니다. 앙상블 접근 방식을 통해 여러 부분 공간으로부터의 예측을 통합하여 평균과 불확실성(분산)을 추정함으로써, 소량의 샘함 조건에서 발생하는 전체 차원 모델링의 불안정성을 완화합니다.

• 단계 2: 퍼지 분류기 보조 국소 착취

  • 퍼지 분류기(MLPM-FKNN)는 후보 해가 "유망한(promising)" 클래스에 속하는지에 대해 하드한 이진 레이블이 아닌 **소속도(membership degree)**를 출력하도록 학습됩니다.
  • 신뢰도 기반 단방향 전이(Reliability-Based One-Way Transition): 알고리즘은 회귀와 분류를 영구적으로 융합하지 않습니다. 분류기가 특정 신뢰도 조건(균형 정확도 및 클래스 지지도)을 만족할 때까지 전역 탐색 단계에 머무릅니다. 이를 통해 초기 단계의 불안정한 분류 경계가 탐색을 오도하는 것을 방지합니다.

• 모델 관리 및 인필 샘플링(Infill Sampling)

  • 협력적 기준은 세 가지 요소를 바탕으로 실제 비싼 평가를 수행할 후보를 적응적으로 선택합니다:
    1. 수렴성(Convergence): 추정된 이상적 점(ideal point)까지의 거리.
    2. 다양성(Diversity): 가장 가까운 평가된 해까지의 거리.
    3. 불확실성(Uncertainty): 크리깅 앙상블로부터의 예측 분산.
  • 단계 및 분류기 신뢰도에 따라 알고리즘은 다음을 우선시합니다:
    • 전역 탐색: 높은 불확실성과 양호한 수렴성/다양성 점수를 가진 후보 선택.
    • 경계 수정(Boundary Correction): 분류기가 신뢰할 수 없는 경우, 퍼지 결정 경계(소속도 $\approx 0.5$) 근처에서 샘플링.
    • 높은 소속도 착취: 분류기가 신뢰할 수 있는 경우, 높은 양의 클래스 소속도와 양호한 수렴성/다양성을 가진 후보 선택.

3. 주요 기여
본 논문은 세 가지 주요 기여를 설명합니다:

1. 변수 상관관계 가이드 무작위 부분 공간 증분 크리깅: 탐색 방향을 유지하면서 유효 모델 차원을 줄임으로써 고차원 공간을 처리하는 전략이며, 효율성을 높이기 위해 증분 방식으로 업데이트됩니다.
2. 단방향 전이를 포함한 퍼지 분류기 보조 국소 착취: 퍼지 소속도 값을 사용하고, 분류기가 높은 신뢰도(균형 정확도) 상태에 도달했을 때만 국소 착취로의 전환을 트리거하여 조기 착취를 방지하는 메커니즘입니다.
3. 수렴-다양성-불확실성 협력 모델 관리: 현재 대리 모델의 상태에 따라 전역 탐색, 경계 수정, 고신뢰도 착취 사이에 자원을 동적으로 할당하는 통합된 기준입니다.

4. 실험 결과
제안된 알고리즘은 의사 결정 변수가 50에서 200, 목적 함수가 3에서 11인 DTLZ, WFG, MaF 벤치마크 세트를 대상으로 평가되었습니다. 비싼 함수 평가 예산은 500회로 엄격히 제한되었습니다.

• 성능: HDFC-ASS는 **역 생성 거리(IGD)**와 하이퍼볼륨(HV) 측면에서 9개의 대표적인 SAEA(분류 보조, 회귀 보조 및 앙상블 방법 포함)와 비교하여 경쟁력 있거나 우수한 성능을 보여주었습니다.
• 강건성: 알고리즘은 다봉형 지형(DTLZ1, DTLZ3), 편향된 변환(WFG1), 불연속 파레토 프런트(WFG2), 불규칙한 프런트(DTLZ5-7)와 같은 어려운 문제 특성에서 특히 강점을 보였습니다.
• 시각적 분석: 분포 플롯은 HDFC-ASS가 경쟁 모델들에 비해 더 넓은 개별 범위와 더 나은 해 분포를 달取得했음을 나타냅니다.
• 계산 비용: HDFC-ASS는 무작위 부분 공간 모델 및 퍼지 분류 유지로 인해 일부 단순한 방법(MCEA/D 등)보다 더 많은 계산 시간이 소요되지만, 고차원 환경에서 복잡한 이종 앙상블 방법(HeEMOEA 등)보다는 훨씬 효율적입니다.

5. 의의 및 주장
본 논문은 HDFC-ASS의 성능 향상이 주로 모델-상태 인식 협력 메커니즘에서 비롯된다고 주장합니다. 단순히 모델 출력을 융합하는 것이 아니라, 알고리즘이 신뢰할 수 있는 상태에 따라 회귀 및 분류 대리 모델을 활성화하기 때문입니다.

• 무작위 부분 공간 증분 크리깅은 전체 모델이 실패하는 고차원 공간에서 전역 탐색을 효과적으로 가이드합니다.
• 신뢰도 제어형 퍼지 분류기는 분류 경계가 신뢰할 수 있게 된 후에만 국소 스크리닝을 강화합니다.

저자들은 HDFC-ASS가 모델 관리 비용과 최적화 성능 사이의 효과적인 트레이드오프를 제공하며, 엄격하게 제한된 평가 예산 하의 고비용 고차원 MOPs에 적합하다고 결론짓습니다. 향후 연구로는 적응형 파라미터 제어 및 실제 공학 응용 분야에 대한 집중을 제안합니다.