Approaches to Nonlinear Programming Problems: Taylor Series Expansion, RBF Surrogate Modeling, DOE-Based Dimensionality Reduction, and Adaptive Domain Splitting

당신이 광활하고 안개가 자욱한 풍경 속에서 절대적인 최저점을 찾으려고 노력하고 있다고 상상해 보십시오. 이것은 단순히 평평한 들판이 아닙니다. 깊은 골짜기, 숨겨진 동굴, 그리고 까다로운 절벽이 가득한 산맥입니다. 공학 및 과학의 세계에서 이 지형은 "비선형 최적화(nonlinear optimization)"라고 불립니다. 엔지니어들은 더 빠른 자동차나 더 효율적인 화학 공장을 설계하기 위해 이 기술을 사용합니다. 목표는 단순합니다. 엄격한 규칙(예를 들어, 허공에서 다리를 건설할 수는 없다는 규칙)을 준수하면서 최선의 해결책(가장 낮은 골짜기)을 찾는 것입니다.

문제는 이러한 지형이 종종 믿기 힘들 정도로 복잡하다는 점입니다. 변수(다리의 높이, 빔의 두께, 또는 팬의 속도와 같은)가 너무 많아서 탐색 공간은 어지러운 미로가 됩니다. 최저점을 찾기 위한 전통적인 도구들은 손전등을 든 등산객과 같습니다. 경로가 매끄럽다면 빠르지만, 지형이 울퉁불퉁하거나 함정이 있으면 쉽게 길을 잃습니다. 다른 도구들은 수백 명의 사람으로 구성된 수색대와 같습니다. 넓은 범위를 커버하지만 끝내는 데 시간이 너무 오래 걸립니다. 과학자들이 던져온 큰 질문은 이것입니다. "어떻게 하면 안개 속에서 길을 잃거나 시간을 낭비하지 않고, 완벽한 해결책을 빠르게 찾을 수 있을까?"

카이로 대학교의 야라 호삼 엘딘 엘카사비(Yara Hossam Eldin Elkassaby)와 모하메드 H. 가달라(Mohamed H. Gadallah) 연구원이 작성한 이 논문은 이 퍼즐을 풀기 위한 영리한 4단계 전략을 제안합니다. 이것을 지도, 드론, 현지 가이드, 그리고 초고속 러너를 갖춘 첨단 탐사 팀이라고 생각해 보십시오.

첫째, 팀은 "실험 계획법(Design of Experiments, DOE)"이라는 "스크리닝(screening)" 기술을 사용합니다. 당신이 완벽한 케이크를 만들려고 하는데 재료가 16개라고 상상해 보십시오. 당신은 그중 몇 가지만 정말 중요하고 나머지는 그냥 채우기용일 것이라고 의심합니다. 이 방법은 모든 가능한 조합을 테스트하는 대신, 스마트한 맛 테스터처럼 작동합니다. 몇 가지 특정 테스트를 실행하여 어떤 재료가 실제로 맛을 변화시키는지 알아냅니다. 연구진은 많은 공학 문제에서 변수의 최대 75%가 별로 중요하지 않다는 것을 발견했습니다. 이 중요하지 않은 변수들을 표준 설정값으로 "고정"함으로써, 그들은 거대하고 혼란스러운 미로를 훨씬 작고 관리 가능한 미로로 축소했습니다. 이 단계 하나만으로도 엄청난 시간을 절약했으며, 일부 사례에서는 컴퓨터 처리 시간을 최대 85%까지 단축했습니다.

다음으로, 그들은 지형의 "울퉁불퉁한" 부분들을 다룹니다. 어떤 문제들은 "다봉성(multimodal)"을 띠는데, 이는 최저점처럼 보이지만 실제로는 아닌 여러 개의 국소적인 움푹한 곳들이 있다는 것을 의미합니다. 등산객은 작은 구덩이에 빠져서 그것이 여정의 끝이라고 생각하며 갇힐 수 있습니다. 이를 해결하기 위해 연구진은 "적응형 영역 분할(Adaptive Domain Splitting)"을 사용합니다. 지형이 거대한 피자라고 상상해 보십시오. 피자 전체를 한꺼번에 먹으려 하는 대신, 4개에서 8개의 작은 조각으로 자릅니다. 그들은 지형의 경사(그레이디언트)를 살펴보고 지형이 가장 까다로운 곳에서 피자를 자릅니다. 그런 다음, 각 조각에서 가장 낮은 지점을 찾기 위해 정찰병을 보냅니다. 이 접근 방식은 전체 영역을 한꺼번에 탐색하는 것에 비해 해결책을 찾는 데 필요한 단계를 약 30~35% 줄였습니다.

지도가 단순화되고 조각난 일단, 팀은 모든 발걸음을 다 걷지 않고도 바닥이 어디인지 추측할 방법이 필요합니다. 그들은 지형을 예측하는 디지털 지도와 같은 두 가지 서로 다른 "대리 모델(surrogate models)"을 사용합니다. 매끄럽고 예측 가능한 영역의 경우, 그들은 경로를 추측하기 위해 직선이나 단순한 곡선을 그리는 것과 같은 "테일러 급수 전개(Taylor Series Expansion)"를 사용합니다. 그러나 거칠고, 울퉁불퉁하거나, 들쭉날쭉한 영역의 경우 이 단순한 곡선은 실패합니다. 바로 그 지점에서 두 번째 모델인 "방사 기저 함수(Radial Basis Function, RBF) 대리 모델링"이 등장합니다. RBF를 복잡하고 꿈틀거리는 지형 위에 덮을 수 있는 유연하고 신축성 있는 그물이라고 생각하십시오. 이는 전체 영역에 대해 매끄럽고 정확한 3D 모델을 만들어냅니다. 연구진은 이 RBF 그물이 매우 효과적이라는 것을 발견했는데, 기존의 테일러 지도는 종종 막히거나 답을 찾지 못했던 반면, RBF는 시도한 20개의 모든 어려운 테스트 문제를 해결했습니다. RBF 그물을 사용하는 것은 기존의 테일러 방식보다 70~80% 더 빨랐습니다.

마지막으로, 팀은 두 가지 강력한 검색 엔진인 "유전 알고리즘(Genetic Algorithm, GA)"과 "순차 이차 계획법(Sequential Quadratic Programming, SQP)"을 결로합니다. GA는 지도 전체를 가로질러 유망한 골짜기를 찾아 퍼져 나가는 탐험가 떼와 같습니다. 군집이 좋은 지점을 찾으면, SQP는 수학적 완벽함과 함께 정확한 최저점을 찾기 위해 정밀 드릴처럼 줌인합니다. GA를 사용하여 일반적인 영역을 찾고 SQP를 사용하여 답을 미세 조정함으로써, 그들은 글로벌 최적해(global best solution)를 놓치지 않도록 보장합니다.

연구진은 이 4단계 시스템 전체를 20개의 표준 수학 문제와 용접된 빔 설계, 기어 열 최적화, 항공기 날개 개선과 같은 15개의 실제 공학 과제에 대해 테스트했습니다. 결과는 인상적이었습니다. "스크리닝" 단계는 필수적이지 않은 변수들을 성공적으로 식별하고 제거하여, 종종 문제의 크기를 절반 이하로 줄였습니다. "분할" 전략은 다른 방법들을 가두곤 하는 까다로운 다봉형 지형을 항해하는 데 도움을 주었습니다. 그리고 RBF 대리 모델은 모든 테스트 케이스에 대한 해결책을 찾아내며 엄청난 계산 시간을 절약함으로써 주인공 역할을 톡톡히 해냈습니다.

요약하자면, 이 논문은 문제를 먼저 정리하고(불필요한 변수 제거), 이를 더 작고 쉬운 조각들로 나눈 다음, 스마트하고 유연한 디지털 지도를 사용하여 하이브리드 탐색 팀을 안내함으로써, 엔지니어들이 이전보다 훨씬 더 빠르고 정확하게 어려운 설계 문제들을 해결할 수 있다고 제안합니다. 이것은 모든 것을 즉시 해결하는 마법 지팡이는 아니지만, 위협적이고 불가능해 보이는 미로를 풀 수 있는 퍼즐로 바꿔주는 매우 효과적인 도구 상자입니다.