🤖 AI

Large Language Models as Amortized Pareto-Front Generators for Constrained Bi-Objective Convex Optimization

본 논문은 텍스트 설명에서 제약 조건이 있는 이목적 볼록 최적화를 위한 실현 가능하고 고품질의 파레토 프론트를 직접 생성하도록 대규모 언어 모델을 미세 조정하는 종단 간 프레임워크인 DIPS 를 소개하며, 이는 기존 반복적 방법에 비해 근사 최적 성능을 달성하면서 추론 시간을 획기적으로 단축합니다.

원저자: Peipei Xu, SiYuan Ma, Yaohua Liu, Yu Wu, Guanliang Liu, Yang Zhang, Yong Liu

게시일 2026-05-13

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Peipei Xu, SiYuan Ma, Yaohua Liu, Yu Wu, Guanliang Liu, Yang Zhang, Yong Liu

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

식당에 완벽한 메뉴를 만들려고 노력하는 셰프가 되어 상상해 보세요. 당신은 두 가지 상충되는 목표를 가지고 있습니다: 음식이 맛있어야 한다는 것 (목표 1) 과 저렴해야 한다는 것 (목표 2) 입니다.

모든 것을 극도로 맛있게 만들면 비용이 천문학적으로 늘어납니다. 모든 것을 저렴하게 만들면 맛은 판지 같습니다. "파레토 프론티어"는 모든 가능한 최선의 절충안 목록입니다. 즉, 비용을 더 들이지 않고는 음식을 더 맛있게 만들 수 없고, 맛을 더 떨어뜨리지 않고는 비용을 더 줄일 수 없는 메뉴를 의미합니다.

공학 및 비즈니스 분야에서 이러한 "완벽한 절충안" 목록을 찾는 것은 거대한 수학 문제입니다. 보통은 직면하는 새로운 문제 하나하나마다 느리고 복잡한 계산기를 반복적으로 실행해야 합니다.

이 논문은 DIPS라는 새로운 방식을 소개합니다. 이는 에세이와 코드를 작성하는 동일한 종류의 AI 인 **대규모 언어 모델 (LLM)**을 사용하여 이 문제를 즉시 해결하는 방법입니다. 계산기 역할을 하는 대신, DIPS 는 문제 설명을 보고 즉시 완벽한 절충안 목록 전체를 뱉어내는 초고속으로 훈련된 셰프처럼 행동합니다.

간단한 비유를 사용하여 이들이 이를 어떻게 구현했는지 살펴보겠습니다:

1. 문제: AI 는 수학 (특히 연속된 숫자) 을 잘 못합니다

일반적인 AI 모델은 문장을 작성하는 데 뛰어나지만, 정밀한 숫자 처리에는 어려움을 겪습니다.

비유: AI 에게 정확한 측정치가 포함된 레시피를 쓰라고 요청한다고 상상해 보세요. "밀가루 1.2345 컵"을 쓰라고 하면, AI 는 숫자를 단순히 문자 (토큰) 로만 보기 때문에 혼란을 겪을 수 있습니다. 1.2345 가 1.2346 과 매우 가깝다는 것을 "느끼지" 못합니다.
결과: AI 에게 "해결책 20 개를 제시해 달라"고만 요청하면, 보통 실패합니다. 규칙을 위반하는 숫자 (예: 음수 밀가루 양) 나 단순히 틀린 숫자를 제시할 수 있습니다.

2. 해결책: DIPS (스마트 번역기 시스템)

연구진은 AI 가 "수학"을 올바르게 말하도록 가르치는 DIPS라는 시스템을 구축했습니다. 이는 세 가지 영리한 단계로 이루어졌습니다:

단계 A: "레고 블록" 시스템 (이산화)

AI 에게 99.9999 같은 길고 지저분한 소수점을 쓰게 하는 대신, 모든 숫자를 두 개의 작은 고정 크기 "레고 블록"으로 나누도록 가르쳤습니다.

작동 원리: 하나의 블록은 주요 부분 (예: "99.9") 을 담고, 두 번째 블록은 미세한 세부 사항 (예: "99") 을 담습니다.
도움 되는 점: 이는 지저분한 수학 문제를 깔끔하고 구조화된 언어 문제로 바꿉니다. AI 는 숫자의 길이를 추측할 필요가 없습니다. "이 숫자를 설명하려면 두 개의 블록이 필요하다"는 것만 알면 됩니다.

단계 B: "워밍업" (수치 기반 토큰 초기화)

AI 에게 새로운 언어를 가르칠 때 보통은 빈 상태에서 시작합니다. 하지만 여기서는 연구진이 AI 에게 선수를 치게 했습니다.

비유: 아이에게 읽기를 가르칠 때, 무작위 글자를 주는 대신 이미 아는 숫자와 닮은 글자 (예: 'O'가 '0'처럼 보임) 를 준다고 상상해 보세요.
수행 내용: 연구진은 AI 의 기존 숫자 지식을 활용하여 새로운 수학 기호를 "워밍업"시켰습니다. 이로써 AI 가 훈련 중 혼란을 겪거나 충돌하는 것을 막았습니다.

단계 C: "3 단계 학교" (커리큘럼 최적화)

아기에게 하루 만에 마라톤을 뛰게 하지는 않습니다. 걷기, 조깅, 달리기 순서로 시작합니다.

1 단계 (구조): 먼저 AI 는 형식만 배웁니다. "알겠습니다, 20 개의 해결책을 특정 순서대로 쉼표로 구분해서 써야 합니다." 아직 숫자에는 신경 쓰지 않습니다.
2 단계 (대략적 숫자): 다음으로, 숫자를 대략적으로 맞게 하는 법을 배웁니다. "이 숫자가 50 에 가까운지 500 에 가까운지?"
3 단계 (정밀 조정): 마지막으로, 정확한 소수점을 배웁니다. "50.12 인가 50.13 인가?"
작동 원리: 즉시 정확한 숫자를 가르치려 하면 AI 는 압도당해 실패합니다. 이 단계별 접근 방식은 정밀도를 걱정하기 전에 구조를 마스터하게 합니다.

3. "안전망" (멀티패스 퓨전)

이 모든 훈련을 거치더라도 AI 는 20 개의 답변 중 하나에서 작은 실수를 할 수 있습니다.

비유: 셰프에게 메뉴를 4 번 작성하게 한다고 상상해 보세요. 4 개의 목록을 모두 가져와서 중복을 제거하고, 오타를 수정한 뒤, 각 목록의 가장 좋은 부분을 하나의 완벽한 최종 메뉴로 합칩니다.
DIPS 의 역할: DIPS 는 해결책을 4 번 생성한 뒤 이를 병합합니다. 이렇게 하면 AI 가 한 번 실수하더라도 최종 결과는 여전히 완벽합니다.

결과: 빠르고 정확함

이 논문은 다섯 가지 다른 유형의 복잡한 공학 문제에서 이를 테스트했습니다. 결과는 다음과 같습니다:

속도: 기존 방법이나 다른 AI 모델이 하나의 문제를 해결하는 데 분 (심지어 시간) 이 걸렸다면, DIPS 는 0.16 초 (깜빡이는 시간보다 짧음) 에 해결했습니다.
품질: DIPS 가 찾은 해결책은 느린 전통적인 슈퍼컴퓨터가 찾은 최상의 수학 해법과 비교했을 때 **95% 에서 99%**만큼 뛰어났습니다.
신뢰성: DIPS 가 생성한 거의 모든 해결책은 유효했습니다 (모든 규칙을 준수함). 다른 AI 모델들은 종종 규칙을 위반하는 "불가능한" 해결책을 생성했습니다.

결론

이 논문은 모든 최적화 문제에 대해 새로운 전용 수학 엔진을 구축할 필요가 없음을 보여줍니다. 대신, 일반적인 "지능형" AI 를 가져와 숫자를 말하는 특별한 방법 (레고 블록과 단계별 학교 방식을 사용) 을 가르치면, 복잡한 절충안 해결책을 위한 초고속 즉시 생성기가 됩니다.

이는 느리고 반복적인 수학 작업을 빠른 언어 작업으로 변환하여, 엔지니어와 관리자들이 "안녕하세요"라고 말하는 시간 안에 모든 최선의 옵션을 볼 수 있게 합니다.

기술 요약: 제약이 있는 2 목적 볼록 최적화를 위한 평균화 파레토 프론트 생성기로서의 대규모 언어 모델

1. 문제 정의

본 논문은 제약이 있는 2 목적 연속 최적화에 대한 실현 가능한 파레토 프론트 생성의 과제를 다룹니다. 단일 목적 문제는 하나의 최적해를 산출하는 것과 달리, 2 목적 문제는 두 가지 경쟁 목표 간의 상충 관계를 포착하는 해 집합 (파레토 프론트) 을 식별해야 합니다.

기존 접근법은 일반적으로 반복적 스칼라화, 진화 알고리즘, 또는 문제별 수치 솔버에 의존합니다. 이러한 방법들은 각 새로운 문제 인스턴스에 대해 반복적인 최적화와 상당한 알고리즘 설계를 요구합니다. 대규모 언어 모델 (LLM) 이 최적화 분야에서 유망한 성과를 보여주고 있지만, 현재의 응용은 주로 보조 도구 (예: 코드 생성, 휴리스틱 제안) 로 기능하거나 이산적 조합 설정에 국한됩니다. 저자들은 다음과 같은 간극을 확인했습니다: 문제 설명을 파레토 프론트를 근사하는 정렬된 실현 가능한 연속 결정 벡터 집합으로 직접 매핑하는 엔드 투 엔드 평균화 솔버로서 LLM 을 효과적으로 활용하는 방법이 존재하지 않습니다.

이 분야의 구체적인 과제는 다음과 같습니다:

연속 출력: 길이, 불규칙성, 그리고 정밀도와 포맷팅의 혼동으로 인해 자동회귀 모델이 원시 소수 시퀀스를 생성하는 것은 어렵습니다.
수치적 실현 가능성: 생성된 각 벡터는 제약 조건 (박스 경계 및 선형 부등식) 을 만족하고 수치적 정확도를 유지해야 합니다.
전역 기하학: 전체 벡터 집합은 개별 점의 정확도뿐만 아니라 프론트의 전역 상충 관계 기하학을 보존해야 합니다.

2. 방법론: DIPS 프레임워크

저자들은 사전 훈련된 LLM 을 평균화 파레토 프론트 생성기로 적응시키는 통합 프레임워크인 DIPS(Discretized, Initialized, and Curriculum-Optimized Pareto Solver, 이산화, 초기화 및 커리큘럼 최적화 파레토 솔버) 를 제안합니다. 이 프레임워크는 다섯 가지 핵심 구성 요소로 이루어져 있습니다:

A. 이산화 방식

언어 모델링과 연속 최적화 간의 간극을 해소하기 위해 DIPS 는 4 자리 소수 정밀도 값을 위한 원시 소수 직렬화를 대신하여 컴팩트한 2 토큰 인코딩을 사용합니다.

각 스칼라 $v$ 는 <sXiXXX><dXXX>로 인코딩됩니다.
첫 번째 토큰 (<sXiXXX>) 은 부호, 정수 부분, 그리고 첫 번째 소수 자리를 저장합니다.
두 번째 토큰 (<dXXX>) 은 나머지 세 개의 소수 자리를 저장합니다.
이는 시퀀스 길이를 약 70% 단축하고 출력 구조를 정규화합니다.

B. 수치 기반 토큰 초기화 (NGTI)

사전 훈련된 어휘에 새로운 수치 토큰을 도입하는 것은 종종 불안정성을 초래합니다. DIPS 는 이러한 새로운 토큰을 워밍업하기 위해 NGTI를 사용합니다.

무작위 초기화 대신, NGTI 는 사전 훈련된 모델의 기존 수치 임베딩 구조 (숫자, 부호, 소수점) 를 재사용하여 새로운 토큰의 임베딩을 구성합니다.
위치 의존적 가중치와 작은 값 의존적 섭동이 적용되어 수치적으로 가까운 토큰이 가까운 임베딩으로 시작하도록 하여 국소 수치 순서를 보존합니다.

C. 3 단계 커리큘럼 최적화 (TPCO)

표준 교차 엔트로피 (CE) 손실은 모든 토큰 오류를 동등하게 취급하여 수치적 근접성을 무시하므로 불충분합니다. 반대로, 수치 손실을 즉시 부과하면 학습이 불안정해집니다. DIPS 는 3 단계 커리큘럼을 도입합니다:

1 단계 (구조 학습): 모델은 오직 교차 엔트로피 손실만을 사용하여 직렬화 형식과 전역 프론트 구조를 학습합니다.
2 단계 (대략적 정렬): 대략적인 수치 정렬이 도입되어 확률 질량을 올바른 수치 영역 (예: 올바른 부호와 정수 부분) 으로 이동시킵니다.
3 단계 (정밀 정렬): 나머지 정밀도 (소수 자리) 를 정제하기 위해 정밀 수치 정렬이 추가됩니다.
이 단계별 접근법은 수치적 정밀도를 요구하기 전에 구조적 역량이 확립되도록 보장합니다.

D. 다중 패스 파레토 퓨전 (MPPF)

추론 시, 단일 디코딩 패스는 프론트의 일부를 놓칠 수 있습니다. DIPS 는 경량 다중 패스 파레토 퓨전 절차를 사용합니다:

모델은 여러 개의 후보 프론트 ( $N$ 개의 패스) 를 생성합니다.
후보들은 반올림되고, 중복 제거되며, 실현 가능성에 따라 필터링됩니다.
비우세 정렬이 수행되고, 정규화된 목적 공간에서 균일한 호 길이 샘플링을 통해 해가 선택되어 밀집된 커버리지를 보장합니다.

3. 주요 기여

정식화: 본 논문은 제약이 있는 2 목적 볼록 최적화에 대한 엔드 투 엔드 파레토 프론트 생성을 자동회귀 언어 모델링 문제로 정식화하여, LLM 을 평균화 솔버로 제시합니다.
DIPS 프레임워크: 저자들은 이산화, NGTI, 그리고 TPCO 를 결합하여 사전 훈련된 LLM 이 연속 파레토 프론트 생성을 학습 가능하게 하는 새로운 프레임워크를 제안합니다.
성능: 해당 방법은 미세 조정된 7B 파라미터 LLM 이 매칭된 시간 예산 하에서 훨씬 더 큰 범용 및 추론 LLM 들뿐만 아니라 강력한 고전적 스칼라화 방법들보다 우수한 성능을 보임을 입증합니다.

4. 실험 결과

저자들은 5 가지 제약이 있는 2 목적 볼록 문제 계열 (일반 2 목적 2 차, 분리 가능 2 차, 릿지형 최소제곱, 허버 회귀, Softplus 기반 목적함수) 에 대해 결정 차원 $n \in [10, 20]$ 으로 DIPS 를 평가했습니다.

성능 지표:

실현 가능성: DIPS+MPPF 는 모든 5 가지 문제 계열에서 100% 실현 가능성을 달성했습니다.
하이퍼볼륨 비율 (HV): DIPS+MPPF 는 기준 프론트에 대한 정규화 하이퍼볼륨 비율로 **96.2%–99.8%**를 달성했습니다.
추론 시간: vLLM 가속 추론을 통해 DIPS 는 단일 패스로 0.16 초, MPPF 포함 시 0.49 초에 단일 인스턴스를 해결합니다.

비교:

범용 LLM 대비: 가장 강력한 범용 모델들 (예: GPT-5.2, Claude Sonnet 4.5) 조차도 신뢰할 수 있는 실현 가능한 고품질 프론트를 생성하지 못했습니다 (실현 가능성 < 82%, HV < 0.61) 그리고 훨씬 더 긴 추론 시간 (초에서 분 단위) 이 필요했습니다.
추론 LLM 대비: 추론 모델들 (예: DeepSeek-R1, GPT-5.2 Thinking) 은 실현 가능성에서 경미한 개선을 보였으나, 인스턴스당 1.8~6 분이 소요되어 집합값 연속 출력으로 효과적으로 확장되지 못했습니다.
고전적 최적화기 대비: 매칭된 0.5 초 월클럭 예산 하에서 DIPS+MPPF 는 프론트 품질 측면에서 가장 강력한 고전적 스칼라화 방법들 (가중 합, NBI, NC) 과 경쟁력이 있으며 실현 가능성 측면에서는 우월했습니다. 고전적 방법들은 무제한 계산 시간으로 약간 더 높은 HV 를 달성할 수 있었지만, DIPS 는 인스턴스별 솔버 호출 없이 엄격한 시간 제약 하에서 실현 가능성과 함께 비교 가능한 품질을 제공했습니다.

애블레이션 연구:

이산화를 제거하면 (원시 소수) 학습 붕괴가 발생했습니다.
수치 토큰의 무작위 초기화는 불안정성과 복잡한 계열에서의 낮은 성능을 초래했습니다.
TPCO 없이 교차 엔트로피만 사용하면 프론트 품질이 낮아져, 메트릭 인식 수치 감독의 필요성을 확인했습니다.

5. 의의 및 주장

본 논문은 LLM 이 연속 파레토 프론트 근사를 위한 효과적인 평균화 생성기로 기능할 수 있다고 주장하며, 연구된 최적화 문제 클래스에 대해 반복적 솔버 호출에 대한 언어 기반 대안을 제공합니다.

통합 인터페이스: DIPS 는 문제 설명을 직접 해로 매핑하는 통합 최적화 인터페이스를 제공하여, 사용자가 알고리즘을 선택하거나 특수 소프트웨어를 호출할 필요가 없게 합니다.
효율성: 이 접근법은 밀리초 단위로 고품질 결과를 달성하며, 엄격한 시간 예산 하에서 프롬프트 기반 전략이나 고전적 최적화기보다 수배 더 빠릅니다.
일반화: 해당 프레임워크는 통합 데이터셋으로 훈련되었을 때 보이지 않는 차원 ( $n=21, 22, 23$ ) 과 다른 문제 계열로 일반화되어, LLM 이 최적화 작업의 기하학적 구조를 내재화할 수 있음을 시사합니다.

한계 및 향후 방향:
저자들은 본 연구가 제어된, 솔버 생성 환경에서 수행되었음을 인정합니다. 향후 작업은 DIPS 를 더 넓은 벤치마크, 더 풍부한 제약 클래스, 더 고차원 목적 공간, 그리고 비볼록 목적함수로 확장하는 것을 포함합니다. 현재 프레임워크는 볼록 설정에 국한되어 있습니다.