Type-Aware Retrieval-Augmented Generation with Dependency Closure for Solver-Executable Industrial Optimization Modeling

이 논문은 자연어 요구사항을 솔버 실행 가능한 최적화 모델로 변환할 때 발생하는 구조적 오류를 해결하기 위해, 도메인 특화 지식 그래프를 기반으로 최소 의존성 폐쇄를 보장하는 타입 인식 검색 증강 생성 (RAG) 방법을 제안하고 산업 최적화 사례에서 기존 방법 대비 우수한 실행 가능성과 일반화 성능을 입증했습니다.

핵심

이 논문은 **"인공지능이 복잡한 공장 문제를 해결할 수 있는 수학 코드를 자동으로 작성하는 방법"**에 대한 연구입니다.

기존의 인공지능 (LLM) 은 글을 잘 쓰지만, 공학이나 수학 문제를 풀기 위한 정확한 코드를 만들 때 자주 실수합니다. 마치 요리사에게 "맛있는 파스타를 만들어줘"라고 했을 때, 레시피는 잘 설명해주지만 필요한 재료가 빠지거나, 냄비가 없는데 불을 켜라고 하거나, 소금과 설탕을 헷갈리는 상황이 발생하는 것과 비슷합니다.

이 논문은 그 실수를 막기 위해 **'타입 인식 (Type-Aware)'**과 **'의존성 닫힘 (Dependency Closure)'**이라는 두 가지 핵심 기술을 도입했습니다.

---

🏭 1. 문제: 왜 인공지능은 공장 코드를 못 쓰나요?

공장을 운영하려면 수천 개의 기계, 배터리, 작업 시간 등을 수학적으로 계산해야 합니다. 이를 위해 LINGO나 Gurobi 같은 전문 솔버 (계산기) 가 필요합니다.

하지만 기존 인공지능은 다음과 같은 실수를 자주 합니다:

• 재료를 잊어버림: "기계 A 를 켜라"라고 쓰는데, '기계 A'가 무엇인지 정의해둔 코드가 없습니다. (선언 누락)
• 재료를 헷갈림: "전기 요금"을 계산할 때 '시간'이 아닌 '날짜'를 넣거나, 숫자 대신 글자를 넣습니다. (타입 불일치)
• 결과물: 인공지능이 만든 코드는 컴퓨터가 실행조차 할 수 없는 '쓰레기'가 됩니다.

🛠️ 2. 해결책: "완벽한 레시피 책"과 "필요한 재료만 챙기는 시스템"

이 연구팀은 인공지능이 코드를 쓸 때 실수하지 않도록 두 가지 장치를 만들었습니다.

① 타입 인식 지식 그래프 (The "Typed Knowledge Graph")

기존 인공지능은 인터넷의 글 (논문, 매뉴얼) 을 그냥 텍스트 덩어리로 읽습니다. 하지만 이 연구팀은 공장의 모든 요소 (기계, 변수, 제약 조건) 를 '유형 (Type)'이 있는 레고 블록처럼 정리했습니다.

• 비유: 일반적인 도서관은 책 제목만 보고 책을 찾아줍니다. 하지만 이 시스템은 **"이 책은 '전기' 관련이고, '시간' 단위가 필요하며, '기계 A'와 연결되어 있다"**는 것을 정확히 아는 지식 지도를 가지고 있습니다.
• 효과: 인공지능이 "전기를 아껴라"라고 요청받으면, 단순히 글만 찾아주는 게 아니라 '전기 변수', '시간 변수', '기계 상태'라는 정확한 레고 블록을 찾아냅니다.

② 의존성 닫힘 (Dependency Closure) - 가장 중요한 부분!

이게 이 논문의 핵심입니다. 인공지능이 코드를 작성할 때, 필요한 모든 재료가 한 상자에 다 들어있는지 확인하는 과정입니다.

• 비유 (건축 현장):
  • 기존 방식: "벽을 쌓아라"라고 하면, 인공지능은 벽돌만 가져옵니다. 시멘트나 물통은 잊어버려서 벽이 무너집니다.
  • 이 연구팀의 방식: "벽을 쌓아라"라고 요청받으면, 인공지능은 벽돌 → 시멘트 → 물 → 벽돌을 올리는 사다리 → 안전모까지, 벽을 완성하는 데 필요한 모든 것을 뒤따라가서 찾아옵니다.
  • 의존성 닫힘: "이 변수를 쓰려면 저 변수가 필요하고, 저 변수를 쓰려면 또 다른 정의가 필요하다"는 연쇄 관계를 따라가서 가장 작은 완전한 세트를 만들어냅니다.

🚀 3. 실제 실험: 두 가지 공장에서의 성과

연구팀은 이 방법을 두 가지 실제 산업 현장에 적용해 보았습니다.

사례 1: 배터리 공장의 전력 관리 (수요 반응)

• 상황: 전력 회사가 "지금 전기 사용량을 줄이면 돈을 더 줄게"라고 제안했습니다. 공장은 생산을 멈추지 않으면서 전기를 아껴야 합니다.
• 결과: 기존 인공지능은 코드를 못 만들거나 오류가 났지만, 이 방법은 정확한 코드를 만들어내어 전기를 아끼면서도 이득을 보는 최적의 스케줄을 짜냈습니다. (생산량은 조금 줄었지만, 전기 할인금으로 전체 수익은 오히려 늘었습니다.)

사례 2: 유연한 작업장 스케줄링 (FJSP)

• 상황: 다양한 작업이 여러 기계에서 순서대로 이루어져야 하는 복잡한 상황입니다.
• 결과: 기존 방식은 100% 실패했지만, 이 방법은 95% 이상의 성공률로 최적의 작업 순서를 찾아냈습니다.

💡 4. 결론: 왜 이것이 중요한가요?

이 연구는 인공지능이 **"글을 잘 쓰는 것"을 넘어 "실제 작동하는 공학 코드를 안전하게 작성하는 것"**으로 진화할 수 있는 길을 열었습니다.

• 전문가만 할 수 있던 일: 이제 비전문가도 자연어로 "전기 아껴줘"라고 말하면, 인공지능이 실제로 작동하는 최적의 코드를 만들어줍니다.
• 안전장치: "의존성 닫힘"이라는 안전장치가 있어, 인공지능이 환각 (허위 정보) 을 보거나 중요한 재료를 빼먹는 것을 원천 차단합니다.

한 줄 요약:

이 논문은 인공지능에게 **"요리할 때 재료를 하나도 빠뜨리지 않고, 서로 잘 어울리는지 확인하는 완벽한 레시피 책"**을 만들어주어, 공장에서 실제로 작동하는 최적의 코드를 자동으로 짜게 만든 혁신적인 방법입니다.

기술 요약

1. 문제 정의 (Problem Statement)

산업 최적화 모델링은 자연어 요구사항을 LINGO, Gurobi, CPLEX 와 같은 솔버 (Solver) 가 실행 가능한 수학적 모델 (코드) 로 변환하는 과정입니다. 그러나 대규모 언어 모델 (LLM) 을 활용한 자동화 모델링에는 다음과 같은 치명적인 한계가 존재합니다.

• 구조적 환각 (Structural Hallucinations): LLM 은 종종 변수 선언 누락, 타입 불일치 (예: 변수와 파라미터의 역할 혼동), 의존성 맥락의 불완전성으로 인해 컴파일되지 않거나 실행 불가능한 코드를 생성합니다.
• 기존 RAG 의 한계: 기존의 검색 증강 생성 (RAG) 은 비정형 텍스트 조각을 검색하여 제공하지만, 최적화 모델링에 필수적인 엄격한 타입 일관성과 의존성 폐쇄 (Dependency Closure, 즉 실행을 위해 필요한 모든 상위 정의가 포함된 최소 집합) 를 보장하지 못합니다.

2. 제안된 방법론 (Methodology)

저자들은 타입 인식 검색 증강 생성 (Type-Aware RAG) 과 최소 의존성 폐쇄 (Minimal Dependency Closure) 를 결합한 새로운 프레임워크를 제안합니다. 이 방법은 실행 가능한 코드를 보장하기 위해 다음과 같은 3 단계 파이프라인을 따릅니다.

2.1. 이질적 소스 기반 타입 지식 그래프 구축

• 소스 파싱: 학술 논문 (개념적 의도) 과 솔버 실행 코드 (구체적 구현) 를 모두 파싱하여 지식 베이스를 구성합니다.
• 타입 스키마 정의: 의사결정 변수, 파라미터, 인덱스 집합, 제약조건, 목적함수 등 MILP(혼합 정수 선형 계획법) 모델링에 필수적인 엔티티를 명시적으로 타입화합니다.
• 지식 그래프 (KG): 엔티티 간의 수학적 의존성 (예: 제약조건 $\rightarrow$ 변수, 변수 $\rightarrow$ 인덱스) 을 방향성 있는 엣지로 표현합니다. 또한, 논문 개념과 코드 구현 간의 정렬 (Alignment) 을 통해 추상적 요구사항과 구체적 구현을 연결합니다.

2.2. 하이브리드 검색 (Hybrid Retrieval)

사용자의 자연어 명령을 받으면 두 가지 경로를 통해 정보를 검색합니다.

1. 의미론적 검색: 벡터 데이터베이스를 통해 관련 개념, 배경 지식, 모델링 논리를 검색합니다.
2. 구조적 검색: 지식 그래프에서 시드 (Seed) 엔티티를 출발점으로 하여 used_in 및 depends_on 엣지를 따라 탐색합니다.

2.3. 최소 의존성 폐쇄 (Minimal Dependency Closure) 계산

제안된 방법의 핵심 혁신입니다. 검색된 엔티티 집합을 실행을 위해 필요한 최소한의 완전한 집합으로 변환합니다.

• 작동 원리: 목표 엔티티 (예: 새로운 제약조건) 를 정의하는 데 필요한 모든 상위 엔티티 (변수, 파라미터, 인덱스 등) 를 그래프 탐색 (BFS) 을 통해 재귀적으로 수집합니다.
• 효과: 불필요한 배경 정보를 제거하고, 누락된 선언이나 타입 오류가 발생할 수 있는 모든 가능성을 제거하여 LLM 에게 완전한 컨텍스트를 제공합니다.

3. 주요 기여 (Key Contributions)

1. 타입 인식 의존성 폐쇄 메커니즘: LLM 기반 산업 최적화 모델링에서 구조적 환각의 취약점을 해결하기 위해, 타입화된 지식 그래프를 통해 심볼의 완전성을 강제하는 새로운 패러다임을 제시했습니다.
2. 이질적 소스 통합 및 2 단계 검색: 학술 논문과 실행 가능한 솔버 코드를 통합하여 파싱하고, 최소 의존성 폐쇄를 계산하는 2 단계 검색 메커니즘을 설계했습니다. 이는 생성된 모델이 문법적으로 완전하고 타입 불일치가 없도록 보장합니다.
3. 실증적 검증: 기존 RAG 베이스라인이 모든 테스트에서 실패한 반면, 제안된 방법은 두 가지 상이한 산업 사례에서 컴파일 가능하고 최적해를 도출하는 모델을 일관되게 생성함을 입증했습니다.

4. 실험 결과 (Results)

두 가지 복잡한 산업 최적화 사례를 통해 방법을 검증했습니다.

사례 1: 리튬이온 배터리 생산의 수요 반응 (Demand Response) 최적화

• 상황: 전력망 인센티브를 받기 위해 생산 부하를 줄이는 MILP 모델 수정.
• 결과: 제안된 방법은 인센티브 수익과 생산 손실 간의 균형을 맞추는 실행 가능한 LINGO 코드를 생성했습니다.
  • 피크 부하 절감 (Peak Shaving) 성공.
  • 생산량 감소 (5.1%) 에도 불구하고 인센티브 수익으로 총 이익이 0.13% 증가.
  • 기존 RAG 베이스라인은 필수 심볼 누락으로 인해 실행 불가.

사례 2: 유연한 작업장 스케줄링 (FJSP)

• 상황: 다양한 작업 순서와 기계 할당 문제를 다루는 복잡한 스케줄링.
• 결과: 50 개 이상의 벤치마크 인스턴스 (Behnke) 에서 95% 성공률을 기록했습니다.
  • 생성된 모든 모델이 알려진 최적해에 도달하거나 근접했습니다.
  • 기존 RAG 베이스라인은 변수 정의 누락 및 인덱싱 오류로 인해 0% 성공률을 보이며 완전히 실패했습니다.
  • 제약 조건 확장 (기계 가용성 시간대 추가) 및 용어 변경 시에도 견고한 성능을 입증했습니다.

5. 의의 및 결론 (Significance)

• 신뢰성 있는 엔지니어링 LLM 적용: 복잡한 공학 최적화 작업에서 LLM 의 신뢰성을 확보하기 위한 새로운 기준을 제시했습니다.
• 비전문가 접근성: 최적화 모델링 전문가가 아니더라도 자연어 명령을 통해 정확하고 실행 가능한 모델을 생성할 수 있게 하여, 수동 디버깅 비용을 획기적으로 줄일 수 있습니다.
• 기술적 통찰: 단순한 텍스트 검색을 넘어, 도메인 특화 지식 그래프와 의존성 기반의 컨텍스트 완성이 실행 가능한 코드 생성의 핵심 요소임을 증명했습니다.

이 연구는 자연어에서 실행 가능한 최적화 모델로의 변환이라는 난제를 해결하여, 산업 현장에서의 AI 기반 의사결정 시스템 배포 속도와 확장성을 크게 향상시킬 수 있는 가능성을 열었습니다.