기술 요약: 탐지에서 실행까지 – 결함 허용 제어를 위한 LLM 에이전트 활용

문제 정의

자동화의 발전에도 불구하고, 공정 산업 운영은 예측하지 못한 상황, 특히 데이터가 제한적이거나 시스템 동작이 예상 패턴에서 벗어나는 경우 여전히 인간의 전문 지식에 크게 의존하고 있습니다. 프로세스 플랜트는 밀접하게 결합된 에너지 및 물질 흐름, 미묘한 상태 의존적 결함 증상, 그리고 운영자를 압도하는 알람 홍수와 같은 과제에 직면해 있습니다. 강화 학습(RL)과 같은 기존 인공지로(AI) 접근 방식은 낮은 샘플 효율성, 제한된 일반화 능력, 정교하게 설계된 보상 함수의 필요성 등의 장벽으로 인해 도입에 어려움을 겪고 있습니다. 또한, 대규모 언어 모델(LLM)이 엔드 투 엔드 오케스트레이션의 잠재력을 제공함에도 불구하고, 안전이 중요한 결함 허용 제어(Fault-Tolerant Control, FTC)에 대한 이들의 배치는 세 가지 구체적인 격차로 인해 저해됩니다:

1. 그라운딩(Grounding): 플랜트 지식은 이질적인 산출물(P&ID, 인터록 리스트, 유지보수 기록 등)에 파편화되어 있으며, 텍-온리(text-only) 검색은 교정 조치에 필요한 복잡한 관계를 포착하는 데 실패하는 경우가 많습니다.
2. 확보(Assurance): 제안된 조치들은 실행 전 인터록, 운전 엔벨로프(operating envelopes), 공정 물리 법칙에 대한 명시적인 타당성 검사나 감사 가능한 추적 경로가 부족합니다.
3. 적시성/강건성(Timeliness/Robustness): 복구는 하이브리드 역학 및 부분 관측 가능성 하에서 작동해야 하며, 지연되거나 잘못된 조치는 안전을 위협할 수 있습니다.

방법론

저자들은 결함 탐지 출력을 제약 조건을 준수하는 복구 조치로 변환하는 능동적 FTC를 위한 에이전트 기반 LLM 프레임워크를 제안합니다. 이 프레임워크는 물리 공간(프로세스 플랜트 및 안전 시스템)과 가상 공간(에이전트 계층 및 도구 계층 포함)이라는 두 가지 공간에서 작동합니다.

1. 도구 계층 (Tool Layer)

도구 계층은 에이전트를 위한 필수 인프라를 제공합니다:

• 디지털 프로세스 플랜트 트윈 (DPPT): 플랜트 데이터, 물리/데이터 기반 모델, 시뮬레이션 서비스를 포함하는 실행 가능한 도구 스택입니다. 이는 상태 모니터링과 교정 조치의 실행 전 검증을 지원합니다.
• 그래프 검색 증강 생성 (Graph RAG): 그라운딩 격차를 해결하기 위해, 저자들은 CPSMod 온톨로지를 기반으로 구축된 온톨ology 기반 지식 그래프를 활용합니다. 이는 이질적인 엔지니어링 산출물을 기계 해석 가능한 표현으로 통합합니다. 이 온톨로지는 구조(VDI 2206), 기능 및 흐름(VDI 3682), 이산 동작(UML State Machine), 연속 동작(OpenMath), 결함 진단(DIN 17359)을 다루는 5가지 표준 기반 온톨로지 설계 패턴(ODP)을 결합합니다. 에이전트는 SPARQL 쿼리를 사용하여 장비, 제어 로직, 운전 모드 및 결함 의미론을 연결하는 관계 중심의 멀티 홉(multi-hop) 컨텍스트를 검색합니다.

2. 에이전트 계층 (Agent Layer)

프레임워크는 운영자의 직무를 6개의 특화된 에이전트를 포함하는 멀티 에이전트 워크플로우로 분해합니다:

• 모니터링 에이전트 (Monitoring Agent): 통계적 베이스라인 또는 데이터 기반 모델과 프로세스 값을 비교하여 결함을 탐지하는 결정론적/데이터 기반 구성 요소입니다.
• 플래닝 에이전트 (Planning Agent): 지식 그래프에서 관련 시스템 기능 및 상태 머신 동작을 검색하는 LLM 기반 에이전트입니다. 현재의 결함 상태에서 목표 운전 상태로 가는 최소 위험 복구 경로를 제안하기 위해 상태 머신 그래프를 탐색합니다.
• 액션 에이전트 (Action Agent): 선택된 경로와 플랜트의 구동 능력을 바탕으로 구체적인 교정 제어 조치(이산 명령 또는 연속 설정값 조정)를 합성합니다. 이 에이전트는 조치가 인터록, 한계 및 변화율 제약을 준수하도록 보장합니다.
• 시뮬레이션 에이전트 (Simulation Agent): DPPT 시뮬레이션 서비스를 호출하여 제안된 조치가 역학이나 제약 조건을 위반하지 않고 시스템을 유효한 상태로 유도할 수 있는지 테스트합니다.
• 검증 에이전트 (Validation Agent): 시뮬레이션 출력을 안전 기준(인터록, 엔벨로프, 복구 시간, 루프 성능)과 비교하여 조치 세트의 승인 또는 거부를 결정하는 결정론적 에이전트입니다.
• 리프롬프팅 에이전트 (Reprompting Agent): 반복적인 정교화 루프를 조정합니다. 검증이 실패하면 구조화된 피드백(예: "엔벨로프 위반", "가드 미충족")을 생성하여 플래닝 또는 액션 에이전트가 계획을 개선하도록 다시 프롬프트를 전달합니다.
  만약 제한된 시간 내에 수용 가능한 계획을 찾지 못하면, 제어권은 안전 폴백(fallback) 시스템으로 넘어갑니다.

주요 기여

본 논문은 식별된 격차를 해결하기 위해 세 가지 주요 기여를 합니다:

1. 관계 인식 그라운딩 (Relation-Aware Grounding): 온톨로지와 Graph RAG의 사용은 장비, 제어 로직 및 결함 의미론을 연결하는 액션 중심의 의존성 멀티 홉 검색을 가능하게 하여, LLM 에이전트를 구체적인 플랜트 지식에 그라운딩합니다.
2. 검증을 통한 안전 확보 (Safety Assurance via Validation): 프레임워크는 결정론적 사전 실행 검증(인터록, 엔벨로프, 동적 타당성)을 거치는 최소한의 설명 가능한 복구 계획을 통해 안전을 강제하며, 멀티 에이전트 워크플로우를 통해 감사 가능한 결정 추적을 유지합니다.
3. 경계 시간 내 작동 (Bounded-Latency Operation): 시스템은 도구 지원 모니터링, 제약된 액션 생성, 그리고 유효한 계획이 제시간에 합성되지 않을 경우의 안전 폴백 메커니즘을 통해 시간 제약 조건 하에서의 작동을 지원합니다.

실험 결과

프레임워크는 이산형 **믹싱 모듈(Mixing Module)**과 연속형 **연속 교반 탱크 반응기(CSTR)**라는 두 가지 벤치마크에서 평가되었습니다. 두 가지 경량 LLM인 GPT-4.1-mini와 GPT-4o-mini가 테스트되었습니다.

믹싱 모듈 (이산 제어)

• GPT-4.1-mini는 60회의 실행(결함 시나리오당 10회) 동안 100% 성공률을 달 기록했으며, 액션 정확도와 정밀도 모두 100%를 달성했습니다. 교정 리프롬프트가 전혀 필요하지 않았습니다.
• GPT-4o-mini는 85%의 성공률(51/60회)을 기록했습니다. 실패는 pump_degradation(성공률 50%)과 sensor_fault(성공률 60%)에 집중되었습니다. 분석 결과, GPT-4o-mini는 필요한 액추에이터를 올바르게 식별(재현율 100%)했으나, 때때로 불필요한 액추에이터를 활성화하거나(낮은 정밀도) 계획 단계에서 잘못된 바이패스 경로를 선택했습니다.
• 지연 시간(Latency): 평균 벽시계 시간(wall-clock time)은 GPT-4.1-mini가 32.7초, GPT-4o-mini가 40.7초였습니다.

CSTR (연속 제어)

• GPT-4.1-mini는 93.3%의 성공률(30회 중 28회)을 달성했습니다. fouling, pump_degrade, cool_stuck_closed 시나리오를 성공적으로 처리했으며, 안전한 설정값을 찾기 위해 종종 리프롬프팅이 필요했습니다.
• GPT-4o-mini는 76.7%의 성공률(30회 중 23회)을 기록했습니다. 특히 cool_stuck_closed 시나리오(10회 중 4회 성공)에서 큰 어려움을 겪었으며, 복구 요구 사항을 충족하지 못하는 제안을 반복하면서 리프롬프트 제한에 자주 도달했습니다.
• 성능: GPT-4.1-mini는 더 낮은 호출당 액션 지연 시간(2.1초 vs 2.7초)을 보였으며 토큰 소비량은 유사했습니다.

의의 및 주장

본 논문은 결함 탐지에서 검증된 교정 조치에 이르는 실질적인 경로를 제시한다고 주장합니다. 저자들은 다음과 같이 단언합니다:

• 의미론적으로 그라운딩된 에이전트는 프로세스 역학에 적합한 지연 시간(초 단위에서 수십 초 단위) 내에 유효한 복구 결정을 도출할 수 있으므로, 하드 실시간 시스템보다는 감독 및 배치 제어에 적합합니다.
• Graph RAG는 분산된 플랜트 지식을 맥락화하는 실행 가능한 메커니즘이며, 모든 결함 시나리오를 명시적으로 열거하지 않고도 에이전트가 결함 의존적 제약 조건을 추론할 수 있게 합니다.
• 시뮬레이션 기반 검증은 실행 불가능한 조치를 효과적으로 필터링하며, 리프롬프팅은 일시적인 결정 오류를 수정할 수 있지만, 체계적인 추론 실패나 모델링되지 않은 결함을 보완할 수는 없습니다.

저자들은 본 프레임워크가 "최적성 우선(optimality-first)"이 아닌 "타당성 우선(feasibility-first)"임을 명시하며 신중한 입장을 유지합니다. 그들은 지식 그래프 구축에 드는 노력, 사전에 특성화되지 않은 완전히 새로운 결함을 시뮬레이션할 수 없는 점, 그리고 연구를 위해 클라우드 호스팅 모델에 의존하고 있는 현재 상황(산업 현장 적용을 위해서는 온프레미스 배포 및 IT/OT 분리가 필요함)에 대한 한계를 인정합니다. 이 연구는 인간 운영자를 완전히 대체하는 것이 아니라, 능동적 FTC를 위한 강력하고 자율적인 의사결정 지원 계층을 제공하는 것을 목표로 합니다.