💻 computer science

Executable Intelligence in Policy-Constrained Knowledge Systems: A Closed-Loop Decision-Execution Framework

본 논문은 지능형 시스템의 "통찰과 실행 간의 격차(Insight-to-Action Gap)"를 다루며, 거버넌스 및 실행 제약 조건을 의사결정 과정에 직접 내장하여 지연 시간, 리스크 및 비용을 최적화함으로써 행동이 설계 단계부터 안전하고 감사 가능하며 실행 가능하도록 보장하는 폐쇄 루프 프레임워크를 제안한다.

원저자: Abhradeep Chatterjee

게시일 2026-08-06

📖 5 분 읽기🧠 심층 분석

CC BY 4.0

원저자: Abhradeep Chatterjee

원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

지식과 실행 사이의 간극

당신이 아주 똑똑한 탐정 캐릭터가 되어 플레이하는 고도의 긴장감이 흐르는 비디오 게임을 상상해 보세요. 이 탐정은 그림자 속에 숨은 악당을 즉각적으로 찾아내고, 그들이 다음에 어디를 공격할지 정확히 예측하며, 그들을 막기 위한 완벽한 움직임을 계산할 수 있습니다. 하지만 여기 함정이 있습니다. 탐정은 "저 벽을 넘을 수 없다"라거나, "슈퍼 레이저를 사용하기 전에 시장의 허가를 받아야 한다", 혹은 "실패하면 시간을 되돌려야 한다"라는 엄격한 규칙 책에 묶여 있습니다. 현실 세계에서 인공지능(AI)에게 일어나는 일이 바로 이것입니다. 우리는 '분석적 지능(analytical intelligence)'—즉, 무슨 일이 일어나고 있고 무엇이 일어나야 하는지를 파악하는 데 매우 뛰어난 시스템을 구축했습니다. 하지만 실제로 현실 세계에서 무언가를 '실행'하는 문제가 되면, 이 시스템들은 종-종 막혀버리곤 합니다. 이들은 훌륭한 아이디어를 생성하지만, 그것이 안전 규칙을 위반하거나, 회사 정책을 어기거나, 혹은 잘못되었을 때 되돌릴 수 없는 경우라는 이유로 거절당하곤 합니다. 훌륭한 아이디어를 떠올린 시점과 그것을 안전하게 실행할 수 있는 시점 사이의 이 답답한 멈춤이 바로 이 논문이 다루는 문제입니다.

이 논문은 "통찰-실행 간극(Insight-to-Action Gap)"이라는 개념을 소개합니다. 이것을 요리사가 완벽한 레시피를 알고 있는 것과, 엄격한 위생 규정과 제한된 식재료, 그리고 탄 토스트를 싫어하는 매니저가 있는 주방에서 실제로 요리할 수 있도록 허가받는 것 사이의 거리라고 생각해보세요. 저자는 문제의 원인이 우리 AI 셰프들이 요리를 할 만큼 똑똑하지 않아서가 아니라, 규칙 안에서 요리할 만큼 똑똑하지 않기 때문이라고 주장합니다. 이 논문은 이러한 시스템을 구축하는 새로운 방법인 "실행 가능한 지능(Executable Intelligence)"을 제안합니다. 여기서 규칙은 요리가 끝난 후에 확인되는 것(이는 망친 음식과 낭비된 한 시간을 초래합니다)이 아니라, 첫 단계부터 레시피 자체에 녹아들어 있습니다.

문제점: "통찰-실행 간극"

NTT DATA Services의 저자인 아브라딥 채터지(Abhradeep Chatterjee)는 오늘날 우리가 AI를 사용하는 방식에서 나타나는 기묘한 역설을 발견했습니다. 클라우드 컴퓨팅, 자율 인프라, 사이버 보안과 같은 분야에서 우리 시스템은 문제를 포착하는 속도는 점점 빨라지고 있습니다. 시스템은 글리치나 보안 침해를 거의 즉각적으로 감지할 수 있습니다. 하지만 문제를 해결하는 데는 종종 오랜 시간이 걸립니다. 왜 그럴까요? AI가 문제를 포착한 후, 문제를 수정하기 위해 인간의 승인을 기다리고, 그것이 안전한지 확인하고, 수동으로 복구 작업을 실행해야 하기 때문입니다.

논문은 이 지연을 **통찰-실행 간극(Insight-to-Action Gap, IAG)**이라고 부릅니다. 이는 시스템이 답을 '생각'해낸 순간과 실제로 수정을 '수행'하는 순간 사이에서 손실되는 시간입니다. 저자는 가장 큰 병목 현상이 AI의 예측 능력이 아니라, AI의 '안전하게 행동하는 능력'이라고 제つ합니다. 만약 AI가 제안한 수정 사항이 안전 정책을 위반한다면, 그 제안이 수학적으로 완벽할지라도 무용지물입니다. 그것은 단지 더 많은 작업, 더 많은 지연, 그리고 더 많은 좌절만을 만들어낼 뿐입니다.

해결책: 규칙 책을 펼쳐놓고 요리하기

이를 해결하기 위해, 이 논문은 **실행 가능한 지능(Executable Intelligence)**이라는 새로운 프레임워크를 제안합니다. 안전 규칙과 정책을 당신이 입구에 들어서려고 할 때 이미 신분증을 검사하는 문 앞의 '보디가드'처럼 취급하는 대신, 이 프레임워크는 의사 결정 과정 자체 안에 보디가드를 집어넣습니다.

당신이 "사이먼 가라사대(Simon Says)" 게임을 하고 있는데, 약간의 변형이 있다고 상상해 보세요. 기존 방식에서는 사이먼(AI)이 "지붕에서 백플립을 해!"와 같은 황당한 동작을 외치면, 심판이 달려와 규칙 책을 확인한 뒤 "안 돼, 그건 규칙 위반이야!"라고 말해야 합니다. 그러면 사이먼은 다시 새로운 동작을 생각해야 하고, 심판은 다시 확인해야 합니다. 이것은 느리고 짜증 나는 일입니다.

새로운 프레임워크는 다릅니다. 사이먼은 동작을 외치기 전, 생각하는 동안 규칙 책을 함께 봅니다. 그는 이미 허용되고, 안전하며, 되돌릴 수 있는 동작만을 생각해냅니다. 만약 규칙 책에 "백플립 금지"라고 적혀 있다면, 사이먼은 백플립을 고려조차 하지 않습니다. 그는 "울타리를 뛰어넘으라"는 동작만을 제안할 것입니다. 왜냐하면 그것이 허용된다는 것을 알고 있고, 안전하게 다시 내려올 계획도 가지고 있기 때문입니다.

작동 방식: 폐쇄 루프 루프(Closed-Loop Loop)

논문은 다섯 단계로 구성되어 끊임없이 순환하는 "폐쇄 루프(closed-loop)" 시스템을 설명합니다.

감지(Sense): 시스템이 문제(예: 보안 카메라처럼)를 관찰합니다.
해석(Interpret): 문제가 무엇인지, 맥락이 무엇인지 파악합니다(불인가요? 누수인가요? 해커인가요?).
결정(Decide): 이것이 마법 같은 부분입니다. 시스템은 단순히 "최선의" 행동을 고르는 것이 아니라, 모든 안전 검사를 통과하고, 시간 제한 내에 있으며, "되돌리기" 버튼이 준비된 상태에서의 최선인 행동을 고릅니다.
실행(Act): 행동을 수행하되, 진행되는 동안 모든 것이 여전히 안전한지 확인하며 조심스럽게 수행합니다.
학습(Learn): 일어난 일을 관찰하고, 이 정보를 사용하여 다음번에 더 안전한 결정을 내리는 데 활용합니다.

여기서 핵심 혁신은 **정책 제약 최적화(Policy-Constrained Optimization)**입니다. 쉽게 말해, 컴퓨터가 "규칙"이 방정식의 일부인 수학 문제를 푸는 것을 의미합니다. 단순히 가장 빠른 경로를 찾는 것이 아니라, "진입 금지" 구역을 지나지 않는 가장 빠른 경로를 찾는 것입니다.

실험 결과

저자는 이를 실제 살아있는 전력망이나 병원에서 테스트하지 않았습니다(그것은 너무 위험합니다). 대신, 실제 시스템이 어떻게 작동하는지 모방한 상세한 시뮬레이션—컴퓨터로 만든 세계—을 구축했습니다. 그들은 "사고"(예: 컴퓨터 다운)가 무작위로 발생하는 시나리오를 만들고 두 팀을 비교했습니다.

팀 A (기준 모델): 스마트한 AI를 사용하여 문제를 찾지만, 규칙을 확인하고 수정하는 데는 인간에게 의존합니다.
팀 B (새로운 프레임워크): 생각하는 동안 규칙을 확인하는 "실행 가능한 지능" 시스템을 사용합니다.

결과는 명확했습니다. 시뮬레이션에서 새로운 프레임워크는 문제를 해결하는 데 걸리는 총 시간을 최대 **40%**까지 단축했습니다. 하지만 더 중요한 것은, 이 시스템을 훨씬 더 일관성 있게 만들었다는 점입니다. "기존 방식"은 시간이 들쭉날쭉했습니다—때로는 빨랐지만, 규칙 위반 때문에 영원히 걸리기도 했습니다. 새로운 방식은 꾸준하고 신뢰할 수 있었습니다.

또한 논문은 규칙이 엄격하고 시스템이 복잡한 의존성(예: 한 부품의 고장이 다른 부품들의 연쇄 반응을 일으키는 경우)을 다뤄야 할 때 가장 큰 이점이 나타난다는 것을 발견했습니다. "기존 방식"은 규칙에 의해 거부(veto)당하여 처음부터 다시 시작해야 하는 경우가 많았습니다. 새로운 방식은 애초에 금지된 동작을 제안하지 않기 때문에 이러한 "재시작"을 완전히 피할 수 있었습니다.

이것이 왜 중요한가

이 논문은 "지능"을 단순히 예측이나 추측을 잘하는 것으로 생각하는 것을 멈춰야 한다고 주장합니다. 현실 세계에서 진정한 지능이란 안전하고 책임감 있게 무언가를 '수행'할 수 있는 능력을 의미합니다. 만약 시스템이 똑똑하지만 규칙을 어기지 않고 행동할 수 없다면, 그것은 그리 유용하지 않습니다.

의사 결정 과정에 안전과 규칙을 직접 내재화함으로써, 우리는 단순히 수정을 "권고"하는 시스템에서 확신을 가지고 실제로 "실행"할 수 있는 시스템으로 나아갈 수 있습니다. 이것이 즉시 인간을 루프에서 제외한다는 뜻은 아닙니다. 논문은 단계적인 경로를 제시합니다: 권고에서 시작하여, "게이트형(gated)" 자동화(시스템이 규칙 준수를 100% 확신할 때만 행동하는 단계)로 이동하고, 최종적으로는 안전한 경계 내에서 스스로 행동할 수 있는 "정책 제한 자율성(policy-bounded autonomy)" 상태에 도달하는 것입니다.

저자는 이 결과가 시뮬레이션 기반의 발견이라는 점을 주의 깊게 언급합니다. 결과는 유망하고 논리도 타당하지만, 아직 실제 살아있는 환경에서 증명되지는 않았습니다. 그러나 "실행 가능한 지능"이라는 개념은 왜 많은 AI 프로젝트가 정체되는지에 대한 새로운 시각을 제공합니다. 그것은 AI가 충분히 똑똑하지 않아서가 아니라, 생각하는 동안 규칙을 따르는 법을 배우지 못했기 때문입니다.

기술 요약: 정책 제약적 지식 시스템에서의 실행 가능한 지능 (Executable Intelligence)

문제 정의: 통찰-실행 간극 (Insight-to-Action Gap, IAG)
본 논문은 현대 지능형 시스템에서 발생하는 결정적인 단절인 **통찰-실행 간극(IAG)**을 식별한다. 현대의 AI는 고품질의 추론, 이상 탐지, 예측(분석적 지능)에는 탁월하지만, 실제 운영 환경에서 적시적이고 안전하며 감사 가능한 행동을 생성하는 데에는 자주 실패한다. 핵심 문제는 모델의 정확도가 아니라 의사결정 실행 가능성(decision executability), 즉 통찰을 실제 필요한 순간에 현실 세계의 거버넌스, 안전 및 실행 제약 조건 하에서 실행 가능한 행동으로 전환하지 못하는 능력이다.

본 논문은 엔드 투 엔드 응답 지연 시간( $\Delta T$ )을 세 가지 구성 요소인 탐지 지연( $\Delta A$ ), 의사결정/트리아지(triage) 지연( $\Delta D$ ), 실행 지연( $\Delta E$ )으로 분해한다. 관측성(observability)의 발전으로 $\Delta A$ 는 감소했으나, 운영 결과는 종종 인간 참여형(human-in-the-loop) 협업, 파편화된 도구, 위험 회피적 거버넌스 게이트로 인해 $\Delta D$ 와 $\Delta E$ 에 의해 병목 현상이 발생한다. 시스템이 제안한 행동이 사후 정책 검토에 의해 거부되거나 재트리아지를 요구하게 될 때, 이는 "숨겨진 의사결정 낭비(hidden decision churn)"를 유발하여 지연 시간을 늘리고 신뢰를 저하시킨다.

방법론: 폐쇄 루프 의사결정-실행 프레임워크
IAG를 해결하기 위해, 저자는 지능을 "예측"에서 "거버넌스가 적용된 실행 가능성(governed actionability)"으로 재정의하는 폐쇄 루프 프레임워크를 제안한다. 핵심 방법론은 정책, 컴플라이언스, 검증 및 롤백 요구사항을 사후 결정 필터로 취급하는 것이 아니라, 의사결정 최적화 프로세스 내에 직접 내재화하는 것이다.

공식적 문제 정식화:
IAG는 정책 제약 최적화 문제로 정식화된다. 목표는 지연 시간( $\Delta T$ ), 운영 리스크( $\mathcal{R}$ ), 개입 비용( $\mathcal{C}$ )의 가중 결합을 최소화하는 것이다:
$\min_{\pi \in \Pi} \mathbb{E}[w_1 \Delta T(\pi, S) + w_2 \mathcal{R}(\pi, S) + w_3 \mathcal{C}(\pi, S)]$
단, $P$ 는 거버넌스(예: 변경 창), 안전(예: 영향 범위 제한), 검증/롤백 요구사항을 계산 가능한 술어(predicate)로 인코딩하는 정책 제약 조건을 따른다.
시스템 아키텍처:
프레임워크는 **감지(Sense) $\rightarrow$ 해석(Interpret) $\rightarrow$ 결정(Decide) $\rightarrow$ 실행(Act) $\rightarrow$ 학습(Learn)**의 사이버네틱 루프로 작동한다.

감지 및 컨텍스트: 텔레메트리, 토폴로지, 과거 패턴을 수집하여 의사결정에 즉시 사용 가능한 컨텍스트를 형성한다.
의사결정 계층: 제약 조건이 있는 최적화를 풀어 실행 가능한 행동 계획을 출력한다. 결정적으로, 이 계획에는 사전 점검(prechecks), 검증 단계, 롤백 절차가 포함된다.
실행 계층: 런북(runbook)이나 API를 통해 행동을 오케스트레이션하며, 속도 제한과 안전 점검을 강제하는 동시에 감사 가능한 증거를 기록한다.
학습 계층: 결과(성공/실패, 완화 시간)를 피드백하여 의사결정 모델과 정책 임계값을 업데이트한다.

의사결정 절차:
의사결정 로직은 정책 제약 행동 선택 알고리즘(Algorithm 1)을 사용한다. 최적의 행동을 먼저 선택하고 나중에 제약을 확인하는 대신, 시스템은 다음을 수행한다:

후보 행동 $A(S)$ 를 생성한다.
후보들을 엄격한 정책 제약 $P$ 에 따라 필터링하여 실행 가능한 집합 $C$ 를 만든다.
실행 가능한 행동들에 대해서만 예상 지연 시간, 리스크, 비용을 기준으로 점수를 매긴다.
상위 순위의 계획을 선택하고 실행 전 검증 및 롤백 단계를 부착한다.

운영 모드:
도입을 용이하게 하기 위해, 프레임워크는 세 가지 모드를 지원한다: (i) 권고 모드(인간이 실행), (ii) 게이트형 자동화(정책 확신도가 높을 때만 시스템이 실행), (iii) 정책 경계 자율 모드(정의된 감사 가능한 경계 내에서 시스템이 실행).

주요 기여

IAG의 정의: 분석적 통찰과 실행 가능한 행동 사이의 간극을 공동의 의사결정 및 실행 문제로 공식화하였다.
실행 가능한 지능(Executable Intelligence): "실행 가능성"을 지식 시스템의 일급 속성으로 도입하였다. 행동은 필요할 때 현재의 정책과 안전 조건 하에서 실행 가능할 때만 가치가 있다.
계산으로서의 거버넌스: 거버넌스가 사후 거부 게이트가 아니라, 의사결정 루프에 통합된 계산 가능한 제약 집합이어야 한다고 주장한다.
지연 시간에 관한 제언: 제약 조건을 의사결정 시점에 통합하는 것이 사후 거버넌스보다 기대 지연 시간 측면에서 우월함을 입증한다. 만약 선택 후 점검에서 거부(확률 $p_v$ )가 발생하면, 그로 인한 재트리아지 지연( $\delta_v$ ) 때문에 $E[\Delta T_{post}] \geq E[\Delta T_{constrained}] + p_v \cdot \delta_v$ 가 성립한다.

실험 결과
프레임워크는 장애 발생, 의존성 전파, 실행 가변성을 모델링한 시뮬레이션 기반 실험을 통해 평가되었다. 연구는 인간 주도 워크플로우와 제안된 폐쇄 루프 접근 방식을 비교하였다.

지연 시간 감소: 폐쇄 루프 접근 방식은 정책 제약 조건 하에서 엔드 투 엔드 응답 지연 시간을 최대 **40%**까지 감소시켰다.
변동성 감소: 프레임워크는 행동 완료 시간의 분산을 크게 줄여 더욱 일관된 운영 결과를 이끌어냈다.
개선 메커니즘: 이러한 개선은 후기 단계의 정책 거부를 제거하고, 컨텍스트 강화를 통해 반복적인 트리아지 사이클을 줄이며, 검증 및 롤백이 고려된 계획을 통해 실행을 가속화함으로써 달성되었다.
강건성: 거부 확률과 협업 깊이가 유의미할 때 이점이 가장 두드러졌다. 고도로 자동화된 베이스라인의 경우, 주요 이점은 극적인 지연 시간 붕괴보다는 낮은 변동성과 향상된 감사 가능성으로 이동했다.

의의 및 주장
본 논문은 운영 분야에서 적용되는 AI의 주요 실패 모드는 부정확한 모델이 아니라 실행 불가능한 결정이라고 주장한다. 지능을 거버넌스가 적용된 실행 가능성을 포함하도록 재정의함으로써, 이 프레임워크는 "전부 아니면 전무(all-or-nothing)" 식의 완전한 자동화로 급격히 도약하지 않고도 신뢰할 수 있는 자율성으로 나아가는 실질적인 경로를 제공한다.

저자는 실행 가능한 지능이 측정 가능하고 최적화 가능한 속성임을 강조한다. 타당성, 안전성, 롤백을 의사결정 시점의 제약 조건으로 다룸으로써, 조직은 리스크로 인해 정체되는 "권고 모드"를 넘어 점진적 자동화로 나아갈 수 있다. 연구는 자율 시스템이 규모에 맞춰 신뢰받기 위해서는 단순히 예측 정확도뿐만 아니라, 정책 경계 내에서 책임감 있고 준수하며 가역적으로 행동할 수 있는 능력에 의해 정의되어야 한다고 결론짓는다.

한계점
저자는 결과가 시뮬레이션에서 도출되었으며, 인간의 업무량, 조직의 승인 가변성 또는 이질적인 도구와 같은 사회 기술적 요인을 완전히 포착하지 못할 수 있다고 언급한다. 따라서 연구 결과는 보편적인 보증이라기보다 모델링된 환경 내에서의 상대적인 개선 사항으로 제시된다. 향후 과제로 실제 운영 트레이스 및 공개 벤치마크를 통한 경험적 검증이 필요함을 명시하였다.