🤖 AI

Verifiable abstention makes AI leak diagnosis accountable in water distribution networks

이 논문은 물리 기반의 실행기(executor)와 LLM으로 감사하는 감독자(supervisor)가 협력하여 증거가 엄격한 계약 표준을 충족할 때만 파견을 인증함으로써, 노이즈가 있는 현장 조건에서도 높은 결정 정밀도와 책임성을 달着하는, 수계 네트워크 내 AI 기반 누수 위치 탐지를 위한 검증 가능한 절제(abstention) 프레임워크를 소개한다.

원저자: Tianwei Mu, Yue Wang, Mingzhe Yuan, Manhong Huang, Wenhong Wang, Xuerui Yin, Qing Luo, Min Xiao, Hui Yang, Jun Li, Dan Xue

게시일 2026-08-20

📖 5 분 읽기🧠 심층 분석

CC BY 4.0

원저자: Tianwei Mu, Yue Wang, Mingzhe Yuan, Manhong Huang, Wenhong Wang, Xuerui Yin, Qing Luo, Min Xiao, Hui Yang, Jun Li, Dan Xue

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

수도 유틸리티 기업들은 지속적이고 비용이 많이 드는 문제에 직면해 있습니다. 바로 처리된 물이 고객의 수도꼭지에 도달하기도 전에 숨겨진 균열과 부서진 파이프를 통해 빠져나가는 것입니다. 이 "무수수량(non-revenue water)"은 자원과 자금의 막대한 손실을 의미하며, 연간 수십억 달러 규모로 추산됩니다. 수십 년 동안 해결책은 더 나은 탐지에 있다고 여겨져 왔습니다. 엔지니어들은 압력 센서의 데이터를 사용하여 누수가 있을 법한 위치를 추측하는 점점 더 정교한 컴퓨터 모델을 개발해 왔습니다. 그러나 컴퓨터의 추측과 인간의 행동 사이에는 여전히 결정적인 간극이 존재합니다. 누수를 찾기 위해 도로를 파헤치는 것은 비용이 많이 들고, 방해가 되며, 규제의 대상입니다. 만약 컴퓨터가 단순한 추측을 바탕으로 엉뚱한 위치에 작업 팀을 보낸다면, 유틸리티 기업은 수천 달러를 낭비하고 공공의 신뢰를 저해하게 됩니다. 핵심 과제는 단순히 누수를 찾는 것이 아니라, 언제 파헤치지 말아야 하는지를 확실히 아는 것입니다.

연구진은 이제 불확실성을 다루는 새로운 방법, 즉 목표를 단순히 위치를 예측하는 것에서 책임 있는 의사결정을 내리는 것으로 전환하는 방안을 제안했습니다. 모든 이상 징现象이 감지될 때마다 컴퓨터가 특정 지점을 지목하도록 강요하는 대신, 이 새로운 시스템은 증거가 충분하지 않을 때는 행동하지 않도록 설계되었습니다. 이 접근 방식은 진단을 의료적 감별 진단처럼 취급합니다. 즉, 모든 기침을 폐렴이라고 가정하는 대신, 센서 오작동이나 갑작스러운 물 사용량 급증과 같은 다른 가능성을 고려하고, 증거가 압도적일 때만 수술을 권고하는 것입니다. "모르겠다"라고 자신 있게 말하고 그 이유를 증명할 수 있는 시스템을 구축함으로써, 연구진은 인공지능과 실제 인프라 관리의 안전 요구 사항 사이의 간극을 메우고자 합니다.

여러 중국 기관의 연구진이 이끄는 팀은 이 아이디어를 수자원 네트워크에 테스트하기 위해 두 부분으로 구성된 디지털 시스템을 구축했습니다. 첫 번째 부분인 "실행자(executor)"는 엄격한 조사관 역할을 합니다. 이 실행자는 물의 흐름과 압력 변화를 시뮬레이션하는 가상 복제본인 '디지털 트윈'을 가져와서, 서로 경쟁하는 이론들을 검증합니다. 센서가 이상 압력 강하를 감지하면, 실행자는 이를 단순히 누수로 가정하지 않습니다. 그것이 누수로 인한 것인지, 갑작스러운 수요 증가인지, 고장 난 센서 때문인지, 아니면 실수로 닫힌 밸브 때문인지에 대한 여러 가설을 시뮬레이션합니다. 실행자는 이러한 시뮬레이션을 실행하여 어떤 이론이 실제 세계의 데이터를 재현할 수 있는지 확인합니다. 만약 어떤 이론이 관측된 수치와 일치하지 않으면, 그 이론은 폐기됩니다. 이 과정은 결정권자에게 도달하기 전에 허위 알람을 걸러냅니다.

두 번째 부분인 "감독관(supervisor)"은 독립적인 감사관 역할을 합니다. 감독관은 스스로 위치를 추측하지 않습니다. 대신, 실행자가 생성한 증거 패키지를 검토합니다. 이 패키지는 물리 시뮬레이션에서 도출된 물리적 수치, 예를 들어 누수 이론이 데이터와 얼마나 잘 부합하는지, 그리고 다른 이론들보다 얼마나 더 나은지와 같은 확고한 숫자만을 포함합니다. 감독관은 이 숫자들을 행동을 승인하기 전에 반드시 충족해야 하는 엄격한 규칙, 즉 "계약"에 비추어 검토합니다. 증거가 강력하다면, 시스템은 결정이 타당함을 입증하는 디지털 인증서와 함께 파견 명령을 발행합니다. 만약 증거가 약하거나 모호하다면, 시스템은 행동을 거부하고 작업 팀을 보내지 않습니다. 이러한 거부는 실패가 아니라, 비용이 많이 드는 실수를 방지하기 위한 의도적이고 검증된 결과입니다.

연구진은 이 접근 방식을 컴퓨터 생성 모델부터 중국의 실제 지역 네트워크에 이르기까지 다양한 시나리오에 적용했습니다. 381개의 교차점이 있는 네트워크의 표준 컴퓨터 시뮬레이션에서, 모든 이벤트에 대해 추측하도록 강요받는 전통적인 시스템은 약 32%의 확률로만 정확했습니다. 반면, 새로운 시스템은 약 40%의 이벤트에 대해서만 행동하기로 결정했지만, 실제로 행동했을 때는 96%의 정확도를 보였습니다. 이 시스템은 많은 이상 징후가 누수가 아님을 성공적으로 식별해 냈으며, 이를 센서 오류나 수요 급증과 정확히 구별해 냈습니다. 증거가 굴착을 정당화할 만큼 명확하지 않은 상황을 마주했을 때, 시스템은 단순히 행동을 유보함으로써 강제 추측 방식이 겪었던 68%의 오류율을 피했습니다.

또한 이 시스템은 컴퓨터의 내부 지도가 실제와 완벽하게 일치하지 않는 실제 상황을 시뮬레이션한 제3자 벤치마크 데이터셋을 통해 테스트되었습니다. 이 까다로운 테스트에서 시스템은 데이터가 너무 노이즈가 심해 확신할 수 없음을 인지하고 88%의 이벤트에 대해 행동을 유보했습니다. 증거가 충분히 강력했던 4개의 이벤트에 대해서는 100%의 정밀도로 누수 위치를 정확히 찾아냈습니다. 이는 시스템이 재학습 없이도 새로운 환경에 자신의 논리를 전이할 수 있음을 보여주었으며, 이는 실제 현장 배포를 위한 필수 요건입니다.

가장 엄격한 테스트는 2025년의 실제 누수 수리 명령 194건의 기록을 사용하는 중국의 한 실제 수도 구역에서 진행되었습니다. 이 실제 환경에서 누수는 매우 미세하여 압력 신호가 시스템의 자연스러운 노이즈 속에 묻힐 정도로 미약했습니다. 추측을 강요받는 전통적인 시스템이라면 194번 모두 작업 팀을 보냈을 것이며, 아마도 올바른 지점을 찾는 데 12% 정도의 성공률을 보였을 것입니다. 엄격한 규칙을 준가하는 새 시스템은 압력 증거가 굴착을 정당화하기에 불충분하다고 판단하여 거의 모든 사례에 대해 행동을 유보했습니다. 시스템은 단 5건의 이벤트에 대해서만 작업 팀을 파견했으며, 그중 3건이 정확했습니다. 이는 낮아 보일 수 있지만, 연구진은 시스템이 데이터의 한계에 대해 정직했다는 점을 강조했습니다.

압력 센서가 감지하기에는 너무 작은 나머지 누수들을 복구하기 위해, 시스템은 두 번째 단계의 조사를 추가했습니다. 시스템은 네트워크의 각 구역으로 유입되는 총 수량을 살펴보았습니다. 누수가 센서에 눈에 띄는 압력 강하를 일으킬 만큼 크지 않더라도, 구역으로 들어오는 전체 수량에는 영향을 미칩니다. 시스템은 구역으로 유입되는 물과 유출되는 물을 비교함으로써 어느 구역에 누수가 있는지 식별할 수 있었습니다. 이 질량 수지(mass-balance) 접근 방식을 통해, 시스템은 194개의 실제 누수 중 85개를 성공적으로 식별해 냈으며, 구역 단위에서 100%의 정밀도를 달ach했습니다. 이러한 2단계 접근 방식은 유틸리티 기업이 자원을 효과적으로 투입할 수 있게 해주었습니다. 즉, 압력 데이터가 명확할 때만 굴착을 위해 팀을 보내고, 압력 데이터가 너무 약할 때는 누수 소리를 듣기 위한 조사 팀을 적절한 구역으로 보내는 것입니다.

연구진은 이 시스템의 강점이 "행동하지 말아야 할 때"를 증명하는 능력에 있다고 강조했습니다. 인공지능이 모든 질문에 답을 내놓기를 기대하는 세상에서, 이 연구는 가장 가치 있는 기여가 "확신할 수 없다"라고 말하는 능력일 수 있음을 시사합니다. 모든 결정을 물리 시뮬레이션에 근거하고 독립적인 검증을 통해 확인함으로써, 이 시스템은 자신이 취하는 모든 행동에 대해 방어 가능한 기록을 생성합니다. 잘못된 결정이 수백만 달러의 비용을 발생시키고 공공의 신뢰를 해칠 수 있는 규제 산업 인프라에서 이러한 책임성은 필수적입니다. 본 연구는 물리 기반의 조사관과 엄격한 규칙을 따르는 감사관을 결합함으로써, 단순히 똑똑할 뿐만 아니라 실제 세계의 의사결정을 신뢰할 수 있을 만큼 안전하고 신뢰할 수 있는 AI 시스템을 구축하는 것이 가능하다는 것을 보여줍니다.

기술 요약: 검증 가능한 기권(Verifiable Abstention)을 통한 용수 공급 네트워크 내 AI 누수 진단의 책임성 확보

문제 정의
수자원 유틸리티 기업들은 인공지능(AI) 누수 국지화 모델의 정확도와 실제 운영 환경에서의 배치 가능성 사이의 심각한 간극에 직면해 있다. 데이터 기반 모델(예: 그래프 신경망, 물리 정보 기반 모델)은 국지화 능력을 향상시켰으나, **책임성(Accountability)**이 결여되어 있다. 용수 공급 네트워크에서 누수 국지화라는 역문제(inverse problem)는 매우 까다롭다. 후보 누수 위치는 희소한 센서 수보다 훨씬 많으며, 이상 징이트는 수요 급증, 센서 드리프트, 또는 밸브 오작동과 같은 비누수 원인에서 비롯될 수 있기 때문이다. 잘못된 굴착 파견은 수천 달러의 비용을 발생시키고 인프라를 손상시킨다. 기존 방식은 신뢰도가 낮더라도 모든 이벤트에 대해 예측을 강제하거나, 감사 가능한 근거가 부족한 스칼라 형태의 신뢰도 점수에 의존한다. 결과적으로, 유틸리티 기업들은 AI가 언제 행동하지 말아야 하는지를 증명할 수 있는 방법이 없기 때문에 AI가 자율적으로 작업반을 파견하도록 신뢰할 수 없다.

방법론: 실행자-감독자(Executor–Supervisor) 아키텍처
저자들은 누수 국지화를 순수한 예측 작업에서 검증 가능한 기권을 통한 책임 있는 의사결정으로 재정의하였다. 이 시스템은 두 단계의 에이전트 아키텍처를 채택한다:

실행자 에이전트 (결정론적, 물리 기반):
- 가설 공간: 상호 배타적이고 포괄적인 경쟁 가설 세트를 나열한다: $K$ 개의 위상학적 구역 중 하나에서의 누수, 구역 전체의 수요 이상, 센서 결함, 밸브 오작동, 또는 실행 가능한 이상 없음.
- 디지털 트윈 반증(Falsification): 실행자는 디지털 트윈을 순방향 예측기로 사용하는 대신, 반증 도구로 사용한다. 각 가설을 교정된 수리 디지털 트윈(WNTR/EPANET)에 대해 시뮬레이션한다. 관측된 센서 편차를 재현할 수 없는 가설은 큰 잔차(residual)를 축적하며 반증된다.
- 베이지안 융합: 생존한 가설들은 **오캄의 면도날(Occam penalty)**을 적용한 베이지안 업데이트를 통해 사후 분포로 융합된다. 이 페널티는 과하게 유연한 누수 가설(많은 노드 유량 조합을 탐색하는 가설)이 단순한 수요 이상 현상으로 위장하는 것을 방지한다.
- 증거 패키지: 실행자는 사후 분포, 잔차, 반증 상태를 포함하는 구조화된 수치적 증거 패키지를 출력한다. 자유 형식의 텍론이나 자기 보고식 신뢰도 점수는 포함되지 않는다.
감독자 에이전트 (독립 감사자):
- 목표 계약: 감독자는 국지화 작업을 수행하지 않는다. 대신, 다음의 6가지 결정론적 술어(predicate)로 구성된 코드 검증 가능한 목표 계약에 따라 실행자의 증거 패키지를 감사한다:
  - 존재성(Existence): 최상위 가설은 충분한 존재 질량을 가진 누수여야 한다.
  - 영역(Region): 후보 영역은 작업반이 탐색하기에 충분히 작아야 한다.
  - 차이(Margin): 최상위 가설은 정의된 격차를 두고 최선의 대안보다 앞서야 한다.
  - 대안(Alternatives): 경쟁 설명들은 일어날 법하지 않아야 한다.
  - 잔차(Residual): 적합된 누수는 물리적으로 관측치를 재현해야 한다(마할라노비스 거리 $\leq 3$ ).
  - 안전(Safety): 안전하지 않은 암시적 행동이 없어야 한다.
- LLM 감사자: 실행자의 구성 요소와 구별되는 독립적인 대규모 언어 모델(LLM)이 보조 감사자로서 역할을 수행한다. LLM은 오직 수치적 요약만을 검토하여 내부 불일치(예: 산술적 불가능성)를 확인하며, 거부 의견을 추가할 수는 있지만 실패한 하드 체크(hard check)를 뒤집을 수는 없다.
- 결과: 시스템은 세 가지의 일급 결과물 중 하나를 생성한다:
  - 실행(ACT): 서명 및 해시 처리된 증거 인증서와 함께 파견 실시.
  - 증거 요청(REQUEST EVIDENCE): 능동적 감지(가장 변별력 있는 추가 측정값 요청)를 트리거하고 재평가.
  - 기권(ABSTAIN): 증거가 불충분한 이유를 설명하는 보고서와 함께 인간 운영자에게 업무를 이관.

주요 기여

목표의 전환: 본 논문은 누수 진단의 목표를 예측 정확도 극대화에서 책임성(accountability) 확보로 변경한다. 검증 가능한 기권 하에서 "행동하지 않음"은 단순한 실패가 아니라 증명 가능하고 감사 가능한 결과가 된다.
실행자-감독자 설계: 이는 물리 기반의 실행자가 경쟁하는 원인을 반증하고, 독립적인 감독자가 코드 검증 가능한 계약과 LLM 감사자를 통해 행동을 제어하는 특정 아키텍처를 통해 실현된다. 이 설계는 LLM이 아닌 물리 도구로부터 생성된 수치만이 의사결정에 입력되도록 보장한다.
배포 가능한 2단계 대응: 시스템은 실질적인 현장 대응 전략을 제공한다. 압력 신호가 너무 약해 굴착이 어려운 실제 환경에서는, 구역 유입 계측을 사용하는 질량 균형 조사(mass-balance survey) 계층을 활용하여 구역 단위에서 이벤트를 복구함으로써 자율 운영을 위한 방어 가능한 경로를 제공한다.

결과
시스템은 네 개의 인실리코(in-silico) 네트워크(EXA7, KY4, City H, City D), 독립적인 제3자 벤치마크(BattLeDIM L-Town), 그리고 중국 유틸리티의 194개 실제 누수 주문이 담긴 감사된 현장 레지스터를 통해 검증되었다.

의사결정 정밀도: EXA7 벤치마크에서, 시스템은 강제된 베이스라인 정확도 31.7%를 실행 이벤트에 대한 96.1%의 의사결정 정밀도(약 40%의 이벤트에 대해 실행)로 전환했다. 게이트를 강화하면 13%의 커버리지에서 100% 정밀도를 달달성할 수 있었다.
차별 진단: 시스템은 비누수 혼란 요인을 정확히 식별했다. 센서 결함은 누수로 오분류되지 않았으며, 수요 이상은 100건 중 99건에서 정확히 유형이 분류되었다. 시스템은 억지로 추측하기보다 잘못된 굴착을 피하는 것을 우선시한다.
독립 벤치마크 (L-Town): 모델 불일치와 노이즈가 존재하는 BattLeDIM L-Town 벤치마크에서, 시스템은 88%의 이벤트에 대해 기권하였으나, 지원 가능한 4개의 누수에 대해서는 100% 정밀도(4/4)로 실행하였다. 반면 스칼라 임계값 방식은 상위 4개 선택지 중 25%에서 잘못된 파견을 수행했다.
현장 레지스터 (City D): 194개의 감사된 실제 누수 주문(중앙값 누수율 0.106 L/s, 노이즈 수준보다 훨씬 낮음)에 대해, 강제 국지화 모델은 12%의 정밀도만을 달성했다. 반면 책임 있는 시스템은:
- 5개의 이벤트에 대해 굴착을 파견하였고(커버리지 2.6%), 그 중 3개가 정확했다(정밀도 60%).
- 증거가 불충분한 나머지 189개 이벤트에 대해서는 기권하였다.
- 질량 균형 조사 계층을 적용하여 구역 단위에서 44%(85/194)의 이벤트를 100% 정밀도로 복구함으로써, 비용이 많이 들고 무익한 굴착을 방지했다.
강건성: 시스템은 노이즈가 증가함에 따라 오탐지(false positive)를 늘리는 대신 커버리지를 줄이는 방식으로(즉, 덜 행동하는 방식으로) 정밀도를 유지하며 우아하게 성능을 저하시킨다.

의의 및 주장
본 논문은 규제 대상인 수자원 인프라에 AI를 배치하는 데 있어 병목 현상이 정확도가 아닌 책임성임을 주장한다. 물리 기반 반증, 명시적 차별 진단, 검증 가능한 기권을 통합함으로써, 이 시스템은 "자율적인 용수 인프라 운영을 위한 방어 가능한 경로"를 제공한다.

저자들은 자신들의 기여가 더 정확한 국지화 모델을 만드는 것이 아니라(기본 국지화 모델은 실제 노이즈 하에서 여전히 취약하다), 의사결정 프레임워크를 만드는 것임을 강조한다. 이 시스템은 스칼라 기반의 기권 규칙이 갖는 한계를 넘어 감사 가능한 정당성을 제공하며, 이를 통해 유틸리티 기업이 증거가 물리적으로 충분하고 수학적으로 검증 가능할 때만 작업반을 파견하도록 AI를 신뢰할 수 있게 한다. 이 아키텍처는 오프라인 시뮬레이션이 가능한 디지털 트윈과 비용이 많이 드는 실행 행위가 공존하는 네트워크ed 물리적 결함 진단 분야에 범용적으로 적용 가능하다. 논문은 라이브 SCADA를 활용한 배포가 실제 제어실 환경에서 시스템을 검증할 결정적인 다음 단계라고 결론짓는다.

유사한 논문