Knowledge Graphs and Explainable AI as Complementary Resources for Urban Mining

기술 요약: 도시 광업을 위한 상보적 자원으로서의 지식 그래프와 설명 가능한 AI

문제 제기
도시 광업, 특히 기존 건축물에 대한 해체 전 평가(Pre-Demolition Assessment, PDA)는 자격을 갖춘 감사인이 구성 요소를 목록화하고 그 운명(재사용, 재활용 또는 폐기)을 결정해야 하는 규제된 감사 프로세스에 의존한다. 인공지능(AI)이 이러한 감사인을 지원할 수 있지만, 도시 광업 확장의 주요 제약은 기술적 모델의 예측 정확도가 아니라, 모델이 뒷받침하는 결정의 **방어 가능성(defensibility)**이다. 결정은 규제 용어로 설명 가능해야 하며, 도메인 제약 조건 하에서 타당해야 하고, 문서상으로 추적 가능하며, 이의 제기가 가능해야 한다.

현재의 설명 가능한 AI(XAI) 기법(예: 특성 기여도, 반사실적 설명)은 블랙박스 모델의 입력 공간에서 작동하며, 규제 범주나 물리적 도메인 제약과 정렬되지 않는 출력을 생성하는 경우가 많다. 반대로, 지식 그래프(KG)는 구조화된 도메인 지식을 제공하지만 특정 모델 인스턴스에 대한 반응성이 부족하다. 기존 문헌들은 KG와 XAI의 통합을 분류해 왔으나, 구조적으로는 미비한 상태로 남아 있다. 즉, 왜 특정 통합 방식이 두 자원이 단독으로는 제공할 수 없는 결과물을 만들어내는지에 대한 이론적 설명이 부족하다.

방법론 및 이론적 관점
본 논문은 정보 시스템(IS)의 자원 기반 전통에 근거한 **상보성 이론적 해석(complementarity-theoretic interpretation)**을 채택한다. 이 관점에서 두 자원은 한 자원의 수준이 높아질 때 다른 자원의 한계 기여도가 증가할 때 상보적이라고 본다. 저자들은 KG와 XAI의 통합이 단순히 합산적인 것이 아니라 구조적이라고 주장한다. 즉, 결합된 객체는 개별 객체가 갖지 못한 속성(가독성, 타당성, 출처 명시, 이의 제기 가능성)을 가진다.

이 프레임워크는 블랙박스 예측기의 "설명 표면(explanatory surface)" 위에서 작동한다. 이는 엔티티(entity), 속성(property), 값(value), 신뢰도 주석(reliability annotation)의 튜플 $(e, p, v, r)$로 구성된 인스턴스 $x$에 대한 속성-상태 그래프 $\Sigma(x)$를 정의한다. 방법론은 XAI 산출물과 KG 기저 구조 간의 유형화된 연산을 통해 정의되는 네 가지 통합 모드를 제안한다.

1. 리프팅(Lifting): XAI의 기여도를 KG 인스턴스로 매핑한다. 이는 입력 특성을 유형화된 인스턴스(예: 특정 영역을 product:DoorLeaf로 매핑)로 매핑하는 그라운딩 함수 $\gamma$를 사용하며, 부분-전체 계층 구조를 따라 돌출도(salience) 질량을 집계한다.
   • 방어 속성: 가독성(Legibility) (설명이 요구되는 세밀도에서 규제 용어로 존재함).
2. 제약(Constraining): KG의 호환성 공리(axiom)에 기반한 타당성 술어를 통해 반사실적 후보를 필터링한다. 이는 제안된 개입(예: 재료 변경)이 정의적 의존성과 구조적 제약(예: 방화 구획 토폴로지)을 충족하도록 보장한다.
   • 방어 속성: 타당성(Plausibility) (반사실적 제안이 실제 감사 결정에 허용 가능한 개입에 부합함).
3. 타이핑(Typing): 증거 체인(모델 신뢰도, 추론 체인, 교정 데이터)을 바탕으로 속성 단언(assertion)에 대한 신뢰도 주석을 구축한다. 이는 특정 단언에 신뢰도 유형(예: Assored, Confirmed, Deleted)을 적용한다.
   • 방어 속성: 출처 명시(Sourcing) (각 속성을 뒷받침하는 증거에 따른 감사인의 대응을 차별화함).
4. 수정(Revising): 감사인의 행동(수용, 이의 제기 또는 클레임 추가)이 속성-상태 그래프를 업데이트하고 프로비넌스(provenance) 경로를 생성하는 양방향 연산자이다(PROV-O 사용). 교차 인스턴스 작업은 온톨로지 수정을 위한 증거 풀로 전달된다.
   • 방어 속성: 이의 제기 가능성(Contestability) (감사 결정은 검사 가능하고 수정 가능하며 쿼리가 가능한 이력을 가진 산출물임).

주요 기여
본 논문의 주요 기여는 세 가지이다:

1. 이론적 해석: 설명 책임을 지는 전문가 프로세스를 위한 KG-XAI 통합에 대해, 단순한 기술적 나열을 넘어 기술적 쌍이 어떻게 감사 산출물이 되는지에 대한 구조적 분석과 상보성 이론적 설명을 제공한다.
2. 통합 모드: 네 가지 구체적인 통합 모드(Lifting, Constraining, Typing, Revising)를 공식화하여, 이를 각각 규제 준수에 필요한 고유한 방어 속성과 연결한다.
3. 예시 프레임워크: W3C Linked Building Data (LBD) 스택과 도시 광업 인덱스 내의 방화문 예시를 사용하여 프레임워크를 입증한다.

결과 및 예시
본 논문은 경험적 실험 결과를 제시하는 대신, 모드를 설명하기 위해 **작업 사례(worked example)**로서 방화문 평가를 제시한다.

• 리프팅은 모델의 돌출도(saliency, 예: 씰, 리프, 하드웨어)를 구조화된 문(door) 구성 요소의 설명으로 변환하여, 감사인이 해당 설명을 감사 필드에 직접 복사할 수 있게 한다.
• 제약은 반사실적 제안을 필터링한다. 예를 들어, 방화 구획 벽에 있는 문이라는 점(KG에 인코딩된 제약) 때문에 내부 코어 재료를 비방화 재료로 바꾸는 제안은 거부하지만, 접착형 경첩을 볼트형 경첩으로 바꾸는 것은 유효한 개입으로 수용한다.
• 타이핑은 방화 성능 등급(예: 신뢰도 0.68의 Assumed)에 신뢰 점수를 할당하여, 감사인이 일반적인 재촬영 대신 특정 명확화 검사를 수행하도록 유도한다.
• 수정은 검사 후(예: 해당 문이 방화용이 아닌 연기 제어용임을 발견) 분류에 이의를 제기할 수 있게 한다. 이는 속성 상태를 업데이트하고, 변경의 프로비넌스를 기록하며, 잠재적 수정을 위해 온톨로지에 플래그를 표시한다.

저자들은 단 하나의 모드라도 제거되면 방어 프로필이 저하된다고 언급한다. Lifting을 제거하면 히트맵만 남게 되고, Constraining을 제거하면 규제상 금지된 대체가 발생하며, Typing을 제거하면 출처가 불분명한 신뢰 점수만 남고, Revising을 제거하면 프로비넌스 경로가 없는 정적인 인벤토리만 남게 된다.

의의 및 주장
본 논문은 경험적 연구라기보다 위치 설정적(positional) 연구로 자리매김한다. 그 의의는 자격을 갖춘 인간이 책임을 지는 전문가 도메인 AI에서 KG와 XAI를 통합하기 위한 구조적 어휘를 제공하는 데 있다.

저자들은 전문가 도메인에서의 XAI에 관한 주의적 결과들(예: 설명이 정확도 향상에 실패하는 경우)이, 방어 속성을 활성화할 수 있는 기저 구조의 부재로 인해 구조적으로 설명될 수 있다고 주장한다. 가독성, 타당성, 출처 명시, 이의 제기 가능성을 내재적으로 지원하는 AI 배포를 구축함으로써, 본 프레임워크는 EU AI Act 및 산업별 표준(예: DIN SPEC 91484)과 같은 규제 체계의 요구를 충족하는 것을 목표로 한다.

본 논문은 한계를 명시적으로 인정한다. 프레임워크는 온톨로지 거버넌스(수정에 대한 권한은 외부 제도적 기관으로부터 와야 함)를 해결하지 않으며, 수정 없이 본질적으로 해석 가능한 모델로 확장되지 않는다. 향-후 과제로 PDA 사례 연구를 통한 프레임워크의 운용화와, 이를 통해 감사인의 AI 지원 평가를 문서화, 이의 제기 및 수정하는 능력에 미치는 영향을 평가하는 것을 꼽았다.