기술 요약: SpheriCity – 지속가능성 의사결정 지원을 위한 신뢰할 수 있는 대화형 AI 설계

1. 문제 정의

지속가능성 전문가들은 도시 수준의 순환성 평가 보고서라는 방대하고 이질적인 코퍼스를 탐색하는 과정에서 상당한 인지적 및 상호작용적 부담에 직면해 있다. 이러한 문서들은 종종 80~100페이지를 넘어서며, 재료 흐름, 인프라, 정책 개입에 관한 파편화된 정보를 포함하고 있다. 기존의 문서 간 종합 방식은 수동 검색, 읽기 및 교차 참조를 필요로 하며, 이는 시간이 많이 소요될 뿐만 아니라 중요한 연결 고리를 놓칠 위험이 있다.

거대 언어 모델(LLM)과 검색 증강 생성(RAG) 시스템은 신속한 지식 합성을 제공할 잠재력이 있지만, 고도의 이해관계가 걸린 지속가능성 맥락에서는 치명적인 리스크를 초 نیز한다. 구체적으로, 불투명한 추론, 환각 현상(hallucination), 출처 투명성의 결여는 사용자 신뢰와 해석 가능성을 저해한다. 현재의 대화형 AI 평가는 일반적인 지표(유창성, 문법적 정확성)에 의존하는 경향이 있으며, 이는 검증 가능하고 편향되지 않으며 추적 가능한 근거를 통해 정책 결정을 정당화해야 하는 전문가들의 특수한 요구를 포착하지 못한다. 즉, 단순히 유창한 답변을 생성하는 것을 넘어 "신뢰할 수 있는 지식 체득(knowledge sensemaking)"을 지원하는 대화형 에이전트를 어떻게 설계할 것인가에 대한 연구 공백이 존재한다.

2. 방법론

2.1 시스템 설계: SpheriCity

저자들은 36개의 순환성 평가 보고서(약 2,800페이지) 코퍼스를 대상으로 지식 체득을 지원하기 위해 설계된 프로비넌스 우선(provenance-first) 대화형 프로토타입인 SpheriCity를 개발하였다. 시스템 아키텍처는 근거의 그라운딩(grounding)이 신뢰에 어떻게 영향을 미치는지 테스트하기 위해 세 가지 뚜렷한 검색 구성(retrieval configuration)을 사용하는 RAG 프레임워크를 채택한다:

1. 벡터 기반 검색(Vector-based Retrieval): 임베딩 기반 유사도 검색(all-MiniLM-L6-v2)과 재귀적 문자 분할 및 크로스 인코더 재순위화(cross-encoder re-ranking)를 사용하여 의미적으로 유사한 구절을 검색한다.
2. 그래프 기반 검색(Graph-based Retrieval): LightRAG 시스템을 활용하여 엔티티(도시, 정책, 재료)와 관계의 지식 그래프를 구축함으로써, 연결된 개념들 간의 멀티 홉(multi-hop) 탐색을 가능하게 한다.
3. 하이브리드 검색(Hybrid Retrieval): 벡터와 그래프 파이프라인 모두에서 독립적인 응답을 생성한 후, 가장 강력한 논점을 통합하고 불일치를 기록하며 근거 중심의 주장의 우선순위를 정하기 위해 합성 프롬프트(synthesis prompt)를 사용한다.

핵심 설계 원칙:

• 핵심으로서의 프로비넌스(Provenance as Core): 인터페이스는 출처 속성과 생성 과정을 명시적으로 분리한다. 페이지 번호는 LLM에 의해 생성되는 것이 아니라 보존된 문서 메타데이터로부터 도출되므로, 환각된 인용의 위험을 줄인다.
• 구조적 합성(Structured Synthesis): 응답은 서사적 텍스트보다는 구조화된 불렛 포인트(개입, 결과, 과제) 형태로 구성되어 스캐닝과 검증을 용이하게 한다.
• 상호작용 스캐폴딩(Interaction Scaffolds): 인터페이스에는 질의 형성을 가이드하기 위한 일반적인 작업(도시 간 비교, 정책 요약 등)용 프롬프트 템플릿이 포함되어 있다.

2.2 평가 프레임워크

본 연구는 참여적 설계(participatory design) 접근 방식을 활용하였다. 6명의 지속가능성 전문가가 15개 항목의 리커트 척도로 측정되는 5가지 차원으로 구성된 평가 프레임कर를 공동 정의하였다:

1. 주제 관련성(Topical Relevance): 질문에 대한 직접성.
2. 맥락적 적합성(Contextual Fit): 지리적/제도적 범위에 대한 적절성.
3. 인지된 정확성(Perceived Accuracy): 전문가 지식에 기반한 사실적 정확성.
4. 중립성(Neutrality): 편향이나 부적절한 관점의 부재.
5. 정보의 깊이(Depth of Information): 추측 없는 적절한 상세 수준.

2.3 연구 프로토콜

6명의 실무자를 대상으로 형성적 전문가 리뷰(formative expert review)가 수행되었다. 연구는 전문가들이 13개의 대표적인 질의(도시 특정, 비교, 권고 작업 포함)에 대해 세 가지 검색 구성으로부터 생성된 응답을 평가하는 **정적 리뷰 프로토콜(static review protocol)**을 채택하였다. 이 설계는 실시간 상호작용의 인지적 부담을 최소화하면서 검색 전략 간의 통제된 내적 평가(within-rater comparisons)를 가능하게 했다. 데이터 수집에는 정량적 등급과 정성적 서술 성찰이 포함되었다.

3. 주요 결과

3.1 질적 결과

전문가 피드백에 대한 주제 분석 결과 네 가지 핵심 통찰이 도출되었다:

• 신뢰에는 프로비넌스가 필요하다: 가시적인 출처 속성(보고서 제목, 페이지 번호)은 신뢰를 위한 전제 조건이다. 근거가 추적되지 않는 응답은 유창성과 관계없이 회의적으로 취급되었다. 전문가는 인용의 부재를 신뢰성을 떨어뜨리는 결격 사유로 간주했다.
• 확정적 답변보다 지식 체득(Sensemaking)이 중요하다: 전문가들은 단일한 확정적 답변보다 추론과 탐색을 지원하는 구조화된 합성을 선호했다. 그들은 자동화된 권고를 제공하는 도구보다는 트레이드오프(trade-offs)를 탐색하도록 돕는 도구를 선호했다.
• 해석 가능성의 붕괴는 불신을 유발한다: 작은 맥락적 오류(예: 주(state)를 도시(city)로 오인하는 것)는 신뢰를 불균형하게 무너뜨렸다. 고도의 이해관계가 걸린 영역에서 이러한 오류는 과도한 일반화의 위험 신호로 간주되어, 전문가들이 전체 응답을 거부하게 만들었다.
• 워크플로우 불일치: 전문가들은 챗봇을 최종 출력물이 아닌 탐색을 위한 시작점으로 보았다. 그들은 AI 출력을 실제 의사결정 워크플로우에 통합하기 위해 주석 달기, 노트 작성, 정당화 로깅을 지원하는 기능이 필요하다고 표현했다.

3.2 정량적 결과

3,510개의 등급에 대한 선형 혼합 효과 분석(linear mixed-effects analysis) 결과는 다음과 같다:

• 검색 성능: 벡터 기반 및 하이브리드 검색 방식이 모든 차원에서 특히 인지된 정확성과 정보의 깊이 측면에서 그래프 기반 검색보다 일반적으로 높은 점수를 받았다.
• 태스크 민감도: 성능 격차는 도시 특정 질의에서 가장 두드러졌으며, 이는 벡터 검색이 국지적인 맥락 정보를 더 잘 포착함을 시사한다.
• 완전성과 신뢰의 긴장 관계: 벡터 기반 검색이 더 포괄적인 응답을 생성했지만, 전문가들은 해당 응답 내의 미세한 환각이나 맥락적 과도 일반화에 여전히 민감했다. 이는 해석 가능성이 훼bed될 경우 정보의 깊이가 증가한다고 해서 반드시 신뢰도가 높아지는 것은 아님을 확인시켜 준다.

4. 주요 기여

본 논문은 세 가지 주요 기여를 한다:

1. SpheriCity 프로토타입: 구조적 합성 및 페이지 수준의 추적성을 특징으로 하는, 지속가능성 지식 체득을 위해 특별히 설계된 프로비넌스 우선 대화형 에이전트.
2. 전문가 기반 평가 프레임워크: 일반적인 지표를 넘어 관련성, 맥락적 적합성, 정확성, 중립성 및 깊이를 평가하기 위해 전문가들과 공동 개발한 도메인 특화 평가 도구.
3. 고도의 이해관계가 걸린 AI를 위한 디자인 인사이트: 지속가능성 맥락에서 신뢰는 응답의 유창함이 아니라 가시적인 프로비넌스와 불확실성 전달을 통해 조정된다는 경험적 증거. 본 연구는 AI 시스템이 권위적인 의사결정자가 아닌 협력적인 지식 체득 도구로서 기능해야 함을 강조한다.

5. 의의 및 주장

저자들은 이 연구를 책임 있는 지속가능성을 위한 AI로 나아가는 필수적인 단계로 규정한다. 그들은 대화형 AI가 고도의 이해관계가 걸린 의사결정 지원에 유용하려면 검증과 책무성을 우선시하는 전문가의 워크플로우와 일치해야 한다고 주장한다.

논문은 다음과 같이 디자인 우선순위의 변화를 제안하며 겸허하게 결론짓는다:

• 유창성에서 프로비넌스로: 적절한 신뢰를 구축하기 위해 시스템은 주장의 출처와 범위를 노출해야 한다.
• 답변 생성에서 지식 체득으로: 인터페이스는 반복적인 탐색, 비교 및 근거 정당화를 지원해야 한다.
• 자동화에서 협업으로: AI는 전문가의 추론을 대체하려 하기보다 불확실성과 맥락적 제약을 드러냄으로써 인간의 판단을 보조해야 한다.

저자들은 작은 표본 크기, 정적 평가의 특성(다회차 상호작용 부족), 순환성 보고서로 한정된 연구 범위를 한계점으로 인정한다. 이들은 이를 실패가 아니라, 잘못된 답변이 시민적 또는 환경적 결과를 초래할 수 있는 상황에서 신뢰할 수 있는 AI가 어떻게 행동해야 하는지에 대한 열린 연구 질문으로 규정한다. 본 연구는 지속가능성 분야의 AI의 미래가 투명하고 책임감 있으며 협력적인 인간-AI 지식 작업을 지원하는 시스템을 설계하는 데 있다고 결론짓는다.