Agentic Retrieval-Augmented Generation for Verifiable Regulatory Compliance in Urban Cyber-Physical Systems
본 논문은 도시 사이버-물리 시스템(Urban Cyber-Physical Systems)에서 규제 정확성을 보장하고 환각 현상을 방지하기 위해 결정론적 검증 에이전트를 통합한 '검증 우선 에이전틱 RAG(Verification-First Agentic RAG)' 프레임워크를 제안하며, 기존 방식에 비해 개정 사항 탐지 및 컴플라이언스 추론 측면에서 우수한 성능을 입증한다.
원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
도시는 도로와 수도관 같은 물리적 인프라가 센서, 소프트웨어, 인공지능의 디지털 네트워크와 깊게 얽혀 있는 점점 더 복잡한 유기체로 변모하고 있습니다. 이러한 상호 연결된 시스템인 도시 사이버-물리 시스템(urban cyber-physical systems)은 우리 도시를 더욱 지속 가능하고 탄력적으로 만들 것을 약속합니다. 이 시스템은 실시간으로 공기 질을 모니터링하고, 에너지 사용을 최적화하며, 과거에는 불가능했던 수준의 지능으로 교통 흐름을 관리할 수 있습니다. 그러나 이러한 디지털 두뇌가 더 강력해짐에 따라, 이들은 또한 규칙의 미로를 헤쳐 나가야 합니다. 모든 도시는 빈번하게 변경되고 지역마다 서로 다른 환경법, 안전 규정, 계획 규제의 촘촘한 그물망 아래에서 운영됩니다. 도시가 안전하고 적법하게 기능하기 위해서는 자동화된 시스템이 이러한 규칙을 이해할 뿐만 아니라, 현재 적용되는 규칙의 정확한 버전이 무엇인지도 반드시 알아야 합니다. 만약 시스템이 구 버전의 법률이나 특정 지역에 더 이상 적용되지 않는 규정에 의존한다면, 그 결과는 자원 사용의 비효율성부터 공공의 신뢰를 저해하는 심각한 법적 위반에 이르기까지 다양할 수 있습니다.
문제는 컴퓨터에게 이러한 법률에 대해 추론하는 법을 어떻게 가르칠 것인가에 있습니다. 최근 몇 년 동안, '검색 증강 생성(retrieval-augmented generation)'이라 불리는 기술이 이 과업을 위한 강력한 도구로 등장했습니다. 컴퓨터가 수백만 개의 법률 문서를 즉각적으로 검색하여 질문에 대한 답을 찾아낸 다음, 찾은 내용을 바탕으로 명확한 설명을 작성하는 모습을 상상해 보십시오. 이 방식은 큰 가능성을 보여주었지만, 결정적인 결함이 하나 있습니다. 바로 컴퓨터가 현재 활성화된 법과 몇 년 전 교체된 법을 구분하지 못한다는 점입니다. 구 버전의 법과 신 버전의 법은 문구상 매우 유사한 경우가 많기 때문에, 시스템은 폐지된 규칙을 확신을 가지고 인용하여 위험하거나 잘못된 조언을 제공할 수 있습니다. 이는 인프라와 공공 안전에 관한 결정이 절대적으로 신뢰할 수 있어야 하는 스마트 시티의 맥락에서 특히 위험합니다.
요크 세인트 존 대학교(York St John University)의 연구진은 이 문제를 해결하기 위해 새로운 접근 방식을 개발하였으며, 답변을 생성하기 전에 검증을 우선시하는 시스템을 구축했습니다. 인공지능이 어떤 법이 유효한지 추측하게 두는 대신, 그들은 엄격한 감사관처럼 작동하는 프레임워크를 만들었습니다. 이 시스템은 먼저 관련 규정을 검색하지만, 메인 AI가 응답을 작성하도록 허용하기 전에 별도의 특화된 구성 요소가 발견된 모든 문서의 법적 상태를 확인합니다. 이 구성 요소는 법이 통과된 날짜나 더 새로운 버전이 공식적으로 이를 대체했는지와 같은 특정 메타데이터를 조사합니다. 이는 게이트키퍼 역할을 수행하며, 오직 현재 유효하고 법적으로 집행 가능하며 적용 가능한 규정만이 최종 조언을 형성하는 데 사용되도록 보장합니다. 만약 시스템이 유효하고 최신인 규칙을 찾을 수 없다면, 답변을 지어내는 대신 모른다고 인정하도록 설계되었습니다.
연구진은 실제 유럽 규정과 국제 표준 컬렉션을 사용하여 이 새로운 프레임워크를 기존의 여러 방법과 비교 테스트했습니다. 그들은 구 버전의 법이 신 버전과 거의 동일해 보이는 시나리오를 포함하여, 시스템을 속이기 위해 설계된 78개의 구체적인 질문 세트를 만들었습니다. 결과에 따르면, 검증 우선 시스템은 구 버전의 규칙을 포착하는 데 훨씬 뛰어난 성능을 보였습니다. 이 시스템은 대체된 규정을 88%의 사례에서 정확히 식별해 냈는데, 이는 구 버전의 정보를 의존하며 이러한 변화를 감지하는 데 어려움을 겪었던 다른 방법들에 비해 상당한 개선입니다. 또한 이 시스템은 특정 관할 구역에 규칙이 적용되는지 여부를 결정하는 데 있어 매우 높은 정확도를 보여주며, 잘못된 지역의 법을 인용하는 흔한 오류를 피했습니다.
아마도 가장 중요한 점은, 이 시스템이 이러한 추가적인 안전 계층을 위해 속도나 효율성을 희생하지 않았다는 것입니다. 모든 문서를 확인하는 과정이 단계를 추가함에도 불구하고, 연구진은 시스템이 실제 도시 관리에 사용될 수 있을 만큼 충분히 빠르다는 것을 발견했습니다. 이 시스템은 테스트된 다른 고급 방법들과 경쟁할 수 있거나 때로는 더 빠른 속도로 쿼리를 처리했습니다. 연구는 정보의 검색 작업과 그 법적 유효성의 검증 작업을 분리함으로써, 시스템이 신뢰할 수 있고 투명하며 감사 가능한 조언을 제공할 수 있음을 입증했습니다. 이는 도시 계획가와 자동화된 시스템이 오늘날 실제로 시행 중인 법률에 근거한 권고임을 알 수 있으므로, 훨씬 높은 수준의 확신을 가지고 출력물을 신뢰할 수 있음을 의미합니다.
연구진은 이 접근 방식이 고도의 위험이 따르는 환경을 위한 인공지능을 구축하는 방식의 변화를 나타낸다고 강조합니다. 인공지능이 인간 법률의 복잡하고 변화하는 지형을 직관적으로 이해하도록 의존하는 대신, 이 시스템은 추론이 일어나기 전에 사실을 확인하기 위해 결정론적이고 규칙 기반의 체크를 사용합니다. 이는 최종 출력이 단순히 유창하게 들리는 문단이 아니라, 법적으로 타당한 권고가 되도록 보장합니다. 현재의 테스트는 유럽 규정에 초점을 맞추었지만, 이 프레임워크는 다른 법 체계와 관할 구역에도 적응할 수 있도록 설계되었습니다. 연구는 스마트 시티가 진정으로 지속 가능하고 신뢰할 수 있는 도시가 되기 위해서는, 그들의 디지털 의사결정자들이 이와 같은 엄격한 검증 능력을 갖추어야 하며, 이를 통해 우리의 도시 미래를 안내하는 법률이 항상 최신의 정확하고 적용 가능한 상태임을 보장해야 한다고 결론지었습니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.