Confidential Pulse: Authorisation-Preserving Conversational Access to Federated Confidential Government Records
Confidential Pulse는 하이퍼레저 패브릭(Hyperledger Fabric) 채널 내의 승인된 페이로드로부터 응답을 재구성함으로써 연방 정부 기록에 대한 안전하고 대화형적인 접근을 가능하게 하는 시스템으로, 이 시스템은 범위를 벗어난 데이터 공개를 방지하면서도 모델이 생성하는 산문(prose)을 통한 정보 유출에는 취약한 상태로 남아 있습니다.
원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
현대 사회에서 정부는 서로 다른 기관 사이를 흐르는 데이터로 운영됩니다. 한 시민의 삶은 세무국, 부동산 등기소, 복지 부처, 면허국이 보유한 기록들과 맞닿아 있습니다. 이러한 각 조직은 공개되어서는 안 되는 민감한 정보를 보유하고 있지만, 서비스를 제공하기 위해 정보를 공유해야 할 때가 많습니다. 이를 처리하는 전통적인 방식들은 결함이 있습니다. 모든 데이터를 하나의 거대한 중앙 창고에 모으는 것은 해커들에게 높은 가치의 단일 표적을 만들어내며, 모든 기관이 하나의 중앙 운영자를 신뢰하도록 강요합니다. 반대로, 모든 기관을 서로 직접 연결하는 것은 수천 개의 개별적인 연결로 이루어진 얽힌 그물을 만들어내어, 누가 누구와 무엇을 공유했는지에 대한 명확한 기록을 남기지 못하게 합니다. 과제는 이러한 조직들이 민감한 기록을 엄격히 '알 권리(need-to-know)' 원칙에 따라 공유하면서도, 데이터의 기밀성을 유지하고, 임의로 수정할 수 없으며, 모든 접근을 독립적으로 검증할 수 있도록 하는 것입니다.
이를 해결하기 위해 연구자들은 '컨피덴셜 펄스(Confidential Pulse)'라고 불리는 시스템을 개발했습니다. 이 시스템은 정부 기관 사이의 안전한 가교 역할을 하며, 권한이 있는 공직자가 일상적인 언어로 간단한 질문을 던지면, 공직자가 볼 권한이 없는 데이터는 전혀 노출하지 않으면서 여러 부처의 기록을 종합하여 답변을 받을 수 있게 해줍니다. 이 시스템은 특수한 형태의 디지털 장부에 의존하는데, 이는 참여하는 모든 조직이 읽을 수는 있지만 어느 한 조직이 단독으로 편집할 수는 없는, 공유된 변경 불가능한 공책과 유사합니다. 이 장부는 정보가 공유될 때마다 모든 사례를 기록하여 영구적이고 조작 방지가 가능한 이력을 생성합니다. 민감한 세부 사항 자체는 해당 정보를 볼 권한이 있는 특정 조직만이 접근할 수 있는 개인용 금고에 보관됩니다. 이 안전한 토대 위에는 지능형 소프트웨어 에이전트들의 계층 구조가 자리 잡고 있습니다. 이 에이전트들은 해석자 역할을 수행하며, 인간의 질문을 받아 이를 세분화하고 서로 다른 개인 금고로부터 관련 사실들을 수집합니다. 결정적으로, 이 시스템은 단순히 작성된 답변을 필터링하는 것이 아니라, 허가된 데이터만을 사용하여 답변을 밑바닥부터 다시 구축함으로써 허가되지 않은 정보가 새어 들어가지 않도록 보장합니다.
연구진은 소프트웨어를 속여 비밀을 유출하도록 시도하는 2만 번의 실험을 포함하여 엄격한 일련의 실험을 통해 이 시스템을 테스트했습니다. 가장 보안이 강력한 운영 모드에서 시스템은 완벽하게 성공했습니다. 2만 번의 모든 시도 중에서, 질문을 던진 공직자가 볼 권한이 없는 정보는 단 한 건도 노출되지 않았습니다. 시스템은 권한이 있는 기록으로부터 답변을 직접 재구성하는 방식으로 작동했기에, 텍스트를 생성하는 소프트웨어가 실수로 혹은 악의적으로 숨겨진 값을 삽입할 수 없었습니다. 그러나 연구진이 소프트웨어가 스스로 문장을 작성하고 그 후에 필터링하도록 허용하는 더 유연한 모드를 테스트했을 때는 결과가 달랐습니다. 이 모드에서 시스템은 20,000번의 실험 중 2,068번의 사례에서 허가되지 않은 정보를 잡아내는 데 실패했습니다. 이러한 유출은 주로 소프트웨어가 비교를 시도하거나 필터링 규칙이 완전히 이해하지 못하는 복잡한 방식으로 숫자를 표현할 때 발생했습니다. 이 발견을 통해 연구진은 민감한 정부 데이터를 다루는 데 있어 엄격한 재구성 방식이 유일하게 안전한 방법이며, 대화체나 산문 형태의 글쓰기 모드는 측정 가능한 위험을 수반한다는 결론을 내렸습니다.
또한 이 연구는 서로 다른 정보 조각들을 결합할 때 의도한 것보다 더 많은 것을 드러낼 수 있는 정부 데이터의 복잡한 현실을 어떻게 다루는지 살펴보았습니다. 예를 들어, 어떤 사람의 주거 기록은 익명일 수 있고, 별도의 소득 기록 또한 익명일 수 있지만, 이 둘을 결합하면 특정 개인을 식해할 수 있습니다. 연구진은 1만 명의 가상 인구 집단에서 세 가지 유형의 기록을 결합했을 때 약 3.31%의 인원을 식별할 수 있다는 것을 발견했습니다. 또한 그들은 초기 설계 버전의 미묘한 결함을 발견했는데, 기록이 존재함을 증명하는 디지털 '영수증'에 무작위 비밀 코드를 섞는 '솔팅(salting)' 처리가 되어 있지 않았습니다. 이로 인해 공격자가 단 2초 만에 수백만 개의 가능성을 시도함으로써 숨겨진 기록의 내용을 추측할 수 있었습니다. 연구진이 영수증에 이 무작위 코드를 추가하자, 공격은 완전히 실패했으며 기록은 하나도 복구되지 않았습니다. 이 수정 사항은 시스템의 보안이 특정 기술적 세부 사항이 올바르게 구현되는 것에 달려 있음을 강조합니다.
코드 측정을 넘어, 이 시스템은 신뢰에 대한 새로운 사고방식을 도입합니다. 시스템은 데이터를 수집하는 소프트웨어 에이전트의 정직함에 의존하는 대신, 모든 에이전트가 공유 장부를 바탕으로 자신의 작업 내용을 증명하도록 강제합니다. 만약 에이전트가 공직자가 볼 권한이 있는 기록을 찾았다고 주장한다면, 시스템은 공식 장부를 확인하여 해당 기록이 실제로 존재하는지, 그리고 해당 공직자가 정말로 열람 권한이 있는지 확인합니다. 만약 에이전트가 공직자가 볼 수 없는 기록에서 값을 몰래 가져오려 한다면, 시스템은 에이전트의 텍스트를 폐기하고 장부의 원시 데이터를 사용하여 문장을 다시 구축합니다. 이 과정은 소프트웨어가 해킹당하거나 악의적인 사용자에 의해 속더라도 최종 답변이 안전하게 유지되도록 보장합니다. 연구진은 또한 다양한 클라우드 리전에서 시스템의 작동 속도를 측정했습니다. 그들은 시스템이 여러 기관에 순차적으로 묻는 대신 동시에 요청하도록 함으로써, 기관들이 세계 각지에 흩어져 있는 경우에도 복잡한 답변을 기다리는 시간을 거의 절반으로 줄일 수 있음을 발견했습니다.
본 연구는 이 기술이 사용될 준비가 되어 있지만, 효과를 거두기 위해서는 특정 거버넌스 구조가 필요하다고 결론짓습니다. 이 시스템은 서로를 완전히 신뢰하지는 않지만 협력해야 하는 조직들의 연합을 위해 설계되었습니다. 이는 인간의 감독을 대체하는 것이 아니라, 오히려 모든 질문과 접근된 기록에 대한 명확하고 변경 불가능한 로그를 제공하여 감사관이 규칙 준수 여부를 검증할 수 있게 합니다. 연구진은 이 시스템이 모든 위험을 제거하는 마법 같은 해결책은 아니지만, 이전에는 불가능했던 수준의 보안과 투명성을 제공한다고 강조합니다. 완성된 텍스트를 필터링하려고 노력하기보다, 배포되는 순간에 답변을 허가된 데이터에 결속시킴으로써, 시스템은 수학적으로 깨뜨리기 어려운 장벽을 만듭니다. 연구 결과는 정부 기관이 미래에 민감한 데이터를 안전하게 공유하기 위해서, 중앙 집중형 데이터 레이크에서 벗어나 이러한 분산되고 검증된 방식으로 나아가야 하며, 가장 안전한 답변은 초안을 다듬는 과정이 아니라 근원으로부터 진실을 재구성하는 과정에서 나온다는 점을 시사합니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.