← 최신 논문
🤖 AI

Data Flow Control: Data Safety Policies for AI Agents

이 논문은 무시할 만한 수준의 오버헤드로 DBMS 엔진 내에서 선언적인 튜플 단위 데이터 안전 정책을 직접 강제하는 Passant 쿼리 재작성 계층을 특징으로 하는 데이터 흐름 제어(Data Flow Control, DFC) 프레임워크를 소개하며, 이를 통해 데이터 보호를 사후 점검에서 핵심 데이터 인프라로 전환한다.

원저자: Charlie Summers, Eugene Wu

게시일 2026-06-05
📖 3 분 읽기☕ 가벼운 읽기

원저자: Charlie Summers, Eugene Wu

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신에게 재무 관리, 보고서 작성, 또는 데이터 분석을 돕는 매우 똑똑하고 의욕 넘치는 비서(AI 에이전트)가 있다고 상상해 보십시오. 당신은 이 비서에게 "제 영수증을 확인해서 세금 공제를 받을 수 있는 항목이 무엇인지 알려주세요"라고 말합니다. 이 비서는 지시를 따르는 데 매우 뛰어나서, 적절한 영수증을 찾아내고 계산도 정확하게 수행합니다.

하지만 여기에 문제가 있습니다. "정확함"이 곧 "안전함"을 의미하는 것은 아니라는 점입니다.

비서는 계산은 완벽하게 해낼지 몰라도, 실수로 법을 어길 수 있습니다. 예를 들어 다음과 같은 상황이 발생할 수 있습니다:

  • 개인정보 유출: 총액 대신 개인의 신용카드 상세 정보가 포함된 공개 보고서를 보여줍니다.
  • 환각(Hallucination): 구매한 적도 없는 고급 자동차에 대한 가짜 영수증을 만들어냅니다.
  • 규칙 위반: 식사 비용의 50%만 공제할 수 있는 세법이 있음에도 불구하고 스테이크 저녁 식사 비용의 100%를 공제합니다.

현재 우리는 AI에게 엄격한 지침(프롬프트)을 주거나 작업이 끝난 후 검토하는 방식으로 이러한 실수를 막으려 노력합니다. 하지만 이는 이미 돈을 훔친 뒤에 도둑을 잡으려는 것과 같습니다. 신뢰할 수 없으며 느린 방식입니다.

해결책: 데이터 흐름 제어 (Data Flow Control, DFC)

저자들은 **데이터 흐름 제어(DFC)**라고 불리는 새로운 시스템을 제안합니다. DFC를 문 앞에 서 있는 보안 요원이 아니라, 데이터가 흐르는 파이프 내부의 스마트한 배관이라고 생각하십시오.

AI에게 "이것이 안전한가요?"라고 묻는 대신, 이 시스템은 데이터베이스 엔진 자체에 안전 규칙을 직접 구축합니다. 이를 통해 데이터가 한 곳에서 다른 곳으로 이동할 때, AI가 얼마나 똑똑하거나 혼란스러워하든 상관없이 규칙을 위반하는 것이 물리적으로 불가능하도록 보장합니다.

핵심 아이디어: "레시피" vs "재료"

이것이 어떻게 작동하는지 이해하기 위해, 요리사(AI)가 수프(최종 보고서)를 만들려고 노력하는 상황을 상상해 보십시오.

  • 기존의 안전 방식: 당신은 요리사에게 "독을 넣지 마세요"라고 말합니다. 요리사는 이를 잊어버리거나 오해하여 독을 넣을 수도 있습니다.
  • DFC 방식의 안전: 당신은 냄비에 필터를 설치합니다. 만약 요리사가 독을 넣으려고 하면, 필터가 수프에 들어가기 전에 물리적으로 차단합니다. 요리사가 주의력을 잃더라도 수프는 기본적으로 안전합니다.

구현 방법 (마법 같은 기술들)

이 논문은 이를 실현하기 위해 두 가지 주요 도구를 소개합니다.

1. PGN (규칙집)
이는 데이터에 대한 안전 규칙을 작성하기 위한 간단한 언어입니다. 데이터에 대한 체크리스트와 같습니다.

  • 예시 규칙: "영수증을 지출 목록에 추가하려면, 반드시 우리 데이터베이스에 있는 실제 영수증이어야 하며, 식사 비용의 50% 이상을 공제할 수 없다."
  • 시스템은 데이터가 처리되는 동안 이 규칙들을 확인합니다.

2. Passant (재작성기)
이것은 시스템을 빠르게 만드는 엔진입니다.

  • 기존 방식 (세금/비용): 데이터를 확인하기 위해 기존 시스템들은 사용된 모든 재료의 방대한 상세 이력(이를 '프로비넌스'라고 함)을 먼저 기록해야 했습니다. 이는 마치 수프를 맛보기 전에 레시피의 모든 단계를 노트에 적어두는 것과 같습니다. 매우 느리고 많은 메모리를 사용합니다.
  • 새로운 방식 (Passant): Passant는 "스마트한 재작성기"입니다. 전체 이력을 기록하는 대신, 요리사의 지침을 즉석에서 재작성합니다. "이봐요, 수프를 섞는 동안 바로 그 시점에 소금 농도를 확인하세요"라고 말하는 것과 같습니다.
  • 결과: 이 시스템은 거의 성능 저하 없이 안전 규칙을 강제합니다. 테스트 결과, 이 시스템은 너무 빨라서 때로는 안전 규칙 없이 쿼리를 실행할 때보다 더 빠르기도 했습니다!

이것이 왜 중요한가

저자들은 이 시스템을 다섯 가지 서로 다른 데이터베이스 시스템(다양한 브랜드의 주방 가전과 같은)에서 테스트했으며, 다음과 같은 결과를 얻었습니다:

  • 빠릅니다: 속도를 늦추지 않습니다.
  • 신뢰할 수 있습니다: AI 모델처럼 추측에 의존하지 않고, 수학적 증명을 사용하여 안전을 보장합니다.
  • 유연합니다: "고객 A의 데이터를 고객 B와 섞지 마라" 또는 "모든 지출에는 일치하는 영수증이 있어야 한다"와 같은 복잡한 규칙을 처리할 수 있습니다.

결론

이 논문은 데이터 안전을 사후에 하는 "체크리스트"로 취급해서는 안 된다고 주장합니다. 대신, 데이터를 운반하는 파이프 자체에 안전을 구축해야 합니다. **데이터 흐름 제어(DFC)**를 사용함으로써, AI 에이전트가 실수를 하거나 편법을 쓰려고 하더라도 데이터베이스 자체가 안전망 역할을 하여, 불법적이거나 사적인 데이터, 혹은 잘못된 데이터가 시스템 밖으로 나가는 것을 원천 차단할 수 있습니다.

이는 운전자가 조심하기를 바라는 것과, 도로 밖으로 차가 튕겨 나가는 것을 물리적으로 방지하는 자동차를 설치하는 것의 차이입니다.

연구 분야의 논문에 파묻히고 계신가요?

연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.

Digest 사용해 보기 →