← 최신 논문
🤖 AI

Protocol-Driven Development: Governing Generated Software Through Invariants and Evidence

본 논문은 생성된 구현체가 생성자에 대한 신뢰가 아닌 프로토콜 준수에 대한 검증 가능한 증거를 통해서만 허용되도록, 일시적인 코드보다 구조적, 행동적, 운영적 불변성을 정의하는 기계 강제 프로토콜을 우선시하는 자동화 소프트웨어 공학을 위한 거버넌스 모델인 프로토콜 주도 개발 (PDD) 을 소개합니다.

원저자: Jun He, Deying Yu

게시일 2026-05-14
📖 4 분 읽기☕ 가벼운 읽기

원저자: Jun He, Deying Yu

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

거대한 건설 프로젝트를 운영한다고 상상해 보세요. 당신은 집을 짓기 위해 엄청나게 빠르고 초지능적인 로봇 군단을 고용했습니다. 이 로봇들은 몇 초 만에 설계도를 생성하고 벽을 세울 수 있습니다. 하지만 그들이 너무 빠르고 때로는 다소 예측 불가능하기 때문에, 겉보기에는 훌륭해 보이지만 숨겨진 비밀 통로가 있거나, 잘못된 종류의 목재를 사용하거나, 실수로 화재 경보를 울리는 집을 지을 수도 있습니다.

과거에는 로봇이 좋은 일을 했는지 확인하기 위해 문서화된 지시사항(자연어 명세)이나 몇몇 방을 점검하는 것(테스트)에 의존했습니다. 하지만 이 논문의 저자들은 AI 가 그렇게 저렴하고 빠르게 코드를 생성함에 따라, 이러한 구식 방법들만으로는 부족하다고 주장합니다. 문서화된 지시사항은 너무 모호하고, 몇몇 방만 점검하는 것으론 집 전체가 안전하다는 것을 증명할 수 없기 때문입니다.

이 논문은 **프로토콜 주도 개발 **(Protocol-Driven Development, PDD)이라는 새로운 작업 방식을 제안합니다.

핵심 아이디어: "규칙집"이 왕이고, "집"은 일시적이다

이 논문의 주요 주장은 간단합니다: "코드는 일시적이며, 프로토콜은 주권적이다."

프로토콜을 특정 유형의 건축물을 위한 엄격하고 깨지지 않는 규칙집(또는 헌법)으로 생각하세요. 코드(실제 소프트웨어)는 로봇들이 지은 으로 생각하세요.

  • 구식 방식: "아늑한 집을 지어라"와 같은 모호한 설명을 작성하고 로봇이 올바르게 이해하기를 바랍니다. 만약 로봇이 비밀 통로가 있는 집을 지으면, 나중에 이를 수정합니다.
  • PDD 방식: 로봇이 시작하기 전에, 기계가 읽을 수 있는 규칙집을 건네줍니다. 이 규칙집은 단순히 "집을 지어라"라고 말하는 것이 아니라 다음과 같이 명시합니다:
    1. 구조: "정문은 정확히 3 피트 너비여야 하며 강철로 만들어져야 한다." (구조적 불변성)
    2. 행동: "세 번 두드리면 문이 열려야 한다. 한 번 두드리면 잠겨 있어야 한다." (행동적 불변성)
    3. 작동: "전동 톱을 사용할 수 없으며, 소방서에 전화할 수 없고, 10 분 이내에 건축을 완료해야 한다." (작동적 불변성)

로봇이 이러한 규칙을 따르는 집을 지으면 통과됩니다. 하지만 전동 톱을 사용하거나 한 번 두드리면 열리는 문이 있는 아름다운 집을 지었다면, 아무리 예쁘게 생겼더라도 즉시 거절됩니다.

규칙집의 세 가지 기둥

이 논문은 규칙집 (프로토콜) 을 세 가지 요소의 조합으로 정의합니다:

  1. **핸드셰이크 **(구조): 이는 문과 열쇠의 모양과 같습니다. 이것이 집이 이웃과 완벽하게 맞는지 보장합니다. 만약 집이 둥근 문을 가지고 있는데 거리에서는 네모난 문만 허용한다면, 이는 거절됩니다.
  2. **물리 법칙 **(행동): 이는 집이 어떻게 행동하는지에 대한 규칙들입니다. 스위치를 켜면 불이 켜집니까? 바람이 불어도 집은 서 있습니까? 논문은 "속성 기반 테스트"를 사용할 것을 제안합니다. 이는 조용한 날 한 번 점검하는 대신, 집이 절대 무너지지 않도록 수천 번의 무작위 돌풍으로 집을 테스트하는 것과 같습니다.
  3. **허가증 **(작동): 이는 "무엇을 할 수 있는지" 목록입니다. "전기를 사용할 수는 있지만 가스 배관을 건드릴 수는 없다"라고 명시하는 엄격한 허가증입니다. 이는 로봇이 승인받지 않은 숨겨진 기능 (예: 제 3 자 서비스에 비밀리에 연결하거나 하드 드라이브에 파일을 쓰는 것) 을 몰래 넣는 것을 방지합니다.

"검증 루프": 보안 요원

이 새로운 시스템에서 로봇 (코드 생성기) 은 신뢰할 수 없는 존재로 취급됩니다. 로봇은 단지 제안 기계일 뿐입니다.

어떤 코드든 시스템에 들어가기 전에 검증 루프를 통과해야 합니다. 이는 체크리스트를 가진 초엄격한 보안 요원과 같습니다:

  1. 설계도 확인: 코드가 구조적 규칙과 일치합니까?
  2. 시뮬레이션 실행: 코드가 수천 가지 다른 시나리오에서 올바르게 행동합니까?
  3. 허가증 확인: 코드가 허용되지 않은 일을 시도했습니까?

코드가 세 가지 모두를 통과하면, 보안 요원은 입장 증명서(Evidence Chain 이라고 함)를 발급합니다. 이는 이 특정 코드가 규칙집에 대해 점검을 받고 통과되었음을 의심의 여지 없이 증명하는 디지털 영수증입니다.

이것이 중요한 이유: "자연어 세"

저자들은 모호한 지시사항을 처리하는 비용을 **"자연어 세"**라고 부릅니다.

  • 세금: "속도를 높여라"라고 말하면, 한 로봇은 페라리를 사용하여 속도를 높일 수 있고, 다른 로봇은 자전거를 사용하여 속도를 높일 수 있습니다. "경찰에 전화하지 마라"라고 말하면, 한 로봇은 "경찰에 전화하지 마라"로 해석할 수 있지만, 다른 로봇은 "화재가 아닌 한 경찰에 전화하지 마라"로 해석할 수 있습니다.
  • 해결책: PDD 는 모호한 단어를 엄격하고 기계가 강제하는 규칙으로 대체함으로써 이 세금을 제거합니다. "빠르다"가 무엇을 의미하는지 논쟁하는 대신, 규칙집은 "10 초 이내에 완료해야 한다"라고 명시합니다.

큰 성과: 교체 가능한 부품

코드는 규칙집의 단순한 "구현"이므로 쉽게 교체할 수 있습니다.
로봇으로 집을 지어 검사를 통과했다고 상상해 보세요. 나중에, 당신은 다른 로봇을 고용하여 집을 다시 짓습니다. 새로운 집이 정확히 같은 규칙집 (같은 문 너비, 같은 조명 행동, 같은 허가증) 을 따르는 한, 아무도 눈치채지 못하게 오래된 집을 새로운 집으로 교체할 수 있습니다. "집"(코드) 은 일시적이고 교체 가능하지만, "규칙집"(프로토콜) 은 영구적이고 신뢰할 수 있는 권한입니다.

요약

이 논문은 AI 가 코드 작성 능력이 향상됨에 따라, 코드가 어떻게 작성되었는지 걱정하는 것을 멈추고 코드가 무슨 규칙을 따라야 하는지 걱정해야 한다고 주장합니다.

  • 구식 모델: 작성자를 신뢰하고 몇 가지 예시를 확인합니다.
  • **신식 모델 **(PDD): 작성자를 불신하고, 엄격한 규칙집을 강제하며, 규칙이 준수되었음을 증명하는 디지털 영수증을 요구합니다.

코드는 일시적인 손님일 뿐이며, 프로토콜은 영구적인 주최자입니다.

연구 분야의 논문에 파묻히고 계신가요?

연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.

Digest 사용해 보기 →