← 최신 논문
🤖 AI

Specifying AI-SDLC Processes: A Protocol Language for Human-Agent Boundaries

본 논문은 구조적 강제 프리미티브를 통해 인간-에이전트 경계를 정의함으로써 정책과 메커니즘을 구분하고, 시스템 실패율을 제한하며 다중 에이전트 소프트웨어 개발에서의 직무 분리를 정형화하는, AI-SDLC 프로세스 명세를 위한 공식적인 도메인 특화 언어를 제안한다.

원저자: Ylli Prifti

게시일 2026-06-23
📖 4 분 읽기☕ 가벼운 읽기

원저자: Ylli Prifti

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 초고층 빌딩을 짓고 있다고 상상해 보십시오. 과거에는 인간 건축가, 엔지니어, 건설 노동자 팀을 고용했습니다. 모두가 자신의 직무를 알고 있었고, 엄격한 규칙이 있었습니다. 예를 들어, 콘크리트를 붓는 사람이 안전 점검 승인까지 할 수는 없었습니다.

이제, 팀의 절반을 믿을 수 없을 정도로 똑똑하고 빠르지만 때로는 예측 불가능한 AI 로봇들로 교체했다고 상상해 보십시오. 이들은 코드를 작성하고, 설계도를 그리고, 몇 초 만에 버그를 수정할 수 있습니다. 하지만 문제는 이것입니다: 어떻게 하면 이 로봇들이 실수로 건물을 폭파하거나, 안전 점검을 건너뛰거나, 자신들의 실수를 묵인하지 않도록 만들 수 있을까요?

현재는 팀들이 채팅 메시지(프롬프트)를 통해 로봇에게 "말하는" 방식으로 업무를 수행합니다. 하지만 로봇은 지시사항을 완벽하게 적어두지 않으면 잊어버리는 학생과 같습니다. 혹은 혼란을 느껴 업무에서 벗어날 수도 있습니다. 만약 로봇이 실수를 저지른다면, 그 로DT은 심지어 자신이 실수했다는 사실조차 깨닫지 못할 수도 있으며, 그 결과 프로젝트 전체가 무너질 수 있습니다.

이 논문은 인간-AI 팀을 관리하기 위한 새로운 규칙집(프로토콜 언어)을 제안합니다. 로봇과 단순히 채팅을 하는 대신, 건물의 구조적 강철 역할을 할 수 있는 엄격하고 기계가 읽을 수 있는 계약서를 작성하는 것입니다.

논문의 내용을 쉬운 비유를 사용하여 다음과 같이 설명합니다:

1. 문제점: "표류하는" 지시사항

현재 로봇에게 다음 단계로 넘어가기 전에 스스로 작업물을 확인하라고 하려면 프로ンプ트를 통해 알려줘야 합니다. 하지만 로봇은 "비결정론적(non-deterministic)"입니다. 즉, 오늘은 규칙을 따르다가도 내일은 무시할 수 있으며, "확인하라"는 말을 당신이 의도한 것과 다르게 해석할 수도 있습니다.

  • 논문의 주장: 로봇에게 "행동을 잘해달라"고 부탁하는 것은, 옆에 세면대가 없는 상태에서 아이에게 손을 씻으라고 기억하라고 요구하는 것과 같습니다. 이는 위험합니다.
  • 해결책: 로봇에게 기억하라고 요청하는 대신, 문에 잠금장치를 설치하십시오. 로봇이 "키"(검증 토큰)를 삽서하지 않으면 물리적으로 다음 단계로 이동할 수 없도록 만드는 것입니다. 만약 로봇이 점검을 건너뛰려 한다면, 문은 잠긴 상태로 유지됩니다.

2. 새로운 언어: "정책 vs 메커니즘"

저자들은 두 가지를 구분합니다:

  • 정책 (의도): "우리는 코드가 안전하기를 원한다." (이것은 단지 바람일 뿐입니다).
  • 메커니즘 (집행): "세 명의 서로 다른 검증자가 승인하지 않으면 시스템은 코드가 저장되는 것을 물리적으로 차단한다." (이것은 확고한 규칙입니다).

은행을 예로 들어 보겠습니다.

  • 정책: "우리는 사기를 방지하고자 한다."
  • 메커니즘: "매니저의 지문 없이는 500달러 이상 인출할 수 없다."
    논문은 AI를 위해서도 우리가 필요한 것은 정책(벽에 붙은 표지판)이 아니라 메커니즘(지문 인식기)이라고 주장합니다.

3. "2+N" 팀 패턴

논문은 가장 잘 작동하는 특정 팀 구조로 2+N 패턴을 제안합니다.

  • "2" 명의 인간: 두 명의 인간이 책임을 지지만, 역할은 다릅니다.
    • 인간 A (생산자): 코드를 작성하는 로봇들을 감독합니다.
    • 인간 B (검토자): 코드를 검사하는 로봇들을 감독합니다.
    • 왜 두 명인가? 한 사람이 코드를 작성하고 나서 직접 서명까지 해서는 안 됩니다. 실수나 부정행위를 방지하기 위해 두 역할은 분리되어야 합니다.
  • "N" 개의 로봇: 이들은 전문화된 작업자들(코더, 보안 검사기, 테스터)입니다. 이들은 힘든 일을 수행하지만, 두 명의 인간과 규칙에 의해 엄격하게 통제됩니다.

4. "자가 점검" 루프 (클레이니 폐쇄, Kleene Closure)

공장 조립 라인을 상상해 보십시오. 보통 부품에 결함이 있으면 라인이 멈춥니다. 하지만 이 AI 시스템에서는 로봇이 문제를 발견했을 때 단순히 멈추는 것이 아니라, 동일한 규칙을 따르며 해당 문제를 해결하기 위한 새롭고 더 작은 로봇 팀을 자동으로 생성합니다.

  • 논문의 주장: 이 과정은 자동으로 일어납니다. 시스템은 문제를 해결하는 것 자체가 동일한 엄격한 검사를 거치는 또 하나의 "작업"이 되도록 설계되었습니다. 이는 모든 층위가 동일한 안전 규칙을 따르는 러시아 인형(마트료시카)과 같습니다.

5. "자기 감시" 가디언 (Guardian)

이 설계의 가장 영리한 부분은 다른 로봇들을 감시하는 것만을 목적으로 하는 로봇을 포함할 수 있다는 점입니다.

  • 이 "가디언 로봇"은 코드를 작성하지 않습니다. 대신 다른 로봇들이 규칙집을 잘 따르고 있는지 감시합니다.
  • 가디언은 체크합니다: "코더가 편집하기 전에 허가를 요청했는가?", "검토자가 승인했는가?"
  • 만약 가디언이 규칙 위반을 발견하면, 프로세스를 중단시킵니다. 이는 마치 선수들이 반칙을 하는지 지켜보는 심판과 같습니다.

6. 이것이 왜 중요한가 ("범용화" 논거)

논문은 AI 모델(두뇌)이 매우 유사해지고 저렴해지고 있다고 주장합니다. 곧 모델 A를 쓰든 모델 B를 쓰든 상관없어질 것입니다. 기본적인 기능은 모두 훌륭할 것이기 때문입니다.

  • 진정한 가치: 가치는 어떤 로봇을 사용하는가가 아니라, 그들을 어떻게 조직하는가에 달려 있습니다.
  • 훌륭한 "규칙집"(프로토콜)을 가진 팀은 어떤 로봇을 고용하더라도 생존하고 번창할 것입니다. 규칙집은 로봇이 단순한 '재료'라면, 그들의 가장 소중한 자산인 '비밀 레시피'가 될 것입니다.

요약

논문의 핵심은 이렇습니다: AI가 규칙을 "기억"하도록 신뢰하는 것을 멈추십시오. 대신, 규칙이 기계 자체에 하드코딩된 시스템을 구축하십시오. 로봇이 규칙을 어기려 한다면, 기계가 물리적으로 이를 차단해야 합니다. "작성자"와 "검토자"를 분리하고, 깨뜨릴 수 없는 엄격한 프로세스를 사용함으로써, 우리는 소프트웨어가 무너지지 않도록 안전하게 AI를 활용하여 복잡한 소프트웨어를 구축할 수 있습니다.

이 논문이 주장하지 않는 것:

  • 이 방식이 AI를 완벽하거나 오류가 없게 만든다는 뜻은 아닙니다. 로봇은 여전히 실수를 할 수 있지만, 단계(step)를 건너뛰는 행위는 제거됩니다.
  • 이 방식이 모든 종류의 직업에 적용된다고 주장하는 것도 아닙니다. 이는 소프트웨어 개발을 위한 제안입니다.
  • 이 방식이 수천 개의 기업에서 테스트되었다고 주장하는 것도 아닙니다. 저자들은 이 방식이 작동함을 증명하기 위해 자신들의 시스템에서만 테스트했습니다.

연구 분야의 논문에 파묻히고 계신가요?

연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.

Digest 사용해 보기 →