로봇 제작자들을 위한 새로운 도로 규칙

당신이 수년간 인간 건설팀을 위해 청사진을 그려온 숙련된 건축가라고 상상해 보십시오. 당신은 설계도에 아주 작은 틈을 남기는 것—예를 들어 현관문의 색상을 지정하는 것을 잊는 것—이 얼마나 큰 차이를 만드는지 알고 있습니다. 숙련된 인간 건설자는 그저 "이봐요, 문 색깔을 어떤 걸로 원하시나요?"라고 묻거나, 주변 동네의 스타일을 보고 추측할 것입니다. 그들은 자신의 상식과 경험으로 빈칸을 채웁니다. 이것이 지난 수십 년간 소프트웨어 개발이 작동해 온 방식입니다. 인간이 요구사항을 작성하면, 인간 팀이 그 과정에서 누락된 세부 사항을 채워 넣으며 소프트웨어를 구축합니다.

하지만 이제, 당신이 초고속의 초지능형 로봇 건설 부대를 고용했다고 상상해 보십시오. 이 로봇들은 놀랍습니다. 몇 초 만에 벽돌을 쌓고 회로를 연결할 수 있습니다. 하지만 이들에게는 치명적인 결함이 하나 있습니다. 바로 '문자 그대로만 받아들이는 성격(literalists)'이라는 점입니다. 그들은 상식이 없고, 추측하지 않으며, 질문을 던지지도 않습니다. 만약 당신이 로봇에게 "문을 지어라"라고 말하면서 색상을 지정하지 않는다면, 로봇은 데이터베이스에서 가장 논리적인 색상인 네온 그린색으로 칠해버릴 수도 있고, 혹은 무엇을 해야 할지 몰라 멈춰 서서 오류를 일으킬 수도 있습니다. 소프트웨어의 세계에서 이것이 바로 **AI 지원 개발(AI-assisted development)**의 과제입니다. 인간에게는 완벽하게 작동했던 "요구사항(지침)"이 이제 로봇에게는 위험한 것이 되었습니다. 왜냐하면 로봇은 빈칸을 채울 수 없기 때문입니다. 지침이 완벽하지 않으면 로봇은 잘못된 것을 만들어내며, 그 실수는 사람이 알아차리기도 전에 이미 최종 제품에 포함되어 버릴 정도로 빠르게 일어납니다. 이 논문은 이러한 로봇 건설자들이 사람의 손길을 매 순간 빌리지 않고도 안전하고 작동하는 소프트웨어를 구축할 수 있도록 신뢰받을 수 있는 '도로의 규칙'을 어떻게 다시 써야 하는지를 탐구합니다.

"아마도"에서 "반드시"로: AI와 함께 구축하는 새로운 방법

모하메드 자란(Mohamed Zahran)이 작성한 이 논문은 거대한 문제를 다룹니다: AI 코딩 에이전트는 빠르지만, 지침이 완벽하지 않으면 위험하다는 것입니다. 저자는 기존의 요구사항 작성 방식—"행간을 읽을 수 있는" 인간 팀을 위해 설계된 문서들—이 빌더가 기계일 때는 무너진다고 주장합니다. 인간이 불완전한 지침을 읽으면 뇌를 사용하여 이를 수정하지만, 로봇이 불완전한 지침을 읽으면 그저 추측할 뿐이며, 그 추측은 종종 버그나 보안 취약점으로 이어집니다.

이를 해결하기 위해 저자는 단순히 새로운 이론을 쓴 것에 그치지 않고, 자신이 설계한 새로운 방법을 사용하여 실제로 작동하는 두 개의 소프트웨어 시스템을 구축했습니다. 이것은 마치 요리사가 단순히 요리책을 쓰는 대신, 자신의 새로운 레시피가 작동한다는 것을 증명하기 위해 스트레스가 높은 주방에서 실제로 두 가지 복잡한 요리를 직접 만들어낸 것과 같습니다.

핵심 아이디어: "단일 진실 공급원(Single Source of Truth)"
저자의 해결책은 "거버넌스가 적용된 AI 준비형 인도 프레임워크(Governed AI-Ready Delivery Framework)"입니다. 가장 큰 변화는 엉망이 되거나 버전이 갈릴 수 있는 느슨한 문서(Word 파일 등)에서 벗어나는 것입니다. 대신, 그들은 **정전적 요구사항 모델(Canonical Requirements Model)**을 만들었습니다.

• 비유: 마스터 디지털 청사진이 보안 금고 안에 살고 있다고 상상해 보십시오. 이 청사진은 계획의 유일한 진본입니다.
• 마법: 이 하나의 마스터 청사진으로부터 시스템은 자동으로 두 가지 다른 "뷰(view)"를 생성합니다.
  1. 인간용 뷰: 비즈니스 분석가와 관리자가 승인할 수 있는 읽기 쉽고 보기 좋은 문서입니다.
  2. 로봇용 뷰: AI 코딩 에이전트를 위한 엄격하고 기계가 읽을 수 있는 지침 팩입니다.
• 중요한 이유: 두 뷰가 모두 동일한 마스터 청사진에서 나오기 때문에, 두 뷰가 서로 어긋나는 일은 결코 발생할 수 없습니다. 인간은 로봇이 실제로 따르고 있지 않은 계획에 대해 승인할 수 없습니다. 이는 모든 사람에게 즉각적으로 업데이트되는 단일 진실 공급원을 갖는 것과 같습니다.

로봇을 위한 "사후 검토(Four-Eyes)" 규칙
논문은 **직무 분리(Separation of Duties)**라는 영리한 안전 점검 장치를 도입했는데, 이는 로봇을 위한 것입니다.

• 설정: 저자는 서로 다른 두 회사(벤더)의 서로 다른 두 가지 AI 코딩 도구를 사용했습니다.
• 과정: 한 AI(벤더 A)는 "빌더(Builder)"였습니다. 그것은 지침에 따라 코드를 작성했습니다. 완전히 다른 AI(벤더 B)는 "검사관(Inspector)"이었습니다. 그것은 코드에 실수가 있는지, 보안 취약점이 있는지, 그리고 계획과 일치하는지를 확인하기 위해 코드를 검사했습니다.
• 결과: 이를 통해 AI가 집을 짓고 나서 스스로에게 합격점을 주는 상황을 방지했습니다. "검사관" AI는 인간 팀이 하는 것처럼 "빌더" AI가 놓친 것들을 잡아냈습니다.

연구 결과: 혼돈 없는 속도
저자는 이 프레임워크를 두 가지 매우 다른 프로젝트에 테스트했습니다:

1. 사례 1: 170개 국가 기관을 위한 세이프가딩 플랫폼 (크고 복잡하며 느리게 움직이는 프로젝트).
2. 사례 2: 비즈니스 분석가를 위한 멀티 테넌트 분석 워크스페이스 (신용카드 관련 추가 보안 규칙이 있는 더 빠르고 작은 프로젝트).

결과는 인상적이었습니다. 이 프레임워크는 통제력을 유지하면서도 AI가 믿을 수 없을 정도로 빠르게 작업할 수 있게 해주었습니다:

• 추적 가능성(Traceability): 시스템은 모든 개별 코드 조각이 어디에서 왔는지 추적했습니다. 사례 1에서는 요구사항의 **94.9%**가 코드 및 테스트와 완벽하게 연결되었고, 사례 2에서는 **97.8%**였습니다.
• 무단 수정 없음: 두 사례 모두에서 무단 변경률은 **0.00%**였습니다. 시스템이 매우 엄격하여 아무도(혹은 어떤 로봇도) 시스템이 알지 못하는 사이에 몰래 코드를 변경할 수 없었습니다.
• 더 적은 실수: "결함 유출률(defect escape rate, 최종 제품까지 전달된 버그)"은 첫 번째 사례에서 **9.1%**였고, 두 번째 사례에서는 **4.7%**였습니다. 두 번째 사례는 업계의 "최고 수준(best-in-class)" 평균보다 더 나은 결과였습니다.
• 속도: 프레임워크는 속도를 늦추지 않았습니다. 사실, 두 번째 프로젝트는 단 31일(실제 빌드 일수는 12일) 만에 완료되었는데, 이는 그 정도의 복잡성을 가진 프로젝트로서는 믿기 힘들 정도로 빠른 속도입니다.

저자가 답이 아니라고 말하는 것
논문은 무엇이 효과가 없는지에 대해서도 매우 명확하게 밝히고 있습니다. 저자는 단순히 AI에게 모호한 프롬프트를 주고 나머지는 알아서 해결하라고 맡길 수 있다는 생각에 반대합니다. 또한, 단순히 "유행"이라서 프로젝트에 AI를 추가하는 것은 나쁜 생각이라고 경고합니다. 때로는 AI를 사용하는 것보다 단순한 프로세스 변경이 더 나을 수도 있습니다. 저자는 AI가 인간의 판단, 비즈니스 명확성, 그리고 최종 결과를 승인해야 하는 인간의 필요성을 대체할 수 없음을 강조합니다.

우리는 얼마나 확신할 수 있는가?
저자는 이 연구가 모든 것을 영원히 해결하는 마법의 탄환이라고 주장하지 않도록 주의를 기울였습니다. 이 연구는 **동일한 인물(저자)**에 의해 수행된 두 가지 특정 사례를 기반으로 합니다. 결과가 매우 강력하고 두 가지 서로 다른 유형의 프로젝트 전반에서 일관되게 나타났지만, 저자는 자신이 유일하게 작업을 수행했기 때문에, 더 많은 테스트 없이 이 방식이 다른 사람들로 구성된 전체 팀에서도 똑같이 작동할 것이라고 100% 확신할 수는 없다고 인정했습니다. 또한, 시스템이 명백한 오류를 잡는 데는 뛰어났지만, 때때로 "조용한 실패(silent failures, 즉 즉각적으로 나타나지 않는 버그)"를 놓치는 경우가 있었기에, 여-전히 인간이 가끔씩 심층적인 점검을 수행해야 한다는 점도 발견했습니다.

핵심 요점
논문은 **비즈니스 분석가(Business Analyst)**의 역할이 변하고 있다고 결론짓습니다. 그들은 더 이상 단순히 인간을 위한 문서를 쓰는 사람이 아닙니다. 그들은 **통제 시스템의 설계자(Architects of Control Systems)**가 되고 있습니다. 그들의 역할은 AI가 안전하게 소프트웨어를 구축할 수 있도록 하는 규칙, 점검, 그리고 마스터 청사진인 "거버넌스가 적용된 인도 프레임워크"를 설계하는 것입니다. 미래는 인간 대 AI의 대결이 아니라, 인간이 완벽한 지침을 설계하여 AI가 무언가를 망가뜨리지 않고 중노동을 수행할 수 있도록 하는 것입니다. 저자의 말처럼, "AI 시대에 비즈니스 분석가는 그들이 무엇을 쓰느냐에 의해서만 정의되는 것이 아니라, 그들이 다른 이들(인간과 AI 모두)이 무엇을 달성할 수 있게 하느냐에 의해 정의됩니다."