기술 요약: AI 지원 보안 운영 거버넌스

1. 문제 정의

엔지니어링 관리자들은 중요한 도입 딜레마에 직면해 있습니다. 생성형 AI, 검색 증강 생성 (RAG), 코딩 에이전트는 보안 운영 센터 (SOC) 의 기술 워크플로우를 가속화할 수 있지만, 고위험 및 특권 텔레메트리 환경에서 관리되지 않은 사용은 상당한 위험을 초래합니다. AI 는 코드와 유사한 산출물을 생성하고, 증거를 요약하며, 행동을 제안할 수 있지만, 종종 책임 소재를 모호하게 만들고 개인정보 보호, 비용, 감사 가능성, 의사결정 품질과 관련된 취약점을 야기합니다.

본 논문이 다루는 구체적인 문제는 통제력을 약화시키지 않으면서 보안 기능 내 AI 지원 운영 의사결정 지원을 어떻게 거버넌스할 것인가입니다. 본 논문은 Microsoft Azure 보안 생태계 (Defender XDR, Sentinel, Azure Data Explorer) 내의 **Kusto Query Language(KQL)**를 경계된 기술적 구체화 사례로 활용합니다. KQL 쿼리는 일반적으로 읽기 전용이지만, 관리되지 않은 AI 생성 쿼리는 다음과 같은 방식으로 피해를 초래할 수 있습니다.

• 광범위한 스캔으로 인한 비용 초과 및 성능 저하.
• 민감 필드 노출(예: 명령줄, URL, 이메일 제목)로 인한 개인정보 침해.
• 스키마 무효화(사용 불가능한 테이블 또는 열 참조).
• 증거 또는 구식 위협 인텔리전스에 대한 오해의 소지가 있는 해석.
• 확립된 거버넌스 정책을 우회하는 통제되지 않은 실행.

핵심적인 과제는 AI 모델이 문법적으로 올바른 쿼리를 생성할 수 있는지 여부가 아니라, 조직이 해당 산출물의 제안, 검증, 실행, 감사, 개선에 이르는 수명주기를 어떻게 거버넌스할 수 있는지에 있습니다.

2. 방법론

본 연구는 조직 역량을 향상시키기 위해 설계된 사회기술적 산출물을 개발하고 평가하기 위해 **설계 과학 연구 (DSR)**를 활용합니다. 방법론은 DSRM 프로세스인 문제 식별, 목표 정의, 설계 및 개발, 시연, 평가, 그리고 커뮤니케이션을 따릅니다.

• 산출물: 거버넌스된 AI 쿼리 브로커. 이는 AI 계획과 운영 실행을 분리하는 사회기술적 시스템입니다.
• 맥락: 이 산출물은 Microsoft 중심의 위협 헌팅 워크플로우 내에서 구체화되지만, 이전 가능한 관리 원칙으로 설계되었습니다.
• 평가 전략: 본 연구는 조기 생산 효과 주장을 피하기 위해 단계별 평가 프로토콜을 채택합니다. 평가는 다음 단계로 진행됩니다.
  1. 오프라인/패키지 검증: 합성 데이터 및 스키마 정규화 트레이스 against 테스트.
  2. 과거 재생: 폐쇄된 사례에서 증거 복구.
  3. 퍼플 팀 시뮬레이션: 주입된 행동에 대한 탐지 유틸리티 테스트.
  4. 그림자 모드 파일럿: 분석가 감독 하에 제한된 실시간 텔레메트리 및 자동화된 응답 없음.
  5. 통제된 생산: 엄격한 예산 및 감사 모니터링을 통한 제한적 배포.
• 기준선: 제안된 브로커는 수동으로 작성된 분석가 KQL, 정적 승인 쿼리 라이브러리, 그리고 브로커되지 않은 AI 생성 KQL 과 비교됩니다.

3. 주요 기여 및 산출물 설계

3.1 거버넌스된 AI 쿼리 브로커 아키텍처

핵심 기여는 브로커 아키텍처로 구체화된 관리 프레임워크입니다. 핵심 제어 흐름은 다음과 같습니다.
분석가 요청 → AI 헌팅 계획 → RAG 그라운딩 → 승인된 템플릿 선택 → KQL 검증 → 정책 결정 → 읽기 전용 API 실행 → 결과 정규화 → 분석가 피드백.

주요 구성 요소는 다음과 같습니다.

• AI 플래너: 자연어 의도를 구조화된 헌팅 계획 (의도, 엔티티, 소스 선택) 으로 변환합니다.
• RAG 그라운딩 레이어: 환각을 방지하기 위해 현재 스키마, 승인된 템플릿, 플레이북, 위협 인텔리전스 컨텍스트를 검색합니다.
• 템플릿 리졸버: 자유 형식 코드 생성 대신 계획이 매개변수화된 승인된 KQL 패턴으로 매핑됩니다.
• KQL 브로커: 신원, 정책, 소스 허용 목록, 비용 한도, 시간/행 제한, 승인 규칙에 대해 쿼리를 검증하는 집행 엔진입니다.
• 소스 어댑터: 실행을 특정 읽기 전용 API(Microsoft Graph, Log Analytics, Sentinel Data Lake, ADX) 로 격리합니다.
• 피드백 레이어: 지속적인 개선을 지원하기 위해 분석가 처분 및 평가 레코드를 기록합니다.

3.2 설계 명제

본 연구는 프레임워크의 이론적 근간을 형성하는 여섯 가지 설계 명제 (P1~P6) 를 확립합니다.

• P1 (브로커 실행): AI 계획을 실행 가능한 액세스와 분리함으로써 AI 출력을 정책 평가 요청으로 변환하여 통제를 강화합니다.
• P2 (템플릿 우선 생성): 소유자와 버전 이력을 가진 승인된 매개변수화 템플릿에서 파생된 쿼리는 거버넌스가 더 용이합니다.
• P3 (출처 인식 지능): 위협 인텔리전스는 쿼리 생성에 영향을 주기 전에 출처, 신뢰도, 유효성을 보존해야 합니다.
• P4 (증거 기반 평가): 산출물에 대한 주장은 오프라인 테스트부터 자연주의적 배포에 이르는 적절한 증거 수준과 일치해야 합니다.
• P5 (샌드박스화된 에이전트 기여): 코딩 에이전트는 비생산 리포지토리 및 풀 리퀘스트로 제한되어야 하며, 직접적인 생산 API 액세스는 허용되지 않습니다.
• P6 (역할 중심 거버넌스): 지속 가능한 도입은 모델 제공업체에 집중하는 것이 아니라 SOC 리더십, 탐지 엔지니어링, 플랫폼 엔지니어링, AI 거버넌스 간의 분산된 책임을 요구합니다.

3.3 운영 모델 및 성숙도

본 논문은 도입을 위한 성숙도 모델을 정의합니다.

• 단계 0 (오프라인): 합성 데이터 및 모의 어댑터.
• 단계 1 (통제된 POC): 패키지 검증을 통한 비생산 환경.
• 단계 2 (그림자 모드): 분석가 감독 하에 제한된 실시간 텔레메트리.
• 단계 3 (통제된 생산): 훈련된 분석가, 감사된 실행, 그리고 예산 통제.
• 단계 4 (에이전트 지원 엔지니어링): 코딩 에이전트가 인간 검토 하에 풀 리퀘스트를 통해 변경 사항을 제안합니다.

또한, 승진 전 특정 증거 (예: 감사 로그, 비용 보고서, RACI 매트릭스) 를 요구하는 단계 간 전환을 위한 엔지니어링 검토 위원회 (ERB) 게이트 구조를 명시합니다.

4. 결과 및 증거 경계

본 논문은 다중 기업 생산 효과나 특정 탐지 향상 지표를 입증했다고 주장하지 않습니다. 대신, "결과"는 설계 타당성과 평가 프로토콜 자체입니다.

• 추적 가능성: 이 산출물은 사용자 요청부터 분석가 처분에 이르는 종단 간 추적 가능성을 제공하여 관리자가 AI 계획 실패, 거버넌스 통제 실패, 운영 적합성 실패를 구분할 수 있게 합니다.
• 위험 완화: 이 설계는 RAG 그라운딩, 행 제한, 로그를 지시 사항이 아닌 증거로 취급하는 등의 특정 통제를 통해 스키마 환각, 과도한 데이터 스캔, 민감 데이터 노출, 프롬프트 인젝션과 같은 실패 모드를 명시적으로 해결합니다.
• 재현성: 본 연구는 합성 테이블, 버전화된 템플릿, 정책 파일, 매니페스트를 포함하는 재현성 패키지를 제안하여 실시간 기업 텔레메트리를 노출하지 않고도 산출물을 검사할 수 있게 합니다.

5. 중요성 및 주장

본 논문의 중요성은 AI 지원 보안 운영을 순수한 기술적 또는 모델 성능 문제가 아닌 엔지니어링 관리 문제로 재정의하는 데 있습니다.

• 관리 프레임워크: AI 를 비공식적인 생산성 지원 도구에서 책임 있는 사회기술적 운영 역량으로 전환하는 구체적인 프레임워크를 제공합니다.
• 유창성보다 거버넌스: 고위험 엔지니어링 작업에서 AI 의 가치는 모델의 유창성보다 책임 있는 운영 모델, 증거 게이트, 그리고 관리적 통제에 더 의존한다는 것이 핵심 메시지입니다.
• 이전 가능성: KQL/Microsoft 환경에서 구체화되었지만, 기여는 인프라 자동화 및 안전-중요 분석과 같은 다른 고위험 기술 기능에 적용 가능한 거버넌스 아키텍처 (역할, 템플릿, 정책 게이트, 증거 성숙도) 입니다.
• 겸손한 주장: 저자들은 명시적으로 이 산출물이 SOC 분석가나 범용 탐지 알고리즘을 대체하는 것이 아니라고 밝힙니다. 이는 관리자가 AI 지원 작업을 통제하도록 돕기 위해 설계된 거버넌스 아키텍처이며, 생산 효과에 대한 주장은 향후 자연주의적 평가를 위해 유보됩니다.

요약하자면, 본 연구는 기술적 유효성, 감사 가능성, 개인정보 보호, 그리고 비용 규율이 유지되도록 고위험 디지털 인프라에서 AI 지원 운영 의사결정 지원을 어떻게 거버넌스할 것인지 명시하는 설계 과학 산출물과 관리 프레임워크를 기여합니다.