Self-Adaptive Multi-Agent LLM-Based Security Pattern Selection for IoT Systems

"Self-Adaptive Multi-Agent LLM-Based Security Pattern Selection for IoT Systems"(ASPO) 논문에 대한 상세한 기술 요약입니다.

1. 문제 제기

사물인터넷 (IoT) 시스템의 급속한 확대로 보안 집행이 리소스 제약이 있는 엣지 게이트웨이로 이동했습니다. 기존 접근 방식은 공격 탐지에 초점을 맞추고 있지만, 핵심적인 과제는 런타임 완화 선택에 있습니다. 즉, 어떤 보안 제어를 활성화할지, 이를 어떻게 결합할지, 그리고 어떤 순서로 적용할지 결정하는 것이며, 이는 지연 시간, 에너지, 메모리, CPU 에 대한 엄격한 제약 조건을 준수해야 합니다.

현재 솔루션들은 구조적 불일치에 직면해 있습니다.

• 심층 강화 학습 (DRL): 적응성을 제공하지만 명시적 추론이 부족하며 충돌이 없거나 리소스 실행이 가능한 보장을 할 수 없습니다 (안전성은 보상 내에 암시적으로만 인코딩됨).
• 최적화 기반 방법: 제약 조건을 강제하지만 복잡하고 진화하는 위협 시나리오를 처리할 수 있는 문맥적 추론이 부족합니다.
• 대규모 언어 모델 (LLM): 강력한 추론과 멀티 에이전트 워크플로우를 제공하지만, 엄격하게 제어되지 않을 경우 실행 불가능하거나 안전하지 않거나 리소스 예산을 위반할 수 있는 확률적 출력을 생성합니다.

선택된 보안 포트폴리오가 엣지 제약 하에서 항상 안전하고 실행 가능하며 실행 가능하도록 보장하기 위해 문맥 인식 에이전트 추론과 결정론적 집행을 결합한 통합 런타임 메커니즘이 부족합니다.

2. 방법론: ASPO 프레임워크

저자들은 MAPE-K(모니터, 분석, 계획, 실행, 지식) 자율 제어 루프에 기반한 자기 적응형 멀티 에이전트 시스템인 ASPO를 제안합니다. 핵심 혁신은 확률적 숙고와 결정론적 집행을 명시적으로 분리하는 데 있습니다.

A. 아키텍처 및 워크플로우

1. 모니터 및 분석:
   • 엣지 게이트웨이에서 원시 원격 측정 데이터 (트래픽 특성, 리소스 지표) 를 수집합니다.
   • 위협 클래스, 심각도, 신뢰도, 사용 가능한 리소스 예산을 포함하는 구조화되고 경계된 문맥 ($S_t$) 을 구성하기 위해 결정론적 인코더를 사용합니다.
2. 계획 (하이브리드 확률적 - 결정론적 핵심):
   • 에이전트 숙고 (확률적): 구조화된 문맥을 기반으로 후보 완화 포트폴리오를 제안하는 멀티 에이전트 LLM 시스템 (문맥, 추론자, 제약, 계획자, 감사 에이전트) 이 있습니다. 이러한 에이전트는 스키마 제약이 있는 JSON 형식 내에서 작동하지만 여전히 확률적입니다.
   • 결정론적 집행 (하드 제약): 로컬 결정론적 최적화 코어가 LLM 의 후보를 받아 하드 제약 조건을 적용합니다.
     • 폐쇄 세계 소속성: 미리 정의된 카탈로그 (예: 화이트리스트, 세그멘테이션, 보안 퍼지) 에서만 패턴이 허용됩니다.
     • 충돌 없는 구성: 충돌 행렬을 사용하여 상호 배타적인 패턴이 동시에 선택되지 않도록 보장합니다.
     • 리소스 실행 가능성: 결합된 비용 (CPU, 메모리, 지연 시간, 에너지) 이 현재 예산 내에 있는지 확인합니다.
     • 실행 순서: 우선순위 규칙에 기반한 위상 정렬을 사용하여 유효한 활성화 순서를 결정합니다.
3. 실행:
   • 검증된 포트폴리오를 활성화합니다. 결정론적 게이트가 충돌이나 리소스 위반으로 인해 LLM 의 제안을 거부하는 경우, 대신 경량의 "페일세이프" 기본 정책이 활성화됩니다.
4. 지식:
   • 정의된 비용, 기능 및 상호작용 규칙을 가진 10 가지 특정 보안 패턴으로 구성된 폐쇄 세계 카탈로그를 유지합니다.

B. 위협 모델

시스템은 적대자가 LLM 의 추론을 왜곡하기 위해 원격 측정 및 문맥 입력을 조작할 수 있다고 가정합니다 (예: 프롬프트 인젝션 또는 문맥 중독). 그러나 최종 작동은 고정된 카탈로그와 하드 제약 조건에 대한 결정론적 최적화 코어에 의해만 결정되므로, 추론 단계가 조작되더라도 실행된 동작은 안전하고 실행 가능하도록 보장됩니다.

3. 주요 기여

1. 하이브리드 에이전트 - 결정론적 패러다임: ASPO 는 순수 정책 학습을 넘어 멀티 에이전트 LLM 추론과 결정론적 검증 코어를 통합합니다. 이를 통해 복잡한 의사 결정을 가능하게 하면서 런타임에서 안전하지 않거나 실행 불가능한 동작을 방지합니다.
2. 보안 구성의 결정론적 집행: 저자들은 완화 선택을 폐쇄 세계 최적화 문제로 재형식화했습니다. 그들은 모든 의사 결정 시점에서 소프트 페널티가 아닌 하드 제약으로서 충돌 없는 구성과 지연 시간/에너지 예산 준수를 보장합니다.
3. 엣지 테스트베드에서의 운영 검증: 시스템은 분산 엣지 게이트웨이 테스트베드 (10 개의 Raspberry Pi 4 노드) 에 구현되었으며, 재생된 공격 트래픽 (500 및 1000 의사 결정 에포크) 을 사용한 Bot-IoT 데이터셋으로 평가되었습니다.

4. 실험 결과

평가 결과, ASPO 는 작업 부하 확장 하에서 불변의 안전 속성과 향상된 효율성을 달성하는 것으로 나타났습니다.

• 안전 집행: 결정론적 게이트는 엄격한 필터 역할을 합니다. 1000 회 실행 작업 부하에서 **99.5%**의 LLM 생성 후보 계획이 제약 위반 (충돌, 리소스 한도, 또는 순서 문제) 으로 인해 거부되어 실행을 위해 소수의 검증된 세트만 남았습니다. 이는 시스템이 활성화 빈도보다 안전을 우선시함을 확인시켜 줍니다.
• 안정성 및 일관성:
  • 패턴 순위: 보안 패턴의 선택이 작업 부하 전반에 걸쳐 완벽하게 안정적으로 유지되었습니다 (스피어만 순위 상관 계수 = 1.0). 이는 의사 결정 로직의 드리프트가 없음을 나타냅니다.
  • 게이트 - 감사 합의: 승인된 계획에 대해 결정론적 게이트와 감사 에이전트 간에 100% 합의가 있었습니다.
• 엣지 효율성 (테일 지연 시간 및 에너지):
  • 의사 결정 깊이를 증가시켜도 (500 에서 1000 회 실행으로) 중앙 지연 시간이나 에너지 소비가 증가하지 않았습니다.
  • 특히 극단적 사례 비용이 크게 감소했습니다.
    • P99 지연 시간이 21.9% 감소했습니다 (36.0 초에서 28.1 초로).
    • P99 에너지가 23.1% 감소했습니다 (216J 에서 166J 로).
  • 이는 더 깊은 탐색이 시스템이 "테일" 비효율성을 필터링하여 더 예측 가능한 성능을 이끌어낸다는 것을 시사합니다.
• 강건성: 시스템은 다양한 위협 유형 (DDoS, DoS, 봇넷 등) 에서 일관된 동작을 유지했으며 특정 공격 카테고리에 대해 통계적으로 유의미한 편향을 보이지 않았습니다.

5. 의의

이 연구는 IoT 의 자율 사이버 보안에서 중요한 격차를 해소합니다. LLM 의 확률적 특성이 엄격한 결정론적 제어 루프 내에 제한된다면, LLM 을 안전이 중요한 리소스 제약 환경에 안전하게 배포할 수 있음을 보여줍니다.

• 정책 학습에서 숙고로의 전환: ASPO 는 런타임 방어를 정책 학습에서 경계되고 검증 가능한 숙고 수행으로 재정의합니다.
• 예측 가능성: 하드 제약을 강제함으로써 ASPO 는 적응형 AI 시스템에서 일반적인 실패 모드인 리소스 고갈로 인해 엣지 게이트웨이가 충돌하거나 응답하지 않는 것을 방지합니다.
• 실제 배포: 결과는 복잡한 멀티 에이전트 추론이 실제 세계 IoT 보안에 필요한 엄격한 안전성과 실행 가능성 보장을 희생하지 않고 엣지 장치에 통합될 수 있음을 입증합니다.

결론적으로, ASPO 는 신뢰할 수 있는 자율 방어에 대한 청사진을 제공하며, LLM 의 추론 능력과 결정론적 최적화의 엄격함을 결합하면 적응적이면서도 안전한 시스템을 구축할 수 있음을 보여줍니다.