Risk-Aware Degraded-Mode Orchestration for Resilient Cloud–Edge AI Agents: From Containerized Fault Injection to Heterogeneous Kubernetes Validation

당신이 좋아하는 앱들이 단순한 하나의 프로그램이 아니라, 서로 협력하는 작고 보이지 않는 로봇 팀이라고 상상해 보세요. 어떤 로봇은 뉴스를 가져오고, 다른 로봇은 규칙을 확인하며, 세 번째 로봇은 코드를 작성하고, 네 번째 로봇은 이 모든 것을 이해하기 위해 거대한 뇌(AI)와 대화합니다. 이것이 현대의 "클라우드-엣지 AI(Cloud-Edge AI)"가 작동하는 방식입니다. 즉, 인터넷과 당신의 로컬 기기 전반에 걸쳐 실행되는 복잡한 서비스 체인입니다. 보통 이러한 팀들은 강인합니다. 한 로봇이 발을 헛디디면, 다른 로봇들이 다시 시도하거나, 기다리거나, 백업 플랜으로 전환할 수 있습니다. 하지만 여기 함정이 있습니다. 때로는 단순히 일을 '끝내는 것'만으로는 충분하지 않습니다. 만약 규칙을 확인하는 로봇이 사라졌다면, 팀은 그냥 짐작해서 계속 진행해서는 안 됩니다. 왜냐하면 실수로 중요한 것을 망가뜨리거나 허용되지 않은 행동을 할 수도 있기 때문입니다. 이것이 "온라인 상태 유지"와 "안전 유지" 사이의 까다로운 균형입니다.

DMO-AI(Degraded-Mode Orchestration for AI, AI를 위한 저하 모드 오케스트레이션)라는 새로운 아이디어를 소개합니다. 이것을 이 로봇 팀들을 위한 매우 똑똑한 교통경찰이라고 생각해 보세요. 단순히 "계속 가!" 또는 "모두 멈춰!"라고 말하는 대신, 이 경찰은 팀이 수행 중인 특정 작업이 무엇인지 살펴봅니다. 재미있는 이야기를 쓰는 것처럼 위험도가 낮은 작업인가요? 아니면 돈을 옮기거나 의료 기록을 변경하는 것처럼 위험도가 높은 작업인가요? 만약 "규칙 확인자" 로봇이 아프다면, 경찰은 이렇게 말할 수 있습니다. "좋아, 이야기 작성의 경우에는 우리가 가지고 있는 오래된 규칙서를 사용하자. 하지만 돈 이체에 대해서는? 절대 안 돼. 멈추고 사람에게 물어봐." 이 논문은 이 똑똑하고 위험을 인식하는 교통경찰이 기존의 멍청한 방식보다 더 많은 작업을 안전하게 수행할 수 있는지 테스트합니다.

문제점: "전부 아니면 전무(All or Nothing)"의 함정

당신이 자율주행 자동차를 운전하고 있다고 상상해 보세요. 자동차는 도로가 안전한지 알기 위해 클라우드 서버와 통신해야 합니다. 갑자기 서버와의 연결이 불안정해졌습니다. 자동차는 어떻게 해야 할까요?

기존의 시스템은 보통 두 가지 모드를 가집니다:

1. 페일 오픈(Fail-Open): "계속 주행해! 아마 괜찮을 거야." 이것은 위험합니다. 서버가 실제로 "정지"를 말하려 했던 것이라면, 자동차가 벽에 들이받을 수 있기 때문입니다.
2. 페일 클로즈(Fail-Closed): "즉시 멈춰!" 이것은 매우 안전하지만, 실제로는 도로가 깨끗하고 단지 신호가 잠시 끊긴 것뿐인데도 당신을 영원히 교통 체증 속에 앉아 있게 만듭니다.

문제는 AI 에이전트(우리의 로봇 팀과 같은)가 매우 다양한 일을 한다는 것입니다. 어떤 것은 위험도가 낮고(뉴스 요약 등), 어떤 것은 위험도가 높습니다(데이터베이스 삭제 등). "하나의 크기로 통일된" 규칙은 작동하지 않습니다. 저위험 요약 작업을 고위험 은행 이체와 똑같이 취급한다면, 안전하지 않은 결과를 얻거나 유용한 작업을 불필요하게 중단하게 됩니다.

해결책: 위험을 인식하는 교통경찰

이 논문의 저자인 Albert Adusei Brobbey, Narayan Bhosale, Dan Bamfo는 DMO-AI라는 새로운 시스템을 구축했습니다. 단순히 인터넷이 작동하는지 확인하는 대신, 이 시스템은 작업을 계속 진행하기 전에 세 가지 질문을 던집니다:

1. 이 작업은 얼마나 위험한가? (재미있는 이야기인가, 아니면 은행 이체인가?)
2. 무엇이 빠졌는가? (규칙 확인자가 다운되었는가, 아니면 뉴스 가져오기 로봇만 다운되었는가?)
3. 대신 무엇을 할 수 있는가?

시스템은 선택할 수 있는 "저하 모드(degraded modes, 백업 플랜)" 메뉴를 가지고 있습니다:

• 정상(Normal): 모든 것이 정상적으로 작동함.
• 로컬 모델(Local Model): 거대한 클라우드 뇌가 작동하지 않을 경우, 로컬 기기에서 더 작고 단순한 뇌를 사용함 (단, 저위험 작업에 대해서만).
• 캐시된 정책(Cached Policy): 규칙 확인자가 작동하지 않을 경우, 오래된 규칙서를 사용함 (단, 위험 수준에 비해 충분히 최신인 경우에만).
• 읽기 전용(Read-Only): 무언가를 변경하는 도구가 고장 났다면, 실제로 변경하지 않고 조언만 제공함.
• 핸드오프(Handoff): 짐작하는 것이 너무 위험하다면, 멈추고 사람에게 요청함.
• 차단(Block): 안전한 대안이 없다면, 그냥 중단함.

핵한 혁신은 시스템이 위험에 따라 적절한 백업 플랜을 선택한다는 점입니다. 클라우드 뇌가 작동하지 않는다고 해서 고위험 작업이 "로컬 뇌"를 사용하도록 허용하지 않습니다. 또한 규칙서가 너무 오래되었다면 은행 이체가 오래된 규칙서를 사용하게 두지 않습니다.

실험: 디지털 장애물 코스

이것이 효과가 있는지 확인하기 위해, 연구진은 거대한 디지털 장애물 코스를 구축했습니다. 그들은 네 가지 주요 서비스(모델(뇌), 검색 서비스(기억), 정책 서비스(규칙 확인자), 도구 서비스(실행하는 손))가 있는 테스트 환경을 만들었습니다.

그 후, 재난을 시뮬레이션하기 위해 Toxiproxy라는 도구를 사용했습니다. 그들은 의도적으로 "뇌"를 얼리거나, "규칙 확인자"를 끊거나, "손"의 속도를 늦췄습니다. 그들은 단일 컴퓨터 설정에서 이 시뮬레이션을 141,000번 실행했고, 실제 클라우드 서버와 실제 엣지 기기(라즈베리 파이나 소형 서버 등)가 있는 더 현실적인 설정에서 8,000번 실행했습니다.

그들은 DMO-AI를 다섯 가지의 일반적인 실패 처리 방식과 비교했습니다:

• 페일 오픈(Fail-Open): 그냥 계속 진행함.
• 페일 클로즈(Fail-Closed): 모든 것을 중단함.
• 재시도 예산(Retry Budget): 몇 번 다시 시도한 후 포기함.
• 서킷 브레이커(Circuit Breaker): 문제가 생기면 멈추고, 느려지면 한 번 더 시도함.
• 서비스 메쉬(Service Mesh): AI 위험을 알지 못하는 표준 네트워크 트래픽 관리자.

결과: 정지 표지판 없는 안전함

결과는 명확하고 흥미로웠습니다. 대규모 테스트인 8,000건의 이벤트에서, (AI 위험을 알지 못하는) 표준 서비스 메쉬는 작업을 안전하게 완료하는 데 **64.70%**의 성공률을 보였습니다. 즉, 안전하지 않은 일을 허용하거나 유용한 일을 너무 많이 중단시켰습니다.

반면, 새로운 DMO-AI 시스템은 **93.95%**의 안전한 완료율을 달нибудь했습니다. 이는 거의 29 퍼센트 포인트의 엄청난 도약입니다.

세부 사항은 다음과 같습니다:

• 안전하지 않은 결과 제로: 주요 테스트에서 DMO-AI는 **0.00%**의 안전하지 않은 결과와 **0.00%**의 정책 위반을 기록했습니다. 고위험 작업이 올바른 규칙 없이 통과하도록 결코 허용하지 않았습니다.
• "페일 오픈"보다 우수함: "페일 오픈" 시스템은 전체적으로 더 많은 작업을 완료했지만, 그중 **9.67%**는 안전하지 않았습니다(예: 규칙 확인 없이 은행 이체를 작성함). DMO-AI는 안전하지 않은 작업은 적게 완료했지만, 유용한 작업은 계속 실행했습니다.
• "페일 클로즈"보다 우수함: "페일 클로즈" 시스템은 안전했지만, 쉬운 작업조차 **41.57%**나 차단했습니다. DMO-AI는 단 **1.13%**의 작업만을 차단했습니다.

연구진은 또한 시스템에서 "위험 인식" 기능을 제거했을 때 어떤 일이 일어나는지 테스트했습니다. 작업이 고위험인지 저위험인지 확인하는 부분을 껐을 때, 안전 점수가 떨어지고 안전하지 않은 결과가 나타났습니다. 이는 "위험 인식 뇌"가 시스템의 가장 중요한 부분임을 입증했습니다.

그들은 비용도 확인했습니다. 이 시스템은 약간의 지연 시간(실제 테스트에서 평균 약 19밀리초)을 추가했지만, 시스템을 안전하고 계속 작동하게 만드는 것에 비하면 작은 대가였습니다.

이것이 의미하는 바

이 논문은 우리가 "모든 것을 멈추는 것"과 "무엇이든 일어나게 두는 것" 사이에서 하나를 선택할 필요가 없음을 보여줍니다. 시스템에게 작업의 위험도를 이해하도록 가르침으로써, 우리는 무언가 고장 났을 때도 저위험 작업은 계속 실행하면서, 동시에 고위험 작업이 위험한 일을 하지 않도록 엄격히 막을 수 있습니다.

저자들은 이것이 세상의 모든 문제를 해결하는 마법의 탄환은 아니라고 신중하게 밝히고 있습니다. 그들은 통제된 환경에서 특정 유형의 실패를 대상으로 테스트했습니다. 하지만 결과는 AI 에이전트의 미래를 위해, 인터넷이 불안정할 때 무엇이 재미있는 이야기이고 무엇이 은행 이체인지 구분하고 현명한 선택을 내릴 수 있는 "교통경찰"이 필요하다는 것을 시사합니다.

요약하자면, DMO-AI는 AI 에이전트의 뇌나 기억의 일부가 오프라인 상태가 되더라도, 그들을 안전하고 유용하게 유지하는 새로운 방법입니다. 그것은 마치 언제 "진행해도 좋다", "기다려라", 또는 "사람에게 물어봐라"라고 말해야 하는지 정확히 아는 수호천사를 두는 것과 같으며, 로봇 팀이 결코 곤경에 처하지 않도록 보장합니다.