🤖 AI

Toward a Modular Architecture for Embedded AI Agent Systems at the Edge

본 논문은 온디바이스 실행을 클라우드 증강 추론으로부터 분리하는 동시에 자원 제한적인 환경에서의 안전성과 관측 가능성을 보장하기 위한 거버넌스 계층을 통합함으로써, 결정론적 실시간 제어와 에이전트 지능 사이의 간극을 메우는 임베디드 AI 에이전트 시스템을 위한 모듈형 계층 참조 아키텍처를 제안한다.

원저자: Marcus Rüb, Michael Gerhards

게시일 2026-06-03

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Marcus Rüb, Michael Gerhards

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

모든 장치, 즉 농장의 작은 토양 센서부터 거실의 스마트 스피커에 이르기까지 모든 장치가 스스로 생각하고, 계획하고, 결정할 수 있는 '두뇌'를 갖게 되는 세상을 상상해 보십시오. 이것이 바로 **에이전틱 AI(Agentic AI)**가 약속하는 미래입니다. 하지만 여기에는 큰 문제가 있습니다. 오늘날 우리가 가진 초지능적인 두뇌(거대 언어 모델)는 마치 거대하고 배고픈 코끼리와 같습니다. 이들은 실행을 위해 엄청난 양의 전기와 메모리를 필요로 하는데, 이는 데이터 센터에는 완벽하게 들어맞지만, 배터리로 작동하는 아주 작은 센서에는 불가능한 일입니다.

이 논문은 해결책을 제시합니다: 코끼리를 쥐 구멍에 억지로 밀어 넣지 마십시오. 대신, '두뇌'가 장치의 크기에 맞춰 적응할 수 있는 유연한 시스템을 구축하십시오.

다음은 이 논문의 제안을 간단한 개념과 비유로 풀어낸 내용입니다:

1. 핵심 문제: "메모리 벽(Memory Wall)"

표준 마이크로컨트롤러(단순한 센서 내부의 칩)를 작은 수첩이라고 생각해 보십시오. 이 수첩은 기록할 공간도 매우 적고 두뇌도 매우 작습니다.
강력한 에지 게이트웨이(스마트 홈 허브와 같은 장치)를 커다란 도서관이라고 생각해 보십시오. 여기에는 책이 가득 찬 선반과 작업할 수 있는 큰 책상이 있습니다.

현재 AI 연구자들은 도서관 전체의 지식을 이 작은 수첩에 집어넣으려고 노력하고 있습니다. 하지만 그것은 불가능합니다. 이 논문은 하나의 크기로 모든 것을 해결하려는 시도를 멈춰야 한다고 주장합니다.

2. 해결책: 2단계 "팀" 시스템

저자들은 하드웨어가 처리할 수 있는 능력에 따라 업무를 나누는 모듈형 아키텍처를 제안합니다. 그들은 이 두 가지 접근 방식을 **"플레이버(Flavors)"**라고 부릅니다.

플레이버 A: 자율형 게이트웨이 ("로컬 두뇌")

거처: 스마트 홈 허브나 산업용 게이트웨이와 같은 강력한 장치 (도서관).
작동 방식: 이 장치는 **소형 언어 모델(SLM)**을 로컬에서 실행합니다. 이는 당신의 방 안에 앉아 있는 똑똑한 비서와 같습니다.
장점: 인터넷 없이도 생각하고, 추론하며, 결정을 내릴 수 있습니다. 빠르고 프라이버시를 보호하며(데이터가 집 밖으로 나가지 않음), 전원이 꺼져도 작동합니다.
트레이드오프: 스스로 무거운 작업을 수행하기 때문에 제작 비용이 더 많이 들고 배터리 소모가 큽니다.

플레이버 B: 테더드 에이전트 ("메신저")

거처: 토양 센서나 단순한 스위치와 같이 작고 저렴한 장치 (작은 수첩).
작동 방식: 이 장치는 깊이 생각하기에는 너무 작습니다. 대신, 이 장치는 메신저 역할을 합니다. 데이터를 수집하고(예: "토양이 건조함"), 클라우드(초지능 두뇌)에 "무엇을 해야 하나요?"라고 묻는 짧은 메시지를 보냅니다.
장점: 믿기지 않을 정도로 저렴하고 에너지 효율적입니다. 큰 비용을 들이지 않고도 현장에 수천 개를 배치할 수 있습니다.
트레이드오프: 인터넷 연결이 필요합니다. 인터넷이 끊기면 이 장치는 '뇌사 상태'가 됩니다. 즉, 복잡한 새로운 결정을 내릴 수는 없으며, 오직 단순하고 미리 프로그래밍된 반사 신경(예: "온도가 너무 높아지면 차단하라")만을 수행할 수 있습니다.

3. "거버넌스 레이어(Governance Layer)": 안전 관리자

"로컬 두뇌"를 사용하든 "메신저"를 사용하든, 이 논문은 중요한 세 번째 구성 요소인 거버넌스 레이어를 도입합니다.

이를 모든 장치를 감시하는 엄격한 안전 관리자 또는 심판이라고 생각하십시오.

관측 가능성(Observability): 인간이 나중에 기록을 확인할 수 있도록 모든 에이전트가 무엇을 하고 있는지 로그를 남깁니다.
안전성(Safety): 이는 모든 장치(스마트 허브든 작은 센서든)가 위험한 명령(예: 보일러를 켜거나 로봇 팔을 움직이는 것)을 실행하기 전에 거버넌스 레이어가 확인하는 "안전벨트" 역할을 합니다. *"이것이 안전한가? 우리의 규칙과 일치하는가?"*를 체크합니다.
중요성: 이를 통해 AI가 실수를 하거나 "환각(Hallucination)" 현상을 일으키더라도, 안전 관리자가 물리적인 피해를 입히지 않도록 차단할 수 있습니다.

4. 논문에 등장하는 실제 사례

논문은 어떤 경우에 어떤 "플레이버"를 사용해야 하는지 보여주기 위해 세 가지 시나리오를 사용합니다.

스마트 농업 (플레이버 B): 수천 개의 토양 센서가 있는 거대한 농장을 상상해 보십시오. 모든 식물마다 200달 달러짜리 스마트 허브를 놓을 수는 없습니다. 따라서 중앙 클라우드 두뇌에 데이터를 보내는 저렴한 "메신저" 센서(플레이버 B)를 사용합니다. 이들은 단순한 규칙에 따라 물을 아끼지만, "가뭄이 예상되니 관수 일정을 변경하라"와 같은 큰 결정은 클라우드에 요청합니다.
예측 유지보수 (하이브리드): 공장 기계를 상상해 보십시오. 작은 센서(플레이버 B)가 24시간 내내 진동을 감지합니다. 이상한 소리가 들리면, 이 센서는 스냅샷을 강력한 로컬 게이트웨이(플레이버 A)로 보냅니다. 그러면 게이트웨이가 자신의 "로컬 두뇌"를 사용하여 정확히 무엇이 잘못되었고 어떻게 고쳐야 하는지를 파악합니다.
프라이버시 우선 스마트 홈 (플레이버 A): 침실에 있는 음성 비서를 상상해 보십시오. 당신의 사적인 대화가 클라우드로 전송되는 것을 원치 않을 것입니다. 그래서 당신은 음성을 처리하고 명령을 집 안에서 직접 실행하는 강력한 로컬 허브(플레이버 A)를 사용합니다. 이것은 인터넷이 끊겨도 작동하며, 당신의 비밀은 집 안에 머뭅니다.

5. 결론

논문은 "단 하나의 정답(One-size-fits-all)"은 없다고 결론짓습니다.

프라이버시, 속도, 오프라인 신뢰성이 필요하다면, **로컬 두뇌(플레이버 A)**를 사용하십시오.
확장성, 저비용, 방대한 수의 장치가 필요하다면, 클라우드에 연결된 **메신저(플레이버 B)**를 사용하십시오.

이 아키텍처의 천재성은 두 유형의 장치를 하나의 팀으로 취급한다는 점에 있습니다. 그들은 공통된 언어를 사용하고, 동일한 안전 규칙을 따르며, 협력하여 가장 작은 센서조차도 지능형 시스템의 일부가 될 수 있는 세상을 만들어냅니다.

기술 요약: 에지 환경의 임베디드 에이전트 시스템을 위한 모듈형 아키텍처를 향하여

문제 정의

대규모 언어 모델(LLM)의 급격한 발전은 복잡한 추론, 계획 및 도구 사용이 가능한 "에이전트형 AI(agentic AI)"를 가능하게 했습니다. 그러나 강력한 AI 시스템과 편재형 컴퓨팅 환경(pervasive computing environments) 사이에는 상당한 단절이 존재합니다. 클라우드 기반 에이전트는 풍부한 메모리, 연산 능력, 지속적인 연결성을 가정하는 반면, 임베디드 시스템의 물리적 세계는 엄격한 자원 제한(예: 킬로바이트 단위의 RAM, 제한된 Flash 저장 공간) 하에서 작동하는 딥 임베디드 마이크로컨트롤러(MCU)와 센서 노드에 의해 지배됩니다.

기존 프레임워크는 일반적으로 서버급 자원을 가정하므로, 딥 임베디드 시스템을 위한 공백을 남겨둡니다. 성능이 뛰어난 추론 에이전트를 표준 마이크로컨트롤러에서 실행하는 것은 "메모리 벽(memory wall)"으로 인해 기술적으로 불가능하며, 기존의 임베디드 개발은 현대의 에이전트형 AI가 가진 동적이고 문맥 인지적인 특성보다는 결정론적 제어 루프를 우선시합니다. 이처럼 이질적인 하드웨어 계층 전반에 걸쳐 결정론적 실시간 제어와 에이전트형 지능을 연결하는 통합된 아키텍처 프레임워크가 부족한 실정입니다.

방법론

본 논문은 이질적인 배포 패턴을 통합하기 위해 설계된 **모듈형 임베디드 에이전트 아키텍처(Modular Embedded Agent Architecture)**를 제안합니다. 모든 장치에 단일한 에이전트 정의를 강요하는 대신, 본 방법론은 하드웨어 역량에 따른 차별화된 계층적 접근 방식을 채택합니다.

하드웨어 차별화: 아키텍처는 다음을 구분합니다.
- 에지 게이트웨이 (MPU): 양자화된 소형 언어 모델(SLM)을 호스팅할 수 있는 기가바이트 단위의 RAM을 갖춘 장치.
- 딥 임베디드 MCU: 생성형 모델을 호스팅할 수 없는 엄격한 메모리 제약(SRAM < 512 KB)을 가진 장치.
이중 배포 "플레이버(Flavors)": 아키텍처는 서로 다른 실행 위치를 가지지만 공통된 구조적 DNA를 공유하는 두 가지 별개의 운영 모드를 정의합니다.
- 플레이버 A (자율형 온디바이스 에이전트): 역량이 있는 에지 하드웨어에서 실행됩니다. 로컬 SLM을 실행하여 프라이버시를 보장하고 오프라인 기능을 확보합니다.
- 플레이버 B (테더링된 클라우드 에이전트): 제약이 있는 MCU에서 실행됩니다. 클라우드 에이전트(LLM)에 복잡한 추론을 위임하는 동시에, 안전을 위한 로컬의 결정론적 반사 신경(reflexes)을 유지하는 지능형 인터페이스 역할을 합니다.
모듈형 분해: 에이전트 로직은 기능적 모듈(인식, 메모리, 계획, 추론, 행동, 학습, 도구 레지스트리, 보안)로 분리됩니다. 이 모듈들의 구현은 하드웨어 계층에 따라 적응합니다 (예: 게이트웨이에서의 확률론적 사고 사슬(Chain-of-Thought) 계획 vs MCU에서의 결정론적 유한 상태 머신(Finite State Machines)).
교차 횡단적 거버넌스: 분산된 플릿(fleet) 전체에서 관측 가능성, 정책 집행 및 안전을 보장하기 위해 필수적인 거버넌스 계층(Governance Layer)을 도입합니다.

주요 기여

본 논문은 네 가지 주요 기여를 합니다:

하드웨어 특화 제약 분석: 임베디드 에이전트의 구체적인 한계를 분석하여, SLM 실행이 가능한 에지 장치와 클라우드 인터페이스로서의 MCU를 명확히 구분하고, "메모리 벽"을 주요 제약 사항으로 강조합니다.
모듈형 임베디드 에이전트 아키텍처: 실행 계층(로컬 vs 클라우드)을 에이전트의 논리적 정의로부터 분리하는 프레임워크를 제안합니다. 이를 통해 하드웨어 계층에 따라 "에이전트"의 정의가 적응하는 하이브리드 배포 전략을 가능하게 합니다.
거버넌스 계층 통합: 분산된 에이전트 플릿을 관리하기 위한 교차 횡단적 거버넌스 계층을 도입하여, 엔터프라이즈 환경에서 필수적인 관측 가능성과 안전 문제를 해결합니다.
개념적 트레이드오프 평가: 단순한 경험적 벤치마크 대신, 세 가지 응용 도메인(스마트 농업, 예지 보전, 스마트 홈)에 걸친 설계 트레이드오프(지연 시간, 에너지, 프라이버시, 비용)에 대한 개념적 평가를 제공합니다.

결과 및 분석

본 논문은 경험적 성능 벤치마크보다는 개념적 분석을 제시하며, 두 가지 배포 플레이버 간의 트레이드오프에 대해 다음과 같은 결론을 도출합니다:

지연 시간 및 결정론:
- 플레이버 A (게이트웨이): 낮은 지연 시간의 로컬 인식-행동 루프(<10 ms)를 제공하지만, 생성적 추론을 위한 높은 추론 지연 시간(200 ms ~ 수 초)이 발생합니다.
- 플레이버 B (MCU): 매우 빠른 로컬 반사 신경(<1 ms)을 제공하지만, 복잡한 추론을 위한 예측 불가능한 네트워크 지터(100–1000 ms)를 유발하여 고주파수 인지 루프에는 부적합합니다.
에너지 소비:
- 플레이버 A: 계산 중심적입니다. 로컬에서 SLM을 실행하면 상당한 전력(Watts)을 소비하여 배터리 수명을 제한합니다.
- 플레이버 B: 통신 중심적입니다. MCU는 대기/센싱 모드에서 밀리와트(milliwatts)를 소비하지만, 데이터 전송 시 전력 스파이크가 발생합니다. 간헐적인 작업의 경우, 지속적인 로컬 프로세싱보다 에너지 효율적입니다.
메모리 및 비용:
- 플레이버 A: 기가바이트 단위의 RAM과 높은 BOM(자재 명세서) 비용( $50–$ 200+)이 필요하여, 대규모 센서 배포의 확장성을 제한합니다.
- 플레이버 B: 킬로바이트 단위의 RAM 제한과 낮은 BOM 비용( $2–$ 10) 내에서 작동하여, 클라우드 연결성에 의존하면서도 수십억 개의 엔드포인트로의 확장을 가능하게 합니다.
프라이버시 및 회복 탄력성:
- 플레이버 A: 우수한 프라이버시(데이터가 로컬에 머묾)와 회복 탄력성(에어갭 환경에서도 완전한 기능 수행)을 제공합니다.
- 플레이버 B: 클라우드에 의존합니다. 데이터는 암호화될 수 있지만, 연결성 상실 시 에이전트는 기본적인 안전 규칙만 남은 "뇌가 손상된(lobotomized)" 상태로 퇴보합니다.

응용 시나리오:

스마트 농업: 비용 및 에너지 제약으로 인해 플레이버 B를 선호합니다. 로컬 규칙이 즉각적인 제어를 담당하고, 클라우드가 전략적 결정을 처리합니다.
예지 보전 (Predictive Maintenance): 하이브리드 접근 방식을 선호합니다. MCU는 고주파 샘플링을 처리하고, 게이트웨이/클라우드는 복잡한 이상 징м 진단을 수행합니다.
프라이버시 우선 스마트 홈: 음성 데이터가 로컬에 머물고 인터넷 중단 시에도 시스템이 작동해야 하므로 플레이버 A를 선호합니다.

의의 및 주장

본 논문은 "에이전트 개념"을 하위 실행 하드웨어로부터 분리함으로써 에지로 에이전트 동작을 가져오는 데 있어 통합된 청사진을 제공한다는 점에 그 주요 의의가 있다고 주장합니다.

통합 추상화: 시스템 설계자가 2달러짜리 마이크로컨트롤러와 100달러짜리 에지 게이트웨이를 동일한 에이전트 시스템 내의 노드로 취급할 수 있게 하여, 지연 시간에 민감한 반사 신경은 MCU에, 프라이버시에 민감한 추론은 게이트웨이에 할당하는 원칙적인 설계 결정을 가능하게 합니다.
모듈성을 통한 실현: 에이전트를 기술 중립적인 모듈로 분해함으로써, 경량 장치가 지속 불가능한 소프트웨어 스택에 과부하되지 않고도 에이전트 워크플로우에 참여할 수 있도록 합니다.
거버넌스의 일류 시민화: 교차 횡단적 거버넌스 계층의 도입은 에지 AI의 "블랙박스" 문제를 해결하며, 에너지 및 의료와 같은 규제 산업에서 필수적인 균일한 감사 추적(audit trail)을 제공합니다.

저자들은 "원 사이즈 핏 올(one-size-fits-all)" 솔론은 없다고 결론짓습니다. 제안된 아키텍처는 단순한 마이크로컨트롤러가 표준화된 인터페이스와 견고한 안전 백업을 통해 에이전트 워크플로우에 참여할 수 있도록 하는 **하이브리드 구성 가능성(hybrid composability)**을 강조하는 한편, 현재의 "메모리 벽"이 생성적 추론을 고성능 게이트웨이로 제한하고 있음을 인정합니다. 향러 연구 과제로 오픈 소스 참조 구현 개발, 텍스트 기반 AI 프로토콜과 바이너리 IoT 프로토콜 간의 의미론적 격차 해소, 그리고 분산 트레이싱 및 "모델 아머(model armor)"를 위한 거버넌스 툴링 프로토타이핑을 꼽았습니다.