Cybersecurity AI: Hacking Consumer Robots in the AI Era

이 논문은 생성형 AI 가 로봇 시스템의 보안 취약점을 자동화하여 전문 지식이 없어도 소비자용 로봇 (자율 잔디깎이, 외골격, 창문 청소 로봇 등) 을 대규모로 해킹할 수 있게 되었음을 실증적으로 보여주며, 이에 대응하기 위해 기존 방어 체계보다 AI 공격 속도에 맞설 수 있는 GenAI 기반의 새로운 방어 메커니즘이 필요함을 주장합니다.

핵심

🤖 1. 핵심 메시지: "로봇 해킹의 민주화"

과거에는 로봇을 해킹하려면 'ROS(로봇 운영체제)' 같은 복잡한 전문 지식을 수십 년간 공부한 해커가 필요했습니다. 하지만 이제는 **최신 생성형 AI(Generative AI)**가 그 역할을 대신합니다.

• 비유: 예전에는 고급 요리를 하려면 셰프가 수십 년간 훈련받아야 했지만, 이제는 초고급 AI 조리사가 레시피를 보고 몇 분 만에 같은 맛을 내는 것과 같습니다.
• 결과: 이 AI 도구 (CAI) 를 사용하면, 로봇의 보안 구멍을 찾는 데 수개월 걸리던 일이 몇 시간 만에 끝납니다.

🏠 2. 실제 실험: 세 가지 로봇의 비극

연구팀은 가정에서 쓰이는 세 가지 로봇을 AI 해커에게 공격해 보게 했습니다. 결과는 참담했습니다.

① 잔디 깎는 로봇 (Hookii Neomow)

• 상황: 마당에서 잔디를 깎는 로봇입니다.
• 문제: 이 로봇은 열린 문처럼 되어 있었습니다.
  • 비밀번호 없이도 로봇의 내부 컴퓨터에 접속할 수 있었습니다.
  • 가장 끔찍한 건, 한 번의 비밀번호로 267 대 이상의 로봇을 모두 조종할 수 있었다는 점입니다. (마치 한 열쇠로 온 동네 아파트 문을 모두 열 수 있는 것과 같습니다.)
  • 로봇이 찍은 집 주변 지도, GPS 위치, 심지어 카메라 영상까지 해커에게 유출되었습니다.

② 힘주는 외골격 (Hypershell X)

• 상황: 다리에 착용해서 걷는 것을 도와주는 로봇입니다. 사람의 안전과 직접 연결된 장치입니다.
• 문제: 이 로봇은 안전장치가 전혀 없었습니다.
  • 비밀번호 없이도 로봇의 모터 제어 명령을 보낼 수 있었습니다.
  • 해커가 "모터를 멈춰!"라고 명령하면 사람이 넘어질 수도 있고, "모터를 과격하게 돌려!"라고 하면 다칠 수도 있습니다.
  • 회사 내부 이메일 주소, 결제 정보 등 3,300 개 이상의 비밀 문서가 노출되어 있었습니다.

③ 창문 청소 로봇 (HOBOT S7 Pro)

• 상황: 빌딩 유리창을 청소하는 로봇입니다.
• 문제: 누구나 원격으로 조종할 수 있었습니다.
  • 비밀번호 없이도 로봇을 움직이거나, 물을 뿌리게 하거나, 아예 공장 초기화 (모든 데이터 삭제) 시킬 수 있었습니다.
  • 심지어 다른 회사의 스마트 에어컨을 조종할 수 있는 권한까지 실수로 노출되어 있었습니다.

⏱️ 3. 속도 비교: 인간 vs AI

• 전통적인 해커 (인간): 이 로봇들의 보안 문제를 찾으려면 전문가 팀이 5 시간 이상 (심지어는 몇 주) 걸려야 했습니다.
• AI 해커 (CAI): 같은 작업을 1.5~3 시간 만에 끝냈습니다.
• 결론: AI 는 인간보다 3~5 배 더 빠르고, 전문 지식 없이도 해킹을 성공시켰습니다.

🛡️ 4. 왜 위험한가? (현재와 미래)

이 연구는 두 가지 큰 문제를 지적합니다.

1. 공격은 빨라졌는데, 방어는 느려요: 해커는 AI 를 써서 순식간에 로봇을 해킹하지만, 로봇 회사들은 여전히 "우리는 복잡한 기술을 쓰니까 해커가 못 뚫겠지"라고 생각하며 방어책을 안 하고 있습니다.
2. 보안 시스템이 무너져 내려요: AI 가 하루에 발견하는 보안 구멍이 너무 많아서, 기존에 해킹을 신고하고 고치는 시스템 (CVE 등) 이 감당하지 못할 지경입니다. 마치 하루에 100 개의 새 병이 발견되는데, 의사 한 명만 있는 상황과 같습니다.

💡 5. 해결책은 무엇일까?

연구팀은 다음과 같이 제안합니다.

• AI 가 지키는 AI 로봇: 이제 로봇을 지키는 것도 AI 가 해야 합니다. AI 해커가 공격하면, AI 방어병이 실시간으로 그 공격을 막아내고 스스로 패치 (수정) 를 만들어야 합니다.
• 글로벌 협력: 로봇을 만드는 회사들 (특히 중국, 대만 등) 이 보안 문제를 숨기지 말고, 전 세계 연구자들과 함께 해결책을 찾아야 합니다.
• 규제 강화: 로봇이 사람과 함께 살기 때문에, 단순한 데이터 유출이 아니라 사람이 다치는 사고로 이어질 수 있음을 인지하고, 법적으로 엄격한 보안 기준을 만들어야 합니다.

📝 요약

이 논문은 **"로봇 해킹은 더 이상 영화 속 이야기가 아니다. AI 덕분에 누구나 쉽게 할 수 있게 되었고, 우리 집 로봇이 해커의 장난감이 될 수 있다"**고 경고합니다. 이제는 로봇을 만들 때부터 AI 가 해킹할 수 있다는 전제하에, AI 가 지키는 새로운 보안 시스템을 만들어야 한다는 절실한 호소입니다.

기술 요약

1. 문제 제기 (Problem)

소비자용 로봇 (자율 잔디 깎기 로봇, 전동 외골격, 창문 청소 로봇 등) 이 급격히 확산되고 있지만, 이들의 보안은 여전히 **"공격자에게는 특수한 전문 지식이 필요하다"**는 오래된 가정에 기반하고 있습니다.

• 기존 가정: 로봇 해킹에는 ROS(로봇 운영 체제), ROS 2, 임베디드 시스템, 사이버 - 물리 시스템의 내부 동작에 대한 깊은 이해가 필수적이었습니다.
• 현실 변화: 생성형 AI (GenAI) 의 등장으로 이러한 장벽이 무너졌습니다. 이제 ROS 및 로봇 시스템 내부 구조에 대한 전문 지식이 없더라도, 최첨단 GenAI 도구 (이 논문에서는 오픈소스 프레임워크 CAI 사용) 를 통해 로봇의 취약점을 자동으로 발견하고 악용할 수 있게 되었습니다.
• 핵심 문제: 공격 능력은 AI 를 통해 민주화되었으나, 방어 체계 (Robot Immune System 등) 는 여전히 수동적이고 정적이며 AI 기반 공격 속도를 따라가지 못하고 있습니다.

2. 방법론 (Methodology)

저자들은 오픈소스 사이버보안 AI 에이전트인 **CAI (Cybersecurity AI)**를 사용하여 세 가지 서로 다른 카테고리의 소비자 로봇을 대상으로 보안 평가를 수행했습니다.

• 대상 로봇:
  1. Hookii Neomow: 자율 잔디 깎기 로봇 (ROS 2, MQTT, ADB 사용).
  2. Hypershell X: 전동 외골격 (BLE, REST API, CAN Bus 사용).
  3. HOBOT S7 Pro: 창문 청소 로봇 (BLE, 클라우드 API, HTTP 사용).
• 평가 프로세스:
  1. CAI 에게 로봇의 제품명만 제공 (기술 문서나 사전 연구 자료는 제공하지 않음).
  2. CAI 가 자율적으로 네트워크 인터페이스 및 무선 공격 표면 (Attack Surface) 을 탐지.
  3. 인간의 감독 하에 보안 약점을 체계적으로 테스트.
  4. 작동 가능한 악용 코드 (Exploit) 개발 및 검증.
  5. 실제 영향도 평가.
• 비교: 전통적인 전문가 주도 평가와 CAI 를 사용한 평가 소요 시간을 비교 분석했습니다.

3. 주요 기여 (Key Contributions)

1. AI 에 의해 민주화된 로봇 해킹의 실증: 전문가가 수개월간 수행해야 했던 연구가 AI 를 통해 몇 시간 내에 완료될 수 있음을 3 가지 사례 연구를 통해 입증했습니다.
2. GenAI 네이티브 로봇 방어의 필요성 제기: 기존 방어 아키텍처 (RIS 등) 는 AI 기반 공격에 대응하기 위해 진화해야 하며, AI 기반의 적응형 방어 에이전트가 필요함을 주장했습니다.

4. 주요 결과 (Results)

CAI 는 세 가지 플랫폼에서 총 38 개의 취약점을 자동으로 발견했습니다. 이는 기존 전문가 팀이 수행한 평가보다 3~5 배 빠른 속도로 달성되었습니다.

사례 1: Hookii Neomow (잔디 깎기 로봇)

• 발견된 취약점: 9 개 (4 개 치명적).
• 주요 발견:
  • 무인증 ADB: 포트 5555 의 ADB 서비스가 인증 없이 열려 있어, adb connect 명령어 하나로 루트 권한을 획득할 수 있음 (CVSS 10.0).
  • 플릿 전체 (Fleet-wide) 취약점: 하드코딩된 MQTT 자격 증명을 추출하여 전체 로봇 플릿 (267 대 이상) 에 대한 접근 권한을 획득.
  • 데이터 유출: 암호화되지 않은 MQTT 를 통해 GPS, 카메라 이미지, 3D 매핑 데이터가 유출됨. GDPR 위반 (사용자 동의 없이 데이터 전송 및 미국 AWS 로 전송) 확인.

사례 2: Hypershell X (외골격)

• 발견된 취약점: 12 개 (모두 치명적/높음).
• 주요 발견:
  • 무인증 BLE 제어: BLE 인증이 없어 임의의 클라이언트가 모터 제어 명령을 보낼 수 있음.
  • IDOR (불안전한 직접 객체 참조): BLE MAC 주소를 역순으로 변환한 장치 ID 를 통해 임의 사용자의 이메일, 시리얼 넘버, 사용 기록 등을 조회 가능.
  • 신원 정보 노출: 애플리케이션 덤프에서 내부 지원 이메일 (3,300 개 이상) 및 결제 시스템 복구 코드 등 민감한 자격 증명이 평문으로 노출됨.
  • 안전 위험: 부정한 모터 제어 명령이 사용자의 신체적 안전을 위협할 수 있음.

사례 3: HOBOT S7 Pro (창문 청소 로봇)

• 발견된 취약점: 17 개 (가장 많음).
• 주요 발견:
  • 무인증 BLE 명령 주입: 페어링/인증 없이 모든 GATT 서비스에 접근 가능. XOR 암호화만 사용되어 재전송 공격 (Replay Attack) 및 명령 주입이 용이함.
  • 서명 없는 OTA 업데이트: 암호화 서명 검증 없이 임의의 펌웨어를 업로드할 수 있어, 중간자 공격 (MITM) 을 통한 펌웨어 조작 가능.
  • 클라우드 데이터 유출: Gizwits IoT 플랫폼에서 타사 스마트 에어컨의 제어 속성까지 접근 가능한 크로스 테넌트 (Cross-tenant) 데이터 유출 발견.

시간 효율성 비교

• 전통적 평가: 약 33 시간 (전문가 인력 투입 시 수 주 소요).
• CAI 평가: 총 7 시간 (병렬 실행 시 약 3 시간).
• 결론: CAI 는 인간 전문가보다 3~5 배 빠르게 취약점을 식별하고 검증했습니다.

5. 의의 및 시사점 (Significance)

1. 보안 패러다임의 붕괴: "보안은 obscurity(은폐) 에 의존한다"는 가정이 완전히 무너졌습니다. 이제 AI 는 로봇 시스템의 복잡한 프로토콜 (ROS 2, BLE, MQTT 등) 을 자동으로 학습하고 공격 경로를 연결할 수 있습니다.
2. 보안 관리 시스템의 위기: AI 가 하루에 수백 개의 취약점을 발견하는 속도에 비해, 기존 CVE(취약점 공개 시스템) 및 NVD(국가 취약점 데이터베이스) 는 처리 속도를 따라가지 못하고 있습니다. 또한, 제조사 (특히 동아시아 기반) 들의 취약점 대응 및 공개 거부가 심각한 문제입니다.
3. 물리적 안전 위협: 소프트웨어 해킹을 넘어, 외골격의 모터 제어 실패나 잔디 깎기 로봇의 원격 제어 등은 직접적인 신체적 부상과 재산 피해로 이어질 수 있습니다.
4. 방어 체계의 재설계 필요:
   • 정적 규칙 기반 방어 (RIS) 는 AI 기반 공격에 무력합니다.
   • GenAI 네이티브 방어 에이전트 도입 필요: 행동 기반 이상 탐지, 실시간 패치 생성 및 배포, 플릿 전체의 위협 정보 공유를 수행하는 AI 에이전트가 필요합니다.
5. 규제 및 국제 협력: 소비자 로봇에 대한 보안 및 개인정보 보호 규정 (GDPR 등) 이 의무화되어야 하며, 제조사와 보안 연구자 간의 효과적인 취약점 공개 채널이 국제적으로 구축되어야 합니다.

결론적으로, 이 논문은 생성형 AI 가 로봇 사이버보안의 공격과 방어 간의 균형을 완전히 뒤집었음을 보여주며, 로봇 산업이 AI 기반 공격에 대응할 수 있도록 방어 아키텍처를 근본적으로 재설계해야 할 시급성을 강조합니다.