The Embodiment Gap: What Mandatory, Regulatory and Media-Based Incident Regimes Reveal About Robotic AI Failures, 2021–2026
이 논문은 2021년부터 2026년까지의 사고 데이터를 의무적 규제 체제와 미디어 기반 체제 전반에 걸쳐 분석함으로써, 각 체계가 로봇 AI 실패의 별개이며 불완전한 하위 집합을 포착하고 있음을 입증하며, 이를 통해 비충돌 운영 오류 및 신흥 휴머노이드 기술에 대한 가시성의 상당한 공백을 밝혀낸다.
원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
인공지능을 탑재한 기계가 현실 세계에서 실수를 저지를 때, 그 실수의 이야기는 전적으로 누가 듣고 있느냐에 따라 달라집니다. 자율주행차가 사고를 내면, 데이터를 수집할 법적 권한을 가진 정부 기관이 이를 기록할 것입니다. 만약 수술 로봇이 환자의 체내에서 오작동한다면, 보건 규제 기관이 보고서를 작성할 것입니다. 하지만 로봇이 박물관에서 비틀거리거나 휴머노이드 기계가 무역 박람회에서 이상하게 행동한다면, 유일한 기록은 목격자가 올린 영상이나 뉴스 기사뿐일 수 있습니다. 이러한 서로 다른 정보 수집 방식은 '사고 체제(incident regimes)'라고 불립니다. 이들은 사회의 눈과 귀 역할을 하며, 어떤 실패가 우리의 집단적 기억의 일부가 될지, 혹은 어떤 실패가 침묵 속으로 사라질지를 결정합니다. 문제는 각 체제가 현실의 서로 다른 단면만을 본다는 점입니다. 하나는 오직 충돌 사고만을 보고, 다른 하나는 오직 의료 오류만을 보며, 세 번째는 오직 뉴스가 되는 이야기만을 봅니다. 이러한 시스템들은 서로 소통하지 않기 때문에, 우리는 종로는 로봇이 얼마나 안전한지 이해하고 있다고 생각하지만, 사실은 가장 위험한 실패는 숨겨져 있고 가장 흔한 실패는 보이지 않는 파편화된 그림을 보고 있는 것입니다.
알프레도 메를렛(Alfredo Merlet)이라는 연구자는 2021년부터 2026년 사이에 로봇의 실패를 추적하는 세 가지 뚜렷한 방식을 비교함으로써 이러한 사각지대를 지도화하고자 했습니다. 그는 미국 도로교통안전국(NHTSA)에 제출된 의무적 충돌 보고서, 미국 식품의약국(FDA)에 제출된 의료 기기 보고서, 그리고 뉴스 미디어로부터 이야기를 수집하는 자발적 데이터베이스를 조사했습니다. 이 소스들을 서로 연결함으로써, 그는 우리가 로봇의 실패에 대해 배우는 방식이 매우 결함이 있다는 사실을 발견했습니다. 자율주잉 자동차를 위한 의무적 시스템은 8,000건 이상의 사건을 기록했지만, AI 문제에 대한 포괄적인 목록으로 취급되곤 하는 미디어 데이터베이스에는 그 사고들의 아주 작은 일부만이 포함되어 있었습니다. 실제로 정부에 보고된 사고 중 미디어 데이터베이스에 등재된 것은 1% 미만이었습니다. 이는 대중이 로봇 안전에 대해 매우 왜곡된 시각을 가지고 있으며, 수많은 일상적인 실패는 놓치고 선택된 몇몇 사례에만 집중하고 있음을 시사합니다.
이 연구는 또한 미디어가 단순히 심각한 사고를 무시하는 것이 아님을 보여주었습니다. 뉴스 매체가 비극적인 이야기보다 해롭고 기이한 로봇 이야기를 선호한다는 생각과는 반대로, 데이터는 심각한 사고가 미디어에 보고될 가능성이 훨씬 더 높다는 것을 보여주었습니다. 자율주행차 충돌로 인해 사망이나 중상이 발생했을 때, 그것이 미디어 데이터베이스에 나타날 확률은 가벼운 접촉 사고보다 거의 9배 더 높았습니다. 그러나 미디어 데이터베이스는 정부 시스템이 완전히 놓친 또 다른 종류의 실패, 즉 '운영상의 실패(operational failures)'를 포착했습니다. 이는 로봇이 충돌하지는 않았지만 위험하게 행동하는 상황을 말하는데, 예를 들어 로보택시가 구급차의 길을 막거나, 전력 차단으로 인해 차량 군단이 교통 정체 속에 멈춰 서거나, 로봇이 홍수에 갇히는 등의 사례가 이에 해당합니다. 정부의 보고 규칙은 물리적인 충돌이 발생했을 때만 발동되기 때문에, 이러한 위험한 상황들은 공공 안전에 실질적인 위협이 됨에도 불구하고 규제 기관의 눈에는 보이지 않는 상태로 남게 됩니다.
연구는 수술 로봇으로 확장되었으며, 여기서는 또 다른 종류의 왜곡이 발견되었습니다. 의료 기기 보고 데이터베이스는 2025년에 오작동 보고가 4배나 급증한 모습을 보였습니다. 언뜻 보기에 이것은 위험한 실패가 갑자기 늘어난 것처럼 보였습니다. 하지만 데이터를 자세히 살펴보니, 이 급증은 더 많은 부상이나 사망으로 인한 것이 아니었습니다. 대신, 제조사가 이전에 기록되지 않았던 특정 유형의 마모 현상에 대해 보고하기 시작한 것이 원인이었습니다. 이는 이전에 기록되지 않았던 일상적인 유지보수 문제였습니다. 실제 환자에게 발생한 부상의 수는 거의 변하지 않았습니다. 이 발견은 보고를 하는 사람의 행동이 어떻게 실제적인 위해의 상태는 안정적임에도 불구하고 위기의 환상을 만들어낼 수 있는지를 강조합니다.
아마도 가장 놀라운 발견은 가장 새로운 세대의 로봇인 휴머노이드에 관한 것일 것입니다. 이들은 두 다리로 걷는 기계들로, 놀이공원에서부터 도시 거리까지 공공장소에 나타나기 시작하고 있습니다. 연구 결과, 이 로봇들은 모든 보고 체계의 틈새로 빠져나가고 있음이 밝혀졌습니다. 이들의 충돌을 보고해야 하는 의무 규칙도 없고, 이들의 실패를 분류할 의료 기기 카테고리도 없으며, 미디어가 이들을 추적할 일관된 방법도 없습니다. 연구자는 2026년 한 해 동안 발생한 다섯 가지 구체적인 휴머노이드 관련 사건 목록을 정리했는데, 여기에는 대회 중에 불이 난 로봇과 부적절한 접촉 혐의로 경찰에 압수된 로봇 등이 포함되었습니다. 이 사건들 중 미디어 데이터베이스에 등장한 것은 단 하나뿐이었으며, 공식적인 정부나 보건 규제 기관에는 단 하나도 포착되지 않았습니다. 이는 가장 눈에 띄고 빠르게 배치되고 있는 형태의 인공지능이 실패에 대한 체계적인 기록 없이 운영되고 있다는 위험한 간극을 만들어냅니다.
결론은 단 하나의 정보원만으로는 로봇의 안전에 대한 진실을 말해줄 수 없다는 것입니다. 정부는 충돌 사고는 보지만 아슬아슬한 상황(near-misses)은 놓칩니다. 미디어는 극적인 실패는 보지만 일상적인 실패는 놓칩니다. 의료 규제 기관은 제조사가 제출한 보고서는 보지만 실제적인 위해는 보지 못할 수도 있습니다. 이러한 시스템들이 연결되고 우리 세계로 들어오는 새로운 유형의 로봇들을 포괄할 수 있도록 확장되기 전까지, 우리의 위험에 대한 이해는 불완전한 상태로 남을 것입니다. 이 연구는 규제 기관들이 충돌뿐만 아니라 운영상의 실패까지 포착할 수 있도록 규칙을 업데이트해야 하며, 이미 우리 곁을 걷고 있는 휴머노이드 로봇들을 위한 새로운 보고 채널을 만들어야 한다고 제언합니다. 이러한 변화가 없다면, 우리는 인공지능의 위험을 오직 사후에, 그리고 오직 그 이야기가 충분히 극적일 때에만 알게 될 것입니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.