Artificial Intelligence in Safety-Critical Aerospace Systems: Applications, Challenges, and Implications

우주선이 공기가 초고온의 플라즈마로 변하는 속도로 대기권을 돌파하거나, 단 한 번의 계산 착오가 연쇄 충돌을 일으킬 수 있는 붐비는 하늘을 항행하는 위성 군집을 상상해 보십시오. 이러한 순간에는 인간의 반응 속도가 너무 느립니다. 차량을 안전하게 지키기 위한 결정은 밀리초 단위로 이루어져야 하며, 종종 열기나 거리로 인해 지구와의 통신이 끊긴 상태에서 내려져야 합니다. 이것이 바로 오차 범위가 제로인 안전 필수 항공우주 시스템의 영역입니다. 수십 년 동안 엔지니어들은 이 기계들을 안내하기 위해 미리 프로그래밍된 규칙에 의존해 왔지만, 현대 미션의 복잡성은 그러한 정적인 지침을 넘어섰습니다. 이제 인공지능은 미래의 꿈이 아니라, 우주선의 심장부에 직접 내장되는 실질적인 도구로서 등장하고 있습니다. 구체적으로, 연구자들은 컴퓨터 프로그램이 행동을 시도하고 그 결과로부터 배우며 성능을 개선하는 방식, 즉 아이가 걷는 법을 배우기 위해 넘어지고 다시 조정하는 과정과 매우 유사하지만, 인간이 따라갈 수 없는 속도와 정밀도로 작동하는 일종의 학습 방식에 주목하고 있습니다. 업계가 직면한 질문은 더 이상 이러한 시스템이 작동할 수 있는지 여부가 아니라, 기계가 우주의 공백 속에서 생사가 걸린 결정을 내릴 때 어떻게 그들을 신뢰할 것인가 하는 것입니다.

노스다코타 대학교와 텍사스 리오그란데 밸리 대학교의 연구팀은 이 새로운 영역을 지도화하기 위해 나섰습니다. 그들은 단순히 더 나은 소프트웨어를 만드는 것이 아니라, 기계가 배를 조종할 때 책임의 본질이 어떻게 변하는지를 이해하기 위한 프레임워크를 구축하고 있습니다. 그들의 연구는 세 가지 고위험 시나리오에 집중합니다: 극초음속으로 지구 대기에 재진입하는 차량, 스스로 궤도를 관리하는 자율 위성 네트워크, 그리고 부상하는 핵 추진 우주 항행 분야입니다. 이 각 분야에서 연구진은 인공지능이 유능한 조수에서 독립적인 의사 결정자로 변화하고 있음을 발견했습니다. 그들은 이러한 시스템이 놀라운 속도와 효율성을 제공하지만, 동시에 중대한 과제를 던져준다고 주장합니다. 즉, 컴퓨터가 재앙으로 이어지는 실수를 저질렀을 때 우리는 어떻게 책임을 물을 것인가 하는 문제입니다.

연구진은 먼저 이러한 지능형 시스템이 실제로 어떻게 사용되는지 조사했습니다. 우주선이 지구로 귀환하는 경우, 차량은 센서를 파괴하고 무선 신호를 차단할 수 있는 극심한 열과 압력에 직면합니다. 여기서 AI는 홀로 행동해야 합니다. 연구팀은 컴퓨터가 시뮬레이션 속에서 훈련되어, 적절한 착륙 지점에 도달해야 하는 필요성과 열을 식혀야 하는 필요성 사이의 균형을 맞추며 최적의 경로를 찾아내는 '강화 학습'이라는 기술을 사용하고 있음을 발견했습니다. 경직된 지침을 따르는 대신, AI는 미션이 발사되기 전 가상 환경에서 수백만 가지의 가능한 경로를 테스트함으로써 바람이나 열과 같은 복잡한 변수들의 망을 항해하는 법을 배웁니다. 이를 통해 우주선은 인간 조종사가 제시간에 계산할 수 없는 실시간 조정을 수행할 수 있습니다. 그러나 연구진은 결정적인 취약점을 지적했습니다. 만약 AI가 불완전하거나 편향된 데이터에 의존한다면, 기계에게는 논리적으로 보일지라도 실제로는 재앙적인 결정을 내릴 수 있다는 점입니다.

연구는 또한 점점 더 대규모 그룹이나 군집으로 운영되는 위성들에 대해서도 살펴보았습니다. 과거에는 지상 관제사가 이 위성들의 궤도를 수동으로 조정하여 서로 충돌하지 않도록 했습니다. 이제는 AI가 이 조율 업무를 맡고 있습니다. 연구진은 이러한 시스템이 복잡한 대형을 관리하며, 우주 파편을 피하거나 통신을 위한 특정 형태를 유지하기 위해 위치를 조정하는 것을 관찰했습니다. 그러나 이러한 자율성은 새로운 문제를 낳습니다. 만약 위성이 잘못된 움직임을 보여 다른 위성과 충돌한다면, 누구에게 책임을 물어야 할까요? 논문은 현재의 국제법 체계 아래에서는 인간이 최종 결정을 내렸는지 기계가 내렸는지와 관계없이 해당 위성을 발사한 국가가 책임을 진다고 제안합니다. 저자들은 이 법적 프레임워크가 우주 여행이 느리고 인간에 의해 제어되던 시절에 작성되었으며, 기계가 인간의 감독 없이 순식간에 결정을 내리는 미래에는 충분하지 않을 수 있다고 지적합니다.

그들이 탐구한 가장 복잡한 분야는 아마도 핵 추진 기술일 것입니다. 이는 심우주 여행을 위해 핵 반응을 사용하여 추진력을 생성하는 기술입니다. 이러한 시스템은 매우 민감하여, 온도나 압력의 아주 작은 변동만으로도 위험한 상황을 초래할 수 있습니다. 연구진은 AI가 이러한 원자로를 모델링하고 그 거동을 예측하여 엔지니어가 더 안전한 시스템을 설계하도록 돕는 데 사용되고 있음을 발견했습니다. 또한 AI가 인간 운영자보다 더 빠르게 출력량을 조절하며 실시간으로 원자로를 제어하는 방법도 탐구하고 있습니다. 하지만 우주 추진을 위한 핵 원자로가 우주에서 테스트된 적이 없기 때문에, 이러한 AI 시스템을 훈련하는 데 사용할 수 있는 데이터는 매우 부족합니다. 연구팀은 엔지니어들이 이 간극을 메우기 위해 컴퓨터 시뮬레이션에 크게 의존하고 있다는 점을 강조했습니다. 이러한 시뮬레이션은 강력하지만, 연구진은 그것이 완벽하지 않다고 경고합니다. 만약 AI가 중요한 물리적 세부 사항을 놓친 시뮬레이션에 기반해 훈련된다면, 실제 원자로는 예상치 못한 방식으로 작동할 수 있습니다.

기술적 과제를 넘어, 이 논문은 신뢰와 윤리라는 인간적인 측면을 깊이 있게 다룹니다. 연구진은 우리가 단순히 이 시스템들이 똑똑하기 때문에 신뢰해서는 안 되며, 그것들이 어떻게 구축되고 테스트되었는지를 이해하기 때문에 신뢰해야 한다고 주장합니다. 그들은 책임에 대한 새로운 사고방식을 제안합니다. 기계가 내리는 모든 개별적인 결정을 설명하려고 노력하는 대신(복잡한 AI의 경우 종종 불가능함), 시스템 자체의 구조에 집중해야 한다는 것입니다. 기계가 설계된 경계 내에서 작동했는가? 사용된 데이터는 신뢰할 수 있는가? 의사 결정 과정이 사후 검토가 가능할 만큼 투명했는가? 저자들은 AI의 의사 결정 과정을 엔진이나 열 방호벽과 같은 안전 필수 구성 요소로 취급해야 한다고 제안합니다. 이는 설령 그 기록이 기계의 내부 상태 로그일지라도, 만약 문제가 발생했을 때 조사관들이 사건을 재구성할 수 있도록 AI의 사고 과정을 상세히 기록해야 함을 의미합니다.

연구팀은 또한 인간 운영자의 역할이 변화하고 있음을 강조합니다. 과거에는 인간이 항상 루프 안에(in the loop) 있어 언제든 제어권을 가질 준비가 되어 있었습니다. 그러나 이러한 새로운 시스템에서 인간은 종-종 루프 위에(on the loop) 있습니다. 즉, 미션의 속도나 지구와의 거리 때문에 실시간으로 개입할 수는 없지만 시스템을 모니터링하는 역할을 수행합니다. 이러한 변화는 다른 종류의 신뢰를 요구합니다. 이는 기계가 인간이 할 법한 행동을 정확히 수행할 것이라고 믿는 것이 아니라, 기계가 설계 단계에서 인간이 설정한 안전 한계 내에서 움직일 것이라고 믿는 것입니다. 연구진은 우리가 이러한 한계와 기계가 독자적으로 행동할 수 있는 규칙을 신중하게 정의하지 않는다면, 아무도 진정으로 통제권을 갖지 못하는 상황을 초래할 위험이 있다고 경고합니다.

궁극적으로, 이 논문은 엔지니어, 변호사, 정책 입안자들에게 행동을 촉구하는 호소문입니다. 우리는 이러한 시스템을 어떻게 규제하고 설계할지 알아내기 위해 재앙이 발생할 때까지 기다릴 수 없다고 주장합니다. 인공지능의 항공우주 분야 통합은 지금 이 순간에도 일어나고 있으며, 우리의 법과 윤리적 가이드라인보다 빠르게 진행되고 있습니다. 연구진은 이러한 기술이 안전하고 유익하기 위해서는 설계 과정에 책임과 윤리를 직접 구축해야 한다고 결론짓습니다. 우리는 기계가 내리는 모든 결정이 그 기계가 따르는 규칙을 승인한 인간에게 추적될 수 있도록 보장해야 합니다. 우리가 심우주 탐사와 자율 위성의 미래를 바라볼 때, 미션의 성공 여부는 단순히 우리 코드의 탁월함뿐만 아니라, 우리가 만든 시스템의 궁극적인 수호자로 남을 수 있는 능력에 달려 있을 것입니다. 기술은 날아오를 준비가 되었지만, 이를 다스리는 방법에 대한 우리의 이해는 여전히 지면에 머물러 있으며, 뒤처져 따라잡아야 할 과제를 안고 있습니다.