From Network Automation to Trustworthy Autonomous Networking in the LLM Era: A Network Control Intelligence Perspective

인터넷을 거대한, 보이지 않는 케이블의 그물망이 아니라, 북적이고 혼란스러운 도시라고 상상해 보십시오. 수십 년 동안 이 도시를 운영하는 사람들—네트워크 엔지니어들—은 교통 흐름을 유지하고, 끊어진 다리를 고치며, 모든 사람이 제시간에 목적지에 도착할 수 있도록 돕는 초지능적이고 지칠 줄 모르는 조수를 고용하기 위해 노력해 왔습니다. 이 분야를 **네트워크 자동화(network automation)**라고 부릅니다. 목표는 간단합니다. 컴퓨터가 지루하고 반복적인 일을 처리하게 함으로써 인간이 더 큰 그림에 집중할 수 있도록 하는 것입니다.

이것이 어떻게 작동하는지 이해하려면 세 가지 핵심 재료를 생각해보십시오. 첫째, **텔레메트리(telemetry)**는 도시의 수백만 개의 보안 카메라와 교통 센서가 현재 상황을 끊임없이 보고하는 것과 같습니다. 둘째, **의사결정 로직(decision logic)**은 그 보고서들을 보고 다음에 무엇을 할지 결정하는 두뇌입니다. 마지막으로, **신뢰(trust)**는 "컴퓨터가 아주 좋은 아이디어를 냈다고 해서, 인간이 재확인하기도 전에 교통 신호를 바꾸도록 허용해서는 안 된다"라는 결정적인 규칙입니다. 오늘날 모두가 던지는 질문은 이것입니다. 우리가 점점 더 똑똑한 컴퓨터를 갖게 됨에 따라, 마침내 컴퓨터가 스스로 자동차를 운전하게 내버려 둘 수 있을까요, 아니면 여전히 인간의 손이 운전대를 잡고 있어야 할까요?

노키아 벨랩(Nokia Bell Labs), 옥스퍼드 대학교 및 기타 기관의 연구진이 작성한 이 논문은 그 질문을 깊이 있게 파고듭니다. 그들은 우리가 네트워크 자동화를 잘못된 방식으로 바라보고 있다고 주장합니다. 단순히 "컴퓨터가 얼마나 많은 일을 할 수 있는가?"를 묻는 대신, "어떤 조건 하에서 우리는 컴퓨터가 그 일을 하도록 신뢰할 수 있는가?"를 묻습니다. 그들은 **네트워크 제어 지능(Network Control Intelligence, NCI)**이라는 새로운 방식의 시스템 측정 지표를 도입합니다. NCI를 네트워크 시스템이 얼마나 똑똑한지를 평가하는 5차원 성적표라고 생각하십시오. 이 성적표는 시스템이 어떻게 생각하고, 어떻게 학습하며, 무엇을 알고, 얼마나 많은 권한을 가졌는지, 그리고 인간과 어떻게 소communicates(소통)하는지를 기준으로 평가합니다.

저자들은 우리를 네트워크 역사의 세 가지 뚜렷한 시대, 마치 비디오 게임의 레벨처럼 안내합니다.

레벨 1: 룰-봇(Rule-Bot) 시대
초기에 네트워크는 엄격하게 작성된 규칙 책을 따르는 인간에 의해 운영되었습니다. 만약 불이 빨간색으로 변하면 컴퓨터는 경보를 울렸습니다. 만약 회선이 사용 중이면 트래픽을 우회시켰습니다. 그것은 마치 레시피를 따를 수만 있는 로봇과 같았습니다. 반복적인 일을 수행하는 데는 훌륭했지만, 레시피에 없는 이상한 일이 발생하면 로봇은 멈춰버렸고 인간이 개입해야 했습니다. 컴퓨터는 "큰 그림"에 대해 거의 알지 못했고 스스로 변화에 적응할 수 없었습니다.

레벨 2: 데이터 주도 시대
그 후 "소프트웨어 정의 네트워킹(Software-Defined Networking)"의 시대가 왔습니다. 로봇에게 초고속 두뇌와 도시의 모든 카메라와 연결되는 직통 라인을 준다고 상상해 보십시오. 이제 컴퓨터는 교통 정체가 발생하기 전에 이를 예측하고 자동으로 차량을 우회시킬 수 있습니다. 과거의 실수로부터 배울 수 있고 흐름을 최적화할 수 있습니다. 이는 엄청난 도약이었습니다! 컴퓨터는 이제 특정 지역의 문제를 해결하기 위해 복잡한 결정을 내릴 수 있게 되었습니다. 마치 특정 구역의 모든 거리를 완벽하게 아는 교통 엔지니어처럼 말이죠. 하지만 그들은 여전히 자기 동네의 전문가일 뿐이었습니다. 만약 문제가 도시 전체에 걸쳐 발생하거나, "모두를 행복하게 만들기"와 같이 모호한 목표가 있다면, 컴퓨터는 여전히 인간이 목표를 구체적인 지침으로 번역해주기를 기다려야 했습니다.

**레벨 3: AI 어시스턴트 시대 (현재)**가 바로 여기입니다. 시를 쓰고, 코드를 짜고, 여러분과 대화할 수 있는 것과 같은 종류의 AI인 **대규모 언어 모델(LLM)**의 등장과 함께 말이죠. 이 논문은 이러한 AI 모델들이 도시의 모든 역사책을 읽고, 모든 카메라 피드를 살펴보고, 인간 상사가 "메인 스트리트의 교통 혼잡을 해결해줘"라고 말할 때 그 의미를 이해할 수 있는 아주 똑똑하고 수다스러운 인턴과 같다고 제안합니다. AI는 계획을 초안하고, 이를 해결하기 위한 코드를 작성하며, 왜 그것이 좋은 아이디어인지 설명할 수 있습니다.

중요한 발견: 신뢰의 격차
여기에 이 논문의 가장 중요한 발견이 있으며, 이는 일종의 현실 점검입니다. 저자들은 우리의 AI 어시스턴트들이 우리가 원하는 것을 이해하고 해결책을 제안하는 데는 매우 뛰어나졌다는 사실을 발견했습니다. AI는 우리와 대화하고, 로그를 읽고, 계획을 작성할 수 있습니다. 하지만 그들은 아직 그 계획을 안전하게 실행하는 데는 능숙하지 않습니다.

완벽하고 아름다운 다리를 설계할 수 있는 아주 유능한 건축가를 상상해 보십시오. 그것이 AI입니다. 하지만 우리가 그 건축가에게 설계도를 확인하는 건설 현장 소장 없이 직접 콘크리트를 붓고 항타기를 운전하게 내버려 두겠습니까? 논문은 아니오라고 답합니다.

연구진은 AI가 똑똑하다고 해서 네트워크의 열쇠를 그냥 넘겨주어서는 안 된다고 주장합니다. AI는 "제안(proposal)" 부분(생각하고 계획하는 것)에는 뛰어나지만, "실행(execution)" 부분(실제로 네트워크를 변경하는 것)은 여전히 엄격하게 통제되어야 합니다. AI가 변경 사항을 초안으로 작성하되, 별도의 신뢰할 수 있는 시스템이 이를 검토하고, 승인하고, 적용해야 합니다. 만약 AI가 직접 네트워크를 변경하려고 한다면, 그것은 건축가가 불도저를 운전하게 하는 것과 같습니다. 빠를 수는 있겠지만, 위험합니다.

미래를 향한 로드맵
그렇다면 앞으로 어디로 가야 할까요? 논문은 "신뢰할 수 있는 자율 네트워킹(Trustworthy Autonomous Networking)"을 위한 로드맵을 제시합니다. 이것은 AI를 더 똑똑하게 만드는 것이 아니라, AI 주변에 더 나은 안전 가드레일을 구축하는 것에 관한 것입니다.

1. 상태 파악: 시스템은 네트워크에 대한 완벽하고 최신의 지도가 필요합니다. 만약 AI가 오래된 지도로 작업한다면, 나쁜 계획을 세울 것입니다.
2. 계획 검토: AI가 무언가를 변경하기 전에, "거버넌스가 적용된 실행(governed execution)" 계층이 있어야 합니다. 이것은 AI의 계획이 규칙을 위반하지 않는지 확인하는 안전 검사관과 같습니다.
3. 신중한 적응: 만약 AI가 새로운 것을 배웠다면, 어제 배웠던 안전 규칙을 잊어버리지 않도록 보장해야 합니다.
4. 명확한 소통: AI는 자신의 근거와 확신 수준을 보여주며 인간이 이해할 수 있는 방식으로 자신의 추론을 설명해야 합니다.

요약하자면, 이 논문은 미래의 인터넷이 인간을 로봇으로 대체하는 것에 관한 것이 아니라고 말합니다. 그것은 AI가 계획을 초안하는 초강력 어시스턴트 역할을 하고, 인간(또는 신뢰할 수 있는 자동화된 시스템)이 조종석을 잡고 모든 변화가 안전하고 검증되며 책임질 수 있도록 보장하는 파트너십을 만드는 것에 관한 것입니다. 목표는 우리가 손댈 수 없는 완전한 자율 주행 네트워크를 만드는 것이 아니라, 우리가 신뢰할 수 있는 적절한 가드레일을 구축함으로써 안전하게 스스로 움직이는 네트워크를 만드는 것입니다.