우리가 서로 대화하기 위해 사용하는 도구들이 글을 쓰고, 읽고, 정리하는 데 있어 매우 뛰어나게 발전하여 우리 대신 일상의 서류 작업을 처리할 수 있게 되는 세상을 상상해 보십시오. 이것이 인공지고능 에이전트가 약속하는 바입니다. 즉, 사람이 복잡한 규칙을 이해하거나, 양식을 작성하거나, 공무원에게 편지를 쓰는 것을 돕는 소프트웨어입니다. 수십 년 동안 전문가들은 무언가를 요청하는 것이 더 쉬워지면, 더 많은 사람이 그것을 요청하게 된다는 사실을 알고 있었습니다. 만약 정부가 혜택 신청 절차를 더 찾기 쉽고 작성하기 쉽게 만든다면, 자격이 있는 더 많은 사람이 신청할 것입니다. 이는 공공 서비스와 사람들이 상호작용하는 방식의 기본 원리입니다. 하지만 이제 새로운 질문이 등장했습니다. 이러한 상호작용을 용이하게 만드는 도구들이 너무 강력해져서 단 하루에 수천 건의 요청을 생성할 수 있게 된다면 어떤 일이 벌어질까요? 우려는 단순히 더 많은 사람이 신청할 것이라는 점에 그치지 않습니다. 이러한 요청의 엄청난 양이나 복잡성이 정부 기관의 처리 능력을 압도하여, 시스템을 망가뜨리거나 공무원들이 모든 사람에게 프로세스를 더 어렵게 만들도록 강요할 수 있다는 점입니다.

한 연구팀은 이러한 시나리오가 이미 일어나고 있는지 조사하기 위해 연구를 시작했습니다. 그들은 이 현상을 위해 "에이전틱 플러딩(agentic flooding, 에이전트에 의한 범람)"이라는 용어를 만들었습니다. 이는 인공지능 에이전트로 인해 정부 서비스에 대한 요청의 수나 복잡성이 갑자기 급증하여 해당 서비스의 역량을 저하시키는 현상을 설명합니다. 문제의 범위를 이해하기 위해 연구진은 추측이나 컴퓨터 모델에 의존하지 않았습니다. 대신, 그들은 실제 세계의 증거를 찾아 나섰습니다. 그들은 미국, 독일, 영국, 호주를 포함한 11개국의 정부 서비스를 스캔했습니다. 그들은 공무원이나 신뢰할 수 있는 뉴스 매체가 수요의 급증을 지적하고 이를 인공지능 사용과 명시적으로 연결한 사례가 있는지 조사했습니다.

그 결과, 이러한 연결 고리가 확인된 84개의 구체적인 사례가 수집되었습니다. 연구진은 이 현상이 이미 다양한 정부 영역에서 발생하고 있음을 발견했습니다. 관찰된 가장 흔한 패턴은 놀라울 정도로 단순했습니다. 대다수의 경우, 급증의 원인은 웹사이트를 스스로 탐색하는 완전히 자율적인 로봇 때문이 아니었습니다. 대신, 인간이 제출할 수 있도록 정교한 법률적 또는 행정적 텍스트를 생성하는 거대 언어 모델(고급 텍스트 생성 도구)에 의해 주도되었습니다. 예를 들어, 독일의 한 사례에서는 사회 법원이 AI에 의해 생성되었으나 사람들이 제출한 수천 페이지 분량의 편지가 담긴 소송이 급증하는 것을 목격했습니다. 호주의 또 다른 사례에서는 공무원들이 기계에 의해 작성된 것처럼 보이는 정보 요청의 물결를 주목했습니다. 데이터는 주요 메커니즘이 인간이 더 나은, 더 길거나 더 빈번한 신청서를 작성하기 위해 AI를 사용하는 것이며, 이것이 시스템에 유입되어 인간 노동자의 시간을 빼앗는 것임을 시사합니다.

연구진은 다음으로 어떤 서비스가 가장 위험한지 물었습니다. 데이터셋을 분석함으로써 그들은 명확한 패턴을 식출했습니다. 범람에 가장 취약한 서비스는 높은 재정적 보상을 제공하지만, 과정이 복잡하거나 혼란스러워 역사적으로 접근하기 어려웠던 서비스들입니다. AI가 그 복잡성을 헤쳐 나가는 비용을 낮추면, 숨겨진 수요가 해방됩니다. 세금 신고, 법원 청구, 장애 수당 신청 등이 완벽하게 이 설명에 부합합니다. 이들은 성공적인 신청이 상당한 지급으로 이어질 수 있지만, 서류 작업이 너무 벅차서 많은 사람이 포기하게 되는 서비스들입니다. 연구는 AI가 서류 작업을 더 쉽게 만듦에 따라, 이러한 특정 서비스에 대한 신청 건수가 급증하여 이를 처리하는 시스템에 압박을 가할 가능성이 높다고 제안합니다.

정부가 이에 대비하도록 돕기 위해, 연구진은 특정 서비스에 대한 위험을 평가하는 방법을 개발했습니다. 그들은 두 가지 주요 요소를 살펴보는 프레임워크를 만들었습니다. 하나는 AI가 해당 서비스와 상호작용하기 얼마나 쉬운가이며, 다른 하나는 정부가 그 결과를 처리하기 얼마나 어려운가입니다. 만약 어떤 서비스가 길고 자유로운 형식의 텍스트를 수용하고 신청 횟수에 대한 제한이 거의 없다면, 범람에 매우 취약합니다. 만약 요청을 처리하는 정부 기관이 경직된 예산을 가지고 있거나, 느린 수동 프로세스를 사용하거나, 모든 신청서의 모든 단어를 읽어야 하는 법적 의무가 있다면, 급증의 영향은 심각할 것입니다. 연구는 현재의 압박이 관리 가능한 수준이지만, 재정적으로 매력적이고 복잡한 서비스들에 대해 위험이 가장 높다고 지적합니다.

논문은 정부가 이러한 급증에 어떻게 대응할 수 있는지도 탐구합니다. 역사적으로 수요가 급증할 때, 공무원들은 종종 "마찰(friction)"을 추가하여 속도를 늦추려 노력해 왔습니다. 이는 신청 수수료를 부과하거나, 직접 방문을 요구하거나, 한 사람이 보낼 수 있는 요청 수를 제한하는 것을 의미할 수 있습니다. 연구진은 이러한 조치들이 급증을 빠르게 막는 데 효과적이라는 것을 발견했습니다. 그러나 여기에는 막대한 비용이 따릅니다. 마찰을 추가하는 것은 AI 사용자뿐만 아니라 모든 사람에게 서비스를 이용하기 어렵게 만듭니다. 이는 가난한 사람들이나 기술에 익숙하지 않은 사람들에게 불균형적인 피해를 줄 수 있으며, 필수적인 서비스에 대한 불공정한 장벽을 만들 수 있습니다. 어떤 경우에는 사법 접근권을 저해할 수도 있습니다.

저자들은 이러한 빠른 해결책이 효과적이기는 하지만, 최선의 장기적 해결책은 아니라고 주장합니다. 더 나은 접근 방식은 수요를 처리할 수 있도록 정부의 역량을 구축하는 것입니다. 이는 서비스를 더 효율적으로 재설계하거나, 신청자를 확인하기 위해 디지털 신원을 사용하거나, 심지어 정부 측에서 일상적인 업무를 처리하는 데 AI를 사용하는 것을 포함할 수 있습니다. 연구는 정부에게 선택권이 있다고 제안합니다. 정부는 시민들의 삶을 어렵게 만들어 급증에 반응할 수도 있고, 혹은 새로운 현실을 감당할 수 있도록 시스템을 선제적으로 재설계할 수도 있습니다. 연구진은 세 가지 즉각적인 조치를 권고합니다. 첫째, 정부는 어떤 서비스가 가장 취약한지 감사해야 합니다. 둘째, 가장 노출된 서비스에 디지털 신원 시스템을 통합하여 신청자를 검증하고 남용을 제한하기 쉽게 만들어야 합니다. 셋째, 위기가 닥치기 전에 자신들이 무엇을 할 수 있는지 알 수 있도록 이러한 조치에 관한 법률을 명확히 해야 합니다.

연구는 현재 상황이 아직 정부 서비스의 완전한 붕착 단계는 아니지만, 추세는 명확하다고 결론짓습니다. AI 에이전트가 정부와의 상호작용을 더 쉽게 만드는 시대가 왔으며, 이와 함께 압도될 위험도 함께 왔습니다. 연구는 기계가 정부를 장악하는 미래를 예측하는 것이 아니라, 현재 많은 서비스가 설계된 방식이 취약하다는 점을 경고합니다. 만약 정부가 급증이 감당할 수 없는 수준이 될 때까지 기다린다면, 시스템을 무너뜨리거나 사람들의 도움을 받는 것을 어렵게 만드는 것 중 하나를 선택하도록 강요받게 될 것입니다. 논문은 지금 당장 위험을 이해하고 시스템을 재설계함으로써, 정부가 이러한 어려운 선택을 피하고 인공지능의 혜택이 가장 취약한 계층을 배제하는 부담이 아닌 모두가 공유할 수 있는 것이 되도록 할 수 있다고 제안합니다.