Agentic AI: User Empowerment or Foreclosure?
광고 차단기와 스팸 필터와 같은 역사적 전례를 분석함으로써, 이 논문은 에이전틱 AI(Agentic AI)가 사용자에게 힘을 실어줄 수 있는 잠재력은 산업 주도의 표준을 통한 거버넌스의 '탈정치화'를 방지하는 데 달려 있으며, 현재 독점적 프로토콜을 중심으로 한 결집은 사용자 지향적 대안이 공고해지기 전에 집단적 경합 역량을 해체할 위험이 있다고 주장한다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
당신의 컴퓨터, 휴대폰, 또는 전용 기기가 단순히 질문에 답하는 것을 넘어 당신을 위해 직접 행동하는 개인 비서 역할을 하는 세상을 상상해 보십시오. 이 비서는 당신이 보는 뉴스를 필터링하거나, 더 저렴한 항공권 가격을 협상하거나, 당신이 잠든 사이 당신의 투자 자산을 관리할 수도 있습니다. 이 신흥 기술을 '에이전틱 인공지능(agentic AI)'이라고 부릅니다. 이 에이전트들이 당신의 이익을 위해 행동하여 지루한 작업으로부터 당신을 해방시켜 줄 것이라는 약속이 존재합니다. 하지만 결정적인 질문이 남아 있습니다. 과연 이 에이전트들을 실제로 통제하는 것은 누구인가? 만약 이 기술이 소수의 대기업에 의해 구축된다면, 이 에이전트들은 진정으로 당신을 위해 봉사할까요, 아니면 그들을 만든 기업의 이익을 위해 봉사하게 될까요? 이를 확인하기 위해 미시간 대학교의 연구진은 지난 20년 동안 유사한 기술들이 어떻게 진화했는지 과거를 되돌아보았습니다. 그들은 사용자를 대신해 행동하도록 설계된 네 가지 특정 분야, 즉 온라인 광고 차단 도구, 소셜 미디어에서 당신이 볼 콘텐츠를 결정하는 시스템, 자동화된 금융 자문가, 그리고 스팸 이메일을 막는 필터를 연구했습니다. 이 서로 다른 역사들을 비교함으로써, 연구팀은 우려스러운 패턴을 발견했습니다. 각 사례에서 기술은 사용자 통제를 위한 넓은 가능성에서 시작되었으나, 시간이 흐르면서 이 도구들이 작동하는 방식에 관한 규칙들이 산업 표준과 기술적 설계에 의해 조용히 고착되었습니다. 저자들이 '탈정치화(depoliticization)'라고 부르는 이 과정은, 무엇을 차단하거나 추천할지를 결정하는 주체라는 정치적 선택을, 누구도 쉽게 이의를 제기할 수 없는 중립적인 기술적 사실로 바꾸어 놓습니다.
연구진은 먼저 웹 브라우징 중에 광고를 숨길 수 있게 해주는 도구인 브라우저 기반 광고 차단기를 조사했습니다. 초기 시절, 이 도구들은 유연했습니다. 사용자들은 규칙 목록을 만들고 업데이트하는 개방형 커뮤니티에 기반하여, 원하는 어떤 광고든 가로채서 차단할 수 있는 확장 프로그램을 설치할 수 있었습니다. 그러나 광고 산업이 수익 손실을 우려하면서 규칙이 바뀌었습니다. 한 주요 브라우저 제조사가 근본적인 소프트웨어를 재설계하여 이러한 확장 프로그램이 할 수 있는 일을 제한했습니다. 확장 프로그램이 모든 요청을 차단할 수 있도록 허용하는 대신, 새로운 규칙은 이들이 차단 계획을 사전에 선언하도록 강제했고 사용할 수 있는 규칙의 수를 제한했습니다. 이러한 변화는 보안 개선이라는 명분으로 정당화되었지만, 실질적인 결과는 가장 강력한 광고 차단 도구들이 약화되었다는 것이었습니다. 무엇이 수용 가능한 광고인지에 대한 결정은 더 이상 사용자나 그들의 커뮤니티의 몫이 아니었습니다. 그것은 최대 규모의 광고 판매업자들을 포함한 산업 그룹에 의해 결정되었고, 브라우저 제조사는 이 결정을 모든 사람에게 자동으로 적용했습니다.
스팸 필터에서도 유사한 이야기가 펼쳐졌습니다. 초기에 원치 않는 이메일을 차단하는 것은 협력적인 노력이었습니다. 소규모 네트워크 관리자 그룹은 알려진 불량 이메일 주소 목록을 공유했으며, 누구나 그 규칙을 보거나 이에 대해 논쟁할 수 있었습니다. 스팸이 거대한 산업적 운영으로 변모함에 따라, 해결책은 거대 이메일 기업들만이 보유한 방대한 데이터를 분석하여 스팸을 식별하는 강력한 컴퓨터 프로그램으로 전환되었습니다. 이 새로운 시스템들은 개별 편지함을 정리하는 데 매우 효과적이었으며, 이메일을 훨씬 더 쾌적하게 사용하게 만들었습니다. 그러나 무엇이 스팸인지 결정하는 권한은 완전히 대형 기업들의 손으로 넘어갔습니다. 과거의 개방형 목록은 폐쇄적이고 검은 상자(black-box) 같은 시스템으로 대체되었습니다. 그 결과는 역설적이었습니다. 평균적인 사용자는 훨씬 적은 스팸 메시지를 받게 되었지만, 무엇이 스팸인지를 정의하는 규칙에 도전하거나 변경할 수 있는 대중이나 소규모 집단의 능력은 완전히 사라졌습니다.
연구는 또한 자동화된 금융 자문가와 소셜 미디어 추천 시스템을 살펴보았습니다. 두 분야 모두 기술은 사용자를 위한 서비스를 개인화한다는 개념에서 시작되었습니다. 그러나 이 시스템들이 어떻게 작동하는지에 대한 규칙은 종종 사용자의 구체적인 필요보다 기업 자신의 이익을 우선시하는 기업들에 의해 설정되었습니다. 금융 자문가의 경우, 알고리즘은 표준 투자 이론을 따르도록 설계되었지만, 어떤 펀드를 추천할지에 대한 구체적인 선택은 종종 회사의 자체 상품을 선호하는 방향으로 이루어졌습니다. 소셜 미디어의 경우, 시스템은 사용자가 더 오래 머물게 만드는 콘텐츠를 보여주도록 학습되었는데, 이는 진정으로 유용하거나 다양한 콘텐츠를 보여주는 것과 충돌하는 경우가 많았습니다. 이 사례들에서 연구진은 사용자가 에이전트의 행동 방식에 영향을 미칠 수 있는 공간이 애초에 열려 있지 않았다는 것을 발견했습니다. 인프라 자체가 플랫폼들에 의해 구축되었기에, 사용자가 참여할 기회가 생기기도 전에 규칙이 이미 설정되어 있었던 것입니다.
논문의 핵심적인 발견은 개인의 경험적 개선과 사람들이 시스템에 조직적으로 도전할 수 있는 능력이 서로 반대로 움직일 수 있다는 점입니다. 당신은 더 깨끗한 편지함을 갖거나 더 개인화된 피드를 얻는 동시에, 그 시스템이 작동하는 방식을 바꿀 수 있는 권한을 잃을 수 있습니다. 연구진은 이러한 현상이 에이전트가 수행하는 결정들이 시스템의 기술적 설계 안에 내재되어 있기 때문에 발생한다고 주장합니다. 어떤 데이터를 사용할지 또는 소프트웨어가 어떤 목표를 최적화해야 하는지에 대한 선택이 내려지고, 그 선택이 복잡한 코드나 폐쇄적인 산업 표준 안에 숨겨질 때, 그 결정에 이의를 제기하는 것은 매우 어려워집니다. 저자들은 이를 '탈정치화'라고 부르는데, 이는 결정의 정치적 성격을 제거하여, 그것이 누구의 이익을 위해 봉사할지에 대한 선택이 아니라 단순한 공학적 효율성의 문제인 것처럼 보이게 만들기 때문입니다.
이제 연구진은 이 관점을 새로운 물결인 에이전틱 인공지능에 적용하고 있습니다. 그들은 동일한 패턴이 형성되고 있음을 보고 있습니다. AI 에이전트가 다른 서비스와 대화하는 방식을 정의하기 위해 '모델 컨텍스트 프로토콜(Model Context Protocol)'이라는 새로운 규칙이 수립되고 있습니다. 이 프로토tocol은 대형 기술 기업들이 주도하는 재단에 의해 관리되고 있습니다. 이 과정은 공개 회의와 문서를 통해 표면적으로는 개방적으로 보이지만, 최종 결정을 내리는 실제 권한은 이 주요 기업들의 이사회에 있습니다. 사용자 그룹이나 공익 단체가 이러한 결정에 이의를 제기할 수 있는 공식적인 방법은 없습니다. 연구진은 만약 이러한 궤적이 계속된다면, AI 에이전트가 할 수 있는 일의 경계가 기술이 대중에게 완전히 사용되기도 전에 업계 내부자들에 의해 설정될 것이라고 경고합니다. 과거의 사례들이 오랜 시간에 걸쳐 규칙이 굳어진 것과 달리, 이 결정들은 기술 출시 후 불과 몇 년 만에 매우 빠르게 이루어지고 있습니다.
논문은 사용자가 진정으로 권한을 갖기 위해서는 단순히 잘 작동하는 AI 에이전트 이상의 것이 필요하다고 결론짓습니다. 사용자들에게는 시스템이 작동하는 방식을 볼 수 있는 능력, 대기업이 통제하지 않는 독립적인 기술에 대한 접근성, 그리고 자신들에게 불리한 결정에 대해 논쟁할 수 있는 공식적인 절차가 필요합니다. 연구진은 우리가 결정적인 순간에 와 있다고 제안합니다. 에이전틱 AI의 규칙은 바로 지금 쓰여지고 있습니다. 만약 기술이 완전히 자리 잡을 때까지 기다린다면, 그 근본적인 구조를 바꾸기에는 너무 늦을 것입니다. 목표는 단순히 더 나은 에이전트를 만드는 것이 아니라, 결정의 권한이 여전히 논쟁의 여지가 있는 상태로 열려 있는 생태계를 구축하여, 기술이 단지 그것을 만든 기업들이 아닌 대중을 위해 봉사하도록 보장하는 것입니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.