Pathways to AGI
본 논문은 역사적 경로, 의사결정 노드, 그리고 모델 궤적에 관한 다섯 가지 핵심 질문을 분석함으로써 현재의 인공지능 개발 뒤에 숨겨진 사회정치적·경제적 우연성을 비판적으로 검토하여, 범용 인공지능이라는 개념에 대한 투명하고 지속 가능한 대안을 제시한다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
플레처와 Vu 칸의 논문 "AGI 로의 길"에 대한 설명을 일상적인 비유를 사용하여 쉬운 언어로 번역한 것입니다.
큰 그림: 단순히 "똑똑한" 로봇에 관한 것이 아님
세상에서 가장 지능적인 로봇을 누가 만들 수 있을지 경주를 지켜본다고 상상해 보세요. 대부분의 사람들은 가장 큰 두뇌나 가장 빠른 프로세서를 가진 사람이 이길 것이라고 생각합니다.
이 논문은 이 경주가 실제로 "가장 똑똑한" 로봇을 누가 가졌는지에 관한 것이 아니라고 주장합니다. 대신, 이는 누가 트랙을 만들었는지, 누가 출발선을 소유하고 있는지, 그리고 누가 경주의 규칙을 정했는지에 관한 것입니다.
저자들은 오늘날 우리가 보는 현재의 "인공일반지능 (AGI)"은 우연히 일어난 자연과학적 발견이 아니라고 말합니다. 그것은 소수의 사람들의 돈, 비즈니스 거래, 법적 계약, 그리고 개인적 역사가 형성한 특정 산물입니다. 저자들은 이를 "비판적 경로 분석"이라고 부르는데, 이는 우리가 어떻게 여기에 도달했는지의 역사를 살펴봄으로써 어떤 문이 열리고 어떤 문이 닫혔는지를 보는 것입니다.
1. AGI 란 무엇인가? (움직이는 골대)
이 논문은 AGI 에 대한 단일한 정의가 없다고 말하며 시작합니다. 한 사람은 "빠른 것"을, 다른 사람은 "안전한 것"을, 또 다른 사람은 "싼 것"을 "좋은 차"라고 정의할 때 "좋은 차"를 정의하려는 것과 같습니다.
- 벤더 정의: 대형 기술 기업들 (OpenAI, Google, Microsoft 등) 은 자신들에게 돈을 벌어다 주는 것을 기준으로 AGI 를 정의합니다. 예를 들어, OpenAI 는 AGI 를 AI 가 인간보다 "경제적으로 가치 있는 작업"을 더 잘 수행할 때라고 말합니다. 이는 자동차 회사가 "인간보다 피자를 더 빨리 배달할 때 완벽한 차가 된다"고 말하는 것과 같습니다.
- 돈의 정의: 유출된 문서들에 따르면 Microsoft 와 OpenAI 에게 AGI 는 기술이 1 조 달러 (약 1000 억 달러) 의 이익을 창출할 때까지는 선언되지 않을 수 있습니다. 이는 AGI 를 과학적 이정표가 아닌 재정적 목표로 바꿉니다.
- 인간 정의: 이 논문은 인간이 한 가지 방식으로만 "똑똑한" 것이 아니라고 주장합니다. 우리는 수학에 능숙하거나, 감정을 이해하는 데 능숙하거나, 물건을 고르는 데 능숙한 등 다양한 유형의 지능을 가지고 있습니다. 현재의 AI 는 한 가지 일 (말하기와 쓰기) 에는 매우 뛰어나지만 다른 일에는 매우 서툴러요. 저자들은 단순히 채팅뿐만 아니라 다양한 유형의 문제를 처리할 수 있는 시스템인 **"인공 다중 지능 (AMI)"**을 찾아야 한다고 제안합니다.
2. "생존 가능한 시스템" 비유
저자들은 현재의 AI 가 아직 진정한 "일반적"이지 않은 이유를 설명하기 위해 스태포드 비어 (Stafford Beer) 의 **생존 가능한 시스템 모델 (Viable System Model)**이라는 이론을 사용합니다.
- 비유: 인간의 몸을 상상해 보세요.
- 손 (시스템 1): 이것이 현재의 AI 모델들입니다. 타이핑, 코딩, 텍스트 요약에 매우 빠릅니다. 이들은 일을 수행하는 "손"입니다.
- 뇌와 신경계 (시스템 2-5): 이 부분들은 조정, 안전, 장기 계획, 윤리를 관리합니다.
- 문제점: 현재의 AI 는 초고속의 손을 가지고 있지만, 완전히 발달된 신경계가 부족합니다. 언제 멈춰야 할지 모르고, 내년을 계획할 수 없으며, 사회나 법의 복잡한 규칙을 이해하지 못합니다. 이는 어디로 가야 하거나 무엇이 위험한지 알려줄 뇌 없이 거대하고 빠른 손만 있는 몸과 같습니다.
- 결론: 진정한 "일반 지능"은 단순히 똑똑한 모델이 아니라, 모델, 규칙, 안전 점검, 그리고 이를 관리하는 사람들을 포함하는 전체 시스템의 시스템입니다.
3. 다섯 가지 경로 (경주의 이야기)
이 논문은 다섯 가지 주요 플레이어와 그들의 특정 역사가 어떻게 그들의 AI 를 형성했는지 살펴봅니다.
- OpenAI (기업화 전환): 비영리 연구실로 시작했습니다. 하지만 자금이 필요했기 때문에 "이익 제한형" 회사가 되었고 Microsoft 와 파트너십을 맺었습니다.
- 전환점: 그들은 세상을 공유하기보다는 돈을 벌기 위해 최고의 모델을 비공개 (API 뒤) 로 유지하기로 결정했습니다. 이로 인해 그들은 부유하고 인기가 있게 되었지만, 제품 마감일을 맞추기 위해 심층적인 안전 연구에 집중하는 것을 멈추게 되었습니다.
- Anthropic (안전 반역자): 안전에 대한 우려로 OpenAI 를 떠난 최상위 과학자 그룹입니다. 그들은 "조종 가능"하고 안전한 AI 를 구축하기 위해 Anthropic 을 시작했습니다.
- 고군분투: 그들은 AI 를 위한 "헌법" (AI 가 따르는 규칙 집합) 을 구축하려고 시도했습니다. 하지만 Amazon 과 Google 로부터 수십억 달러의 자금이 필요해 경쟁하려면 여전히 필요했습니다. 이 논문은 질문합니다: 투자자 자금이 절실할 때 안전을 지킬 수 있을까요?
- Google (늦은 개화자): Google 은 핵심 기술 (Transformer) 을 발명했지만 안전과 평판을 우려하여 제품으로 출시하지 않았습니다.
- 실수: 그들은 너무 오래 기다렸습니다. 그들이 AI(Gemini) 를 출시했을 때 OpenAI 는 이미 시장을 장악했습니다. Google 은 이제 추격하려고 하지만, "연구 우선"이라는 그들의 문화는 빠르게 움직여야 할 필요성과 충돌합니다.
- xAI / Grok (와일드카드): 일론 머스크가 설립했습니다. 그들의 길은 특정 정치적 서사 ("반-woke") 와 누구보다 더 빠르게 움직이고자 하는 욕구에 의해 주도됩니다.
- 위험: 그들은 거대한 배포 우위 (Twitter/X) 와 기록적인 시간 내에 구축된 슈퍼컴퓨터를 가지고 있습니다. 하지만 안전 연구나 거버넌스는 거의 없습니다. 그들은 "브레이크가 없는 빠른 차"입니다.
- Microsoft (기업의 왕): Microsoft 는 가장 똑똑한 AI 를 만든 것이 아니라, 최고의 전달 시스템을 만들었습니다. 그들은 OpenAI 의 기술을 가져와 전 세계의 모든 사무실 컴퓨터 (Copilot) 에 넣었습니다.
- 전략: 그들은 은행과 병원이 사용할 수 있을 만큼 AI 를 안전하게 만드는 데 집중합니다. 그들이 핵심 두뇌를 발명하지는 않더라도 그들은 "거버넌스" 계층을 구축하고 있습니다.
4. "사람 요소" (작은 원)
이 논문은 전체 AI 산업이 서로 아는 매우 소수의 사람들에 의해 운영된다고 지적합니다.
- "Google Brain" 연결: 거의 모든 최상위 AI 연구원들은 Google 의 연구실에서 시작했습니다.
- "OpenAI" 연결: 그들 중 많은 사람들이 Google 을 떠나 OpenAI 에 합류했습니다.
- "Anthropic" 연결: 그리고 그들 중 상당 부분이 OpenAI 를 떠나 Anthropic 을 시작했습니다.
- 결과: 이는 "회전문"입니다. 같은 소수의 사람들이 회사 사이를 오가며 자신의 아이디어를 가지고 이동합니다. 이는 산업이 매우 "폐쇄적"임을 의미합니다. 그들은 모두 같은 방식으로 생각하고, 같은 도구를 사용하며, 생물학자나 심리학자가 문제를 접근하는 방식과 같은 다른 사고방식을 놓치고 있습니다.
5. 우리는 무엇을 해야 하는가? (권고사항)
이 논문은 현재의 경로가 너무 좁다고 결론 내립니다. 우리는 이익을 내려고 노력하는 몇몇 회사에 모든 것을 걸고 있습니다.
- 경주만 지켜보지 마세요: 우리는 "가장 큰 모델" 경주뿐만 아니라 다양한 종류의 연구를 지원해야 합니다. AI 가 불확실성을 어떻게 이해하는지, 장기 계획을 어떻게 처리하는지, 그리고 사회에 어떻게 부합하는지 연구해야 합니다.
- AI 를 공공재로 만드세요: 우리가 공공의 물과 전기를 가지고 있듯이, AI 도 공공 자원으로 취급되어야 합니다. 이는 부자들을 위한 구독 서비스에 불과해서는 안 됩니다.
- 주권 AI: 국가들은 단일 외국 기업에 의존하지 않도록 AI 인프라 (컴퓨터, 데이터, 규칙) 에 대한 자체 통제권을 확보해야 합니다.
- 작업 확인: 우리는 AI 가 실제로 안전하고 똑똑한지 확인하기 위해 독립적인 감사인을 필요로 합니다. 단순히 회사들이 "우리를 믿으세요, 우리는 안전합니다"라고 말하는 것에 맡겨서는 안 됩니다.
요약
이 논문은 AGI 가 우리가 단순히 "발견"하는 목적이 아니라고 주장합니다. 그것은 우리가 건설하는 경로입니다. 현재 우리는 돈으로 포장되고, 몇몇 회사에 의해 통제되며, 챗봇 제작에 초점을 맞춘 경로를 건설하고 있습니다.
진정으로 지능적이고 안전하며 유용한 AI 에 도달하기 위해서는 이를 소비자 제품처럼 취급하는 것을 멈추고, 이해관계자뿐만 아니라 모두의 이익을 위해 거버넌스, 감사, 건설이 필요한 복잡한 시스템처럼 취급해야 합니다. 우리는 가장 많은 이익을 내는 유형뿐만 아니라 다양한 유형의 지능이 성장할 수 있도록 도로를 넓혀야 합니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.