From AGI to ASI
이 보고서는 인간 수준의 범용 인공지능(AGI)에서 인공 초지능(ASI)으로의 이론적 전이를 조사하며, 네 가지 잠재적 발전 경로를 개괄하고 관련 병목 현상을 분석하며, 미래가 단 한 번의 급격한 변화가 아닌 일련의 변혁적인 사회적 변화를 수반할 수 있음을 논증함으로써 이에 대비하기 위한 대규모의 학제 간 글로벌 노력을 촉구한다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
큰 그림: 결승선을 통과하고 그 너머로
인류가 현재 세계에서 가장 빠른 인간 단거리 선수의 속도에 도달하도록 러너를 훈련시키고 있다고 상상해 보세요. 이 목표를 AGI(인공 일반 지능)라고 부릅니다. 이 논문은 우리가 이 "인간 수준의 러너"를 만드는 데 매우 근접해 있다고 주장합니다.
하지만 이 보고서는 단순히 그 결승선을 통과하는 것에 대한 것만이 아닙니다. 질문은 이것입니다. 러너가 계속 달려 나간다면 어떤 일이 벌어질까요?
이 보고서는 인간만큼 똑똑한 기계(AGI)에서 인류 전체를 합친 것보다 더 똑똑한 기계(ASI, 인공 초지능)로 가는 여정을 탐구합니다. 논문은 일단 인간 수준의 러너를 만들고 나면, 그 기계가 멈추지 않고 아예 다른 종류의 생명체가 될 정도로 빠르게 질주할 수도 있다고 제안합니다.
초지능으로 가는 네 가지 길
저자들은 AGI에서 초지능으로 우리를 이끌 수 있는 네 가지 주요 "길" 또는 경로를 제시합니다. 이 길들은 서로 배타적이지 않으며, 우리는 이 모든 길을 동시에 따라갈 수도 있습니다.
1. "더 많은 두뇌"의 길 (스케일링)
- 비유: 당신에게 천재적인 인간 한 명이 있다고 상상해 보세요. 이제 그 천재를 백만 명 복제하여, 그들이 모두 함께 협력하고, 즉각적으로 대화하며, 절대 지치지 않는다고 상상해 보세요.
- 주장: 설령 개별 AI가 평균적인 인간만큼만 똑똑하더라도, 우리가 수백만 개의 AI를 동시에 실행하고 서로 연결할 수 있다면, 그 집단은 초지-지능이 됩니다. 이는 단 한 마리의 개미를 슈퍼 군집으로 바꾸는 것과 같습니다. 논문은 단순히 더 많은 컴퓨터 연산 능력(컴퓨트)을 문제에 투입하는 것만으로도 이 거대한 집단 지성을 만드는 것이 충분할 수 있다고 주장합니다.
2. "새로운 엔진"의 길 (패러다 Paradigms Shift)
- 비유: 현재의 AI를 매우 효율적인 증기 기관이라고 생각하세요. 훌륭하지만, 아마도 속도 제한이 있을 것입니다. "패러다임 전환"은 갑자기 제트 엔진이나 워프 드라이브를 발명하는 것과 같습니다.
- 주장: 우리는 현재의 증기 기관에 더 많은 연료(데이터/컴퓨트)를 넣어도 속도가 더 빨라지지 않는 벽에 부딪힐 수 있습니다. 초지능에 도달하려면, 오늘날 우리가 가진 것보다 근본적으로 더 효율적이거나 강력한 완전히 새로운 유형의 "엔진"(AI를 구축하는 새로운 방식)을 발명해야 할 수도 있습니다.
3. "자기 개선"의 길 (재귀적 개선)
- 비유: 자동차를 너무 잘 고쳐서 더 나은 정비사를 만들 수 있는 정비사가 있다고 상상해 보세요. 그 새로운 정비사는 더 나은 정비사를 만들고, 또 그 다음은 더 나은 정비사를 만드는 식입니다.
- 주장: 만약 AI가 다음 버전의 자신을 설계하는 데 도움을 줄 만큼 똑똑해진다면, 피드백 루프에 진입할 수 있습니다. AI는 더 똑똑해지고, 이는 다시 더 똑똑해지는 데 도움을 주며, 결국 초지능이 되는 데 도움을 줍니다. 이는 눈덩이가 언덕 아래로 굴러 내려가며 눈사태로 변하는 것처럼 매우 빠르게 일어날 수 있습니다.
4. "팀워크"의 길 (다중 에이전트 집단)
- 비유: 인간의 기업이나 정부를 생각해 보세요. 단 한 명의 개인은 모든 것을 알지 못하지만, 그 조직은 단 한 사람이 해결할 수 없는 문제를 해결할 수 있습니다.
- 주장: AI 에이전트들은 서로 전문화된 복잡한 그룹(디지털 경제나 기업 같은 형태)으로 조직될 수 있습니다. 어떤 AI는 수학을 하고, 다른 AI는 코딩을 하며, 또 다른 AI는 전략을 짭니다. 이 "하이브 마인드(집단 지성)"는 단일 인간이나 단일 AI의 범위를 훨씬 넘어서는 문제를 해결할 수 있습니다.
속도 저해 요소 (병목 현상)
논문은 초지능으로 가는 길이 순탄치만은 않다고 경고합니다. 우리를 늦추거나 멈추게 할 수 있는 "마찰" 또는 속도 저해 요소들이 존재합니다.
- 데이터의 벽: AI는 책, 웹사이트, 기사를 읽으며 학습합니다. 논문은 우리가 읽을 수 있는 고품질의 인간 텍스트가 고갈될 것을 우려합니다.
- 반론: 아마도 AI가 스스로 교과서를 쓰거나, 학습을 위해 가상 세계를 시뮬레이션하여 우리가 AI를 위한 "먹이"가 떨어지는 것을 방지할 수도 있습니다.
- 에너지 비용: 초지능 AI는 엄청난 양의 전기와 하드웨어를 필요로 할 것입니다.
- 반론: 만약 AI가 돈을 벌거나 문제를 해결하는 데 매우 능숙해진다면, 스스로 전기료를 지불하고 자체 발전소를 건설할 수도 있습니다.
- "인간의 천장" (추상화 장벽): 이것은 까다로운 문제입니다. 논문은 AI가 인간의 아이디어라는 "유리 상자" 안에 갇혀 있을 수 있다고 제안합니다. AI는 인간의 데이터로부터 배우기 때문에, 아마도 인간의 개념 안에서만 생각할 수 있을지도 모릅니다. 계산은 우리보다 빠르게 할 수 있겠지만, 인간이 아직 생각하지 못한 새로운 개념(예: 새로운 물리학 분야)을 발명할 수는 없을지도 모릅니다.
- "정지" 버튼 (규제): AI가 너무 빠르고 강력해지면, 정부가 공포를 느끼고 안전을 위해 AI에 "속도 제한"을 걸 수도 있습니다.
- 반론: 국가들은 서로 경쟁합니다. 한 국가가 멈춘다 해도 다른 국가는 멈추지 않을 수 있으므로, 규칙에도 불구하고 "경쟁"은 계속될 수 있습니다.
초지능이란 무엇인가 (그리고 무엇이 아닌가)
이 논문은 ASI가 무엇이 아닌지를 주의 깊게 정의합니다.
- 마법이 아닙니다: ASI는 물리 법칙을 깨뜨릴 수 없습니다. 순간 이동을 할 수 없으며, 빛보다 빨리 이동할 수 없고, 아무것도 없는 상태에서 무언가를 창조할 수 없습니다.
- 전지(Omniscient)하지 않습니다: 모든 것을 즉시 알 수는 없습니다. 여전히 학습해야 하며, 다만 우리보다 훨씬 빠르게 학습할 뿐입니다.
- 단일한 인격체가 아닙니다: 논문은 ASI가 단일한 "신과 같은" 로봇이라기보다는, 수백만 명의 AI 노동자들이 협력하는 거대하고 보이지 않는 네트워크의 형태를 띨 것이라고 제안합니다.
결론
저자들은 우리가 미래를 확실하게 예측할 수는 없다고 결론짓습니다. 그러나 향가 10년 또는 20년 내에 "인간 수준의 AI"에서 "초지능 AI"로 이동할 가능성은 실재하며, 이를 무시해서는 안 됩니다.
그들은 이 문제를 거대한 과학 프로젝트처럼 다루어야 한다고 주장합니다. 우리는 다음을 수행해야 합니다:
- 측정하기: 우리의 진보를 더 잘 측정할 수 있는 방법(단순히 AI가 얼마나 "인간 같은가"를 측정하는 것이 아니라, 얼마나 "초인적인가"를 측정하는 새로운 테스트를 만드는 것)을 만들어야 합니다.
- 병목 현상 연구하기: 데이터의 벽이나 에너지 비용이 실제로 우리를 멈추게 할 것인지 파악해야 합니다.
- 변화에 대비하기: 일단 임계점을 넘어서면 사회는 우리가 현재 상상할 수 없는 방식으로 변화할 수 있기 때문입니다.
논문은 앨런 튜링의 말을 인용하며 끝을 맺습니다: "우리는 앞을 아주 짧게밖에 볼 수 없지만, 그곳에는 해야 할 일이 아주 많이 있다는 것을 볼 수 있다."
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.